회사의 어리석음에 대해 9분 동안 떠들어 보았다

하이라이트

• 기업들은 직원들에게 AI 토큰을 최대한 많이 소비하도록 장려하는 '토큰 맥싱(Token maxing)' 전략을 도입했으나 이는 비효율적인 것으로 드러나고 있다.

• 우버는 2026년도 AI 예산을 단 4개월 만에 모두 소진하는 결과를 초래했다.

• 엔비디아 임원은 현재 인력을 고용하는 비용보다 AI 컴퓨팅 비용이 훨씬 더 높다고 밝혔다.

• AI 에이전트 기반 코딩은 짧은 세션 방식보다 훨씬 더 많은 토큰을 소모하며 2025년에 수립된 예산 계획과 현실 간의 괴리를 만들었다.

• 생성된 코드 라인 수나 토큰 소비량은 개발자의 생산성을 측정하는 적절한 지표가 아니다.

• 아마존과 메타를 포함한 주요 기업들은 AI 리더보드 운영을 줄이고 과도한 AI 예산 집행 전략에서 벗어나고 있다.

타임라인

1. 00:00 - 03:23

   토큰 맥싱의 실체와 문제점

   기업들이 AI 도구의 활용을 극대화하려는 목적으로 도입한 토큰 맥싱은 오히려 직원들에게 무분별한 프롬프트 입력을 강요한다. 개발 과정에서 AI는 보조 도구로 사용되어야 하며, 사람이 작성한 코드의 품질을 검토하고 유지보수할 능력을 유지해야 한다. AI 생성 코드의 양을 늘리는 것은 코드 베이스의 이해도를 낮추고 AI의 불완전성을 통제하지 못하게 만든다.

   • 토큰 맥싱은 기업이 직원들에게 AI 토큰 사용량을 극대화하도록 유도하는 전략이다.
   • 코드 라인 수와 마찬가지로 AI 토큰 사용량은 개발자의 생산성을 측정하는 올바른 기준이 될 수 없다.
   • 무분별한 AI 코드 생성은 인간이 검토하고 이해할 수 없는 스파게티 코드를 양산한다.
2. 03:23 - 07:36

   기업 예산 소진 사례와 현실

   2025년에 수립된 예산 계획은 2026년의 에이전트 기반 코딩 환경을 반영하지 못했다. 에이전트 코딩은 모델이 스스로 판단하고 검색하는 긴 세션을 가지므로 토큰 소모량이 급증한다. AI의 생산성이 인간을 10~15배 능가하지 않는 한, 현재의 높은 컴퓨팅 비용은 인간 인력을 대체할 경제적 타당성을 제공하지 못한다.

   • 우버는 2026년 할당된 AI 토큰 예산을 4개월 만에 모두 소진했다.
   • 2026년 급부상한 에이전트 코딩 방식은 과거보다 훨씬 더 많은 토큰을 소모한다.
   • 엔비디아 임원에 따르면 AI 사용 비용은 현재 인간 직원 고용 비용보다 높다.
3. 07:36 - 11:11

   AI 도구의 올바른 활용과 향후 전망

   선구적인 기업들은 AI를 마법 같은 만능 해결사로 보지 않고, 명확한 사양과 인간의 검토가 뒷받침되는 생산성 도구로 재정의하고 있다. AI 모델이 미래 기능 요구사항이나 코드 베이스의 뉘앙스를 파악하는 데는 한계가 있다. 기술 CEO들조차 화이트칼라 업무의 전면적인 자동화 가능성에 대해 발언 수위를 조절하고 있으며, AI는 기존 업무를 대체하기보다 새로운 업무를 확장하는 방향으로 전개될 것으로 보인다.

   • 아마존과 메타 등은 과도한 AI 예산 삭감과 토큰 맥싱 방식을 포기하는 추세다.
   • AI는 보일러플레이트 코드 생성이나 일회성 도구 제작에 유용한 도구다.
   • 기업들은 AI가 모든 직무를 대체할 것이라는 홍보성 주장 대신 점진적인 활용법을 찾고 있다.