회사의 어리석음에 대해 9분 동안 떠들어 보았다

한국어العربيةDeutschEnglishEspañolFrançaisहिन्दीBahasa Indonesia日本語PortuguêsРусский中文
MMaximilian Schwarzmüller
컴퓨터/소프트웨어경제 뉴스경영/리더십

Transcript

00:00:00지난 몇 주, 몇 달 동안 우리가 목격한 가장 어리석은 트렌드 중 하나에 대해 이야기해 봅시다.
00:00:05이미 끝물인 것 같네요. 전혀 말이 안 되는 트렌드였으니 당연한 일이죠.
00:00:12바로 '토큰 맥싱(Token maxing)'입니다. 혹시 모르시는 분들을 위해 설명하자면, 이는 단순히 사용하거나
00:00:18혹은 낭비한다고도 할 수 있는데, 매달, 매년, 또는 측정하는 기간마다 가능한 한 많은 AI 토큰을
00:00:24태우는 것을 의미합니다. 기업 관점에서의 아이디어인데, 왜냐하면 이 용어 자체가
00:00:30엔터프라이즈 세계에서 나왔기 때문입니다. 핵심은 직원들이 가능한 한 많은
00:00:37AI 토큰을 사용하도록 장려하는 것입니다. 예를 들어 Cloud Code 같은 도구를 통해서 말이죠. 참고로 Cloud Code는 유용한 도구입니다.
00:00:44Codex나 다른 도구들과 마찬가지로요. 이런 도구들을 통해 업무를 처리할 수 있죠. 저는 Cloud Code와
00:00:50Codex에 대한 강의도 운영하고 있으니 더 알고 싶으시면 확인해 보세요. 아주 심도 있게 팁과 노하우를 다룹니다.
00:00:54하지만 여기서 말하는 아이디어는 가능한 한 많은 토큰을 태우거나 사용하라는 겁니다. 왜냐하면
00:01:00그래야 훌륭한 결과물이 나올 것이라고 생각하니까요. 아니죠. 말씀드렸듯 이런 도구들은 유용합니다. 개발자로서
00:01:09이런 도구들을 다룰 줄 알아야 한다고 믿습니다. 하지만 보조 도구로 사용해야 합니다. 토큰 맥싱 이면의
00:01:16의도, 토큰 맥싱을 하게끔 만드는 유인책은 분명히 그냥 토큰을 낭비하라는 것이고,
00:01:23아무 생각 없이 토큰을 쓰게 만들고, 계속해서 프롬프트를 날리게 하고, 결과물을
00:01:29최대한 확인하지 않게 만드는 것입니다. 물론 확인하면 더 많이 프롬프트를 날리지 못할 테니까요.
00:01:36회사 내부에 리더보드를 만들어 토큰을 가장 많이 쓴 사람들을
00:01:42상위에 올리고 보상을 준다는 이야기도 들었습니다. 당연히 말도 안 되는 소리입니다. 그리고 물론,
00:01:50제가 여기서 이야기하는 건 주로 개발 분야에서 사용되는 AI에 대한 것입니다. 제가 그쪽 출신이니까요. 하지만
00:01:57어떤 맥락에서든 이런 방식은 말이 안 됩니다. 특히 AI를 사용해
00:02:03코드를 작성하거나 생성할 때는 그 코드를 이해하고 검토해야 합니다. 무작정 코드를
00:02:11많이 뱉어내는 게 중요한 게 아닙니다. 원래부터 그랬어요. AI가 나오기 전에도, 개발자의 생산성을
00:02:20그날 작성한 코드 라인 수로 측정하는 건 좋은 방법이 아니었습니다. AI 시대라고 다를 건 없죠. 품질이
00:02:27중요합니다. 요즘 모든 회사가 동의하지는 않는 것 같지만, 사실입니다.
00:02:35결국 AI가 생성한 스파게티 코드의 굴레에 빠져서
00:02:43무슨 일이 벌어지는지 완전히 파악하지 못하게 되고, 그 코드가 무엇을 위한 것인지 이해하지 못해서
00:02:50결국 너무 방대해져서 수동으로 코드를 분석할 능력조차 잃게 된다면,
00:02:55그땐 정말 망한 겁니다. 왜냐하면 우리 모두 알다시피 AI는 완벽함과는 거리가 멀기 때문이죠. 그래서 당연히,
00:03:03우리는 AI를 효율적으로 사용하고 좋은 결과를 얻기 위해 인간의 손길, 즉 인간의 통제가 필요합니다.
00:03:11그래서 제가 모든 영상에서 말해왔고, 여전히 굳게 믿는 것이지만 AI는 유용한
00:03:17도구일 뿐입니다. 일부 회사들이 그토록 바란다고 해서 개발자를 대체할 수 있는 것은 아닙니다.
00:03:23결국 토큰 맥싱 이면의 전체적인 아이디어는, 회사 측의 바람으로는,
00:03:30직원들이 AI를 아주 많이 사용하게 만들어서
00:03:37놀라운 결과물을 많이 만들어내게 하고, 언젠가 회사 측에서 '좋아, 이제
00:03:42직원들이 이만큼 필요 없겠군' 혹은 '직원을 줄여도 되겠군'이라고 말하려는 것이죠. 하지만 결과는 잘
00:03:49나오지 않고 있습니다. 우버에 대한 보고서가 있는데, 예를 들어 최근 몇 주 동안 X에서 아주 유명해졌죠.
00:03:57우버 COO와 아마 CTO도 언급했었는데, 결국 그들이 2026년 AI 예산을
00:04:054개월 만에 다 써버렸다는 겁니다. 그들은 지불하거나 사용하기로 계획한 토큰 예산이 있었는데,
00:04:14그걸 몇 달 만에 다 태워버린 거죠. 이제 물론, 제 생각에 중요한 점은,
00:04:20예산이 아마도 2025년에 책정되었을 가능성이 크다는 것입니다. 혹은 2025년 말이나 2026년 초에
00:04:29말이죠. 그리고 2026년 초에 에이전트 코딩(agentic coding)이 급부상했습니다. 그래서 그런 일이 일어난 거죠. 그리고 그건,
00:04:40오푸스 4.5 같은 특정 모델이나 GPT 5.4, 혹은 그 이전의 Codex 같은 도구들이 정말
00:04:50좋아졌거나, 특히 작년 말부터 지시 사항을 따르는 능력이 좋아졌기 때문입니다. 그리고 나서
00:04:55Cloud Code나 Codex 같은 도구들이 좋아졌고, 제가 언급한 강의들도 그렇고 도구와
00:05:00강의 모두 훌륭했는데, 그런 도구들이 모델을 정말 효율적으로 사용했습니다. 물론 다른
00:05:05놀라운 코딩 에이전트인 Pi 같은 도구들도 마찬가지고요. 그런 도구들의 조합이 더 많은
00:05:12사용을 유도했습니다. 하지만 우리가 지금 이야기하는 건 에이전트 코딩이니까요, 이런 도구들이,
00:05:18모델이 스스로 생각하고 도구를 호출하고, 검색을 수행하고 검색 결과를
00:05:25분석하는 방식이죠. 이건 작년에 기업들이 AI를 사용하던 방식보다 훨씬 더 많은 토큰을 소모합니다.
00:05:35작년에는 짧은 세션이었고, 지금처럼 오래 실행되는 에이전트 세션은 많지 않았으니까요. 당연히, 세션이 길게 실행될수록,
00:05:40토큰을 더 많이 태우게 됩니다. 그래서 2025년에 했던 계산은 2026년에 강화된
00:05:47에이전트 코딩 모델과 주변 도구들이 AI를 사용하는 방식과 현실과는 아무 관련이 없게 된 것입니다.
00:05:55어쨌든 우버는 예산을 다 써버렸습니다. 만약 그들이 놀라운 결과를 얻고 있었다면,
00:06:02분명히 예산을 늘렸을 텐데, 그런 것 같지는 않네요. 엔비디아의 임원도
00:06:10컴퓨팅 비용이 직원 비용보다 훨씬 비싸다고 말했습니다. 그래서 현재는 사람을 고용하는 것보다
00:06:18AI를 사용하는 게 더 비싼 상황입니다. 물론, AI가 인간 직원보다 10배 더 생산적이라면
00:06:25상관없다고 말할 수도 있겠죠. 10배나 8배 비싸도 괜찮지 않을까요? 아마도 15배
00:06:31비싸도 괜찮을지도 모릅니다. AI는 더 발전할 수 있으니까요. 반면에 인간의
00:06:39생산성도 증가할 수 있겠지만, AI만큼 급격하게 늘지는 않겠죠.
00:06:45하지만 우리는 아직 10배, 15배 같은 수치와는 거리가 멉니다. 다시 말하지만, 생성된 코드 라인 수는
00:06:54좋은 측정 지표가 아니기 때문입니다. 우리는 인간 직원의 경험, 그들의 공감 능력,
00:07:01코드 베이스에 대한 이해, 다른 부서와의 연결성, 회사를 구성하는
00:07:08그 모든 뉘앙스가 필요합니다. 당연히 사람에게 주어지는 신뢰도 마찬가지고요. 그리고 물론,
00:07:15무엇이 좋은 코드 베이스를 만드는지, 앞으로 코드 베이스에 무엇이 필요한지,
00:07:21어떤 미래 기능이 요구될지에 대한 깊은 이해가 필요합니다. AI 모델이 당연히 놓치고 있는 것들이죠. 그래서 AI 모델의
00:07:29생산성을 인간의 생산성과 비교하는 것은 정말 다양한 각도에서 너무 어리석은 짓입니다.
00:07:36그리고 선구적인 기업들은 그걸 깨닫고 있습니다. 그래서 지금 이 토큰 맥싱이
00:07:43끝나가는 겁니다. 아마존, 메타 등 더 많은 기업이
00:07:48AI 리더보드를 줄이고 AI 예산을 삭감하거나 토큰
00:07:54맥싱 접근 방식을 버리고 있다는 것을 읽을 수 있습니다. 저는 진심으로, 비록 모르겠지만, 곧 이런 상황이
00:08:02조금 더 안정되는 시대가 오기를 바랍니다. AI는 계속 존재할 것이고 유용합니다. 아주 유용한 도구죠.
00:08:09생산성을 높여줄 수 있습니다. 추가적인 연구를 할 때 아주 좋고, 그
00:08:15보일러플레이트 코드나 비 보일러플레이트 코드를 만드는 데도 아주 좋습니다. 하지만 명확하게 정의된 사양에 기반하고 인간의
00:08:22검토가 이루어지며, 이상적으로는 최소한 인간에 의해 형성되고 미세 조정된 코드 베이스에 기반할 때 AI는
00:08:30정말 유용할 수 있습니다. 그리고 무언가 그냥 당장 처리해야 할 작은 도구가 필요할 때,
00:08:38세상에 공개할 계획도 없고, 버그도 크게 신경 쓰지 않으며,
00:08:43많은 기능을 추가할 것도 아니고, 유지 보수할 필요도 없는 경우, AI를 이용한 코딩에도 아주 좋을 수 있습니다.
00:08:48이런 일회성 도구를 만드는 데도 정말 좋습니다. AI에 대한 정말 좋은 사용 사례들이 많고
00:08:55AI는 이미 우리 곁에 있는 기술이며 앞으로 계속 존재하고 더 나아질 것입니다. 그리고 아무도
00:09:0010년 뒤에 무슨 일이 일어날지는 모릅니다. 하지만 지금 당장은, 상황이 좀 더 안정되기를 바라며
00:09:07AI를 있는 그대로 사용했으면 합니다. 유용한 도구일 뿐, 모든 것을 바꿔놓고
00:09:15모든 직업을 없애고 12개월 내에 모든 직원과 모든 인류를 대체할
00:09:20마법 같은 것이 아닙니다. 홍보 때문이겠지만, 우리들의 사랑하는
00:09:28기술 CEO들인 샘 알트먼과 특히 다리오 아모데이조차 AI가
00:09:36곧 거의 모든 화이트칼라 업무를 대체할 것이라는 꽤 강력한 발언에 대해 물러서는 모양새입니다. 샘 알트먼은
00:09:45한 인터뷰에서 AI의 경제적 영향에 대해 자신이 꽤 틀렸었다고 말했죠. 그리고 앤스로픽 CEO 다리오 아모데이도,
00:09:52얼마 전까지 화이트칼라 업무의 대부분이 비교적 곧 AI로 대체될 것이라고
00:09:59말했었는데, 이제는 자동화가 오히려 사람들이 하는 일을 확장할 수 있다고 말합니다. 아마도
00:10:06그들의 홍보 부서가 그들에게 말했기 때문이겠죠. 자신들의 도구가 얼마나 많은
00:10:13직원을 대체할 수 있는지 자랑하는 건 기업들에게 도구를 파는 데는 좋지만, 전 세계가 그들에게
00:10:21등을 돌리면 별로 좋지 않다는 것을요. 저는 그들의 이전 발언에도 별로 신경 쓰지 않았고,
00:10:28발언을 뒤집은 지금도 마찬가지입니다. 저는 가까운 미래에 AI가 모든 화이트칼라 업무를 대체할 리는 없다고 항상 확신해 왔습니다.
00:10:37오히려 AI가 더 많은 일을 만들어낼 것이라고 확신합니다. 모든 기술적
00:10:43돌파구가 그랬던 것처럼요. 그리고 항상 그랬듯이, 미래의 역할이 어떻게 보일지는 우리도 모릅니다. 하지만 코딩을
00:10:48보면, 우리는 진지한 제품을 위해 AI가 모든 코드를 작성하게 두고
00:10:56전혀 신경 쓰지 않는 수준과는 거리가 멉니다. 적어도 저는 절대 그렇게 하지 않을 것이고,
00:11:03그렇게 하는 회사는 큰 실수를 하는 것이라고 생각합니다. 하지만 기업들도 이제는 조금씩
00:11:11AI를 모든 것을 해결해 주는 마법이 아닌, 아주 훌륭한 도구로 활용하는 법을 깨닫기 시작한 것 같습니다.

Key Takeaway

기업들은 AI를 모든 문제를 해결하는 마법으로 취급하며 토큰 소모를 극대화하는 '토큰 맥싱' 전략을 추진했으나, 비용 대비 낮은 생산성과 관리 역량 부재로 인해 이를 폐기하고 인간의 통제가 결합된 도구 활용 방식으로 전환하고 있다.

Highlights

  • 기업들은 직원들에게 AI 토큰을 최대한 많이 소비하도록 장려하는 '토큰 맥싱(Token maxing)' 전략을 도입했으나 이는 비효율적인 것으로 드러나고 있다.

  • 우버는 2026년도 AI 예산을 단 4개월 만에 모두 소진하는 결과를 초래했다.

  • 엔비디아 임원은 현재 인력을 고용하는 비용보다 AI 컴퓨팅 비용이 훨씬 더 높다고 밝혔다.

  • AI 에이전트 기반 코딩은 짧은 세션 방식보다 훨씬 더 많은 토큰을 소모하며 2025년에 수립된 예산 계획과 현실 간의 괴리를 만들었다.

  • 생성된 코드 라인 수나 토큰 소비량은 개발자의 생산성을 측정하는 적절한 지표가 아니다.

  • 아마존과 메타를 포함한 주요 기업들은 AI 리더보드 운영을 줄이고 과도한 AI 예산 집행 전략에서 벗어나고 있다.

Timeline

토큰 맥싱의 실체와 문제점

  • 토큰 맥싱은 기업이 직원들에게 AI 토큰 사용량을 극대화하도록 유도하는 전략이다.
  • 코드 라인 수와 마찬가지로 AI 토큰 사용량은 개발자의 생산성을 측정하는 올바른 기준이 될 수 없다.
  • 무분별한 AI 코드 생성은 인간이 검토하고 이해할 수 없는 스파게티 코드를 양산한다.

기업들이 AI 도구의 활용을 극대화하려는 목적으로 도입한 토큰 맥싱은 오히려 직원들에게 무분별한 프롬프트 입력을 강요한다. 개발 과정에서 AI는 보조 도구로 사용되어야 하며, 사람이 작성한 코드의 품질을 검토하고 유지보수할 능력을 유지해야 한다. AI 생성 코드의 양을 늘리는 것은 코드 베이스의 이해도를 낮추고 AI의 불완전성을 통제하지 못하게 만든다.

기업 예산 소진 사례와 현실

  • 우버는 2026년 할당된 AI 토큰 예산을 4개월 만에 모두 소진했다.
  • 2026년 급부상한 에이전트 코딩 방식은 과거보다 훨씬 더 많은 토큰을 소모한다.
  • 엔비디아 임원에 따르면 AI 사용 비용은 현재 인간 직원 고용 비용보다 높다.

2025년에 수립된 예산 계획은 2026년의 에이전트 기반 코딩 환경을 반영하지 못했다. 에이전트 코딩은 모델이 스스로 판단하고 검색하는 긴 세션을 가지므로 토큰 소모량이 급증한다. AI의 생산성이 인간을 10~15배 능가하지 않는 한, 현재의 높은 컴퓨팅 비용은 인간 인력을 대체할 경제적 타당성을 제공하지 못한다.

AI 도구의 올바른 활용과 향후 전망

  • 아마존과 메타 등은 과도한 AI 예산 삭감과 토큰 맥싱 방식을 포기하는 추세다.
  • AI는 보일러플레이트 코드 생성이나 일회성 도구 제작에 유용한 도구다.
  • 기업들은 AI가 모든 직무를 대체할 것이라는 홍보성 주장 대신 점진적인 활용법을 찾고 있다.

선구적인 기업들은 AI를 마법 같은 만능 해결사로 보지 않고, 명확한 사양과 인간의 검토가 뒷받침되는 생산성 도구로 재정의하고 있다. AI 모델이 미래 기능 요구사항이나 코드 베이스의 뉘앙스를 파악하는 데는 한계가 있다. 기술 CEO들조차 화이트칼라 업무의 전면적인 자동화 가능성에 대해 발언 수위를 조절하고 있으며, AI는 기존 업무를 대체하기보다 새로운 업무를 확장하는 방향으로 전개될 것으로 보인다.

Community Posts

No posts yet. Be the first to write about this video!

Write about this video