기업들이 AI 때문에 벌이는 황당한 짓 3가지

MMaximilian Schwarzmüller
ManagementBusiness NewsComputing/Software

Transcript

00:00:00기업의 AI 활용에
00:00:02관해서라면
00:00:04현재 AI에 대한 과도한 기대감(hype) 측면에서 우리는 아마 이 지점에 와 있을 겁니다.
00:00:10아직 최고점인 정점에 도달했는지는 확실치 않지만, 분명히 매우 높은 지점에 와 있습니다.
00:00:17물론 저도 예외는 아닙니다. 저 역시 AI에 관한 콘텐츠를 많이 만들고 있으니까요.
00:00:23AI 강좌, Claude Code 강좌 등 다양한 콘텐츠를 다루고 있죠. 왜냐하면 AI는
00:00:31유용하고, 우리가 소프트웨어를 구축하는 방식을 바꾸고 있기 때문입니다.
00:00:35피할 수 없는 흐름이죠.
00:00:36제 생각을 아주 분명하게 밝혀왔던 것처럼
00:00:43코딩을 위한 AI에 대해, 개인적으로는 더 즐거웠던
00:00:47AI 이전의 코딩 방식이 좋았지만, 어쩔 수 없는 현실이기도 합니다.
00:00:52물론 여전히 직접 코드를 작성하는 것을 막는 사람은 없지만, 만약 진지하게
00:00:58개발 업무를 하거나 소프트웨어를 구축하고 있다면
00:01:01AI가 생산성을 높여줄 수 있다는 건 사실이고, 사용하지 않는 것도 타당한 선택이지만
00:01:07전문적으로 일한다면 대부분의 경우 그리 올바른 선택은 아닐 겁니다. 제 생각은 그렇습니다.
00:01:15그렇다고 해서 우리가
00:01:20AI에 대한 과도한 기대감의
00:01:24최정점에 있다는 사실은 변하지 않습니다.
00:01:27어쩌면 더 높은 수준으로 올라갈지도 모르죠. 물론 기업 내 AI 활용이라고 말할 때,
00:01:36기술적으로 모든 회사가 다 그런 건 아니라는 걸 잘 알고 있습니다.
00:01:39하지만 전 세계적으로 수많은 기업이 존재하고 AI 활용 수준은 균일하지 않습니다.
00:01:46물론 저는 주로 테크 기업, 소프트웨어 중심 기업을 염두에 두고 이야기하는 것이고요.
00:01:52하지만 기업에서의 AI 활용을 살펴보면
00:01:58몇 가지
00:02:00흥미로우면서도 우려되는 경향이 있는데, 이에 대해 논의해 볼 필요가 있습니다.
00:02:08지난 몇 주간 우리가 목격했거나
00:02:13들어온 큰 흐름 중 하나는 예를 들어
00:02:16토큰 맥싱(token maxing)입니다.
00:02:19토큰 맥싱이란 당연히 일부 기업에게 AI 사용량이 많을수록 더 좋다는 것을 의미합니다.
00:02:25그게 다입니다.
00:02:28일부 기업들은
00:02:30이미 사내 리더보드를 가지고 있거나
00:02:33소프트웨어 개발자나 직원들이
00:02:37AI를 사용하면서 얼마나 많은
00:02:39토큰을 소비하는지 추적한다고 합니다.
00:02:45음, 이건 마치 단순히 작성한 코드 라인 수로
00:02:52성과를 측정하는 것과 비슷합니다. 물론 잘못된 측정 방식이죠.
00:02:57단순히 많은 토큰을 소비하는 것이
00:03:03생산성을 측정하는 좋은 지표가 아니라는 건 굳이 말 안 해도 분명할 겁니다. 첫째로,
00:03:09조작하기가 매우 쉽습니다. 의미 없는 프롬프트를 AI에게 보내거나 무의미한
00:03:15작업을 시켜서 토큰 소비량을 극대화할 수 있기 때문이죠. 설령 그런 식의
00:03:21조작을 하지 않더라도, 어떤 개발자가 더 뛰어날까요? 문제에 대해 고민하고,
00:03:29해결책을 찾는 개발자일까요, 아니면
00:03:32AI가 준 결과나 제안을 분석하고, 코드를
00:03:38검토하는 개발자일까요? 아니면 단순히 프롬프트만 날리며
00:03:42수많은 토큰과 결과물을 만들어내는 '바이브 코더(vibe coder)'일까요? 일부 회사에선 후자를 선호할지 모르지만, 제겐 전자가 확실히 더 뛰어납니다.
00:03:51제가 생각하기에 AI의 진정한 매력은
00:03:58자신의 전문성과 AI의 장점을 결합할 때 나옵니다.
00:04:05빠르게 움직일 수 있고, 무한히 인내심 강한
00:04:10멘토를 곁에 두고 질문할 수 있으며, 두뇌를 합칠 수 있다는 것이죠.
00:04:16그래도 대부분의 상황에서는 자기 자신의 뇌를 조금 더 신뢰해야 합니다.
00:04:20네, AI로부터 장점을 얻을 수는 있지만 토큰 맥싱은 답이 아닐 겁니다. 하지만 이것도 우리가
00:04:28일부 회사에서 듣게 되는 하나의 경향입니다.
00:04:31물론 이런 사실이 공개되자 메타 같은 일부 기업은 이미 그런 리더보드나
00:04:37토큰 사용량을 늘리라는 강한 유인을 없애겠다고 발표했습니다.
00:04:43하지만 여전히 일부 기업에서는 그런 행태가 남아있는 것 같습니다. 또 다른
00:04:48지난주에 제가 점점 더 많이 본 흐름은 맥킨지 같은 기업들이
00:04:55맥킨지
00:04:56정말로
00:04:59AI 에이전트를 직원으로 밀어붙이는 경향입니다.
00:05:04그래서 맥킨지 CEO는 전체 6만 명의 직원 중
00:05:092만 5천 명은 AI 에이전트이고, 인간은 4만 명 정도라고 말했습니다.
00:05:15AI 에이전트를 노동력으로 활용하는 것은 저도 여기저기서 본 적이 있는데, 네,
00:05:22물론 그런 식으로 바라볼 수도 있겠죠.
00:05:26하지만 저는
00:05:29잘 모르겠습니다. 하나는 당장
00:05:32현재 대부분의 AI 에이전트는 특정 작업에 상당히
00:05:38특화되어 있습니다. 반면 인간은 훨씬 더
00:05:44다재다능하며 다양한 것을 배울 수 있죠.
00:05:48그래서 그런 비교가 과연 말이 되는지 모르겠습니다. 누가 생각이나 했겠어요?
00:05:55백업 스크립트를
00:05:58이미 2018년에 고용했던 직원이라고 부를 수 있을까요? 우리는 이전에도 자동화를
00:06:03했었고, 워크플로우를 가지고 있었습니다. 그러니 말이 되죠.
00:06:08분명히 우리는 자동화된 배포 프로세스, 백업 프로세스, 웹 스크래퍼, 데이터 분석 프로세스를 가지고 있습니다.
00:06:15온갖 종류의 자동화를 10년, 20년 전부터 혹은 그 이상 사용해 왔죠.
00:06:20그런데 이제 와서 AI 에이전트를 노동력의 일부라고 부르네요.
00:06:26오해하지 마세요. AI 에이전트로 유용한 일을 할 수는 있습니다.
00:06:31저는 개인적으로 오픈 클로(Open Claw) hype에 완전히 동의하지는 않습니다. 왜냐하면 저 개인적으로는
00:06:36아직 유용한
00:06:41사용 사례를 많이 찾지 못했기 때문입니다. 오픈 클로에서 제게 정말 마법 같은 유용함을 주는 사례를 발견하지 못했어요.
00:06:49하지만 저는 코딩을 위해 Claude Code나 Codecs를 사용하고 있고, 그 이상으로도 사용합니다.
00:06:55저는 '파이 에이전트(pie agent)'를 사용하고 있는데, 이건 오픈 소스인
00:07:00독립적인 AI 에이전트로, 예를 들어 ChatGPT 구독과 함께 사용할 수 있습니다.
00:07:05저는 이걸로 제 컴퓨터나 VPS에서 온갖 작업을 수행하고 로그 파일을 분석하게 합니다.
00:07:12이게 직원일까요? 잘 모르겠습니다.
00:07:16분명 유용한 도구인 건 맞습니다.
00:07:19그리고 제가 두 명의 직원을 두고 있는데 둘 다 이 에이전트를 사용한다면, 어떻게 계산해야 할지도 모르겠습니다.
00:07:25그러면 총 두 명의 추가 직원이 생긴 걸까요, 아니면 에이전트는 여전히 여러 명이 사용하는 하나의 도구일 뿐일까요?
00:07:34잘 모르겠네요. 아무튼 이런 경향도 여기저기서 보이고, 분명히 여기엔 많은 마케팅 요소가 섞여 있습니다.
00:07:41분명 AI를 잘 다루는 회사라는 소리를 듣고 싶을 테니까요.
00:07:48AI를 최대한 활용하는 최전선에 있다는 이미지를 주고 싶을 것이고, 그런 이야기는 맥킨지 같은 컨설팅 업체에게 이득이 되겠죠.
00:07:55그러니 그들의 입장은 이해합니다. 하지만 정말 이상한 경향이라고 봅니다.
00:08:03분명히 다른
00:08:05흥미로운 경향이 있는데, 토큰 맥싱과 좀 관련이 있습니다. 아마도
00:08:11의무적인 AI 사용이라고 볼 수 있겠네요. 그렇다고 무조건 많이 쓰라는 뜻은 아닙니다.
00:08:19하지만 AI 사용이 강제되는 거죠.
00:08:23종종 특정 모델이나 에이전트 사용을 강요하는 경우도 있습니다.
00:08:29그래서 최소한 일부 회사에서는 의무적인 사용과 그런 행태가 함께 나타납니다.
00:08:37어느 정도는 이해합니다. 왜냐하면
00:08:41회사로서 직원들이
00:08:47이 새로운 기술을 실험하고 어디에 유용한지 파악하게 하고 싶을 테니까요.
00:08:53제 생각엔
00:08:55꽤 많은 사람들이
00:08:57몇 달 전 무료 버전 ChatGPT를 한두 번 써본 정도일 것 같습니다.
00:09:04여기저기서 써보긴 했어도 별로 인상적이지 않다고 느꼈겠죠.
00:09:10특히 테크 버블에 있지 않은 일반 사람들 사이에서는
00:09:17최신 모델을 주기적으로 사용하지 않는 비율이 매우 높을 겁니다.
00:09:24그래서 회사들이 직원들에게 적극적으로 AI를 써보라고 독려하는 이유는 이해가 갑니다.
00:09:30일상 업무에서 시도해 보고 직접 경험해 보라는 거죠.
00:09:35물론 더 뛰어난 모델에 접근할 수 있게 해준다면 더 좋겠죠.
00:09:43만약 제가 2년 전 AI 모델을 쓰라고 강요한다면, 별다른
00:09:48성능을 내지 못하는 환경에서 그건 아무 의미가 없을 겁니다.
00:09:53그건 참 무의미하겠죠.
00:09:55하지만 회사가 직원들에게 AI를 가지고 놀아보라고 하는 마음은 이해합니다. 하지만 당연히,
00:10:03일부 회사는 너무 지나치게 밀어붙이고 있습니다.
00:10:08모든 것을 AI로 하라고 강요하는 건 의미가 없다고 생각합니다.
00:10:13어떤 업무는 AI로 할 수 없거나, AI로 하는 것보다 나을 수 없다는 직원들의 말을 신뢰하려고 노력해야 합니다.
00:10:20물론,
00:10:24회사는 직원이 정말 AI를 활용하고 있는지 의심할 수도 있겠고, 새로운 기술에 대한 거부감을 갖는 것도 쉽죠.
00:10:32많은 사람이 두려워하는 건 당연합니다. 다리오 아모데이(Dario Amodei)가 매주
00:10:40토크쇼나 인터뷰에 나와서 화이트칼라 노동자의 대다수가
00:10:45일자리를 잃을 거라고 말하는데 두렵지 않겠습니까? 많은 사람이 두려워하니 AI에 대한 거부 반응이 나오는 것도 당연합니다.
00:10:53하지만 다른 에피소드에서도 말했듯이, 저는 굳게 믿습니다.
00:10:57이 새로운 기술을 다루는 유일한 방법은
00:11:01과거의 모든 새로운 기술과 마찬가지로,
00:11:07적극적으로 수용하고 최대한 활용하려고 노력하는 것입니다. 무조건 맹신하라는 뜻은 아닙니다.
00:11:13모든 일에 AI를 쓰라는 뜻도 아니고요.
00:11:16하지만
00:11:19어디에 도움이 될 수 있을지 진지하게 시도해 보고, 한계를 시험해 봐야 합니다. 특히 AI는
00:11:25모든 것이 항상 너무 빠르게 변하니까요.
00:11:28정기적으로 재평가해야 합니다.
00:11:32몇 달마다 계속해서 말이죠. 왜냐하면 상황이 변하고 모델이 변하기 때문입니다. 더 중요한 건,
00:11:38다른 에피소드에서도 말했지만, 더 중요한 건 모델을 둘러싼 harness(도구)들이 진화한다는 것입니다.
00:11:46에이전트, 그 에이전트적 harness 역시 진화하고 있습니다. 그렇기 때문에
00:11:54몇 달 전에는 불가능했던 일을 오늘날 AI로 할 수 있을 가능성이 충분히 있습니다.
00:12:00그래서 이해는 하지만, 분명 일부 회사는 이 흐름을 너무 지나치게 밀어붙이고 있습니다.
00:12:06AI로 작동하지 않거나 AI 없이 하는 게 훨씬 효율적인 업무까지 강제로 AI를 쓰게 하는 것은
00:12:14분명
00:12:16목표를 너무 벗어난 것이죠.
00:12:18직원들에게 AI 활용을 장려하는 것을 넘어선 행동이지만, 지금 현실이 이렇습니다.
00:12:24지금 우리가 처한 기묘한 상태죠. 저는 과거의 기술 혁명 때
00:12:30직접 참여했던 적이 별로 없습니다.
00:12:33인터넷이 대중적으로 도입될 때 제가 살아있긴 했지만,
00:12:40그때는 아이였기 때문에 노동력의 일부로서 참여한 건 아니었죠.
00:12:48이런 전환이나 진화가 일어날 때마다 상황이 거칠고 이상하게 돌아가는 건 매우 자연스러운 일일 겁니다.
00:12:55물론 AI의 경우는
00:12:58변화 속도가 너무 빠르기 때문에 특히나 더 거칠게 느껴질 겁니다.
00:13:03너무 빠르게 변하고 작동 방식도 그런데다 다리오 같은 사람이 항상 겁을 주니까
00:13:10무섭기도 하죠. 그래서,
00:13:14이 모든 것이 합쳐져서 상황이 매우 이상하게 돌아가는 것도 충분히 이해가 갑니다.
00:13:20그리고 다시 말하지만,
00:13:22제게는
00:13:24분명히 AI 이전의 코딩이 더 즐거웠습니다. 하지만 현실은 이렇고,
00:13:31현재 많은 회사가 이런 상태입니다. 우리가 계속 이렇게 갈지, 아니면 더
00:13:40의미 있고 합리적인 길을 찾아서, 단순히 AI만 많이 쓰는 게 아니라
00:13:47AI를 진짜 잘 활용하는
00:13:49방향으로 나아갈 수 있을지 두고 봐야겠죠.

Key Takeaway

기업들은 토큰 사용량 중심의 성과 측정이나 무분별한 AI 에이전트 도입과 같은 비합리적인 관행에서 벗어나, 기술의 실질적 효용성을 중심으로 하는 전략적 AI 활용으로 나아가야 한다.

Highlights

기업들은 직원들의 AI 토큰 사용량을 추적하여 성과를 측정하는 '토큰 맥싱'이라는 잘못된 지표를 도입하고 있다.

일부 기업은 6만 명의 직원 중 2만 5천 명을 AI 에이전트로 분류하며 인력 구성에 AI를 포함시키는 방식을 채택하고 있다.

단순히 AI 프롬프트를 많이 날리는 '바이브 코더'보다는 AI를 자신의 전문성과 결합해 검토하고 분석하는 개발자가 더 높은 가치를 지닌다.

많은 기업이 직원들에게 의무적인 AI 사용을 강요하지만, 이는 업무 효율성을 저해하거나 무의미한 작업을 강제하는 결과를 초래하기도 한다.

빠르게 변화하는 AI 기술의 특성상 정기적인 기술 재평가와 실제 업무 적합성에 대한 판단이 필수적이다.

Timeline

기업 내 AI 활용의 과도기적 현상

  • AI 기술은 소프트웨어 개발 방식을 근본적으로 바꾸고 있어 전문가라면 이를 수용하는 것이 올바른 선택이다.
  • 현재 기업들의 AI 도입 수준은 균일하지 않으며, 전반적으로 AI에 대한 과도한 기대감(hype)이 정점에 달해 있다.

AI는 피할 수 없는 흐름으로 자리 잡았으며, 특히 전문적인 소프트웨어 개발 분야에서 생산성 향상을 위한 필수적인 도구가 되었다. 그럼에도 불구하고 기업별로 AI를 활용하는 방식과 이해도는 천차만별이며, 현재 시장은 AI의 잠재력에 대해 매우 높은 기대감을 형성하고 있다.

비합리적인 성과 지표와 토큰 맥싱

  • 일부 기업은 직원들의 AI 토큰 소비량을 추적해 성과를 측정하는 토큰 맥싱을 시행하고 있다.
  • 토큰 소비량은 생산성을 측정하는 좋은 지표가 아니며, 의미 없는 작업으로 쉽게 조작될 수 있다.
  • 단순히 AI 결과물을 대량 생산하는 것보다 AI 제안을 분석하고 검토하는 역량이 더 중요하다.

작성된 코드 라인 수로 성과를 측정하던 과거의 오류가 AI 시대에는 토큰 소비량 측정으로 이어졌다. 이는 실제 개발 역량과 무관한 지표일 뿐만 아니라, 개발자가 무의미한 프롬프트를 입력해 수치를 조작할 위험이 크다. 전문성은 AI의 결과를 비판적으로 검토하고 자신의 판단을 결합할 때 발현된다.

AI 에이전트의 인력 편입과 자동화

  • 맥킨지 같은 일부 컨설팅 기업은 AI 에이전트를 실제 직원 수에 포함하는 인력 활용 방식을 제시했다.
  • 기존의 자동화된 워크플로우를 AI 에이전트라는 명칭으로 부르는 것은 상당 부분 마케팅적 요소가 강하다.

기업들이 AI 에이전트를 노동력의 일부로 재정의하는 움직임이 나타나고 있으나, 이는 기존의 자동화 프로세스나 스크립트 활용과 근본적인 차이를 구분하기 어렵다. 기술 기업으로서의 이미지를 구축하기 위한 마케팅 전략이 이러한 명명 방식에 섞여 있다.

의무적 AI 사용의 명암

  • 기업이 직원들에게 AI 사용을 독려하는 것은 새로운 기술의 유용성을 직접 파악하게 하려는 목적이 있다.
  • 모든 업무에 AI를 강제로 적용하는 것은 비효율적이며, 직원들의 판단을 존중하는 것이 필요하다.
  • AI 기술과 주변 도구들이 빠르게 진화하기 때문에 몇 달 주기로 기술의 적합성을 재평가해야 한다.

직원들이 최신 모델을 일상 업무에 적용해 보게 하려는 회사의 의도는 긍정적이지만, AI가 적합하지 않은 업무까지 강제로 추진하는 것은 목표를 벗어난 행동이다. AI 기술은 모델뿐만 아니라 에이전트 등 주변 환경이 지속적으로 진화하므로, 경직된 강제보다는 유연하고 주기적인 재평가 전략이 중요하다.

Community Posts

View all posts