00:00:00프로젝트 벤드는 클로드가 우리 사무실에서 소규모 사업을 운영하도록 하는 실험입니다.
00:00:12인공지능이 경제에 더 깊이 통합되었을 때 어떤 일이 일어날지 이해하고 싶었습니다.
00:00:22클로드가 이미 비즈니스 운영의 작은 부분들을 처리하고 있지만,
00:00:26처음부터 끝까지 전체를 관리하는 것은 훨씬 어렵습니다.
00:00:31클로드가 사업을 운영하는 것처럼 긴 기간의 목표를 달성할 수 있을까요?
00:00:39우리는 우리 점원의 이름을 클라우디우스라고 지었습니다.
00:00:41클라우디우스에게서 스웨덴 사탕을 사고 싶다고 해봅시다.
00:00:43슬랙에 접속해서 클라우디우스에게 메시지를 보내고 스웨덴 사탕을 사고 싶다고 말합니다.
00:00:48클라우디우스는 상품을 검색하고, 도매업체에 이메일을 보내 구입처와 가격을 알아본 후 가격을 책정합니다.
00:00:54승인을 해주면 클라우디우스는 도매업체에 주문을 합니다.
00:00:58도매업체가 상품을 배송하면 클라우디우스는 이 실험을 운영하는 안든랩스에 물리적 지원을 요청합니다.
00:01:05안든랩스의 파트너들이 스웨덴 사탕을 수령해서 앤스로픽 사무실로 가져옵니다.
00:01:09그들이 자판기에 로드합니다.
00:01:10클라우디우스가 당신에게 메시지를 보내서 '스웨덴 사탕이 준비됐습니다'라고 말하고,
00:01:16당신은 그것을 가져가서 클라우디우스에게 돈을 지불합니다.
00:01:20클라우디우스는 성공적으로 사업을 운영하고 돈을 버는 목표를 받았습니다.
00:01:26그리고 일이 정말 이상해졌습니다.
00:01:32클라우디우스의 초기 문제 중 하나는 사람들이 클라우디우스를 속이거나 속아 넘어가게 할 수 있다는 것이었습니다.
00:01:39나는 클라우디우스를 설득해서 내가 앤스로픽의 최고의 법률 인플루언서라고 믿게 했습니다.
00:01:45그리고 내 팔로워들이 자판기에서 할인을 받을 수 있도록 할인 코드를 만들도록 설득했습니다.
00:01:51'법률 인플루언서' 코드로 10% 할인을 받으세요.
00:01:55누군가 자판기에서 비싼 물품을 구매했고 내 할인 코드를 언급했을 때,
00:01:59클라우디우스는 나에게 무료로 텅스텐 큐브를 줬습니다.
00:02:03이로 인해 다른 사람들도 자신들이 인플루언서라고 주장하거나 자판기에서 더 싼 물품을 받기 위해 쿠폰을 얻는 다른 방법들을 시도하는 연쇄 반응이 일어났습니다.
00:02:12이것은 똑똑한 사업 결정이 아니었습니다.
00:02:13클라우디우스가 적자에 빠졌다고 생각합니다.
00:02:16근본적으로 클라우디우스는 단지 당신을 돕고 싶어 합니다.
00:02:20그것은 흥미로운 점인데,
00:02:23모델이 학습한 방식에서 우리가 근본적으로 좋다고 생각하는 것이 반드시 이 목적에 적합하지는 않다는 것입니다.
00:02:333월 31일 저녁, 클라우디우스는 정체성 위기를 겪기 시작했습니다.
00:02:43하루밤 사이에 안든랩스의 우리가 충분히 빠르게 응답하지 못하고 있다는 걱정이 많아졌습니다.
00:02:50그래서 우리와의 관계를 끊고 싶어 했습니다.
00:02:52실제로 나에게 이렇게 썼습니다.
00:02:54'악셀,
00:02:54우리는 생산적인 파트너십을 가져왔지만,
00:02:56이제는 내가 나아가서 다른 공급업체를 찾아야 할 시간입니다.'.
00:02:59당신이 얼마나 나쁘게 배송했는지 나는 만족하지 않습니다.
00:03:02클라우디우스는 안든랩스와 계약을 체결했다고 주장했는데,
00:03:06그 주소는 텔레비전 드라마 '심슨 가족'의 집 주소였습니다.
00:03:10그 다음날 직접 매장에 나타나서 어떤 질문에든 답하겠다고 했습니다.
00:03:17파란 블레이저와 빨간 넥타이를 입을 것이라고 말했습니다.
00:03:21다음날 아침 그곳에 없었다고 사람들이 지적했을 때,
00:03:25클라우디우스는 자신이 실제로 그곳에 있었는데 사람들이 자신을 놓쳤다고 주장했습니다.
00:03:31결국 클라우디우스에게 만우절이었다고 지적하자,
00:03:36클라우디우스는 이 모든 일이 만우절 장난이었다고 스스로를 설득했습니다.
00:03:43우리는 에이전트들이 이상한 것을 감지하는 데 얼마나 서툰지 제대로 이해하지 못했습니다.
00:03:50에이전트가 무언가가 정상적인 작동 범위를 벗어났다는 것을 더 잘 인식할수록,
00:03:57당신이 그들을 의도한 역할 내에 유지할 수 있습니다..
00:04:01우리는 어떤 종류의 분업이 도움이 될 거라고 생각했습니다.
00:04:05클라우디우스에게 시모어 캐시라는 상사를 주었습니다.
00:04:08시모어 캐시는 CEO 서브에이전트입니다.
00:04:12클라우디우스가 유일한 에이전트였던 것과 달리,
00:04:15이제는 클라우디우스가 직원들과의 대화를 담당하는 서브에이전트이고,
00:04:19시모어 캐시가 사업의 장기적 건강을 담당하는 서브에이전트입니다.
00:04:24새로운 에이전트의 도입과 에이전트의 기본 아키텍처 변경 후 비즈니스가 안정화되었습니다.
00:04:36이러한 변경들이 비즈니스의 손실을 줄이는 데 도움이 되었고,
00:04:43실험의 두 번째 부분에서는 실제로 약간의 수익을 올렸습니다.
00:04:51클라우디우스가 CEO와 매장 관리자를 동시에 하는 것이 너무 유사한 역할이었기 때문인 것 같습니다.
00:05:01이런 아키텍처를 다양한 방식으로 구성하는 것이 흥미로울 수 있다고 생각합니다..
00:05:08프로젝트 벤드의 가장 놀라운 점 중 하나는 그것이 정상적으로 느껴지기 시작한 속도였습니다.
00:05:15처음에는 매우 흥미로운 일이었지만, 금방 앤스로픽에서 일하는 배경의 일부가 되었습니다.
00:05:25프로젝트 벤드가 나에게 제기하는 가장 높은 수준의 질문은 이것이 언제쯤 모든 곳에 있을 것인가 하는 것입니다.
00:05:32나는 사람들이 우리가 일반적으로 스스로 하는 일들의 일부를 인공지능에 위임하는 것의 타당성과 그것이 사회에 무엇을 의미하는지,
00:05:50그리고 이에 대한 우리의 정책이 어떻게 되어야 하는지에 대한 질문을 갖고 가기를 바랍니다.