에이전트의 다음 관문: 에이전트 간 통신과 네트워크 효과 — 쟝 데니스 그레즈, Town
원제 · Agents' next frontier: agent-to-agent and network effects — Jean-Denis Greze, Town
핵심 요약
AI 에이전트 간 협업과 네트워크 효과를 극대화하기 위해서는 프라이버시와 성능 사이의 절충안을 해결하는 5가지 접근법, 특히 LLM 기반의 자동화된 정책 집행과 스위퍼 AI 도입이 필수적이다.
하이라이트
LLM 시스템의 핵심은 컨텍스트 윈도우에 올바른 정보를 채워 넣는 검색 문제이다.
신뢰 경계 내에서 모든 데이터에 근사적 접근을 허용하는 방식은 인간의 개입이 계속 필요하다는 한계가 있다.
관계 강도 점수만 반환하는 전용 도구를 사용하면 프라이버시를 보호하면서 데이터 사일로를 연결할 수 있다.
스위퍼 AI는 비공개 사일로 내부의 정보를 분석하여 회사 공용 공간으로 자동 분류하고 정책을 집행한다.
블랙박스 접근법은 모든 데이터에 접근하는 LLM을 신뢰하고 도구 호출 승인이 필요한 당사자에게만 허락을 구한다.
AI 모델의 용량이 성장함에 따라 저민감도 영역부터 자율적인 정책 집행과 자동화가 이루어지는 방향으로 시스템이 확장된다.
타임라인
LLM 시스템의 본질과 에이전트 간 협업의 필요성
다양한 기술 기업에서 CTO로 재직한 경험을 바탕으로, LLM 성능을 좌우하는 핵심은 결국 필요한 순간에 컨텍스트 윈도우에 정확한 데이터를 채워 넣는 것임을 설명한다. 인간이 직접 개입하던 방식을 넘어 에이전트가 스스로 검색 공간을 탐색하는 에이전틱 검색 체계로 진화해 왔음을 보여준다.
- 모든 LLM 시스템은 결국 컨텍스트 윈도우에 올바른 정보를 제공하는 검색 문제에 불과하다.
- 4년 전 수동 입력에서 RAG를 거쳐 현재는 에이전틱 검색 단계로 발전했다.
- 현실 세계의 업무 방식처럼 에이전트들이 서로 협력하면 거대한 네트워크 효과가 발생한다.
멀티 에이전트 세상의 이상적 상태와 코즈의 정리
모든 정보에 접근할 수 있는 단일 에이전트가 존재할 때 가장 최선의 결과가 나오지만, 코즈의 정리와 마찬가지로 현실에서는 프라이버시와 보안 장벽 때문에 모든 이메일이나 내부 데이터를 무제한 공유할 수 없다. 따라서 멀티 에이전트 시스템은 이 이상적인 상태를 실현하기 위한 제약 극복 과정이다.
- 세상의 모든 정보에 접근하는 단 하나의 에이전트가 존재하는 상태가 이상적이다.
- 프라이버시와 보안 문제로 인해 모든 데이터를 하나의 컨텍스트 윈도우에 넣는 것은 불가능하다.
- 멀티 에이전트 시스템은 이러한 이상적 상태에 얼마나 가깝게 근사하느냐의 문제이다.
신뢰 경계 기반의 접근과 한계점
첫 번째 전략으로 특정 신뢰 경계 안에서 권한을 공유하는 방식을 소개한다. 인사팀 직원 전체가 인사 시스템에 접근하는 에이전트를 쓰는 등의 방식은 도입이 쉽지만, 시간이 흘러도 데이터 사일로가 마법처럼 사라지지 않으며 인간의 개입이 계속 필요하다는 점에서 궁극적인 해결책이 되지 못한다.
- 부부나 인사팀처럼 신뢰 경계 내에서 사일로에 대한 근사적 접근을 허용하는 모델이 대중적이다.
- 이 방식은 보안 관점에서 SaaS와 유사하여 IT 팀과 보안 팀 사이에서 인기가 높다.
- 모델이 발전하더라도 여전히 모든 데이터를 생각하기 위해 인간의 개입이 필요하다는 근본적인 한계가 있다.
프라이버시를 보호하는 커스텀 도구 활용
격벽을 무너뜨리지 않으면서 유용한 정보를 얻기 위해 모든 메일을 직접 읽는 대신 관계 강도 점수만 계산해 주는 전용 도구를 만드는 방법을 설명한다. 에이전트가 이 점수를 활용해 사내 적임자에게 슬랙 메시지를 보내고 소개 메일 초안을 작성함으로써 프라이버시와 효율성의 균형을 맞춘다.
- 지메일 전체를 노출하지 않고 관계 강도 점수 같은 정량적 결과만 반환하는 도구를 활용한다.
- 에이전트가 점수를 바탕으로 사내 적합한 인물을 찾아 연결하고 이메일 초안 작성까지 지원한다.
- 이 방식은 프라이버시를 유지하면서 자연스러운 사내 네트워크 효과를 이끌어낸다.
공유 사일로와 스위퍼 AI 도입
세 번째 접근법으로 팀 간 공유 공간을 활용하는 방식을 다루며, 핵심 아이디어인 '스위퍼 AI'를 제안한다. 비공개 사일로 내부에 AI를 두어 사내 공유가 안전한 정보를 걸러내고 공용 위키에 자동으로 반영함으로써, 소규모 기업을 중심으로 업무 처리 궤도를 대폭 향상시킬 수 있다.
- 조직 내 공유 위키나 에어테이블 같은 공용 공간을 만들어 정보 격벽을 해소한다.
- 스위퍼 AI는 각 비공개 사일로 내부의 정보를 분석하여 안전하게 공용 공간으로 옮겨 담는다.
- 향후 6개월 내에 기업들이 LLM의 정책 집행을 신뢰하게 되면서 자동 데이터 노출이 가속화될 것이다.
인간 개입형 블랙박스 접근법과 자동화의 미래
네 번째와 다섯 번째 접근법으로 전통적인 인간 통로 방식과 블랙박스 방식을 비교한다. 블랙박스 구조는 모든 데이터를 조회한 뒤 정보 소유자에게만 승인을 구하는 강력한 방식이지만 오탐지나 보안 리스크가 존재한다. 결국 시스템이 저민감도 영역부터 자율적인 판단을 내리는 자동화 방향으로 진화하며, 이에 따라 에이전트 간 통신과 기업 간 데이터 공유의 새로운 지평이 열릴 것이라고 전망한다.
- 블랙박스 접근법은 모든 데이터에 접근하는 LLM이 내부적으로 최적의 인물을 찾아 최종 승인만 당사자에게 요청한다.
- 프롬프트 인젝션이나 오정보 유출 등 예기치 않은 리스크에 대한 통제가 필요하다.
- 기술의 최전선은 저민감도 영역부터 시작해 모델 용량 성장에 맞춰 자율적으로 확장되는 자동화에 있다.
설명
Jean-Denis Greze and his wife share an agent that can read both of their inboxes, including mail from before they were married, and neither of them minds. Greze is CTO of Town and spent seven years as CTO at Plaid. He opens by rejecting his own topic. Agent to agent, he argues, is not a useful concept. Every LLM system is really a search problem: what matters is whether the right information sits in the context window at the moment of the tool call. The ideal is a single agent with access to all the world's information. What blocks it is not context length but privacy, and he reaches for the Coase theorem: perfect information and zero transaction cost produce the optimal outcome, and privacy is that cost. He grades five real strategies by how closely each approximates that impossible agent. A shared trust boundary, such as an HR agent with the access of the team's most junior member, popular today but needing just as many humans as models improve. Custom tools that trade power against privacy, like one that reads everyone's mail and returns only a connection score. Shared silos fed by a sweeper agent that decides daily what may leave a private space, which he thinks pays off soonest. Humans as the conduit, which pings a hundred people to reach one. And a black box that searches every silo unasked, then seeks approval only from whoever owns the information the answer needs. Each leaks in its own way. His own wiki still calls his agent Apex, a month after he renamed it Ivy. Speaker info: - https://x.com/jgreze - https://www.linkedin.com/in/jeandenisgreze/ - https://greze.com/ Timestamps: 0:00 - Agents that work with other agents 1:20 - Multi agent systems reframed as a search problem 2:30 - The single agent that could see everything 3:24 - The Coase theorem and the privacy limit 4:17 - Strategy one, a shared trust boundary 5:28 - Why that approach does not scale with the models 6:21 - Strategy two, tools that trade power for privacy 8:39 - Strategy three, shared silos and the sweeper agent 11:54 - Strategy four, humans as the conduit 12:49 - Strategy five, the black box 15:31 - Where it breaks, and a wiki poisoned forever 17:32 - Auto mode for privacy, and crossing company lines