컴퓨팅 시장이 없다면 AI 스타트업이 사라질 이유 — 에반 콘래드, 샌프란시스코 컴퓨트

하이라이트

• 샌프란시스코 컴퓨트는 슈퍼컴퓨터 하드웨어를 직접 운영하는 동시에 실시간 용량 호가창을 제공하는 연산 시장을 구축한다.

• AI 스타트업들은 대출 기관이 초지능 자산의 가치를 심사하지 못해 클러스터 계약 시 막대한 보증금과 선결제 부담을 떠안는다.

• 초기 AI 연구소 시절, 클러스터 유지 비용을 감당하지 못해 파산 위기를 겪으면서 최초의 GPU 브로커 역할을 수행하게 되었다.

• AI 기업은 SaaS 기업과 달리 마진율이 낮고 가격에 극도로 민감하여 클라우드 가격 인상 시 곧바로 파산 위험에 직면한다.

• 신용 문제와 거대 자본 지출 병목을 해결하지 못하면 소수 대기업 중심의 독점만 남고 AI 스타트업들은 소멸할 것이다.

타임라인

1. 00:12 - 02:15

   연산 시장과 실물 결제 방식의 도입

   슈퍼컴퓨터를 성공적으로 구축하고 운영하기 위해서는 설계 단계부터 철저한 통제가 필수적이다. 그렇지 않으면 데이터 센터를 보유하고도 고객에게 실망을 안겨주게 된다. 이러한 문제를 해결하기 위해 직접 하드웨어를 운영하며 전력망처럼 작동하는 연산 시장을 제공한다.

   • 샌프란시스코 컴퓨트는 하드웨어 직접 운영과 시장 역할을 동시에 수행하는 실물 결제 방식의 연산 선도 시장을 만든다.
   • 슈퍼컴퓨터 운영은 부품 명세서 설계부터 백플레인 패브릭, 베어메탈 오케스트레이션까지 포괄적인 스택 제어가 필요하다.
   • 엔비디아의 NCP 파트너들이나 벤처 캐피털, 재무적 잔존 가치를 중시하는 AI 기업들을 주요 대상으로 삼는다.
2. 02:15 - 05:58

   초기 파산 위기와 브로커 활동의 시작

   초기 연구소를 설립하기 위해 당시 기준 1,000만 달러라는 거액의 보증금이 필요했고 이는 비현실적이었다. 50만 달러로 시작해 클러스터를 사들였으나 매달 발생하는 적자로 인해 결국 클러스터를 재임대하며 살아남아야 했다. 이 과정에서 연산 시장의 필요성을 절감하게 되었다.

   • 원래 음악 생성 서비스를 만들려던 준락이라는 회사였으나 어마어마한 초기 보증금 문제에 부딪혔다.
   • 50만 달러를 모금해 클러스터를 구매했으나 유지 비용을 감당하지 못해 파산 직전까지 몰렸다.
   • 생존을 위해 클러스터를 재임대하기 시작하면서 업계 최초의 GPU 브로커 역할을 맡게 되었다.
3. 05:58 - 11:14

   AI 업계의 자금 조달 및 신용 위험 병목

   현재 AI 업계는 자금이 완전히 동난 상태이며 새로운 클러스터를 확보하려면 긴 리드 타임과 거액의 보증금을 감당해야 한다. 대출 기관은 신생 AI 랩의 위험성을 평가할 수 없기 때문에 모든 위험이 개별 기업에 전가된다. 결국 이로 인해 스타트업들은 재무적 한계에 부딪히게 된다.

   • 대출 기관이 AGI와 초지능 스타트업의 자산 가치를 심사하지 못해 전액 보증금을 요구한다.
   • SaaS 기업과 달리 AI 기업은 마진율이 낮고 가격 변동에 취약해 온디맨드 판매가 불가능하다.
   • 장기 테이크오어페이 계약과 리드 타임 문제로 인해 신용 리스크가 전력 부족보다 훨씬 앞서 병목으로 작용한다.
4. 11:14 - 17:41

   클러스터 운영의 실제와 시장의 부재

   인프라와 시장이 분리될 수 없는 이유는 물리적 하드웨어 관리와 유지보수가 수반되어야 하기 때문이다. 만약 연산 시장과 실물 정산 문제가 해결되지 않는다면 경제 전반의 독점과 통합만 가속화될 것이다. 수많은 소규모 스타트업들이 탄생하고 성장할 수 있도록 연산 시장은 반드시 해결해야 할 과제다.

   • 호텔 방을 직접 관리하지 않고는 중개할 수 없듯이 GPU 클러스터도 운영 주체와 시장이 분리되면 작동하지 않는다.
   • 실물 정산 시스템 구축은 GPU 클라우드의 전체 운영 역량을 필요로 하기 때문에 대다수가 시도하지 않는다.
   • 이 병목을 해결하지 못하면 미래의 창업자들은 수억 달러의 예치금이나 5년 계약을 요구받아 스타트업 생태계가 소멸할 것이다.