Mengapa Startup AI Akan Menghilang Tanpa Pasar Komputasi — Evan Conrad, San Francisco Compute

하이라이트

• San Francisco Compute beroperasi sebagai penyedia perangkat keras sekaligus pasar komputasi yang diselesaikan secara fisik dengan mengelola orkestrasi bare metal dan layanan di atasnya.

• Perusahaan ini awalnya berdiri dengan nama Joonlark dan terpaksa menjadi broker GPU pertama akibat kerugian bulanan dari pembelian kluster awal senilai $500 ribu.

• Biaya deposit untuk mendirikan laboratorium AI melonjak dari $10 juta pada masa awal menjadi $1 miliar saat ini, menciptakan hambatan kredit yang parah bagi startup.

• Pemberi pinjaman menolak membiayai kluster GPU tanpa perjanjian pembelian jangka panjang karena mereka tidak tahu cara mengunderwrite superintelligence dari startup kecil.

• Ketiadaan pasar komputasi yang likuid memaksa industri AI mengalami konsolidasi ekstrem di mana hanya perusahaan besar dengan kelayakan kredit yang dapat bertahan.

타임라인

1. 00:00 - 02:14

   Model Bisnis San Francisco Compute dan Pasar Komputasi Fisik

   Pembicaraan berfokus pada pentingnya membangun pasar komputasi untuk mengatasi kegagalan pengoperasi kluster GPU tradisional. Perusahaan bertindak sebagai pengoperasi perangkat keras sekaligus penyedia pasar yang mirip dengan jaringan listrik untuk komputasi. Tanpa penanganan tumpukan teknologi yang efektif dari tingkat komponen hingga layanan virtual machine, penyedia pusat data justru akan mengecewakan pelanggan mereka.

   • San Francisco Compute menjalankan fungsi ganda sebagai pengoperasi perangkat keras cloud dan pasar berjangka yang diselesaikan secara fisik.
   • Pengendalian desain superkomputer, struktur backplane, dan orkestrasi bare metal merupakan inti dari pengoperasian superkomputer yang efektif.
   • Perusahaan menawarkan layanan superkomputasi kepada calon penyedia cloud dan perusahaan modal ventura yang ingin mengalokasikan kembali kapasitas komputasi.
2. 02:14 - 04:19

   Asal Usul Perusahaan dan Transisi Menjadi Broker GPU

   Perjalanan awal pendiri diwarnai dengan kesulitan keuangan yang ekstrem saat mencoba mendirikan lab AI tanpa modal jumbo. Membeli kluster dengan modal terbatas berujung pada kerugian operasional setiap bulan yang mengancam kebangkrutan. Pengalaman membawa selembar kertas berisi daftar GPU ke konferensi NeurIPS menjadi cikal bakal pemahaman mendalam mengenai kebutuhan pasar komputasi yang likuid.

   • Perusahaan ini bermula dari Joonlark, sebuah rintisan yang awalnya mencoba membangun model audio sebelum era Suno atau UDO.
   • Kegagalan pendanaan awal sebesar $10 juta memaksa pendiri menggalang $500 ribu untuk membeli kluster besar yang kemudian menghasilkan kerugian bulanan.
   • Perusahaan terpaksa bertindak sebagai broker GPU pertama yang membawa daftar H100 dan A100 secara manual untuk menjual kembali kluster demi menghindari kebangkrutan.
3. 04:19 - 10:30

   Krisis Kredit dan Hambatan Belanja Modal dalam Industri AI

   Keterbatasan likuiditas dan masalah kredit merupakan hambatan nomor satu dalam industri AI saat ini, bahkan melampaui masalah pasokan daya listrik. Karena pemberi pinjaman menuntut kepastian kredit sebelum kluster diterapkan, startup terjebak dalam risiko tinggi. Ketidakmampuan menanggung risiko ini telah menjatuhkan perusahaan seperti Stability AI dan Character AI ke jurang kebangkrutan atau restrukturisasi.

   • Kapasitas komputasi saat ini telah habis terjual dan startup harus membayar uang muka dalam jumlah besar untuk kluster baru dengan waktu tunggu yang lama.
   • Pemberi pinjaman tidak dapat mengunderwrite risiko kredit perusahaan rintisan kecil yang mengklaim ingin membangun superintelligence.
   • Margin perusahaan AI yang ketat dan sensitivitas harga yang tinggi membuat mereka mudah bangkrut jika biaya cloud dasar berlipat ganda.
4. 10:30 - 17:41

   Pentingnya Penyelesaian Fisik dan Risiko Konsolidasi Industri

   Perantara murni tanpa kepemilikan operasional terbukti gagal karena masalah teknis pada perangkat keras tidak dapat diperbaiki tanpa kendali langsung atas fasilitas tersebut. Tanpa adanya pasar komputasi yang memecahkan hambatan kredit dan likuiditas, ekonomi AI akan sepenuhnya dikuasai oleh segelintir pemain besar beraset kuat. Kehadiran pasar komputasi memastikan inovasi tetap hidup melalui keterlibatan startup-startup kecil di masa depan.

   • Penyelesaian fisik mengharuskan pengelola pasar untuk mengoperasikan kluster secara langsung layaknya sebuah hotel agar masalah operasional dapat diselesaikan.
   • Deposit minimum untuk mendirikan lab AI telah meningkat dari $10 juta menjadi $1 miliar, memicu tren konsolidasi ekonomi yang menyingkirkan startup.
   • Pasar komputasi dibutuhkan agar rintisan kecil tetap dapat mengakses daya komputasi dan berpartisipasi dalam teknologi tanpa harus menanggung beban belanja modal ratusan juta dolar.