Transcript
00:00:00Wah, itu tadi benar-benar cepat. Minggu lalu saya membahas di sebuah episode tentang berakhirnya
00:00:07token murah di mana saya menguraikan ekonomi tentang bagaimana perusahaan AI ini menghasilkan atau kehilangan uang
00:00:15dan peran pelatihan versus inferensi serta mengapa mereka terdorong untuk beralih dari langganan
00:00:21bersubsidi sekarang karena kita memiliki tugas agenik yang berjalan lama yang mengonsumsi banyak
00:00:27token. Dan hari ini saya bangun atau sebenarnya saya mendapatkannya kemarin malam, saya mendapat email dari GitHub
00:00:34bahwa mereka mengumumkan bahwa semua paket GitHub Copilot baik individu, bisnis, maupun perusahaan
00:00:43akan beralih ke penagihan berbasis penggunaan pada tanggal 1 Juni. Dan menurut saya sistem mereka sangat aneh,
00:00:52tapi nanti akan saya bahas kembali. Namun ini tidak mengejutkan. Tentu saja, seperti yang disebutkan, saya menguraikannya di
00:00:57episode terpisah itu. Dan ya, bagi perusahaan-perusahaan ini, penawaran berlangganan yang mereka miliki hanyalah
00:01:04tidak layak untuk tugas-tugas agenik ini. Dan saya juga akan kembali membahas mengapa GitHub bergerak lebih dulu di sini dan mengapa saya
00:01:13pikir, misalnya, OpenAI dan juga mungkin Anthropic akan menunggu sedikit lebih lama sampai mereka beralih
00:01:21dari penawaran berlangganan. Namun suatu saat nanti untuk pengkodean agenik, saya cukup yakin mereka semua
00:01:27akan beralih ke harga berbasis penggunaan. Tapi mari kita tetap fokus ke GitHub. Nah, apa yang berubah di sini dengan GitHub
00:01:34Copilot adalah, seperti yang saya sebutkan di postingan blog ini, seperti yang saya sebutkan di episode terakhir, kita sekarang memiliki
00:01:42sesi pengkodean otonom yang berjalan lama selama berjam-jam yang menghabiskan banyak token. Dan
00:01:49yah, itu saja sudah tidak layak lagi bagi mereka. GitHub telah menyerap sebagian besar biaya
00:01:54inferensi yang meningkat di balik penggunaan itu. Tapi model permintaan premium saat ini tidak lagi
00:01:59berkelanjutan bagi mereka. Itulah alasan mengapa mereka beralih dari penawaran berlangganan. Dan
00:02:05yang berubah adalah sekarang di masa depan, Anda masih bisa memiliki langganan. Dan jika Anda memilikinya,
00:02:11itu tidak akan dibatalkan untuk Anda. Namun alih-alih mendapatkan jumlah penggunaan yang dijamin darinya,
00:02:19Anda akan mendapatkan kredit AI. Dan yang akan Anda dapatkan adalah, untuk saat ini, jika Anda memiliki paket bisnis,
00:02:30dan sebenarnya jika Anda memiliki paket individu juga, Anda akan mendapatkan kredit $10 untuk paket $10 per bulan
00:02:38Anda dan $39 untuk paket $39 per bulan. Untuk bisnis, sama saja tetapi di sana selama periode
00:02:46transisi, yang berlangsung hingga akhir Agustus, Anda sebenarnya akan mendapatkan kredit bulanan sebesar $30 dan $70
00:02:54dengan tujuan yang jelas untuk memastikan pelanggan bisnis tidak membatalkan
00:03:00langganan mereka. Namun tentu saja, setelah periode transisi ini berakhir, sebagai pelanggan bisnis,
00:03:06Anda juga hanya akan mendapatkan kecocokan satu banding satu, bisa dibilang. Jadi Anda menghabiskan $19 per bulan untuk
00:03:12langganan Anda, Anda mendapatkan kredit AI bulanan sebesar $19 dan karena itu pada akhirnya, kecuali saya salah
00:03:19paham sepenuhnya di sini, ini benar-benar hanya pembayaran di muka. Jadi saya tidak melihat mengapa Anda akan memilih
00:03:28itu daripada sekadar membayar untuk penggunaan sebenarnya alih-alih memiliki langganan karena tentu saja dengan
00:03:35model ini kerugiannya adalah jika karena alasan tertentu Anda tidak menghabiskan penggunaan Anda, Anda membuang uang
00:03:42tetapi Anda tidak benar-benar mendapatkan keuntungan dari memiliki langganan kecuali model yang dapat Anda gunakan
00:03:49melalui langganan harganya lebih murah daripada jika Anda langsung menggunakannya melalui kunci API
00:03:55tentu saja. Sekarang kita bisa melihat halaman harga mereka di sini dan di sana kita melihat harga yang
00:04:05kita bayar untuk model-model yang berbeda ini dan pada akhirnya itulah yang akan kita bayar dan apa yang akan dipotong
00:04:13dari kredit AI kita setelah kita berada di paket harga berbasis penggunaan itu. Di sini kita melihat bahwa satu kredit AI adalah
00:04:20satu sen dolar AS dan Anda mendapatkan 1900 kredit untuk paket bisnis, itu adalah paket $19 per bulan
00:04:31dan 3900 untuk paket $39 yang lebih mahal sehingga pada akhirnya jumlahnya menjadi seperti yang saya sebutkan
00:04:38di sini. Dan kemudian kita memiliki tabel harga ini dan dari semua yang saya lihat di sini dari semua yang bisa saya temukan
00:04:44di sini, itulah tepatnya, yah tidak ada keuntungan di sini, tidak ada diskon di sini jika Anda memiliki
00:04:55langganan, jadi jika kita melihat harganya di sini, misalnya untuk GPT 5.5, $5 per juta token input
00:05:02dan $30 per juta token output, yah itu persis sama dengan apa yang kita bayar pada akhirnya
00:05:09jika kita menggunakan model tersebut secara langsung melalui API OpenAI, jadi jika kita membawa kunci API kita sendiri pada
00:05:16akhirnya kan, jadi itulah maksud saya, saya tidak melihat di mana tepatnya kita akan mendapat keuntungan dari menggunakan
00:05:24langganan itu, setidaknya jika menyangkut model OpenAI ini, tetapi tentu saja sama untuk
00:05:30model Claude jika saya pergi ke dokumentasi API Claude, saya dapat melihat bahwa untuk Opus, 4.7 untuk token input saya
00:05:39membayar lima dolar per juta dan untuk output saya di 25 dan lagi jika saya kembali ke GitHub Copilot
00:05:45halaman harga di sini, itu lima dolar input dan 25 per output, jadi lagi-lagi saya tidak melihat keuntungan apa
00:05:55yang dimiliki langganan ini. Saya bisa langsung memilih harga berbasis penggunaan dengan membawa kunci API saya sendiri
00:06:03misalnya, dan kemudian saya memiliki lebih banyak fleksibilitas dan jika saya menggunakan lebih sedikit token, saya setidaknya tidak dikenakan biaya
00:06:1219 atau 39 dolar per bulan ini. Tapi mungkin saya juga salah paham sepenuhnya di sini dan untuk
00:06:18bisnis tentu saja mungkin ada insentif berbeda di sini untuk menggunakan langganan tersebut daripada
00:06:25harga berbasis penggunaan karena tentu saja satu keuntungan yang bisa Anda lihat di sini adalah jika Anda memilih
00:06:31langganan ini secara default jika Anda melampaui atau jika Anda mencapai batas langganan Anda, jadi jika Anda menggunakan
00:06:39habis semua kredit yang Anda miliki dalam langganan itu, Anda tidak dapat terus menggunakan GitHub Copilot dan
00:06:45tentu saja dari perspektif perusahaan mungkin itulah yang Anda inginkan agar Anda memberikan karyawan Anda
00:06:51langganan ini di sini dan jika mereka kehabisan kredit, mereka kehabisan kredit dan mereka harus kembali
00:06:56menulis kode seperti manusia gua dengan tangan, jadi saya rasa itu bisa menjadi satu keuntungan di sini dibandingkan jika Anda
00:07:02membawa kunci API sendiri ada penggunaan tanpa batas yang tentu saja tidak sepenuhnya benar, Anda dapat membatasi penggunaan
00:07:08per kunci API juga di dasbor dalam pengaturan penyedia AI ini, tetapi
00:07:16ya itulah penawaran yang kita miliki di sini, agak aneh tetapi seperti yang saya sebutkan tidak mengejutkan sama sekali karena
00:07:23itu semua tidak berkelanjutan setidaknya untuk saat ini untuk GitHub Copilot, jadi bagi Microsoft pada akhirnya dan
00:07:30saya tidak berpikir bahwa OpenAI akan mengubah harga langganan atau cara kerjanya dalam waktu
00:07:39yang sangat dekat, setidaknya mereka pasti akan mengubahnya di beberapa titik dan begitu juga Anthropic dan saya menyebutkan
00:07:44itu di episode lain tetapi tidak sekarang karena saya pikir OpenAI baru saja meleset dari target pendapatan mereka
00:07:52dan itu artikel dari hari ini juga dan itu adalah pernyataan dari CFO mereka dan ini penting.
00:07:59Dalam pernyataan itu, CFO mengatakan bahwa dia khawatir perusahaan mungkin tidak dapat membayar kontrak komputasi
00:08:06di masa depan jika pendapatan tidak tumbuh cukup cepat. Nah mengapa ini berarti bahwa mereka akan terus
00:08:14mensubsidi langganan? Yah, mereka jelas masih ingin mendapatkan pangsa pasar yang jelas pada beberapa
00:08:21titik, mereka perlu memotong kerugian mereka tetapi tentu saja bagi satu jika mereka dapat mencapai itu dengan
00:08:27langganan mereka, mereka setidaknya impas atau tidak terlalu banyak kehilangan uang, mereka dapat mengembangkan pangsa pasar mereka
00:08:36melalui penawaran berlangganan tersebut dan kemudian tentu saja begitu mereka beralih ke harga berbasis penggunaan,
00:08:41mereka mungkin bisa mendapat untung di sana setidaknya pada tingkat individu per pengguna dan itu
00:08:49tentu saja kemudian dapat mendanai investasi di masa depan. Masalah yang dimiliki OpenAI tentu saja adalah semua orang
00:08:55tahu ChatGPT, semua orang menggunakan ChatGPT, tetapi sekitar 90 persen dari semua pengguna tidak membayar untuk itu,
00:09:04mereka menggunakan versi gratis dan tentu saja yah tidak mengejutkan itu tidak menghasilkan uang bagi OpenAI
00:09:12dan kemudian tentu saja Anda memiliki semua pelanggan yang menggunakan langganan mereka untuk codec, jadi
00:09:17untuk pengkodean agenik dan pelanggan tersebut tidak terlalu menguntungkan, itulah situasi di mana
00:09:23OpenAI menemukan dirinya, tetapi tetap saja seperti yang disebutkan mereka perlu mengembangkan pangsa pasar mereka sehingga pada akhirnya
00:09:29mereka dapat membuat perubahan pada harga, menyingkirkan langganan atau membuatnya lebih mahal atau
00:09:34apa pun membatasi penggunaan sehingga mereka dapat menghasilkan keuntungan per pengguna dan kemudian mendanai investasi di masa depan dan
00:09:40karena itu saya pikir saat ini di mana mereka masih putus asa untuk meningkatkan pendapatan mereka, untuk saat ini
00:09:47fokus pendapatan karena itu sama dengan pangsa pasar pada akhirnya, jadi sekarang di mana mereka putus asa untuk mengembangkan
00:09:53visibilitas mereka, pangsa pasar mereka, jumlah pengguna yang membayar, saya tidak berpikir mereka akan membuat
00:09:59perubahan pada penawaran paket berlangganan codec mereka dalam waktu dekat atau setidaknya untuk saat ini dan untuk alasan yang sama
00:10:05saya pikir Anthropic mungkin tidak akan melakukan perubahan drastis, saya sangat melihat bahwa Anthropic mungkin
00:10:13menghapus model opus yang lebih mahal dari paket langganan dasar tetapi akan tetap
00:10:19menyimpannya di paket yang lebih mahal karena cara kerja batasan dalam rencana langganan Claude tersebut
00:10:27mereka sudah cukup ketat, tidak seburuk pengalaman saya seperti yang dikatakan beberapa orang di X tetapi
00:10:34jelas lebih ketat daripada batas penggunaan OpenAI dalam langganan codec, jadi Anthropic mungkin
00:10:41tidak kehilangan banyak uang pada langganan ini dan tentu saja saya cukup yakin mereka tidak ingin
00:10:47menyerahkan pangsa pasar dan memberikan itu kepada OpenAI, tentu saja mereka adalah pesaing yang tangguh. Keuntungannya
00:10:54dan saya sudah menyebutkan itu di episode lain juga tentu saja adalah bahwa Anthropic sangat baik
00:10:58diposisikan di pasar perusahaan, jadi ya mereka bisa pada suatu saat dan mungkin sebelum OpenAI melakukannya
00:11:06beralih ke model harga yang lebih agresif, berpotensi ke model harga berbasis penggunaan seperti
00:11:12GitHub Copilot lakukan di sini sehingga mereka juga dapat memperoleh keuntungan, menghasilkan keuntungan dari
00:11:18pengguna ini dan kemudian mendanai investasi di masa depan. Nah untuk GitHub dan karena itu Microsoft pada akhirnya, hal-hal
00:11:24sedikit berbeda menurut pendapat saya karena tentu saja sementara mereka pasti juga masih ingin mendapatkan
00:11:31pangsa pasar, itu mungkin bukan prioritas nomor satu bagi mereka karena Microsoft sudah
00:11:37mendorong penawaran Copilot mereka, semua orang, yah mereka membagikannya kepada semua orang dan mendorongnya ke
00:11:45semua perusahaan dan ke semua produk mereka dan tentu saja mereka secara alami karena begitu banyak
00:11:51perusahaan menggunakan produk Microsoft dan juga menggunakan VS Code atau hanya Visual Studio jadi secara alami
00:11:59GitHub Copilot akan digunakan oleh sejumlah perusahaan jika mereka mau atau jika pengguna mereka, karyawan mereka
00:12:06menginginkannya atau tidak, jadi pangsa pasar mungkin bukan prioritas nomor satu mereka dan tentu
00:12:12saja karena itu mereka jelas tidak tertarik membuang uang dalam jangka panjang, mereka terutama tidak
00:12:19perlu hanya untuk mendapatkan pangsa pasar untuk akhirnya menjadi menguntungkan karena mereka tidak memiliki pelatihan untuk
00:12:26didanai kan? Mereka hanya membutuhkan basis pengguna yang menguntungkan dan seperti yang disebutkan, pangsa pasar entah bagaimana datang dengan sendirinya
00:12:34dari perspektif Microsoft karena Copilot ada di mana-mana dan mereka memiliki itu, mereka memiliki
00:12:40akar yang dalam di semua perusahaan ini, jadi itulah mengapa saya pikir mereka sekarang lebih tertarik untuk memotong
00:12:45kerugian mereka dan sudah mulai mendapat untung per pengguna atau setidaknya tidak kehilangan uang, saya pikir itulah
00:12:52tujuan mereka di sini dan karena itu ya GitHub Copilot adalah yang pertama beralih ke harga berbasis penggunaan
00:13:00jelas tidak akan menjadi yang terakhir, tetapi saya pikir untuk alasan yang disebutkan, codec dan atau OpenAI dan
00:13:07Anthropic mungkin tidak akan beralih ke harga berbasis penggunaan saat ini dan Anthropic mungkin
00:13:13tapi OpenAI saya benar-benar tidak melihat itu terjadi dalam waktu yang sangat dekat