Otak perusahaan Anda akan membocorkan rahasia: cara kami menghentikannya untuk bank-bank besar — Tanmai Gopal, PromptQL
AAI Engineer
컴퓨터/소프트웨어경영/리더십
스크립트
00:00:00Baiklah, semuanya bisa melihat.
00:00:15Halo semuanya.
00:00:17Terima kasih sudah hadir.
00:00:18Saya akan membahas tentang fakta bahwa jika Anda mulai
00:00:23membangun otak perusahaan, hal itu kemungkinan besar
00:00:25akan membocorkan rahasia perusahaan, yang mana itu adalah ketakutan terbesar
00:00:28yang kita miliki tentang membangun otak perusahaan,
00:00:32seperti situasi seorang anak magang bergabung dengan perusahaan
00:00:34lalu tiba-tiba mengetahui rincian gaji dan situasi
00:00:36semacam itu.
00:00:37Anda tentu ingin mewaspadai hal tersebut.
00:00:40Ini bisa dibilang merupakan hal terbesar
00:00:43yang menahan kita untuk tidak langsung menerapkan OpenClaw
00:00:47dan Hermes di mana-mana.
00:00:49Ini juga menjadi alasan—
00:00:50seperti peluang besar yang dimiliki ClaudeTag
00:00:52pada peluncuran barunya beberapa hari lalu di mana
00:00:54ia akan menjadi otak perusahaan,
00:00:56tetapi kemudian semua orang berpikir, yah, itu
00:00:57tidak— sepertinya itu tidak akan menjadi otak
00:01:00perusahaan, kan?
00:01:01Jadi saya akan membahas hal apa saja yang membuatnya menjadi tantangan.
00:01:03Sebelum kita memulainya, mari kita pahami dan bedah dulu
00:01:07bisnis otak perusahaan ini, ya?
00:01:09Saya Tanmay.
00:01:10Saya CEO sekaligus salah satu pendiri PromptQL.
00:01:13Anda bisa mengecek PromptQL nanti, tetapi latar belakang tim kami
00:01:18dalam membangun ini adalah kami berasal dari Hustle Graph—
00:01:21kami adalah pembuat mesin Hustle GraphQL.
00:01:23Ini adalah proyek sumber terbuka yang sangat populer di bidang GraphQL
00:01:26tempat kami menyelesaikan banyak masalah akses data.
00:01:28Kami telah menerapkannya di berbagai tempat mulai dari Apple, Meta, JPMorgan,
00:01:32dan lain-lain.
00:01:33Dan hal itu memberi kami banyak landasan untuk—
00:01:39serta hubungan suka dan benci dengan data
00:01:43dan keamanan data.
00:01:44Jadi saya akan menunjukkan kepada Anda hal-hal yang telah kami kerjakan selama
00:01:51setahun terakhir dan apa yang telah kami pelajari darinya agar
00:01:53Anda dapat mengambilnya, melatihnya, dan mencobanya
00:01:56sendiri.
00:01:58Dan tentu saja, di akhir pembicaraan nanti, saya senang bisa bertukar
00:02:01catatan dan melihat apa yang berhasil atau mungkin tidak berhasil bagi Anda.
00:02:06Selama setahun terakhir, kami hanya bermitra dengan sedikit
00:02:08pihak yang menunjukkan lonjakan skala tertentu.
00:02:12Sejauh ini baru sekitar 15 hingga 20 orang.
00:02:15Dan sekarang kami mulai membukanya untuk orang lain.
00:02:17Namun selama kurun waktu tersebut, kami telah melihat tiga
00:02:20kelompok tipe orang yang memiliki kebutuhan sangat berbeda.
00:02:22Anda memiliki perusahaan yang berbasis AI (AI-native) yang bersedia melakukan
00:02:25apa saja asalkan itu berhasil.
00:02:27Anda juga memiliki perusahaan yang berpikiran maju, seperti Instacart,
00:02:30yang menyukai teknologi terbaik di kelasnya.
00:02:33Jadi mereka bergerak cepat.
00:02:34Mereka cukup toleran jika ada hal yang rusak.
00:02:36Tetapi teknologinya harus benar-benar sangat bagus, kan?
00:02:38Lalu Anda memiliki bank Fortune 100 yang memiliki tingkat keamanan
00:02:41yang luar biasa ketat.
00:02:43Untung sekali mereka memilikinya, karena itu bank saya.
00:02:45Saya tentu tidak ingin agen AI hasil Vibe-coding berjalan
00:02:48di dalam bank, karena di sanalah uang saya berada.
00:02:51Jadi mereka memiliki banyak aturan keamanan.
00:02:54Terima kasih banyak.
00:02:55Namun kami juga diterapkan di tempat-tempat seperti itu,
00:02:59dengan bagian awal atau bisa dibilang lobus frontal
00:03:01dari merek perusahaan, ya?
00:03:02Jadi kita bisa membicarakan pembelajaran semacam itu.
00:03:05Penggunaan pribadi kami dalam membangun otak perusahaan kami
00:03:10mencakup sekitar 5.000 halaman.
00:03:13Jadi kami memodelkannya sebagai wiki.
00:03:14Anda bisa memodelkannya sesuka Anda.
00:03:16Anda bisa memodelkannya sebagai sekumpulan file markdown di GitHub.
00:03:17Anda bisa memasukkannya ke dalam, masih ingat graph frag?
00:03:21Anda bisa memodelkannya dalam knowledge graph.
00:03:23Anda bisa melakukan apa saja yang Anda inginkan.
00:03:25Jadi Anda bisa menempatkannya di mana pun Anda mau.
00:03:27Namun bagi kami, itu terdiri dari sekitar 5.000 halaman yang saling terhubung.
00:03:32Pertanyaan untuk kalian.
00:03:33Katakanlah Anda memiliki otak perusahaan yang berfungsi.
00:03:36Berjalan dengan baik.
00:03:37Semuanya sudah diatur, kan?
00:03:40Pasti akan ada sejumlah pembaruan harian
00:03:41yang terjadi pada otak perusahaan ini, bukan?
00:03:44Karena sistem itu mempelajari hal-hal dari semua orang di perusahaan, ya?
00:03:47Betul?
00:03:47Dari keuangan, SDM, para insinyur, hingga semuanya.
00:03:52Jadi, jika Anda memetakan jumlah pembaruan harian yang terjadi
00:03:55pada otak perusahaan, seperti apa bentuknya kira-kira?
00:04:00Apakah bentuknya mirip tren yang cenderung menurun?
00:04:04Seperti semua grafik acak ini.
00:04:05Tapi apakah semacam mulai lalu turun?
00:04:09Apakah akan cenderung stabil, naik dan turun saat pembaruan memuncak?
00:04:12Ataukah akan terus meningkat secara stabil ke atas?
00:04:16Jadi untuk memikirkan, seperti apa riwayat commit
00:04:18ke repositori keterampilan bersama Anda nanti, ya?
00:04:21Berapa banyak pembaruan yang terjadi pada otak perusahaan yang sehat,
00:04:26setiap hari?
00:04:27Seperti apa bentuk tren itu?
00:04:29Ada yang memilih opsi A?
00:04:31Ada yang mengira itu opsi A?
00:04:33Baiklah, bagus.
00:04:34Opsi B?
00:04:37Opsi C?
00:04:39Menarik.
00:04:41Dan ketika saya memetakan data kami, ya,
00:04:44untuk melihat seperti apa rupa otak perusahaan yang sehat,
00:04:47jika Anda melihat nomor satu, itu pada dasarnya mengatakan,
00:04:50kita punya banyak antusiasme.
00:04:53Kita membangun otak perusahaan pada hari pertama, hari kedua.
00:04:56Kita memberi seseorang tugas dan berkata,
00:04:57bangun semua repositori keterampilan bersama,
00:04:59kumpulkan semua data Slack, kumpulkan semua email, bangun itu,
00:05:02dan kita semua akan menggunakannya.
00:05:03Dan kemudian tidak ada yang peduli, benar?
00:05:05Atau Anda memiliki sistem yang dapat belajar mandiri.
00:05:07Mungkin Anda memiliki Hermes yang diterapkan secara internal.
00:05:09Jadi saya melihatnya di mana sistem itu terus-menerus menambahkan lebih
00:05:11banyak komentar.
00:05:12Grafiknya naik turun tergantung siapa yang sedang antusias, ya?
00:05:14Betul?
00:05:15Lalu ketika saya memetakan riwayat kami selama dua bulan terakhir—
00:05:19dan ini sudah agak usang sekarang—
00:05:22inilah yang kami dapatkan.
00:05:24Dan saya agak terkejut.
00:05:26Saya berpikir, mengapa ini terus meningkat?
00:05:30Maksudnya, ini kurva yang landai, kan?
00:05:32Tapi kenapa jumlahnya terus meningkat secara perlahan?
00:05:34Mengapa jumlah pembaruan per hari terus bertambah?
00:05:38Dan itu sangat menarik bagi saya untuk melihatnya.
00:05:39Karena yang saya sadari adalah jika Anda memiliki sistem yang mulai
00:05:42bekerja, yang terjadi adalah orang-orang mulai mengajarinya lebih banyak.
00:05:46Ibaratnya, jika saya mengajari Anda keterampilan untuk mengkueri data, maka
00:05:50besok saya akan mengajari Anda keterampilan untuk menginterpretasikan data tersebut.
00:05:53Dan lusa, saya akan
00:05:55mengajari Anda keterampilan cara mengambil tindakan berdasarkan hal itu.
00:05:57Dan setelah itu, saya akan mencari tahu
00:05:59cara melakukan pengujian A/B berdasarkan-- jadi orang-orang
00:06:00seperti Anda akan terus menerus menambahkannya.
00:06:03Namun karena semuanya adalah agen di mana tidak ada jumlah pembelajaran
00:06:05yang sempurna, semuanya juga memiliki tingkat kestabilannya sendiri, kan?
00:06:08Benar?
00:06:08Jadi tingkatannya semacam--
00:06:10bahkan tingkat stabil Anda pun terus bertambah.
00:06:12Dan itulah yang mulai saya perhatikan pada hal kami juga.
00:06:15Ini masih awal, jadi siapa tahu apakah ini akan mereda pada akhirnya.
00:06:18Mungkin ini akan mulai terlihat lebih seperti opsi B.
00:06:20Namun pada otak yang sehat, tentu saja ukuran keseluruhannya terus bertambah.
00:06:24Tetapi bahkan pembaruan harian Anda per hari juga akan terus meningkat.
00:06:28Jadi itu adalah tanda dari otak yang bagus yang Anda bangun, bukan?
00:06:32Otak sehat yang Anda bangun untuk perusahaan Anda.
00:06:35Luar biasa.
00:06:36Jadi kasus penggunaan untuk otak perusahaan adalah bagaimana kita mulai menganalisis cara
00:06:39kita membangun sistem yang tidak akan membocorkan rahasia, benar?
00:06:42Jadi ada dua kasus penggunaan.
00:06:44Kasus penggunaan pertama adalah adanya otak perusahaan.
00:06:48Saya ingin menggunakannya dalam AI saya, agen, apa pun itu, untuk menyelesaikan pekerjaan, kan?
00:06:55Saya akan tunjukkan contohnya, ya?
00:06:56Ibaratnya saya mendapat email berisi kuesioner keamanan
00:06:59yang harus saya jawab dari seorang pelanggan.
00:07:00Dan saya berbicara dengan AI saya, dan saya berkata, cari di otak perusahaan
00:07:03dan bantu saya menjawab kuesioner keamanan tersebut, ya?
00:07:05Jadi itu adalah kasus penggunaan otak perusahaan yang sangat valid.
00:07:08Kedua, kasus penggunaan yang sangat berguna, benar?
00:07:10Karena itu adalah pengetahuan orang lain yang datang kepada saya.
00:07:14Kasus penggunaan kedua dari otak perusahaan mirip dengan apa itu cloud tag,
00:07:18yaitu gagasan tentang multipemain.
00:07:21Dan jika Anda telah menempatkan agen di dalam Slack di tempat-tempat di mana banyak orang
00:07:25dapat berinteraksi dengannya, itu ibarat menggunakannya sebagai AI bersama, kan?
00:07:29Ibaratnya untuk menyelesaikan pekerjaan.
00:07:32Dan contohnya bisa berupa manajemen insiden kolaboratif, benar?
00:07:36Jadi misalnya, Anda ingin bilang seperti, hei, saya ingin mengambil log.
00:07:40Saya ingin menyelidiki-- ada insiden.
00:07:42Ambil beberapa log, selidiki basis kode, ajukan PR, deploy ke staging,
00:07:46deploy ke prod, siapkan peringatan, benar?
00:07:48Anda ingin banyak orang melakukan hal-hal dengan otak perusahaan.
00:07:51Jadi itu adalah dua jenis kasus penggunaan dari otak perusahaan.
00:07:53Yang satu adalah kasus penggunaan pengetahuan kolaboratif bersama,
00:07:56dan yang satu lagi adalah kasus penggunaan AI bersama itu sendiri, benar?
00:08:00Keduanya memiliki semacam masalah keamanan yang sangat besar, ya?
00:08:06Jadi untuk mulai mengamankannya, mari kita definisikan hal itu dengan lebih kuat, ya?
00:08:15Jadi apa sebenarnya otak perusahaan itu?
00:08:18Dan ini adalah definisi saya tentang hal itu, ya?
00:08:20Ini adalah konteks bersama yang Anda masukkan ke dalam markdown,
00:08:23yang Anda masukkan ke dalam sekumpulan file markdown, benar?
00:08:26Dan ini adalah aturan kontrol akses untuk berbagai data dan alat
00:08:29yang ingin Anda akses seperti yang diberikan kepada agen pengodean.
00:08:34Jadi itulah yang saya sebut untuk--
00:08:38karena saya sedang berbicara jadi saya bisa mendefinisikan apa pun yang saya inginkan.
00:08:41Itu adalah definisi saya.
00:08:42Jadi saya tidak mengatakan ini adalah pengetahuan yang ditarik ke dalam LLM
00:08:46yang akan melakukan pemanggilan alat (tool calls), ya?
00:08:48Ini bukan AI yang melakukan hal-hal serbaguna.
00:08:51Ini adalah AI yang merupakan agen pengodean yang menyelesaikan masalah apa pun yang Anda lemparkan kepadanya, ya?
00:08:56Agak mirip dengan-- sedikit dari pembicaraan sebelumnya yang mungkin pernah Anda dengar,
00:09:00yaitu gagasan tentang, bisakah kita menggunakan agen pengodean untuk menyelesaikan masalah umum?
00:09:04Begitulah, ya?
00:09:05Dalam kasus yang paling sederhana, jika Anda bilang, hei, tuliskan saya sebuah tweet, Anda sedang menulis skrip kecil yang membuat panggilan AI untuk menulis tweet kecil, kan?
00:09:13Anda mungkin tidak perlu melakukannya.
00:09:14AI itu sendiri dapat langsung mengembalikan tweet tersebut kepada Anda.
00:09:17Tapi, pada intinya, Claude code digunakan untuk segalanya.
00:09:20Claude co-work memiliki arsitektur yang sama.
00:09:22Aplikasi Codex memiliki arsitektur yang sama, yaitu kesadaran bahwa Anda dapat menggunakan agen pengodean untuk memecahkan masalah serbaguna.
00:09:28Jadi kita sedang membangun otak untuk itu.
00:09:30Kita tidak sedang membangun grafik pengetahuan yang besar, basis pengetahuan untuk perusahaan lalu mencoba mengamankannya.
00:09:34Itu toh tidak-- belum berhasil-- tidak akan berhasil.
00:09:39Jadi dalam hal bagaimana kita ingin mendekati perancangan otak perusahaan, ya, haruskah kita membangun otak perusahaan?
00:09:50Jadi jika Anda adalah sebuah perusahaan besar dan Anda dibayar untuk bermalas-malasan, maka Anda menyukai gagasan membangun otak perusahaan ini.
00:09:57Karena Anda berpikir, ya, biarkan saya mengambil proyek dua tahun dan saya akan membangun otak perusahaan untuk J.P. Morgan.
00:10:02Itu tidak akan terjadi.
00:10:03Anda tidak dapat membangun otak perusahaan untuk organisasi yang sudah berusia, misalnya, 100 tahun, bukan?
00:10:07Anda bahkan hampir tidak bisa membangunnya untuk keluarga Anda sendiri, kan, yang mungkin baru berusia beberapa bulan atau tahun, benar?
00:10:13Jadi gagasan dan cara kita ingin membangun otak perusahaan adalah kita ingin setiap orang yang melakukan sedikit pekerjaan di perusahaan untuk memiliki dan membangun bagian mereka dari otak perusahaan tersebut, ya?
00:10:23Itulah cara kita harus membangunnya.
00:10:25Jadi itu semacam kendala nomor dua yang saya tetapkan.
00:10:27Yang pertama adalah definisi tentang otak perusahaan, dan yang kedua adalah pendekatan yang ingin kita ambil tentang bagaimana otak perusahaan itu dibangun.
00:10:33Saya menyukai cara pengungkapan ini, yaitu bahwa kita akan menumbuhkan otak perusahaan, kita tidak akan membangunnya, benar?
00:10:41Kita akan membiarkannya terbentuk bersama.
00:10:43Biarkan itu terbentuk bersama.
00:10:44Sistem ini harus terbentuk secara organik, jika tidak maka tidak mungkin untuk dibangun.
00:10:47Baiklah.
00:10:48Secara garis besar, kita ingin membiarkan setiap orang melayani sendiri bagian mereka dari otak perusahaan, dan ini adalah berbagai langkah yang ingin Anda ikuti.
00:10:57Saya akan kembali ke hal ini secara lebih rinci jika kita punya waktu, tetapi mari kita mulai dengan kasus penggunaan tertentu, ya?
00:11:03Jadi dalam kasus penggunaan khusus ini, yang saya miliki adalah situasi di mana ini adalah contoh nyata yang ingin saya ambil untuk kalian.
00:11:12Saya mendapat email, hanya contoh kuesioner keamanan, benar?
00:11:15Hei, saya mendapat email dari Dave di Stitch Fix, dan itu adalah sekumpulan pertanyaan yang ingin saya jawab, kan?
00:11:20Jadi email saya dibuka, dikatakan email tersebut memiliki tangkapan layar dari orientasi keamanan mereka, lalu sistem mulai menjawab pertanyaan-pertanyaan itu, ya?
00:11:30Saya tidak tahu bagaimana ia bisa tahu.
00:11:32Saya cukup terkejut melihat bahwa ia menjawab semua pertanyaan tentang, hei, ini pusat kepercayaan kita, begini tampilan keamanan kita, mereka punya gateway, ya?
00:11:40Ia melakukan sesuatu.
00:11:41Semua ini berasal dari otak perusahaan, ya, yaitu jawaban atas hal tersebut, lalu saya melanjutkan dan berpikir, hei, kirimkan saja ini.
00:11:50Saya suka draf ini, silakan kirim draf ini ke Dave, ya?
00:11:53Lalu ia pergi dan mengirim email itu, contoh yang sangat sederhana dari apa yang ingin saya lakukan.
00:11:57Sekarang, tantangannya di sini, dan masalahnya adalah bagaimana kita membangun sistem, di mana orang lain dapat berkontribusi dan digunakan oleh orang ketiga?
00:12:13Bagaimana pengetahuan tentang apa sistem keamanan kita ini bisa masuk?
00:12:18Bisa diduga, orang lain telah mengerjakan kuesioner keamanan yang sama, bukan?
00:12:22Jadi mereka punya, katakanlah, agen Hermes atau apa pun.
00:12:24Mereka sedang mengerjakannya.
00:12:25Anda otomatis menyimpan beberapa memori.
00:12:27Mungkin seseorang menuliskan sebuah keterampilan.
00:12:28Bagaimanapun caranya bagian itu harus sampai ke agen AI saya.
00:12:32Bagaimana kita akan mewujudkannya, ya?
00:12:35Sekarang, mari kita coba hal nomor satu yang sudah jelas, yaitu setiap orang menulis keterampilan bersama untuk satu sama lain di GitHub.
00:12:42Jadi pertama kali kuesioner keamanan dijawab oleh petugas keamanan Anda, bayangkan petugas keamanan dan kepatuhan Anda di dalam kepala Anda, kan?
00:12:50Sekarang, bayangkan setelah mereka menjawab kuesioner tersebut—menjawab kuesioner itu sangat menyebalkan.
00:12:56Setelah menjawab lembar Excel kuesioner yang sangat besar ini, mereka kemudian pergi ke GitHub dan memperbarui keterampilan bersama, ya?
00:13:04Banyak dari Anda cukup beruntung bekerja dengan orang-orang yang begitu baik yang mau pergi dan memperbarui keterampilan bersama di repositori GitHub, kan?
00:13:16Sebagian besar orang tidak akan melakukannya.
00:13:18Tidak seorang pun akan menulis keterampilan untuk orang lain di GitHub.
00:13:24Hal itu bukanlah sesuatu yang alami bagi kita, bukan?
00:13:27Dalam keseharian bekerja, kita tidak tiba-tiba memutuskan bahwa, aduh, ini mungkin sangat berguna bagi orang lain yang bahkan tidak saya kenal, yang tidak terhubung dengan saya dalam situasi ini di masa depan.
00:13:39Tidak akan terjadi.
00:13:40Saya bahkan hampir tidak bisa mengatur memori dan konteks saya sendiri.
00:13:44Saya tidak punya waktu untuk mengirimkannya ke orang lain, atau mencatatnya untuk orang lain.
00:13:49Kedua, daripada memiliki otak perusahaan, mengapa tidak membuat otak tim?
00:13:53Mengapa kalian semua tidak menggunakan satu yang bersama-sama?
00:13:55Mengapa tim keamanan tidak menggunakan satu silo bersama tempat Anda bisa melakukan ini?
00:14:01Jadi, bangun agen dan biarkan ia menyimpan memori itu sendiri, ya?
00:14:04Dan itulah arsitektur yang saya duga dimiliki oleh banyak dari Anda, mungkin dengan Hermes yang ditambahkan ke Slack.
00:14:09Apakah ada di antara Anda yang memiliki situasi otak tim di mana ada AI yang digunakan banyak orang yang menyimpan memori dan menambahkan konteks secara otomatis?
00:14:18Apakah ada yang sudah memiliki semacam keterampilan yang melakukan itu, khusus untuk tim kecil?
00:14:23Satu. Ada lagi? Baiklah.
00:14:24Baiklah, beberapa dari Anda memilikinya. Itu bagus.
00:14:26Ini bagus, tapi masalahnya ini masih belum menjadi otak perusahaan karena masih terisolasi, kan?
00:14:31Jadi ini seperti satu silo lagi, ya? Seperti, misalnya, jika ini seperti dengan claw tag, ia memiliki memori per saluran, ya?
00:14:40Jadi di setiap saluran, itu disimpan, tetapi sekarang itu menjadi silo lain di saluran tersebut, ya?
00:14:46Jadi sekarang, sekali lagi, itu terkunci di satu tempat dan tidak bisa digunakan di tempat lain.
00:14:50Jadi jika seseorang ditambahkan ke saluran itu, itu akan berfungsi, tetapi jika tidak, itu tidak akan berfungsi.
00:14:55Dan jadi ini adalah opsi ketiga.
00:14:59Opsi ketiga adalah mengatakan bahwa semua konteks masuk ke dalam satu wiki bersama.
00:15:06Wiki adalah sekumpulan file markdown, dan file markdown dapat saling menautkan.
00:15:08Jadi bayangkan sebuah folder raksasa.
00:15:10Folder itu memiliki banyak file markdown, benar?
00:15:13Dan file markdown dapat saling menautkan.
00:15:16Jadi semua konteks, alih-alih menyimpannya di dalam folder atau menyisoikannya,
00:15:21Anda memasukkannya ke dalam file markdown, yang setara dengan file markdown,
00:15:25dan Anda membiarkannya saling menautkan.
00:15:28Hal kedua yang Anda lakukan adalah Anda mengizinkan setiap file memiliki cakupan
00:15:33tentang siapa yang dapat memiliki akses baca/tulis ke file tersebut.
00:15:38Hal ketiga yang Anda lakukan, yang paling penting,
00:15:42Anda tidak membiarkan agen menambahkan memori secara otomatis.
00:15:49Anda tidak membiarkannya menambah secara otomatis karena jika ya, Anda tidak tahu apa yang terjadi, bukan?
00:15:55Kita kembali ke dunia yang sama di mana beberapa hal ditambahkan,
00:16:00dan selama Anda berada di dalam memori agen itu, Anda beruntung, benar?
00:16:04Jadi hal ketiga yang Anda lakukan adalah alih-alih membiarkan agen otomatis menambah,
00:16:07lakukan sesuatu yang memungkinkan agen Anda menyarankan apa yang ditambahkan dengan cakupan apa,
00:16:16lalu biarkan manusia menerima atau menolaknya.
00:16:21Jadi itu tidak seberat GitHub, di mana saya harus masuk dan menulis ini, memperbarui keterampilan bersama,
00:16:28melakukan tinjauan PR, lalu menggabungkannya.
00:16:30Tetapi itu juga tidak sembarangan seperti memori yang ditulis secara otomatis oleh agen,
00:16:36benar? Ini adalah titik pas di mana, saat Anda sedang bekerja,
00:16:40Anda memunculkannya, menyarankan cakupan yang tepat, dan membiarkan seseorang menambahkannya.
00:16:45Jadi sekarang yang terjadi adalah dengan penambahan yang sangat sederhana ini, Anda dapat membiarkan orang menambahkan
00:16:51ke wiki raksasa, tetapi Anda membiarkan orang itu mengambil tanggung jawab atas apa yang dapat mereka lihat atau tidak.
00:16:57Jadi jika saya menambahkan sesuatu ke wiki keuangan, saya ingin memastikan -- saya menambahkan sesuatu
00:17:01yang sensitif, saya ingin memastikan itu memiliki cakupan keuangan.
00:17:03Jika saya menambahkan sesuatu yang bersifat pribadi, saya ingin memastikan itu memiliki cakupan pribadi.
00:17:06Izinkan saya menunjukkan contoh UX seperti apa bentuknya. Inilah yang kami lakukan.
00:17:15Ini adalah email terbaru yang saya terima dari salah satu perwakilan penjualan kami yang menambahkan saya ke sebuah panggilan.
00:17:33Saya melihat email itu, membantu menjawabnya, dan kemudian saya mendapat kotak kecil yang menyarankan
00:17:39serangkaian poin yang memberi tahu saya apa yang akan ditambahkan, ya?
00:17:43Dan ketika saya menekan tombol tambahkan ke wiki -- dan sekarang jauh lebih mudah bagi saya untuk meninjau apa yang ditambahkan.
00:17:47Saya tidak peduli. Saya tidak peduli apakah itu ditambahkan ke file markdown ini, file markdown itu,
00:17:52tautan apa yang diurus oleh agen. Yang saya pedulikan adalah apakah fakta-fakta ini benar?
00:17:58Jika fakta-fakta ini benar, saya akan mengeklik tambahkan ke wiki dan saya selesai, ya?
00:18:02Dan selama waktu penambahan ke wiki, saya dapat memilih cakupan apa yang perlu ditambahkan per halaman wiki atau tidak,
00:18:08benar? Jadi setiap halaman wiki itu sendiri bisa mendapatkan seperangkat cakupan tertentu yang ingin Anda tentukan
00:18:12siapa yang mendapat akses ke apa, misalnya, ya? Jadi contohnya, email saya, ini adalah halaman wiki
00:18:17yang saya miliki untuk email saya dan bagaimana email saya diprioritaskan, dan saya sekarang dapat memutuskan siapa yang mendapat akses
00:18:22ke ini, siapa pemiliknya dan apa RBAC untuk ini. Jadi sistem seperti apa pun itu
00:18:26terserah kepada Anda, tetapi inti utamanya adalah Anda ingin membuat agen menyarankan perubahan
00:18:32daripada melakukan perubahan itu sendiri. Baiklah. Jadi ada dua aturan. Pertama, pastikan semuanya masuk ke satu
00:18:38wiki perusahaan jangan mundur dari aturan ini. Kedua, pastikan bahwa, sebagai bagian dari itu,
00:18:44setiap perubahan didukung oleh nama manusia. Tidak ada yang boleh diizinkan masuk ke dalam wiki yang berbunyi Claude menambahkan ini
00:18:51atau agen AI Anda yang menambahkan ini atau Hermes yang menambahkan ini. Tidak, Tanmay yang menambahkan ini. Nama itu harus
00:18:57ada sehingga Anda dapat melacaknya kembali bahwa inilah orang yang mengacaukan dan membiarkan semua orang melihat,
00:19:04misalnya, gaji setiap orang. Dan, terserahlah. Sekarang Anda dapat mengambil tindakan perbaikan,
00:19:09apa pun itu. Masukkan mereka ke PIP. Anda tidak tahu cara mengedit wiki. Jadi itu sangat,
00:19:14sangat penting. Dan aturan nomor dua, begitu Anda memutuskannya, Anda kemudian dapat beralih ke cakupan kedua yaitu,
00:19:19oke, Anda harus memudahkan mereka melakukannya, yang mana di sinilah masalah cakupan ini masuk,
00:19:23di mana Anda ingin mencakupi setiap file sesuai dengan siapa yang mendapat akses. Anda akan membangun semacam sistem
00:19:26di sekitarnya. Seperti inilah diagram arsitektur dari hal tersebut, di mana Anda memiliki pengguna,
00:19:32pengguna berbicara dengan agen. Agen, saat membaca konteks, menggunakan klaim pengguna tersebut, ya?
00:19:39Jadi jika saya membaca sesuatu untuk menyelesaikan masalah keuangan, itu menggunakan klaim keuangan untuk membaca sebagai
00:19:46saya karena saya memiliki akses ke wiki keuangan sehingga saya dapat membacanya dan itu dilakukan setiap saat,
00:19:52benar? Jadi agen selalu menggunakan kredensial pengguna untuk membaca bagian wiki yang tepat.
00:20:00Baiklah. Waktu saya hampir habis untuk kasus penggunaan kedua. Jadi yang akan saya lakukan adalah memberikan Anda
00:20:06gambaran singkat tentang kasus penggunaan kedua, tetapi kembangkan gagasan ini. Ini adalah kasus penggunaan utama. Ini seperti,
00:20:13ini kasus penggunaan yang sangat besar. Ini kasus penggunaan yang sangat rumit karena sekarang
00:20:17ini bukan hanya satu orang yang menjawab email. Ini adalah sekelompok dari kita yang menggunakan konteks bersama
00:20:25untuk menyelesaikan masalah dengan berbagai tingkat eskalasi hak istimewa secara bersamaan,
00:20:31benar? Dan ini adalah jenis interaksi dengan AI di mana jumlah terbesar pengetahuan otak perusahaan
00:20:36diciptakan, ya? Misalnya, saya akan menunjukkan contoh nyata singkat
00:20:42tentang apa rupanya bagi kami. Jadi ini adalah kasus dari situasi SRE di mana
00:20:50seseorang berkata, Hei, pembelajaran otomatis kita, pembelajaran wiki kita, cukup meta, gagal. Itu tidak
00:20:57berfungsi. Ada apa? Benar? Dan kemudian ia mulai melakukan investigasi dan itu menyebalkan karena,
00:21:02itu tidak memiliki keterampilan. Itu gagal. Jadi seperti, bro, jangan lakukan ini. Silakan gunakan nama rentang open telemetry ini.
00:21:07Menggunakan nama rentang open telemetry. Itu melakukan pekerjaan yang sedikit lebih baik, tetapi masih sangat lambat. Jadi
00:21:13ia melihat kode tersebut dan berkata, Oh, Anda menggunakan kueri like. Anda, Anda, Anda bodoh.
00:21:18Ini adalah opus 4.5. Um, seperti jangan lakukan ini. Benar? Jadi dia berkata, jangan gunakan kueri like,
00:21:24gunakan kueri equals. Benar? Dan kemudian ia melakukan kueri equals dan menampilkan beberapa detail dan,
00:21:29lalu dia berkata, Oh, gali lebih dalam ke hal ini. Dan itu mengatakan, terserahlah, ini adalah baris kode tempat
00:21:33kesalahan itu berasal. Hal sederhana, ya? Di sinilah ia menampilkan beberapa pengetahuan dan mengatakan,
00:21:39aha, saya belajar bahwa saya harus menggunakan equals dan bukan like, ya? Saya belajar bahwa jika Anda memiliki prefiks kustom
00:21:45yang ditambahkan ke nama halaman wiki, itu dapat menyebabkan masalah. Benar? Um, jadi ia menawarkan pembelajaran ini
00:21:50yang dapat Anda pilih untuk diterima. Jadi dia menggali lebih dalam, um, tentang apa masalahnya.
00:21:56Seseorang bergabung dalam percakapan, benar? Dan berkata, keputusan teknis yang telah kita buat di sini adalah
00:22:02salah. Mengapa ini terjadi? Dan sekarang dua orang mulai berdebat, ya? Mereka berdebat.
00:22:09Mengatakan, Hei, seharusnya tidak seperti ini. Seharusnya seperti ini. Tapi mengapa seperti ini? Tapi seharusnya
00:22:12seperti ini, bukan? Perdebatan itu menciptakan pengetahuan karena masalah sebenarnya adalah seseorang membuat
00:22:17keputusan teknis yang tidak didokumentasikan. Benar? Ketika mereka memutuskan untuk memperbaiki masalah itu, dan mereka
00:22:22mengamati bahwa itulah akar penyebabnya, dan mereka memutuskan bahwa inilah cara masalah itu akan diselesaikan.
00:22:26Hei, kita harus menghapus prefiks ini yang menyebabkan masalah, terserahlah, apa pun masalahnya,
00:22:31itu menciptakan konteks kualitas tertinggi untuk ditambahkan ke otak Anda. Karena saran sebelumnya adalah
00:22:38mengatakan, eh, halaman seharusnya tidak halaman memiliki prefiks, tetapi fakta bahwa halaman memiliki prefiks adalah masalah.
00:22:44Benar? Jadi sekarang hal yang Anda dokumentasikan di otak adalah halaman tidak boleh memiliki prefiks.
00:22:49Jika mereka memiliki prefiks, itu dapat menyebabkan masalah pencarian di prod. Ini terjadi ketika banyak orang berbicara dengan
00:22:54satu sama lain. Benar? Dan menyelesaikan masalah bersama-sama. Inilah yang terjadi di utas Slack ketika dua orang berbicara satu sama lain
00:22:59dan menyelesaikan masalah. Itu menciptakan konteks kualitas tertinggi. Tapi, dan itulah yang Anda inginkan di sini.
00:23:05Tetapi tantangannya adalah peningkatan hak istimewa di sekitar ini menjadi sangat, sangat serius.
00:23:10Jika Anda membangun agen yang dapat melakukan segalanya yang dikelilingi oleh banyak orang, itu menakutkan.
00:23:18Karena insinyur diizinkan melakukan pekerjaan PR, tetapi sekarang saya dapat menggunakan agen yang sama untuk
00:23:23menerapkan ke prod. Itu terlalu menakutkan. Saya tidak dapat melakukan percakapan di mana saya melakukan debug dan
00:23:29menerapkan dengan aman. Benar? Terutama jika Anda berada di bank. Benar? Seperti orang-orang yang melakukan debug,
00:23:35menerapkan ke staging, menyiapkan peringatan, dan menerapkan bukanlah orang yang sama. Tetapi menjadi sama memiliki
00:23:40banyak nilai karena di Itulah tempat semua pengetahuan berada. Benar? Dan itu membawa kita ke
00:23:45arsitektur kedua, yang tidak akan saya bahas terlalu detail. Tetapi anggap saja itu sebagai gagasan yang sama
00:23:49di mana kredensial pengguna dan klaim digunakan untuk membaca konteks. Alih-alih itu, gunakan juga kredensial pengguna.
00:23:58Benar? Ketika kode sedang mengeksekusi alat. Jadi jangan pernah menyimpan kredensial di kotak pasir.
00:24:05Sebagai gantinya, pada lapisan HTTP, pada lapisan SQL, masukkan kredensial pengguna, yang memungkinkan AI berperilaku sebagai
00:24:13manusia dalam interaksi tertentu. Benar? Jadi ada detail yang menarik di sini. Tetapi itulah yang
00:24:20memungkinkan AI bersama bekerja dengan konteks bersama. Benar? Dan itulah dua bagian kunci untuk bekerja.
00:24:25Jadi saya akan menyimpulkan, dan arsitektur ini tidak terlalu rumit, tetapi sangat sederhana
00:24:30untuk dikerjakan kembali dari dua aturan ini. Jangan menyimpan kredensial di kotak pasir cloud. Dan kedua,
00:24:36virtualisasikan semua interaksi dengan data nyata, proksikan, virtualisasikan, kata apa pun yang ingin Anda gunakan,
00:24:41dan biarkan pengguna mengendalikannya. Jadi pengguna yang menambahkan alat tertentu harus mengontrol siapa yang mendapat akses ke
00:24:48alat tertentu tersebut. Jadi Anda dapat menurunkan seluruh hal ini jika Anda mengikuti keempat prinsip ini
00:24:53dan bekerja mundur dari situ. Hanya ada satu arsitektur yang mungkin yang masuk akal
00:24:58dalam cara Anda mengelola konteks dan batasan apa yang Anda tetapkan serta bagaimana Anda mengelola alat dan aturan keamanan apa
00:25:02yang Anda tetapkan. Waktu saya habis. Dan jadi saya senang mengobrol lebih banyak setelah ceramah. Kami juga memiliki stan,
00:25:10jadi dengan senang hati mengobrol lebih banyak melalui itu tentang nuansa apa yang ada di dalam arsitektur ini. Saya Tanmay Goh di
00:25:16Twitter. Kami disebut PromptQL. Silakan periksa kami. Pada akhirnya, dengan komunitas teknik AI,
00:25:24kami akan melakukan peluncuran produk. Dan jadi saya ingin sekali membagikannya, teman-teman, membagikannya kepada semua orang.
00:25:30Saya akan mengambil foto dengan semua orang di atas panggung agar saya dapat membagikannya. Dan biarkan saya melakukannya saat saya berada di sini.
00:25:40Baiklah. Apakah teman-teman ingin bilang keju?
00:25:45Terima kasih banyak. Jadi nantikan itu. Ini adalah pendekatan kami terhadap Cloud Tag, yaitu PromptQL Tag,
00:25:52yang sangat mirip dengan ide-ide yang kita bahas di sini, kecuali Anda tidak terjebak pada Cloud.
00:25:57Anda dapat menggunakan GLM, dan Anda dapat menggunakan GPT, lalu Sol keluar, dan kita dapat menggunakannya dan bersenang-senang.
00:26:03Jadi silakan periksa itu. Dan kalau tidak, sampai jumpa lagi, teman-teman.
00:26:19Kami akan segera kembali.