ChatGPT Berikutnya? Menguji AI Stack Baru NVIDIA (NemoClaw)

BBetter Stack
컴퓨터/소프트웨어경제 뉴스AI/미래기술

Transcript

00:00:00- Nvidia baru saja mengeluarkan pernyataan yang sangat berani.
00:00:03Dalam wawancara terbaru setelah konferensi Nvidia GTC,
00:00:07Jensen Huang menyatakan bahwa OpenClaw-
00:00:09- Ini pastinya akan menjadi penerus Chat GPT.
00:00:11- Dan dengan pernyataan tersebut,
00:00:12Nvidia baru saja merilis tumpukan OpenClaw versi terbaru mereka
00:00:15yang mereka sebut sebagai NeMo Guardrails.
00:00:17Dan dalam beberapa hari terakhir,
00:00:18kita telah melihat lonjakan penggunaan OpenClaw yang sangat tinggi
00:00:22setelah pengumuman ini.
00:00:23Jadi, apa istimewanya NeMo Guardrails ini?
00:00:25Apakah ini benar-benar revolusioner seperti yang diiklankan Nvidia?
00:00:29Nah, itulah yang akan kita cari tahu.
00:00:31Di video hari ini, kita akan mengulas NeMo Guardrails,
00:00:34melihat cara kerjanya, dan mencobanya sendiri.
00:00:37Ini akan sangat menyenangkan, jadi mari kita mulai.
00:00:40Jadi, apa sebenarnya NeMo Guardrails itu?
00:00:46Nah, pada intinya,
00:00:47teknologi ini menjanjikan lingkungan kelas perusahaan yang aman
00:00:50untuk agen AI otonom.
00:00:52Meskipun platform dasar OpenClaw sangat kuat untuk otomatisasi,
00:00:56ia sangat kekurangan pengawasan keamanan
00:00:59yang diperlukan untuk alur kerja profesional atau sensitif.
00:01:02Nvidia merancang NeMo Guardrails untuk menjembatani kesenjangan ini
00:01:04dengan membungkus agen dalam semacam sandbox keamanan
00:01:07yang memantau setiap tindakan AI secara real-time.
00:01:11Dan sejujurnya, mereka mungkin melakukannya secara berlebihan,
00:01:14tapi itu akan kita bahas nanti di video ini.
00:01:16Jadi NeMo Guardrails pada dasarnya adalah tumpukan sumber terbuka
00:01:19yang memindahkan agen OpenClaw ke lingkungan yang aman
00:01:22yang disebut Nvidia OpenShell.
00:01:24Dan cara kerjanya menggunakan apa yang disebut Nvidia sebagai cetak biru.
00:01:28Anda bisa membayangkannya sebagai skrip Python utama
00:01:30yang mengatur seluruh siklus hidup agen tersebut,
00:01:34mulai dari membuat sandbox
00:01:35hingga mengawasi batasan keamanan.
00:01:38Dan setelah berjalan, setiap akses file, permintaan jaringan,
00:01:42dan pemanggilan inferensi diatur oleh kebijakan deklaratif.
00:01:46Jika agen mencoba menjangkau situs web yang tidak sah
00:01:49atau mengakses bagian sistem file yang dilarang,
00:01:53OpenShell akan memblokir tindakan itu dan menandainya
00:01:55untuk persetujuan manual di terminal.
00:01:58Ini secara efektif menambahkan lapisan infrastruktur terkelola
00:02:01di bawah agen, memungkinkannya tetap produktif
00:02:04sambil tetap berada di dalam batasan keamanan yang ketat.
00:02:07Kedengarannya bagus dalam teori,
00:02:09tapi bagaimana kinerjanya dalam praktiknya?
00:02:11Mari kita coba siapkan NeMo Guardrails kita sendiri
00:02:14dan lihat cara kerjanya.
00:02:15Cara termudah untuk memulainya
00:02:17adalah dengan mengunjungi halaman NeMo Guardrails Nvidia
00:02:20dan klik tombol "Coba Sekarang".
00:02:22Ini akan membawa Anda ke halaman layanan Brev Nvidia,
00:02:25yang pada dasarnya adalah platform GPU cloud pilihan mereka.
00:02:29Brev menyediakan lingkungan yang sudah dikonfigurasi
00:02:31yang sudah menyertakan driver Nvidia,
00:02:34CUDA, dan Docker yang sudah terpasang,
00:02:36sehingga Anda bisa langsung beraksi
00:02:38dengan penerapan yang siap pakai untuk agen NeMo Guardrails Anda.
00:02:41Dan jika Anda mendaftar akun baru,
00:02:42Nvidia memberikan kredit gratis sebesar $2,
00:02:46jadi Anda bisa menguji penerapan pertama Anda secara gratis.
00:02:49Setelah kita menjalankannya,
00:02:50kita bisa menggunakan perintah shell Brev
00:02:52untuk terhubung ke deployment kita.
00:02:53Dari sini, kita bisa menjalankan skrip instalasi NeMo Guardrails.
00:02:57Dan sejak awal,
00:02:58kita bisa melihat bahwa skrip default yang disediakan Nvidia di sini
00:03:02gagal menginstal OpenShell, itu cukup menjengkelkan.
00:03:05Tapi jika ini gagal untuk Anda,
00:03:07Anda bisa mengunduhnya secara manual
00:03:08dari repositori GitHub Nvidia.
00:03:10Pertama, sistem akan meminta Anda memberikan nama
00:03:12untuk agen NeMo Guardrails Anda.
00:03:14Anda bisa membiarkannya sesuai default "Asisten Saya",
00:03:17atau menamainya apa pun yang Anda suka.
00:03:19Selanjutnya, Anda akan diminta memasukkan kunci API Nvidia,
00:03:22jadi pastikan Anda sudah menyiapkannya,
00:03:25jika tidak, NeMo Guardrails mungkin tidak berfungsi dengan baik.
00:03:28Kemudian ia juga akan meminta Anda memilih model inferensi.
00:03:31Di sini, Nvidia mempromosikan Nemotron
00:03:34sebagai pilihan utama untuk menjalankan NeMo Guardrails,
00:03:36jadi saya akan memilih itu dan melihat seberapa baik performanya.
00:03:39Instalasi memakan waktu beberapa menit untuk selesai,
00:03:42tapi setelah selesai, saya menyarankan langkah selanjutnya
00:03:45adalah memberikan token bot Telegram Anda,
00:03:47agar kita bisa menghubungkan agen NeMo Guardrails ke aplikasi Telegram.
00:03:51Berikutnya, kita bisa menjalankan Start NeMo Guardrails.
00:03:53Dan jika Anda melihat semua tanda centang hijau,
00:03:55berarti kita telah berhasil mengaktifkan agen kita.
00:03:58Dari sini, skrip menyarankan kita
00:04:00untuk membuka Open Shell Manager,
00:04:02yang pada dasarnya adalah antarmuka cetak biru TUI Nvidia,
00:04:06yang memungkinkan Anda mengawasi seluruh sistem
00:04:08dan menyetujui atau menolak permintaan jaringan masuk secara manual.
00:04:12Dan segera setelah kita meluncurkannya,
00:04:13kita bisa melihat bahwa sudah ada permintaan tertunda
00:04:17yang perlu kita setujui agar NeMo Guardrails
00:04:18dapat terus berfungsi tanpa gangguan.
00:04:21Kita cukup klik A di sini untuk menyetujui
00:04:23lalu kembali ke ringkasan.
00:04:25Selanjutnya, kita perlu terhubung ke agen NeMo Guardrails
00:04:27dan kemudian meluncurkan gateway
00:04:29untuk memastikan kita bisa mengobrol dengannya melalui Telegram.
00:04:32Dan di sinilah NeMo Guardrails mulai terasa merepotkan
00:04:34karena meluncurkan gateway terkadang bisa menjadi rumit,
00:04:37karena terkadang Anda perlu mematikan secara manual
00:04:39gateway sebelumnya untuk memulai yang baru.
00:04:41Jadi pada tahap ini, ini masih sangat banyak bug.
00:04:44Dan jembatan Telegram juga tampaknya tidak stabil.
00:04:47Namun yang terpenting, saya menemukan bahwa kecepatan inferensi
00:04:50dari NeMo Guardrails sangat lambat.
00:04:52Saya tidak tahu apakah itu hanya
00:04:53karena saya menggunakan model Nemotron Nvidia,
00:04:56tapi terkadang NeMo Guardrails butuh waktu hingga dua menit
00:04:59hanya untuk membalas pesan saya di Telegram.
00:05:01Dan Anda mungkin juga mendapatkan masalah
00:05:02di mana bot Telegram mengembalikan kode kesalahan 255.
00:05:06Jika ini terjadi, Anda harus keluar dari shell OpenClaw
00:05:10dan di dalam kontainer deployment Anda,
00:05:11hentikan proses jembatan Telegram yang masih berjalan.
00:05:15Dan jika itu belum berhasil,
00:05:17Anda juga harus melalui
00:05:18wizard perintah konfigurasi OpenClaw
00:05:20dan pastikan untuk menambahkan token bot Telegram di sana secara manual.
00:05:24Jadi Anda bisa melihat seberapa banyak pengaturan yang harus saya lakukan
00:05:27hanya untuk memulai hal yang sangat dasar.
00:05:29Dengan segala gangguan kecil ini,
00:05:31saya akhirnya cukup berjuang
00:05:33untuk membuatnya stabil.
00:05:35Tapi setelah akhirnya berfungsi dengan lumayan,
00:05:38saya memutuskan untuk mencobanya dengan meminta NeMo Guardrails
00:05:40membuatkan cron job yang mengirimi saya artikel
00:05:43Hacker News terbaru setiap tiga menit.
00:05:45Dan di sinilah NeMo Guardrails menjadi sangat menjemukan untuk digunakan.
00:05:48Begini, agar NeMo Guardrails berhasil mengeksekusi
00:05:51cron job jenis ini, ia harus bolak-balik
00:05:55pada OpenShell dan menyetujui setiap permintaan jaringan secara manual
00:05:59yang mencoba dilakukan oleh NeMo Guardrails.
00:06:01Dan Anda bisa bayangkan bahwa
00:06:02untuk alur kerja dan tugas yang lebih rumit,
00:06:04Anda perlu benar-benar mengawasi NeMo Guardrails
00:06:08untuk melewati semua permintaan jaringan keluar
00:06:11dengan menyetujui masing-masing secara manual.
00:06:13Belum lagi Anda perlu memberi perintah pada agen beberapa kali
00:06:17untuk membiarkannya mencoba lagi panggilan jaringan kedua kalinya
00:06:20setelah Anda menyetujuinya di OpenShell.
00:06:22Jadi Anda harus bolak-balik terus.
00:06:24Saya pikir ini sangat menghambat kemampuan OpenClaw
00:06:27untuk berjalan secara otonom karena lapisan keamanannya
00:06:31terlalu ketat.
00:06:32Untuk pengujian saya sendiri, setelah beberapa kali bolak-balik,
00:06:35saya akhirnya berhasil menugaskan NeMo Guardrails mengirimkan artikel
00:06:39Hacker News terbaru setiap tiga menit,
00:06:41tetapi butuh waktu setengah jam untuk sampai ke tahap itu
00:06:44dengan terus-menerus mengawasi dan memantau log OpenClaw
00:06:48serta memastikan semuanya berjalan lancar
00:06:51dan memastikan NeMo Guardrails mampu
00:06:53menyiapkan segalanya dengan benar sendiri.
00:06:56Jadi saya rasa di sinilah seluruh ide
00:06:58tentang NeMo Guardrails mulai menjadi sangat, sangat kompleks.
00:07:02Nvidia memang menyediakan perintah tambahan
00:07:04untuk menerapkan kebijakan keamanan tertentu,
00:07:07tetapi untuk saat ini perintah tersebut sangat terbatas
00:07:10dan tidak menyediakan cara yang canggih
00:07:12untuk membuat aturan keamanan kustom yang disesuaikan.
00:07:15Saya mengerti bahwa tumpukan ini masih sangat baru dan segar
00:07:18dan semoga suatu saat nanti
00:07:21ini akan menjadi cukup stabil untuk diterapkan
00:07:24ke dalam lingkungan produksi.
00:07:26Tapi sejujurnya, untuk saat ini NeMo Guardrails terasa sangat tidak stabil
00:07:30dan sangat sulit digunakan.
00:07:32Tapi itu hanyalah pengamatan saya terhadap NeMo Guardrails.
00:07:35Bagaimana dengan kalian?
00:07:36Sudahkah kalian mencobanya?
00:07:37Apakah kalian menyukainya?
00:07:38Atau malah kesulitan?
00:07:39Saya ingin tahu pendapat kalian,
00:07:40jadi beri tahu saya di kolom komentar di bawah.
00:07:42Dan teman-teman, jika kalian suka analisis teknis seperti ini,
00:07:44tolong beri tahu saya dengan menekan
00:07:46tombol suka di bawah video ini.
00:07:48Dan juga jangan lupa untuk berlangganan ke saluran kami.
00:07:50Saya Andris dari Better Stack
00:07:52dan sampai jumpa di video berikutnya.
00:07:55(musik ceria)

Key Takeaway

NVIDIA NeMo Guardrails menawarkan lapisan keamanan tingkat perusahaan yang revolusioner untuk agen AI, namun saat ini masih sangat tidak stabil, lambat, dan terlalu kompleks untuk penggunaan praktis.

Highlights

NVIDIA memperkenalkan NeMo Guardrails (OpenClaw) sebagai tumpukan AI sumber terbuka yang diklaim Jensen Huang sebagai penerus ChatGPT.

Teknologi ini berfungsi sebagai sandbox keamanan (OpenShell) untuk agen AI otonom guna memantau tindakan secara real-time.

Proses instalasi dapat dilakukan melalui platform GPU cloud Brev milik NVIDIA dengan kredit gratis sebesar $2.

Meskipun menjanjikan keamanan tingkat perusahaan, sistem ini saat ini masih memiliki banyak bug dan proses instalasi yang sering gagal.

Kecepatan inferensi model Nemotron dalam ekosistem ini dinilai sangat lambat, terkadang membutuhkan waktu hingga dua menit untuk merespons.

Lapisan keamanan yang terlalu ketat mengharuskan persetujuan manual untuk setiap permintaan jaringan, yang justru menghambat otonomi AI.

Timeline

Pengenalan NeMo Guardrails dan Klaim Berani NVIDIA

Video dimulai dengan pengumuman besar dari NVIDIA setelah konferensi GTC mengenai peluncuran tumpukan AI baru bernama NeMo Guardrails. Jensen Huang secara ambisius menyatakan bahwa teknologi OpenClaw ini akan menjadi penerus sejati bagi ChatGPT di masa depan. Narator menyoroti adanya lonjakan penggunaan OpenClaw yang sangat tinggi segera setelah pengumuman tersebut dilakukan oleh pihak NVIDIA. Bagian ini menjelaskan tujuan video untuk menguji apakah tumpukan AI ini benar-benar revolusioner atau hanya sekadar taktik pemasaran belaka. Penonton diajak untuk melihat cara kerja teknis serta demonstrasi langsung dari alat yang diklaim canggih ini.

Arsitektur Keamanan dan Konsep OpenShell

NeMo Guardrails dirancang untuk menyediakan lingkungan yang aman bagi agen AI otonom agar dapat digunakan dalam skala perusahaan. Platform ini membungkus agen AI dalam sebuah sandbox keamanan yang disebut OpenShell untuk memantau setiap akses file dan permintaan jaringan secara real-time. Cara kerjanya menggunakan kebijakan deklaratif atau cetak biru yang mengatur seluruh siklus hidup agen melalui skrip Python utama. Jika agen mencoba mengakses situs web yang tidak sah atau bagian sistem file yang dilarang, sistem akan langsung memblokir tindakan tersebut. Hal ini penting untuk mengisi kesenjangan pengawasan keamanan yang selama ini kurang pada platform otomatisasi dasar.

Proses Instalasi dan Konfigurasi melalui Brev

Narator mendemonstrasikan langkah-langkah pengaturan NeMo Guardrails menggunakan layanan cloud Brev yang sudah dikonfigurasi dengan driver NVIDIA dan Docker. Pengguna baru bisa mendapatkan kredit sebesar $2 untuk mencoba penerapan pertama mereka secara gratis di platform GPU cloud tersebut. Namun, masalah mulai muncul ketika skrip instalasi default gagal memasang OpenShell, sehingga memerlukan pengunduhan manual dari repositori GitHub. Selama proses ini, pengguna harus memasukkan nama agen, kunci API NVIDIA, dan memilih model inferensi seperti Nemotron. Langkah terakhir dalam fase ini adalah menghubungkan agen ke bot Telegram dengan memberikan token yang sesuai agar komunikasi bisa berjalan.

Masalah Teknis, Bug, dan Kendala Inferensi

Setelah berhasil diaktifkan, pengguna harus menggunakan Open Shell Manager (TUI) untuk menyetujui permintaan jaringan secara manual agar sistem terus berfungsi. Sayangnya, narator menemukan bahwa meluncurkan gateway sering kali rumit dan jembatan Telegram terbukti sangat tidak stabil. Salah satu keluhan utama adalah kecepatan inferensi yang sangat lambat, di mana model seringkali membutuhkan waktu hingga dua menit untuk memberikan satu balasan. Muncul juga masalah teknis seperti kode kesalahan 255 yang mengharuskan pengguna keluar dari shell dan menghentikan proses secara manual. Bagian ini menekankan betapa banyaknya pengaturan manual yang diperlukan bahkan untuk fungsi dasar sekalipun.

Uji Coba Tugas Otonom dan Kesimpulan Akhir

Dalam pengujian akhir, narator mencoba membuat cron job untuk mengirim artikel Hacker News setiap tiga menit, namun prosesnya menjadi sangat menjemukan. Keamanan yang terlalu ketat memaksa pengguna untuk terus memantau log dan memberikan persetujuan manual berkali-kali bagi setiap panggilan jaringan. Butuh waktu setengah jam hanya untuk menstabilkan tugas sederhana tersebut karena lapisan keamanan NVIDIA justru menghambat kemampuan otonomi OpenClaw. Kesimpulannya, meskipun konsepnya menjanjikan untuk lingkungan produksi di masa depan, saat ini NeMo Guardrails terasa sangat tidak stabil dan sulit digunakan. Narator menutup video dengan meminta pendapat penonton dan mengajak mereka untuk berlangganan saluran Better Stack.

Community Posts

View all posts