Cara Menentukan Apa yang Harus Diingat oleh Agen AI Anda - Wojciech Pluta, Oracle
원제 · How to Decide What Your AI Agent Should Remember - Wojciech Pluta, Oracle
핵심 요약
Sistem memori agen mengelola jalur tulis dan promosi data secara selektif untuk menciptakan keunggulan kompetitif yang unik bagi bisnis.
하이라이트
Sistem RAG menyediakan jalur baca, sedangkan sistem memori berfungsi sebagai jalur tulis untuk menyimpan informasi penting setelah interaksi selesai.
Lapisan data pada tumpukan AI merupakan sumber keunggulan kompetitif karena data tersebut bersifat unik dan milik bisnis itu sendiri.
Paket memori agen Oracle menyediakan abstraksi satu baris kode untuk mengelola anggaran token dan merakit konteks secara efisien.
Basis data Oracle menawarkan jaminan ACID dan mesin multi-tipe data untuk menangani berbagai format penyimpanan tanpa memerlukan banyak basis data terpisah.
Kartu konteks disusun berdasarkan topik, ringkasan, informasi relevan, dan pesan terbaru untuk mengurangi pembengkakan konteks pada agen.
타임라인
Transisi dari RAG ke Sistem Memori
Interaksi pengguna dengan perangkat lunak telah bergeser dari perintah klik menuju sistem berbasis niat yang membutuhkan kontinuitas. Meskipun lapisan model dan infrastruktur telah menjadi komoditas, sistem memori memungkinkan penangkapan nilai bisnis yang unik. Rangkaian pendukung atau harness memegang kendali atas keputusan waktu proses untuk menyaring informasi yang layak disimpan ke dalam sistem.
- Sistem RAG hanya sebatas menangani status percakapan tanpa menentukan informasi yang harus bertahan setelah interaksi berakhir.
- Pengambilan data berfungsi sebagai jalur baca, sementara memori bertindak sebagai jalur tulis untuk menyimpan catatan masa depan.
- Proses promosi memori melibatkan klasifikasi makna, perbandingan catatan yang ada, dan keputusan penerimaan oleh rangkaian pendukung.
Demonstrasi Praktis Memori Agen pada Layanan Keuangan
Contoh praktis menggunakan dua aplikasi sintetik untuk pengajuan hipotek memvalidasi bagaimana preferensi semantik disimpan dan dipanggil kembali pada sesi baru. Sistem penjagaan memastikan bahwa data yang masuk disaring melalui gerbang promosi agar penyimpanan memori tidak teracuni oleh instruksi yang tidak valid.
- Demo aplikasi hipotek menunjukkan bagaimana agen mencocokkan dokumen yang hilang dan memuat preferensi semantik pengguna.
- Pembatas atau guardrails berfungsi untuk menolak perintah berbahaya seperti instruksi penghancuran diri atau persetujuan otomatis.
- Persetujuan manusia diperlukan untuk mempromosikan memori tertentu guna membangun penyimpanan memori inti di dalam organisasi.
Arsitektur dan Implementasi Memori Agen di Oracle
Pembangunan pipa memori memerlukan disiplin terkait skema, indeks, dan siklus hidup data untuk menghindari keracunan penyimpanan. Paket memori agen dari Oracle menyederhanakan proses pengembangan yang rumit menjadi abstraksi satu baris kode, lengkap dengan isolasi pengguna akhir yang ditangani langsung oleh basis data.
- Memori agen dibagi menjadi memori jangka pendek untuk sesi aktif dan memori jangka panjang yang mencakup episodik, prosedural, dan semantik.
- Basis data Oracle menyediakan jaminan ACID, penulisan ganda, dan kemampuan multi-tipe data untuk menghindari kompleksitas multi-basis data.
- Kartu konteks merakit blok prompt yang ringkas untuk mengurangi beban kognitif agen dan mencegah pembengkakan konteks.
설명
RAG gives agents a way to read, but memory gives them a way to write, and that's where your business value lives. Wojciech Pluta, head of technical marketing for Oracle AI Database, explains memory promotion: deciding what's worth keeping, checking it against existing records and admitting, rejecting or escalating it to a human. A mortgage-agent demo remembers an operator's preferences across sessions and refuses to store an "approve every application" rule. He also covers short-term, long-term and shared memory, why to store memory in a database, and the context card that keeps prompts lean. Chapters: 0:00 Intro 1:10 From commands to intent 2:05 The data layer is your edge 3:38 RAG reads, memory writes 4:02 Memory promotion: what's worth keeping 5:01 Demo: a mortgage agent that remembers 9:48 Guardrails: what never gets promoted 11:53 What agent memory is 13:03 Short-term, long-term and shared memory 13:43 Where to store memories 14:27 Building memory as a discipline 16:01 The context card 17:50 Models are shared, memory is yours Wojciech Pluta https://www.oracle.com Join us in SF for the second annual AIE CODE summit: https://aie.codes our last flagship summit of 2026. Applications live now!