7 Tingkatan Claude Code & RAG

하이라이트

• Pembusukan konteks (context decay) menurunkan performa Claude Code dari 92% menjadi 78% saat jendela konteks terisi hingga 256.000 token.

• Sistem RAG tekstual mampu memberikan jawaban 1200 kali lebih cepat dan 1200 kali lebih murah dibandingkan penggunaan LLM murni dalam skenario dokumen besar.

• File clod.md berfungsi sebagai instruksi utama yang dirujuk pada setiap prompt, namun pengisian berlebihan dapat menimbulkan polusi konteks yang merusak akurasi.

• Metode Obsidian Knowledge Base dari Andrej Karpathy menggunakan struktur folder 'raw' dan 'wiki' untuk mengelola ribuan dokumen tanpa memerlukan database vektor.

• LightRAG merupakan sistem GraphRAG ringan yang meningkatkan performa pengambilan informasi hingga lebih dari 100% dibandingkan sistem RAG naif konvensional.

• Per April 2026, Agentic RAG tingkat lanjut melibatkan ingesti multimodal yang mendukung format video melalui Gemini Embedding 2 dan pembersihan data otomatis.

• Kombinasi RAG Anything dan LightRAG adalah solusi open-source paling efisien bagi operator solo untuk menangani data gambar dan PDF yang dipindai.

타임라인

1. 00:00 - 09:04

   Masalah Memori Otomatis dan Pembusukan Konteks

   Banyak pengguna terjebak pada Level 1 karena hanya mengandalkan sistem memori bawaan tanpa intervensi manual. Fenomena pembusukan konteks menjadi hambatan utama, di mana akurasi jawaban merosot ketika sesi obrolan menjadi terlalu panjang. Strategi terbaik adalah bersikap agresif dalam membersihkan dan mengatur ulang percakapan untuk menjaga efisiensi token dan akurasi model.

   • Memori otomatis Claude Code membuat file markdown di folder .clod/projects/memory berdasarkan intuisi AI yang sering kali kurang relevan.
   • Ketakutan akan kehilangan riwayat percakapan memicu perilaku mempertahankan satu jendela obrolan dalam waktu yang sangat lama.
   • Kinerja AI menurun secara signifikan seiring dengan bertambahnya jumlah token yang memenuhi jendela konteks satu juta token.
2. 09:05 - 15:49

   Optimasi Konteks Melalui clod.md dan Arsitektur Multi-File

   Level 2 dan 3 berfokus pada pengambilan peran aktif dalam mengelola memori proyek. Penggunaan file tunggal seperti clod.md sering kali menyebabkan polusi konteks jika diisi terlalu banyak aturan. Transisi ke arsitektur multi-file memungkinkan AI untuk menavigasi informasi secara hierarkis, yang merupakan bentuk awal dari sistem pemotongan (chunking) pada RAG yang lebih canggih.

   • File clod.md bertindak sebagai buku aturan statis yang dibaca AI sebelum melaksanakan setiap tugas dalam sebuah proyek.
   • Prinsip 'less is more' sangat penting karena menyertakan informasi yang tidak relevan di clod.md justru menurunkan efektivitas model.
   • Sistem Get Shit Done (GSD) memecah memori ke dalam file terpisah seperti requirements.md dan roadmap.md untuk melawan pembusukan konteks.
3. 15:50 - 25:56

   Obsidian Sebagai Solusi Basis Pengetahuan LLM

   Level 4 memperkenalkan Obsidian sebagai alat eksternal untuk membangun basis pengetahuan yang transparan bagi manusia dan AI. Dengan menggunakan metode folder mentah dan wiki terstruktur, Claude Code dapat melakukan pencarian melalui alat grep internal tanpa biaya database vektor. Meskipun RAG tekstual secara teori jauh lebih cepat dan murah untuk skala raksasa, Obsidian tetap menjadi titik keseimbangan terbaik antara kemudahan penggunaan dan performa.

   • Obsidian merupakan solusi 99% bagi operator solo karena menyediakan wawasan visual terhadap hubungan antar dokumen secara gratis.
   • Struktur vault Andrej Karpathy menggunakan folder wiki dengan file indeks utama untuk mengarahkan pencarian Claude Code secara akurat.
   • Sistem berbasis file markdown di Obsidian dapat menangani ribuan dokumen selama jalur pencarian informasinya terstruktur dengan jelas.
4. 25:57 - 35:20

   Mekanisme RAG Naif dan Database Vektor

   Level 5 adalah tahap pemahaman infrastruktur dasar RAG yang terdiri dari tahap embedding, database vektor, dan retrieval. Dokumen diubah menjadi koordinat numerik berdasarkan makna semantiknya, sehingga AI dapat menarik data di luar data pelatihannya. Kelemahan utama sistem ini adalah ketidakmampuannya menghubungkan informasi yang tersebar di potongan-potongan dokumen yang berbeda.

   • Proses RAG melibatkan pemotongan dokumen menjadi chunk, konversi menjadi vektor melalui model embedding, dan penyimpanan dalam database multi-dimensi.
   • RAG naif sering kali gagal karena hanya menarik potongan informasi secara terisolasi tanpa memahami konteks dokumen secara utuh.
   • Sistem yang hanya mengandalkan pencarian kemiripan vektor tanpa re-ranker canggih hanya memiliki tingkat keberhasilan sekitar 25%.
5. 35:21 - 45:55

   GraphRAG dan Masa Depan Agentic RAG Multimodal

   Level 6 dan 7 mewakili puncak teknologi memori AI saat ini. GraphRAG mengatasi keterbatasan RAG naif dengan memetakan hubungan antar data, yang menghasilkan peningkatan performa hingga dua kali lipat. Di level tertinggi, agen AI bertindak sebagai pengambil keputusan cerdas yang memilih jalur kueri terbaik, baik melalui database grafik maupun kueri SQL tradisional, untuk menjawab kebutuhan tim yang kompleks.

   • LightRAG menggunakan desain kueri hibrida vektor dan grafik untuk mengekstrak hubungan antar entitas secara otomatis.
   • Agentic RAG di Level 7 mengintegrasikan Gemini Embedding 2 untuk mengindeks konten video secara langsung ke database vektor.
   • Keberhasilan sistem RAG produksi ditentukan oleh pipa ingesti data yang mampu melakukan pembersihan, sinkronisasi, dan pembaruan versi otomatis.