7 уровней Claude Code и RAG

하이라이트

• Точность Claude Code падает с 92% до 78% при заполнении контекстного окна на 1 миллион токенов до уровня в 800 000 токенов.

• Эффективность поиска в текстовых RAG-системах может быть в 1200 раз выше и дешевле по сравнению с прямой подачей данных в контекст LLM.

• Файл claud.md служит единым центром инструкций, который ИИ проверяет перед выполнением каждой задачи в проекте.

• Система Obsidian Vault заменяет полноценный RAG для 99% индивидуальных сценариев использования благодаря бесплатной архитектуре на базе Markdown.

• LightRAG демонстрирует прирост точности ответов более чем на 100% (с 31.6% до 68.4%) по сравнению с наивными векторными RAG-системами.

• Модель Gemini Embedding 2 позволяет индексировать видеоконтент напрямую, устраняя необходимость в текстовой транскрипции.

타임라인

1. 00:00 - 08:51

   Проблема разложения контекста и авто-память

   Страх потери истории заставляет пользователей держать чаты открытыми бесконечно, что приводит к деградации качества ответов. При достижении 256 000 токенов точность Claude Code начинает заметно снижаться. Очистка и сброс сессии являются необходимыми инструментами для поддержания производительности и контроля расходов на API.

   • Автоматическая система памяти Claude Code создает Markdown-файлы в папке .claud/projects/memory на основе интуиции модели.
   • Феномен разложения контекста (context rot) снижает точность ответов по мере заполнения окна в 1 миллион токенов.
   • Длинные сессии в терминале увеличивают финансовые затраты из-за высокой стоимости токенов в глубоком контексте.
2. 08:52 - 15:52

   Управление правилами через claud.md и файлы состояния

   Избыточные правила в claud.md часто контрпродуктивны, поэтому рекомендуется придерживаться принципа высокого уровня сигнала. Инструменты оркестрации вроде GSD автоматизируют создание структуры из нескольких Markdown-файлов. Такой подход имитирует работу RAG-системы на малых масштабах без технических накладных расходов.

   • Файл claud.md внедряется в каждый промпт, что может создавать шум и снижать общую эффективность модели.
   • Разделение памяти на файлы project.md, requirements.md, roadmap.md и state.md предотвращает загрязнение контекста.
   • Использование claud.md в качестве индекса позволяет направлять ИИ к конкретным файлам задач вместо хранения всех инструкций в одном месте.
3. 15:53 - 25:57

   Масштабирование базы знаний с помощью Obsidian

   Для большинства индивидуальных разработчиков Obsidian является оптимальным решением, так как он бесплатен и понятен. Использование четкой структуры папок позволяет обходить ограничения по количеству документов без внедрения векторных баз данных. Тем не менее, существует точка невозврата, когда текстовый поиск становится медленнее и дороже специализированного RAG.

   • Obsidian Vault служит квази-RAG системой, которая визуализирует связи между документами для человека.
   • Архитектура Андрея Карпатого разделяет данные на папки raw (сырые), wiki (структурированные) и index (навигационные).
   • Прозрачная иерархия позволяет Claude Code эффективно использовать инструмент grep для поиска по тысячам Markdown-файлов.
4. 25:58 - 35:26

   Механика наивного RAG и векторные эмбеддинги

   Процесс Retrieval-Augmented Generation включает три этапа: создание эмбеддингов, хранение в базе и извлечение моделью. Главная ловушка этого уровня — создание «паршивого поисковика», который работает на уровне простого Ctrl+F. Без продвинутого реранкинга такие системы часто выдают правильные ответы лишь в 25% случаев.

   • Наивный RAG разбивает документы на фрагменты (чанки) и преобразует их в многомерные векторы.
   • Векторная база данных сопоставляет семантическую близость вопроса пользователя с сохраненными фрагментами.
   • Изолированность векторов в простых системах приводит к низкой точности из-за потери связей между документами.
5. 35:27 - 46:00

   GraphRAG и мультимодальные агентные системы

   LightRAG превосходит наивные системы по точности более чем в два раза за счет извлечения отношений между данными. На высшем уровне сложности ИИ-агент должен самостоятельно решать, какой источник данных (Postgres, GraphRAG или локальный файл) использовать для ответа. Главный риск седьмого уровня заключается в избыточном усложнении инфраструктуры там, где достаточно обычных Markdown-заметок.

   • GraphRAG (например, LightRAG) использует гибридную систему запросов «вектор плюс граф» для анализа связей между сущностями.
   • Агентный RAG 7-го уровня способен индексировать изображения и видео через Gemini Embedding 2.
   • Зрелая архитектура требует автоматизированных пайплайнов для очистки, синхронизации и выбора между SQL и векторным поиском.