Claude Code & RAG의 7단계 가이드

하이라이트

• Claude Code의 컨텍스트 윈도우가 100만 토큰에 도달함에 따라 대화를 초기화하지 않는 습관이 성능을 78%까지 저하시키는 컨텍스트 부패 현상을 유발한다.

• 나이브 RAG(Naive RAG) 시스템은 텍스트 기반 LLM 답변 방식보다 최대 1,200배 저렴하고 1,200배 빠른 속도로 정확한 정보를 처리한다.

• Obsidian 기반의 지식 베이스 구축은 1인 운영자에게 99%의 문제를 해결해 주며 데이터 시각화와 연결성 측면에서 비용 없는 고효율 대안이 된다.

• LightRAG와 같은 그래프 RAG 시스템은 단순 벡터 검색 대비 100% 이상의 성능 향상을 보이며 엔티티 간의 복잡한 관계를 정확히 추출한다.

• 2026년 4월 기준 최첨단 RAG 단계인 레벨 7은 Gemini Embedding 2를 통해 비디오 자체를 벡터 데이터베이스에 직접 임베딩하는 기술을 포함한다.

타임라인

1. 00:00 - 08:56

   컨텍스트 부패와 오토 메모리의 한계

   대부분의 사용자는 채팅창을 닫을 때 정보 손실을 우려하여 세션을 길게 유지하지만 이는 효율성을 급격히 떨어뜨린다. 100만 토큰 시대에는 사용량 급증과 비용 문제를 방지하기 위해 적극적으로 대화를 초기화하는 컨텍스트 관리가 필수적이다. AI의 직관에만 의존하는 자동 기록 방식은 불필요한 정보를 계속 인용하는 부작용을 낳는다.

   • Claude Code의 기본 오토 메모리는 .claud/projects/memory 폴더에 마크다운 파일을 생성하여 대화 내용을 기록한다.
   • 컨텍스트 윈도우 점유율이 25%일 때 92%였던 정확도는 윈도우가 가득 찰수록 78%까지 떨어진다.
2. 08:57 - 15:45

   CLAUDE.md와 구조적 마크다운 아키텍처

   모든 규칙을 하나의 파일에 넣으면 오히려 소음이 커져 LLM의 추론 성능이 저하된다. 정보를 덩어리(chunk)로 나누고 CLAUDE.md를 다른 상세 파일들을 가리키는 인덱스로 활용하는 방식이 유리하다. 이러한 가내수공업식 메모리 시스템은 외부 도구 없이도 수십 개의 문서 내에서 명확한 참조 경로를 제공한다.

   • CLAUDE.md 파일은 모든 프롬프트 실행 전 참조되는 프로젝트의 최상위 지침서 역할을 수행한다.
   • GSD 도구와 같이 project.md, requirements.md, roadmap.md 등으로 파일을 쪼개는 아키텍처는 컨텍스트 오염을 방지한다.
3. 15:46 - 25:53

   Obsidian을 활용한 지식 베이스 확장

   무료 도구인 Obsidian은 복잡한 벡터 데이터베이스 구축 없이도 인간이 데이터 간의 연결을 직접 시각화하고 통제할 수 있게 돕는다. 원본 데이터를 Wiki 폴더의 구조화된 마크다운으로 변환하는 프로세스를 통해 클로드 코드가 정보를 검색하는 경로를 최적화한다. 특정 임계치를 넘기 전까지는 고비용 RAG보다 관리가 용이한 이 방식이 1인 개발자에게 최적이다.

   • Obsidian 보관소를 Vault, Wiki, Raw, Index 폴더 구조로 계층화하여 수천 개의 문서를 관리할 수 있다.
   • RAG 시스템은 단순 텍스트 기반 LLM 호출보다 운영 비용과 응답 속도 면에서 약 1,200배의 격차를 보인다.
4. 25:54 - 39:10

   나이브 RAG와 그래프 RAG의 기술적 차이

   단순 벡터 검색은 서로 다른 문서에 흩어진 정보 간의 상호작용을 파악하지 못해 정확도가 25%까지 낮아질 위험이 있다. 지식 그래프 시스템은 수동적인 연결을 넘어 실제 임베딩 분석을 통해 데이터의 맥락을 정의한다. 나이브 RAG가 실패하거나 정보 간의 상관관계 분석이 핵심일 때 그래프 기반 인프라로의 전환이 요구된다.

   • 나이브 RAG는 문서를 청킹하고 임베딩하여 벡터 데이터베이스에서 유사도 기반 검색을 수행하는 3단계 공정을 거친다.
   • LightRAG와 같은 그래프 RAG는 고립된 벡터 대신 엔티티 간의 관계를 지식 그래프 형태로 연결하여 정확도를 대폭 높인다.
5. 39:11 - 46:01

   멀티모달과 에이전틱 RAG의 통합

   프로덕션 수준의 시스템은 데이터 수집(Ingestion) 파이프라인과 최신 상태 유지가 성패를 결정한다. 단순 검색을 넘어 이미지, 테이블, 영상 등 비정형 데이터를 통합 관리하고 에이전트가 이를 지능적으로 추출하는 단계가 레벨 7이다. 하지만 지나친 정교함은 시간 낭비일 수 있으므로 반드시 하위 단계의 한계를 경험한 후 도입해야 한다.

   • Gemini Embedding 2는 자막 텍스트를 넘어 비디오 자체를 벡터 데이터베이스에 직접 색인화한다.
   • 에이전틱 RAG는 질문의 성격에 따라 GraphRAG 조회와 SQL 쿼리 중 최적의 경로를 스스로 결정한다.