Как стандартизировать локальную базу знаний ИИ и снизить расходы на токены
TuBrief 편집팀
2026년 6월 27일
0
Computing/Software원본 영상을 바탕으로 AI의 도움을 받아 작성했습니다. 원본 영상이 기준입니다.
커뮤니티의 다른 글
댓글 (0)
Log in to leave a comment
아직 작성된 글이 없습니다
원본 영상을 바탕으로 AI의 도움을 받아 작성했습니다. 원본 영상이 기준입니다.
Log in to leave a comment
아직 작성된 글이 없습니다
Если вы управляете персональным ИИ-агентом и страдаете от проблемы высоких затрат на токены, вам необходимо кардинально переработать структуру данных. Фрагментированные заметки лишь сбивают ИИ с толку. Применение открытого формата знаний (OKF) v0.1, представленного командой Google Cloud 12 июня 2026 года, позволяет в разы повысить эффективность поиска информации. Ниже описан конкретный метод создания понятной для ИИ карты знаний с использованием комбинации Markdown и YAML-frontmatter.
Если скармливать ИИ неструктурированные заметки в сыром виде, он будет лишь тратить лишние токены. Примените три правила, предложенные командой Google Cloud. Сокращайте предложения до лаконичных формулировок с выводами в начале, удаляйте предположения, а один документ должен содержать ровно одну концепцию.
Логика скрипта для миграции выглядит следующим образом:
`python
import re
import yaml
import os
class OKFDataPurifier:
def clean_text(self, text):
# Удаление HTML-тегов и лишнего разговорного стиля
text = re.sub(r'<[^>]+>', '', text)
return text.strip()
def process_files(self, source_dir):
for filename in os.listdir(source_dir):
if filename.endswith(".md"):
# Сохранение в новую структуру, включая метаданные
with open(os.path.join(source_dir, filename), 'r') as f:
content = self.clean_text(f.read())
# Логика автоматического внедрения YAML-frontmatter пропущена
`
Этот процесс сокращает ошибки поиска знаний на 40%. Кроме того, удается сэкономить более 25% объема потребления токенов.
Поиск по всем документам подряд сильно замедляет скорость ответа. Используйте структуру HOMER для физического разделения данных на активные и архивные знания.
Даже простое прекращение слепого векторного поиска заметно ускоряет отклик.
Подход с постепенным раскрытием информации, подчеркиваемый Anthropic, драматически сокращает входные токены. Согласно результатам бенчмарков Google Cloud, метод загрузки с разделением по индексам OKF уменьшил размер входных токенов с 10 877 до 970 (на 91%) по сравнению с встраиванием (эмбеддингом) всего документа.
Основная логика скрипта для извлечения контекста под конкретное намерение запроса:
`python
def extract_context_by_intent(query, index_path):
with open(index_path, 'r') as f:
index = yaml.safe_load(f)
# Возврат только путей, совпадающих с ключевыми словами запроса
return [item['path'] for item in index if item['tag'] in query]
`
Применение этого метода сокращает время поиска по всей базе знаний на 50%.
Чтобы предотвратить галлюцинации, при которых ИИ верит ложной информации как истине, необходимо запускать циклы прямой проверки. Сформируйте класс OKFAutoLinter для периодического поиска пустых файлов или битых вики-ссылок. Фиксация изменений в файле log.md позволяет агенту постоянно мониторить состояние собственной базы знаний. Снижение затрат на обслуживание сводится именно к такому регулярному уходу за данными.