스크립트
00:00:00Самый популярный новый репозиторий этого лета: более 83 000 звезд всего за шесть недель.
00:00:05Его создали не Google, Microsoft или OpenAI, а PewDiePie. Да-да, тот самый PewDiePie.
00:00:12И если вы откроете вкладку Issues, то в самом популярном обсуждении написано, цитирую:
00:00:17«Это чистейший кошмар». А в другом комментарии: «Мне реально страшно запускать это на своем ПК».
00:00:22Так что я сделаю это за вас, и мы вместе посмотрим, что это вообще такое.
00:00:30Проект называется Odysseus, и назвать его просто очередным чат-интерфейсом — значит преуменьшить его суть. Это автономная
00:00:38рабочая ИИ-среда, которая умеет делать кучу вещей, список которых слишком длинный, чтобы его зачитывать.
00:00:44При этом она сохраняет данные между сессиями и работает прямо на вашем компьютере как локальное приложение.
00:00:50Лицензия GPL, никаких облаков и подписок. Каждый чат и письмо хранятся в обычных локальных
00:00:56папках, для которых можно делать бэкап. Предыстория объясняет всё: в прошлом году PewDiePie погрузился
00:01:02в тему локального ИИ сильнее многих из нас. Он собрал ферму из 10 GPU с модифицированными 48-гигабайтными 4090,
00:01:09моделями на 70 миллиардов параметров и самодельным интерфейсом Chat OS с «советом ботов»,
00:01:18голосовавших за ответы, пока они не начали устраивать против него сговор. Odysseus — это переработанная версия
00:01:24той самой системы для всех нас. Он выложил её 31 мая, и за 48 часов проект набрал 30 000 звезд. Давайте разберем его.
00:01:30Если вам нравятся инструменты для разработки, ускоряющие работу, подпишитесь на канал. У нас регулярно выходят новые видео.
00:01:35Итак, давайте запустим его. На Mac это делается буквально одним скриптом: клонируем, запускаем Docker — и всё готово.
00:01:41Через grep я получаю временный пароль прямо в терминале, а сам сервис поднимается на порту 7000.
00:01:48Вхожу под логином admin и полученным паролем. И перед нами открывается моноширинный красно-черный
00:01:52интерфейс в стиле терминала. XDA назвал его «странным, но классным», а комментатор на Hacker News —
00:01:58«ужасным». И, честно говоря, такой разброс мнений отлично описывает весь этот проект.
00:02:03Первым делом заглянем в раздел Cookbook. Он сканирует систему Mac, чип, объединенную память и показывает,
00:02:09какие локальные модели реально запустить, а затем скачивает и запускает их через llama.cpp с Metal-ускорением.
00:02:16Один этот экран экономит час поисков. Окна можно перетаскивать,
00:02:22что удобно. Но еще более интересная фича здесь — это сравнение моделей. Один промпт,
00:02:27три локальные модели, параллельное слепое тестирование. Я ввожу запрос, а по завершении генерации
00:02:34выбираю лучший вариант еще до того, как система раскроет, какая модель его написала. Это и есть «совет ботов»,
00:02:40и выглядит это круто. Вся система работает на FastAPI в контейнерах, самом Odysseus, векторной базе ChromaDB,
00:02:47встроенном поисковике SearXNG и сервисе push-уведомлений Nifty. Благодаря этому комплекту Deep Research,
00:02:54о котором я расскажу через минуту, работает вообще без платных API. Он ищет информацию через локальный SearXNG,
00:03:00читает источники и выдает отчет со ссылками — полностью локально. Память реальна: скажите ему факт сегодня,
00:03:06спросите завтра в новой сессии — он всё помнит. Почтовый клиент разбирает входящие по IMAP
00:03:11и готовит черновики ответов. По понятным причинам я не стал подключать личную почту, но функция есть.
00:03:17Есть встроенный календарь, куда можно добавлять события как обычно, но теперь их может читать сама языковая модель.
00:03:22Также тут можно запустить Deep Research, к которому я обещал вернуться.
00:03:26Задаете вопрос, и модель запускает многошаговый агентский цикл. Лучшая аналогия, которую я могу подобрать —
00:03:33автономная рабочая среда со встроенной почтой. Чтобы быть объективным, отмечу: агентский цикл,
00:03:39Cookbook и пайплайн исследований адаптированы с указанием авторов из OpenCode, LLM Fit
00:03:46и Deep Research от Alibaba. Это просто умелая сборка готовых компонентов, а не разработка с нуля,
00:03:52и, честно говоря, в этом и нет необходимости. И тут возникает вопрос, который дословно задали на Hacker News:
00:03:58«Почему бы просто не использовать Open WebUI?» Справедливое замечание. У Open WebUI и LibreChat за плечами годы разработки
00:04:05и стабильные релизы. Но Odysseus выигрывает масштабом: никто больше не поставляет почту, календари, агентов по расписанию,
00:04:11push-уведомления и менеджер моделей с учетом железа в одном флаконе. Есть и юридический нюанс:
00:04:17лицензия Open WebUI запрещает удалять их брендинг, из-за чего на Hacker News отметили, что это не совсем
00:04:23полноценный open-source. Odysseus же распространяется по чистой AGPL. Но если вам нужен только чат с RAG,
00:04:30лучше взять другой инструмент, тут без вопросов. А теперь то, о чем действительно важно знать,
00:04:34поскольку я ни в коем случае не пиарю этот проект. Тот самый топовый issue называется «Что за дичь тут происходит?».
00:04:41Там описываются 800 влитых пулл-реквизитов с низкокачественным сгенерированным кодом, CSS-файл на 30 000 строк, случайный JavaScript
00:04:49прямо в HTML, а прямо сейчас висят открытыми почти 900 PR — многие от ИИ, другие от фанатов.
00:04:56При этом нет ни одного тегированного релиза. Ноль. Вы фактически запускаете нестабильную ветку разработки с незафиксированными зависимостями:
00:05:03установите сегодня, а завтра получите совсем другое приложение. Звезды на GitHub — это отчасти фанатство,
00:05:07очевидно, ведь у человека 110 миллионов подписчиков, но звезды — это не ревью кода. Почитайте модель угроз
00:05:14самого проекта: агент получает доступ к командной строке, файлам и отправке почты. Цитата:
00:05:21«Относитесь к этому как к консоли администратора и никогда не открывайте доступ из интернета». Есть и подводный камень с Docker на Mac:
00:05:27инференс работает только на CPU, так как Docker на macOS не умеет напрямую работать с GPU. Так что
00:05:32мой вердикт двояк: как песочница для экспериментов — это круто, но для использования в продакшене — категорически нет.
00:05:39И иметь два таких статуса одновременно — нормально. Но вот что упускают те, кто кричит «это просто мусор»: более 300 человек
00:05:45уже внесли свой вклад в проект. Сообщество добилось создания файла владельцев кода и написало полноценное предложение
00:05:52по реформе архитектуры, собравшее более 100 комментариев. А два дня назад репозиторий перенесли в отдельную организацию на GitHub.
00:05:59Этот проект хаотичный, переполненный, неровный, но в нем больше жизни, чем почти во всем, что я видел за последнее время.
00:06:05И вот мой главный вывод: дело вообще не в коде. Код — это самая неважная часть
00:06:09этого репозитория. Важно то, что 110 миллионов человек увидели, как авторитетный для них блогер говорит: «Вы можете запустить»
00:06:15«свой ИИ на своем компьютере и сами владеть своими данными». Локальный ИИ выходит в масс-маркет,
00:06:20хотя это и не значит, что ему всегда стоит слепо доверять. Если вам нравятся подобные разборы и советы по разработке,
00:06:24обязательно подпишитесь на канал BetterStack. Увидимся в следующих видео!