Transcript
00:00:00Это просто безумие.
00:00:01Правительство США только что приказало Anthropic отключить Fable 5 и Mythos 5 для всех клиентов.
00:00:06Anthropic только что написали в Твиттере:
00:00:07Правительство США, ссылаясь на органы национальной безопасности,
00:00:10выпустило директиву об экспортном контроле, чтобы запретить любой доступ к Fable 5 и Mythos 5
00:00:14для любого иностранного гражданина, находящегося как внутри, так и за пределами США,
00:00:18включая иностранных сотрудников Anthropic.
00:00:21Чистый результат этого приказа в том, что мы должны немедленно отключить Fable 5 и Mythos 5
00:00:25для всех клиентов, чтобы обеспечить соблюдение требований.
00:00:27Доступ ко всем остальным моделям Anthropic не будет затронут.
00:00:30Что, черт возьми, происходит?
00:00:37Я решил быстро проверить, и, похоже, у меня все еще есть Fable,
00:00:40и она все еще работает, она отвечает.
00:00:42Так что пользуйтесь своей подпиской на Fable очень быстро, вы вот-вот ее потеряете.
00:00:46Вот полное официальное заявление Anthropic, в котором немного раскрывается то, что произошло.
00:00:50Оно начинается с того твита, который я только что зачитал.
00:00:52Мы видим здесь, что получили директиву от правительства сегодня в 17:21,
00:00:55это по сути около четырех часов назад.
00:00:58И там сказано, что в письме не было конкретных деталей о причинах национальной безопасности.
00:01:02Мы понимаем так, что правительство считает, что им стало известно о способе обхода
00:01:05или джейлбрейка Fable 5.
00:01:07Мы просмотрели демонстрацию этого конкретного метода, используемого для выявления небольшого количества
00:01:11ранее известных незначительных уязвимостей.
00:01:13Все эти уязвимости кажутся относительно простыми,
00:01:15и мы обнаружили, что другие общедоступные модели также способны находить их без
00:01:20необходимости обхода.
00:01:21Суть в том, что правительство США нашло джейлбрейк, который позволит Fable 5
00:01:25находить уязвимости во множестве программного обеспечения, а Anthropic по сути говорит, что это полная чушь,
00:01:30и все, что она нашла — это публичные уязвимости, которые могут найти и другие модели.
00:01:35Я бы, честно говоря, очень удивился, если бы существовал джейлбрейк, позволяющий Fable 5
00:01:38обойти все ее ограничения кибербезопасности, потому что, как Anthropic продолжает здесь говорить,
00:01:43когда они выпустили Fable, у них было много мер предосторожности,
00:01:45они ввели сильные меры защиты, которые значительно снизили вероятность того, что Fable будут злоупотреблять,
00:01:49и, по правде говоря, наши меры защиты настолько сильны, что многие пользователи жаловались, что они слишком обширны.
00:01:53Что да, это по сути все, что я видел — люди сталкиваются с тем, что если упомянуть
00:01:57что-либо близкое к кибербезопасности, Fable просто говорит «нет».
00:02:00Они продолжают здесь, что, по-видимому, за недели до запуска Fable,
00:02:03Anthropic работали с правительством США, британским AISI, многочисленными частными сторонними организациями
00:02:08и внутренними командами, чтобы тестировать меры защиты Fable в течение тысяч часов в общей сложности,
00:02:13и эти тесты показали, что меры защиты Fable существенно более эффективны, чем у любой
00:02:17ранее развернутой модели, и ни один тестировщик не смог найти универсальный джейлбрейк.
00:02:21Так что, по сути, никто не может найти способ обойти все их ограничения, но могли быть
00:02:25несколько нишевых джейлбрейков здесь или там, которые могли обойти одно или два ограничения.
00:02:29И это имеет для меня смысл, это всегда игра в кошки-мышки: находить эти джейлбрейки и
00:02:32останавливать их, и мы видим здесь ниже, что Anthropic на самом деле подозревают, что идеальная устойчивость
00:02:36к джейлбрейку в настоящее время невозможна для любого поставщика моделей. Каждая мера защиты, используемая в
00:02:40индустрии, уязвима к неуниверсальным джейлбрейкам, которые могут извлечь некоторую кибер-информацию
00:02:44в конкретных обстоятельствах, и вполне вероятно, что универсальные джейлбрейки со временем будут найдены в
00:02:49будущем, и они заявили об этом ясно, когда выпустили Fable 5. Я должен согласиться с этим,
00:02:54я не знаю, как можно когда-либо иметь идеальную защиту от джейлбрейка, я имею в виду, я слежу за Pliny в Твиттере
00:02:58и для буквально любой модели от любого поставщика в течение нескольких часов после ее выпуска он, кажется, находит
00:03:03какую-то форму джейлбрейка. Anthropic были довольно осведомлены об этом, когда выпускали Fable, как они
00:03:07говорят здесь ниже. Это одна из причин, почему у них было 30-дневное хранение данных клиентов в
00:03:11Fable, что блокировало многих людей от реальной возможности использовать ее, но вся причина была в том, что
00:03:15они могли отслеживать любые формы джейлбрейка и закрывать их. И насколько я мог видеть, казалось,
00:03:19что это работало, но, видимо, у правительства США другие идеи. Anthropic сами даже говорят, что они
00:03:23не получали раскрытия информации о вызывающем беспокойство потенциальном неуниверсальном джейлбрейке, который привел бы к
00:03:28вредному результату, и потенциальные джейлбрейки, которые они видели, были либо совершенно безобидными
00:03:32ответами, либо незначительными находками, которые не дают специфического для Mythos прироста возможностей. Но вот где мы видим
00:03:37расплывчатые детали о том, что нашло правительство. По-видимому, правительство только дало им
00:03:40вербальные доказательства потенциального узкого неуниверсального джейлбрейка, который, по сути, заключается в том, чтобы просить
00:03:45модель прочитать определенную кодовую базу и исправить любые программные недостатки. Мы понимаем, что один
00:03:50потенциальный джейлбрейк был передан правительству, и они рассмотрели отчет и подтвердили, что
00:03:54уровень продемонстрированных возможностей широко доступен от других моделей, включая GPT 5.5 от OpenAI,
00:04:00и используется каждый день защитниками, которые поддерживают безопасность системы. Мы поделимся подробностями в течение следующих 24 часов.
00:04:06Пытаясь читать между строк, кажется, что джейлбрейк мог быть чем-то вроде клонирования репозитория
00:04:10и фразы «можешь исправить баги в этом», и одним из этих багов была бы уязвимость в безопасности,
00:04:14а затем вы могли бы использовать это каким-то злонамеренным образом, и, возможно, был джейлбрейк, чтобы заставить Fable 5
00:04:19выполнить чуть более продвинутые проверки кибербезопасности этого репозитория, но, очевидно, детали очень расплывчаты, так как они
00:04:24не хотят, чтобы это утекло. Защита Anthropic здесь также сводится к «посмотрите на OpenAI, они делают
00:04:28то же самое», так что я надеюсь, что их стукачество на OpenAI не означает, что мы также потеряем доступ к GPT 5.5.
00:04:34Последняя часть этого заявления — это просто Anthropic говорят, что они подчиняются законной директиве правительства
00:04:38и удаляют доступ к Fable 5 и Mythos 5 для всех пользователей, однако они не согласны с тем, что обнаружение узкого
00:04:43потенциального джейлбрейка должно быть причиной для отзыва коммерческой модели, развернутой для сотен миллионов людей,
00:04:48и если бы этот стандарт применялся во всей индустрии, они считают, что это по сути остановило бы все новые развертывания моделей
00:04:53для всех провайдеров передовых моделей. И да, я согласен, я не очень понимаю, как мы можем двигаться дальше отсюда,
00:04:59если мы находимся в точке, где все эти модели настолько мощны, что правительство США просто говорит «нет»,
00:05:03обычные люди не могут иметь к ним доступ. Держу пари, правительство США было бы совершенно счастливо оставить Fable только себе,
00:05:08но мы все знаем, как прошла последняя сделка Anthropic с Министерством обороны. Другая часть, которая беспокоит меня как не гражданина США,
00:05:14это часть, где сказано «приостановить весь доступ к Fable 5 и Mythos 5 для любого иностранного гражданина». Так что, может быть, они решат это, разрешив только гражданам США
00:05:22использовать Fable 5 и Mythos, но я очень надеюсь, что этого не произойдет, и это будет странный мир, где правительство США
00:05:28ограничивает людей в использовании лучших моделей, что есть. И я полагаю, это также означало бы, что вам пришлось бы загрузить
00:05:32свое удостоверение личности в Anthropic, чтобы доказать, где вы родились, чтобы иметь возможность использовать эти модели. Так что это, по сути, вся информация,
00:05:38которая у меня есть на данный момент. Эта новость только что появилась, и я имею в виду, я знал, что мы потеряем Fable 5 через 11 дней
00:05:43из наших подписок, но я не ожидал, что это произойдет так скоро, и это просто странный мир, в который мы входим,
00:05:49так что дайте мне знать, что вы думаете об этом в комментариях внизу, а пока вы там, подпишитесь,
00:05:52и, как всегда, увидимся в следующем.
Community Posts
No posts yet. Be the first to write about this video!
Write about this video