Transcript
00:00:00这简直太疯狂了。
00:00:01美国政府刚刚下令 Anthropic 对所有用户禁用 Fable 5 和 Mythos 5。
00:00:06Anthropic 刚刚发推称，
00:00:07美国政府以国家安全权限为由，
00:00:10发布了一项出口管制指令，要求禁止任何人访问 Fable 5 和 Mythos 5
00:00:14无论是在美国境内还是境外的外国公民，
00:00:18包括 Anthropic 的外籍员工。
00:00:21这项命令的直接后果就是，我们必须突然禁用 Fable 5 和 Mythos 5
00:00:25以确保合规。
00:00:27所有其他 Anthropic 模型的使用不受影响。
00:00:30这到底是怎么回事？
00:00:37所以我刚才试着快速用了一下，似乎我还能用 Fable
00:00:40它仍然可以工作，也能回复。
00:00:42所以赶紧去用你的 Fable 订阅吧，你马上就要失去它了。
00:00:46这是 Anthropic 的完整官方声明，详细说明了发生的事情。
00:00:50开头就是我刚才读的那条推文。
00:00:52我们可以看到，我们在今天下午 5 点 21 分收到了政府的指令，
00:00:55那基本上大约是四小时前。
00:00:58上面写着这封信并未提供有关其国家安全担忧的具体细节。
00:01:02我们了解到，政府认为他们已经发现了一种绕过
00:01:05或破解 Fable 5 的方法。
00:01:07我们已经审阅了一项演示，该特定技术被用于识别少数
00:01:11已知的小型漏洞。
00:01:13这些漏洞看起来都相对简单，
00:01:15我们发现其他公开的模型也能够发现它们，而无需
00:01:20进行绕过。
00:01:21简单来说，美国政府发现了一个越狱方法，它将允许 Fable 5
00:01:25发现大量软件中的漏洞，而 Anthropic 基本上是在说这完全是胡扯，
00:01:30而且它所发现的一切都是公开的漏洞，其他模型也能发现这些漏洞。
00:01:35说实话，如果现在有某种越狱方法能让 Fable 5
00:01:38网络安全限制的越狱，我会感到非常惊讶，因为正如 Anthropic 接下来所说，
00:01:43当他们发布 Fable 时，他们有很多保护措施，
00:01:45他们制定了强有力的保障措施，大大降低了 Fable 被滥用的可能性，
00:01:49事实上，我们的保障措施太强了，许多用户甚至抱怨它们过于宽泛。
00:01:53是的，我所看到的大家的情况基本就是，如果你提及
00:01:57任何与网络安全相关的内容，Fable 就会直接拒绝。
00:02:00他们接着说，显然在 Fable 发布前的几周里，
00:02:03Anthropic 与美国政府、英国 AISI、多个私人第三方组织
00:02:08以及内部团队合作，对 Fable 的保护措施进行了总共数千小时的红队测试，
00:02:13这些测试表明 Fable 的保护措施比任何
00:02:17先前部署的模型都要有效得多，且没有任何测试人员能够找到通用的越狱方法。
00:02:21所以基本上没有人能找到绕过他们所有限制的方法，但可能存在
00:02:25一些零星的特殊越狱方法可以绕过一两个限制。
00:02:29这对我来说很有道理，寻找越狱并阻止它们永远是一场猫鼠游戏，
00:02:32我们可以看到 Anthropic 其实也怀疑完美的越狱
00:02:36防御目前对任何模型提供商来说都是不可能的。行业中使用的每一种保护措施
00:02:40都容易受到非通用越狱的影响，这些越狱可以在特定情况下诱导出一些网络信息，
00:02:44而且很有可能在未来会发现通用的越狱方法，
00:02:49他们在发布 Fable 5 时就明确说明了这一点。我不得不赞同这一点，
00:02:54我不知道你怎么能有完美的越狱保护，我的意思是，我关注了 Twitter 上的 Pliny，
00:02:58对于任何提供商发布的任何模型，他似乎在发布后几个小时内就能
00:03:03找到某种越狱方法。不过 Anthropic 在发布 Fable 时对此非常清楚，因为
00:03:07他们如以下所言。这就是为什么他们对 Fable 采取了 30 天的客户数据保留政策，
00:03:11这阻止了许多人真正使用它，但全部原因就是
00:03:15他们可以跟踪任何形式的越狱并将其关闭。据我所见，这似乎
00:03:19是有效的，但显然美国政府有其他想法。Anthropic 自己甚至表示他们
00:03:23没有收到关于导致有害结果的令人担忧的非通用潜在越狱的披露，
00:03:28他们所看到的潜在越狱要么是完全良性的
00:03:32回复，要么是不提供 Mythos 特定提升的小发现。但在这里我们可以看到
00:03:37政府发现内容的模糊细节。显然政府只给了他们
00:03:40关于潜在狭窄的非通用越狱的口头证据，这基本上就是要求
00:03:45模型读取特定的代码库并修复任何软件缺陷。我们的理解是，一种
00:03:50潜在的越狱与政府分享了，他们审查了报告并验证了
00:03:54所展示的能力水平在其他模型（包括 OpenAI 的 GPT 5.5）中是广泛可用的，
00:04:00而且每天都被那些保护系统安全的防御者所使用。我们将在未来 24 小时内分享更多细节。
00:04:06试着理解言外之意，似乎这个越狱可能是克隆一个存储库
00:04:10并说你能修复其中的错误吗，而其中一个错误可能是一个安全漏洞，
00:04:14然后你可以以某种邪恶的方式使用它，也许有一个越狱可以使 Fable 5 做到
00:04:19对该存储库进行稍微高级的网络安全检查，但很明显细节非常模糊，因为
00:04:24他们不想让这些被泄露。Anthropic 在这里的防御归结为，看看 OpenAI，它也做
00:04:28同样的事情，所以我确实希望他们告发 OpenAI 不会意味着我们也失去对 GPT 5.5 的访问权限。
00:04:34声明的最后一部分只是 Anthropic 表示他们正在遵守政府的法律指令，
00:04:38并且正在删除所有用户对 Fable 5 和 Mythos 5 的访问权限，然而他们不同意将发现窄小的
00:04:43潜在越狱作为召回部署给数亿人的商业模型的理由，
00:04:48如果这个标准在整个行业中应用，他们相信这基本上会停止所有新的
00:04:53模型向所有前沿模型提供商的部署。是的，我也同意，我真的不明白我们怎么能从这里继续前进，
00:04:59如果我们在一个所有这些模型都如此强大，以至于美国政府只说不的时刻，
00:05:03普通人无法访问这些。我敢打赌美国政府会非常乐意把 Fable 据为己有，
00:05:08但我们都知道 Anthropic 上次与国防部的交易进行得如何。作为一个非美国公民，我担心的另一点
00:05:14是说禁止任何外国国民访问 Fable 5 和 Mythos 5 的部分。所以也许他们会通过只允许美国
00:05:22公民使用 Fable 5 和 Mythos 来解决这个问题，但我真的希望那不会发生，这将是一个美国政府
00:05:28限制人们使用最好的模型的奇怪世界。我想这也意味着你必须上传
00:05:32你的身份证给 Anthropic 来证明你的出生地才能使用这些模型。所以这基本上就是所有信息，
00:05:38目前我所拥有的。这个消息刚刚发布，我的意思是，我知道我们会在 11 天后失去 Fable 5，
00:05:43从我们的订阅中，但我没想到它会这么快发生，这就是我们正在进入的一个奇怪的世界，
00:05:49所以请在下面的评论中让我知道你怎么看，在你那里的时候订阅，
00:05:52像往常一样，下个视频再见。
Community Posts
No posts yet. Be the first to write about this video!
Write about this video