Transcript
00:00:00정말 미친 상황입니다.
00:00:01미국 정부가 방금 앤스로픽에게 모든 고객을 대상으로 Fable 5와 Mythos 5를 비활성화하라고 명령했습니다.
00:00:06앤스로픽이 방금 트윗을 올렸는데,
00:00:07미국 정부가 국가 안보 권한을 인용하며,
00:00:10Fable 5와 Mythos 5에 대한 모든 접근을 차단하라는 수출 통제 지침을 발표했습니다.
00:00:14미국 내외를 막론하고 모든 외국인 국적자에 대해,
00:00:18앤스로픽에 근무하는 외국인 직원들을 포함해서 말이죠.
00:00:21이 명령의 실제 효과는 우리가 준수 사항을 이행하기 위해
00:00:25모든 고객의 Fable 5와 Mythos 5 접근을 즉시 중단해야 한다는 것입니다.
00:00:27다른 모든 앤스로픽 모델에 대한 접근은 영향을 받지 않습니다.
00:00:30도대체 무슨 일이 벌어지는 거죠?
00:00:37그래서 빨리 한번 써보려고 했는데, 아직 Fable이 남아있는 것 같고
00:00:40여전히 작동 중이며 응답도 잘 합니다.
00:00:42그러니 여러분의 Fable 구독을 빨리 사용하세요. 곧 사라질 테니까요.
00:00:46여기 무슨 일이 있었는지에 대해 더 깊이 다룬 앤스로픽의 공식 성명 전문이 있습니다.
00:00:50방금 읽어드린 트윗으로 시작합니다.
00:00:52여기 보시면 저희가 오늘 오후 5시 21분에 정부로부터 지침을 받았고,
00:00:55그러니까 대략 4시간 전이죠.
00:00:58해당 서한에는 국가 안보 우려에 대한 구체적인 세부 사항은 명시되어 있지 않았다고 합니다.
00:01:02저희가 파악하기로는 정부가 Fable 5를 우회하거나
00:01:05탈옥시키는 방법을 알게 되었다고 믿는 것 같습니다.
00:01:07저희는 이 특정 기술을 사용하여 이전에 알려진 소수의
00:01:11경미한 취약점들을 식별하는 시연을 검토했습니다.
00:01:13이 취약점들은 모두 비교적 단순해 보이며
00:01:15다른 공개된 모델들도 우회 기술 없이도 이를 발견할 수 있다는 것을 확인했습니다.
00:01:20우회할 필요 없이 말이죠.
00:01:21결론적으로 미국 정부는 Fable 5가 많은 소프트웨어의 취약점을 찾을 수 있게 해주는
00:01:25탈옥 방법을 발견했다고 보고 있으며, 앤스로픽은 사실상 그게 헛소리라고 말하는 겁니다.
00:01:30발견된 모든 것은 공개된 취약점들이고 다른 모델들도 찾을 수 있다는 것이죠.
00:01:35Fable 5가 가진 사이버 보안 제한을 모두 우회하게 해주는 탈옥이 존재한다면
00:01:38정말 놀랄 것 같습니다. 앤스로픽이 여기서 계속 말하듯이,
00:01:43Fable을 출시할 때 많은 안전 장치를 마련했으니까요.
00:01:45그들은 Fable의 오용 가능성을 크게 줄이는 강력한 안전 장치를 도입했습니다.
00:01:49사실 저희 안전 장치가 너무 강력해서 많은 사용자가 너무 광범위하다고 불평할 정도였습니다.
00:01:53네, 제가 본 거의 모든 사용자가 경험한 바로는 사이버 보안과 관련하여
00:01:57조금이라도 언급하면 Fable은 그냥 거절했습니다.
00:02:00앤스로픽은 Fable 출시 몇 주 전부터
00:02:03미국 정부, 영국 AISI, 다수의 민간 외부 기관,
00:02:08그리고 내부 팀들과 함께 총 수천 시간 동안 Fable의 안전 장치를 레드팀 테스트했고,
00:02:13이 테스트들은 Fable의 안전 장치가 이전에 배포된 어떤 모델보다
00:02:17상당히 효과적이며 어떤 테스터도 보편적인 탈옥 방법을 찾지 못했음을 보여주었습니다.
00:02:21기본적으로 아무도 모든 제한을 우회할 방법을 찾지 못했지만,
00:02:25한두 가지 제한을 우회할 수 있는 소수의 틈새 탈옥은 있을 수 있습니다.
00:02:29저에게는 그 말이 이해가 됩니다. 탈옥을 찾아내고 막는 것은 항상 고양이와 쥐의 게임이니까요.
00:02:32앤스로픽은 완벽한 탈옥 방지가 현재 어떤 모델 공급자에게도
00:02:36가능하지 않다고 의심하고 있습니다. 산업계의 모든 안전 장치는
00:02:40특정 상황에서 사이버 정보를 유도할 수 있는 비보편적 탈옥에 취약하며,
00:02:44미래에는 보편적인 탈옥도 발견될 가능성이 높다고 Fable 5 출시 때 명확히 밝혔습니다.
00:02:49저도 동의합니다. 어떻게 완벽한 탈옥 방지를 할 수 있겠어요?
00:02:54저는 트위터에서 Pliny를 팔로우하는데,
00:02:58어떤 제공자의 모델이든 출시된 지 몇 시간 만에 항상 어떤 형태로든 탈옥을 찾아내더군요.
00:03:03앤스로픽은 Fable을 출시할 때 이를 충분히 인지하고 있었습니다.
00:03:07Fable의 고객 데이터를 30일간 보관했던 이유 중 하나가 이것 때문이었습니다.
00:03:11많은 사람이 이를 사용하는 데 어려움을 겪었지만, 이유는 오직
00:03:15어떠한 형태의 탈옥이든 추적하고 차단하기 위해서였습니다. 제가 보기엔 잘 작동하는 것 같았는데,
00:03:19미국 정부는 다르게 생각하는 모양입니다. 앤스로픽조차도
00:03:23해로운 결과로 이어진 우려스러운 비보편적 탈옥을 공개받은 적이 없으며,
00:03:28그들이 확인한 잠재적 탈옥은 완전히 무해한 응답이거나
00:03:32Mythos 특유의 향상을 제공하지 않는 사소한 결과였다고 말합니다. 정부가 발견한 것에 대한
00:03:37모호한 세부 사항은 여기서 드러납니다. 정부는 앤스로픽에게
00:03:40구두 증거만 제공했는데, 이는 모델에게 특정 코드베이스를 읽고
00:03:45소프트웨어 결함을 수정하도록 요청하는, 본질적으로 좁고 비보편적인 잠재적 탈옥으로 구성되어 있습니다.
00:03:50저희는 하나의 잠재적 탈옥이 정부와 공유되었고, 정부가 보고서를 검토한 후
00:03:54제시된 기능 수준이 OpenAI의 GPT 5.5를 포함한 다른 모델에서도 널리 제공되며,
00:04:00시스템을 안전하게 유지하는 방어자들이 매일 사용하는 수준임을 확인했다고 이해하고 있습니다. 다음 24시간 내에 더 많은 정보를 공유하겠습니다.
00:04:06행간을 읽어보면 탈옥은 저장소를 복제한 뒤
00:04:10이 버그들을 수정해달라고 요청하는 방식이었을 것이고, 그 버그 중 하나가 보안 취약점이었을 텐데,
00:04:14그걸 악의적인 목적으로 사용했거나 Fable 5가 해당 저장소에 대해 더 고급 보안 검사를
00:04:19수행하도록 하는 탈옥이 있었을지도 모릅니다. 하지만 내용이 유출되는 것을 원치 않기에 세부 사항은 매우 모호합니다.
00:04:24앤스로픽의 방어 논리는 OpenAI도 똑같이 하니 똑같이 봐달라는 것인데,
00:04:28OpenAI를 찔러서 GPT 5.5까지 사용할 수 없게 되는 일이 없기를 진심으로 바랍니다.
00:04:34성명의 마지막 부분은 앤스로픽이 정부의 법적 지침을 준수하며
00:04:38모든 사용자로부터 Fable 5와 Mythos 5에 대한 접근을 제거한다는 내용입니다. 하지만 그들은
00:04:43잠재적인 좁은 범위의 탈옥을 발견했다는 것이 수억 명에게 배포된 상용 모델을 회수할 원인이
00:04:48되어야 한다는 것에는 동의하지 않습니다. 만약 이런 기준이 업계 전체에 적용된다면
00:04:53모든 프런티어 모델 공급자의 새로운 모델 배포가 사실상 중단될 것이라고 믿습니다. 저도 동의해요. 여기서 어떻게
00:04:59더 나아갈 수 있을지 모르겠네요. 모델들이 너무 강력해져서 미국 정부가 그냥 안 된다고,
00:05:03일반인들은 이런 것들을 사용할 수 없다고 말하는 상황이니까요. 미국 정부는 Fable을 자신들만
00:05:08갖고 싶어 하겠죠. 하지만 국방부와 앤스로픽의 지난 거래가 어떻게 됐는지는 다들 아시잖아요. 제가 걱정되는 다른 부분은
00:05:14외국 국적자의 Fable 5와 Mythos 5 접근을 모두 정지하라는 문구입니다. 아마 미국
00:05:22국적자만 Fable 5와 Mythos를 사용할 수 있게 제한할지도 모르겠네요. 제발 그런 일은 없길 바랍니다.
00:05:28미국 정부가 사람들이 최고의 모델을 사용하는 것을 제한하는 기이한 세상이 될 겁니다.
00:05:32그러려면 아마 앤스로픽에 신분증을 업로드해서 어디서 태어났는지 증명해야 모델을 쓸 수 있겠죠. 지금까지
00:05:38제가 가진 정보는 여기까지입니다. 이 소식은 방금 막 나왔는데, Fable 5를 11일 후에
00:05:43구독에서 잃을 거라는 건 알고 있었지만, 이렇게 빨리 일어날 줄은 몰랐습니다. 정말 기이한 세상으로 들어가고 있네요.
00:05:49이번 일에 대해 어떻게 생각하시는지 아래 댓글로 알려주시고, 구독도 잊지 마세요.
00:05:52언제나 그렇듯, 다음 영상에서 뵙겠습니다.
Community Posts
No posts yet. Be the first to write about this video!
Write about this video