연구원들에 따르면 '이 코드 수정해' 요청 이후 Feds가 Fable 5에 당황한 이유는 제일브레이크 때문이 아닌 것으로 나타났습니다.
(theregister.com)
미국 정부가 안스로픽의 Fable 5 모델에 대해 수출 통제를 단행한 이유가 탈옥(jailbreak)이 아닌 단순한 코드 수정 요청 때문이었다는 사실이 밝혀지며, AI 보안 규제가 방어적 기술 발전을 저해할 수 있다는 우려가 커지고 있습니다.
이 글의 핵심 포인트
- 1미국 정부는 안스로픽의 Fable 5 및 Mythos 5 모델에 대해 외국인의 접근을 제한하는 수출 통제 지침을 발표함
- 2규제의 원인으로 지목된 것은 '탈옥'이 아니라, 보안 취약점을 수정해달라는 단순한 'Fix this code' 프롬프트였음
- 3