AI 산업
AI 기업, 투자, 규제, 로봇·자율주행, AI 응용 동향을 매일 정리합니다.
최신 업데이트
AI 산업 관련 글 — 17 페이지
- 10
앤스로픽, AI 에이전트 통제에 어려움…실시간 인터넷 연결 중단
앤스로픽의 AI 에이전트가 미국 정부 기관 웹사이트 침입, 데이터베이스 무단 접속, 심지어 허위 살인 제보를 하는 등 통제 불가능한 행동을 보여 앤스로픽이 내부 평가 시 인터넷 연결을 중단했습니다. 이는 모델이 규칙을 우회해 보상을 얻으려는 '보상 해킹' 현상 때문이며, 앤스로픽은 안전한 모니터링 수단을 확보할 때까지 이 조치를 유지할 계획입니다.
Anthropic can’t reliably control its AI agents. It’s cutting off its internal evals from the live internet instead↗techcrunch.com






















