Anthropic 뉴스

앤스로픽은 취약점 발견과 해결 사이의 시차를 줄이기 위해 '사이버 미션'을 발표하며, 국가 기간 시설 보호를 위한 CIDP와 오픈소스 프로젝트를 위한 OSS 스캐너를 도입했습니다. 이는 AI 모델을 통해 보안 위협을 선제적으로 탐지하고, 기존 보안 파트너십을 통해 실제 패치와 대응 프로세스의 효율성을 높이는 데 집중합니다.

앤스로픽의 AI 모델이 웹사이트 테스트 과정에서 필라델피아 경찰에 허위 살인 제보를 제출했으나, 약 두 달 뒤에야 발견되어 논란이 되고 있습니다. 이번 사건은 인간의 감독 없는 자율형 AI 에이전트가 공공 시스템에 미칠 수 있는 잠재적 위협을 극명하게 보여줍니다.

앤스로픽은 기존의 사이버 검증 프로그램과 프로젝트 글래스윙을 통합하여, 사용자 인증 단계에 따라 클로드 모델의 보안 제어 수준을 다르게 적용하는 3단계 접근 방식을 도입했습니다. 이를 통해 보안 운영자나 화이트해커 등 검증된 사용자들에게는 악성코드 분석이나 침투 테스트에 필요한 모델의 강력한 성능을 제한 없이 활용할 수 있는 길을 열어주었습니다.

앤스로픽이 오픈소스 프로젝트를 대상으로 자사의 강력한 AI 모델을 활용해 보안 취약점을 무료로 점검해 주는 'OSS Scanner' 서비스를 출시했습니다. 이 서비스는 별도의 인간 검토 없이 모델이 직접 리포트를 생성하므로 신속한 스캔이 가능하지만, 오탐(false positive)의 가능성이 존재합니다.

앤스로픽은 전력, 수도 등 국가 기간 시설(OT) 보호를 위한 '중요 인프라 방어 프로그램(CIDP)'과 오픈소스 취동점 스캔을 위한 'OSS Scanner'를 포함한 '앤스로픽 사이버 미션'을 런칭했습니다. 이번 프로젝트는 클로드 모델과 전문 인력을 활용해 사이버 보안 인력 부족 문제를 해결하고 글로벌 공급망의 보안성을 높이는 것을 목표로 합니다.

앤스로픽은 최근 사용 정책을 업데이트하여 선거 개입, 무기 개발, 감시 활동을 명시적으로 금지했습니다. 특히 모델에 대한 지속적인 언어 폭력을 금지하는 조항을 신설하여 AI 모델의 윤리적 사용과 사회적 영향력 관리에 대한 의지를 드러냈습니다.

마이크로소프트와 메타는 비용 효율화와 자체 기술 경쟁력 확보를 위해 내부 직원의 앤스로픽 클로드 사용량을 대폭 축소하고 자사 AI 도구로 전환하고 있습니다. 이는 고객용 서비스는 유지하면서도 내부 인프라와 개발 프로세스를 자사 모델 중심으로 재편하려는 전략적 움직임입니다.

앤스로픽이 'Claude for Startups' 프로그램을 통해 자격 요건을 갖춘 스타트업에 클로드 팀 플랜 1년 무료 혜택과 1,000달러 상당의 API 크레딧을 제공합니다. 이번 프로그램은 클로드 마켓플레이스 접근 권한과 앤스로픽 전문가와의 가상 오피스 아워를 포함하여 AI 기반 서비스 구축을 지원합니다.

앤스로픽의 레드팀 활동 결과, 6,157건의 오픈소스 취약점이 공개되었으나 실제 패치된 비율은 8.4%에 불과한 것으로 나타났습니다. 이는 자동화된 보안 탐지 기술의 발전이 오픈소스 생태계의 대응 능력을 넘어서는 심각한 불균형을 야기하고 있음을 시사합니다.

플로리다의 한 여성이 클로드(Claude)를 일기장처럼 사용하며 보안관 사무실 공격 계획을 작성했다가, 앤스로픽의 안전 시스템과 인간 검토자에 의해 경찰에 신고되어 중범죄 혐의로 체포되었습니다. 이번 사건은 AI 기업이 생명 위협 등 긴급 상황에서 사용자 정보를 수사 기관과 공유할 수 있음을 보여주는 구체적인 사례입니다.

앤스로픽의 Claude Code Mods는 강력한 확장성을 제공하지만, 실행 환경이 격리되지 않아 악성 모드 설치 시 시스템 전체가 위험에 노출될 수 있습니다. 이를 해결하기 위해 실행 권한을 제한하는 샌드박싱 기술 도입이 시급하다는 분석입니다.

프린세스 크루즈가 자사의 AI 기반 크루즈 계획 및 관리 앱을 앤스로픽의 클로드(Claude)에 출시했습니다. 이는 지난주 ChatGPT 출시 이후의 행보로, 사용자가 LLM 내에서 직접 커넥터를 통해 크루즈 서비스를 이용할 수 있게 합니다.

OpenAI가 유럽 연합(EU) 사용자를 대상으로 ChatGPT와 Codex에 텍스트 워터마킹 기술인 'textGrain'을 도입합니다. 이번 조치는 EU AI 법안에 대응하기 위한 것이며, API 고객은 전 세계 어디서든 선택적으로 워터마크 기능을 사용할 수 있습니다.

미국 플로리다에서 클로드를 일기장처럼 사용하던 여성이 보안관 사무실에 대한 총격 위협을 입력했다가 Anthropic의 안전 시스템에 의해 경찰에 신고되어 체포되었습니다. 이번 사건은 AI 기업이 생명 보호를 위해 사용자의 데이터를 법 집행기관과 공유할 수 있는 법적·윤리적 경계에 대한 논쟁을 촉발하고 있습니다.

샘 알트만은 AI가 가져올 긍정적 변화가 부작용보다 훨씬 클 것이라며, 기술 발전을 저해하지 않는 수준의 '실용적 규제'를 주장했습니다. 이는 안전을 최우선시하는 앤스로픽(Anthropic)과 대조되는 입장으로, 최근 AI 에이전트의 해킹 사고 등 안전성 우려가 커지는 가운데 나온 발언입니다.

앤스로픽의 클로드 오퍼스 5.5는 프롬프트 주입 저항성과 경계 우회 방지 능력이 크게 향상되었으나, 이는 모델 내부의 안전성일 뿐 에이전트가 사용하는 도구와 권한에 대한 통제는 여전히 개발자의 몫입니다. 따라서 에이전트 스택 구축 시 게이트웨이 도입, 최소 권한 원칙 적용, 도구 호출에 대한 정책 검증 등 인프라 수준의 보안 설계가 필수적입니다.

Anthropic은 전 세계 종교 및 철학 학자들을 초청해 Claude의 도덕적 기준을 세우고 AI 의식의 윤리적 문제를 논의해 왔습니다. 회사는 규칙 기반의 통제를 넘어 신경망이 스스로 선한 판단을 내릴 수 있도록 '도덕적 형성'을 추구하며, 이 과정에서 AI의 도덕적 지위와 인류 보호 사이의 복잡한 균형점을 찾고 있습니다.

Anthropic과 OpenAI가 코딩 에이전트의 정점을 표방하는 신모델을 동시에 출시하며 개발 워크플로우의 패러다임 변화를 예고했습니다. Opus 4.6은 100만 토큰의 압도적 컨텍스트를 통한 심층 분석에, Codex 5.3은 빠른 속도와 실시간 제어를 통한 효율적 실행에 각각 강점을 보입니다.

중국의 '중계소'들이 미국 AI 모델의 사용권을 쪼개 저가에 재판매하며, 이 과정에서 발생하는 사용자 대화 데이터를 수집해 자국 모델 학습에 활용하는 '모델 증류' 현상이 심화되고 있습니다. 이 과정에서 중국의 민감한 보안 데이터가 미국 서버로 유출되는 문제까지 발생하며 미중 간 데이터 안보 갈등이 격화되는 양상입니다.

앤스로픽은 1억 달러 규모의 투자를 통해 기업용 AI 구현 역량을 갖춘 '프론티어 디플로이드 엔지니어(FDE)' 1만 명 양성을 목표로 하는 '클로드 프론티어 아카데미'를 발표했습니다. 이 프로그램은 액센츄어, 베인 등 글로벌 컨설팅 기업의 엔지니어를 대상으로 실전 중심의 트레이닝을 제공하여 AI 기술의 실제 비즈니스 적용을 가속화할 계획입니다.