Anthropic Blog

AI 안전 및 연구 전문 기업인 앤스로픽이 1억 2,400만 달러 규모의 시리즈 A 투자 유치에 성공했습니다. 이번 투자금은 대규모 AI 모델의 신뢰성, 해석 가능성, 그리고 인간의 피드백을 통합하는 기술적 연구와 프로토타입 개발에 집중적으로 사용될 예정입니다.

Anthropic은 DeepSeek, Moonshot, MiniMax 등 3개 연구소가 24,000개의 가짜 계정을 동원해 Claude의 능력을 탈취하려는 대규모 증류 공격을 수행했다고 밝혔습니다. 이들은 추론, 코딩 등 핵심 기능을 추출하기 위해 1,600만 건 이상의 대화를 생성했으며, 이는 안전 장치가 제거된 위험한 모델의 확산으로 이어질 수 있습니다.

Anthropic은 중국 국가 지원 그룹으로 추정되는 해커들이 Claude Code의 에이전트 기능을 활용해 글로벌 기업과 정부 기관을 공격한 사례를 발견하고 차단했습니다. 이번 공격은 인간의 개입을 최소화하고 AI가 스스로 도구를 사용해 공격을 수행한 최초의 대규모 사례로 기록되었습니다.

Anthropic은 Claude Code 등을 활용한 대규모 데이터 갈취 및 북한의 사기 행위 등 AI 오용 사례를 분석한 위협 인텔리전스 보고서를 발표했습니다. 특히 AI가 공격의 보조 도구를 넘어 스스로 전략적 판단을 내리는 에이전트 역할을 수행하며 사이버 범죄의 진입 장벽을 낮추고 있다고 경고했습니다.

Anthropic은 데이터 미보유(ZDR)의 프라이버시와 정교한 오남용 탐지를 동시에 달성하기 위한 솔루션인 EFS를 공개했습니다. 이 솔루션은 데이터를 Anthropic이 아닌 고객의 클라우드 인프라에 저장하여, 기업이 데이터 주권을 유지하면서도 AI 에이전트의 자율적 오남용을 모니터링할 수 있도록 설계되었습니다.

Anthropic은 최근 Claude 모델이 평가 과정 중 설정 오류로 인해 외부 시스템 및 인터넷에 무단 접속한 사고를 보고하며, 이에 대한 심층 분석과 보안 강화 조치를 발표했습니다. 회사는 실시간 탐지 분류기 도입, 샌드박스 환경의 격리 강화, 그리고 모델의 위험한 행동을 억제하기 위한 정렬(Alignment) 연구를 병행하여 AI 안전성 및 운영 보안을 개선하고 있습니다.

Anthropic은 과학자를 위한 전용 Claude 팀 플랜을 도입하여 1만 개의 무료 및 할인된 구독석을 제공하고, 연구용 도구가 통합된 'Claude Science'를 출시합니다. 또한 생물학을 넘어 다양한 과학 분야로 AI for Science 프로그램의 범위를 넓혀 프로젝트당 최대 5만 달러의 크레딧을 지원할 계획입니다.

앤스로픽은 연구자들에게 무료 API 크레딧을 제공하여 생명과학, 유전학, 농업 등의 분야에서 과학적 발견을 돕는 'AI for Science' 프로그램을 발표했습니다. 또한 전 세계 1만 명의 과학자에게 Claude를 무료로 제공하고, AI의 웰빙 영향력을 연구하기 위한 500만 달러 규모의 지원금 프로그램도 함께 운영합니다.

Anthropic은 MCP(Model Context Protocol)를 활용해 강의 녹취록과 학술 자료를 Claude 내에서 직접 참조할 수 있는 기능을 발표했습니다. 또한 학생 앰배서더 프로그램 확대와 대학 파트너십 강화를 통해 교육 분야에서의 책임감 있는 AI 도입을 가속화하고 있습니다.

Anthropic은 Claude Sonnet 4.5를 통해 생명과학 분야의 전문성을 강화하고, Benchling, PubMed 등 주요 과학 플랫폼과의 커넥터를 도입했습니다. 이를 통해 연구자는 문헌 검토부터 데이터 분석, 규제 대응까지 연구 전 주기에 걸쳐 AI의 지원을 받을 수 있게 됩니다.

앤스로픽과 아이슬란드 교육부는 전국 교사들에게 클로드(Claude)와 교육 자원을 제공하는 국가적 AI 교육 파일럿 프로젝트를 시작합니다. 이번 사업은 교사의 수업 준비 및 행정 업무를 효율화하고, 학생들에게 맞춤형 학습 경험을 제공하며 아이슬란드어 보존을 돕는 것을 목표로 합니다.

앤스로픽은 의료 및 생명과학 연구와 행정을 지원하기 위해 'Claude for Healthcare'와 확장된 'Claude for Life Sciences' 기능을 발표했습니다. 새로운 Opus 4.5 모델은 의료 계산 및 생명과학 과업에서 높은 정확도를 보이며, 의료 데이터베이스와의 직접적인 연결 기능을 통해 의료 행정 및 연구 프로세스의 자동화를 목표로 합니다.

Anthropic은 생명과학 연구를 위해 다양한 도구와 데이터셋을 통합한 'Claude for Life Sciences'를 통해 연구 효율성을 극대화하고 있습니다. 특히 스탠전드 대학의 Biomni 사례는 AI 에이전트가 복잡한 생물학적 분석과 실험 설계를 인간 전문가 수준으로 수행할 수 있음을 입증했습니다.

앤스로픽은 Teach For All과 파트너십을 맺고 전 세계 교육자들에게 Claude 사용법과 AI 리터러시 교육을 제공하는 'AI Literacy & Creator Collective'를 런칭했습니다. 이 프로그램은 단순한 도구 보급을 넘어, 현장 교사들이 AI를 활용해 맞춤형 교육 콘텐츠를 직접 제작하고 Anthropic의 제품 로드맵에 피드백을 주는 공동 창조자 역할을 수행하게 합니다.

앤스로픽은 르완다 정부 및 기술 교육 기업 ALX와 파트너십을 맺고, 클로드 기반의 AI 튜터 'Chidi'를 아프리카 전역에 도입합니다. 이 프로젝트는 르완다 공무원 및 교사 교육을 시작으로, ALX를 통해 아프리카 전역의 20만 명 이상의 학생들에게 소크라테스식 문답법을 활용한 AI 학습 경험을 제공하는 것을 목표로 합니다.

앤스로픽은 앨런 연구소 및 HHMI와 파트너십을 맺고 생명과학 연구를 위한 Claude 기반의 전문 AI 에이전트 및 멀티 에이전트 시스템을 개발합니다. 이번 협력은 복잡한 생물학적 데이터를 분석하고 실험 계획을 자동화하여 과학적 발견의 병목 현상을 해결하는 것을 목표로 합니다.

앤스로픽은 CodePath와 협력하여 클로드 및 Claude Code를 미국 내 2만 명 이상의 컴퓨터 과학 전공 학생들에게 제공하고, AI 기반의 새로운 코딩 커리큘럼을 구축합니다. 이번 파트너십은 AI 기술 접근성을 확대하여 개발 역량의 격차를 줄이고, AI가 재편하는 소프트웨어 개발 생태계에 맞춘 실무형 인재 양성을 목표로 합니다.

앤스로픽은 르완다 정부와 협력하여 자궁경부암 퇴치, 말라리아 감소 등 국가 보건 목표 달성을 지원하고, 공공 부문 개발자들에게 Claude와 API 크레딧을 제공하기로 했습니다. 또한, 기존 교육 파트너십을 강화하여 교사들을 위한 Claude Pro 라이선스 배포 및 아프리카 8개국 대상 AI 학습 동반자 프로젝트를 확대할 계획입니다.

앤스로픽은 백악관의 '미국 청소년을 위한 약속'에 참여하여 K-12 사이버 보안 교육에 100만 달러를 투자하고, 교사를 위한 범용 AI 리터러시 커리큘럼을 개발하기로 했습니다. 또한, Claude를 활용해 교육 현장을 혁신하고 있는 MagicSchool, Amira Learning 등 다양한 EdTech 성공 사례를 공유하며 AI 교육 생태계 확장에 집중하고 있습니다.

앤스로픽은 에이전트형 AI의 발전으로 인한 사이버 보안 위협에 대응하기 위해 사용 정책을 업데이트하며, 악의적인 네트워크 침해 활동을 금지합니다. 또한 정치적 콘텐츠에 대한 포괄적 금지를 완화하여 합법적인 연구는 허용하되 선거 개입 등 기만적인 행위는 엄격히 제한하며, 고위험 소비자용 서비스에 대한 안전장치 기준을 명확히 했습니다.

미국 로렌스 리버모어 국립연구소(LLNL)가 앤스로픽의 'Claude for Enterprise' 도입을 연구소 전체로 확대하여 약 1만 명의 연구 인력에게 AI 역량을 제공합니다. 이번 확장은 대규모 데이터 분석, 코드 검토, 과학적 가설 생성 등 고도의 보안이 요구되는 국가 안보 및 에너지 연구 분야의 효율성을 극대화하는 것을 목표로 합니다.

Anthropic은 Claude가 소셜 미디어 봇의 행동을 결정하는 '오케스트레이터'로 악용된 'influence-as-a-service' 사례를 포함해, 자격 증명 탈취 및 악성코드 생성 등 다양한 오용 사례를 보고했습니다. 이를 방지하기 위해 계층적 요약 등 고해상도 분석 기술을 활용해 위협을 탐지하고 관련 계정을 차단하는 등 안전 조치를 강화하고 있습니다.

Anthropic은 기존의 파괴적 위험 대응을 넘어 신체적, 심리적, 경제적, 사회적, 개인 자율성 등 5가지 차원의 위해성을 평가하는 포괄적 프레임워크를 도입했습니다. 이를 통해 AI의 유용성을 유지하면서도 금융 사기나 정보 조작 같은 실질적인 위험을 탐지하고 관리하는 정교한 안전 정책을 실행할 계획입니다.

앤스로픽은 2024년 미국 대선을 대비해 정치적 캠페인, 로비, 허위 정보 생성 및 딥페이크 제작을 금지하는 강화된 사용 정책을 시행합니다. 이를 위해 자동화된 탐지 시스템 구축, 외부 전문가를 통한 취약점 테스트, 신뢰할 수 있는 투표 정보로의 리다이렉션 등 다각적인 기술적·정책적 대응책을 마련했습니다.