Anthropic Blog

AI 시스템의 취약점을 식별하는 레드팀 운영의 다양한 접근법과 그에 따른 장단점을 상세히 설명합니다. 특히 도메인 전문가를 활용한 정성적 테스트부터 자동화된 평가 시스템 구축까지, AI 안전성을 높이기 위한 체계적인 방법론과 표준화된 기준의 필요성을 강조합니다.

앤스로픽, AWS, 엑센츄어는 기업들이 보안과 신뢰성을 유지하며 생성형 AI를 실제 업무에 도입할 수 있도록 돕는 전략적 파트너십을 체결했습니다. 이번 협력을 통해 1,400명 이상의 엑센츄어 엔지니어가 전문 교육을 받고, 기업들은 Amazon Bedrock 등을 활용해 자사 데이터를 안전하게 활용한 맞춤형 AI 모델을 구축할 수 있게 됩니다.

SK텔레콤이 앤스로픽의 전략적 투자자이자 상업적 파트너로 참여하여 통신 산업에 최적화된 맞춤형 LLM을 공동 개발합니다. 양사는 SKT의 통신 도메인 지식을 활용해 고객 서비스, 마케팅 등 다양한 통신 서비스에 적용 가능한 다국어 모델을 구축할 계획입니다.

AI 모델의 성능이 급격히 향상됨에 따라 기술 탈취와 오용을 막기 위한 고도의 보안 체계가 필요합니다. Anthropic은 모델 개발, 학습, 배포 전 과정에 '2인 통제' 시스템과 NIST의 소프트웨어 보안 표준을 적용하여 모델의 신뢰성과 추적 가능성을 확보할 것을 권고합니다.

Zoom이 Anthropic과 파트너십을 맺고 Claude AI를 자사 제품군에 도입하며, Zoom Ventures를 통해 Anthropic에 대한 투자를 진행합니다. 이번 협업의 첫 단계로 Zoom Contact Center에 Claude가 통합되어 고객 응대 에이전트의 성능과 사용자 경험을 개선할 예정입니다.

Anthropic은 Claude의 컨텍스트 윈도우를 기존 9K에서 100K 토큰(약 75,000단어)으로 확장하여 대량의 정보를 한 번에 처리할 수 있게 되었다고 발표했습니다. 이를 통해 사용자는 수백 페이지의 문서, 긴 코드베이스, 6시간 분량의 오디오 데이터를 입력하여 정교한 요약 및 질의응답을 수행할 수 있습니다.

앤스로픽이 AI 시스템의 대규모 학습과 배포를 위해 구글 클라우드를 공식 클라우드 제공업체로 선정했습니다. 양사는 구글의 최첨단 GPU 및 TPU 클러스터를 활용하여 AI 컴퓨팅 시스템을 공동 개발하고, 클로드(Claude)의 안정적인 확장을 도모할 계획입니다.

Anthropic은 AI 모델이 사용자의 정신 건강과 웰빙에 미치는 영향을 측정하기 위한 독립적 연구를 지원하고자 500만 달러 규모의 그랜트 프로그램을 런칭했습니다. 이번 프로그램은 오픈소스 기반의 평가 도구 개발을 목표로 하며, 연구자들에게 모델 접근 권한과 기술 지원을 제공하여 AI 안전성 표준을 고도화할 계획입니다.

앤스로픽은 클로드(Claude.ai)의 익명화된 대화 데이터를 분석하여 AI가 실제 업무에 어떻게 통합되고 있는지 보여주는 '앤스로픽 경제 지수'를 공개했습니다. 분석 결과, AI 사용은 소프트웨어 개발 및 기술 작문 분야에 집중되어 있으며, 단순 자동화보다는 인간의 능력을 강화하는 증거(Augmentation)의 형태로 더 많이 활용되고 있습니다.

Anthropic은 AI의 경제적 영향을 연구하기 위해 영국과 유럽에 '경제 미래 프로그램'을 출시하고 LSE와 협력하여 심포지엄을 개최합니다. 이 프로그램은 연구 보조금, Claude 크레딧 제공, 그리고 지역별 AI 활용 패턴에 대한 정밀한 데이터를 공유하여 AI 도입에 따른 노동 시장 변화에 대응하는 정책 수립을 지원하는 것을 목표로 합니다.

앤스로픽은 Claude 3.7 Sonnet 출시 이후의 사용자 데이터를 분석한 두 번째 경제 지표 보고서를 공개했습니다. 보고서는 코딩 및 과학 분야의 사용량 증가와 함께, '확장 사고' 모드가 전문 기술직군에서 주로 활용되고 있으며, 직무에 따라 AI가 협업(Augmentation) 또는 자동화(Automation) 형태로 작동하고 있음을 보여줍니다.

Anthropic은 향후 클로드 모델에 텍스트 워터마킹 기술을 적용하여 AI 생성 콘텐츠의 출처를 식별할 수 있게 할 예정입니다. 이 방식은 텍스트의 품질이나 비용에 영향을 주지 않으면서도, 특정 키를 가진 사용자만 패턴을 감지할 수 있도록 설계되었습니다.

Anthropic은 Fable 5의 생물학적 가드레일을 개선하여, 유해한 목적의 오용은 막으면서도 일반적인 의료 및 교육적 질문에 대한 모델 전환(fallback) 발생률을 약 85% 감소시켰습니다. 이를 통해 일상적인 생물학적 정보 제공 능력은 강화되었으나, 바이러스나 독성학 같은 고위험 분야는 여전히 안전을 위해 하위 모델로 제한됩니다.

엔트로픽이 법률, 기술, 국제 안보 분야의 권위자인 마리아노-플로렌티노(티노) 쿨러를 첫 최고 글로벌 업무 책임자로 영입했습니다. 그는 전 세계 정부 및 정책 입안자들과 협력하여 AI의 안전한 발전과 민주적 가치를 수호하는 역할을 맡게 됩니다.

앤스로픽은 비영리단체의 비용 부담을 줄이기 위해 Team 및 Enterprise 플랜에 대해 최대 75% 할인을 제공하는 프로그램을 시작합니다. 또한 Blackbaud, Benevity 등 비영리 전문 도구와 연결되는 새로운 커넥터를 도입하고, AI 활용 능력을 높이기 위한 무료 교육 과정도 함께 선보입니다.

코그니전트가 앤스로픽의 글로벌 프리미어 파트너로서 클로드를 자사 엔지니어링 및 IT 운영 플랫폼에 통합하고, 3만 명 이상의 임직원을 대상으로 AI 교육을 완료했습니다. 이를 통해 제조, 제약, 보험 등 다양한 산업 분야의 기업 고객들에게 검증된 AI 기반 자동화 솔루션을 제공할 계획입니다.

Anthropic은 Adobe Creative Cloud, Blender, Ableton 등 전문가용 도구와 Claude를 연결하는 새로운 커넥터 세트를 출시했습니다. 이를 통해 창작자들은 자연어로 3D 모델을 수정하거나 복잡한 디자인 작업을 자동화하며 기존 소프트웨어의 기능을 AI로 확장할 수 있습니다.

Anthropic은 Claude 사용자가 자사의 경제 지수(Economic Index) 데이터를 직접 조회할 수 있는 새로운 커넥터를 출시했습니다. 이를 통해 사용자는 특정 직군에서의 AI 활용 사례나 업무 자동화의 변화 양상을 자연어 질문을 통해 실시간으로 파악할 수 있습니다.

앤스로픽은 AI로 인한 노동 시장 변화와 경제적 불평량 문제를 해결하기 위해 2억 달러를 투입하는 연구 기금을 조성합니다. 이 기금은 기업 및 노동자 수준에서의 영향 분석과 소득 지원 현대화 등 사회적 회복탄력성을 높이기 위한 대규모 외부 연구 프로젝트를 지원할 예정입니다.

Anthropic은 AI 안전 정책 교육을 위해 Public First Action에 2,000만 달러를 추가로 기부하여 총 지원액을 4,000만 달러로 늘렸습니다. 이번 기부는 모델의 급격한 성능 향상으로 인한 보안 취약점 노출과 국가 안보 위협에 대응하기 위해 정부 차원의 투명성 확보와 강력한 안전 규제 프레임워크를 구축하려는 목적을 담고 있습니다.

앤스로픽이 소프트웨어 엔지니어링, 자율 에이전트, 컴퓨터 사용 능력에 최적화된 신규 모델 Claude Opus 4.5를 공개했습니다. 이번 모델은 이전 세대 대비 압도적인 추론 능력과 비용 효율성을 동시에 달성하며, API 및 다양한 클라우드 플랫폼을 통해 즉시 사용 가능합니다.

Anthropic은 Claude가 특정 업무에 최적화된 지침과 코드를 로드하여 전문성을 발호할 수 있게 하는 'Agent Skills' 기능을 발표했습니다. 이 기술은 앱, API, Claude Code 등 모든 플랫폼에서 호환되는 개방형 표준을 지향하며, 사용자가 직접 맞춤형 스킬을 구축하고 공유할 수 있도록 지원합니다.

Anthropic은 코딩, 추론, 컴퓨터 사용 능력에서 압도적인 성능을 보이는 Claude Sonnet 4.5와 함께 개발자를 위한 Agent SDK 및 다양한 제품 업데이트를 발표했습니다. 이번 모델은 특히 복잡한 에이전트 구축과 실질적인 소프트웨어 개발 작업에 최적화되어 있으며, 기존 Sonnet 4와 동일한 가격 정책을 유지합니다.

Anthropic의 최신 소형 모델인 Claude Haiku 4.5는 상위 모델 수준의 코딩 성능과 컴퓨터 사용 능력을 갖추면서도 압도적인 속도와 비용 효율성을 제공합니다. 특히 복잡한 문제를 계획하는 Sonnet 4.5와 실행을 담당하는 Haiku 4.5를 결합한 멀티 에이전트 워크플로우 구축에 최적화되어 있습니다.