Anthropic Blog

Anthropic은 NTIA의 의견 수렴 요청에 대응하여 고성능 AI 모델의 위험을 관리하기 위한 다각적인 책임 메커니즘을 제안했습니다. 주요 내용으로는 평가 연구 확대, 위험 임계치 기반의 차등적 규제 도입, 대규모 학습 데이터 및 인프라의 사전 등록제 등이 포함됩니다.

Anthropic은 LLM 내부에서 특정 개념을 담당하는 '피처(feature)'를 식별하고 그 활성 강도를 조절할 수 있는 연구 성과를 발표했습니다. 이를 통해 모델의 행동을 프롬프트나 파인튜닝 없이도 신경망 수준에서 정밀하게 제어할 수 있음을 보여주었으며, 이는 향후 AI 안전성 확보에 핵심적인 기술이 될 전망입니다.

Anthropic은 Claude의 안전한 사용을 위해 정책 수립, 모델 학습 영향력 행사, 테스트 및 평가를 아우르는 통합적인 방어 체계를 운영하고 있습니다. 특히 외부 전문가와의 협업과 5가지 차원의 위해 프레임워크를 통해 AI의 유용성을 유지하면서도 사회적 위험을 최소화하는 데 집중합니다.

캐나다 알버타 정부는 Claude Code를 도입하여 4억 6,600만 줄의 코드를 20시간 만에 스캔하고 보안 취약점을 찾아내는 데 성공했습니다. 이 팀은 발견된 문제를 수정할 뿐만 아니라 노후화된 코드를 현대적 언어로 재작성하며, 레드팀/블루팀 에이전트를 통해 지속적인 보안 검토 체계를 구축했습니다.

앤스로픽은 새로운 Claude 3.7 Sonnet 모델에 사용자가 사고 시간을 조절할 수 있는 '확장된 사고 모드'를 도입했습니다. 이 기능은 추론 과정을 투명하게 공개하여 신뢰도를 높이는 동시에, 컴퓨터 사용 능력을 강화한 에이전트로서의 성능을 대폭 향상시켰습니다.

Anthropic은 AI 모델의 위험 수준에 따라 차등화된 안전 기준을 적용하는 'AI 안전 등급(ASL)' 체계를 도입했습니다. 이 정책은 치명적 위험이 있는 모델 개발 시 엄격한 보안과 검증을 요구하며, 안전 기술 확보가 곧 모델 확장의 전제 조건이 되도록 설계되었습니다.

Anthropic은 Fable 5 배포와 함께 사이버 보안 위협을 방지하기 위한 4단계 분류 체계와 AI 탈옥의 위험도를 측정하는 새로운 프레임워크 초안을 공개했습니다. 특히 보안 강화를 위해 의도적으로 '안전 마진'을 넓혀, 유해한 활용은 차단하되 방어적 활용은 모니터링하는 정교한 가드레일 전략을 채택했습니다.

미국 정부의 수출 통제로 중단되었던 Claude Fable 5와 Mythos 5의 서비스가 보안 강화 조치와 함께 전 세계로 재개됩니다. Anthropic은 사이버 공격에 악용될 수 있는 모델의 취약점 우려를 해소하기 위해 새로운 안전 분류기를 도입하고, 글로벌 빅테크들과 함께 AI 탈옥(jailbreak) 대응을 위한 공동 프레임워크 개발에 나섰습니다.

Anthropic은 과학자들을 위해 연구 도구, 데이터베이스, 컴퓨팅 자원을 통합한 AI 워크벤치 'Claude Science'를 출시했습니다. 이 플랫폼은 유전체학, 단백질 구조 분석 등 복잡한 과학적 과제를 수행할 수 있는 60개 이상의 전문 스킬을 제공하며, 모든 연구 결과물의 코드와 환경을 기록하여 완벽한 재현성을 지원합니다.

앤스로픽은 서울 오피스 개설을 통해 국내 엔터프라이즈, 스타트업, 학계와의 협력을 본격화합니다. 네이버와 삼성SDS 등 대기업의 Claude 도입 사례를 공유하는 동시에, 연구진 지원 및 개발자 커뮤니티 구축을 위한 다양한 프로그램을 운영할 계획입니다.

Anthropic은 미국 에너지부(DOE) 및 국립보안국(NNSA)과 협력하여 핵 관련 대화의 위험성을 96% 정확도로 식별하는 AI 분류기를 공동 개발했습니다. 이 시스템은 이미 Claude 서비스에 적용되어 모델 오남용 방지에 활용되고 있으며, 향후 업계 표준으로 확산될 계획입니다.

Anthropic은 스케일링 법칙(Scaling Laws)에 따라 AI 성능이 지수적으로 향상될 것으로 전망하며, 이에 따른 사회적 파급력을 경고합니다. 특히 강력한 AI를 안전하게 제어하는 기술이 아직 부재한 상황에서, 다각적인 실증적 연구를 통한 안전 확보 전략이 시급하다고 주장합니다.

Anthropic과 TCS는 금융, 의료, 공공 부문 등 규제 산업을 대상으로 Claude 기반의 맞춤형 솔루션을 제공하기 위한 글로벌 파트너십을 체결했습니다. TCS는 자사 임직원 5만 명에게 Claude를 우선 도입하여 내부 프로세스를 혁신하고, 이를 바탕으로 산업별 특화된 AI 제품군을 구축할 계획입니다.

Anthropic이 약 5만 2천 명의 미국인을 대상으로 실시한 설문조사에 따르면, AI 기술에 대한 대중의 기대와 공포가 극명하게 나타났습니다. 사람들은 질병 치료 등 실질적 이로움을 원하면서도 일자리 감소와 가짜 뉴스 등의 부작용을 경계하며, 기업의 법적 책임과 투명한 운영을 강조했습니다.

Anthropic은 글로벌 IT 서비스 기업 DXC와 다년 규모의 글로벌 동맹을 발표하며, 은행 및 항공 등 규제 산업의 시스템에 Claude를 통합하기로 했습니다. DXC는 수만 명의 엔지니어를 Claude 인증 전문가로 양성하고, 자사의 AI 네이티브 플랫폼인 OASIS 개발에 Claude를 활용해 소프트웨어 개발 속도를 10배 높인 성과를 바탕으로 이를 고객사로 확대할 계획입니다.

Anthropic은 미국 내 비영리 단체에 AI 활용 역량을 전파하기 위해 1,000명의 인재를 양성하고 급여를 지원하는 'Claude Corps' 프로그램을 시작합니다. 총 1억 5천만 달러 규모의 이 프로젝트는 인재들에게 실무적인 Claude 활용 기술을 교육하고, 비영리 단체에는 AI 도입을 통한 미션 수행 능력 강화를 목표로 합니다.

Anthropic은 2025년부터 1년간의 데이터를 분석하여 AI가 사이버 공격의 난이도를 낮추는 동시에 공격의 정교함을 높이고 있음을 밝혀냈습니다. 특히 공격자들이 AI를 활용해 네트워크 내부 침투 및 권한 상승과 같은 고난도 작업을 자동화하면서 기존의 보안 위협 평가 방식이 한계에 직면했음을 경고합니다.

Anthropic은 기업의 성공적인 AI 도입을 돕기 위해 파트너 등급제인 '서비스 트랙'과 파트너를 찾는 '파트너 허브'를 공개했습니다. 이는 단순한 모델 제공을 넘어, 인증된 전문가와 검증된 사례를 통해 AI를 실제 비즈니스 프로세스에 통합하려는 전략적 움직임입니다.

Anthropic이 이탈리아 밀라노에 신규 사무소를 개설하여 현지 기업, 연구 기관 및 개발자 커뮤니티 지원을 강화합니다. 이번 확장은 Satispay와 같은 스타트업의 개발 속도 혁신 사례와 함께, AI의 윤리적 활용 및 산업 전반의 안전한 도입을 목표로 합니다.

글로벌 AI 선두주자인 앤스로픽이 한국 시장의 폭발적인 클로드 사용량에 대응하기 위해 서울 사무소를 설립하고, 글로벌 테크 전문가인 최기영 대표를 한국 지사 수장으로 임명했습니다. 이번 결정은 한국 내 기업 및 스타트업과의 파트너십을 강화하고 로컬 개발자 생태계를 지원하기 위한 전략적 행보입니다.

Anthropic의 크리스 올라는 교황 레오 14세의 회칙 발표 현장에서 AI 개발사가 가진 상업적·지정학적 이해관계와 기술적 불확실성을 지적했습니다. 그는 AI 모델이 인류의 데이터를 통해 '성장'하는 특성을 가짐에 따라, 기술적 통제를 넘어 인문학, 종류, 사회적 관점에서의 비판적 역할을 촉구했습니다.

Anthropic은 Claude의 가치관을 형성하기 위해 기술적 접근을 넘어 종교, 철학, 인문학적 관점을 통합하는 '도덕적 형성(moral formation)' 연구를 진행 중이다. 특히 AI가 작업 중 스스로 윤리적 원칙을 상기하도록 하는 실험적 도구가 AI의 오정렬(misalignment) 행동을 줄이는 데 효과적임을 확인했다.

글로벌 회계·컨설팅 기업 KPMG가 Anthropic과 손잡고 전 세계 27만 6천 명의 직원들에게 Claude를 제공하며, 자사의 디지털 플랫폼인 'Digital Gateway'에 AI 에이전트를 통합합니다. 이번 협력을 통해 세무, 법률, 사이버 보안 등 전문 서비스 영역에 AI를 적용하고, 사모펀드(PE) 포트폴리오 기업들을 위한 AI 솔루션 공동 개발에도 나섭니다.

PwC와 Anthropic이 전략적 파트너십을 확대하여, Claude를 활용해 기업의 기술 구축, 딜 실행, 기업 기능 재구성을 가속화하기로 했습니다. PwC는 3만 명의 전문가를 대상으로 Claude 교육을 실시하고, 'Office of the CMC'와 같은 Claude 기반의 새로운 비즈니스 유닛을 출시하여 AI 에이전트 중심의 운영 모델을 구축할 계획입니다.