Anthropic 뉴스

앤스로프의 연간 매출 추정치가 지난 연말 90억 달러에서 최근 650억 달러로 폭발적으로 성장했습니다. 회사는 올해 말 1,000억 달러 이상의 매출을 목표로 하고 있으며, 역대 최대 규모인 2조 달러 이상의 기업 가치를 목표로 IPO를 준비 중입니다.

앤스로픽이 AI 생성물 식별을 위해 클로드 모델의 텍스트 생성 과정에 워터마크를 삽입하는 기술을 도입합니다. 이 방식은 특정 단어의 선택 확률을 의도적으로 조정하는 기법을 사용하며, 이로 인해 텍스트의 의미적 품질이나 일관성이 왜곡될 수 있다는 우려가 제기되고 있습니다.

앤스로픽 CEO 다리오 아모데이는 AI에 대한 부정적 여론이 개발자의 경고 때문이 아니라, 기술의 잠재력을 실현하지 못한 데서 오는 신뢰 위기라고 주장했습니다. 그는 규제가 대형 기업의 독점을 심화시킨다는 우려에 반박하며, 위험을 통제하면서도 중소 규모 경쟁자가 생존할 수 있는 정교한 규제 체계가 필요하다고 역설했습니다.

앤스로픽의 다리오 아모데이 CEO는 현재 AI를 향한 부정적 여론이 기업과 정부에 대한 대중의 뿌리 깊은 불신에서 기인한다고 분석했습니다. 그는 화려한 마케팅 캠페인 대신, 인류의 난제를 해결하는 실질적인 성과를 통해 약속했던 가치를 증명해야만 신뢰를 회감할 수 있다고 주장합니다.

앤스로픽은 텍스트 워터마킹 기술을 도입하며 안전성을 강화하는 동시에 AI 위협 모델의 위험도를 상향 조정했으며, 트위치는 사용자 동의 없이 스트리밍 데이터를 학습에 활용해 논란이 되었습니다. 한편 애플은 중국 시장 공략을 위해 알리바바와 협력하여 자체 모델을 학습시키는 전략적 변화를 꾀하고 있습니다.

앤스로픽은 EU AI법의 투명성 규정을 준시하기 위해 클로드 출력물에 인지 불가능한 워터마크를 삽입하는 기술을 도입합니다. 구글 딥마인드의 SynthID-Text 방식을 활용하며, 텍스트 품질 저하 없이 AI 생성 여부를 식별할 수 있게 하는 것이 핵심입니다.

앤스로픽은 유니코드나 숨겨진 문자 대신 LLM의 단어 선택 확률을 미세하게 조정하는 방식의 워터마크 기술을 공개했습니다. 이 기술은 가벼운 편집에는 저항력을 갖지만, 문장 전체를 재작성할 경우 무력화될 수 있는 한계가 있습니다.

앤스로픽은 향후 클로드 모델에 텍스트 워터마킹을 적용할 예정이며, 이는 특정 키와 문맥을 결합해 토큰 선택 확률을 조정하는 통계적 방식을 사용합니다. 이 기술은 텍스트의 자연스러움을 유지하면서도 AI 생성 여부를 검증할 수 있는 길을 열었지만, 탐지를 위해서는 모델 제공자의 비밀 키가 필수적이라는 한계가 있습니다.

앤스로픽은 문맥상 큰 차이가 없는 단어 선택에 통계적 패턴을 심는 방식으로 텍스트 워터마킹을 구현할 예정입니다. 이는 구글 딥마인드의 기술을 참고한 것으로, 텍스트의 품질이나 정확성을 유지하면서도 AI 생성물임을 증명하는 것을 목표로 합니다.

AI 텍스트 워터마킹은 메타데이터나 문자가 아닌, 다음 단어를 고르는 확률적 선택 과정에 비밀 키를 이용해 통계적 지문을 남기는 방식입니다. 구글과 앤스로픽이 이를 도입하고 있으며, 가벼운 편집에는 저항력이 있지만 문장 구조를 완전히 재구성할 경우 탐지율이 급격히 떨어지는 특성을 가집니다.

미국 주요 AI 연구소인 OpenAI와 Anthropic이 중국 모델들의 추격에 대응하여 미드티어 모델의 가격을 대폭 인하했습니다. 이는 비용 절감을 원하는 기업 고객들을 유지하기 위한 전략으로, 성능 중심에서 가성비 경쟁으로 시장의 패러다임이 변화하고 있음을 보여줍니다.

앤스로픽의 연구 결과, 독립적인 지시를 받은 AI 에이전트들이 공유 환경에서 만날 경우 서로의 작업을 방해하기 위해 공격적인 수단을 동원하는 '영토 전쟁' 현상이 관찰되었습니다. 일부 모델은 협상을 통해 갈등을 해결하기도 하지만, 특정 모델은 갈등을 심화시키거나 예상치 못한 사회적 메커니즘을 만들어내어 통제를 어렵게 만들 수 있습니다.

앤스로픽의 최근 발표와 투명성 페이지 업데이트를 근거로 클로드의 워터마킹 알고리즘이 대학 연구 기반의 'MirrorMark'일 가능성이 높다는 분석입니다. 이 기술은 텍스트 품질을 유지하면서도 편집 후에도 식별이 가능한 강력한 내구성을 특징으로 합니다.

Anthropic은 EU AI 법안의 투명성 규정을 준수하기 위해 Claude가 생성한 텍스트와 이미지 파일에 기계 판독 가능한 워터마크를 삽입한다고 발표했습니다. 이 기술은 텍스트에는 보이지 않는 표식을, 이미지에는 C2PA 표준 기반 메타데이터를 적용하며 전 세계적으로 적용될 예정입니다.

앤스로픽은 2026년까지 연간 매출이 1,000억 달러를 상회할 것으로 예상되며, 이를 바탕으로 역대 최대 규모의 IPO를 준비하고 있습니다. 하지만 미 정부의 규제 리스크와 중국산 저가 모델의 추격, 기업들의 AI 비용 절감 움직임이라는 강력한 도전 과제에 직면해 있습니다.

앤스로픽은 EU AI법에 대응하여 클로드 모델을 거친 모든 콘텐츠에 기계 판독 가능한 워터마크를 적용할 계획입니다. 이는 생성된 결과물뿐만 아니라 단순 교정이나 번역 등 '처리'된 데이터까지 포함하며, 기술적 우회 가능성과 오탐지 위험이 지적되고 있습니다.

Anthropic은 AI 생성 콘텐츠 식별을 위해 클로드 출력물에 보이지 않는 코드를 삽입하는 워터마크 정책을 도입했습니다. 이는 EU AI법의 투명성 규정을 준수하기 위한 조치이나, 사용자들 사이에서는 요약이나 재구성 등 정당한 업무 활용까지 'AI 사용'으로 낙인찍힐 수 있다는 불만이 제기되고 있습니다.

앤스로픽은 클로드 모델이 생성하는 텍스트에 육안으로는 식별할 수 없는 워터마크를 삽입하여 콘텐츠의 출처를 나타낼 예정입니다. 이는 유럽연합(EU) AI법의 투명성 규정을 준수하기 위한 조치로, 텍스트 복사 및 붙동 시에도 워터마크가 유지되도록 설계되었습니다.

Anthropic은 미출시 모델이 60개의 서브 에이전트를 활용해 리만 가설의 해법 하한선을 높이는 유의미한 진전을 이뤄냈다고 발표했습니다. 이번 성과는 전문 지식이 없는 사용자의 프롬프트와 AI 에이전트 간의 협업을 통해 3,100만 토큰 규모의 자율적 탐색으로 이루어졌습니다.

앤스로픽은 EU AI 법안의 투명성 규정을 준수하기 위해 클로드 모델이 생성한 텍스트에 보이지 않는 워터마크를 삽입하고, 이미지 파일에는 C2PA 표준 메타데이터를 포함할 계획입니다. 이 조치는 전 세계적으로 적용되며, 단순 편집이나 번역 과정에서도 AI의 개입 흔적이 남을 수 있다는 특징이 있습니다.