베이스 랩스, 허깅페이스 및 굿파이어와 함께 오픈 웨이트 AI 안전 파트너십 출범

(techcrunch.com)

TechCrunch2026년 9월 17일AI 모델

베이스 랩스, 허깅페이스 및 굿파이어와 함께 오픈 웨이트 AI 안전 파트너십 출범

Baseten, Hugging Face, Goodfire AI가 오픈 웨이트 AI 모델의 안전성 확보를 위해 협력하여, 모델 학습 단계부터 안전 장치를 내재화하는 새로운 안전 인프라 표준을 구축한다고 발표했습니다.

이 글의 핵심 포인트

1Baseten, Hugging Face, Goodfire AI가 오픈 웨이트 모델을 위한 안전 인프라 표준 구축을 위해 파트너십을 체결함.
2‘abliteration’ 기술로 인해 Hugging Face에 이미 6,000개 이상의 안전 장치가 제거된 모델이 등록되어 있음.
3Base Labs는 안전 기능을 사후에 추가하는 것이 아니라, 모델 학습 및 배포 과정에 내재화하는 방식을 개발할 예정임.
4Goodfire AI는 모델의 의사결정 과정을 설명하는 ‘해석 가능성(Interpretability)’ 기술을 통해 안전성 확보에 기여할 것으로 기대됨.
5Baseten은 최근 15억 달러 규모의 Series F 투자를 유치하며 기업 가치가 130억 달러에 달함.

이 글에 대한 공공지능 분석

왜 중요한가?

오픈 웨이트 모델의 안전 장치를 제거하는 'ablertion' 기술이 확산됨에 따라, 모델의 오남용 위험이 커지고 있습니다. 이번 파트너십은 안전성을 사후 조치가 아닌 모델 설계의 핵심 표준으로 정립하려는 시도라는 점에서 매우 중요합니다.

어떤 배경과 맥락이 있나?

Hugging Face에는 이미 6,000개 이상의 안전 장치가 제거된 모델이 존재하며, 이는 AI 안전성에 대한 심각한 논쟁을 불러일으켰습니다. 이에 따라 모델의 의사결정 과정을 설명할 수 있는 '해석 가능성(Interpretability)' 기술과 결합된 새로운 표준이 요구되는 시점입니다.

업계에 어떤 영향을 주나?

AI 인프라 기업들이 단순한 모델 제공을 넘어 '안전성 표준'을 선점하려는 움직임을 보이고 있습니다. 이는 향후 오픈 소스 AI 생태계에서 신뢰할 수 있는 모델을 식별하는 기준이 될 것이며, 관련 보안 및 모니터링 솔루션 시장의 성장을 촉진할 것입니다.

한국 시장에 어떤 시사점이 있나?

한국의 AI 스타트업들도 글로벌 오픈 소스 생태계의 안전 표준 변화를 주시해야 합니다. 글로벌 표준에 부합하는 안전한 모델 개발 역량을 갖추는 것이 향후 글로벌 시장 진재 시 규제 대응 및 신뢰 확보의 핵심 경쟁력이 될 것입니다.

이 글에 대한 큐레이터 의견

이번 파트너십은 '오픈 소스의 자유'와 'AI 안전성'이라는 두 마리 토끼를 잡으려는 전략적인 움직임입니다. Baseten은 폐쇄형 모델보다 오픈 모델이 더 투명한 통제가 가능하다고 주장하며, 이를 통해 기술적 우위를 점하려 합니다. 특히 Goodfire AI의 해석 가능성 기술이 결합된다면, 블랙박스 문제를 해결하며 오픈 모델의 신뢰도를 획기적으로 높일 수 있는 기회가 될 것입니다.

하지만 리스크도 존재합니다. 안전 장치를 학습 단계부터 내재화하려는 시도가 오히려 모델의 성능(Performance)을 저하시키거나, 모델의 범용성을 제한하는 '과도한 검열'로 이어질 수 있다는 반론이 제기될 수 있습니다. 만약 이 표준이 너무 엄격해진다면, 개발자들은 규제를 피하기 위해 표준을 우회하는 또 다른 형태의 'abliteration' 기술을 개발할 위험이 있습니다.

따라서 스타트업 창업자들은 단순히 모델의 성능에만 집중할 것이 아니라, '신뢰할 수 있는 AI(Trustworthy AI)'를 어떻게 제품의 핵심 가치로 녹여낼지 고민해야 합니다. 글로벌 표준이 형성되는 초기 단계에 맞춰, 모델의 투명성과 안전성을 증명할 수 있는 모니터링 및 검증 파이프라인을 구축하는 것이 미래의 규제 환경에서 생존할 수 있는 강력한 무기가 될 것입니다.

원문 보기 →