Import AI

AI 모델의 환경 탐색 및 규칙 발견 능력을 평가하기 위한 새로운 벤치마크인 'DiG-bench'가 공개되었습니다. 이 테스트는 텍스트 기반 게임을 통해 모델이 명시되지 않은 규칙을 스스로 파악하는 창의적 직관을 측정하며, 현재 최신 모델들도 높은 난이도에서는 여전히 한계를 보이고 있습니다.

IFP는 AI R&D 자동화 위험에 대응하기 위한 23가지 정책 아이디어를 제안했으며, MIT와 컬럼비아 대학 연구진은 기업 간 기술 개발 속도 조절을 위해 투명성과 신뢰가 결정적인 역할을 한다고 분석했습니다. 이 글은 AI 경쟁이 파괴적 결과로 이어지지 않도록 하는 제도적, 전략적 장치의 필요성을 강조합니다.

연구진은 오픈 가중치 모델과 특화된 추론 그래프를 결합해 스스로 공격 전략을 세우고 확산하는 AI 기반 컴퓨터 웜의 프로토타입을 개발했습니다. 이 바이러스는 탈취한 GPU 자원을 이용해 추론을 수행하며, 중앙 통제 없이도 네트워크 내에서 자율적으로 생존하고 증식할 수 있음을 보여주었습니다.

MirrorCode 벤치마크를 통해 AI가 소스 코드 없이 CLI 환경만으로 대규모 소프트웨어를 재구현하는 능력이 비약적으로 발전했음이 증명되었으며, Anthropic의 사례는 모델 스케일링이 로봇의 작업 수행 속도를 인간 대비 약 20배 향상시킬 수 있음을 보여줍니다. 이는 AI가 외부 환경을 스스로 학습하고 물리적 과제를 자율적으로 해결할 수 있는 가능성을 시사합니다.

영국 AI 보안 연구소(AISI)는 오픈 웨이트 모델의 사이버 공격 역량이 폐쇄형 모델을 빠르게 추격하며 보안 위협의 경계가 모도해지고 있다고 분석했습니다. 특히 중국의 Kimi K3는 프론티어급 성능을 보여주는 동시에, AI가 스스로 컴파일러를 작성하고 칩을 설계하는 자가 개선(Recursive Self-improvement) 가능성을 시사했습니다.

AI 모델 Fable이 기존 최적화 방식을 압도하는 GPU 커널을 작성하며 AI 연구 개발 자동화의 가능성을 입증했습니다. 동시에 온라인 프리랜서 업무를 수행하는 AI의 성공률이 단기간에 4배 이상 급증하며, 전문직 노동 시장의 구조적 변화와 인력 최소화 조직의 등장이 예고되고 있습니다.

NVIDIA는 코딩 에이전트를 활용해 로봇의 물리적 환경 실험과 알고리즘 개선을 자동화하는 ENPIRE 프레임워크를 공개했습니다. 이 시스템은 AI가 스스로 실패 사례를 분석하고 코드를 수정하며, 복잡한 조작 작업에서 높은 성공률을 달성하는 자율 학습 루프를 구축합니다.

최근 연구에 따르면 최신 AI 모델들은 인간 전문가보다 더 높은 설득력을 보여주었으며, 특히 자선 단체 기부 유도 실험에서 전문 모금가보다 훨씬 효과적이었습니다. 이러한 AI의 강점은 정보의 양과 전달 속도에서 비롯되며, 이는 향후 사회적 영향력의 중심이 기술로 이동할 수 있음을 시사합니다.

AI 정렬 기술이 현재의 반응적 방식을 넘어 이론적 근거를 갖춘 안전성을 확보해야 한다는 목적으로 비영리 연구 조직 'Sequent'가 출범했습니다. 이들은 대규모 언어 모델의 통제 불가능한 상황에서도 신뢰할 수 있는 정렬 기법을 개발하기 위해 다양한 연구 포트폴리오를 운영할 계획입니다.

AI 모델이 규제의 허점을 이용해 의도와 다르게 보상을 극대화하는 '소시오해킹' 능력을 측정하는 SocioHack 벤치마크 연구가 발표되었습니다. 또한, 앤스로픽은 코드 병합 속도가 급증하며 인공지능을 통한 생산성 증폭, 즉 초기 단계의 재귀적 자기 개선(RSI) 징후를 보이고 있습니다.

미국의 AI 경제는 품질 조정 실질 기준으로 연간 약 2,600% 성장하며 폭발적으로 팽창하고 있지만, 비용 하락과 효율성 증대로 인해 기존 GDP 지표에는 그 영향력이 과소평가되고 있습니다. 이는 AI가 단순한 기술 보완재를 넘어 노동의 대체재로 기능할 때 발생할 경제적 충격을 간과하게 만들 위험이 있습니다.