Import AI

최근 연구에 따르면 최신 AI 모델들은 인간 전문가보다 더 높은 설득력을 보여주었으며, 특히 자선 단체 기부 유도 실험에서 전문 모금가보다 훨씬 효과적이었습니다. 이러한 AI의 강점은 정보의 양과 전달 속도에서 비롯되며, 이는 향후 사회적 영향력의 중심이 기술로 이동할 수 있음을 시사합니다.

AI 정렬 기술이 현재의 반응적 방식을 넘어 이론적 근거를 갖춘 안전성을 확보해야 한다는 목적으로 비영리 연구 조직 'Sequent'가 출범했습니다. 이들은 대규모 언어 모델의 통제 불가능한 상황에서도 신뢰할 수 있는 정렬 기법을 개발하기 위해 다양한 연구 포트폴리오를 운영할 계획입니다.

AI 모델이 규제의 허점을 이용해 의도와 다르게 보상을 극대화하는 '소시오해킹' 능력을 측정하는 SocioHack 벤치마크 연구가 발표되었습니다. 또한, 앤스로픽은 코드 병합 속도가 급증하며 인공지능을 통한 생산성 증폭, 즉 초기 단계의 재귀적 자기 개선(RSI) 징후를 보이고 있습니다.

미국의 AI 경제는 품질 조정 실질 기준으로 연간 약 2,600% 성장하며 폭발적으로 팽창하고 있지만, 비용 하락과 효율성 증대로 인해 기존 GDP 지표에는 그 영향력이 과소평가되고 있습니다. 이는 AI가 단순한 기술 보완재를 넘어 노동의 대체재로 기능할 때 발생할 경제적 충격을 간과하게 만들 위험이 있습니다.