내부 coding agents의 불일치 여부 모니터링 방법

OpenAI는 내부 AI coding agents의 'misalignment'를 감지하기 위해 'chain-of-thought monitoring'을 도입하고 있습니다. 이 이니셔티브는 잠재적 위험을 식별하고 AI 안전 보호 장치를 강화하기 위해 실제 배포를 분석하는 것을 포함합니다.