범용 목표 조건 마인크래프트 모델
(pantograph.com)
Pantograph가 인터넷 규모의 비디오 데이터를 활용해 행동 데이터 없이도 목표 지향적 행동을 학습할 수 있는 40억 파라미터 규모의 범용 마인크래프트 모델 'Pan'을 개발하여 로보틱스 학습의 한계를 극복할 새로운 가능성을 제시했습니다.
이 글의 핵심 포인트
- 1Pantograph는 40억 파라미터 규모의 범용 모델 'Pan'을 개발함
- 2인터넷 규모의 비디오 데이터를 활용해 행동 데이터 없이도 목표 지향적 행동 학습 가능
- 3마인크래프트 게임을 테스트베드로 사용하여 복잡하고 장기적인 목표 수행 능력을 검증함
- 4약 50만 시간의 마인크래프트 영상으로 사전 학습 후, 2천 시간의 액션 데이터를 통해 사후 학습 진행
- 5비디오 프레임을 목표(Goal)로 사용하는 'Hindsight Relabeling' 기법을 적용하여 보상 함수 없이 학습 수행
이 글에 대한 공공지능 분석
왜 중요한가?
어떤 배경과 맥락이 있나?
업계에 어떤 영향을 주나?
한국 시장에 어떤 시사점이 있나?
이 글에 대한 큐레이터 의견
Pantograph의 접근 방식은 로보틱스 분야에 '데이터 스무딩'과 '스케일링'이라는 새로운 패러다임을 제시하는 혁신적인 시도입니다. 행동 데이터가 없는 영상에서 목표 지향성을 추출하여 가치 함수를 학습시키는 기술은, AI가 물리적 상호작용 없이도 세상을 이해하고 예측할 수 있는 기반을 마련했습니다. 특히 마인크래프트를 통해 장기 과업(Long-horizon) 수행 능력을 입증한 것은 로봇의 자율성 수준을 한 단계 높일 수 있음을 보여줍니다.
다만, 비디오 기반 학습에는 '시각적 모방과 물리적 실행 사이의 간극'이라는 명확한 리스크가 존재합니다. 영상 속의 시각적 움직임이 실제 로봇 하드웨어의 마찰, 관성, 정밀도 등 복잡한 역학(Dynamics)을 완벽히 반영하지 못할 경우, 모델은 눈으로만 똑똑하고 실제로는 동작하지 않는 '시각적 환상'에 빠질 위험이 있습니다. 따라서 스타트업 창업자들은 비디오 기반의 대규모 사전 학습과 고품질 액션 데이터를 통한 정교한 사후 학습(Post-training) 사이의 균형을 어떻게 맞출 것인지, 그리고 시각적 지능을 어떻게 물리적 제어 성능으로 전이시킬 것인지에 대한 기술적 해법을 핵심 과제로 삼아야 합니다.
댓글
아직 댓글이 없습니다. 첫 댓글을 남겨보세요.