비드래프트, NPU 가속 소프트웨어 ‘VKORE’ 개발… 추론·학습 동시 구현
(aitimes.com)
AI 전문 비드래프트가 신경망처리장치(NPU)의 추론 성능을 극대화하고 기존에 불가능하다고 여겨졌던 학습까지 구현하는 가속 소프트웨어 계층 ‘VKORE’를 13일 공개했다. 엔비디아 GPU의 CUDA처럼 NPU 환경에서 연산 효율과 활용 범위를 넓히는 구조로, 반도체 칩 교체 없이 소프트웨어 적용만으로 성능을 끌어냈다는 설명이다.실제로 트랜스포머 모델의 LoRA 학습 테스트에서 엔비디아 B200 GPU 1장이 1시간 걸리는 작업을 서버 CPU는 약 320시간 소요했으며, NPU를 기본 방식으로 구동했을 때는 CPU보다도 오랜 시간이
댓글
아직 댓글이 없습니다. 첫 댓글을 남겨보세요.