Hugging Face
원문 사이트 ↗Hugging Face의 영문 기사를 한국어 제목·분석과 함께 큐레이션합니다.
Hugging Face 주요 토픽
Hugging Face 관련 글 — 2 페이지
- 1
IBM, 상업적으로 사용 가능한 Granite Time Series PatchTST-FM-r2 모델 공개
IBM이 상업적 활용이 용이한 Apache 2.0 라이선스의 시계열 파운데이션 모델인 'Granite Time Series PatchTST-FM-r2'를 공개했습니다. 이 모델은 약 3억 8,500만 개의 파라미터를 보유하며, 별도의 재학습 없이도 수요, 가격, 에너지 부하 등 다양한 시계열 데이터에 대해 뛰어난 제로샷 예측 성능을 제공합니다.
IBM releases SOTA Granite Time Series PatchTST-FM-r2 model with commercial-friendly license↗huggingface.co
- 2
안전은 누구를 위한 것인가? 주제의 일부, 전체가 아닌 주제 거부
본 기사는 LLM의 안전성 학습이 주제 전체를 거부하는 대신, 주제 내의 유효한 정보와 유해한 의도를 구분하여 '유해한 하위 집합'만을 정밀하게 타격해야 한다고 주장합니다. 연구팀은 정치적 선동은 거부하되 사실적 정보는 허용하는 경계 인식 자기 증류(Self-Distillation) 기법을 통해 모델의 과잉 거부 문제를 해결하는 방안을 제시합니다.
Safety for Whom? Refusing the Right Subset of a Topic, Not the Whole Topic↗huggingface.co
- 6
350M 모델을 100 GRPO 단계로 조정하여 더 나은 구조화된 출력 달성
LiquidAI는 350M 파라미터의 소형 모델(LFM2.5-350M)을 GRPO 알고리즘을 통해 미세 조정하여 JSON, YAML 등 구조화된 데이터 출력 성능을 개선하는 저비용·고효율 레시피를 공개했습니다. 단 500개의 샘플과 100번의 학습 단계만으로도 성능 향상을 이끌어낼 수 있음을 입증했습니다.
Fine-tuning a 350M Model for Better Structured Outputs in 100 GRPO Steps↗huggingface.co
- 9
@huggingface/kernels 출시: 로컬 AI를 위한 200+ WebGPU 커널
Hugging Face는 브라우저 내 AI 추론 속도를 높이기 위해 207개의 WebGPU 커널을 포함한 @huggingface/kernels 라이브러리를 공개했습니다. 이 라이브러리는 각 커널을 개별 버전화된 패키지로 관리하며, 'Fleet'이라는 브라우저 기반 벤치마킹 도구를 통해 실시간 하드웨어 최적화 데이터를 수집합니다.
Introducing @huggingface/kernels: 200+ WebGPU Kernels for Local AI↗huggingface.co
- 11
Sentence Transformers를 활용한 다중 벡터 임베딩 모델 훈련 및 미세 조정
Sentence Transformers v6.0에 추가된 MultiVectorEncoder를 사용하여 ColBERT 방식의 정밀한 검색 모델을 훈련하고 미효 조정하는 기술적 가이드를 제공합니다. 이 방식은 토큰 단위의 매칭을 통해 도메인 특화된 미세한 신호를 보존하며, 긴 문서 처리 문제도 해결할 수 있습니다.
Training and Finetuning Multi-Vector Embedding Models with Sentence Transformers↗huggingface.co
- 13
양자화 인식 회복: 압축된 4비트 모델, 풀 정밀도 원본 성능 능가
기존의 모델 경량화 방식은 압축 과정에서 발생하는 성능 손실을 복구하는 데 한계가 있었으나, 새로운 QAH 기술은 압축 전 원본 모델을 교사로 삼아 직접 지식을 증류합니다. 이를 통해 4비트로 압축된 60B 모델이 원본 bfloat16 버전보다 9개 벤치마크 중 7개에서 더 높은 성능을 기록하는 혁신적인 결과를 보여주었습니다.
Quantization-Aware Healing: a compressed, 4-bit model that outperforms its full-precision original↗huggingface.co
- 16
허깅 페이스 Inference Endpoints, Jobs, and Buckets가 Papers with Code 검색을 지원하는 방식
허깅페이스는 키워드 검색과 벡터 검색을 결합한 하이브리드 검색 시스템을 통해 Papers with Code의 검색 정확도를 높였습니다. 이를 위해 오프라인 임베딩 생성은 Jobs로, 데이터 저장 및 전달은 Buckets로, 실시간 쿼리 임베딩은 Inference Endpoints로 분리하여 효율적인 파이프라인을 구축했습니다.
How Hugging Face Inference Endpoints, Jobs, and Buckets Power Search on Papers with Code↗huggingface.co
- 18
LFM2.5 Q4_0 체크포인트, 양자화 인식 증류에서
LiquidAI는 고정밀 교사 모델의 지식을 양자화된 학생 모델로 전이하는 QAD 기술을 통해, 4비트(Q4_0) 모델에서도 BF16 대비 약 97% 수준의 정확도를 유지하는 LFM2.5 체크포인트를 출시했습니다. 이 모델들은 기존 방식보다 훨씬 빠른 추론 속도와 낮은 메모리 점유율을 제공하여 모바일 및 에지 기기에서의 효율적인 AI 실행을 가능하게 합니다.
LFM2.5 Q4\_0 Checkpoints from Quantization-Aware Distillation↗huggingface.co
- 21
동일 클러스터, 33 포인트 더 높은 활용률: 달라진 건 순서였다
본 기사는 기존 FIFO(선입선출) 방식의 GPU 스케줄러가 가진 자원 낭비 문제를 지적하며, 제약 조건 인식형(constraint-aware) 할당기를 통한 최적화 사례를 소개합니다. 하드웨어 증설 없이도 작업 할당 순서를 조정하는 것만으로 실시간 추론과 배치 작업이 혼재된 클러스터의 효율을 극대화할 수 있음을 보여줍니다.
Same Cluster, 33 Points More Utilization: What Changed Was the Order↗huggingface.co
- 23
Strands 에이전트, LeRobot, 그리고 Hugging Face Storage Buckets로 기록하고 학습시키고 배포하세요.
AWS의 오픈소스 SDK인 Strands Robots와 Hugging Face의 새로운 스토리지 기술을 활용해 로봇 학습 데이터의 수집, 학습, 배포를 하나의 연속적인 루프로 연결하는 방법을 설명합니다. 특히 대용량 데이터를 매번 다운로드하지 않고 스트리밍 방식으로 처리하여 비용과 효율성을 극대화한 것이 핵심입니다.
Record, train, and deploy from one place with Strands Agents, LeRobot, and Hugging Face Storage Buckets↗huggingface.co
이 출처 페이지는 글 누적 후 검색엔진에 노출됩니다.













