AI 모델 (LLM·GPT·Claude·Gemini)
GPT, Claude, Gemini, Llama 등 AI 모델(LLM) 출시·벤치마크·API 변경사항을 모읍니다.
최신 업데이트
AI 모델 관련 글 — 13 페이지
- 18
Qwen2.5-1.5B를 Mac에서 튜닝하여 앵무새 챗봇 문제를 해결하고 프롬프트 크기를 절반으로 줄이다
소형 모델이 시스템 프롬프트를 무시하고 입력을 반복하는 문제를 해결하기 위해, 대형 모델을 교사로 활용해 행동 양식만을 학습시킨 파인튜닝 전략을 소개합니다. 이를 통해 프롬프트 길이를 줄여 추론 속도와 비용 효율성을 동시에 확보하며, 저사양 CPU 서버에서도 안정적인 서비스 운영이 가능함을 증명했습니다.
Fine-tuning Qwen2.5-1.5B on a Mac to fix a parroting chatbot (and halve the prompt)↗dev.to
- 22
Baize v0.4.0: 도구 매칭 업그레이드 — 선택적 벡터 검색, 어휘 기반 설정 변경 없음
Baize v0.4.0은 수백 개의 API 도구를 효율적으로 관리하기 위해 기존의 어휘 기반 검색에 벡터 임베딩을 결합한 하이브리드 검색 방식을 도입했습니다. 사용자는 Ollama나 OpenAI 호환 API를 통해 선택적으로 고도화된 검색 기능을 사용할 수 있으며, 시스템 장애 시 기존 방식으로 자동 전환되는 안정성을 갖췄습니다.
Baize v0.4.0: Tool Matching Upgraded — Optional Vector Retrieval, Lexical Baseline Unchanged↗dev.to





















