AI 모델 (LLM·GPT·Claude·Gemini)
GPT, Claude, Gemini, Llama 등 AI 모델(LLM) 출시·벤치마크·API 변경사항을 모읍니다.
최신 업데이트
AI 모델 관련 글 — 122 페이지
- 0
Sentence Transformers를 활용한 다중 벡터 임베딩 모델 훈련 및 미세 조정
Sentence Transformers v6.0에 추가된 MultiVectorEncoder를 사용하여 ColBERT 방식의 정밀한 검색 모델을 훈련하고 미효 조정하는 기술적 가이드를 제공합니다. 이 방식은 토큰 단위의 매칭을 통해 도메인 특화된 미세한 신호를 보존하며, 긴 문서 처리 문제도 해결할 수 있습니다.
Training and Finetuning Multi-Vector Embedding Models with Sentence Transformers↗huggingface.co
- 2
OpenAI의 차기 Jalapeño 칩, 추론 성능 압도적으로 뛰어보이네요
OpenAI가 Hot Chips 컨퍼런스에서 공개한 'Jalapeño' 칩은 추론 성능 극대화에 초점을 맞춘 커스텀 실리콘으로, 엔비디아의 최신 시스템 대비 월등한 메모리 대역폭과 낮은 지연 시간을 제공합니다. 이 칩은 2027년 본격적인 양산을 목표로 하며, 학습보다는 추론 효율성을 높여 AI 서비스 운영 비용을 혁신적으로 절감하는 데 목적이 있습니다.
OpenAI's upcoming Jalapeño chip looks like it'll be an inference beast↗theregister.com
- 5
45M 파라미터 LLM을 휴대폰에 탑재했습니다. 그 LLM은 제가 지어낸 숫자도 100% 확신했습니다.
Cactus Compute의 Needle 2 모델을 활용한 'react-native-needle'은 별도의 API 키나 네트워크 연결 없이 모바일 내에서 텍스트를 구조화된 데이터로 추출하는 기능을 제공합니다. 매우 낮은 지연 시간과 비용 효율성을 보여주지만, 복잡한 문장 처리와 수치 정확도 측면에서는 명확한 기술적 한계가 존재합니다.
I put a 45M-parameter LLM on a phone. It was 100% confident about a number it invented.↗dev.to
- 8
프롬프트 인젝션, OWASP에서 1위, 사고 기록에서는 12위로 랭크. 공격 자체는 스캔으로 감지 불가.
프롬프트 인젝션은 LLM 애플리케이션 보안 위협 중 가장 높은 우선순위를 차지하고 있지만, 실제 CVE 기록에서는 12위에 그치고 있습니다. 이러한 격차는 공격 자체가 스캔 도구로 감지하기 어려운 특성을 지녔기 때문에 발생하는 가시성 문제이며, 보안 담당자는 수치에 근거한 과소평가를 경계해야 합니다.
Prompt injection ranks No. 1 with OWASP and No. 12 in the incident record. The attack itself is invisible to a scan.↗venturebeat.com
- 19
NVIDIA NIM 카탈로그는 키 없이 쿼리 가능, DeepSeek-R1은 제외
NVIDIA NIM의 모델 카탈로그는 API 키 없이도 접근 가능한 공개 엔드포인트를 제공하며, 이를 통해 현재 사용 가능한 모델 목록을 실시간으로 확인할 수 있습니다. 최근 DeepSeek-R1 등 최신 모델이 목록에서 제외된 사례가 발견됨에 따라, 개발자는 이 엔드포인트를 CI/CD 파이프라인에 통합하여 모델 ID 변경으로 인한 런타임 에러를 사전에 방지할 수 있습니다.
NVIDIA NIM's catalog is queryable without a key, and DeepSeek-R1 is off it↗dev.to






![[ZD SW 투데이] 노타, EMNLP 2026서 논문 2편 채택 外](https://startupschool.cc/og/zd-sw-투데이-노타-emnlp-2026서-논문-2편-채택-外-c206f2.jpg)











