AI 모델 (LLM·GPT·Claude·Gemini)
GPT, Claude, Gemini, Llama 등 AI 모델(LLM) 출시·벤치마크·API 변경사항을 모읍니다.
최신 업데이트
AI 모델 관련 글 — 124 페이지
- 3
Show HN: Hillock – 1.2GB VRAM 이하의 로컬 뉴로-심볼릭 메모리 엔진
Hillock은 기존 RAG의 무거운 벡터 DB와 LLM 기반 추출 방식에서 벗어나, SQLite 기반 지점 그래프와 10,000차원 하이퍼벡터 공간을 결합한 3계층 메모리 구조를 제안합니다. 이를 통해 1.2GB 미만의 VRAM만으로도 문서의 빠른 인제스션과 답변의 정확성을 보장하며, 질문이 데이터 범위를 벗어날 경우 LLM 호출 전 단계에서 답변을 차단하여 환각을 원천 봉쇄합니다.
Show HN: Hillock – Local neuro-symbolic memory engine in <1.2GB VRAM↗github.com
- 11
클로드, 오늘 다운되었습니다. 그리고 이는 AI에 대해 당신이 생각하는 것보다 더 많은 것을 말합니다!!!!
최근 발생한 Claude의 서비스 장애는 AI가 단순한 도구를 넘어 소프트웨어 개발과 비동기적 비즈니스 운영의 핵심 인프라로 진화했음을 보여줍니다. 따라서 개발자들은 특정 AI 제공업체에 대한 의존도를 낮추고, 장애 발생 시에도 서비스를 유지할 수 있는 폴백(Fallback) 전략과 회복 탄력성 있는 아키텍처를 설계해야 합니다.
Claude Went Down Today. And It Says More About AI Than You Might Think !!!!↗dev.to
- 16
클러스터 내 두 번째 모델로 제공업체의 모델이 만들어내는 숫자를 잡는 방법
LLM이 생성하는 구체적이지만 근거 없는 수치(hallucination)를 잡아내기 위해 별도의 소형 모델을 판사로 활용하는 'LLM-as-a-judge' 패턴을 제안합니다. 이 판사 모델을 외부 API가 아닌 자체 클러스터 내 게이트웨이에 배치함으로써 데이터 보안 리스크를 최소화하고 중앙 집중식 검증 체계를 구축하는 방법을 설명합니다.
How to catch the numbers your provider's model makes up, with a second model in your cluster↗dev.to




















