AI 모델 (LLM·GPT·Claude·Gemini)

멀티 벡터를 사용하는 Late Interaction 모델은 높은 정밀도를 제공하지만, 문서당 수많은 벡터를 생성하여 막대한 저장 비용을 발생시킵니다. 이를 해결하기 위해 쿼리는 int8로 유지하고 문서는 바이너리로 압축하는 비대칭 양자화를 적용함으로써, 저장 공간을 32배 줄이면서도 검색 성능(NDCG)은 거의 그대로 유지하는 데 성공했습니다.

데이타몬드는 모델 성능보다 고객의 의도와 맥락을 이해할 수 있는 제로파티 데이터의 중요성을 강조하며, 개인의 성향과 생활 패턴을 입체적으로 구현하는 'AI 페르소나' 기술을 개발하고 있습니다. 이를 위해 데이터 수집부터 마케팅 실행까지 연결되는 E2E 구조와 사용자의 음성 기록을 페르소나 메모리로 전환하는 펠린AI 서비스를 통해 데이터 주권과 초개인화가 공존하는 생태계를 지향합니다.

엔비디아가 기존 LLM의 고질적인 문제인 추론 속도 문제를 해결하기 위해 성능은 98.7% 수준을 유지하면서 생성 효율을 극대화한 '네모트론 랩스 투타워'를 발표했습니다. 해당 모델은 가중치와 소스코드가 허깅페이스를 통해 오픈 소스로 공개되어 누구나 활용할 수 있습니다.

Anthropic의 Claude Fable 5는 단순한 대화를 넘어 자체 코드 실행과 자율적 디버깅이 가능한 AI 모델로, 웹 스크래핑 작업에 최적화된 기능을 제공합니다. 이 가이드는 동적 웹사이트 대응, 안기 봇 우회, 데이터 정제 및 자동화된 워크플로우 구축 방법을 상세히 다룹니다.

이 글은 내부 데이터의 한계를 극복하기 위해 구글 검색 결과를 RAG의 추가적인 정보원으로 활용하는 방법을 다룹니다. 단순한 웹 스크래핑 대신 구조화된 데이터를 제공하는 SERP API를 사용하여 정제된 컨텍스트를 생성하고, 이를 통해 최신성 있는 답변을 도출하는 아키텍처를 제안합니다.

생성형 AI는 기존의 분류/예측 모델을 넘어 새로운 콘텐츠를 생성하는 기술로, LLM 기반의 ChatGPT, Claude, Gemini 등은 각각의 강점이 다릅니다. 특히 단순 응답에 그치는 'AI 어시스턴트'와 자율적으로 작업을 수행하는 'AI 에이전트'의 구분은 개발 생산성의 차원을 결정짓는 핵심 요소입니다.

트럼프 행정부의 Anthropic 'Mythos' 및 'Fable 5' 수출 제한 조치가 오히려 중국 360의 Tulongfeng와 일본 Sakana AI의 Fugu 출시를 자극하며 글로벌 AI 경쟁 구도를 변화시키고 있습니다. 이번 조치는 기술 유출 방지라는 목적과 달리, 무엇이 전략적 핵심 기술인지를 전 세계에 공표하는 결과로 이어져 아시아 국가들의 추격을 가속화하고 있습니다.

이 글은 비정형 인도 주소 데이터를 정교한 JSON 구조로 변환하기 위해 Qwen 모델을 LoRA 방식으로 미세 조정하고, 대규모 무라벨 데이터에 효율적으로 라벨을 생성하는 파이프라인 구축 과정을 다룹니다. 특히 모델의 학습 자체보다 데이터 스키마 설계와 도메인 특화 규칙 적용이 성능과 정확도에 결정적인 영향을 미쳤음을 강조합니다.

구글이 복잡한 설정이나 추가 학습 없이도 표 형식 데이터를 처리할 수 있는 파운데이션 모델 '탭FM'을 허깅페이스와 깃허브에 오픈소스로 공개했습니다. 이 모델은 고객 이탈 예측, 금융 사기 탐지 등 기업의 핵심적인 데이터 분석 업무를 효율화하는 데 기여할 것으로 기대됩니다.

이 기사는 LLM 애플리케이션 개발 시 모델 공급자와 앱 사이에서 API 관리, 캐싱, 비용 제어 및 자동 모델 선택을 지원하는 게이트웨어와 라우터 도구들을 유형별로 분류하여 소개합니다. OpenRouter부터 Portkey, Martian 등 다양한 솔루션의 특징과 적합한 사용 사례를 한눈에 파악할 수 있도록 정리했습니다.

LLM 에이전트 개발 시 발생하는 오류를 요청 전, 실행 중, 결과 반환 후의 세 가지 시점으로 구분하고 각 단계별 대응 방법론과 도구를 정리했습니다. 모델 선택부터 구조화된 출력 보장, 런타임 복구, 관측성 및 회귀 테스트에 이르는 종합적인 신뢰성 구축 프레임워크를 다룹니다.

NVIDIA가 모델 가중치, 학습 데이터, 레시피를 모두 포함한 550B 파라미터 규모의 Nemotron 3 Ultra를 오픈 웨이트로 출시했습니다. 이 모델은 Mamba-2와 Transformer 아키텍처를 결합하여 1M 토큰의 컨텍스트 창을 지원하며, 지능보다는 높은 처리량과 속도에 최적화되어 있습니다.

미국 정부의 수출 통제가 해제됨에 따라 앤트로픽이 클로드 페이블 5의 글로벌 서비스를 재개했습니다. 앤트로픽은 보안 우회 공격을 차단하는 '안전 분류기'를 도입하여 기술적 안전성을 확보했으며, 향후 미 정부와의 협력을 강화하고 AI 보안 기준 정립에 앞장설 계획입니다.

딥시크가 베이징 시간 기준 특정 혼잡 시간대에 V4 모델 API 요금을 두 배로 인상하는 '피크타임 할증제'를 도입합니다. 이는 지난 5월 대규모 가격 인하 이후 처음 있는 사례로, AI 업계의 무한 가격 경쟁이 한계에 직면했음을 보여줍니다.

AI 크롤러의 지속적인 접속이 SaaS 서비스의 서버 부하와 응답 속도 저하를 유발하는 문제가 제기되었습니다. 이를 해결하기 위해 AI 크롤러 전용 가이드라인인 llm.txt를 도입하여 서버 자원 소모를 줄이고 사이트 성능을 안정화한 사례가 소개되었습니다.

오픈AI가 유전체학 및 중개의학 등 계산생물학 분야의 AI 성능을 정밀하게 측정하기 위한 벤치마크 '진벤치-프로'를 공개했습니다. 최신 모델들의 정답률이 30%대에 머무는 것으로 나타나, 복잡한 생물학적 데이터를 다루는 연구 역량 측면에서 AI가 아직 인간의 판단력을 완전히 대체하기에는 한계가 있음을 시사합니다.

최근 발표된 논문이 범용 LLM이 의료 전용 AI보다 우수하다고 주장했으나, 재검증 결과 채점자 간 일치도가 매우 낮고 평가 모델이 스스로를 채점하는 등 구조적 결함이 발견되었습니다. 이는 병원과 보험사의 AI 도입 결정에 영향을 미칠 수 있는 중대한 사안으로, 벤치마크의 독립적 검증 체계 필요성을 시사합니다.

이 기사는 데이터에 최적화된 RAG 파이프라인을 찾아주는 세 가지 오픈소스 도구의 특징과 장점을 비교합니다. 하지만 모든 도구가 공통적으로 구식 OCR 엔진에 의존하고 있어, 고도화된 문서 처리를 위해서는 별도의 파싱 레이어 구축이 필수적임을 강조합니다.

TWC가 RAG(검색증강생성) 기술을 활용해 복합적인 문의까지 처리 가능한 하이브리드형 '클라우드게이트 AI 콜봇'을 선보였습니다. 이 솔루션은 챗봇과 연계된 챗봇-콜봇 통합 환경을 구축하고, 상담사 연결 시 대화 요약 및 STT 데이터를 제공하여 고객 경험의 단절을 최소화합니다.

더화이트커뮤니케이션(TWC)이 사전 정의된 시나리오와 생성형 AI(RAG)를 결합해 복합적인 문의까지 처리 가능한 '클라우드게이트 AI 콜봇'을 출시했습니다. 이 솔루션은 AI가 해결하지 못한 상담을 요약 정보와 함께 상담사에게 실시간으로 전달하여 고객의 반복 설명을 방지하며, 24시간 통합 응대 환경을 제공합니다.

앤트로픽이 미국 정부의 수출 통제 해제에 따라 클로드 페이블 5 서비스를 전 세계 사용자에게 다시 제공하기 시작했습니다. 이와 함께 일부 미국 기관을 대상으로 클로드 미소스 5의 접근도 복원되었으며, 페이블 5에는 더욱 강화된 안전 분류기가 적용되었습니다.

지니젠AI가 AI 모델의 자기 검증 능력을 측정하는 메타인지 벤치마크와 모델별 메타인지 어댑터를 동시 공개했습니다. 이는 단순 정답률을 넘어 AI가 자신의 오류를 스스로 인지하게 함으로써, 의료나 법률 등 오류 비용이 큰 분야에서의 AI 신뢰성을 확보하는 데 목적이 있습니다.

ZCode는 GLM-5.2 모델 활용을 지원하는 'GLM Coding Lite' 플랜을 통해 소규모 프로젝트를 위한 저비용 고효율 코딩 환경을 제공합니다. 이 플랜은 최신 플래그십 모델과 20개 이상의 코딩 도구 통합 기능을 포함하여 가벼운 반복 작업에 최적화되어 있습니다.

Anthropic은 미국 정부와의 논의 이후 보안 조치를 강화하여 Fable 5의 사용을 재개했습니다. 새로운 가드레일로 인해 단기적으로는 무해한 요청이 차단되는 오탐 현상이 발생할 수 있으며, 특정 한도 이후에는 다른 모델로 전환해야 합니다.