AI 모델 (LLM·GPT·Claude·Gemini)

업스테이지가 자사 LLM인 '솔라'를 활용해 다음(Daum) 검색 결과의 핵심 내용을 요약하고 근거를 제공하는 AI 요약 베타 서비스를 출시했습니다. 이번 서비스는 6개 생활 밀착형 영역을 시작으로, 연내 통합검색을 대화형 AI로 대체하는 'AI 모드'로 전면 개편될 예정입니다.

허깅페이스와 세레브라스는 Nvidia, Google DeepMind, Alibaba의 기술을 결합한 모듈형 음성-대-음성(Speech-to-Speech) 아키텍처를 선보였습니다. 세레브라스의 초고속 추론 엔진을 통해 Gemma 4 모델의 응답 지연 시간을 최소화함으로써 자연스러운 실시간 대화가 가능한 AI 환경을 구축했습니다.

미국 상무부가 Anthropic의 최신 모델인 Claude Fable 5 및 Mythos 5에 대한 수출 통제를 해제했습니다. 이에 따라 앤스로픽은 제한되었던 서비스 접근 권한을 곧 복구할 예정이며, 이는 글로벌 AI 기술 활용의 정상화를 의미합니다.

기존 HTTPS 방식은 데이터 전송 중의 보안은 보장하지만 서버 내부에서의 데이터 노출 위험을 막지 못합니다. Private AI Gateway는 TEE 기반의 검증된 경로를 통해 프롬프트 내용을 암호화하고, 모든 처리 과정을 감사 가능한 영수증 형태로 기록하여 보안과 신뢰성을 극대화합니다.

모건스ernetes탠리는 금융 업무 중 정확도가 생명인 손익(P&L) 조정 프로세스에 AI 에이전트를 적용하여 업무 시간을 50% 절감했습니다. 특히 주목할 점은 완전 자율형 AI가 아닌, 인간의 판단을 반복 가능한 규칙으로 변환하는 '제한적 자율성' 모델을 통해 성공을 거두었다는 것입니다.

앤스로픽은 소프트웨어 엔지니어링을 위한 Claude Code처럼 생명과학 연구를 지원하는 독립형 제품인 'Claude Science'를 출시했습니다. 이 도구는 자율적으로 실험 코드를 실행하고 결과의 재현성을 보장하며, 특히 신약 개발 및 계산 생물학 분야에 특화된 기능을 제공합니다.

OpenAI의 재무 제표 유출에 따르면, 2025년 예상 순손실은 전년 대비 대폭 증가한 385억 달러에 달할 것으로 전망됩니다. 이는 AI 인프라 구축과 R&D를 위한 막대한 비용 지출이 매출 성장을 압도하고 있음을 보여주며, AI 산업의 지속 가능성에 대한 회의론을 불러일으키고 있습니다.

Anthropic이 고성능 추론 기능인 '어댑티브 싱킹'을 기본 탑재한 Claude Sonnet 5를 출시했습니다. 모델의 성능은 상위 모델에 근접했으나, 새로운 토크나이저로 인해 영어와 코드 데이터의 토큰 소모량이 급증하면서 실질적인 운영 비용은 기존보다 크게 상승할 전망입니다.

Google의 초저가형 멀티모달 모델인 Nano Banana 2 Lite가 Vercel AI Gateway를 통해 공개되었습니다. 이 모델은 4초 미만의 빠른 속도로 텍스트와 이미지를 동시에 생성하며, 기존 Pro 모델 대비 약 75% 저렴한 비용으로 운영이 가능합니다.

Anthropic의 Claude Sonnet 5 모델이 Vercel AI Gateway에 공식 지원됩니다. 이 모델은 이전 버전보다 코딩과 에이전트 작업 능력이 크게 향상되었으며, 기존 Opus급 성능을 Sonnet 수준의 경제적인 가격으로 제공하는 것이 핵심입니다.

Vercel Agent의 요금 체계가 기존 요청당 $0.30의 고정 방식에서 100만 토큰당 $0.25의 'Vercel Token Rate'와 모델 추론 비용을 합산하는 방식으로 변경됩니다. 이제 작업의 난이도(로그 분석, 샌드큐브 실행 등)에 따라 비용이 차등 적용되며, 기존 사용자는 30일의 유예 기간 후 자동 전환됩니다.

이 글은 GPU 없이 i9 CPU와 DDR5 메모리만으로 대규모 MoE 모델을 고속으로 실행하는 실험 결과를 다룹니다. 저자는 출력 헤드 양자화와 추측 디코딩(Speculative Decoding)을 통해 메모리 대역폭 한계를 극복하여, 배치 처리 시 124 tokens/sec라는 놀라운 성능을 달성했습니다.

TraceAIO는 다양한 LLM(ChatGPT, Gemini, Perplexity 등)에서 자사 브랜드가 어떻게 언급되는지 실시간으로 모니터링하고 분석하는 오픈 소스 솔루션입니다. 브라우저 기반 및 API 방식을 모두 지원하여 실제 사용자가 보는 결과와 동일한 데이터를 수집하며, 경쟁사 비교 및 출처 분석 기능을 제공합니다.

이 도구는 현재 진행 중인 AI 세션에서 떠나지 않고도 Claude Opus, Kimi 등 다른 모델에게 질문하여 두 번째 의견을 구할 수 있는 기능을 제공합니다. 컨텍스트를 자동으로 전달하며, 답변을 권위적인 결론이 아닌 비교 가능한 '동등한 관점'으로 처리하여 정보의 정확성을 높이는 데 집중합니다.

fenic은 LLM 기반의 추출, 분류, 요약 등의 기능을 SQL/PySpark 스타일의 연산자로 제공하는 시맨틱 데이터프레임 엔진입니다. 이를 통해 비정형 데이터를 타입이 지정된 구조적 데이터로 변환하며, 단순한 챗봇 응답을 넘어 검증 및 재사용이 가능한 지속 가능한 데이터 파이프라인 구축을 가능하게 합니다.

llm-autotune은 Ollama와 사용자 코드 사이에서 작동하는 투명 프록시로, KV 캐시 최적화 및 시스템 RAM 상태에 따른 동적 정기 조절을 통해 메모리 사용량을 줄이고 첫 토큰 생성 속도를 최대 53%까지 높여줍니다. 특히 시스템 프롬프트 캐싱과 모델 상주 기능을 통해 멀티턴 대화의 효율성을 극대화합니다.

옥스퍼드 연구자 사울 저스틴 뉴먼은 장수 과학이 부정확한 연령 데이터와 기록 오류로 인해 오염되었을 가능성을 제기합니다. 이러한 데이터 왜곡은 노화 연구의 오류를 넘어, 사회보장제도와 의료 인프라 계획 등 국가적 차원의 의사결정에 심각한 리스크를 유발할 수 있습니다.

Claude Sonnet 5는 평균을 크게 상회하는 탁월한 지능과 추론 성능을 갖춘 모델로 확인되었습니다. 다만 기존 모델 대비 비싼 가격과 낮은 생성 속도, 그리고 매우 높은 출력량을 특징으로 합니다.

나노 바나나 2 라이트는 지연 시간을 획기적으로 줄여 개발자의 워크플로우를 끊김 없이 유지하도록 설계되었습니다. 이를 통해 사용자는 더 빠른 탐색과 반복적인 실험이 가능해집니다.

Anthropic이 과학 연구자를 위한 전문 AI 애플리케이션인 'Claude Science' 베타를 출시했습니다. 이 앱은 단백질 구조 시각화, 대규모 데이터 분석, HPC 클러스터 관리 등을 지원하며, 모든 분석 과정의 코드와 환경을 기록하여 완벽한 재현성을 제공합니다.

Anthropic은 스스로 계획을 세우고 브식서 및 터미널 등 도구를 자율적으로 사용하는 '에이전트' 특화 모델인 Claude Sonnet 5를 출시했습니다. 이 모델은 상위 모델인 Opus 4.8에 근접한 성능을 제공하면서도 훨씬 경제적인 비용으로 운영 가능하여, 복잡한 소프트웨어 엔지니어링 및 자동화 작업의 효율성을 극대화합니다.

오픈소스 LLM 게이트웨이인 LiteLLM을 대상으로 MCP(Model Context Protocol) 환경에서의 프로덕션 준비성을 심층 감사한 결과, 보안과 관측성 등 주요 지표에서 높은 점수를 받았습니다. 다만, 특정 권한 확인 로직에서 예외 발생 시 'fail-open'되는 리스크가 발견되어 실제 배포 시에는 추가적인 하드닝(Hardening)이 필요하다는 결론을 내렸습니다.

코인베이스는 오픈 웨이트 모델로의 기본값 변경, 작업별 모델 라우팅, 캐싱 효율 극대화 등을 통해 AI 비용을 50% 절감하면서도 토큰 사용량은 오히려 늘리는 성과를 거두었습니다. 이는 무조건적인 고성능 모델 사용 대신 비용 대비 효율을 극대화하는 인프라 전략의 중요성을 보여줍니다.

나노유러(NanoEuler)는 PyTorch와 같은 기존 프레임워크 없이 순수 C/CUDA로만 구축된 약 1억 1,600만 파라미터 규모의 오픈소스 언어 모델입니다. 백프로파게이션부터 FlashAttention까지 모든 과정을 직접 구현하여, 외부 라이브러리 종속성 없는 투명하고 이동성이 높은 학습 스택을 제공합니다.