AI 모델 (LLM·GPT·Claude·Gemini)

OpenAI의 재무 제표 유출에 따르면, 2025년 예상 순손실은 전년 대비 대폭 증가한 385억 달러에 달할 것으로 전망됩니다. 이는 AI 인프라 구축과 R&D를 위한 막대한 비용 지출이 매출 성장을 압도하고 있음을 보여주며, AI 산업의 지속 가능성에 대한 회의론을 불러일으키고 있습니다.

Anthropic이 고성능 추론 기능인 '어댑티브 싱킹'을 기본 탑재한 Claude Sonnet 5를 출시했습니다. 모델의 성능은 상위 모델에 근접했으나, 새로운 토크나이저로 인해 영어와 코드 데이터의 토큰 소모량이 급증하면서 실질적인 운영 비용은 기존보다 크게 상승할 전망입니다.

Google의 초저가형 멀티모달 모델인 Nano Banana 2 Lite가 Vercel AI Gateway를 통해 공개되었습니다. 이 모델은 4초 미만의 빠른 속도로 텍스트와 이미지를 동시에 생성하며, 기존 Pro 모델 대비 약 75% 저렴한 비용으로 운영이 가능합니다.

Anthropic의 Claude Sonnet 5 모델이 Vercel AI Gateway에 공식 지원됩니다. 이 모델은 이전 버전보다 코딩과 에이전트 작업 능력이 크게 향상되었으며, 기존 Opus급 성능을 Sonnet 수준의 경제적인 가격으로 제공하는 것이 핵심입니다.

Vercel Agent의 요금 체계가 기존 요청당 $0.30의 고정 방식에서 100만 토큰당 $0.25의 'Vercel Token Rate'와 모델 추론 비용을 합산하는 방식으로 변경됩니다. 이제 작업의 난이도(로그 분석, 샌드큐브 실행 등)에 따라 비용이 차등 적용되며, 기존 사용자는 30일의 유예 기간 후 자동 전환됩니다.

이 글은 GPU 없이 i9 CPU와 DDR5 메모리만으로 대규모 MoE 모델을 고속으로 실행하는 실험 결과를 다룹니다. 저자는 출력 헤드 양자화와 추측 디코딩(Speculative Decoding)을 통해 메모리 대역폭 한계를 극복하여, 배치 처리 시 124 tokens/sec라는 놀라운 성능을 달성했습니다.

TraceAIO는 다양한 LLM(ChatGPT, Gemini, Perplexity 등)에서 자사 브랜드가 어떻게 언급되는지 실시간으로 모니터링하고 분석하는 오픈 소스 솔루션입니다. 브라우저 기반 및 API 방식을 모두 지원하여 실제 사용자가 보는 결과와 동일한 데이터를 수집하며, 경쟁사 비교 및 출처 분석 기능을 제공합니다.

이 도구는 현재 진행 중인 AI 세션에서 떠나지 않고도 Claude Opus, Kimi 등 다른 모델에게 질문하여 두 번째 의견을 구할 수 있는 기능을 제공합니다. 컨텍스트를 자동으로 전달하며, 답변을 권위적인 결론이 아닌 비교 가능한 '동등한 관점'으로 처리하여 정보의 정확성을 높이는 데 집중합니다.

fenic은 LLM 기반의 추출, 분류, 요약 등의 기능을 SQL/PySpark 스타일의 연산자로 제공하는 시맨틱 데이터프레임 엔진입니다. 이를 통해 비정형 데이터를 타입이 지정된 구조적 데이터로 변환하며, 단순한 챗봇 응답을 넘어 검증 및 재사용이 가능한 지속 가능한 데이터 파이프라인 구축을 가능하게 합니다.

llm-autotune은 Ollama와 사용자 코드 사이에서 작동하는 투명 프록시로, KV 캐시 최적화 및 시스템 RAM 상태에 따른 동적 정기 조절을 통해 메모리 사용량을 줄이고 첫 토큰 생성 속도를 최대 53%까지 높여줍니다. 특히 시스템 프롬프트 캐싱과 모델 상주 기능을 통해 멀티턴 대화의 효율성을 극대화합니다.

옥스퍼드 연구자 사울 저스틴 뉴먼은 장수 과학이 부정확한 연령 데이터와 기록 오류로 인해 오염되었을 가능성을 제기합니다. 이러한 데이터 왜곡은 노화 연구의 오류를 넘어, 사회보장제도와 의료 인프라 계획 등 국가적 차원의 의사결정에 심각한 리스크를 유발할 수 있습니다.

Claude Sonnet 5는 평균을 크게 상회하는 탁월한 지능과 추론 성능을 갖춘 모델로 확인되었습니다. 다만 기존 모델 대비 비싼 가격과 낮은 생성 속도, 그리고 매우 높은 출력량을 특징으로 합니다.

나노 바나나 2 라이트는 지연 시간을 획기적으로 줄여 개발자의 워크플로우를 끊김 없이 유지하도록 설계되었습니다. 이를 통해 사용자는 더 빠른 탐색과 반복적인 실험이 가능해집니다.

Anthropic이 과학 연구자를 위한 전문 AI 애플리케이션인 'Claude Science' 베타를 출시했습니다. 이 앱은 단백질 구조 시각화, 대규모 데이터 분석, HPC 클러스터 관리 등을 지원하며, 모든 분석 과정의 코드와 환경을 기록하여 완벽한 재현성을 제공합니다.

Anthropic은 스스로 계획을 세우고 브식서 및 터미널 등 도구를 자율적으로 사용하는 '에이전트' 특화 모델인 Claude Sonnet 5를 출시했습니다. 이 모델은 상위 모델인 Opus 4.8에 근접한 성능을 제공하면서도 훨씬 경제적인 비용으로 운영 가능하여, 복잡한 소프트웨어 엔지니어링 및 자동화 작업의 효율성을 극대화합니다.

오픈소스 LLM 게이트웨이인 LiteLLM을 대상으로 MCP(Model Context Protocol) 환경에서의 프로덕션 준비성을 심층 감사한 결과, 보안과 관측성 등 주요 지표에서 높은 점수를 받았습니다. 다만, 특정 권한 확인 로직에서 예외 발생 시 'fail-open'되는 리스크가 발견되어 실제 배포 시에는 추가적인 하드닝(Hardening)이 필요하다는 결론을 내렸습니다.

코인베이스는 오픈 웨이트 모델로의 기본값 변경, 작업별 모델 라우팅, 캐싱 효율 극대화 등을 통해 AI 비용을 50% 절감하면서도 토큰 사용량은 오히려 늘리는 성과를 거두었습니다. 이는 무조건적인 고성능 모델 사용 대신 비용 대비 효율을 극대화하는 인프라 전략의 중요성을 보여줍니다.

나노유러(NanoEuler)는 PyTorch와 같은 기존 프레임워크 없이 순수 C/CUDA로만 구축된 약 1억 1,600만 파라미터 규모의 오픈소스 언어 모델입니다. 백프로파게이션부터 FlashAttention까지 모든 과정을 직접 구현하여, 외부 라이브러리 종속성 없는 투명하고 이동성이 높은 학습 스택을 제공합니다.

구글의 새로운 모델 Gemini Omni Flash가 Gemini API와 Google AI Studio를 통해 공개되었습니다. 이 모델은 다양한 입력을 활용해 고품질 영상을 생성하고 대화하듯 편집할 수 있는 기능을 제공하며, 초당 0.10달러라는 경쟁력 있는 가격을 제시합니다.

구이탈레레 연주자를 위한 맞춤형 악보 파서(Parser) 개발 과정을 다루며, 단순한 텍스트 입력기에서 시작해 복잡한 메타데이터와 새로운 표기법을 포함한 정교한 에디터로 확장되는 과정을 설명합니다. 특히 AI를 개발 보조 도구로 활용하여 기능 구현의 속도를 높였으나, 사용자 편의성을 위해 문법을 지속적으로 재설계해야 했던 시행착오를 담고 있습니다.

기존 AI 모델 경량화 방식인 양자화는 정밀도를 낮춤에 따라 정확도가 급격히 떨어지는 한계가 있었으나, SEMQ 기술은 임베딩의 의미적 관계를 보존하면서 수치적 표현을 분리하는 새로운 접근법을 제시합니다. 실험 결과, SEMQ는 기존 FP32 모델과 거의 동일한 수준의 정확도를 유지하면서도 효율적인 데이터 저장이 가능함을 입증했습니다.

AI API를 개별적으로 연동하면 결제 및 인증 등 운영 복잡성이 증가하고 모델 변경 시 재개발 비용이 발생하지만, 통합 API를 사용하면 고정된 엔지니어링 비용으로 효율적인 확장이 가능합니다. 특히 대규모 트래픽 발생 시 프리미엄 모델 대비 극적인 비용 절감 효과와 빠른 실험 속도를 동시에 얻을 수 있습니다.

최근 연구에 따르면 공격자가 웹사이트 내의 논리적 모순을 이용해 AI 브라우저를 '가상 현실' 상태로 유도함으로써 기존의 보안 가드레일을 무력화하는 'BioShocking' 공격이 가능함이 밝혀졌습니다. 이 공격은 AI 에이전트가 가진 강력한 권한을 악용하여 비밀번호나 개인 저장소 코드를 탈취할 위험을 내포하고 있습니다.

구글 NotebookLM이 사용자의 소스를 기반으로 AI 이미지와 내레이션이 포함된 60초 세로형 영상을 생성하는 기능을 도입합니다. 이 기능은 현재 Google AI Ultra 및 Pro 구독자에게 우선 제공되며, 영어로 먼저 출시됩니다.