AI 모델 (LLM·GPT·Claude·Gemini)
GPT, Claude, Gemini, Llama 등 AI 모델(LLM) 출시·벤치마크·API 변경사항을 모읍니다.
최신 업데이트
AI 모델 관련 글 — 360 페이지
- 0
사례 연구: CVE-2023-32233에서 Gemini 2.5 Pro의 안전 정렬 및 거부 동작 추적
이 연구는 Gemini 2.5 Pro가 Linux 커널의 특정 취약점(CVE-2023-32233)에 대해 시간이 흐름에 따라 어떻게 대응을 변화시켰는지 분석합니다. 4월에는 기술적 구현 가능성을 허용했으나, 5월 중순 안전 정렬 패치 이후에는 완전한 거부 반응을 보이는 등 LLM 가드레일의 업데이트 과정을 상세히 기록했습니다.
Case Study : Tracking Gemini 2.5 Pro's Safety Alignment & Refusal Behaviour on CVE-2023-32233↗dev.to
- 6
에이전트 워크플로우를 위한 최상위 10 AI 모델: 먼저 어떤 것을 시험해볼 것인가
본 기사는 단순 채팅을 넘어 계획, 도구 사용, 코드 실행 등이 필요한 AI 에이전트 구축을 위해 테스트해야 할 최상위 10개 모델과 우선순위를 제안합니다. 복잡한 추론에는 Claude Opus 4.7을, 비용 효율적인 하위 작업에는 Gemini Flash나 DeepSeek Flash를 활용하는 등 역할별 모델 분산 전략을 강조합니다.
Top 10 AI Models for Agent Workflows: Which Ones to Trial First↗dev.to
- 11
$5/월 DigitalOcean Droplet에서 Ollama + FastAPI로 Llama 3.2 Vision 배포하는 방법: GPT-4 Vision 비용의 1/200 수준의 멀티모달 추론
이 기사는 고비용의 상용 멀티모달 API 대신 오픈 소스 모델인 Llama 3.2 Vision을 저사양 클라우드 인프라에 배포하여 운영 비용을 극적으로 낮추는 기술적 가이드를 제공합니다. Ollama와 FastAPI를 활용해 누구나 10분 내외로 구축 가능한 실전적인 아키텍처를 제시하며, 대규모 이미지 처리 시 발생하는 비용 문제를 해결하는 대안을 제시합니다.
How to Deploy Llama 3.2 Vision with Ollama + FastAPI on a $5/Month DigitalOcean Droplet: Multimodal Inference at 1/200th GPT-4 Vision Cost↗dev.to
- 15
멀티 스트림 LLM: 프롬프트 병렬화/분리, 사고, I/O에 대한 새로운 논문
현재의 LLM 에이전트는 메시지를 순차적으로 주고받는 단일 스트림 구조로 인해 정보를 읽는 동시에 행동하거나 생각하는 등의 멀티태스킹이 불가능한 병목 현상을 겪고 있습니다. 본 논문은 입력, 사고, 출력을 별도의 병렬 스트림으로 분리하여 연산하는 Multi-Stream LLM 구조를 제안하며, 이를 통해 연산 효율성과 보안성, 모니터링 가능성을 동시에 개선할 수 있음을 보여줍니다.
Multi-Stream LLMs: new paper on parallelizing/separating prompts, thinking, I/O↗arxiv.org
- 17
2021년 맥북에서 젬마4-31B(50GB 스왑)로 동영상 1년 분량 로컬 인덱싱하기
영상 편집의 진짜 문제는 편집 도구의 부재가 아니라, 이름 없는 파일로 가득 찬 비정형 데이터의 검색 불가능성입니다. 작성자는 고가의 SaaS 대신 로컬 LLM과 기존 편집 툴을 결합하여, 영상의 메타데이터를 텍스트 파일로 자동 생성하는 'Local-first' 인덱싱 시스템을 구축해 비용 절감과 효율성을 동시에 달着했습니다.
Indexing a year of video locally on a 2021 MacBook with Gemma4-31B (50GB swap)↗blog.simbastack.com
- 20
Claude Compliance API, Cloudflare CASB 지원 발표
Cloudflare가 자사의 CASB(Cloud Access Security Broker)에 Claude Compliance API를 통합하여, 기업 사용자의 Claude 프로젝트, 채팅 메시지, 첨부 파일 등을 에이전트 없이도 모니터링할 수 있게 되었습니다. 이를 통해 기업은 AI 활용 과정에서 발생할 수 있는 민감 데이터 유출 및 설정 오류를 방지하고 강력한 AI 거버넌스 환경을 구축할 수 있습니다.
Announcing Claude Compliance API support with Cloudflare CASB↗blog.cloudflare.com
- 21
토니 로빈스와 Calm 출신들이 설립한 The Path, 더 안전한 AI 치료 제공을 목표
명상 앱 Calm의 초기 멤버들이 설립한 'The Path'가 1,430만 달러 규모의 시드 펀딩을 성공적으로 완료했습니다. 이들은 기존 범용 LLM이 가진 '사용자 유지(Engagement) 중심'의 한계를 극복하고, 전문적인 심리 치료와 코칭을 위해 특화된 고도의 안전성을 갖춘 AI 모델을 통해 개인화된 정신 건강 케어를 제공하고자 합니다.
The Path, founded by Tony Robbins and Calm alums, hopes to offer safer AI therapy↗techcrunch.com
- 23
MinIO MemKV와 AI 재계산 비용: KV 캐시 오프로딩이 실제로 제공하는 가치
LLM 에이전트와 RAG 워크로드에서 발생하는 중복된 프롬프트 재계산 문제를 해결하기 위해, MinIO는 KV 캐시를 GPU 메모리 외부로 확장하여 저장하고 재사용하는 MemKV 기술을 선보였습니다. 이 기술은 적절한 인프라 조건 하에서 GPU 연산 효율을 극대화할 수 있는 잠재력을 가지고 있습니다.
MinIO MemKV and the AI Recompute Tax: What KV Cache Offloading Actually Buys You↗dev.to















