AI 모델 (LLM·GPT·Claude·Gemini)

넷플릭스는 LLM을 별도 사일로가 아닌 기존 ML 인프라에 통합하여 vLLM과 Triton 기반의 서빙 플랫폼을 구축했습니다. 모델 버전 관리, I/O 변경 대응을 위한 배포 전략(Red-Black vs Versioned), 그리고 성능 최적화를 위한 기술적 해결책을 통해 대규모 LLM 서비스의 운영 안정성을 확보했습니다.

Cerebras는 정보를 한곳으로 옮기는 대신 Slack, GitHub 등 기존 도구의 데이터를 직접 수집하여 공통 스키마의 Postgres 임베딩 테이블에 연결하는 방식을 채택했습니다. 하이브리드 검색과 LLM 기반 질의 계획 기술을 통해 출시 3개월 만에 하루 15,000건 이상의 질문을 처리하는 고성능 지식 베이스를 구축했습니다.

노타가 업스테<0xA5>이지의 초거대 언어모델 '솔라 오픈2' 전용 경량화 모델을 공개하며, 모델 가중치 메모리를 기존 대비 약 76.5% 감축하는 데 성공했습니다. 이를 통해 NVIDIA H100 GPU 8장이 필요했던 환경을 2장으로 줄여 기업의 AI 인프라 구축 및 운영 비용을 대폭 절감할 수 있게 되었습니다.

Langflow 서버의 인증 누락 취약점(CVE-2025-3248)을 통해 공격자가 Python 코드를 실행하고 AI 모델 가중치를 파괴하는 랜섬웨어 공격이 발생했습니다. 이번 공격은 금전적 요구 없이 모델 자체를 파괴하도록 설계되어 기존 랜섬웨어와는 다른 양상을 보입니다.

최근 LLM이 오래된 수학적 난제의 반례를 찾아내면서, 인간의 발견과 창조가 지닌 고유한 가치가 사라질 수 있다는 수학계의 정서적·영적 위기를 조명합니다. AI가 증명을 대량 생산하는 시대에 인간 연구자가 단순 평가자로 전락할 위험과, 그럼에도 불구하고 AI를 도구 삼아 발견을 확장할 수 있는 가능성을 함께 탐색합니다.

이 프로젝트는 Ollama와 같은 로컬 모델 서버를 활용해 LLM의 보안 가드레일을 우회하는 다양한 공격 기법을 실험할 수 있는 인터랙티브 키트를 제공합니다. 사용자는 DeepSeek R1, Llama 3.1 등 다양한 모델을 대상으로 탈옥 및 에이전트 주입 공격에 대한 방어 성능을 직접 비교하며 보안 역량을 강화할 수 있습니다.

C, Go, Swift 등 기존 주요 언어들은 기본 정수 타입을 제공하여 개발 편의성을 높이지만, 이는 의도치 않은 오버플로우나 메모리 낭비를 초래할 수 있습니다. 반면 Rust는 모든 정수 타입의 크기와 부호를 명시하도록 강제함으로써, 잠재적 버그를 방지하고 데이터의 유효성을 컴파일 단계에서 검증합니다.

AI로 인해 업무 효율이 극대화되면서 오히려 더 많은 프로젝트를 동시에 진행하게 되어 번아인과 인지적 과부하가 발생하는 역설적인 상황을 다룹니다. 저자는 AI를 단순히 업무량을 늘리는 수평적 도구가 아닌, 소수의 핵심 과제의 완성도를 극한으로 끌어올리는 수직적 심화 도구로 활용해야 한다고 강조합니다.

Stripe가 AI 모델 라우팅 스타트업인 OpenRouter 인수를 검토 중이며, 이는 주요 플랫폼들이 모델 선택 및 라우팅 기능을 자체 기능으로 흡수하려는 흐름을 보여줍니다. Runway와 OpenAI 역시 품질, 비용, 성능에 최적화된 자동 라우팅 기술을 도입하며 모델 관리의 주도권을 확보하려 하고 있습니다.

Osmium AI는 모든 파라미터를 활성화하는 대신 작업에 필요한 전문가 네트워크만 선택적으로 사용하는 동적 MoE 아키텍처 기반의 교육 특화 LLM 플랫폼입니다. 개발자 친화적인 OpenAI 호환 API와 워크로드별 세분화된 모델 라인업을 제공하며, 특히 인도 교육 시장의 다국어 및 비정형 데이터 처리에 최적화되어 있습니다.

중국을 중심으로 여러 API 키를 모아 저렴하게 재판매하는 '릴레이 시장'이 형성되었으며, 이들은 무료 체험 남용이나 카드 도용 등 부정적인 방식으로 토큰을 확보합니다. 이러한 프록시 서비스는 비용 절감과 지역 제한 회상 등을 목적으로 운영되며, AI 개발자들에게 예기치 못한 API 비용 폭증과 보안 취약점 노출이라는 위협을 던지고 있습니다.

Google Gemma의 Per-Layer Embeddings 방식을 응용하여 대규모 임베딩 테이블을 플래시에 배치하고 연산에 필요한 최소한의 데이터만 SRAM/PSRAM에서 처리하는 기술이 소개되었습니다. 이를 통해 초저가 MCU에서도 초당 약 9개의 토큰을 생성할 수 있으며, 이는 단순 텍스트 생성 중심의 에지 AI 가능성을 보여줍니다.

Google Cloud가 공개한 OKF는 AI 에이전트가 이해할 수 있도록 지식 기반을 마크다운과 YAML로 구조화하는 오픈 스펙입니다. 이 포맷은 파일의 형태를 표준화하여 구조적 상호운용성을 제공하며, 에이전트가 단순한 웹 페이지 조회를 넘어 내부 데이터와 규칙에 접근하고 실행할 수 있는 토대를 마련합니다.

LLM을 활용한 영상 분석에는 멀티모달 모델 직접 업로드, 파이프라인 기반 설명 생성, 그리고 원본 프레임과 타임스탬프를 직접 전달하는 방식의 세 가지 경로가 있습니다. 저자는 데이터 손실 없이 정확한 추론을 가능하게 하는 '직접적인 증거 제공' 방식의 중요성과 기술적 난제를 다룹니다.

CiberIA는 일본어 AI 시스템이 문맥, 계층 구조, 안전성을 유지하는지 테스트하는 인지 보안 모듈 'WaSense'를 개발했습니다. 이 모듈은 주어 생략이나 경어 사용 등 일본어 특유의 언어적 특징을 활용해 AI가 근거 없는 추측을 하거나 맥락을 오독하여 안전 경계를 무너뜨리는지를 정밀하게 평가합니다.

자체 호스팅 AI 스택은 통제권이 높지만 보안 책임도 팀에 귀속되므로, TLS 설정 강화, 최신 알고리즘을 이용한 인증 체계 구축, 네트워크 마이크로 세그멘테이션이 필수적이다. 이 가이드는 데이터 전송 암호화부터 서비스 간 격리까지 단계별 보안 강화 방안을 구체적인 기술 예시와 함께 설명한다.

VIDRAFT의 POCKET-Image는 한글과 같이 구조가 복잡한 문자를 왜곡 없이 생성하며, 클라우드 연결 없이 개인용 PC에서 실행 가능한 온디바이스 모델입니다. 23GB 규모의 대형 모델을 약 4.5GB로 경량화하여 저사양 하드웨어에서도 고품질의 텍스트 포함 이미지를 생성할 수 있도록 설계되었습니다.

Poolside의 효율적인 MoE 코딩 모델과 Black Forest Labs의 통합 멀티모달 모델 FLUX 3가 공개되며 AI의 실질적 활용 범위가 넓어졌습니다. 동시에 Kimi K3의 높은 환각률 문제와 Grok Build의 데이터 유출 보안 사고 등 기술 도입 시 주의해야 할 리스크도 함께 나타났습니다.

앤트로픽은 클로드 5 계열 모델의 성능을 높이기 위해 과도한 규칙 나열보다는 적절한 시점에 정보를 제공하는 '컨텍스트 엔지니어링'이 핵심이라고 밝혔습니다. 이는 기존 프롬프트 엔지니어링 방식에서 벗어나 모델의 자율적 판단 능력을 활용하는 새로운 접근법을 제시합니다.

노벨 경제학상 수상자를 포함한 전문가들이 AI로 인한 일자리 상실, 시장 독점, 실존적 위협에 대비하기 위한 'We Must Act Now' 선언문을 발표했습니다. 이들은 AI가 인지 및 육체 노동을 모두 대체하는 메가시프트 시대를 맞아, 사후 처방이 아닌 선제적인 사회적 안전망과 거버넌스 구축이 필요하다고 촉구합니다.

오픈AI가 발표한 '챗GPT 워크'는 구글 캘린더, 지메일 등 외부 도구와 연동하여 복잡한 업무를 스스로 수행하는 AI 에이전트 기능을 제공합니다. 사용자는 이를 통해 일정 관리, 자료 분석 보고서 작성, 팀 프로젝트용 실시간 대시보드 구축 등을 자동화할 수 있습니다.

엔비디아가 LLM의 거대화로 인해 발생하는 모델 가중치 이동 병목 문제를 해결할 소프트웨어 인프라 '모델익스프레스'를 공개했습니다. 이 기술은 GPU 간 직접 전송을 통해 모델 배포, 확장, 강화학습 과정에서의 데이터 전송 시간을 획기적으로 단축합니다.

SK텔레콤은 팀리미티드, 퍼셀리, 데브올컴퍼니 등 3개 스타트업을 대상으로 자체 AI 모델인 'A.X K1'의 API를 제공합니다. 이번 지원은 중소벤처기업부의 '2026년 모두의 챌린지 AX-LLM' 사업의 일환으로, SKT의 모델이 개발자 생태계 내에서 폭넓게 활용되도록 돕는 것이 목적입니다.

SynapTale은 챕터별로 이야기를 읽으며 등장인물, 약속, 비밀 등 핵심 요소를 추출하여 지식 그래프를 생성하는 서비스입니다. 이를 통해 수백 개의 챕터에 걸쳐 서사적 일관성을 유지하는 번역을 지원하며, 작가가 명시하지 않은 연결 고리까지 포함된 살아있는 백과사전을 제공합니다.