AI 모델 (LLM·GPT·Claude·Gemini)

이 기사는 MoE(Mixture-of-Experts) 구조의 학습 효율을 극대화하기 위한 NVIDIA의 기술적 접근법을 다룹니다. GroupedLinear, MXFP8 정밀도, 커널 퓨전 기술을 통해 GPU 활용도를 높이고 메모리 사용량을 줄임으로써 생물학적 파운데이션 모델 학습 성능을 획기적으로 개선할 수 있음을 보여줍니다.

Malkuth는 4B와 2B 파라미터 규모의 모델로, 질문과 선택지에 대해 각 선택지의 확률을 출력하는 'System One' 방식을 채택했습니다. 벤치마크 결과 기존 Kev 모델들을 능가하는 정확도를 보였으며, 특히 한국어 분류 성능에 특화되어 있습니다.

구글 딥마인드의 새로운 수장 코레이 카부동글루 부사장이 인터뷰를 통해 차세대 모델 '제미나이 4'의 조기 출시 계획을 발표했습니다. 이는 경쟁사들의 강력한 공세에 대응하여 기술적 우위를 조기에 확보하고 시장 주도권을 되찾으려는 구글의 전략적 의도를 담고 있습니다.

유튜브가 '메이드 온 유튜브' 행사를 통해 편집, 알고리즘, 분석, 쇼핑 등 서비스 전반에 생성형 AI를 도입한다고 발표했습니다. 특히 제미나이 옴니를 활용한 대화형 편집 도구와 프롬프트를 통한 개인화된 추천 피드 기능이 핵심입니다.

앤트로픽은 클로드 오퍼스 5.5를 효과적으로 활용하기 위한 새로운 사용 가이드를 발표했습니다. 이번 가이드에는 프롬프트 내 불필요한 문구 삭제, 명확한 완료 조건 제시, 그리고 장시간 작업 시의 체계적인 진행 상황 관리 방법이 포함되었습니다.

오픈AI가 챗GPT의 고급 음성 모드에 웹 검색과 외부 앱 플러그인 연동 기능을 통합하여 에이전트 기능을 강화했습니다. 이를 통해 사용자는 음성 명령만으로 이메일 작성, 일정 관리, 슬ак 메시지 전송 등 다양한 외부 서비스를 직접 조작하고 복잡한 작업을 수행할 수 있게 되었습니다.

구글이 텍스트를 음성으로 변환할 때 자연어 명령만으로 캐릭터의 음성과 억양을 정교하게 제어할 수 있는 제미뉴스 3.8 플래시 TTS 모델 2종을 공개했습니다. 이번 발표는 단순한 음성 합성을 넘어 사용자가 원하는 연기 톤을 직접 설계할 수 있는 맞춤형 음성 제작 시대를 예고합니다.

CLM은 상태와 행동의 임베딩을 분리하여 대조 학습(InfoNCE)을 통해 학습된 새로운 아키텍처로, 컴퓨터 사용 및 도구 호출 작업에서 기존 모델과 대등한 성능을 보이면서도 지연 시간을 획기적으로 줄였습니다. 특히 에이전틱 코딩 벤치마크에서 SOTA를 달성하며 효율적인 추론과 스케일링 법칙을 입증했습니다.

뉴욕타임스가 OpenAI와 마이크로소프트를 상대로 제기한 소송의 내부 문건을 통해, AI 학습 과정에서 페이월 우회 및 저작권 표시 삭제 등 무단 스크래핑 정황이 드러났습니다. 이번 소송 결과는 AI 모델의 '공정 이용(Fair Use)' 인정 여부를 결정짓는 분수령이 될 전망입니다.

LLM 에이전트는 단일 요청으로도 여러 번의 모델 호출과 도구 사용을 유발하여 비용 예측을 어렵게 만듭니다. 이를 해결하기 위해 OpenTelemetry를 활용하여 모델 호출 단위로 토큰 사용량을 측정하고, 비용 발생의 원인을 명확히 식별할 수 있는 정교한 텔레메트리 설계 전략을 제시합니다.

Cisco Talos가 분석한 CLOSEDQUORUM은 DeepSeek, Gemini 등 여러 상용 LLM을 활용해 다음 공격 행동을 결정하는 윈도우 임플란트 구조를 보여줍니다. 이 악성코드는 단일 모델의 차단을 피하기 위해 다수결 투표 방식을 사용하며, 합법적인 AI API 트래픽을 활용해 기존의 C2 탐지 체계를 무력화할 가능성을 제시합니다.

Z.ai의 GLM-5.3 시리즈는 멀티모달 능력을 갖춘 Flash 모델과 강력한 추론 성능의 Flagship 모델로 나뉩니다. 개발자는 작업의 시각적 요구사항, 비용, 복잡도에 따라 두 모델을 적절히 배분하는 '워크로드 라우팅' 전략을 통해 비용 효율성과 성능을 동시에 확보할 수 있습니다.

AI 비디오 생성기의 핵심 경쟁력은 단순한 애니메이션 성능이 아니라, 이미지 생성부터 영상화까지 이어지는 작업 과정의 효율성에 있습니다. 도구 간의 전환과 설정 변경으로 발생하는 마찰을 줄이고, 하나의 워크스페이스 내에서 모델 선택과 비용 예측이 가능한 통합 환경이 창작자의 생산성을 결정짓는 핵심 요소입니다.

320B 규모의 GLM-5.3-Flash 모델을 로컬에서 실행하려면 모델의 양자화 수준에 따른 정교한 메모리 예산 설계가 필수적입니다. 사용 가능한 RAM 및 VRAM 용량에 따라 vLLM, KTransformers, llama.cpp 등 적절한 런타임을 선택하고, 성능 저하를 최소화하는 최적의 양자화 지점을 찾는 것이 핵심입니다.

OpenAI의 GPT-6 라인업은 고난도 추론을 위한 Sol과 대량의 단순 작업을 위한 Luna로 이원화되어 있습니다. 개발자는 작업의 실패 비용과 검증 가능 여부에 따라 모델을 선택하여 토큰 비용과 운영 효율성을 최적화해야 합니다.

최근 커뮤니티를 중심으로 LLM의 거절 메커니즘을 제거하여 검열을 없앤 'Abliterated' 모델이 공개되어 주목받고 있습니다. 이 기술은 모델 내부의 특정 방향성을 수정하여 안전 가드레일을 무력화하며, 기업이 이를 도입할 경우 자체적인 안전 필터링 레이어 구축과 법적 책임에 대한 대비가 필수적입니다.

이 글은 MiniMax의 비디오 생성 모델인 H3와 H3 Max의 성능, 해상도, 활용 사례를 비교 분석합니다. H3 Max는 속도와 미적 완성도에 최적화된 API 기반 모델이며, H3는 고해상도 2K 렌더링과 정밀한 편집 기능을 제공하는 파운데이션 모델입니다.

자동 라우팅 플랫폼은 입력된 프롬프트의 복잡도와 비용, 지연 시간을 분석하여 최적의 LLM으로 요청을 전달하는 중간 제어 계층입니다. 이를 통해 기업은 고가의 프론티어 모델 사용을 줄이면서도 서비스의 안정성과 비용 효율성을 동시에 확보할 수 있습니다.

대규모 AI 애플리케이션 운영 시 발생하는 비용 문제와 모델 공급업체의 장애를 해결하기 위해 시맨틱 캐싱과 멀티 프로바이더 페일오버 기능을 갖춘 LLM 게이트웨이 도입이 필수적입니다. 특히 Bifrost는 초저지연 성능과 벡터 데이터베이스 통합을 통해 차세대 표준으로 평가받고 있습니다.

30년 경력의 데이터 전문가 김혜주 전 대표가 AI 시대에 인간이 갖춰야 할 데이터 사고법을 담은 신간 '클루'를 출간했다. 이 책은 단순한 데이터 분석 기술을 넘어, 데이터를 통해 문제를 정의하고 비즈니스적 가치를 창출하는 '데이터 스토리텔링'의 프로세스를 다룬다.

LiquidAI는 LFM2.5-VL-3B 모델을 위한 실험적 DSpark 드래프트 모델을 출시하여, 스펙큘레이티브 디코딩(Speculative Decoding)을 통해 VLM의 추론 속도를 가속화했습니다. 이 기술은 약 280M 파라미터의 작은 모델을 추가하여 메모리 사용량은 8.9%만 늘리면서도, 디코딩 속도를 최대 3.13배까지 끌어올렸습니다.

알리바바가 음성인식(ASR), 음성합성(TTS), 실시간 대화 기능을 강화한 '큐원-오디오-3.1' 시리즈 5종을 공개했습니다. 이번 발표는 기존 오디오 API 대비 최대 95% 저렴한 가격을 내세워 오픈AI 등 글로벌 경쟁사들에 맞서 B2B 음성 에이전트 시장의 점유율을 확대하려는 전략을 담고 있습니다.

구글은 자연어 프롬프트로 새로운 캐릭터 음성을 만드는 '제미나이 3.8 플래시 TTS'와 대규모 작업에 최적화된 저비용 모델인 '플래시-라이트 TTS'를 공개했습니다. 두 모델 모두 100개 이상의 언어를 지원하며, 음성의 톤, 속도, 감정 등을 정교하게 제어할 수 있는 기능을 갖추고 있습니다.

Vercel AI Gateway를 통해 구글의 Gemini 3.8 Flash-Lite 및 Flash TTS 모델을 사용할 수 있게 되었습니다. 이 모델들은 100개 이상의 언어를 지원하며, 특히 Flash 모델은 자연어 프롬프트를 통해 캐릭터의 연기나 억양까지 제어할 수 있는 혁신적인 기능을 제공합니다.