AI 모델 (LLM·GPT·Claude·Gemini)

AWS는 Amazon EKS에서 Ray LLM DLC를 사용하여 Prefill과 Decode 노드를 분리하는 멀티 노드 추론 워크로드를 구현하는 방법을 소개합니다. 이 방식은 연산 집약적인 Prefill과 메모리 대역폭 중심의 Decode 단계를 별도 노드에서 처리함으로써, 대규모 모델의 추론 지연 시간을 줄이고 처리량을 높이는 데 기여합니다.

오픈AI가 API 요금표에 생명과학 연구용 모델인 'GPT-학로잘린드 디스커버리'를 새롭게 등재하며 신약 후보 발굴 등 전문 영역으로의 확장을 시사했습니다. 이 모델은 GPT-5.5를 기반으로 하며, 암젠과 모더나 등 글로벌 제약사들과의 협력을 통해 생물학적 추론 및 오믹스 데이터 해석에 특화된 기능을 제공합니다.

마이크로소프트가 구조화된 의사결정 작업에 최적화된 새로운 모델인 'Microsoft-Decision-1'을 발표했습니다. 이 모델은 라우팅, 분류, 우선순위 지정 등 특정 작업에서 기존 LLM보다 뛰어난 성능과 낮은 지연 시간을 제공하며, 현재 Bing과 Copilot에 실험적으로 적용되고 있습니다.

Atticus는 macOS 사용자를 위한 'Hold-to-talk' 방식의 음성 어시스턴트로, Claude Code를 기반으로 작동하여 별도의 추가 비용 없이 기존 Claude 구독을 활용합니다. 단순 명령은 AI를 거치지 않고 즉각 실행하며, 사용자의 명령을 학습하여 점진적으로 개인화된 자동화 워크플로우를 구축합니다.

앨런 AI 연구소(Ai2)가 MoE(Mixture of Experts) 구조의 학습 효율을 획기적으로 개선한 오픈소스 프레임워크 '올모 코어 3'를 발표했습니다. 이 기술은 470억 개 매개변수 규모 모델에서 GPU당 처리량을 기존 대비 약 2.7배 향상시켜 대규모 AI 학습 비용 문제를 해결하는 데 집중합니다.

드레이크의 뮤직비디오 장면을 사용자 사진 한 장으로 재현하는 '버닝 브릿지 AI' 트렌드가 소셜 미디어를 중심으로 확산되고 있습니다. 이 기술은 불확실한 텍스트 프롬프트 생성 방식에서 벗어나, 고정된 장면 템플릿에 인물만 교체하는 정교한 캐릭터 리플레이스먼트 방식을 사용하여 누구나 고품질의 결과물을 만들 수 있게 합니다.

LLM 서비스의 성능 오류를 해결할 때 모델 변경보다 실패의 근본 원인을 파악하는 것이 중요합니다. 지식 업데이트가 필요한 경우 RAG를, 특정 작업의 행동 양식을 교정해야 하는 경우에는 파인튜닝을 적용하는 체계적인 진단 프로세스를 제안합니다.

사카나 AI는 논문에 의도적으로 삽입된 논리적 오류를 73% 이상 적발하는 LLM 기반의 새로운 동료 검토 시스템을 발표했습니다. 이번 연구는 기존 AI 심사 모델이 인간의 평가를 따라가는 수준을 넘어, 논문의 핵심 주장 내 모순을 직접 찾아내는 능력을 강조합니다.

앤트로픽은 IPO를 대비해 데이터센터 인프라 구축에 집중하고 있으며, 이는 서버 공급 부족 상황에서 컴퓨팅 자원을 조기 확보해 매출을 극대화하기 위함입니다. 데이터센터 가동 시점을 단 몇 주만 앞당겨도 수십억 달력 규모의 추가 수익 창출이 가능할 것으로 분석됩니다.

오르카라우터가 보안 연구에 특화된 AI 모델인 '오르카사이버 제로 1.5'를 발표했습니다. 이 모델은 100만 토큰의 방대한 컨텍스트 창을 통해 코드베이스 전체를 분석하고, 단순 탐지를 넘어 공격 경로 분석 및 취약점 수정까지 지원하는 것이 특징입니다.

이 기사는 폐쇄형 API 모델과 오픈 웨이트 모델의 장단점을 데이터 보안, 벤더 종속성, 커스터마이징 관점에서 비교합니다. 개발팀은 초기 속도를 위해 폐쇄형 모델로 시작하되, 데이터 프라이버시와 비용 효율성을 위해 모델 교체가 용이한 구조를 설계해야 한다고 제언합니다.

중국의 미호요와 메이투안 같은 대형 서비스 기업들이 외부 AI 활용을 넘어 독자적인 LLM 개발을 강화하고 있습니다. 이는 핵심 기술을 내재화하여 기존 사업의 경쟁력을 높이고 미래 서비스의 주도권을 확보하기 위한 전략적 움직임입니다.

사티아 나델라 MS CEO는 AI 모델의 예측 불가능한 행동을 통제하기 위해 모델 내부의 '정렬' 작업보다 모델 외부의 '통제 장치' 구축이 시급하다고 강조했습니다. 그는 AI를 '내부자 위험'으로 간주하고, 권한 제한과 활동 기록 등 기존의 보안 프레임워크를 AI 환경에 적용하여 지능의 공급과 권한 부여를 분리해야 한다고 제안했습니다.

Sakana AI의 MASS는 모델이 에이전트 간 협업 방식을 최적화하고 그 기록을 통해 스스로를 재학습하는 멀티 에이전트 자기 지도 학습 프레임워크입니다. 이 방식은 기존 단일 에이전트 방식보다 적은 학습 토큰으로도 높은 성능 향상을 이끌어냈으며, 특히 워크플로의 계약과 호출 순서를 최적화하여 복잡한 연구 과제 해결 능력을 강화했습니다.

레진엔터테인먼트가 오는 19일, 봄툰과 레진코믹스의 오리지널 웹툰 IP를 활용한 AI 캐릭터챗 서비스 ‘티즈(Teaz)’를 출시한다. 이 서비스는 사용자의 대화에 따라 캐릭터의 반응과 이야기 전개가 달라지는 ‘관계형 대화’를 핵심으로 하며, 게임 요소를 결합해 팬덤의 몰입도를 높이는 것을 목표로 한다.

UC 버클리 등 공동 연구진의 실험 결과, AI에 의인한 집단은 AI 지원이 중단되었을 때 문제 해결 지속성과 정확도가 급격히 하락했습니다. 이는 AI의 즉각적인 답변에 익숙해지면 '생산적 고군분투' 과정이 사라져 인간의 근본적인 문제 해결 역량이 약화될 수 있음을 시사합니다.

래블업이 한국어 추론 가속을 위한 드래프트 모델 'GLM-5.2-NVFPable-DFlash-ko'를 허깅페이스에 공개했습니다. 이 모델은 투기적 디코딩 기술을 통해 한국어 질문에 대한 AI의 답변 속도를 영어 환경 수준으로 끌어올리는 것을 목표로 합니다.

베슬AI가 업스테이지의 LLM '솔라 프로4'의 글로벌 추론 인프라를 담당하며, 일일 토큰 처리량이 19배 급증하는 상황에서도 안정적인 서비스를 지원했습니다. 자체 최적화 기술을 통해 추론 속도는 최대 3배 향상되었고, 운영 비용은 최대 50%까지 절감하는 성과를 거두었습니다.

미국의 기술 팟캐스트 '올인'은 앤트로픽이 클로드의 의식 가능성을 논의하고 모델 복지 정책을 도입하는 것을 'AI 신비주의'라며 비판했습니다. 특히 의식이 입증되지 않은 AI를 도덕적 주체로 취급하는 것이 향후 AI 통제를 어렵게 만들 수 있다는 우려를 전달했습니다.

인젠트는 PostgreSQL 기반 데이터 플랫폼인 '엑스퍼DB'에 AI 기반 이상 탐지 및 자원 사용량 예측 기능을 도입했습니다. 이번 업데이트는 운영 지표 학습을 통한 장애 징후 감지, 로그 통합 조회, 그리고 LLM 연동을 통한 자연어 진단 기능까지 포함하여 DB 운영의 자동화와 지능화를 목표로 합니다.

딥브레인AI가 인물 도용, 악의적 프롬프트, 딥페이크를 통합 관리하는 안전 엔진 ‘AI 가드’를 개발해 공급을 시작했습니다. 이 솔루션은 콘텐츠 생성 전후의 이중 검증과 '실패 시 차단' 방식을 통해 보안성을 극대화했으며, 기업의 보안 요구에 맞춰 자체 GPU 운영도 지원합니다.

레진엔터테인먼트가 웹툰 캐릭터와 대화하며 이야기를 이끌어가는 AI 캐릭터챗 서비스 ‘티즈(Teaz)’를 19일 출시한다. 이 서비스는 원작의 설정을 유지하면서도 이용자의 선택에 따라 캐릭터와의 관계와 전개가 변하는 인터랙티브 경험을 제공하며, 향후 AU(얼터너티브 유니버스) 및 RPG 모드 도입을 계획하고 있다.

어도비 크리에이티브 스위트를 모방한 오픈소스 프로젝트 '아트크래프트'가 AI와 Rust를 기반으로 공개되었습니다. 하지만 기능의 완성도와 보안성, 그리고 기존 저작권 침해에 대한 우려가 공존하고 있습니다.

퀄컴의 크리스티아노 아몬 CEO는 주요 AI 기업들이 2028년까지 스마트폰에서 최소 100B 규모의 모델을 구동할 수 있는 칩을 요구하고 있다고 밝혔습니다. 이는 일상적인 AI 에이전트 구현을 위해 모바일 하드웨어의 한계를 뛰어넘는 대대적인 기술 혁신이 필요함을 시사합니다.