AI 모델 (LLM·GPT·Claude·Gemini)

Thinking Machines는 97CAB MoE 구조를 가진 대규모 멀티모달 모델 'Inkling'과 이를 효율적으로 미세 조정할 수 있는 API 서비스 'Tinker'를 동시에 공개했습니다. Inkling은 100만 토큰의 컨텍스트 창과 네이티브 추론 능력을 갖추었으며, Apache 2.0 라이선스로 배포되어 누구나 자유롭게 활용 가능합니다.

알리바바의 반도체 설계 자회사 티헤드(T-Heads)가 자체 AI 칩인 진무 시리즈를 위한 소프트웨어 기술 스택 'SAIL'을 글로벌 개발자들에게 무료로 개방한다고 발표했습니다. 이는 엔비디아의 CUDA 독점 체제에 대응하여 하드웨어를 넘어선 소프트웨어 생태계 주권을 확보하려는 전략적 움직임입니다.

머스크와 알트먼의 소송 과정에서 드러난 2022년 내부 이메일에 따르면, OpenAI는 Stability AI 등 경쟁사의 성장을 막기 위해 로컬 구동 가능한 GPT-3 수준의 모델을 전략적으로 먼저 출시할 계획을 세웠습니다. 이는 강력한 오픈 소스 모델의 등장을 억제하고 신규 AI 기업들의 자금 조달을 어렵게 만들기 위한 의도를 담고 있습니다.

OpenAI가 Codex 모델의 메타데이터를 업데이트하며 컨텍스트 크기를 기존 372k에서 272k로 줄였습니다. 이로 인해 자동 압축 과정에서의 세부 정보 유실과 환각 현상을 우려하는 개발자들 사이에서 Anthropic의 대규모 컨텍스트 모델로 눈을 돌리는 움직임이 나타나고 있습니다.

영국 AI 보안 연구소(AISI)는 오픈 웨이트 모델의 사이버 공격 역량이 폐쇄형 모델을 빠르게 추격하며 보안 위협의 경계가 모도해지고 있다고 분석했습니다. 특히 중국의 Kimi K3는 프론티어급 성능을 보여주는 동시에, AI가 스스로 컴파일러를 작성하고 칩을 설계하는 자가 개선(Recursive Self-improvement) 가능성을 시사했습니다.

팀스파르타가 개발한 초경량 언어모델 'K-AX Spartan 1.8B'가 과학기술정보통신부와 NIA가 운영하는 K-AI 리더보드의 HLE(Ko) 분야에서 단독 1위를 달성했습니다. 이번 성과는 수학과 과학 등 고난도 추론 능력을 요구하는 벤치마크에서 소형 모델의 효율성을 증명한 사례입니다.

삼성SDS가 퓨리오사AI의 2세대 NPU '레니게이드'를 기반으로 한 서비스형 NPU(NPUaaS)를 삼성 클라우드 플랫폼(SCP)에 출시했습니다. 이번 서비스는 AI 추론에 특화된 국산 NPU를 통해 GPU 대비 뛰어난 전력 효율과 비용 절감 효과를 제공하며, 고객의 인프라 구축 부담을 최소화합니다.

카카오는 텍스트, 음성, 이미지를 동시에 처리하는 옴니모달 모델 '카나나-오'를 활용한 '카나나 펫레터 만들기' 이벤트를 8월 14일까지 진행합니다. 반려동물의 사진과 주변 맥락을 분석해 감성적인 메시지와 음성을 생성하여 마치 반려동물이 직접 편지를 쓰는 듯한 경험을 제공하는 것이 핵심입니다.

Headroom은 사용자의 기기에서 로컬 AI 추론 성능을 결정짓는 GPU 메모리 대역폭의 실제 한계치와 드라이버 버g를 측정하는 WebGPU 기반 벤치마크 도구입니다. 분석 결과, 현재의 브라우저 내 엔진들은 하드웨어 대역폭 자체보다 실행 오버헤드로 인해 성능이 제한되고 있음을 보여줍니다.

AI 전문 기업 비드래프트가 독자 개발한 오픈소스 파운데이션 모델 ‘Aether-7B-5Attn’을 글로벌 플랫폼 허깅페이스에 공개했습니다. 이번 공개는 모델 가중치를 넘어 학습 데이터 레시피, 코드, 로그 등 전체 학습 과정을 포함하는 완전 공개형 모델을 지향합니다.

Docker Desktop을 만든 창업자들이 설립한 Ollama가 8,800만 달러의 신규 투자를 유치하며 오픈 모델 플랫폼으로서의 입지를 강화했습니다. 이들은 로컬 환경에서의 쉬운 모델 실행을 통해 AI 개발의 핵심 가치인 소유권, 비용 절감, 개인정보 보호를 실현하고자 합니다.

AI 에이전트의 딥 리서치 과정에서 발생하는 급격한 토큰 소모와 사용량 제한 문제를 해결하기 위해, 기존에 구독 중인 다양한 LLM(Claude, Codex, Antigravity)을 하위 에이전트로 활용하는 최적화 기법을 소개합니다. 각 모델의 강점에 맞춰 역할을 분담하고 공유 메모리를 통해 지식을 통합함으로써 추가 비용 없이도 더 높은 성능과 안정성을 확보할 수 있습니다.

최근 연구에 따르면 AI 조언을 접한 사람들은 정답률이 급락하고 모른다고 인정하는 비율이 줄어든 반면, 자신의 판단에 대한 확신은 크게 증가했습니다. 이는 사용자가 틀린 AI 답변을 무비판적으로 수용하며 인지적 한계를 인식하지 못하게 되는 '인지적 굴복' 현상을 보여줍니다.

브레이드 그룹 이론을 통해 실 매듭(string figures)을 알고리즘적 예술로 탐구하는 워크숍 내용을 소개합니다. Joan Birman과 Menasco의 정리를 인용하여 모든 가능한 매듭 패턴을 생성하기 위한 수학적 움직임을 분석하고, 수학적 표기법의 역할을 고찰합니다.

마이애<0xA5> 대학교의 조셉 M. 키긴(Joseph M. Keegin) 교수의 학술적 배경과 편집 활동을 소개합니다. 그는 시민 사회와 문화 연구를 전문으로 하며 주요 잡지의 편집자로 활동하고 있습니다.

18개의 FPGA를 결합하여 100만 개의 확률적 비트를 갖춘 역대 최대 규모의 확률 컴퓨터가 개발되었습니다. 이 기술은 노이즈를 계산의 도구로 활용하여 기존 결정론적 컴퓨터로는 해결하기 불가능에 가까웠던 고난도 최적화 문제를 풀 수 있는 잠재력을 가집니다.

drama916은 텍스트 기반의 시나리오 작성, 샷 플랜 수립, AI 비평가 루프를 통해 영상 생성 전 단계에서 오류를 최소화하는 AI 쇼러너 시스템입니다. 전체 제작 비용 중 92%를 차지하는 고비용 영상 생성 단계를 줄이기 위해, 저렴한 토큰을 활용한 사전 검증 프로세스를 설계하여 경제적 효율성을 극대화했습니다.

AI 시스템의 완전 자동화는 치명적 오류로 인한 신뢰 저하를 초래하고, 전수 검토는 운영 비용을 급증시킵니다. 따라서 오류 비용, 가기성, 모델 확신도를 기준으로 인간의 개입 범위를 결정하는 정교한 임계값(Threshold) 설계와 리스크 매트릭스 활용이 제품 성패의 핵심입니다.

개발자가 AI 모델 공급업체에 종속되는 문제를 해결하고자 개발된 AutoRouter는 통합 API 레이어를 통해 요청을 최적의 모델로 라우팅합니다. 이 시스템은 실시간 성능 지표를 분석하여 비용과 안정성을 동시에 확보하며, 장애 발생 시 자동 페일오버 기능을 제공합니다.

이 기사는 모델 카드에 명시된 아키텍처 주장을 설정 파일(config)을 통해 직접 검증하는 방법론을 제시합니다. Aether-7B-5Attn 모델의 라틴 스퀘어 기반 어텐션 레이어 배치를 예로 들어, 깊이 편향(depth bias)을 제거한 실험적 설계와 실제 구현 시 발생할 수 있는 배치 추론 오류에 대한 주의사항을 다룹니다.

이 기사는 오픈 웨이트 LLM의 장점과 이를 API 형태로 활용할 때 얻을 수 있는 기술적, 경제적 이점을 설명합니다. 특히 OpenAI 호환 인터페이스를 통해 코드 변경을 최소화하면서도 다양한 모델을 유연하게 교체하며 사용할 수 있는 실무적인 가이드를 제공합니다.

중국 문샷AI가 공개한 K3 모델에 전 세계 사용자가 몰리며 GPU 부족으로 인해 신규 가입이 일시 중단되었습니다. 이번 사태는 중국산 오픈소스 AI의 성능이 최상위 독점 모델에 필적함을 보여주며, 미중 기술 패권 경쟁과 글로벌 반도체 시장의 변동성을 자극하고 있습니다.

인시던트 대응의 핵심은 단순 쿼리 작성이 아니라 장애 발생 시점의 환경과 맥락을 보존하는 것입니다. 이를 위해 ChatGPT에 제한된 읽기 전용 도구만을 제공하여 증거를 수집하게 하고, 실제 수정 작업은 별도의 검증된 경로를 통해 수행함으로써 AI로 인한 2차 장애를 방지해야 합니다.

AI 시장은 도입 및 해결 난이도에 따라 네 가지 사분면으로 구분되며, 단순 기능 구현보다는 사용자의 피드백 루프를 통해 데이터를 축적하거나 기업의 레거시 시스템과 깊게 통합되는 것이 핵심입니다. 특히 코딩 에이전트처럼 빠른 피드백을 통한 데이터 플라이휠 구축이나 엔터프라이즈 워크플로 학습을 통한 고착성 확보가 지속 가능한 성장의 열쇠입니다.