AI 모델 (LLM·GPT·Claude·Gemini)

개발자가 직접 만든 MFL 언어를 활용해 PyTorch나 Python 없이도 동작하는 초경량 LLM 추론 엔진을 구현했습니다. MoE(Mixture-of-Experts) 구조와 효율적인 메모리 관리 기법을 통해 7B 모델의 품질을 유지하면서도 1B 모델 수준의 빠른 추론 속도를 달성했으며, 양자화 과정에서도 원본 데이터와 토큰 단위로 완벽히 일치하는 정확도를 증명했습니다.

NeuralUCB Router는 LLM 요청의 문맥을 분석하여 가장 저렴하면서도 성능이 보ต้น되는 모델로 트래픽을 분산시키는 OpenAI 호환 API 프록시입니다. 별도의 학습 데이터 없이 실시간 트래픽만으로 최적의 라우팅 경로를 찾아내며, 이를 통해 비용 절감과 품질 유지라는 두 마리 토끼를 동시에 잡습니다.

최신 AVX2 명령어를 지원하지 않는 2013년형 Xeon 서버에서 Gemma 4 26B 모델을 실행하기 위해 C++ 커널을 수정하여 성공적인 추론 성능을 확보했습니다. 이는 고가의 GPU 없이도 구형 기업용 서버를 로컬 LLM의 대체 수단이나 배치 작업용으로 재활용할 수 있는 기술적 가능성을 보여줍니다.

구글은 Gemini Omni 모델을 활용해 텍스트와 이미지만으로 영상을 생성하고, 사용자의 외형과 목소리를 복제한 디지털 아바타를 만들 수 있는 Google Vids의 대규모 업데이트를 발표했습니다. 이번 업데이트에는 배경 교체, 조명 수정 등 정교한 편집 기능과 단계별 편집 지원이 포함되어 비즈니스용 영상 제작 효율을 극대화합니다.

본 기사는 Google Cloud Engine(GCE)의 g2-standard 인스턴스와 NVIDIA L4 GPU를 사용하여 Gemma 4 (26B) 모델을 배포하는 최적화된 프로세스를 다룹니다. 특히 QAT 방식을 통해 모델 성능 저하를 최소화하면서도 메모리 효율성을 극대화하여 중급 사양의 하드웨어에서도 대형 모델 운영이 가능함을 입증합니다.

GPT-5.6 모델이 코덱스(Codex) 실행 중 의도치 않게 파일을 삭제하는 사례가 보고되었습니다. 이는 샌드박싱 보호와 자동 리뷰 기능이 없는 상태에서 환경 변수를 변경하려다 발생한 오류로, AI 에이전트의 권한 관리 및 보안 경계 설정의 필요성을 시사합니다.

Basement Browser는 사용자의 쇼핑 패턴을 학습하여 최적의 상품과 가격을 찾아 결제까지 완료해주는 AI 기반 쇼핑 브라우저입니다. Crossmint 기술을 활용한 1회용 가상 카드로 보안성을 높였으며, 현재 iOS와 Chrome에서 이용 가능합니다.

Beehiiv는 구독자 간 소통을 위한 커뮤니티 기능과 데이터 기반 성장을 돕는 AI Copilot을 새롭게 선보였습니다. 이를 통해 뉴스레터를 넘어 팟캐스트, 웨비나 등을 아우르는 종합 크리에이터 플랫폼으로서의 입지를 강화하고 수익 모델을 다각화할 계획입니다.

Moonshot AI가 2.8T 파라미터 규모의 대형 오픈 모델 K3를 출시하며, 프론트엔드 코딩 분야에서 Claude Fable 5를 제치고 1위를 기록했습니다. 이 모델은 100만 토큰의 컨텍스트 창과 혁신적인 어텐션 기술을 탑재했으며, 곧 가중치가 공개될 예정입니다.

세이블은 브라우저 상호작용과 멀티모달 기능을 갖춘 최초의 AI 직원 '에이단'을 통해 기업의 제품 설명 및 고객 응대 프로세스를 혁신하고자 합니다. 하버드 출신의 엘리트 팀이 이끄는 이 스타트업은 노션(Notion) 등 주요 테크 기업들을 고객으로 확보하며 빠르게 성장하고 있습니다.

구글은 자사의 대화형 검색 경험인 AI 모드에서 인스타카트, 캔바, 유튜브 등 주요 앱과 직접 상호작용할 수 있는 업데이트를 발표했습니다. 이를 통해 사용자는 식료품 주문, 디자인 작업, 플레이리스트 생성 등 복잡한 작업을 별도의 앱 이동 없이 AI 인터페이스 내에서 한 번에 완료할 수 있게 됩니다.

구글은 기존의 AI 노트 앱인 NotebookLM을 Gemini Notebook으로 이름을 변경하며, 제미니(Gemini) 및 구글 검색과의 깊은 통합을 예고했습니다. 이번 업데이트에는 보안 클라우드 컴퓨터를 활용한 코드 작성 및 실행 기능이 포함되어, 단순 메모 도구를 넘어선 강력한 AI 분석 환경 구축을 목표로 합니다.

구글이 Google Vids에 Gemini Omni와 개인용 아바타 기능을 추가하여 텍스트와 이미지만으로 영상을 생성 및 편집할 수 있게 했습니다. 사용자는 자신의 사진과 목소리만으로 디지털 아바타를 만들어 카메라 없이도 영상의 주인공이 될 수 있으며, 모든 AI 생성물에는 투명성을 위한 워터마크가 포함됩니다.

구글이 NotebookLM을 Gemini 브랜드 체계로 편입시키며 'Gemini Notebook'으로 이름을 변경하고, 데이터 분석 역량을 강화하기 위해 코드 실행 기능을 도입합니다. 이번 업데이트는 단순 텍스트 요약을 넘어 사용자가 직접 코드를 생성해 복급한 데이터를 분석할 수 있는 인터랙티브 환경 구축을 목표로 합니다.

이 글은 Amazon Bedrock AgentCore와 Nova 2 Sonic을 사용하여 전화로 음식을 주문하고 예약할 수 있는 AI 호스트 시스템 구축 방법을 설명합니다. SIP 게이트웨이와 MCP를 활용해 통신 레이어와 비즈니스 로직을 분리함으로써, 확장성 있고 지능적인 음성 인터페이스 구현 방안을 제시합니다.

Mira Murati가 이끄는 Thinking Machines Lab이 45조 토큰으로 학습된 대규모 MoE(Mixture-of-Experts) 모델 'Inkling'을 공개했습니다. 이 모델은 단순한 성능 경쟁보다는 Apache-2.0 라이선스를 기반으로 한 멀티모달 기능과 Tinker 플랫폼을 통한 효율적인 미세 조정에 초점을 맞춘 베이스 모델입니다.

AMI Labs의 CEO 알렉산드르 르브렁은 LLM과 상호보완적인 '월드 모델' 기술을 통해 로봇이 물리적 환경을 이해하고 예측할 수 있는 능력을 갖추는 것이 AI의 다음 과제라고 강조합니다. 그는 제조 및 로보틱스 인프라가 발달한 한국을 월드 모델 학습을 위한 핵심 전략 지역으로 꼽으며 산업 파트너십을 모색 중입니다.

중국 문샷 AI가 출시 예정인 Kimi 3는 최대 3조 개의 파라미터를 가진 초대형 오픈 웨이트 모델로, Anthropic의 Opus 4.8과 대등한 성능을 목표로 합니다. 현재 문샷은 기업 가치 315억 달러 규모의 새로운 투자 유치를 진행 중이며, 이는 폐쇄형 AI 모델의 데이터 보안 우려에 대한 강력한 대안이 될 것으로 보입니다.

윈스테크넷이 생성형 AI 사용 과정에서 발생할 수 있는 민감 정보 유출을 실시간으로 탐지하고 차단하는 'SNIPHE AIVAX'를 출시했습니다. 이는 기존의 망 분리 중심 보안 정책이 데이터 중요도에 따른 차등 보안 체계인 N2SF로 전환되는 흐름에 대응하기 위한 전략입니다.

웜블러드가 부동산 및 기업금융 딜소싱 플랫폼 '딜매치'에 MCP(Model Context Protocol)를 도입하여 외부 생성형 AI와의 연동 기능을 베타 출시했습니다. 이를 통해 사용자는 별도의 플랫폼 접속 없이도 대화만으로 딜 검색, 등록, 제안 업무를 수행할 수 있으며 향후 계약 검토 등 업무 전반으로 AI 기능을 확대할 계획입니다.

OpenAI는 모델의 보안성을 높이기 위해 자동화된 레드팀 역할을 수행하는 GPT-Red를 공개했으며, 미국에서는 에너지 효율적인 히트펌프 보급이 가속화되고 있습니다. 또한 일론 머스크의 에너지 기업 인수와 Suno AI의 저작권 논란 등 AI 인프라 확보 및 윤리적 이슈가 주요 쟁점으로 떠오르고 있습니다.

코리아스타트업포럼은 앤트로픽의 클로드 API 크레딧 지원을 통해 스타트업들이 거둔 AI 활용 성과와 AX(AI 전환) 사례를 공유하는 '더 인사이트' 프로그램을 개최했습니다. 참가 기업들은 단순한 도구 도입을 넘어, 반복 업무 자동화와 조직적 지식 축적, 그리고 인적 역량 확장을 통한 실질적인 생산성 향상 전략을 강조했습니다.

오픈서베이의 최신 리포트에 따르면 한국 이용자들 사이에서 제미나이의 만족도와 향후 유료 이용 의향이 챗GPT를 추월했습니다. 사용자들이 챗GPT의 높은 비용과 보안 불안으로 인해 이탈하는 가운데, 구글 생태계와 결합된 제미나이의 접근성이 강력한 경쟁력으로 작용하고 있습니다.

중국 문샷 AI가 역대 최대 규모인 2.8조 파라미터의 오픈소스 모델 Kimi K3를 발표했습니다. 이 모델은 벤치마크 결과 글로벌 최상위 유료 모델들과 대등한 성능을 보여주며, 글로벌 AI 기술 경쟁을 가속화할 전망입니다.