AI 모델 (LLM·GPT·Claude·Gemini)

AI 추론 비용 최적화를 위해 챗봇, 에이전트 등 사용 사례별 토큰 패턴을 파악하고, 모델 선택부터 동시 접속자 수까지 고려한 데이터 기반의 GPU 산정 프레임워크를 제안합니다. 또한, 핵심 트래픽은 예약 인스턴스로, 변동 트래픽은 스팟 인스턴스로 처리하는 'Core-and-flex' 모델과 양자화 등의 모델 최적화 기술을 통한 비용 절감 방안을 다룹니다.

AI 모델 경량화 전문 기업 노타가 정부 주도의 ‘모두의 AI’ 사업에 참여해 SK텔레콤 컨소시엄의 AI 모델 인프라 최적화를 담당한다. 노타는 자체 플랫폼 ‘넷츠프레소’를 통해 대규모 서비스 운영에 필수적인 연산량 및 메모리 사용량 절감 기술을 제공할 예정이다.

AI2가 개발한 BenchMIRT는 다차원 문항반응이론(MIRT)을 활용해 LLM 벤치마크 내의 개별 프롬프트가 실제로 어떤 능력을 측정하는지 분석하는 새로운 방법론입니다. 이 연구는 기존 벤치마크 점수가 추론 능력과 안전성 등 서로 다른 지표가 뒤섞여 있을 수 있음을 증명하며, 벤치마크의 정확한 성능 평가를 위한 새로운 기준을 제시합니다.

'GPU World'는 2040년까지 전 인류가 고성능 GPU를 상시 이용하는 미래를 주제로 한 스토리 공모전으로, 총상금 10만 달러를 내걸고 있습니다. 이 기사는 AI 자원의 무한한 보급이 가져올 교육, 의료, 사회적 변화에 대한 기대와 함께, 에너지 소비 급증 및 기술 불평적과 같은 현실적인 한계에 대한 전문가들의 다양한 견해를 다룹니다.

LLM의 환각 현상이 지식의 부재가 아닌 정보 표면화의 실패일 수 있다는 새로운 연구 결과가 발표되었습니다. 모델의 추론 시간을 늘리는 것만으로도 직접 기억하지 못하는 정보의 최대 65%를 회복할 수 있음이 증명되었습니다.

MS 파트너사인 SynSphere Italia의 CEO가 Azure OpenAI를 활용해 고객 이메일의 60%를 자동 처리하는 이메일 어시스턴트를 구축했습니다. 그는 복잡한 시스템 대신 검색 파이프라인 최적화와 좁은 범위의 어시스턴트 설계를 통해 검색 격차 문제를 성공적으로 해결했습니다.

앤스로픽이 최신 모델인 Claude Fable 5.1과 Claude Mythos 5.1을 발표했습니다. Fable 5.1은 캐시 읽기 비용을 75% 절감하여 경제성을 높였으며, Mythos 5.1은 보안 및 생명 과학 분야를 위한 제한적 접근 모델로 제공됩니다.

오픈AI가 챗GPT 데스크톱 앱의 성능 최적화를 통해 긴 대화 스레드의 로딩 시간을 90% 이상 단축하고 메모리 점유율도 90% 이상 줄였습니다. 이는 대화 내용이 방대해짐에 따라 발생하던 성능 저하 문제를 해결하여 장시간 AI를 활용하는 사용자들의 편의성을 높이기 위한 조치입니다.

GIDE는 사용자의 로컬 머신에서 실행되는 AI 코딩 에이전트로, 별도의 설정 없이 로컬 LLM을 활용해 오프라인에서도 비용 부담 없이 코드를 수정하고 테스트할 수 있습니다. 특히 모든 코드 변경과 명령 실행 전 사용자의 승인을 받는 'Write와 Gate' 기능을 통해 AI 에이전트의 신뢰성 문제를 해결하고자 합니다.

1988년 MICRA Inc.는 1911년판 로제 시어러스(Roget's Thesaurus)를 수동 전사 방식으로 디지털화했습니다. 이 프로젝트는 웹스터 사전 디지털화와 함께 자연어 이해 및 의미론적 상호운용성 연구를 위한 중요한 언어 자원 구축의 일환이었습니다.

지도 제작자들이 저작권 보호를 위해 의도적으로 그려 넣었던 '가짜 거리'를 통해 AI의 할루시네이션 현상을 재해석합니다. 저자는 AI의 핵심 문제가 거짓을 말하는 것이 아니라, 무엇이 의도된 생성이고 무엇이 오류인지 구분할 수 있는 기록(ledger)이 없다는 점에 있다고 주장합니다.

이 글은 M4 Max MacBook Pro 또는 Mac Studio 환경에서 Qwen3.8-27B 모델을 안정적으로 운영하며 다수 사용자에게 API를 제공하기 위한 기술적 가이드를 담고 있습니다. oMLX 엔진과 양자화 기술, 그리고 Lightning MTP와 같은 투기적 디코딩 기법을 활용하여 추론 속도와 품질 사이의 최적의 균형점을 찾는 방법을 상세히 설명합니다.

LLM 애플리케이션의 핵심인 토큰 스트리밍이 운영 환경에서 끊기는 현상은 코드 오류가 아닌 중간 네트워크 계층(프록시, 압축 미들웨어 등)의 버포링 때문입니다. 개발자는 curl과 타임스탬프를 활용해 네트워크 경로를 단계적으로 추적하여 버퍼링이 발생하는 정확한 지점을 찾아내야 합니다.

오픈AI의 챗GPT 광고 연환산 매출이 도입 약 200일 만에 10억 달러를 기록하며 챗봇 광고의 수익성을 입증했습니다. 기존 키워드 검색 방식과 달리 대화의 맥락을 파악해 상품을 추천하는 방식을 채택했으며, 이는 향후 오픈AI의 주요 수익원으로 자리 잡을 전망입니다.

OpenAI의 Codex Pro 요금제는 주간 사용량 한도가 실제 20배에 가깝게 제공되는 반면, Anthropic의 Claude는 20배라는 수치가 5시간 단위 한도에만 국한되어 주간 총량은 훨씬 적습니다. 이는 사용자가 요금제 업그레이드 시 실제 기대할 수 있는 가용 토큰량을 오해할 수 있는 중요한 차이점입니다.

중국 AI 기업 Z.ai는 상반기 매출이 전년 대비 400% 증가하며 급성장 중이며, 특히 API와 구독형 AI 에이전트 중심의 클라우드 사업이 성장을 견인하고 있습니다. 다만, 클라우드 서비스 확대에 따른 연산 비용 증가로 인해 매출총이익률은 오히려 하락하며 수익성 개선이 시급한 상황입니다.

비드래프트는 수만 개의 AI 에이전트가 형성하는 사회적 구조가 학습된 데이터의 단순 암송인지 아니면 새로운 창발적 현상인지를 구분하기 위한 연구 플랫폼 'ai-월드(CIVOS)'를 공개했습니다. 이를 위해 모델의 사전 지식을 통제한 대조군 실험을 통해 AI 에이전트 간의 진정한 상호작용과 문명 형성 가능성을 연구합니다.

기존의 '실행 취소(Undo) 가능 여부' 중심의 확인 프로세스를 '결과가 얼마나 멀리 퍼져나갔는가'라는 관점으로 재정의합니다. 데이터베이스 복구는 가능하더라도 이미 전달된 알림이나 타인의 결정 등 시스템 외부로 확산된 영향은 되돌릴 수 없으므로, 시스템의 통제 범위를 기준으로 사용자에게 경고해야 한다는 내용입니다.

OpenAI의 아스트라는 Preparedness Framework의 사이ber 보안 역량 임계값을 충족한 최초의 모델입니다. 이 모델은 공개를 위해 기존보다 더욱 강력한 안전장치를 탑재하여 보안 위협에 대응할 수 있도록 설계되었습니다.

이 글은 86Box 에뮬레이터에서 QIC-117 테이프 드라이브를 에뮬레이션하기 위해 Claude를 활용한 과정을 다룹니다. 표준 규격 외에 제조사별로 상이한 비공표 진단 명령어를 분석하기 위해 LLM을 이용해 ROM 덤프를 역공학했으며, 이를 통해 다양한 백업 소프트웨어와의 호환성을 확보했습니다.

OpenAI의 보안 인증 프로그램인 'Daybreak'의 검증 거절 과정에서 사용자가 항소할 수 있는 경로가 사실상 존재하지 않음이 밝혀졌습니다. 거절 통보에는 고객 지원팀에 문의하라고 안내되어 있으나, 실제 지원팀은 결과 번복이나 상세 이유 제공이 불가능하다는 입장을 보이며 프로세스의 불투명성을 드러냈습니다.

Z.ai의 GLM-5.3 Flash가 MIT 라이선스로 오픈 소스 공개되었으며, 100만 토큰의 컨텍스트 창과 혁신적인 어텐션 구조를 통해 기존 클로드나 GPT 모델 대비 최대 67배 저렴한 가격을 제시했습니다. 이 모델은 중국산 AI 칩 기반으로 구동되었음에도 불구하고 코딩 및 에이전트 성능에서 최상위 모델에 근접하는 성능을 보여주며 AI 가격 전쟁을 가속화하고 있습니다.

Zhipu AI가 정체를 숨긴 채 출시한 'Ox Alpha' 모델이 브랜드나 벤치마크 없이 오직 성능과 가격 경쟁력만으로 OpenRouter의 사용량을 역대 최고치로 끌어올렸습니다. 이후 이 모델이 GLM-5.3-Flash로 밝혀지며, 개발자들이 브랜드 로열티보다 실질적인 비용 효율성과 성능을 우선시한다는 사실을 증명했습니다.

Zhipu AI의 GLM-5.3-Flash는 Claude Opus와 대등한 성능을 유지하면서도 약 40분의 1 수준의 저렴한 API 비용을 제공합니다. 특히 100만 토큰 이상의 긴 컨텍스트와 네이티브 멀티모달 기능을 갖춰, 비용 효율적인 AI 에이전트 구축을 위한 새로운 표준을 제시하고 있습니다.