AI 모델 (LLM·GPT·Claude·Gemini)

오픈 웨이트 모델의 추론 비용이 36개월간 50배 급락하며 성능 격차가 축소되었고, AI 경쟁의 중심은 모델 자체에서 에이전트 하네스와 운영 인프라로 이동하고 있습니다. 개발자들은 오픈 모델을 선호하지만 배포와 유지보수의 어려움으로 인해 실제 프로덕션 적용률은 여전히 폐락형 모델보다 낮습니다.

Kaggle과 Google DeepMind의 AGI 벤치마크 해커톤 결과 발표 이후, 참가자들이 MEDLEY-BENCH 등 수상작의 점수 산출 방식과 심사 기준의 불투명성을 근거로 재검토를 요구하고 있습니다. 특히 수작업 가중치 사용, 검증되지 않은 LLM 심사 기준, 데이터 생성 오류 등이 지적되며 벤치마크 신뢰도에 의문이 제기되었습니다.

AI 에이전트 활용이 늘어남에 따라 RAG와 반복적인 추론 과정으로 인한 비용 부담이 커지고 있으며, 코히어는 이를 해결하기 위해 단순 API 사용을 넘어 자체 인프라를 통한 TCO 최적화를 제안합니다. 이는 기존 SaaS 기업들의 에이전트 통합 전략과 대비되는 프라이빗 AI 구축이라는 새로운 경쟁 구도를 형성하고 있습니다.

Turso는 SQLite 호환성을 넘어 Postgres 프런트엔드를 추가하여 하나의 엔진이 여러 SQL 언어를 처리하는 LLVM 방식의 아키텍처를 구축하고 있습니다. 이를 통해 브라우저, 모바일, AI 에이전트 환경에서 별도 서버 없이 단일 파일로 구동되는 고성능 데이터베이스 생태계를 지향합니다.

이 글은 LLM이 초래할 수 있는 저품질 산출물(slop)과 오픈소스 생동태의 위기, 주니어 육성 약화 등의 문제를 인정하면서도, 인간의 전문성을 바탕으로 LLM을 사고의 증폭 도구로 활용하는 구체적인 방법론을 제시합니다. 특히 사용자의 책임감과 검증 능력이 AI 결과물의 가치를 결정짓는 핵심 기준임을 강조합니다.

oqogo는 AI 코딩 에기트 및 QA 소프트웨어를 위한 맞춤형 평가(Eval) 및 벤치마크 구축 플랫폼입니다. 실제 환경과 유사한 조건에서 대규모 실험을 수행하여 모델의 성능을 측정하고, 토큰 효율성이나 제품 인터페이스의 문제점을 파악할 수 있는 인사이트를 제공합니다.

Vercel AI Gateway를 통해 GLM 5.2 모델을 Novita로 라우팅하여 사용 시 7월 24일까지 35% 할인된 비용으로 이용할 수 있습니다. 할인 기간이 종료된 후에도 추가 마크업 없이 표준 제공자 요율로 계속 사용할 수 있습니다.

Hearth는 단순한 채팅 UI를 넘어 사용자의 Windows PC 내 앱, 파일, 브라우저를 직접 조작할 수 있는 로컬 우선형 AI 운영체제급 에이전트입니다. 별도의 계정이나 클라우드 없이 로컬 모델을 활용해 개인화된 워크플로우를 구축하고 공유할 수 있는 '스킬' 시스템을 제공합니다.

Cloudflare의 AI 감사 에이전트 zkao가 OpenVM zkVM의 guest 라이브러리에서 페어링 검증 오류로 인한 치명적인 보안 버그(CVE-2026-46669)를 발견했습니다. 이번 사례는 단순한 코드 스캔을 넘어 모듈 간 상호작용과 논리적 불변성을 파악하는 고도화된 AI 에이전트 방식이 암호학적 시스템의 보안 검증에 효과적임을 보여줍니다.

오픈 소스(Open weights) 모델은 코딩 및 일반 지식 분야에서 폐쇄형 모델과 대등한 수준에 도달했으며, 36개월 만에 추론 비용을 50배 절감시켰습니다. 현재 개발자들은 두 유형의 모델을 병행 사용하고 있으나, 오픈 소스 모델의 경우 성능보다는 운영 도구와 신뢰성 문제로 인해 실제 프로덕션 배포 단계에서 어려움을 겪고 있습니다.

소규모 팀은 단일 브랜드 컬러만 사용하다 보니 호버 상태나 차트 등 UI 요소마다 일관성 없는 색상을 수동으로 결정하는 비효율을 겪습니다. 이를 해결하기 위해 하나의 색상으로부터 9단계의 톤과 맞춤형 그레이스케일을 자동 생성하여 디자인 시스템 구축 비용을 줄여주는 도구가 제안되었습니다.

기존 LLM 벤치마크는 정적인 텍스트 데이터에 의존하여 실제 웹 환경의 동적 변화와 시각적 맥락을 반영하지 못한다는 한계가 있습니다. ClawBench는 브라우저 에이전트가 복잡한 UI 요소와 상태 변화를 얼마나 정확하게 수행하는지 측정하며, 실질적인 비즈니스 가치를 창출하기 위한 필수적인 검증 도구로 기능합니다.

모델의 학습 성능은 높지만 실제 운영 환경에서 실패하는 주원인인 데이터 유출을 방지하기 위한 두 단계 검증법을 소개합니다. 상관계수를 이용한 선형적 유출 탐지와 결정 트리 기반의 비선형적 유출 탐지를 통해 문제의 근본 원인이 되는 피처를 신속하게 찾아낼 수 있습니다.

중국 Moonshot AI가 2.8조 파라미터 규모의 초거대 MoE 모델인 Kimi K3를 발표했습니다. 이 모델은 혁신적인 KDA 아키텍처와 극단적인 전문가 희소성을 통해 성능을 유지하면서도 매우 저렴한 API 가격과 100만 토큰의 긴 컨텍스트 창을 제공하며, 오는 7월 27일 오픈 웨이트로 공개될 예정입니다.

AI 워크플로우가 개인의 생산성 도구를 넘어 팀의 협업 도구로 진화해야 함을 강조하며, 결과물뿐만 아니라 그 뒤에 숨겨진 논리적 근거와 추론 과정을 공유하는 '팀 연속성(Team Continuity)'의 중요성을 다룹니다. Jeda.ai와 같은 시각적 워크스페이스를 통해 데이터, 프롬프트, 의사결정 기준을 통합 관리함으로써 팀 전체의 검토 능력과 책임감을 높일 수 있습니다.

zkSecurity의 AI 감사 도구인 zkao가 OpenVM의 'openvm-pairing' 라이브lar리에서 보안성을 파괴할 수 있는 치명적인 버그를 발견했습니다. 이 취약점은 Groth16, PLONK, BLS 등 주요 암호화 기술에 영향을 미칠 수 있었으나, 현재는 OpenVM 1.6.0 버전으로 수정되었습니다.

퀀텀-래티스가 자체 인프라를 벗어난 첫 번째 외부 독립 노드 운영에 성공했습니다. 개발팀은 새로운 노드가 생성하는 제네시스 블록의 불일치로 인해 네트워크가 분리되는 문제를 해결하기 위해, 기존 체인 데이터를 초기 데이터로 제공하는 '시딩(seeding)' 방식을 도입하여 P2P 동기화 문제를 극복했습니다.

확률을 출력하는 예측 모델에서는 단순 정확도보다 예측값의 신뢰도를 측정하는 B기법인 Brier Score와 Log Loss가 더 효과적인 평가 지표입니다. 이 지표들은 모델이 과도하게 확신하거나 회피하는 것을 방지하며, 실제 발생 빈도와 예측 확률이 일치하도록 유도하여 모델의 정직성을 검증합니다.

Cursor, Lovable 등 AI 코딩 어시스턴트를 활용해 앱을 개발할 때 발생하기 쉬운 Supabase의 RLS 설정 오류 5가지를 다룹니다. 데이터 유출로 이어질 수 있는 치명적인 보안 허점들을 식별하고, 이를 즉시 진단할 수 있는 SQL 감사 도구를 소개합니다.

본 기사는 LLaMA, Mistral 등 오픈 웨이트 모델의 API를 활용하여 유연하고 제어 가능한 AI 서비스를 구축하는 방법을 다룹니다. 인증, 엔드포인트 활용, 스트리밍 응답 구현 등 개발자를 위한 실무적인 가이드를 제공합니다.

외부 LLM 제공업체의 지연으로 인해 p99 응답 시간이 3초에서 35초로 급증한 장애 사례를 분석합니다. 업스트림의 문제는 12분이었으나, 내부적인 무제한 큐와 백프레셔 부재로 인해 자사 서비스의 장애는 40분 더 지속되었습니다.

최근 LLM 기반 이메일 필터가 무해한 텍스트를 삽입해 악성 메일을 숨기는 '텍스트 솔팅' 기법에 속아 피싱 공격을 허용하는 사례가 급증하고 있습니다. 공격자들은 CSS 크로핑이나 제로 폰트 기술을 이용해 인간에게는 정상적으로 보이지만 AI에는 혼란을 주는 방식을 사용하며, 이를 막기 위해 다층적인 보안 접근 방식이 권장됩니다.

구글은 보안 취약점 발견과 수정에 최적화된 경량 모델인 Gemini 3.5 Flash Cyber를 발표했습니다. 이 모델은 기존 대형 모델보다 저렴하고 빠르게 방대한 코드 경로를 분석할 수 있으며, 현재 정부 및 신뢰할 수 있는 파트너를 대상으로 한 제한적 파일럿 프로그램을 통해 우선 제공될 예정입니다.

미국은 중국 메모리 기업(CXMT, YMTC)에 대한 규제를 강화하며 AI 인프라 하단의 공급망 통제를 꾀하는 반면, 중국은 대규모 오픈웨이트 모델과 국제 협력을 통해 글로벌 AI 생태계 확장을 노리고 있습니다. 이러한 미·중의 상반된 전략은 글로벌 기술 표준과 공급망 재편을 가속화하고 있습니다.