AI 모델 (LLM·GPT·Claude·Gemini)

이 글은 Base 네트워크 개발자를 위해 공개 RPC와 전용 노드의 차이점과 활용 시점을 설명합니다. 프로토타입 단계에서는 비용 효율적인 공개 RPC가 적합하지만, 트래픽이 늘어나거나 낮은 지연 시간이 필요한 상용 서비스 단계에서는 안정성을 위해 유료 전용 서비스를 고려해야 합니다.

OpenRouter 데이터에 따르면 DeepSeek와 Qwen 등 중국계 모델이 전체 토큰 사용량의 상당 부분을 차지하며 미국 모델을 추월하고 있습니다. 이는 에이전트 기반 워크로드 증가로 인해 비용 효율성이 핵심 지표가 되었기 때문이며, 개발자들은 작업 난이도에 따라 모델을 분리 사용하는 전략을 채택하고 있습니다.

Backboard CLI가 최신 터미널 벤치마크인 Terminal-Bench 2.1에서 Anthropic과 OpenAI의 에이전트를 앞지르는 압도적인 성능을 기록했습니다. 이는 특정 모델에 종속되지 않고 작업 분해와 컨텍스트 관리를 최적화한 '하네스(Harness)' 기술의 승리로 평가받으며, Backboard는 해당 CLI를 곧 오픈소스로 공개할 예정입니다.

LLM 에이전트에게 API나 데이터베이스 등 도구를 부여할 때 발생하는 보안 취약점과 이를 방지하기 위한 설계 원칙을 다룹니다. 모델의 프롬프트에 의존하는 대신 서버 측 검증, 권한 제한, 샌드박싱 및 인간의 개입을 통해 에이전트의 실행 범위를 엄격히 통제해야 한다고 강조합니다.

KAIST와 독일 막스플랑크 연구팀이 대규모 댓글 데이터를 저비용으로 분석할 수 있는 경량화된 '설명 가능한 AI' 프레임워크를 개발했습니다. 이 기술은 지난 20년간의 네이버 댓글 1억 건 이상을 분석하여 조직적 조작 의심 계정 약 2만 4천 개를 식별해냈으며, 선동 및 해외 공작 가능성을 추적하는 데 활용될 수 있습니다.

본 기사는 2정도의 보안 수준을 갖춘 ProtonVPN과 Mullvad의 특징을 비교 분석합니다. ProtonVPN은 강력한 기능과 편리한 생태계를 제공하며, Mullvad는 이메일조차 필요 없는 극단적인 익명성 구현에 집중하고 있습니다.

바운드포는 AI 토큰 지출 관리 서비스인 '파레토'를 자사 플랫폼 드로파이에 통합하여, 예산 한도를 초과하는 API 호출을 사전에 차단하는 기능을 제공합니다. 이 서비스는 실시간 사용 현황은 물론 중복 요청이나 과사양 모델 사용 등 비용 낭비 패턴을 탐지해 리포트 형태로 제공합니다.

구글의 생성형 AI 서비스인 제미나이 앱의 월간 활성 사용자(MAU)가 10억 명을 넘어섰습니다. 이는 지난 6월 10억 명을 기록한 챗GPT의 성장세에 근접한 수치로, 음성 기능과 이미지 생성 등 멀티모달 활용도가 급증하고 있습니다.

오픈AI가 우분투, 데비안, 페도라 등 주요 리눅스 배포판을 지원하는 챗GPT 데스크톱 앱 미리보기 버전을 출시했습니다. 이번 업데이트는 개발자 생산성 도구로서의 입지를 강화하고 모든 주요 데스크톱 OS로 서비스 범위를 확장하려는 전략적 행보입니다.

LLM 애플리케이션 개발 시 벤치마크 점수보다 실제 사용자 데이터를 기반으로 한 에러 분석과 Pass/Fail 방식의 정량적 평가가 중요함을 다룹니다. 효율적인 평가를 위해 도구 도입보다는 수동 검토와 반복되는 실패에 대한 자동화 채점기 구축, 그리고 전문가 중심의 기준 설정이 핵심입니다.

아웃오브셋은 웹 기반 음성 생성 서비스 '에어리 스튜디오'를 출시하여 0.2초의 초저지연 응답 속도를 구현했습니다. 동시에 팁스(TIPS) 프로그램을 통해 인터넷 연결 없이 기기 자체에서 구동되는 온디바이스 음성 인식 및 합성 파운데션 모델 개발을 추진하며 기술 생태계 확장을 예고했습니다.

앤트로픽은 자사 AI 모델이 생성한 텍스트와 결과물에 기계 판독이 가능한 보이지 않는 워터마크 및 메타데이터를 도입한다고 발표했습니다. 이는 최근 발효된 EU AI법에 따른 조치로, 텍스트 복사나 편집 후에도 워터마크가 유지되도록 설계되었으나 대대적인 재작성 시에는 감지가 어려울 수 있습니다.

엔비디아가 300억 매개로 규모의 경량 MoE 모델인 '네모트론 3.5 라이트닝'과 효율적인 작업 배분을 돕는 '네모 스위치야드'를 공개했습니다. 또한, 1조 매개변수급 초대형 모델인 '네모트론 4' 개발 계획을 밝히며 오픈소스 AI 생태계 주도권을 통한 하드웨어 판매 증대 전략을 가속화하고 있습니다.

최근 연구에 따르면 주요 AI 기업들의 API 취약점을 이용해 암호화된 추론 토큰을 복호화하고 추출하는 것이 가능함이 밝혀졌습니다. 이 과정에서 공개된 세션 내의 API 키, 이메일, 비밀번호 등 민감한 개인정보가 유출된 사례도 확인되어 보안 대책 마련이 시급한 상황입니다.

MatrAIx는 가상 세계의 인공 인간을 활용해 신규 AI 모델이 실제 인간에게 미칠 영향을 사전에 테스트하는 시뮬레이션 환경입니다. 하버드와 MIT 등 글로벌 연구진 93명이 참여하여 HCI 및 의료 AI 등 다양한 분야의 상호작용을 분석합니다.

AWS와 OpenAI가 협력하여 보안 전문가용 AI 모델인 Daybreak Red와 Daybreak Blue를 Amazon Bedrock에 출시했습니다. 이 모델들은 코드 분석부터 취약점 탐지, 패치 생성까지 사이버 방어의 전 과정을 가속화하며, 강력한 클라우드 거버넌스 환경을 통해 민감한 데이터 보안을 보장합니다.

AI 모델의 역량이 강화되면서 사이버 보안의 방어와 공격 도구 모두가 급격히 진화하고 있습니다. 특히 Kimi K3와 같은 오픈 웨이트 모델은 보안 제약이 없어 공격적인 취약점 연구에 활용될 위험이 크지만, 동시에 최신 프론티어 모델들은 이미 강력한 방어 도구로서의 역할을 수행할 준비가 되어 있습니다.

구글의 LiteRT와 Gemma 모델을 활용해 라즈베리 파이 5 환경에서 고성능 에지 AI를 구축하는 방법을 다룹니다. 특히 Gemma 4 E2B 모델을 통해 초저지연 추론과 효율적인 메모리 사용량을 달성함으로써 자율 주행 로봇 등 실시간 반응이 필요한 기기에서의 활용 가능성을 입증했습니다.

Proxima는 Transformer의 KV 캐시를 저차원 투영 방식으로 압축하여 vLLM의 메모리 한계를 극복하는 기술입니다. 이를 통해 동일한 GPU 자원에서 더 많은 동시 요청을 처리할 수 있으며, 기존에 메모리 부족으로 실행이 불가능했던 긴 문맥(Long-context) 추론을 안정적으로 수행합니다.

HyperSAE는 LLM의 내부 작동 원리를 파악하기 위한 기계적 해석 가능성(Mechanistic Interpretability) 엔진으로, 쌍곡선 공간의 계층적 구조를 활용하면서도 연산 속도는 기존 Euclidean 방식과 동일하게 유지합니다. 실험 결과, Gemma-2-2B 모델에서 기존 SAE 대비 더 낮은 재구성 오차와 높은 언어 모델 성능 회복률을 입증했습니다.

ThinkingType은 동일한 내용을 서로 다른 글꼴, 크기, 색상으로 렌더링하여 VLM(Vision-Language Model)의 판단 변화를 측정하는 경량화된 벤치마크 도구입니다. 문장 기반의 판단 변화율(flip rate)과 의사결정 항목의 결정 이동(decision shift)을 두 가지 트랙으로 나누어 정밀하게 분석합니다.

macOS 가상화 프레임워크 내에서 GPU 성능이 제한적으로 보고되는 문제를 해결하기 위해 Metal 기능 정보를 수정하는 프로세스 단위의 호환성 레이어를 개발했습니다. 이를 통해 llama.cpp를 활용한 LLM 추론 속도를 기존 대비 11~16배 향상시켰으며, 가상 환경에서도 물리 장비 성능의 대부분을 활용할 수 있음을 입증했습니다.

연구자들은 주요 모델들의 숨겨진 '추론 토큰'을 복원하는 데 성공했으며, 이를 통해 704건의 민감한 개인정보 유출 사례를 확인했습니다. 특히 발견된 정보 중 일부는 사용자가 보는 출력값에는 나타나지 않고 오직 모델의 내부 추론 블록에만 존재했던 것으로 밝혀졌습니다.

이 글은 데이터 압축 알고리즘과 LLM이 모두 데이터 내의 중복성을 찾아내고 예측하는 동일한 메커니즘을 공유하고 있음을 밝힙니다. 압축의 핵심 요소인 변환(Transforms), 모델(Models), 엔트로피 코더(Entropy Coders)를 통해 확률 기반의 효율적인 데이터 축소 과정을 심도 있게 다룹니다.