AI 모델 (LLM·GPT·Claude·Gemini)

오픈AI는 최근 블로그를 통해 연구원들이 AI 에이전트를 활용해 복잡한 실험과 코딩 작업을 수행하며, 하루 수천 달러의 추론 비용을 투입하고 있다고 밝혔습니다. 이는 작년 발표했던 ‘AI 연구 인턴’ 비전이 실제 연구 현장에서 구현되고 있음을 보여주는 중요한 지표입니다.

인포스틸러(Infostealer) 멀웨어를 통해 Claude의 로그인 세인 키를 탈취하여 사용자의 토큰을 무단 사용하는 해킹 사례가 보고되었습니다. Anthropic은 일부 사례를 확인하고 조치를 취했으나, 사용 내역에 대한 상세한 증빙이 어려워 사용자들의 불신과 서비스 이탈이 발생하고 있습니다.

트랜스포머 기반 LLM의 어텐션 가중치를 시각화하여 생성된 토큰이 이전의 어떤 토크으로부터 영향을 받았는지 보여주는 웹 기반 도구가 개발되었습니다. 이 도구는 모델이 특정 정보를 복사하거나 여러 정보를 결합하는 과정을 시각적으로 증명하며, 브라우저 환경에서 구현하기 위해 수정된 ONNX 모델을 사용합니다.

Qwen3.8 27B 모델을 다양한 비트로 양자화하여 성능을 비교한 결과, 4비트(Q4_K_M) 모델이 원본 BF16 모델과 대등한 벤치마크 성능을 유지하며 RTX 4기급 GPU에서도 원활히 작동함을 입증했습니다. 반면 1비트 수준의 극단적인 압축은 성능 붕괴를 초래하며, 모델의 추론 설정(effort)이 양자화 수준보다 성능에 더 큰 영향을 미칠 수 있음을 보여줍니다.

Deltafin 엔진을 활용하여 1.45TB에 달하는 Kimi K3 모델의 전문가 가중치를 4개의 SSD에서 스트리밍함으로써 M5 Max 맥북에서 구동하는 실험적 성과를 다룹니다. 모델의 품질 저하 없이 소비자용 하드웨어의 한계를 시험하며, SSD 대역폭을 활용한 효율적인 데이터 로딩 구조를 증명했습니다.

OpenAI가 1만 개의 에이전트를 활용해 밀레니엄 문제 중 하나인 나비에-스토크스 방정식의 해법을 찾았다고 발표했습니다. 하지만 하루 전 유사한 연구를 발표한 학계 연구자들은 OpenAI가 자신들의 Codex 작업 내용을 학습에 활용했을 가능성을 제기하며 강력히 반발하고 있습니다.

삼성전자 DS부문이 미스트랄 AI와 파트너십을 맺고 반도체 제조 및 설계에 특화된 자체 AI 모델을 공동 개발합니다. 미스트랄의 '미스트랄 라지' 모델을 활용해 데이터 분석, 결함 예측, 공정 최적화 등 반도체 업무 전반의 생산성과 정밀도를 높이는 것이 핵심 목표입니다.

CauterRule은 AI 에이전트의 반복된 실패를 영구적인 규칙으로 변환하는 오픈소스 도구입니다. 최근 테스트 중 3B 모델이 데이터 구조의 특징인 'step_1'을 패턴으로 오인하여 성능 지표를 왜곡하는 지름길 현상이 발견되었으며, 이를 해결하기 위해 정규표현식을 활용한 단계적 필터링 시스템을 도입하여 평가의 신뢰성을 확보했습니다.

Claude, Codex, Ollama 등 서로 다른 과금 체계를 가진 여러 AI 모델의 토큰 사용량, 비용, 지연 시간을 Grafana 대시보드로 통합하는 방법을 다룹니다. OpenTelemetry, Pushgateway 등 다양한 기술을 활용해 파편화된 AI 운영 데이터를 단일 지표로 시각화하는 구체적인 아키텍처와 PromQL 작성 시 주의사항을 설명합니다.

OpenAI는 사용자가 직접 그린 낙서를 상세한 이미지로 변환해주는 'Sketch' 기능과 새로운 이미지 생성 엔진인 'ChatGPT Images 2.5'를 발표했습니다. 이번 업데이트를 통해 사용자는 텍스트 프롬프트와 스케치를 결합하여 정밀한 편집이 가능해졌으며, 생성 속도는 이전 버전 대비 최대 50% 빨라졌습니다.

OpenAI가 차세대 모델 Astra-next와 약 1만 개의 에이전트를 활용해 나비에-스토크스 밀레니엄 문제의 증명을 제시했다고 발표했습니다. 이번 성과는 대규모 멀티 에이전트 강화학습(MARL)과 병렬 테스트 시간 연산(test-time compute)을 통해 AI가 고도의 수학적 추론을 수행할 수 있음을 보여줍니다.

이 기사는 AI가 생성한 마이그레이션 가이드가 검증되지 않은 의무나 약속을 포함하여 신뢰를 잃는 문제를 다룹니다. 이를 해결하기 위해 문서의 영역을 '관찰된 사실'과 '인간의 판단'으로 분리하고, CI 단계에서 AI의 월권 행위를 차단하는 자동화된 검증 체계를 제시합니다.

Pathway의 BDH 아키텍처는 텍스트를 생성하는 체인 오브 쏘트(CoT) 방식 대신 잠재 공간 내에서 추론을 수행하는 뇌 모방형 구조를 채택했습니다. 이를 통해 트랜스포머 모델의 고질적인 문제인 컨텍스트 윈도우 제한과 막대한 연산 비용을 줄이고, 효율적인 지식 업데이트와 추론이 가능해집니다.

Anthropic의 Max 플랜 구독자들이 광고된 5배~2적 20배의 사용량 제한이 실제로는 5시간 단위의 세션 및 주간 제한에 묶여 있어 기만적이라고 주장하며 집단 소송을 제기했습니다. 이번 소송은 AI 기업들이 운영 비용 압박을 해결하기 위해 사용자에게 불리한 약관을 숨기려 한다는 의혹을 다루고 있습니다.

이 글은 MLflow와 Amazon SageMaker AI Model Registry를 동기화하여 여러 AWS 계정에 걸쳐 모델을 관리하는 두 가지 토폴로지(Hub-and-spoke 및 Hybrid)를 설명합니다. 개발 계정과 거버넌스 계정을 분리하여 보안과 규제 준수를 강화하면서도, 자동화된 모델 등록 및 CI/CD를 통한 효율적인 배급 워크플로우를 구현하는 방법을 다룹니다.

Amazon SageMaker AI가 MLflow와 SageMaker AI Model Registry 간의 모델 동기화 기능을 대폭 강화했습니다. 이제 학습 메트릭, 평가 결과, 리니지 정보가 함께 전달되며, MLflow 워크플로우 내에서 모델의 생명주기 단계(Staging to Production)를 자동으로 관리할 수 있습니다.

본 기사는 Amazon SageMaker AI에서 G7, G5, G6 GPU 인스턴스를 활용해 30B 규모의 MoE 모델 추론 성능을 비교 분석합니다. NVIDIA Blackwell 기반의 G7 인스턴스가 더 적은 GPU 메모리와 수량으로도 기존 세대 대비 우수한 지연 시간과 비용 대비 성능을 제공함을 보여줍니다.

디디는 기존의 불투명한 제3자 QA 솔루션을 대체하기 위해 Amazon Bedrock 기반의 자체 AI QA 시스템을 구축했습니다. 이 시스템은 의도 검증, 컴플라이언스 평가, VOC 분석의 세 가지 파이프라인을 통해 서비스 품질 관리의 투명성과 운영 효율성을 획기적으로 높였습니다.

프랑스의 미스트랄 AI가 삼성전자가 참여한 30억 유로 규모의 시리즈 D 펀딩을 성공적으로 마무리하며 기업 가치가 210억 유로를 넘어섰습니다. 미스트랄은 오픈 웨이트 모델과 인프라를 결합해 국가 및 기업이 데이터 주권을 유지하며 AI를 활용할 수 있는 '소버rypt AI' 구축을 목표로 하고 있습니다.

Anthropic은 DeepSeek, Moonshot, MiniMax 등 3개 연구소가 24,000개의 가짜 계정을 동원해 Claude의 능력을 탈취하려는 대규모 증류 공격을 수행했다고 밝혔습니다. 이들은 추론, 코딩 등 핵심 기능을 추출하기 위해 1,600만 건 이상의 대화를 생성했으며, 이는 안전 장치가 제거된 위험한 모델의 확산으로 이어질 수 있습니다.

Anthropic은 Claude Code 등을 활용한 대규모 데이터 갈취 및 북한의 사기 행위 등 AI 오용 사례를 분석한 위협 인텔리전스 보고서를 발표했습니다. 특히 AI가 공격의 보조 도구를 넘어 스스로 전략적 판단을 내리는 에이전트 역할을 수행하며 사이버 범죄의 진입 장벽을 낮추고 있다고 경고했습니다.

EmbedFlow는 새로운 임베딩 모델 도입 시 기존 인덱스를 활용해 후보군을 추출하고, 백그라운드에서 타겟 벡터를 점진적으로 생성하여 서비스 중단 없이 모델을 교체할 수 있게 돕는 도구입니다. 마이그레이션의 안정성을 분석하는 기능과 캐싱 메커니즘을 통해 검색 품질 저하를 최소화하며 효율적인 인덱스 전환을 지원합니다.

UAE 기반의 Falcons AI가 개발한 NSFW(Not Safe for Work) 이미지 분류 모델이 최근 28일 동안 Hugging Face에서 5,080만 회 이상의 다운로드를 기록하며 전 세계 6위 모델로 등극했습니다. 이 모델은 생성형 AI 확산에 따른 콘텐츠 관리 수요를 정확히 공략하며, 최근 화제가 된 Deepseek의 다운로드 수를 크게 상회하는 성과를 거두었습니다.

TradingAgents는 펀더멘털, 센티먼트, 기술적 분석 등 전문화된 LLM 에이전트들이 상호작용하며 금융 거래 전략을 수립하는 멀티 에이전트 프레임워크입니다. 다양한 LLM 모델과 금융 데이터 소스를 통합하여 실제 트레이딩 팀과 유사한 의시결정 프로세스를 연구 목적으로 제공합니다.