AI 모델 (LLM·GPT·Claude·Gemini)

LLM의 잘못된 출력이 후속 프로세스로 전달되는 것을 방지하기 위해, 실행 시점에 출력을 소스 데이터와 대조하여 검증하는 'EGA' 런타임 제어 레이어가 출시되었습니다. 기존의 사후 평가 방식에서 벗어나 실시간으로 부적절한 답변을 차단하거나 플래그를 지정하는 것이 핵심입니다.

1억 개의 대규모 문서를 대상으로 DuckDB, PostgreSQL, Meilisearch의 검색 성능을 비교한 벤치마크 결과입니다. 인덱스 빌드 속도, 쿼리 지연 시간, 메모리 및 디스크 사용량 측면에서 각 엔진의 명확한 트레이드오프를 제시하며, 워크로드에 따른 최적의 엔진 선택 가이드를 제공합니다.

Keel은 사용자의 데이터 주권을 보장하는 로컬 우선(Local-first) AI 어시스턴트 데스크톱 앱입니다. 사용자가 직접 Claude, GPT, Ollama 등의 모델을 연결하여 사용할 수 있으며, 모든 대화 내용은 사용자의 로컬 디스크에 마크다운 파일로 저장되어 데이터 보안과 소유권을 사용자에게 돌려줍니다.

핀테크 인프라(BaaS, 결제, 오픈 파이낸스)의 불투명한 가격 구조를 해결하기 위해 출시된 AI 기반 벤치마킹 도구 'Benchmark'를 소개합니다. 사용자가 제안서를 업로드하면 AI가 실제 시장 데이터와 비교하여 가격의 적정성을 즉각적으로 판별해 줍니다.

브라질의 결제 인프라 기업 쿰부카(Cumbuca)가 브라질 중앙은행의 복잡한 금융 규제를 전문적으로 학습한 AI 챗봇 '레굴루스(Regulus)'를 출시했습니다. 이 서비스는 핀테크 기업들이 막대한 비용이 드는 법률 자문 대신, 정확한 출처가 포함된 규제 답변을 실시간으로 얻을 수 있도록 돕는 레그테크(RegTech) 솔루션입니다.

Efektiva는 기업의 고객 및 공급업체 검증을 자동화하는 B2B 플랫폼으로, 문서 검토, 신용 조사, AML(자금세탁방지) 스크리닝 등을 제공합니다. 리스크 관리 및 운영 팀의 온보딩 프로세스를 효율화하고 신뢰도를 높이는 데 중점을 둡니다.

오리안(Oriane)은 소셜 미디어 영상의 시각적 요소, 오디오, 자막을 분석하여 구조화된 데이터로 변환하는 '마케팅 및 AI를 위한 인지 레이어(Perception Layer)'입니다. 수백만 개의 영상을 분석해 니치 크리에이터 발굴, 콘텐츠 트렌드 포착, 바이럴 후크 식별 등을 지원하는 마케팅 자동화 솔루션입니다.

Pickle은 서로 다른 AI 애플리케이션 간에 사용자의 대화, 행동, 맥락을 공유할 수 있는 '개인용 메모리 레이어'를 제공하는 AI 인프라 도구입니다. 사용자의 데이터를 포터블(portable)하게 만들어 AI 비서가 개인화된 응답을 제공하도록 돕는 동시에, 데이터 주권을 사용자에게 부여하는 것을 목표로 합니다.

The Grid는 LLM 추론 비용을 절감하기 위해 실시간 입찰 기반의 스팟 마켓 API를 제공하는 새로운 AI 인프라 플랫폼입니다. 공급자들이 실시간으로 요청 처리를 위해 입찰하는 구조를 통해, 개발자는 기존 코드의 최소한의 수정만으로 훨씬 저렴한 가격에 모델 출력을 구매할 수 있습니다.

Oasis Learning AI는 기업의 비즈니스 업데이트와 규제 변화를 실시간으로 학습 콘텐츠로 변천시키는 AI 기반 솔루션입니다. L&D(학습 및 개발) 팀이 최신 지식을 자동으로 업데이트하고 맞춤형 학습 워크플로우를 협업할 수 있도록 지원합니다.

M2 MacBook Air라는 제한된 하드웨어 환경에서 단 2시간 만에 학습된 디퓨전 언어 모델(DLM)의 구현 사례를 소개합니다. 기존 GPT와 같은 자기회귀(Autoregressive) 방식의 순차적 디코딩 한계를 넘어, 병렬 처리를 통한 추론 속도 혁신의 가능성을 보여줍니다.

MoE(Miستure-of-Experts) 모델의 효율성을 극대화하기 위해, 전문가(Expert)의 용량을 인지하여 토큰 손실을 최소화하는 Rust 기반의 'Phase Router' 알고리즘이 공개되었습니다. 기존 해시 라우팅 대비 토큰 드롭을 10~19% 줄여 연산 자원의 낭비를 방지하고 모델의 품질을 높이는 것이 핵심입니다.

인간 창의성 벤치마크(HCB)는 생성형 AI 평가 시 전문가들의 의견 일치(수렴)와 불일치(발산)를 구분하여, AI의 '취향'과 '조절 가능성'을 측정하는 새로운 프레임워크를 제시합니다. 기존 벤치마크가 전문가의 이견을 오류로 취급하여 AI를 평균적인 결과물로 수렴시키는 '모드 붕괴(Mode Collapse)' 문제를 지적하며, 진정한 창의적 도구는 기술적 정확도를 넘어 다양한 미적 방향성을 제어할 수 있어야 한다고 강조합니다.

IBM이 출시한 Granite 4.1 모델은 8B 파라미터의 단순한 구조만으로 기존 32B MoE(Mixture of Experts) 모델의 성능을 압도하며 효율성의 새로운 기준을 제시했습니다. 이는 모델의 크기를 키우는 대신 15조 개의 토큰에 대한 정교한 데이터 품질 관리와 5단계에 걸친 전략적 학습 파이프라인에 집중한 결과입니다.

로컬 환경에서 LLM을 실행하기 위한 세 가지 핵심 도구인 Ollama, LM Studio, Jan의 설계 철학과 성능을 비교 분석합니다. 개발자 중심의 Ollama, 연구자용 LM Studio, 오픈소스 지향적 Jan의 차이점을 통해 사용자의 목적에 맞는 최적의 도구 선택 가이드를 제공합니다.

일론 머스크는 법정 증언을 통해 xAI의 Grok 모델 성능을 개선하기 위해 OpenAI의 모델을 활용한 '모델 증기(Model Distillation)' 기술을 사용했음을 일부 인정했습니다. 이는 대형 모델의 지식을 소형 모델로 전이하는 기술적 관행과 이를 둘러싼 지식재산권 침해 논란 사이의 법적 경계가 핵심 쟁점입니다.

일론 머스크가 xAI의 Grok 훈련 과정에서 OpenAI의 모델을 활용한 '증류(Distillation)' 기술을 사용했음을 법정에서 시인했습니다. 이는 AI 업계 내에서 상위 모델의 출력을 활용해 효율적인 모델을 만드는 기술이 공공연한 관행임을 시사하며, 빅테크 간의 기술적 경계가 모호해지고 있음을 보여줍니다.

Fere AI는 암호화폐 및 폴리마켓의 시장 신호를 포착하여 자율적으로 거래를 수행하는 AI 에이전트 서비스를 출시했습니다. 이 플랫폼은 단순 조사를 넘어 거래 설정, 경로 최적화, 지갑 실행 및 24/7 모니터링까지 포함된 엔드투엔드(End-to-End) 트레이딩 워크플로우를 제공합니다.

앤스로픽(Anthropic)이 AI의 거대한 사회적 외부 효과(Externalities)에 대응하기 위해 '장기적 혜택 신탁(LTBT)'이라는 새로운 거버넌스 구조를 도입합니다. 이 독립 기구는 이사회 일부를 선임하거나 해임할 권한을 가지며, 기업의 상업적 성공과 인류의 장기적 안전 사이의 균형을 맞추는 것을 목표로 합니다.

독일 밴드 크라프트베르크의 2초 분량 샘플 사용을 둘러싼 25년간의 저작권 분쟁이 유럽 사법재판소(ECJ)의 '파스티슈(pastiche)' 예외 인정 판결로 종지부를 찍을 전망입니다. 이번 판결은 음악 샘플링과 창작물의 재사용에 대한 유럽 저작권법의 새로운 기준을 제시합니다.

미국 국립과학아카데미(NAS)에 선정된 Scott Aaronson 교수가 2029년경 결함 허용 양자 컴퓨터가 기존 암호 체계를 무력화할 수 있다는 강력한 경고를 전달하며, 양자 기술 패권 경쟁의 전략적·윤리적 쟁점을 다룹니다.

LLM 파인튜닝 과정에서 특정 저자의 문체를 학습시키려 할 때, 의도치 않게 저작권이 있는 도서의 내용이 그대로 출력되는 '문구 암기(Verbatim Recall)' 현상이 발생한다는 연구 결과가 발표되었습니다. 이는 모델의 정렬(Alignment)을 위한 학습이 저작권 침해라는 새로운 법적 리스크를 유발할 수 있음을 경고합니다.

DeepSeek가 1.6T 파라미터 규모의 차세대 모델인 DeepSeek V4를 공개했습니다. 하이브리드 어텐션 아키텍처와 FP4 양자화 기술을 통해 100만 토큰의 초장문 컨텍스트를 지원하면서도 추론 비용과 VRAM 사용량을 획기적으로 낮춘 것이 핵심입니다.

AI 플랫폼의 데이터 보유 정책 변경으로 인해 사용자의 소중한 작업 기록(코드 리뷰, 전략 등)이 삭제될 위험이 있습니다. 따라서 AI와의 대화 내용을 플랫폼에만 의존하지 말고, 즉시 로컬 환경으로 내보내어 데이터 소유권을 확보하는 전략이 필요합니다.