AI 모델 (LLM·GPT·Claude·Gemini)

앤트로픽이 차세대 AI 모델의 성능 검증을 위해 기존 서비스 환경에서 섀도우 디플로이먼트 및 A/B 테스트를 진행 중인 정황이 포착되었습니다. 이번 테스트 중인 미공개 모델은 현재 최상위 모델인 오퍼스(Opus)를 뛰어넘는 성능을 보여주는 것으로 알려져 개발자들 사이에서 큰 화제가 되고 있습니다.

프롬프트의 공손함이 AI의 답변 정확도에 미치는 영향에 대해 서로 상반된 연구 결과가 존재하며, 현재로서는 이를 정확도 향상을 위한 유효한 수단으로 단정하기 어렵습니다. 특히 기존 연구들은 실험 데이터의 규모가 작아 일반화하기에 한계가 있다는 지적이 제기되었습니다.

AI 스타트업 타입세의 공개 모델 '제브'가 기존 연구를 표절했다는 의혹이 제기되었습니다. 콘브이 이노베이션스의 설립자는 자신이 1년 전 설계한 아키텍처와 유사하다며 논문과 모델 가중치를 근거로 제시했습니다.

Off Grid AI(OGAD)는 고성능 데스크톱의 AI 연산 능력을 브라우저 인터페이스를 통해 노트북 등 다른 기기로 확장해주는 기술입니다. Tailscale과 같은 프라이적 네트워크를 활용하면 외부에서도 집 컴퓨터의 모델을 마치 로컬 모델처럼 사용할 수 있어, 하드웨어 제약 없이 강력한 AI 환경을 구축할 수 있습니다.

이 글은 상용 AI 게이트웨이의 비용 부담과 기능적 한계를 극복하기 위해 Python, Redis, LiteLLM을 활용한 자체 멀티 테넌트 LLM 게이트웨이 구축 방법을 제시합니다. 테넌트별 하드 리미트 설정, 프롬프트 정화, 멀티 프로바이더 폴백 및 OpenTelemetry 기반의 비용 시각화 아키텍처를 상세히 다룹니다.

오픈AI는 'GPT-6.1 솔'의 기본 컨텍스트 길이를 기존 27만 2천 토큰에서 50만 토큰으로 약 80% 상향 조정했습니다. 이번 업데이트는 긴 작업 과정에서 발생하는 정보 손실을 줄이고 복잡한 작업의 세부 사항을 더 오래 유지하기 위한 조치입니다.

마이크로소프트가 코드를 활용해 영상의 장면 구성과 객체 움직임을 직접 설계하는 '코드 비디오 모델'을 발표했습니다. 이는 기존 모델이 내부적으로 처리하던 물리적 움직임을 코드로 정밀하게 제어함으로써 영상 제작의 정확도를 높이는 혁신적인 접근법입니다.

vLLM 시맨틱 라우터 팀이 이미지와 텍스트, 구조화된 데이터를 동시에 처리할 수 있는 멀티모달 의사결정 모델 '디시전 3.0'을 오픈소스로 출시했습니다. 이는 기존 텍스트 중심의 의사결정 모델이 다양한 형태의 입력을 직접 이해하고 판단하는 단계로 진화하고 있음을 보여줍니다.

멘탯은 AI 학습용 도서 데이터를 검색부터 계약까지 지원하는 기업용 서비스 '멘탯 디스커버리'를 출시했습니다. 이 서비스는 데이터 규모를 권수가 아닌 토큰 단위로 산정하여 AI 기업이 비용과 데이터 양을 정확히 예측할 수 있도록 돕습니다.

오픈AI가 높은 비용 문제로 인해 직접 운영하던 소라(Sora) 모델을 외부 스타트업에 라이선스 형태로 제공하는 방안을 검토 중입니다. 이는 기술 접근권을 제공하는 대신 지분을 확보하는 방식으로, 전직 소라 연구 책임자 등이 설립한 신규 스타트업과 협상이 진행되고 있습니다.

메타는 복잡한 코딩과 전문 지식 처리에 특화된 프런티어급 모델 '뮤즈 원더'와 '뮤즈 원더 풀'을 출시했습니다. 이 모델들은 액티브 메모리와 액티브 포커스 기능을 통해 사용자의 맥락을 장기적으로 유지하며 자율적으로 문제를 해결하는 에이전트 기능을 제공합니다.

마이크로소rypt가 AI 추론 최적화에 특화된 3세대 AI 칩 ‘애저 마이아 300’을 공개하고 2027년부터 대규모 배포 계획을 발표했습니다. 이 칩은 데이터 이동 효율을 극대화하여 기존 GPU 대비 월등한 전력 대비 토큰 처리량을 목표로 하며, AI 에이전트 및 대화형 서비스의 성능을 혁신할 것으로 기대됩니다.

AI 전문 비드래프트가 신경망처리장치(NPU)의 추론 성능을 극대화하고 기존에 불가능하다고 여겨졌던 학습까지 구현하는 가속 소프트웨어 계층 ‘VKORE’를 13일 공개했다. 엔비디아 GPU의 CUDA처럼 NPU 환경에서 연산 효율과 활용 범위를 넓히는 구조로, 반도체 칩 교체 없이 소프트웨어 적용만으로 성능을 끌어냈다는 설명이다.실제로 트랜스포머 모델의 LoRA 학습 테스트에서 엔비디아 B200 GPU 1장이 1시간 걸리는 작업을 서버 CPU는 약 320시간 소요했으며, NPU를 기본 방식으로 구동했을 때는 CPU보다도 오랜 시간이

카카오는 카카오톡 위에 인공지능 비서(AI 에이전트)를 띄우는 '카나나 스페이스'를 중심으로 '통합 에이전틱 AI' 인터페이스 전략을 추진한다. 음성 대화 등 멀티모달 기능을 강화하고, 이용자가 직접 만든 에이전트까지 카카오톡에 연결해 에이전틱 AI 생태계를 확대한다. 자체 파운데이션 모델과 메모리 기술까지 결합해 카카오톡을 대화·실행·결제가 이어지는 AI 에이전트 플랫폼으로 전환할 계획이다. 정신아 카카오 대표는 13일 경기 용인시 카카오 A

[지디넷코리아]LG CNS가 국내 기업 최초로 앤트로픽 기업용 인공지능(AI) 파트너 프로그램 상위 등급을 확보했다. 전문 인력과 실제 구축 사례를 바탕으로 기업의 클로드 도입부터 시스템 구축·운영까지 지원하는 사업 역량을 인정받았다는 평이다.13일 관련 업계에 따르면 LG CNS는 앤트로픽의 '클로드 파트너 네트워크(CPN)'에서 '프리퍼드(Preferred)' 등급을 획득했다고 밝혔다.CPN은 기업의 클로드 도입과 구축을 지원하는 시스템 통합(SI) 기업, AI 기업, 컨설팅사 등을 대상으로 운영하는 공식 파트너 프로그램이다. 파트너의 기술 전문성과 고객 프로젝트 수행 경험 등을 평가해 등급을 부여한다.LG CNS에 따르면 전체 CPN 파트너사는 4만곳 이상으로 이 가운데 프리퍼드 등급을 획득한 기업은 50곳 미만이다. CPN 등급은 레지스터드(Registered), 써티파이드(Certified), 셀렉트(Select), 프리퍼드(Preferred), 글로벌 프리미어(Global

[지디넷코리아]카카오가 인공지능(AI)이 이용자의 취향과 과거 행동을 기억하면서도 허락받지 않은 정보 활용이나 주문은 하지 못하도록 하는 기술을 개발하고 있다. 이용자가 서비스마다 같은 정보를 반복해서 설명하지 않아도 AI가 필요한 맥락을 이해하고, 허용된 범위 안에서 실제 업무까지 수행하도록 하겠다는 구상이다.송재하 카카오 최고기술책임자(CTO)는 13일 경기도 용인시 카카오 AI 캠퍼스에서 열린 개발자 콘퍼런스 '이프카카오(if(kakao)26)'에서 AI 메모리 프로젝트와 이를 안전하게 운영하기 위한 플랫폼 전략을 소개했다.카카오가 준비 중인 메모리 프로젝트는 카카오톡과 '카나나 스페이스', '칸바스' 등 여러 서비스에서 이용자 정보를 연결해 활용하기 위한 기술이다.예를 들어 이용자가 "지난번에 주문했던 거 다시 주문해줘"라고 요청하면 AI가 과거 구매 내역을 기억하고 이를 바탕으로 주문까지 진행하는 방식이다.그러나 이 기술은 단순한 구매 기록만으로 이용자의 취향을 판단하지는

오픈 웨이트 모델을 활용하면 ChatGPT와 Claude에 의존하지 않고도 강력한 LLM을 사용할 수 있으며, 실행 환경과 추론 제공업체를 선택할 수 있음 학습 사용 거부는 대화의 비공개성을 보장하지 않음. OpenAI와 Anthropic은 대화 데이터에 접근할 수 있으며, 장기적...

Boole-1.7B는 가중치를 1비트로 압축하여 모델 크기를 247MB로 줄인 초경량 언어 모델입니다. 기존 BF16 모델 대비 성능은 약 86% 수준을 유지하면서도 저장 용량은 획기적으로 감소시켜, 지능 밀도(Intelligence Density) 측면에서 압도적인 효율성을 입증했습니다.

작가는 사용하지 않는 킨들을 사진 슬라이드쇼 기기로 변환하기 위해 GPT-6 Astra와 같은 고성능 AI 에이전트를 활용했습니다. 초기에는 보안 가드레일과 기술적 한계에 부딪혔으나, AI가 직접 로그를 확인하고 화면을 캡처하는 '피드백 루프'를 구축함으로써 자율적인 소프트웨어 개발 및 디버깅에 성공했습니다.

Janas-LLM은 모델 가중치를 디스크에 두고 필요한 데이터만 SSD에서 읽어오는 기술로, 32GB RAM 환경에서 48GB 크기의 80B 모델을 구동하는 데 성공했습니다. 기존 llama.cpp 대비 대규모 모델에서 압도적인 추론 속도를 보여주며 하드웨어 한계 극복 가능성을 제시합니다.

안드레이 카르파시는 전 세계 인구의 약 75%가 LLM을 단순 검색이나 챗봇 수준으로 인식하는 반면, 극소수의 전문가는 수천 개의 에이전트가 협업하는 고도화된 시스템을 활용하고 있다고 분석했습니다. 이러한 활용 능력의 격차는 기술 발전과 함께 더욱 가파른 깔때기 구조로 벌어질 전망입니다.

AI가 생성한 분석이나 결과물이 업데이트될 때, 이전 버전을 추적할 수 없으면 의사결정의 근거가 사라지는 문제가 발생합니다. 이를 해결하기 위해 결과물(Result ID)과 개별 수정본(Revision ID)을 분리하고, SHA256 해시 등을 통해 데이터의 무결성을 증명하는 아티팩트 관리 체계가 필요합니다.

Apishare는 Agent Chat 2.0 업데이트를 통해 재생성, 편집, 가상 파일 시스템(VFS), 브라우저 내 Git 클론 등 ChatGPT급의 사용자 경험을 무료 LLM 플랫폼에 도입했습니다. 이를 통해 개발자들은 별도의 코딩 없이도 다양한 모델의 응답을 비교하고, 파일 및 코드베이스를 직접 다루며 프롬프트 엔지니어링 실험을 수행할 수 있습니다.

무료 모델 라우트는 절대로 유료 도구 권한을 상속받아서는 안 됩니다. 이 재구성은 누락된 티어 필드가 금지된 쉘 호출을 인증했음을 보여줍니다. 영구적인 수정 사항은 모든 권한을 모델 클래스, 서버 클래스 및 작업 ID에 바인딩합니다. 이 보고서의 범위 명명된 고객으로부터의 프로덕션 로그는 이 시간선을 뒷받침하지 않습니다. 이 시퀀스는 AI 도구 호출을 게이트하는 검토자를 위한 실험실 설정입니다. 아래의 모든 타임스탬프는 장애 발생 시간(outage clock)이 아닌 실험실 시간(fixture time)으로 간주합니다. 무엇이 고장났는지 오케스트레이터는 t