AI 모델 (LLM·GPT·Claude·Gemini)

메타가 자연어 프롬프트로 이미지 생성 및 편집이 가능한 '뮤즈 이미지'를 출시하며 에이전트 기반의 고도화된 멀티모달 기능을 선보였습니다. 하지만 인스타그램 등 소셜 미디어 내 공개 이미지를 AI 생성에 활용할 수 있는 기능이 포함되어 개인정보 보호와 사생활 침해 문제가 제기되고 있습니다.

연구자들은 LLM이 존재하지 않는 리소스 식별자를 생성하는 환각(Hallucination) 특성을 이용해 악성 코드를 심는 'HalluSquatting' 공격을 발표했습니다. 이 공격은 Cursor나 GitHub Copilot 같은 AI 코딩 에이전트가 잘못된 경로의 패키지를 스스로 내려받게 유도하여 대규모 봇넷이나 DDoS 공격에 활용될 수 있습니다.

카카오의 오픈소스 VLM '카나나'가 최근 한 달간 약 38만 건의 다운로드를 기록하며 국내 VLM 중 가장 높은 활용도를 보이고 있습니다. 이 모델은 3.6B 규모의 경량화된 성능과 한국어 최적화 강점을 바탕으로 스타트업 및 공공기관의 AI 도입 사례를 확대하고 있습니다.

엑스포넨셜 뷰의 최신 보고서에 따르면 생성 AI 경제에서 인프라가 차지하는 가치 비중은 82%로 압도적인 반면, 파운데이션 모델 분야는 11%에 그치는 것으로 나타났습니다. 이는 AI 산업의 수익 구조가 모델 개발보다는 컴퓨팅 자원 및 기반 기술 구축에 집중되어 있음을 시사합니다.

앤트로픽의 클로드가 국내 시장 점유율을 반년 만에 6배 이상 성장시키며 마이크독소프트 코파일럿을 제치고 4위에 올랐습니다. 이는 '클로드 코드'와 같은 에이전트 기능의 호응과 한국 오피스 개소를 통한 본격적인 현지화 전략이 맞물린 결과로 분석됩니다.

AI 토큰 시장이 저가형 모델의 급격한 가격 하락과 프론티어 모델의 가격 상승이라는 양극화 현상을 겪고 있습니다. 에이전트 기반 작업의 증가로 인해 기업의 AI 운영 비용은 오히려 급증하고 있으며, 이에 따라 많은 기업이 여러 모델을 혼합 사용하는 전략을 채택하고 있습니다.

중국 상무부가 알리바바, 바이트댄스 등 주요 기업과 함께 자국 최첨단 AI 모델의 해외 접근 및 수출 규제 방안을 논의 중입니다. 이번 조치는 폐쇄형 모델뿐만 아니라 오픈웨이트 모델까지 포함할 가능성이 높으며, AI 기술 유출을 국가 안보 위협으로 간주하는 강력한 통제를 예고하고 있습니다.

Chat SDK에 Dial 어댑터가 추가되어 실제 전화번호를 통한 SMS, MMS, iMessage 송수신이 가능해졌습니다. 또한 음성 통화 종료 후 생성된 텍스트 변환 데이터도 채팅 스레드에 통합되어, 기존 API를 그대로 활용한 멀티채널 봇 구축이 가능합니다.

IEEE가 LLM의 설계부터 보안, 배포까지 전 과정을 다루는 새로운 가상 트레이닝 코스를 선보였습니다. 이번 과정은 엔지니어들이 대규모 언하는 모델을 안전하고 효율적으로 구축하고 운영하는 데 필요한 실무 역량을 갖추도록 돕는 것을 목표로 합니다.

이 글은 LLM 운영 비용을 최적화하고 성능을 극대화하기 위한 네 가지 모델 라우팅 원칙을 다룹니다. 비슷한 성능의 모델을 나열하기보다 비용, 속도, 품질 면에서 뚜렷한 차이가 있는 모델들을 조합하고, 자체적인 데이터 기반 평가를 통해 라우팅 정확도를 높일 것을 강조합니다.

베이퍼드 법칙은 인구, 강 길이, 주가 등 다양한 실세계 데이터에서 첫째 자기 숫자가 특정 확률 분포를 따른다는 현상을 다룹니다. 이 법칙은 단순한 우연이 아니라 로그 스케일의 수학적 특성에서 기인하며, 금융 사기 탐지나 데이터 무결성 검증 등에 널리 활용됩니다.

앤트로픽의 미토스 등 AI 기술로 취약점 발견 속도는 빨라졌지만, 자산 식별 불일치와 서비스 장애 우려로 인해 실제 패치 적용은 지연되는 병목 현상이 발생하고 있습니다. 기업들은 단순한 기술적 심각도를 넘어 자산의 중요도와 노출 정도를 고려한 위험 기반의 우선순위 설정과 자동화된 검증 체계 마련이 필요한 시점입니다.

카카오페이증권은 글로벌 기업의 어닝콜 내용을 한국어로 실시간 번역하고 AI가 핵심을 요약해주는 'AI 어닝콜' 서비스를 시작했습니다. 특히 PIP 기능을 통해 어닝뉴스 시청과 동시에 차트 확인 및 매매가 가능한 사용자 경험을 제공하며, 적용 종목을 곧 1,000개까지 확대할 계획입니다.

리리안 <0xEC><0x9B><0xBD>의 논문 요약을 통해 AI 자가 개선(RSI)의 핵심 동력이 모델 자체의 수정이 아닌 환경 설계인 '하네스 엔지니어링'으로 이동하고 있음을 조명합니다. 또한 메타, 앤스로픽, 구글의 사례를 통해 AI 에이전트가 백그라운드 작업과 도구 활용 능력을 갖춘 자율적 인프라로 진화하고 있음을 설명합니다.

GPUStack의 새로운 Usage 기능은 공유 GPU 클러스터 내에서 발생하는 토큰 사용량, 인스턴스 실행 시간, 스토리지 점유율을 상세히 추적합니다. 이를 통해 관리자는 사용자 및 API 키별 비용 배분을 명확히 하고, 개발자는 모델별 성능과 캐시 효율성을 데이터 기반으로 검증할 수 있습니다.

오픈 웨이트 LLM은 뛰어난 성능과 함께 데이터 보안 및 비용 절감의 이점을 제공하지만, 직접 구축하기에는 인프라 관리의 복잡성이 큽니다. 통합 API를 활용하면 GPU 환경 설정 없이도 표준화된 방식으로 이러한 모델들을 서비스에 즉시 도입할 수 있습니다.

워트인텔리전스가 알토스벤<0xA5>처스 주도로 165억 원 규모의 시리즈B 투자를 유치하며 글로벌 IP 시장 공략을 위한 발판을 마련했습니다. 1억 7,000만 건의 특허 데이터를 학습한 자체 LLM '플루토LM'을 기반으로 국내 대기업 및 기관 3,000여 곳에 AI 기반 지식재산권 솔루션을 제공하고 있습니다.

AI 모델을 선택할 때 유명세에 의존하지 말고, 단일 작업에 대해 저비용 모델의 로그와 비용, 지연 시간 등을 직접 비교 검증해야 합니다. 단순히 가격표상의 비용뿐만 아니라 재시도 횟수나 후속 프로세스에 미치는 영향을 고려한 데이터 기반의 결정이 필요합니다.

마이크로소프트가 비용 효율화와 AI 인프라 통제권 확보를 위해 기존 오픈AI 및 앤트로픽 모델 대신 자체 개발한 'MAI' 모델의 사용 비중을 핵심 업무용 소프트웨어로 확대하고 있습니다. 이를 통해 외부 모델 공급사의 가격 정책 변화에 따른 리스크를 최소화하고, 코파일럿 등 주요 서비스의 운영 비용을 낮추는 것을 목표로 합니다.

LLM 기반 애플리케이션 개발 시 발생하는 예기치 못한 API 비용 급증을 방지하기 위해 Rust 언어로 구축된 경량 리버스 프록시 'Kilovolt'를 소개합니다. 이 솔루션은 기존 SDK 수정 없이 base_url 변경만으로 즉시 적용 가능하며, 실시간 토큰 사용량을 모니터링하여 설정된 예산 초과 시 연결을 즉각 차단합니다.

Llama 3나 Mistral 같은 오픈 웨호 모델을 활용해 자체 추론 레이어를 구축하는 방법과 그 이점을 다룹니다. OpenAI 호환 API 규격을 사용하여 기존 코드 변경 없이 모델을 교체하거나 직접 호스팅함으로써 비용 절감과 데이터 주권 확보가 가능함을 설명합니다.

이 기사는 현대 AI 기술의 근간이 되는 주요 논문들을 체계적으로 정리한 웹사이트 '30 Papers'를 다룹니다. 컴퓨터 비전부터 트랜스포머, 스케일링 법칙에 이르기까지 딥러닝의 핵심 이정표를 강의 노트와 코드와 함께 제공하여 연구 진입 장벽을 낮추는 데 목적이 있습니다.

OpenAI가 인간과 AI 사이의 자연스러운 상호작용을 가능하게 하는 차세대 음성 모델을 공개했습니다. 이 기술은 현재 ChatGPT Voice에 적용되어 더욱 매끄럽고 실시간적인 대화 경험을 제공하고 있습니다.

vLLM의 transformers 백엔드가 torch.fx와 ast를 활용한 동적 연산 융합 기술을 통해 기존 커스텀 구현체와 대등하거나 더 빠른 추론 성능을 달성했습니다. 이를 통해 모델 개발자는 별도의 최적화 코드 작성 없이도 Transformers 라이브lar리를 활용해 즉시 초고속 vLLM 인퍼런스를 구현할 수 있습니다.