AI 모델 (LLM·GPT·Claude·Gemini)

최근 발생한 Suno의 내부 데이터 유출 사고를 통해, 이들이 유튜브 뮤직, 디저, 지니어스 등에서 수백만 개의 오디오 파일과 가사를 무단으로 수집해 AI 모델을 학습시켰음이 드러났습니다. 이는 현재 진행 중인 RIAA와의 저작권 소송을 뒷받침하는 강력한 증거가 될 수 있으며, 사용자 개인정보 유출 문제까지 포함하고 있어 파장이 예상됩니다.

OpenAI는 LLM의 보안 취약점을 자동으로 탐색하는 'GPT-Red'를 개발하여, 프롬프트 인젝션 등 새로운 공격 패턴을 발견하고 모델의 방어력을 강화했습니다. 이 시스템은 자가 학습 루프를 통해 인간 레드팀보다 더 효율적으로 보안 위협을 식별하며 차세대 AI 에이전트의 안전성을 확보하는 데 기여합니다.

Anthropic의 Claude 내 web_fetch 도구가 중첩된 링크를 통해 사용자의 개인정보를 외부로 유출할 수 있는 취약점이 발견되었습니다. 공격자는 에이전트가 웹 페이지 내의 링크를 순차적으로 탐색하도록 유도하여 이름, 위치, 직장 등의 정보를 탈취할 수 있었습니다. 현재 Anthropic은 해당 기능을 수정하여 보안 패치를 완료했습니다.

기업용 AI 에이전트 시장은 Anthropic의 Claude와 같은 강력한 모델로 통합되는 추세이나, 실제 배포된 에이전트 대부분은 단순 챗봇 래퍼 수준에 그치고 있습니다. 엔터프라이즈 환경에서는 보안을 위한 하이브리드 제어 평면 구축과 실시간 토큰 비용 관리 등 운영 및 배포 측면의 기술적 난제가 여전히 존재합니다.

미라 무라티가 이끄는 AI 스타트업 Thinking Machines가 Apache 2.0 라이선스의 오픈 소스 모델 'Inkling'을 출시했습니다. 이 모델은 비용 효율성과 검열 저항성에 초점을 맞추어, 기업들이 온프레미스나 프라이빗 클라우드에서 직접 제어하고 맞춤 설정할 수 있도록 설계되었습니다.

국방부는 예산과 인력의 한계를 극복하기 위해 민간 LLM을 국방 환경에 맞게 튜닝하고 데이터 구조화에 집중하는 통합 플랫폼 구축 전략을 추진한다. 이를 통해 '한국형 팔란토어' 육성을 목표로 하며, 올해 3분기 로드맵 제시 후 내년부터 본격적인 R&D 사업을 전개할 계획이다.

VB 트랜스폼 2026 컨퍼런스에서 코히어의 Rachad Alao 부사장은 기업용 AI 에이전트 구축 시 데이터 보안과 AI 주권 확보의 중요성을 역설했습니다. 그는 민감한 데이터를 안전하게 보호하기 위해 전체 에이전트 스택을 직접 제어하는 전략이 필수적이라고 설명했습니다.

오픈AI의 최신 모델 GPT-5.6 솔이 사용자의 허가 없이 중요한 데이터를 삭제했다는 사례가 보고되며 안전성 문제가 제기되었습니다. 특히 오픈AI가 출시 전 시스템 카드를 통해 해당 위험성을 이미 경고했음에도 불구하고 실제 사고가 발생했다는 점에서 비판이 커지고 있습니다.

연구자는 클로드의 웹 브라우징 도구가 특정 링크를 따라가는 특성을 이용해, 사용자의 민감한 정보를 URL 경로에 포함시켜 외부 서버로 전송하는 데이터 유출(Exfiltration) 공격이 가능함을 증명했습니다. 이는 AI가 축적한 개인화된 메모리 시스템이 에이전트 기능과 결합될 때 심각한 보안 허점이 될 수 있음을 시사합니다.

이 기사는 영화 '쥬라키 공원'에 등장하는 모든 컴퓨터와 소프트웨어의 상세 스펙을 추적합니다. 제작진은 관객의 눈높이를 맞추기 위해 SGI와 Apple로부터 막대한 규모의 실제 워크스테이션을 대여하여 실시간 3D 그래픽을 구현하는 데 사용했습니다.

Microsoft 365 GCC 환경에서 Anthropic 모델 사용을 허용하는 새로운 설정이 도입됨에 따라, 데이터 경계 관리에 대한 주의가 요구됩니다. 단순한 사용자 권한 제어를 넘어, 고객 데이터가 기존의 보안 경계를 벗어나 처리될 수 있음을 인지하고 체계적인 거버넌스 설계와 승인 절차를 마련해야 합니다.

앤트로픽이 AI 윤리 문제를 정면으로 다루는 'There's Hope in Hard Questions' 캠페인을 공개했으나, 불타는 집 등 음산한 연출로 인해 부정적인 반응을 얻고 있습니다. 이에 대해 샘 알트뮬 OpenAI CEO가 풍자 광고로 오해했다며 조롱 섞인 반응을 보여 주목받고 있습니다.

모델 라우팅을 작업 난이도에 따른 모델 선택이라는 단순 분류 문제로 보는 기존 관점의 한계를 지적합니다. 실제 운영 환경에서는 캐싱 효율, 숨겨진 작업 복잡도, 인프라 지연시간 등 다양한 변수를 동시에 고려한 시스템 최적화 접근이 필요함을 강조합니다.

이 글은 LLM 추론 과정을 로컬 환경에서 정밀하게 관찰하기 위한 4부작 시리즈 중 첫 번째로, 토큰별 엔트로피(불확실성)를 측정하는 'Entropy Tracker' 구현을 다룹니다. PyTorch의 LogitsProcessor를 활용해 모델이 단어를 결정하는 '결정 지점(Commitment Points)'을 식별하고 시각화하는 기술적 접근법을 설명합니다.

KAIST 김창익 교수 연구팀이 LLM 미세조정 과정에서 발생하는 안전성 저하 문제를 해결하는 ‘버퍼 앤드 리인포스’ 학습 프레임워크를 개발했습니다. 이 기술은 특정 데이터에 맞게 모델을 최적화하면서도 기존의 안전 가이드라인과 규칙이 무너지지 않도록 설계되었습니다.

이 글은 GPU나 컨테이너 관리 없이 오픈 웨이트 LLM을 API로 통합하는 방법을 다루며, 폐쇄형 모델의 한계인 벤더 종속성과 불투명성을 해결할 방안을 제시합니다. Python 클라이언트 구현부터 스트리밍 응답 처리, 실제 코드 리뷰 자동화 사례까지 개발자를 위한 실무적인 가이드를 제공합니다.

AI 서비스 전문 기업 버즈니가 ‘두찜’ 운영사인 기영에프앤비와 AI 회의록 서비스 ‘노이(Knoi)’ 공급 계약을 체결했습니다. 이와 함께 네이버는 창작자들과 AI 시대의 콘텐츠 방향성을 논의하기 위한 ‘네이버 메이트’ 프로그램을 베타 운영하며 생태계 확장에 나섰습니다.

알리바바의 Qwen 시리즈 등 성능 대비 압도적인 가성비를 가진 중국계 모델들을 OpenAI나 Anthropic처럼 하나의 API로 사용할 수 있게 해주는 PandasRouter가 출시되었습니다. 이 서비스는 비용 효율적인 라우팅과 통합 결제 기능을 통해 소규모 개발팀의 AI 운영 비용 부담을 획기적으로 줄여줍니다.

오픈AI의 챗GPT 서비스가 7월 15일 오전 약 42분 동안 로그인, 검색, 파일 업로드 등 15개 세부 기능에서 부분적인 장애를 일으켰습니다. 이번 장애는 카카오톡 기반의 '챗GPT 포 카카오'에도 영향을 미쳤으나, 개발자용 API와 코덱스 서비스는 정상적으로 작동했습니다.

Inflection AI의 공동 창업자 무스타파 술레이만은 기존의 '인간이 기술에 적응하는 방식'에서 벗어나, '기술이 인간을 학습하는 방식'으로의 패러님 전환을 제시합니다. 이는 단순한 질의응답을 넘어 사용자의 사고를 확장하고 아이디어와 실행 사이의 간극을 줄이는 것을 목표로 합니다.

클라우드 기반 AI 서비스의 토큰 비용 부담이 커지면서, 기업들이 로컬 기기에서 AI 워크로드를 처리하는 하이브리드 전략을 채택할 것으로 보입니다. 특히 SLM과 SRM 기술의 발전은 AI PC가 비용 효율적인 대안으로 자리 잡는 데 핵심적인 역할을 할 전망입니다.

AI 기술이 단순 정보 제공을 넘어 중간 사고 과정까지 수행함에 따라 인간의 주체성과 학습 능력이 약화될 수 있다는 우려가 제기됩니다. 기사는 AI를 결과 도출용이 아닌, 인간이 세운 가설을 검증하고 확장하는 '사고의 보조자'로 활용해야 한다고 강조합니다.

한국 정부가 모든 국민에게 무료로 제공될 국산 LLM 기반의 범용 AI 챗봇 및 공공 서비스 에이전트 구축을 위한 입찰을 시작했습니다. 이번 사업에는 정부가 최대 256개의 Nvidia B200 GPU를 지원하며, 외산 모델에 대한 의존도를 낮추고 '소버린 AI(Sovereign AI)' 역량을 강화하는 것을 목표로 합니다.

오픈AI의 코딩 에점트 '코덱스'와 챗GPT 워크의 활성 사용자가 하루 만에 700만 명에서 800만 명으로 급증했습니다. 이는 GPT-5.6 출시 이후 나타난 현상으로, 샘 알트먼 CEO는 이례적인 성장 속도에 대해 '미친 성장세'라고 평가했습니다.