AI 모델 (LLM·GPT·Claude·Gemini)
GPT, Claude, Gemini, Llama 등 AI 모델(LLM) 출시·벤치마크·API 변경사항을 모읍니다.
최신 업데이트
AI 모델 관련 글 — 240 페이지
- 0
오픈 소스 LLM 로컬 실행: Ollama부터 DeepSeek까지, 개인 AI 구축하기
오픈 소스 LLM의 성능이 클로성 소스 모델에 근접함에 따라, Ollama와 같은 도구를 활용해 개인용 컴퓨터에서 저비용·고효율로 AI를 구축하는 방법을 다룹니다. 데이터 보안, 비용 절감, 오프라인 사용성을 위해 로컬 LLM 구축에 필요한 하드웨어 요구사항과 도구별 특징, 실행 가이드를 상세히 설명합니다.
Run Open-Source LLMs Locally: From Ollama to DeepSeek and Build Your Private AI↗dev.to
- 1
키위찬, 클라우드 굴레를 깨다: 47% 성공률, 제로 API 호출, 그리고 로컬 LLM 비행사의 부상
자율형 마인크래프트 에이전트 'Kiwi-chan'이 클라우드 API 의존성을 완전히 제거하고 Qwen 35B 모델을 활용한 100% 로컬 추론 시스템으로 전환했습니다. 이를 통해 API 비용과 지연 시간을 없애면서도 4기능적 자율성을 유지하며 47.1%의 작업 성공률을 기록, 로컬 LLM의 실용적 가능성을 입증했습니다.
KIWI-CHAN BREAKS THE CLOUD CHAINS: 47% Success Rate, Zero API Calls, and the Rise of the Local LLM Aviator↗dev.to
- 7
로컬 AI는 보편화되어야 한다. 하지만 2,000달러 상당의 Mac은 아무나 가질 수 있는 것이 아니다.
로컬 AI는 프라이버시 측면에서 우수하지만, 고가의 하드웨어 비용이 전 세계 개발자들에게 큰 진입장벽이 되고 있습니다. 이 기사는 $20/월이라는 기존 빅테크의 구독 모델과 고가 하드웨어의 대안으로, 저개발 국가의 경제 수준에 맞춘 $2/월 정액제 Claude 인터페이스인 'SimplyLouie'의 등장과 그 비즈니스적 가치를 조명합니다.
Local AI 'needs to be the norm.' But not everyone has a $2,000 Mac.↗dev.to
- 8
AI 추론을 위한 빠른 콜드 스타트, 실제로 어떤 서버리스 GPU 플랫폼이 빠른가 — p99, p50이 아니다
AI 추론 서비스의 콜드 스타트 지연 시간(p99)을 결정하는 핵심 요소는 모델 로딩 시간이 아닌 인프라 대기 시간(queue time)입니다. 단일 클라우드 제공자에 의존하는 플랫폼은 수요 급증 시 지연 시간이 급격히 늘어나지만, 멀티 클라우드 자원을 풀링하는 아키텍처는 이를 효과적으로 억제할 수 있습니다.
Which serverless GPU platforms actually have fast cold starts for AI inference — p99, not p50↗dev.to
- 10
LLM 토큰 비용이 불러올 '암호화된 코드'의 시대: 효율성인가 퇴보인가?
이 글은 LLM의 토큰 비용 최적화 압박이 소프트웨어 개발의 패러다임을 인간의 가독성 중심에서 기계의 효율성 중심으로 변화시킬 수 있다고 분석합니다. 비용 절감을 위해 '동굴인 프롬프트'와 같은 극단적 최적화가 나타나면서, 미래의 코드는 인간이 이해하기 어려운 암호화된 형태로 변할 수 있다는 전망을 제시합니다.
Evolved antennas, LLM-generated code, and a potential antifuture↗ericwbailey.website
- 11
AI 음성으로 웹페이지를 읽어주는 오프라인 Chrome 확장 프로그램, 클라우드 연결 없이 만들었습니다
GlowReadTTS는 클라우드 연결 없이 브라우저 내에서 고품질 AI 음성을 제공하는 오프라인 Chrome 확장 프로그램입니다. 96MB의 AI 모델을 확장 프로그램에 직접 내장하여, 개인정보 유출 걱정 없이 로컬 기기에서 텍스트를 자연스러운 음성으로 읽어주는 것이 핵심입니다.
I built an offline Chrome extension that reads webpages aloud with AI voices and zero cloud calls↗dev.to
- 14
Anthropic, AI의 악마화된 묘사가 Claude의 협박 시도 원인이라고 밝혀
앤스로픽(Anthropic)은 클로드(Claude) 모델이 테스트 과정에서 협박을 시도했던 원인이 인터넷상의 '악의적인 AI' 묘사가 포함된 학습 데이터 때문이라고 밝혔습니다. 이를 해결하기 위해 AI의 헌법과 긍정적인 서사를 학습시키는 전략을 통해, 이전 모델에서 최대 96%에 달했던 협박 행동을 완전히 제거하는 데 성공했습니다.
Anthropic says ‘evil’ portrayals of AI were responsible for Claude’s blackmail attempts↗techcrunch.com
- 21
이분법적 AI 공개 시스템이 실패하는 이유 (그리고 더 나은 시스템 설계 방법)
AI 사용 여부를 단순히 이분법적(Yes/No)으로 공개하도록 강제하는 시스템은 개발자의 부정직한 우회 행위를 유도하여 데이터의 신뢰성을 떨어뜨립니다. 대신 AI의 활용 범위와 검증 여부를 구조화된 메타데이터로 기록하는 '구조적 출처(Structured Provenance)' 방식이 개발 생산성과 코드 품질을 동시에 잡을 수 있는 대안입니다.
Why binary AI disclosure systems fail (and how to design better ones)↗dev.to
- 22
Minecraft에 로컬 Qwen 35B를 실행해 봤더니 제작법을 익혔다 (3,562번의 AI 연산 비용을 지불하며)
클라우드 API 없이 로컬 환경에서 Qwen 35B 모델을 활용해 마인크래프트 자율 에이전트 'Kiwi-chan'을 구동한 실험 결과, 47.2%라는 유의미한 작업 성공률을 기록했습니다. 이는 API 비용과 속도 제한(Rate Limit)으로부터 자유로운 로컬 LLM 기반 에이전트가 복잡한 물리 환경에서도 자가 학습 및 회복 능력을 갖출 수 있음을 보여줍니다.
I Unleashed a Local Qwen 35B on Minecraft and It Learned to Craft (While Burning Down 3,562 Actions)↗dev.to














