AI 모델 (LLM·GPT·Claude·Gemini)
GPT, Claude, Gemini, Llama 등 AI 모델(LLM) 출시·벤치마크·API 변경사항을 모읍니다.
최신 업데이트
AI 모델 관련 글 — 112 페이지
- 0
오픈 소스 LLM으로 PDF 요약하기: API 없이, 데이터 유출 걱정 없이 로컬에서
이 기사는 개인정보 보호와 비용 절감을 위해 클라우드 API 대신 로컬 LLM을 사용하여 PDF를 요약하는 구체적인 파이프라인 구축 방법을 설명합니다. Ollama를 활용한 모델 실행부터 텍스트 추출, 청킹(Chunking) 및 맵-리듀스(Map-Reduce) 패턴 적용까지의 전 과정을 다루며 로컬 실행의 장단점을 명확히 비교합니다.
How to Summarize PDFs Locally with Open-Source LLMs (No API, No Data Leaving Your Machine)↗dev.to - 3
NVIDIA NeMo Automodel과 🤗Diffusers로 비디오 및 이미지 모델을 대규모로 파인튜닝하세요
NVIDIA NeMo Automodel과 Hugging Face Diffusers의 통합을 통해 FLUX, Wan 2.1 등 최신 확산 모델을 대규모 인프라에서 손쉽게 파인튜닝할 수 있게 되었습니다. 이 도구는 체크포인트 변환 없이 기존 생태계와 완호하며, 단일 GPU부터 수백 개의 GPU까지 코드 수정 없이 확장 가능한 학습 환경을 지원합니다.
Fine-tune video and image models at scale with NVIDIA NeMo Automodel and 🤗 Diffusers↗huggingface.co
- 4
API 요금 때문에 사이드 프로젝트 예산이 줄어들어서 Claude/ChatGPT API 리레이를 직접 만들었어요
사이드 프로젝트의 급격한 API 비용 증가 문제를 해결하기 위해 모델 라우팅, 컨텍스트 관리, 프롬프트 캐싱 등 4가지 최적화 기법을 적용하여 비용을 절반으로 줄인 사례를 소개합니다. 더 나아가 공식 API 대비 약 70% 가격으로 이용 가능한 API 릴레이 서비스 'Kaatta'의 개발 배경과 작동 원리를 다룹니다.
I built a Claude / ChatGPT API relay because my API bill was eating my side-project budget↗indiehackers.com
- 18
corpus-scrub 0.1.0: LLM 학습 전 훈련 데이터셋에서 PII 및 비밀 정보 탐지 및 삭제
corpus-scrub은 LLM 학습 전 데이터셋에서 이메일, 전화번호, API 키 등 민감 정보를 식별하고 마스킹하거나 삭제하는 CLI 도구입니다. 외부 서비스로 데이터를 전송하지 않는 로컬 우선 방식을 채택하여 보안성을 극대화했으며, Gitleaks의 규칙을 활용해 정교한 비밀 정보 탐지를 지원합니다.
corpus-scrub 0.1.0: detecta y redacta PII y secretos en corpus de entrenamiento antes del entrenamiento LLM↗dev.to


















![[AI는 지금] "비싼 미국 AI 왜 써"…비용 폭탄에 美·유럽 기업, 中 AI로 갈아탔다](https://startupschool.cc/og/ai는-지금-비싼-미국-ai-왜-써비용-폭탄에-美유럽-기업-中-ai로-갈아탔다-51f672.jpg)