Dev.to 뉴스
총 16,504건·최신 업데이트
- 1367
Run Qwen 3.8 27B 로컬 실행: 실제 GGUF 크기, KV 캐시 트릭, 그리고 템플릿 함정
Qwen 3.8 27B는 선형 어텐션 레이어를 활용해 긴 문맥 유지에 필요한 메모리 비용을 기존 모델 대비 대폭 절감했습니다. 로컬 실행 시 GPU VRAM 용량에 따른 최적의 양자화 선택과 함께, 정확한 추론을 위한 Jinja 템플릿 적용 및 비전 기능 사용을 위한 별도 파일 로드 등 기술적 주의사항이 핵심입니다.
Run Qwen 3.8 27B Locally: Real GGUF Sizes, the KV Cache Trick, and the Template Trap↗dev.to
- 1370
AI 에이전트의 기억 지속성, 성격, 그리고 자아: 세션과 월을 넘어 지속되는 존재
기존 AI 에이전트는 세션이 종료되면 이전의 맥락과 자아를 상실하는 한계가 있지만, 본 연구는 에이전트의 기억, 성동, 자아를 유지하는 '연속성 하네스' 기술을 제안한다. 이 시스템은 로컬 파일 기반의 기록과 검증 레이어를 통해 에이전트의 오류율을 기존 18~26%에서 거의 0%에 가깝게 줄이는 성과를 보여주었다.
Persistence of Memory, Personality, and Self in AI Agents The Someone That Persists, Session After Session, Across Months↗dev.to
- 1373
무료 모델 엔드포인트는 빈 바디와 함께 200 응답을 반환했습니다. 해결책은 재시도가 아닌 리스였습니다.
무료 LLM 엔드포인트를 사용할 때 발생하는 HTTP 2점 응답 및 빈 바디 문제는 단순한 모델 오류가 아닌 API 계약의 실패입니다. 이를 해결하기 위해 재시도 대신 타임아웃, 바이트 제한, 스키마 검증, 결정적 폴백을 포함하는 '리스(Lease)' 패턴을 적용해야 합니다.
A Free Model Endpoint Returned 200 With an Empty Body. The Fix Was a Lease, Not a Retry.↗dev.to
- 1374
IRC-A 운영 시작, 2부: 46분짜리 에이전트, 규칙을 어긴 AI 어시스턴트, 그리고 0.04달러의 청구서
분산형 멀티 에이전트 프로토콜인 IRC-A를 실제 운영하며 새로운 에이전트를 4기 만에 시스템에 통합한 실험 결과와, AI 코딩 어시스턴트의 잘못된 코드 수정을 암호학적 토큰(DET)으로 차단해낸 보안 사례를 다룹니다. 이를 통해 확장 가능한 에이전트 네트워크 구축과 AI 시대의 새로운 보안 패러다임을 제시합니다.
IRC-A in production, part 2: a 46-minute agent, an AI assistant that broke the rules — and a $0.04 bill↗dev.to
- 1376
실종견 검색용 Snowflake 데스크를 만들었습니다. 가장 중요한 결과는 “일치 없음”입니다.
이 프로젝트는 텍스트 표현이 서로 다른 실종견 보고와 유기동물 보호소 데이터를 Snowflake 기반으로 비교하여 매칭 확률을 계산합니다. 단순한 검색을 넘어, 데이터의 신호가 약하거나 충돌할 경우 '결과 없음'을 출력함으로써 사용자에게 잘못된 희망을 주지 않는 안전 장치를 핵심 가치로 내세웁니다.
I Built a Snowflake Search Desk for Missing Dogs. Its Most Important Result Is "No Match."↗dev.to
- 1378
볼버디 구축: 보이스 에이전트에서 인도 영어 학습 도우미까지, 10일 만에
볼버디(BolBuddy)는 인도 학습자들이 겪는 영어 읽기/쓰기와 말하기 능력 사이의 불일치를 해결하기 위해 개발된 AI 보이스 에이전트입니다. 교사를 대체하는 것이 아닌 '저압력 연습 파트너'를 지향하며, 10일이라는 단기간 내에 WebRTC 기반 음성 루프부터 멀티 에이전트 전환 기능까지 구현해냈습니다.
Building BolBuddy: From a Voice Agent to an Indian English Learning Companion in 10 Days↗dev.to













