RAG 뉴스

이 글은 LLM의 학습 데이터 한계를 극복하기 위한 RAG 기술의 3단계 프로세스인 임베딩, 검색, 증강을 상세히 다룹니다. 특히 별도의 외부 모델 없이도 구현 가능한 코드를 통해, 검색 결과의 노이즈를 제어하기 위한 임계값(minScore) 설정의 중요성을 강조합니다.

이 기사는 단순한 LLM API 활용을 넘어, 실제 프로덕션 환경에서 작동하는 AI 애플리케이션을 만들기 위해 필요한 API 설계, 입력 검증, 에러 처리 및 비용 관리의 중요성을 강조합니다. Python의 FastAPI와 Pydantic을 사용하여 기초적인 챗봇 API를 구현하고, 향후 RAG와 에이전틱 AI로 확장하는 단계적 접근법을 설명합니다.

LLM 서비스의 성능 오류를 해결할 때 모델 변경보다 실패의 근본 원인을 파악하는 것이 중요합니다. 지식 업데이트가 필요한 경우 RAG를, 특정 작업의 행동 양식을 교정해야 하는 경우에는 파인튜닝을 적용하는 체계적인 진단 프로세스를 제안합니다.

AI 검색 엔진은 문서를 작은 청크 단위로 분절하여 정보를 추출하므로, 문맥 의존적인 긴 글은 검색에서 제외될 위험이 큽니다. 이를 해결하기 위해 각 섹션이 주어, 답변, 근거를 스스로 갖춘 독립적 구조를 가져야 한다는 '애토믹 앤서 룰'을 제안합니다.

RAG 파이프라인의 성능은 입력되는 데이터의 순도에 좌우되지만, 기존의 데이터센터 IP 기반 스크래핑은 웹 방화벽에 의해 차단되거나 변조된 데이터를 받을 위험이 큽니다. 이 글은 Crawl4AI를 통해 HTML을 구조화된 마크다운으로 변환하고, 모바일 IP 로테이션을 통해 신뢰할 수 있는 데이터를 확보하는 기술적 방법론을 다룹니다.

기존 RAG 방식은 권한 정보를 복제하여 사용하기 때문에 데이터 동기화 지연이나 권한 불일치라는 보안 취약점이 있었습니다. AWS는 1단계 사전 필터링과 2단계 실시간 API 검증을 결합한 하이브리드 방식을 통해 권한 정보의 최신성과 정확성을 동시에 확보했습니다.

이 글은 AWS의 경량 의사결정 모델인 Strands Decider 2B를 로컬 환경에 설치하고 활용하는 방법을 상세히 설명합니다. 기존 LLM이 모든 역할을 수행하던 방식에서 벗어나, 라우팅과 분류는 경량 모델이 담당하고 생성은 LLM이 담당하는 효율적인 AI 에이전트 아키텍처를 제안합니다.

기존 RAG 방식은 검색된 일부 데이터에만 의존하여 집계나 비교 질문에 매우 취약하지만, 본 기술은 그래프 쿼리를 통해 전체 데이터 범위를 파악하는 '구조적 경계'를 도입했습니다. 이를 통해 답변의 정확도를 99%까지 끌어올리면서도 토큰 사용량과 지연 시간을 획기적으로 줄였습니다.

기존 PDF 텍스트 추출 방식은 표, 수식, 레이아웃 등 중요한 문맥 정보를 유실시켜 RAG 파이프라인의 성능을 떨어뜨리는 한계가 있습니다. 이를 해결하기 위해 개발된 Papero는 문서 구조를 유지한 채 다양한 포맷으로 변환하며, 메타데이터가 포함된 구조화된 청킹(chunking) 기능을 제공합니다.

RAG 시스템의 실패 원인이 모델이 아닌 불완전한 데이터 인제스션(Ingestion) 파이프라인에 있음을 지적하며, n8n을 이용해 중복 비용을 줄이고 데이터 정합성을 유지하는 아키텍처를 설명합니다. SHA-256 해시를 통한 변경 감지와 구조적 청킹 기술을 통해 신뢰할 수 있는 지식 베이스를 구축하는 구체적인 로직을 다룹니다.

RAG 시스템의 지식베이스와 에이전트 메모리가 덮어씌워지며 발생하는 데이터 추적 불가능 문제를 해결하기 위해, LambdaDB는 Git 방식의 브랜치, 태그, 에일리어스 기능을 도입했습니다. S3 기반의 불변 파일 구조를 활용해 저장 공간 효율성을 높이면서도 과거 특정 시점의 데이터를 재현할 수 있는 'Time Travel' 기능을 제공합니다.

Xtriever는 Rust로 작성된 하이브리드 검색 엔진으로, 텍스트 기반의 BM25와 벡터 기반의 Dense 검색을 결합하여 온디바이스에서 오프라인으로 작동합니다. 별도의 서버 없이도 스마트폰이나 노트북에서 대규모 문서를 빠르고 정확하게 검색할 수 있는 구조를 갖추고 있습니다.

AI 제품이 단순 대화를 넘어 비즈니스 지식을 이해하는 단계로 진화함에 따라, 외부 데이터를 활용해 답변의 정확도를 높이는 RAG 아키텍처의 중요성이 커지고 있습니다. 성공적인 RAG 구현을 위해서는 데이터 파이프라인 구축부터 검색 품질 최적화, 비용 및 지연 시간 관리까지 아우르는 전문적인 개발 역량이 필수적입니다.

AetherRed-Excalibur는 LLM, AI 에이전트, RAG 시스템을 대상으로 프롬프트 인젝션, 데이터 유출, RAG 오염 등 22가지 공격 카테고리를 테스트하는 오픈소스 보안 평가 도구입니다. 이 프레임워크는 MITRE ATLAS 매핑과 LLM 기반 평가를 통해 AI 시스템의 보안 회복탄력성을 점수화하고 상세한 보안 보고서를 생성합니다.

RouteMind는 단순 임베딩 기반 검색을 넘어 사람이 정의한 지식 영역과 관계를 바탕으로 에이전트가 경로를 탐색하는 Agentic RAG 프로젝트입니다. 이 프로젝트는 인간의 개입이 RAG의 정확도 향상과 유지 비용 사이에서 어떤 최적의 균형점을 가질 수 있는지 실험하고 있습니다.

AI 기술의 발전이 개발자의 작업 방식에 미치는 영향을 분석하며, 코드 읽기, RAG, MCP와 같은 핵심 기술의 변화를 탐구합니다. 개발자 경험(DX)의 관점에서 기술적 전환점을 짚어봅니다.

이 프로젝트는 대학 핸드북 PDF에서 텍스트와 테이블을 추출하여 FAISS 인덱스에 저장하고, Gemini 2.5 Flash를 통해 답변을 생성하는 RAG 시스템을 구축했습니다. 특히 유사도 임계값과 시스템 프롬프트를 활용해 답변 범위를 제한함으로써 할루시네이션 방지 메커니즘을 구현한 것이 특징입니다.

전통적인 RAG는 텍스트를 조각내어 벡터화하기 때문에 긴 문서나 구조화된 데이터 처리 시 문맥이 끊기는 한계가 있습니다. 이에 대한 대안인 벡터리스 RAG는 문서를 트리 구조로 파악하고 LLM이 직접 탐색하게 함으로써 검색의 정확도와 근거 추적 능력을 혁신합니다.

기존 RAG의 한계인 정보 충돌 문제를 해결하기 위해 PostgreSQL 내에 엔티티와 관계를 그래프 형태로 저장하는 post-graph-rag가 공개되었습니다. 이 기술은 별도의 그래프 엔진 없이 기존 데이터베이스 환경에서 시간 경과에 따른 사실 관계의 업데이트를 지원하며, 벤치마크 결과 기존 Graph RAG 모델들보다 월등한 성능을 입증했습니다.