법규정 AI 상담서비스 구축을 위한 지식그래프 및 GraphRAG 설계

공공SW사업 법규정의 관계 구조화부터 Local Search와 DRIFT Search 활용 전략까지 최근 생성형 AI를 활용한 검색 증강 생성(Retrieval-Augmented Generation, RAG)이 공공행정, 법률, 기업 업무지원 등으로 빠르게 확대되고 있다. 그러나 실제 업무에 RAG를 적용하려면 관련 문서를 검색해 답변을 생성하는 것 이상의 검토가 … 더 보기

OA-RAG: 온톨로지 reasoner를 도구로 쓰는 Agentic RAG

검색 증강 생성(RAG, Retrieval-Augmented Generation)을 붙이면 대규모 언어 모델(LLM, Large Language Model)의 환각(Hallucination)은 줄어든다. 그런데 검색기가 관련 문단을 제대로 가져와도 문단과 문단을 잇는 논리는 여전히 LLM 몫이고, 답변만 보면 문서에서 나온 내용인지 모델이 원래 알던 내용인지 가려지지 않는다. 이번에 읽은 … 더 보기

RAG 시스템의 재순위화(Reranking): 구조와 발전부터 리랭커 선정까지

1. 들어가며 많은 기업이 사내 규정, 매뉴얼, 보고서를 바탕으로 질문에 답하는 시스템을 만들고 있다. 대부분 검색 증강 생성(RAG, Retrieval-Augmented Generation) 구조로, 대규모 언어 모델(LLM, Large Language Model)이 답하기 전에 관련 문서를 찾아 함께 넣어 준다. 그런데 “문서에 있는 내용인데 엉뚱하게 … 더 보기

RAG 검색 알고리즘을 바꾸지 않고 검색 품질을 개선한 방법_AIOps

질의 중심(Query-Centric) 데이터 설계를 통한 Q&A 기반 VOC 챗봇의 검색 실패 개선 사례 본문의 질문·답변과 데이터 구조 예시는 원리를 설명하기 위한 가상 사례입니다. 아키텍처 그림은 기술적 역할을 단순화한 개념도입니다. 1. 정답이 있는데도 검색되지 않는 문제 검색 증강 생성(RAG, Retrieval-Augmented Generation) … 더 보기

LLM Agent란 무엇이고, 언제 필요한가? RAG와 비교하고 직접 구현해보기

들어가며 LLM Agent는 도구가 필요한 질문에서만 확실히 RAG를 이겼고, 규정만 묻는 질문에서는 RAG로 충분했다. 30개 질문으로 직접 비교해 얻은 결과다. 사내 규정 챗봇을 만들다 보면 “이제 RAG 말고 Agent를 써야 하나?”라는 질문이 나온다. 이 글은 그 질문에 감이 아니라 숫자로 … 더 보기

의도 분류에서 근거 생성까지, 기업형 챗봇 대화 설계의 전환

서론 지난 몇 년간 제 업무의 대부분은 챗봇 플랫폼 안에서 이루어졌습니다. 사용자의 발화를 어떤 의도로 분류할지 정하고, 학습 발화를 등록하고, 필요한 값을 슬롯으로 받은 뒤, 조건에 따라 다음 노드를 연결했습니다. 문구 하나를 고치는 일도 단순한 텍스트 수정으로 끝나지 않았습니다. 앞뒤 … 더 보기

의미 검색과 관계 추론의 결합: 신뢰 가능한 LLM을 위한 하이브리드 RAG

1. 서론 대규모 언어 모델(LLM)은 강력한 생성 능력을 갖추고 있지만, 실제 업무 환경이 요구하는 최신성, 근거 기반의 정확성, 응답의 일관성이라는 세 가지 조건을 단독으로는 충분히 만족시키기 어렵습니니다. 문서와 규정은 수시로 변경되며, 답변에는 명확한 출처와 시점이 요구되고, 각 조직마다 고유한 맥락과 … 더 보기

CRAG

RAG의 진화: GraphRAG, Agentic RAG, CRAG의 등장

최근 저희 부서의 과거 입찰 문서를 벡터 데이터베이스(Vector Database)에 저장하고, 검색 증강 생성(RAG, Retrieval-Augmented Generation) 시스템을 구축했습니다. “신규 공고인 분석사업과 유사한 우리의 과거 사업은 무엇이 있나요?”라는 질문에 시스템은 자신 있게 답변했지만, 자세히확인해보니 완전히 다른 사업의 내용을 가져와 답변하는 경우가 있었습니다. … 더 보기

생성형 인공지능 활용을 위한 GenAI Application 아키텍처 유형 및 구현 전략

1. GenAI Application의 트렌드   최근 몇 년 사이, 생성형 인공지능(Generative AI)은 기술 분야 전반에서 가장 주목받는 혁신의 중심에 서 있습니다. OpenAI의 ChatGPT가 대중적인 인기를 끌면서, 대규모 언어 모델(Large Language Model, LLM)을 중심으로 하는 인공지능 활용이 급속히 확산되었으며, 이는 단순한 … 더 보기