의도 분류에서 근거 생성까지, 기업형 챗봇 대화 설계의 전환
서론 지난 몇 년간 제 업무의 대부분은 챗봇 플랫폼 안에서 이루어졌습니다. 사용자의 발화를 어떤 의도로 분류할지 정하고, 학습 발화를 등록하고, 필요한 값을 슬롯으로 받은 뒤, 조건에 따라 다음 노드를 연결했습니다. 문구 하나를 고치는 일도 단순한 텍스트 수정으로 끝나지 않았습니다. 앞뒤 … 더 보기
RAG
의미 검색과 관계 추론의 결합: 신뢰 가능한 LLM을 위한 하이브리드 RAG
1. 서론 대규모 언어 모델(LLM)은 강력한 생성 능력을 갖추고 있지만, 실제 업무 환경이 요구하는 최신성, 근거 기반의 정확성, 응답의 일관성이라는 세 가지 조건을 단독으로는 충분히 만족시키기 어렵습니니다. 문서와 규정은 수시로 변경되며, 답변에는 명확한 출처와 시점이 요구되고, 각 조직마다 고유한 맥락과 … 더 보기
RAG의 진화: GraphRAG, Agentic RAG, CRAG의 등장
최근 저희 부서의 과거 입찰 문서를 벡터 데이터베이스(Vector Database)에 저장하고, 검색 증강 생성(RAG, Retrieval-Augmented Generation) 시스템을 구축했습니다. “신규 공고인 분석사업과 유사한 우리의 과거 사업은 무엇이 있나요?”라는 질문에 시스템은 자신 있게 답변했지만, 자세히확인해보니 완전히 다른 사업의 내용을 가져와 답변하는 경우가 있었습니다. … 더 보기
생성형 인공지능 활용을 위한 GenAI Application 아키텍처 유형 및 구현 전략
1. GenAI Application의 트렌드 최근 몇 년 사이, 생성형 인공지능(Generative AI)은 기술 분야 전반에서 가장 주목받는 혁신의 중심에 서 있습니다. OpenAI의 ChatGPT가 대중적인 인기를 끌면서, 대규모 언어 모델(Large Language Model, LLM)을 중심으로 하는 인공지능 활용이 급속히 확산되었으며, 이는 단순한 … 더 보기