의미 검색과 관계 추론의 결합: 신뢰 가능한 LLM을 위한 하이브리드 RAG
1. 서론 대규모 언어 모델(LLM)은 강력한 생성 능력을 갖추고 있지만, 실제 업무 환경이 요구하는 최신성, 근거 기반의 정확성, 응답의 일관성이라는 세 가지 조건을 단독으로는 충분히 만족시키기 어렵습니니다. 문서와 규정은 수시로 변경되며, 답변에는 명확한 출처와 시점이 요구되고, 각 조직마다 고유한 맥락과 … 더 보기
LLM
RAG의 진화: GraphRAG, Agentic RAG, CRAG의 등장
최근 저희 부서의 과거 입찰 문서를 벡터 데이터베이스(Vector Database)에 저장하고, 검색 증강 생성(RAG, Retrieval-Augmented Generation) 시스템을 구축했습니다. “신규 공고인 분석사업과 유사한 우리의 과거 사업은 무엇이 있나요?”라는 질문에 시스템은 자신 있게 답변했지만, 자세히확인해보니 완전히 다른 사업의 내용을 가져와 답변하는 경우가 있었습니다. … 더 보기
전화는 사라지지 않았다. 생성형 AI와 함께 진화하는 지능형 컨택센터의 전략적 전환
전화는 단순한 음성 통화 수단에서 시작하여 디지털 전환과 함께 IP와 AI로 진화하고 있습니다. 특히 AI 기술이 실제 비즈니스 투자로 이어지고 있는 대표적인 산업 중 하나가 바로 상담사를 중심으로 운영되는 컨택센터 분야입니다. 기존의 콜센터는 고객과의 단순한 전화 연결을 중심으로 했다면, 멀티 … 더 보기
2024년 가트너 10대 기술의 해석
가트너는 매년 가트너 상위 전략 기술 트렌드 보고서를 발표한다. 이 보고서는 기업과 IT 리더들이 주목해야 할 기술적 변화와 혁신을 예측하고 그에 따른 전략적 조언을 제공함으로써 중요한 참고 자료로 활용되고 있으며 기술 투자와 전략 수립에 중요한 기준점을 제시한다 이 보고서에 담긴 … 더 보기
생성형 AI의 금융산업 적용 사례 및 활용 방안
2023년 뜨겁게 화두가 되고 2024년에는 필수요소로 대두된 생성형 AI와 금융산업의 연관성을 살펴보고, 이를 적용한 국내외 현황을 기반으로 서비스의 방향성을 검토하여 향후 어떤 서비스 영역에 활용하는 것이 바람직한 방향인지를 살펴보고, 할루시네이션 등의 잘못된 정보에 기반한 금융 서비스의 고객 이익 보호 대원칙이 … 더 보기
생성형 AI 서비스 활용
2016년 알파고가 세계 바둑 챔피언을 이긴지 불과 10년도 지나지 안은 현재 인공지능(AI)은 우리의 일상의 많은 부분에 스며들었습니다. 챗봇, 스마트폰, 자율주행 차량의 기능 및 소비자 만족을 위해 사용하는 도구에 이르기까지 모든 것에 영향을 미치고 있습니다. 이러한 인공지능의 발전은 클라우드 컴퓨팅, 빅데이터, … 더 보기