전문가 칼럼

에이전트가 모든 문의를 환불로 보낼 때 — 요청 유형을 제어하는 여섯 가지 구조

by

들어가며 쇼핑몰 고객 문의를 처리하는 대규모 언어 모델(LLM, Large Language Model) 기반 에이전트를 만들었다고 해 봅시다. 처음 만든 기능이 환불 처리였기 때문에 프롬프트도 환불 중심으로 쓰여 있습니다. 주문을 조회하고, 환불 가능 여부를 확인하고, 환불을 접수하는 흐름입니다. 그런데 이 에이전트가 이상하게 … 더 보기

LLM Agent란 무엇이고, 언제 필요한가? RAG와 비교하고 직접 구현해보기

by

들어가며 LLM Agent는 도구가 필요한 질문에서만 확실히 RAG를 이겼고, 규정만 묻는 질문에서는 RAG로 충분했다. 30개 질문으로 직접 비교해 얻은 결과다. 사내 규정 챗봇을 만들다 보면 “이제 RAG 말고 Agent를 써야 하나?”라는 질문이 나온다. 이 글은 그 질문에 감이 아니라 숫자로 … 더 보기

경량 언어모델의 종류와 장점, 한계

by

최근 생성형 AI가 다양한 업무 영역에 적용되면서 대규모 언어모델(Large Language Model, LLM)의 활용 범위도 빠르게 확대되고 있다. 일반적으로 모델의 규모가 커질수록 복잡한 문맥 이해와 추론 능력이 향상되는 경향이 있지만, 실제 서비스나 업무 환경에서는 성능만으로 모델을 선택하기 어렵다. 화학물질 민원 분석 … 더 보기

LangGraph와 Gemini로 만든 회의록 자동화 에이전트: 도구 호출(Tool Calling) 신뢰성 확보 사례

by

1. 기술 개요 데이터 분석 사업을 여러 건 동시에 진행하다 보면 회의록 작성이 큰 부담이 됩니다. 올해 진행 중인 경기도 분석 사업만 해도 분석 과제가 23건이고, 과제마다 방향성 회의, 진행 상황 보고 회의, 결과 보고 회의를 한 번씩만 해도 69번의 … 더 보기

DB 트랜잭션 동시성 제어: Lock, MVCC 그리고 Oracle Restart Mechanism

by

I. 서론 현대의 데이터베이스 환경에서는 여러 사용자가 동시에 동일한 데이터를 읽고 변경하는 상황이 일상적으로 발생한다. 인터넷과 모바일 서비스의 확산, 비동기 처리 증가, 분산 시스템과 MSA 환경의 확대로 인해 하나의 업무가 여러 트랜잭션에서 동시에 처리되는 경우도 많아졌다. 이러한 환경에서 적절한 동시성 … 더 보기

폐쇄망 환경에서 대용량 데이터를 Python과 SQLite로 결합하기

by

1. 들어가며 인터넷이 없는 분석실에서 약 19.8억 행을 하나로 붙여야 했습니다. 건강보험공단 청구자료로 4개 시·군 거주자 약 161만 명의 10년간(2015~2024년) 의료 이용 현황을 분석하는 과제였습니다. 분석은 외부와 차단된 원격 가상 분석실에서만 할 수 있었습니다. 새 도구를 설치하거나 외부 데이터를 들여올 … 더 보기

Ansible을 활용한 IaC 기반 서버 구성 자동화

by

Ansible을 활용한 IaC 기반 서버 구성 자동화 개요 여러 서버를 직접 관리하다 보면 같은 패키지 설치, 설정 파일 배포, 서비스 재시작 작업이 반복된다. 서버 수가 늘어날수록 수동 작업은 누락, 순서 오류, 환경 차이, 작업 이력 부재 같은 문제를 만들기 쉽다. … 더 보기

AI 에이전트, 거창한 인프라 대신 노션(Notion)과 DAG로 시작하는 법

by

LLM 에이전트 도구 호출 다이어그램 인트로 사내 챗봇은 단순한 질문에 답할 뿐, 스스로 판단하여 보고서를 쓰거나 신청서를 검토하는 ‘자율형 에이전트’의 역할을 대신할 수 없다. 많은 조직이 에이전트를 도입하고자 거대한 데이터 인프라 구축부터 시작하지만, 가시적인 성과 없이 예산과 인내심만 소진하기 일쑤이다.  … 더 보기

EKS 네트워크 보안: NetworkPolicy와 SGP로 구현하는 파드 트래픽 격리

by

1. 들어가며 “클러스터 안에서는 NetworkPolicy, 클러스터 밖 AWS 리소스에는 SecurityGroupPolicy” EKS 환경에서 애플리케이션을 운영하다 보면 자연스럽게 네트워크 통신 제어와 보안에 대한 고민이 생깁니다. “Frontend 파드에서 Backend 파드로의 접근만 허용하고, 미승인 파드는 차단하려면 어떻게 해야 할까?” “특정 백엔드 파드만 AWS RDS에 … 더 보기

의도 분류에서 근거 생성까지, 기업형 챗봇 대화 설계의 전환

by

서론 지난 몇 년간 제 업무의 대부분은 챗봇 플랫폼 안에서 이루어졌습니다. 사용자의 발화를 어떤 의도로 분류할지 정하고, 학습 발화를 등록하고, 필요한 값을 슬롯으로 받은 뒤, 조건에 따라 다음 노드를 연결했습니다. 문구 하나를 고치는 일도 단순한 텍스트 수정으로 끝나지 않았습니다. 앞뒤 … 더 보기