sLLM 기반 도메인 특화 AI 구축을 위한 파인튜닝 방법론
최근 기업과 공공기관에서 생성형 AI 도입이 활발하다. 그러나 범용 대규모 언어모델(LLM, Large Language Model)을 그대로 업무에 활용하는 데에는 몇 가지 현실적 한계가 존재한다. 범용 LLM은 방대한 데이터를 학습했기 때문에, 법률·조세·의료 같은 전문 분야에서는 원하는 답변을 얻기 어렵고, 수십~수천억 개 파라미터로 … 더 보기
VRAM
LLM Agent (지능형 법무 행정 AI 에이전트) 인프라 구축
‘법률적 판단과 심의를 수행하는 범용 공공기관’ (예: 행정심판위원회, 분쟁조정위원회, 징계위원회, 인허가 심사기관 등)을 대상으로 AI 에이전트 인프라 구축 과정을 기술함. 1. 프로젝트 비전: “저부가가치 반복 업무 개선을 통한 업무 생산성 향상” 문제 정의: “폭증하는 사건, 한정된 심사 인력” 기관은 국민의 … 더 보기