sLLM 기반 도메인 특화 AI 구축을 위한 파인튜닝 방법론
최근 기업과 공공기관에서 생성형 AI 도입이 활발하다. 그러나 범용 대규모 언어모델(LLM, Large Language Model)을 그대로 업무에 활용하는 데에는 몇 가지 현실적 한계가 존재한다. 범용 LLM은 방대한 데이터를 학습했기 때문에, 법률·조세·의료 같은 전문 분야에서는 원하는 답변을 얻기 어렵고, 수십~수천억 개 파라미터로 … 더 보기
최근 기업과 공공기관에서 생성형 AI 도입이 활발하다. 그러나 범용 대규모 언어모델(LLM, Large Language Model)을 그대로 업무에 활용하는 데에는 몇 가지 현실적 한계가 존재한다. 범용 LLM은 방대한 데이터를 학습했기 때문에, 법률·조세·의료 같은 전문 분야에서는 원하는 답변을 얻기 어렵고, 수십~수천억 개 파라미터로 … 더 보기
‘법률적 판단과 심의를 수행하는 범용 공공기관’ (예: 행정심판위원회, 분쟁조정위원회, 징계위원회, 인허가 심사기관 등)을 대상으로 AI 에이전트 인프라 구축 과정을 기술함. 1. 프로젝트 비전: “저부가가치 반복 업무 개선을 통한 업무 생산성 향상” 문제 정의: “폭증하는 사건, 한정된 심사 인력” 기관은 국민의 … 더 보기
1. 클라우드 도입 전략 Public / Private / Hybrid / Multi Cloud 비교와 비즈니스 영향 최근 기업들은 단순히 “서버를 클라우드로 옮긴다” 수준이 아니라 비용 최적화, 보안 요구사항, 규제 준수, 기술적 유연성 확보를 위해 다양한 방식으로 클라우드를 도입하고 있습니다. 클라우드 서비스 … 더 보기
차세대 프로젝트에서 Oracle DB에서 PostgreSQL DB로 데이터 전환을 수행하며 CS-MIG2.0을 사용한 경험을 공유합니다. 기존 CS-MIG는 Oracle DB 동종 전환만 가능했지만, 업그레이드 된 CS-MIG2.0은 서로 다른 이기종 DB의 전환까지 지원하게 되었습니다. 제가 경험한 프로젝트는 CS-MIG2.0을 이기종 DB 전환에 활용한 첫 번째 … 더 보기
2023년 ChatGPT의 등장은 단순한 기술적 혁신을 넘어 공공행정의 근본적 변화를 촉발했습니다. 생성형 AI는 더 이상 미래의 이야기가 아닌 현재 진행형의 현실이 되었고, 이는 전자정부 정보화조직의 역할과 위상에 대한 근본적인 재검토를 요구하고 있습니다. 본 글에서는 지난 50년간의 국가정보화 여정을 되짚어보고, 현재 … 더 보기
1. GenAI Application의 트렌드 최근 몇 년 사이, 생성형 인공지능(Generative AI)은 기술 분야 전반에서 가장 주목받는 혁신의 중심에 서 있습니다. OpenAI의 ChatGPT가 대중적인 인기를 끌면서, 대규모 언어 모델(Large Language Model, LLM)을 중심으로 하는 인공지능 활용이 급속히 확산되었으며, 이는 단순한 … 더 보기
생성형 인공지능(Generative AI)은 텍스트, 이미지, 음성, 코드 등 다양한 형태의 콘텐츠를 자동으로 만들어내는 혁신적 기술로 기업의 업무 효율성과 경쟁력을 획기적으로 향상시키고 있습니다. 이 기술은 단순한 반복 작업의 자동화를 넘어 맞춤형 서비스 제공, 데이터 기반 의사결정 등 복잡한 비즈니스 과제 해결에도 … 더 보기
전화는 단순한 음성 통화 수단에서 시작하여 디지털 전환과 함께 IP와 AI로 진화하고 있습니다. 특히 AI 기술이 실제 비즈니스 투자로 이어지고 있는 대표적인 산업 중 하나가 바로 상담사를 중심으로 운영되는 컨택센터 분야입니다. 기존의 콜센터는 고객과의 단순한 전화 연결을 중심으로 했다면, 멀티 … 더 보기
생성형 인공지능(이하 생성형 AI)은 최근 문장, 이미지 등의 다양한 컨텐츠를 자동으로 만들어 낼 수 있는 기술로 주목받고 있다. 챗봇, 디자인, 코딩 등에서 광범위하게 활용되며 일상과 산업 전반에 빠르게 확산되고 있다. 본고에서는 이러한 생성형 AI의 활용을 위해서 집이나 회사에서 거대언어모델(이하 LLM)에 … 더 보기
최근 소셜 미디어에서 화제를 모은 유리 과일 ASMR 숏폼 영상을 보신 적 있으신가요? 투명한 유리로 만든 블루베리나 딸기, 수박 등을 칼로 썰면 실제 유리가 깨지는 듯한 소리와 함께 반짝이는 단면이 드러나는 이색적인 ASMR 콘텐츠입니다. 시각과 청각을 동시에 자극하는 이 몰입형 … 더 보기