성공적인 생성형 AI 서비스를 위한 전략

생성형 AI 기술과 생태계의 이해를 바탕으로 성공적인 생성형 AI 서비스 도입을 위한 전략과 성공 요인, 실패 요인에 대해 논의합니다.

I. 생성형 AI 기술의 이해

생성형 AI는 기존 데이터에서 학습된 내용을 바탕으로 새로운 콘텐츠를 생성하는 인공지능(AI)의 한 유형입니다. 생성형 AI는 인공신경망을 활용하는 딥러닝(DL)의 하위 분야에 있습니다. 생성형 AI를 정확히 이해하기 위해서는 인공지능부터 생성형 AI까지의 관계와 개념에 대해 정확히 이해할 필요가 있습니다.

[그림 1] AI와 생성형 AI와의 관계도

인공지능은 판단, 추론, 학습 등 인간의 지능이 가지는 기능을 갖춘 컴퓨터 시스템을 뜻하며 쉽게 말해 사람처럼 사고하고 행동하는 기계를 만드는 것이 목표인 분야라 할 수 있습니다.

머신러닝(ML)은 인공지능의 하위 분야로 데이터를 기반으로 모델이 학습하여 해당 분야의 문제들을 추론하는 기술입니다. 머신러닝은 지도학습, 비지도학습, 강화학습을 통해 모델을 학습시킵니다.

딥러닝은 이러한 머신러닝의 하위 분야로 다양한 머신러닝의 학습 방법 중 인공신경망을 사용하여 더 복잡한 패턴을 처리할 수 있는 기술입니다.

끝으로 생성형 AI는 딥러닝의 하위 분야로 텍스트, 이미지, 영상, 음성 등 다양한 유형의 콘텐츠를 생성할 수 있는 인공지능 기술입니다.

다음은 인공지능 기술의 분류에 대해 알아보겠습니다.

인공지능 기술은 데이터 개체를 분류하고 예측하는 판별형과 데이터 개체를 생성하는 생성형으로 구분됩니다. 또한 연구하는 분야에 따라 인간의 언어를 연구하는 자연어 처리 분야와 인간의 시각적인 정보를 연구하는 컴퓨터 비전 분야, 음성을 연구하는 음성 처리 분야로 크게 나눌 수 있습니다. 인공지능 모델의 규모 즉, 파라미터 수에 따라 초거대 AI, 중거대 AI, 소규모 AI로 구분할 수 있습니다. ChatGPT의 경우 생성형 AI이며, 대규모 언어 모델(LLM*)을 활용한 자연어 처리 분야, 파라미터 수가 1750억 개(GPT 3.5 기준)가 넘는 초거대 AI로 구분할 수 있습니다.

* LLM(Large Language Model) : 대형 언어 모델 또는 거대 언어 모델로 수많은 파라미터를 보유한 언어 모델

[표 1] AI 기술 분류

유형분야데이터학습 방법규모
생성형
판별형
자연어 처리텍스트 데이터지도학습
비지도학습
강화학습
초거대 AI
중거대 AI
소규모 AI
컴퓨터 비전이미지, 영상 데이터
음성 처리음성 데이터

II. 생성형 AI 생태계의 이해

지난해 말 ChatGPT를 공개한 OpenAI는 마이크로소프트와 협력을 강화하며 빠르게 생성형 AI 생태계를 리드하기 시작했고 구글도 바드(Bard)를 선보이며 경쟁에 동참하였습니다. 두 기업 모두 과거 다양한 인공지능 모델을 오픈소스로 내놓으며 AI 생태계를 개방형으로 이끌었던 것과는 정반대로 최근 관련 기술 정보를 미공개하며 폐쇄형 인공지능 생태계를 구축하였습니다.

반면 후발주자인 메타는 자체 개발한 언어 모델 라마(Llama)2의 소스코드를 무료로 공개하며 개방형 인공지능 생태계를 주도하고 있습니다.

폐쇄형 인공지능의 경우 OpenAI, 구글 등 선발주자 기업들이 생성형 AI의 앞선 기술을 확보하고 그 기술을 보호하는 한편 개발을 위해 투입한 막대한 비용을 회수하기 위해 상업적인 전략을 취하고 있습니다. 표면적으로는 안전한 AI 사용을 위해 함부로 개방하는 것이 위험하다는 이유를 내세우지만 기술을 독점하고 인공지능 생태계를 선점하고 장악하기 위함이라 생각합니다.

개방형 인공지능의 경우 기술을 공유하고 다양한 오픈소스 커뮤니티를 통해 기술을 혁신하고 빠르게 이용자를 늘려 영향력을 키우려는 전략이라 할 수 있습니다.

정보기술(IT) 업계에서는 당분간 폐쇄형과 개방형 AI가 서로 경합하며 대결 구도로 갈 것으로 보고 있으며 아직 기업용 인공지능 시장이 성숙단계가 아니기에 진영 간 경쟁이 더욱 치열해질 것으로 예상됩니다.

[표 2] 폐쇄형 인공지능과 개방형 인공지능 비교

구분폐쇄형 인공지능개방형 인공지능
정의– 연구 및 기술을 비공개하거나 제한적으로 공개하는 방식– 연구 및 기술을 공유하고 공개하는 방식
지식 공개– 연구 결과나 기술적 세부사항을 비공개하고 상업적 이익을 추구– 연구 논문, 모델, 데이터셋 등을 대중과 공유하고 개방적인 지식 공유를 촉진
장점– 현재 가장 높은 수준의 기술과 성능을 가짐
– 상업적 이윤추구와 독자성 유지 가능
– 누구나 무료로 활용 가능하며 확장성이 좋음
– 오픈소스 커뮤니티의 다양한 피드백 수용 가능
단점– 기술 및 벤더 Lock-In– ChatGPT 등 선두 기술 대비 낮은 성능
대표 기업– OpenAI, 구글, 네이버 등– 메타, 알리바바 등
모델– GPT3.5/4.0, PaLM 2, HyperCLOVA 등– Llama 2, Polyglot, Dolly 등

III. 생성형 AI 서비스 도입 전략

1. 생성형 AI 기술 및 생태계에 대한 이해

기업에서 생성형 AI 서비스를 도입하기 전 생성형 AI 기술과 생태계에 대한 이해도를 높여야 합니다. 생성형 AI 기술은 아직 완성형 기술이 아니며 사실이 아닌 내용을 마치 정답처럼 내놓는 할루시네이션 문제, 정보보안 문제, 학습비용 문제 등 고려해야 할 사항이 많은 기술입니다. 기술에 대한 이해를 바탕으로 생성형 기술이 적절한지 판별형 기술이 적절한지 등 기술 분류에 따라 전략을 수립해야 합니다. 또한 폐쇄형과 개방형 생태계에서 상업용 서비스를 빠르게 도입하는 것이 합리적일지 오픈소스를 활용하여 자체 모델을 구축하는 것이 합리적일지 고려해야 합니다. 이렇듯 생성형 AI 기술과 생태계에 대한 정확한 이해와 한계에 대한 인식은 현시점에서 가장 효과적으로 생성형 AI 서비스를 도입할 수 있는 전략 수립의 밑거름이 됩니다.

2. 도입 목적 명확화 및 PoC*를 통한 기술 검증

유행에 따라 생성형 AI 서비스 도입 자체가 목적이 되어서는 안되며 명확한 목적을 갖고 도입을 고려해야 합니다. 생성형 AI 기술 및 생태계에 대한 이해를 바탕으로 기업 내 활발한 아이데이션을 통해 생성형 AI를 적용할 수 있는 영역을 찾아야 합니다. 도입 목적이 명확해지면 PoC를 통해 기술을 검증하고 도입을 결정해야 합니다. 생성형 AI 서비스는 최근 등장한 서비스로 타사의 성공 사례가 거의 없으며 유사한 사례가 존재한다 하더라도 당사의 상황과 환경에서는 맞지 않을 수 있습니다. 따라서 반드시 PoC를 통해 가능성을 검토한 후 도입을 결정해야 합니다.

* PoC(Proof of Concept) : 개념증명은 기존 시장에 없었던 신기술을 도입하기 전에 이를 검증하기 위해 사용하는 것을 뜻함

3. 데이터 중심 도입 전략 수립

생성형 AI 기술은 딥러닝의 하위 분야로 데이터를 기반으로 학습을 통해 모델을 만들게 됩니다. 따라서 데이터 중심의 도입 전략 수립이 필요합니다. 기업이 이미 확보한 데이터 혹은 확보 가능한 데이터를 바탕으로 전략을 수립하고 확보한 데이터를 통해 생성형 AI 모델을 개발하게 되면 보다 성공적으로 AI 서비스를 구축할 수 있습니다.

4. 투자 대비 효과를 고려한 전략 수립

투자 대비 효과를 고려하여 서비스를 도입하는 것은 너무나도 당연한 전략일 수 있습니다. 하지만 과거 인공지능 붐이 일어난 시점에 비용을 고려하지 않고 성급하게 서비스를 도입하여 투자 대비 효과가 적어 실패한 사례를 쉽게 찾아볼 수 있습니다. 생성형 AI 모델을 학습하기 위해서는 GPU와 같은 막대한 인프라 자원이 필요하고 모델의 파라미터 수가 커지면 커질수록 더 많은 컴퓨팅 자원을 요구하게 됩니다. 이에 업무 범위에 맞는 가장 적합한 규모의 모델을 선정하여 생성형 AI 서비스를 구축해야 합니다. 파라미터 수가 크면 클수록 AI 모델 성능이 좋아질 가능성이 높은 것은 사실이지만 반드시 정(+)의 상관관계가 있는 것은 아니며, 모델 성능에 미치는 여러 요소 중 하나일 뿐입니다. 따라서 업무 범위에 맞는 합리적인 수준의 모델을 선정하여 양질의 학습을 한다면 투자 대비 효과적인 서비스를 도입할 수 있습니다.

5. 기업 보안을 고려한 전략 수립

ChatGPT가 등장하고 빠르게 확산되는 과정에서 기업 기밀 정보 유출에 대한 우려로 ChatGPT 사용에 대한 금지 조치가 기업 내에서 이루어지기도 하였습니다. 그 후 보안을 강화한 기업용 생성형 AI 서비스들이 등장하였지만 보안에 대한 우려를 완전히 해결하지 못했습니다. 따라서 생성형 AI 서비스를 도입할 때는 반드시 기업 보안을 고려한 전략을 수립해야 합니다. 도입하고자 하는 업무 범위와 학습에 사용될 데이터의 보안 등급에 따라 서비스를 선택해야 합니다. 보안 등급이 최상위 레벨이라면 인공지능 모델, 학습 데이터 그리고 학습 인프라를 모두 기업 내부에 위치시키고 자체 구축하는 것이 합리적일 수 있습니다. 반면 보안 등급이 높지 않다면 퍼블릭 클라우드에 존재하는 상용 AI 서비스를 구독형으로 도입하는 것이 바람직할 수도 있습니다.

IV. 생성형 AI 서비스 성공 요인과 실패 요인

생성형 AI 서비스 성공 요인과 실패 요인을 크게 두 가지 측면에서 논의해 보도록 하겠습니다.

첫째, 문화적 측면입니다. 생성형 AI 서비스를 도입하고자 하는 고객사와 생성형 AI 서비스를 제공하는 서비스 제공사 사이의 고질적인 갑을관계 문화는 생성형 AI 서비스 성공의 가장 걸림돌이라 할 수 있습니다. 생성형 AI 서비스의 성공을 위해서는 도메인 지식이 풍부한 고객사와 인공지능 기술의 역량을 가진 서비스 제공사의 협업이 중요합니다. 인공지능 모델에 데이터를 학습하는 순간부터 학습 결과를 평가하고 해석하여 적용하는 모든 순간에 양사의 협업이 반드시 필요합니다. 자녀를 양육할 때 남편과 아내 모두의 역할이 중요하듯 인공지능 모델을 잘 학습하기 위해서는 양사 모두 양육자로서 협력하고 바람직한 협업문화를 구축하는 것이 중요합니다.

둘째, 학습 측면입니다. 생성형 AI 서비스는 일회성으로 한번 학습하고 끝나는 서비스가 아닌 지속적인 학습을 통해 계속해서 성장하고 발전할 수 있는 서비스입니다. 일반적인 IT 시스템은 구축 이후 일정 기간 활용하고 성능이 떨어지면 폐기하고 차세대 프로젝트를 합니다. 하지만 인공지능 모델은 성능이 떨어지면 재학습을 통해 성능을 개선할 수 있고 지속적인 학습을 통해 더 나은 서비스 제공이 가능합니다.

[그림 2] 생성형 AI 서비스 성공 요인과 실패 요인

셋째, AI 리터러시입니다.. AI 리터러시란 AI를 이해하고 활용할 수 있는 능력을 말합니다. 인공지능은 일시적인 유행이 아닌 메가트렌드로 앞으로 기업을 넘어 일상에서도 쉽게 접할 수 있는 보편적인 기술이 될 것입니다. 과거 컴퓨터와 인터넷 활용 능력이 업무 역량에서 중요한 부분을 차지했던 것처럼 앞으로는 인공지능 활용 능력이 업무 역량에 중요한 요인이 될 것입니다. 기업의 성공적인 생성형 AI 서비스를 위한 전략의 마지막 퍼즐은 인공지능 시대에 기업의 AI 리터러시 역량을 강화하고 이러한 역량을 가진 인재를 적극적으로 육성하는 것이라 생각합니다.

끝으로 국내 생성형 AI 성공 사례에 대해 알아보겠습니다.

최근 생성형 AI 기술을 비즈니스에 적용하려는 시도가 늘어나고 있습니다. 영업, R&D, 마케팅, IT, 경영지원, 고객서비스 등 다양한 비즈니스 영역에 적용하고 있고 생성형 AI 기술을 통해 업무 효율화 및 생산성 향상, 비용 절감, 비즈니스 기회 확대 등을 기대하고 있습니다.

[표 3] 생성형 AI 비즈니스 분야 적용 사례

구분적용 사례기대 효과
영업– In-bound 문의 자동 응대 서비스
– 세일즈미팅 분석 및 스크립트 생성
– 영업 활동의 자동화 및 고도화
– 운영 Process 효율화
R&D– 성분 조합 등에 기반한 신규 레시피 연구개발(신약, 식품 등)– 비즈니스 기회 확대
마케팅– 최적의 광고 카피 작성
– 검색 개인화 기반 마케팅 업무 효율화
– 업무 효율화 및 생산성 향상
– 비용 절감
IT– 비개발자용 웹/앱 개발 지원
– 개발자 코딩 작업 자동화
– Data 분석 및 관리 업무 역량 제고
– 개발 역량 및 경쟁력 강화
경영지원– 법률(판례) 검색 및 답변 챗봇 서비스
– 사내규정, 매뉴얼 등 챗봇 서비스
– 지원 업무 효율화 및 사용자 편의 증대
고객서비스– 채팅/전화 상담 자동화 서비스– 상담원의 업무 효율성 증대

대표적인 성공 사례는 국내 광고대행사의 광고 영상 제작 전 과정에 생성형 AI를 적용한 사례를 들 수 있습니다. 생성형 AI 기술을 이용하여 광고 카피, 광고 이미지/영상, 광고 음악까지 생성하여 제작한 사례입니다. 생성형 AI 기술을 활용하여 실제 촬영한 것과 같은 높은 품질의 광고를 빠르게 제작하고 광고 제작 비용까지 획기적으로 절감한 성공 사례라 할 수 있습니다. 광고를 제작하려면 촬영료, 장소 대관비, 편집비까지 막대한 금액이 들어가고 제작 기간도 상당한 시일이 소요됩니다. 하지만 생성형 AI 기술을 활용하면 적은 비용으로 단 몇 시간 혹은 몇 분 만에 광고 제작이 가능하고 미처 생각지도 못했던 창의적인 광고를 얻을 수도 있습니다.

생성형 AI 기술은 여전히 할루시네이션이라는 해결하지 못한 이슈를 갖고 있습니다. 이러한 이유로 정답이 단 하나로 정해져있는 영역보다는 창의적인 답변이 가능한 창작의 영역에서 제한적으로 성공 사례가 나오고 있습니다. 하지만 할루시네이션 해결을 위한 모델 연구 개발이 지속적으로 이루어지고 있고 외부 지식 베이스를 참고하여 정답의 정확성과 신뢰성을 높이는 RAG 같은 표준화된 연계 기술도 등장함에 따라 앞으로 성공적인 적용 사례는 더 많은 영역에서 나올 것으로 예상됩니다.


[참고문헌]

[1] 양지훈. 윤상혁 (2023) ChatGPT를 넘어 생성형(Generative) AI 시대로 : 미디어 · 콘텐츠 생성형 AI 서비스 사례와 경쟁력 확보 방안. 한국방송통신전파진흥원.

[2] 구글 Generative AI learning path : Introduction to Generative AI 강의.

[3] 김은성. (2023년 8월 14일). 생성형 AI, 폐쇄형 대 개방형 ‘맞불’ 경향신문. https://www.khan.co.kr/it/it-general/article/202308142147025

[4] 이명환. (2024년 1월 17일). 새해 희망 담은 롯데 신년광고, ‘생성형AI’가 만들었다 아시아경제. https://view.asiae.co.kr/article/2024011710253618905