| 최근 생성형 AI 기술이 교육 분야에서 개인 맞춤형 학습, 교사 생산성 향상, 스마트 콘텐츠 생성 등에서 활발히 활용되고 있습니다. 교육의 효율성을 높이고 학생들의 창의성을 개발하는 도구로서 학습 및 교육의 질 향상에 크게 기여하고 있습니다. 하지만 생성형 AI는 가짜 뉴스나 환각 현상 등과 같은 가볍지 않은 문제점을 가지고 있습니다. 해당 기고문에서는 교육 또는 교육기관에서 생성형 AI를 어떻게 활용하고 있는지에 대한 실제 사례와 교육 부분에서 활용 시 주의해야 할 사항들을 살펴보도록 하겠습니다. |
I. 전 세계를 뒤흔든 생성형 AI 열풍
2022년 11월, 인공지능 개발회사인 OpenAI가 ChatGPT를 출시하였을 때 이 생성형 AI가 앞으로 전 세계에 미칠 영향력과 파급력을 예측한 사람은 아주 소수에 불과하였을 것입니다. ChatGPT가 세상에 나온 지 약 1년이 지난 지금 생성형 AI는 현재도 글로벌 열풍을 일으키고 있고 우리 생활 속에 깊숙이 자리 잡아가고 있습니다.
생성형 AI의 대표적인 서비스로는 사용자의 질문 또는 요구사항에 대해 텍스트로 결과를 만들어 제공하는 OpenAI의 ChatGPT, MS의 BING, Google의 Bard 등이 있습니다. 텍스트에 그치지 않고 이미지를 만들어주는 DALL-E2, Midjourney, Playground 서비스와 PPT, 문서, 웹페이지 등을 생성하여 비즈니스 도구로 활용하는 Gamme, Tome 등의 서비스 또한 사용자가 빠르게 늘고 있습니다. 이처럼 생성형 AI 기술은 검색 또는 기계와 대화를 한다는 개념을 넘어서서 이미지, 영상, 음성 등 다양한 형태로 사람과 상호소통하는 멀티모달(Multi-Modal)로 나아가고 있습니다.
얼마 전까지 전 세계를 괴롭히던 COVID-19는 교육 분야의 많은 변화를 가져다주었습니다. 전통적인 교실에서의 학습 또는 오프라인에서의 학습환경에서 비대면 교육으로의 전환 및 ICT 원격기술을 발전시키는 계기가 되었습니다. 하지만 원격 및 비대면 교육은 자기주도학습 능력 감소, 직접적인 소통 결여 등의 단점이 존재합니다. 생성형 AI 기술 내 멀티모달과 같은 기술 요소가 온라인 교육의 부족한 부분을 지원하고 더 나은 교육 환경을 제공할 것이라는 발전 가능성을 탐색한 여러 기업이 생성형 AI기술을 에듀테크와 융합하여 다양한 서비스를 제공하고 있습니다. 생성형 AI기술이 교육 전반에 어떻게 활용되고 있는지 사례를 살펴보겠습니다.
II. 교육 부문 생성형 AI 활용 사례
생성형 AI는 언제 어디서나 24시간 쉽게 대화하는 방식으로 사용할 수 있고, 거대언어모델(LLM) 기반 빠른 질의와 답변 능력으로 여러 분야에서 ‘해결사’의 역할을 수행하고 있습니다. 위와 같은 장점을 바탕으로 교육 분야에서도 강의 설계, 진학 진로, 취업 및 창업 등 다방면으로 활용되고 있습니다. 넓은 파급력을 가진 생성형 AI의 활용 방법 중 △ 개인 맞춤형 학습, △ 교사 생산성 향상, △ 스마트 콘텐츠 생성과 같은 교육 부문 중심으로 활용 사례를 살펴보고자 합니다.
○ (개인 맞춤형 학습) 마이크로소프트(MS) 설립자이자 고문인 빌 게이츠는 에듀테크 콘퍼런스에서 “AI가 인간만큼 훌륭한 가정교사가 될 수 있는 능력을 갖추게 될 것”이라고 말했습니다. 가정교사 및 과외와 같은 사교육에 드는 비용을 낮출 수 있다면 평등한 교육에 많은 도움이 될 것이라 기대했기 때문입니다. 생성형 AI는 사용자 또는 학생들의 학습 활동을 지원하는 가이드 역할을 하면서 보다 정교한 대화를 통해 개인 맞춤형 교육을 기대할 수 있습니다. 조금 더 간단히 말하면 이제 인터넷이 연결되어 있는 학생이라면 비용 없는 개인과외를 받을 수 있게 된 것입니다. 대표적인 예시로 최근 ChatGPT의 음성 대화 기능을 활용해 영어 회화 실력을 늘리려는 직장인 또는 학생이 급증하고 있습니다. ‘23년 9월에 출시된 ChatGPT 음성 대화 기능이 유료(약 2만 7,000원/월)에서 무료로 전환되어 시간과 장소에 구애받지 않고 원어민과 실제 대화하는 듯한 효과를 낼 수 있기 때문입니다. 국내에서도 스타트업 중심으로 생성형 AI를 기반으로 하는 맞춤형 AI 교육 서비스들이 빠르게 확산되고 있습니다. 매스프레소사의 인공지능 교육 앱 ‘QANDA(콴다)’[그림 1]는 LLM 기반 문제 풀이 애플리케이션으로 최근 사용자의 피드백을 학습에 적용해 개인 맞춤형 학습을 넘어 초개인화로서의 기반을 마련하였다는 기대를 받기도 했습니다.
<자료> 콴다 홈페이지, https://team.mathpresso.com
[그림 1] 인공지능 학습플랫폼 매스프레소의 콴다 서비스
○ (교사 생산성 향상) 이미 교사들은 반복적이고 단순한 작업을 에듀테크 등의 ICT 융합 기술이 접목된 교육 도구로 수업 준비 시간을 단축하고 학생 맞춤형 교육 지원에 활용하고 있었습니다. 생성형 AI 등장 이후 교사들은 생성형 AI를 활용하여 더욱 창의적이고 효과적으로 수업을 준비할 수 있게 되었습니다. 생성형 AI에게 역할을 부여하고 다양한 유형의 교육자료와 콘텐츠를 학습시켜 시험문제 제작, 결과 채점, 과제 평가, 서류작업물의 정리, 학습성취 보고서 작성 등의 업무를 처리하게 했습니다. 교육 품질 향상 이외에도 교사는 생성형 AI를 통해 새로운 교육 방법 및 기술을 습득하고, 교사-학부모 및 교사 간 협력을 강화하는 소통 도구 등으로 활용하며 업무 효율성과 교사 역량을 동시에 향상시키고 있습니다.
<자료> 생성형 AI의 수업 활용 방안(교육동향분석 12호, 전북교육정책연구소 김태훈 연구위원)
[그림 2] 서울특별시교육청 교사 대상 ChatGPT 인식조사 결과
○ (스마트 콘텐츠 생성) 이제는 인공지능이 콘텐츠, 음악, 그림을 만들고 생성하여 인간의 감성을 자극하는 예술의 범위까지 영향을 미치고 있습니다. 텍스트 프롬프트 또는 이미지로 영상을 제작하는 Text to Video 기술이 생성형 AI 기술과 융합하여 영화와 같은 고품질 영상 제작이 가능한 수준까지 발전하고 있습니다. 콘텐츠 창작을 위한 생성형 AI 개발 스타트업인 Runway는 최근 생성하고자 하는 영상에 대한 내용, 화풍, 분위기나 색감 등을 텍스트로 입력하면 영상을 생성하는 Gen 기능의 상위버전인 Gen-2를 발표하여 주목을 이끌고 있습니다. 국내 또한 생성형 AI를 통해 새롭고 독창적인 콘텐츠를 만들기 위해 노력하고 있습니다. 국내 교육콘텐츠 개발기업인 위드플러스는 생성형 AI 기술을 활용하여 이러닝 역사교육 콘텐츠인 ‘경기도 3.1 운동 역사교육 콘텐츠’를 개발하여 무료로 공개하였습니다. 이처럼 생성형 AI 기반 콘텐츠 제작 서비스와 도구는 이미 쉽게 접할 수 있고, 그 결과 교육콘텐츠 개발에 투입되는 시간과 비용이 획기적으로 줄게 되었습니다.
 |  |
<자료> runway 홈페이지, https://runwayml.com/ai-magic-tools/gen-2
[그림 3] 인공지능 학습플랫폼 매스프레소의 콴다 서비스
| 사례 | 설명 | 사례 화면 | |
| 음성 대화 기능을 활용한 영어 회화 학습 | – (OpenAI) ChatGPT 음성기능이 유료 서비스에서 전면 무료 공개로 전환됨에 따라 음성대화 기능을 활용한 영어 회화 학습사례 증가 – 실제 원어민과 구별이 안 될 정도로 발음이 정교하고 시나리오를 지정해 토론하는 것도 가능 |  |  |
| 시험문제 제작 | – (엘림넷) 나우엔테스트는 교재 또는 시험출제 범위를 입력하여 시험문제 제작을 지원하는 문제 출제 서비스 |  | |
| 교육콘텐츠 창작 | – (위드플러스) 생성형 AI를 통해 텍스트, 이미지, 등장인물들이 주고받는 대화 및 서사 등의 초안을 마련하여 역사교육 콘텐츠 제작 |  | |
| 대학 수업 | – (이화여대) 이화여대 교수학습 모델인 ‘THE BEST’ 교육과 생성형 AI를 융합하여 수업 및 학습사례 공유 |  | |
<자료> ChatGPT 앱, nowntest.com(2023.12.1.), withplus.plusg(2023.12.1.), thebest.ewha.ac.kr(2023.12.1.) 사이트 참고 재구성
Ⅲ. 생성형 AI 활용 시 주의사항
생성형 AI는 최신 인공지능 기술의 가장 혁신적인 발전으로 주목받는 만큼 사용 시 문제점과 주의사항을 명확히 인지하고 활용하여야 합니다. 예를 들어 생성형 AI가 학습하거나 답변을 제공하는 과정에서 저작권자의 사용 허가 없이 기사, 웹사이트 게시글 등을 사용하는 저작권 문제 또는 개인정보 보호 규정에 대한 위반 등의 문제점들을 주의하며 사용하여야 합니다. 생성형 AI 활용 시 다양한 문제점과 이슈 중 교육 또는 교육기관과 관련된 주의사항을 살펴보도록 하겠습니다.
○ 생성형 AI 사용 규정 준수
우리가 익숙하게 사용하고 있는 OpenAI의 ChatGPT와 Google의 Bard는 미국의 법률에 따라 13세 미만의 어린이에게 생성형 AI 서비스를 제공하지 않거나 이용을 제한하고 있습니다.[그림4] 미국의 어린이 온라인 보호법(COPPA)에서 13세 미만의 어린이의 개인정보를 수집하거나 이용하는 것을 금지하고 있는 이유도 있지만 폭력, 혐오발언 등과 같은 부적절한 콘텐츠에 노출될 경우 어린이의 정서적, 심리적 발달에 부정적인 영향을 끼칠 수 있기 때문입니다. 생성형 AI 규정을 잘 준수하고 부모는 자녀가 생성형 AI를 안전하고 올바르게 사용할 수 있도록 윤리적 사용에 대한 인식을 높이고 자녀와 함께 생성형 AI가 생성한 콘텐츠에 대한 비판적 사고력을 키우는 것이 중요합니다.
 |  |
<자료> https://openai.com/policies/terms-of-use, https://policies.google.com/terms?hl=ko#section_11
[그림 4] ChatGPT 및 Bard 사용자 연령 규정
○ 가짜 뉴스(Fake news) 및 환각 현상(Hallucination) 인지 및 결과 검증
생성형 AI 활용에서 ‘가짜 뉴스’와 ‘환각 현상’은 반드시 고려해야 할 매우 중요한 문제입니다. ‘가짜 뉴스’란 왜곡된 정보 또는 사실과 다른 내용을 전달하는 것을 의미합니다. ‘환각 현상’ 이란 생성형 AI가 학습 데이터에 포함된 편향이나 오류를 그대로 받아들여 사실과 다른 정보를 생성하는 현상을 말합니다. 두 문제점 모두 생성형 AI의 “가장 정답일 확률이 높은 답변”을 제공하는 특성으로 나타나는 현상입니다. 생성형 AI의 답변이 논리적으로 보일 수는 있으나, 그 답변이 거짓일 가능성도 반드시 존재합니다.[그림 5] 위와 같은 이유로 생성형 AI를 교육에 활용 시, 생성된 답변에 대한 사실여부 확인 및 검증작업을 반드시 수행하여야 합니다. 생성형 AI의 장점인 ‘빠른 정보 제공’에 현혹되어 교육의 진실성을 놓치지 않도록 더욱 검토하고 추가 확인이 필요합니다.
 |  |
<자료> Google의 Bard(https://bard.google.com/)
[그림 5] 생성형 AI의 부정확한 답변의 예시
○ 보안과 개인정보보호를 위한 노력
생성형 AI는 프롬프트(Prompt)를 통해 쉽게 사용할 수 있습니다. 프롬프트는 주로 ‘연극, 방송 등에서 배우나 출연자에게 대사나 동작을 알려주는 일 또는 안내’로 많이 사용되었는데 현재는 생성형 AI 열풍에 힘입어 프롬프트 엔지니어링과 같은 공학분야까지 의미가 확산되었습니다. 생성형 AI에서 프롬프트는 ‘AI 모델에서 원하는 값 도는 출력을 얻기 위해 입력하는 텍스트 또는 질의’입니다. 이 프롬프트는 완벽하지 않아도 AI 모델이 출력값을 제공하기 때문에 많은 사람들이 편리함을 느끼는 것입니다. 하지만, 생성형 AI가 사용이 쉬운 만큼 보안 위험성과 개인정보보호의 유출 위험성은 상대적으로 높아질 수 밖에 없습니다. 사이버 범죄자들은 생성형 AI 탈옥, 악성 프롬프트 생성, 생성형 AI 도구 오용 등의 다양한 방법으로 AI 모델 학습데이터 내 개인정보 또는 생성형 AI 계정정보를 유출합니다. 이에 따라 생성형 AI 활용 시 반드시 보안 이슈사항을 사전에 인지하고 주의하여야 합니다. 교수자는 생성형 AI 사용 시, 비공개 정보나 개인정보와 같이 민감한 정보의 입력은 금지하고 로그인 계정에 대한 보안 설정을 강화하는 것이 바람직합니다. 또한 소속 학교·기관 내부자료는 입력을 자제하고, AI 모델과 대화 중 보안이나 개인정보에 관한 질문은 답변을 하지 않거나 해당 생성형 AI 서비스 회사 고객 지원센터에 문의하여 올바른 절차를 준수하도록 요청하여야 합니다. 학생들에게는 개인정보의 중요성과 온라인 환경에서의 안전한 학습방법을 알려주고 생성형 AI 서비스를 사용할 때 공식 사이트를 이용할 것을 안내해야 합니다.
[참고문헌]
[1] 행정안전부(2023), 「챗GPT 활용 방법 및 주의사항 안내」.
[2] 한국지능정보사회진흥원(2023), 「The AI REPORT, 공공분야 생성형 AI 활용 방안」.
[3] 전북교육정책연구소(2023), 「생성형 AI의 수업 활용 방안」, 김태훈(전북교육정책연구소 연구위원
[4] https://team.mathpresso.com/
[6] nowntest.com
[7] withplus.plusg
[10] https://policies.google.com
[11] 국가정보원(2023), 챗GPT 등 생성형 AI 활용 보안 가이드라인