챗GPT와 논문 대필, 그리고 대학계의 우려

OpenAI가 2022년 11월 30일에 AI 기반 챗봇인 ChatGPT를 대중에게 공개한 지 얼마 되지 않았습니다. 출시 5일 만에 100만명이 가입했으며, 누구나 인터넷 브라우저를 통해 ChatGPT와 상호 작용할 수 있습니다. 질문이나 명령을 입력하면 ChatGPT가 몇 초만에 즉각 응답합니다. 챗GPT와 같은 언어 모델이 기존의 검색 방식보다 빠르게 정보를 제공할 수 있는 측면만 보면 이러한 인공지능 기술이 더욱 다양한 교육 기회를 제공하고 있는 것으로 보이긴 합니다. 하지만 학계 전문가들은 학교와 대학에서 챗GPT가 너무 광범위하게 사용되는 상황에 대해 굉장히 우려하고 있는 것으로 보입니다. 당장 학생들이 과제나 석학사 논문 등을 작성할 때 챗GPT와 같은 기술을 남용하거나, 크게 의존할 수 있다는 것이 여기저기에서 밝혀지고 있기 때문입니다. 챗GPT와 같은 언어 모델은 사용자가 '요청만 잘 하면' 표절 감지가 불가한 수준으로 글을 교묘하게 재구성하는 것도 가능하니, 학계의 우려는 당연해 보입니다. 이번 글에서는 챗GPT 기술과 관련한 전문가들의 다양한 우려 의견을 요약 및 취합해 보고자 합니다.
 

 

"ChatGPT로 인해 대학 교육이 뒤쳐질 수도 있다"

독일 킬(Kiel) 응용학문대학의 Doris Wessels 교수는 인공지능 기술 글쓰기 관련 센터를 창립 및 운영해왔으며 약 4년 전부터 대규모 언어 모델이 교육계에 가져올 수 있는 기회와 위험성을 다루어온 전문가입니다. Wessels 교수에 따르면 '교직원 및 교수들보다 학생들이 챗GPT와 같은 도구를 더욱 빠르게 익힐 수도 있는데 이 자체가 위기'입니다. 학생들은 종종 교수들이 세상의 발전 속도를 따라잡는 속도보다 훨씬 빠르게 다양한 도구를 사용하는 방법을 터득하곤 하며 본인들이 터득한 신기술에 대해 SNS 등을 통해 빠르게 전파하는 것에도 익숙합니다. 반면 일부 교직원과 교수들은 신기술에 대한 이해 또는 습득이 더디거나 자신만의 방식을 오랫동안 고수할 수 있는데, 이것이 고착화되면 대학은 뒤쳐질 수 있는 것입니다.
 
Wessels 교수는 또한 글쓰기에 있어 학생 개개인은 본인의 이름을 거는 글에 책임을 져야한다고 합니다. 그러면서 학생들이 챗GPT와 같은 텍스트 생성 도구를 적극적으로 활용해보기를 권장하고 있습니다. 챗GPT와 같은 기술이 교육계에 불러올 부작용에 우려하면서도 이를 적극적으로 권장하는 이유는, 학생들이 정말로 챗GPT로 생성한 글에 본인 이름을 걸고 내보낼 자신이 있는지 직접 확인해보고 경험해보라는 것입니다. GPT 기술이 생성해내는 글은 그냥 흘려 읽으면 그럴싸해 보이지만 꼼꼼히 살펴보면 터무니없고 말도 안되는 경우가 많습니다. 사실인 것처럼 들리는 글도 자세히 읽어보면 사실을 창작해낸 것인 경우도 있습니다. 그렇게 인공지능이 생성한 글을 그냥 읽고 지나쳐서는 안되며, 본인의 이름을 내걸고자 한다면 그 글에 대해 책임을 져야 하고 그만큼의 노력을 들여야 한다는 것을 강조하고 있는 것입니다. 설령 인공지능이 작성한 글에 인공지능을 공저자로 넣고자 하더라도 '총책임자'는 인간이 되어야 되어야 하며, 이러한 사실을 인공지능이 작성한 글을 직접 보고 경험하면서 배워야 한다는 것입니다.
 
Wessels 교수는 챗GPT와 같은 인공지능 기술을 막는 것은 이미 불가능하다고 말합니다. 그러면서 대학 내에서 일어날 수 있는 최악의 시나리오는 학생들이 '완벽한' 과제물을 제출했을 때 그에 대해 어떠한 의심도 품지 않으면서 본인이 교수로서의 임무를 훌륭히 수행했다고 하는 상황이 오는 것이라고 합니다. 이와 관련하여, 앞으로는 챗GPT와 같은 인공지능 기술을 과제에 사용하는 경우 어느 기술로부터 도움을 받았는지 명시해야 할 수도 있다고 합니다. 기존에는 학생들이 과제를 할 때 타인이나 외부의 도움 없이 스스로 하는 것이 당연했지만 지금과 같이 논문 쓰기나 다양한 과제 수행이 가능한 인공지능 기술이 만연해있는 사회에서는 그러한 절차도 필요해질 수 있다는 것입니다. 학생에 대한 평가는 학생이 제출하는 각종 과제물 뿐아니라 과제 수행의 전 과정에 대한 것이어야 할 수 있으며, 그렇게 되면 과제 수행에 대한 일종의 프로토콜이나 방법론적 접근법, 사용된 인공지능 도구 등이 모두 평가에 포함되게 됩니다. GPT가 생성해낸 논문이나 과제물을 걸러낼 수 있는지는 이미 논외로 보입니다. GPT에게 요청만 잘 하면 '인공지능이 생성한 것처럼 보이지 않게', '교수님의 평가를 잘 받을 수 있도록' GPT가 생성한 글을 자체적으로 최적화하는 것도 가능하기 때문입니다. Wessels 교수에 따르면 우리 인류는 '이러한 시스템을 너무 쉽게, 터무니없게 받아들였습니다'.

 

SMALL

 

"GPT는 표절을 민주화한다"

Mike Sharples는 영국 오픈 대학교의 명예 교수로서 GPT-3 모델을 비롯한 인공지능 관련 분야에서 40년 이상 경력을 쌓은 전문가입니다. Sharples 교수는 GPT 기술에 대해 'GPT는 표절을 민주화한다'는 표현을 썼습니다. 인터넷에 접속할 수 있는 사람이라면 누구든 간단한 명령어를 통해 손쉽게 완벽해보이는 글을 얻어낼 수 있기 때문입니다. Sharples는 얼마 전 챗GPT에게 실제로 연구 논문 작성을 요청했고, 챗GPT가 생성한 논문에 대해 아래와 같이 평가한 적이 있습니다.

• 요약(Abstract) 영역은 굉장히 잘 구성되어 있고, 통상적인 학술지의 형식을 잘 따르고 있다. 첫 번째 학술 리뷰는 통과할 수도 있다.
• 편집자의 검토를 통과할 가능성은 낮겠지만, 결과물을 보면 앞으로 인공지능의 도움을 받아 작성된 논문들이 대량 제출될 것으로 보인다.
• 인공지능 논문의 출현은 결국 학술 출판계를 바꾸게될 것이다. 편집자들은 인공지능 기술이 작성한 논문과 인공지능 기술이 발명한 연구 결과들에 압도될 것이다.
• 평가자들은 앞으로 인공지능 기술에 의해 깔끔하게 제시된 그럴듯한 연구 결과가 실제인지 아닌지를 확인하는 절차를 거쳐야할 것이다.

 
위의 평가와 함께 Sharples 교수는 앞으로 인공지능 기술이 어떤 식으로 논문이나 학술지 작성에 도움을 줄 수 있는지 논의가 필요하다고 덧붙였습니다. 인공지능 기술이 과연 인간의 지식에 기여하거나 인간의 지식을 '합성'하는 역할을 하게 될지, 인간이 제시한 이론을 발전시키거나 검증할 수 있을지, 소외된 학자들에게 권력을 부여하게 될지, 인공지능 기술에 의해 대량 발명되는 연구 결과물에 대한 편집과 검토는 어떻게 진행할 것인지 등에 대한 확인과 논의 작업이 아직까지는 없었으니, 앞으로의 과제가 되는 것입니다.
 

"ChatGPT의 위험성을 말하기에는 근거가 부족하다"

인도 공과대학교의 인공지능 정보시스템 센터를 총괄하고 있는 AI 전문가 Debarka Sengupta 교수도 학생들이 인공지능 기술 등에 의존하기 시작하면 학업 수준이 저하될 수 있다는 점은 우려하고 있습니다. 논문 등의 과제를 스스로 작성하는 대신 챗GPT와 같이 글쓰기를 대신해주는 기술에 의존하면 자칫 '무능해지거나 중독될 수 있다'는 것입니다. 다만 이렇게 인공지능 기술에 대한 우려사항을 논의하는 것이 아직은 시기상조라는 의견을 내놓았습니다. 이러한 기술이 실제로 불러올 수 있는 부작용을 뒷받침하기에는 관련 근거가 부족하다는 것입니다. 실제로 챗GPT는 대중에 공개된지 이제 두세 달밖에 되지 않았습니다. Sengupta 교수는 대학교 내에서 부정 행위나 표절은 과거에도 늘 일어나는 일이었다고 하며, 학생들의 학습 동기를 너무 과소평가하는 것은 옳지 않다고 했습니다.
 
Sengupta 교수는 위 주장과 함께 한 가지 사례를 들었습니다. Sengupta 교수의 학생 중 한 명인 Bernadette Mathew는 현재 생물학 박사 학위 취득을 위해 암세포를 연구하고 있는데, 실험 과정에서 방대한 데이터를 생성하고 분석해야 했습니다. 조금이라도 데이터 분석 프로세스를 자동화하고 작업을 효율화하고자 코딩도 배워보려 했지만 연구와 코딩을 병행하는 것은 쉽지 않았습니다. 이때 Mathew에게 챗GPT를 소개해준 건 Sengupta 교수였습니다. 챗GPT는 Mathew에게 코딩 과정에서 이해되지 않는 부분을 설명해 주거나, 오류를 찾아내어 주거나, 직접 코딩을 짜주기도 했습니다. 이를 통해 Mathew는 작업을 효율적으로 진행할 수 있었을 뿐아니라 코딩을 이해하는 데에도 도움을 받았으며, 이러한 기술이 실험 생물학자들의 연구 작업에 '혁신'을 불러일으킬 수 있을 것이라고 생각하게 되었다고 합니다. 인공지능 기술이 인간에게 제공해주는 서비스를 기회로 만들면 된다는 것입니다.