이탈리아가 챗GPT를 차단시킨 이유는? 다른 나라는?

이탈리아가 '인기 챗봇'인 챗GPT를 금지시켰습니다. 서구권에서는 최초입니다. 국가 차원에서 먼저 금지시킨 것도 처음입니다. 개인 정보 보호 규정의 위반이 의심된다는 것이 이유였습니다. 대체 어떤 상황인 것인지, 그리고 이와 관련하여 다른 나라들의 움직임은 어떤지 살펴보겠습니다.

 

 

이탈리아, 챗GPT 사용 금지

이탈리아의; 데이터 보호 감시 기관인 '이탈리아 데이터 보호 워치독(Italian Data Protection Watchdog)' 측에서 챗GPT가 유럽의 엄격한 개인정보 보호 규정의 위반이 의심된다며 챗GPT의 조사를 시작했고, 이에 따라 이탈리아 전국에서 챗GPT의 이용을 잠정 중지 시켰습니다. 챗GPT와 같은 대규모 언어 모델의 특성 상 알고리즘 훈련을 위해 대규모의 개인 데이터를 수집하고 학습시키는데, 이를 위해 개인 데이터를 무단 사용하는 것에 대한 법적인 근거가 없다는 게 이유였습니다. 챗GPT가 작년 11월에 출시되었으니 이제 6개월차인데, 그동안 GPT 모델을 교육시키는 데 사용한 데이터를 어떤 근거로 수집했고 어떤 방식으로 학습시켰으며, 그 안에 담긴 개인 정보를 어떻게 구분하여 따로 보호하는지에 대해 공개된 정보가 없는 것도 맞긴 합니다. 오픈AI사에 따르면 기존 모델인 GPT-3까지는 위키피디아나 Common Crawl 등에서 텍스트로 된 데이터 즉 누구나 접근하여 분석할 수 있는 개방형 데이터만 가져다 이용했다고 하긴 했지만, 그 외에 어떤 데이터가 실제로 학습에 쓰였는지, 개방형 데이터라 하더라도 어떤 근거로 그 데이터를 가져다 썼는지에 대한 근거는 없었던 것입니다.

위 감시 기관의 결정에 따라 이탈리아 전역에서 챗GPT의 이용이 금지되었으며, 기관의 명령에 따라 오픈AI사 측에서는 이탈리아의 IP 주소에 대한 챗GPT 접근을 차단시켰습니다. 그리고 유료 챗GPT Plus 이용자들에게는 결제 금액도 환불해주기로 했습니다. 이번 상황으로 오픈AI사 측에서는 앞으로 20일 내에 관련 규정 준수를 위해 어떤 조치를 취할 것인지 답변을 내놓아야 합니다. 명확한 답변을 내놓지 못하는 경우 최대 2천 만 유로 또는 연간 총 매출액의 4%에 달하는 벌금이 부과될 상황입니다.

 

다른 나라들의 상황은?

영국

위와 같이 이탈리아가 움직임을 보인 시점에 영국에서도 인공지능 관련 규제 계획을 발표했습니다. 영국 측에서는 아마도 인공지능과 관련하여 새로운 규제를 만들어내기 보다는 기존 규제를 인공지능 기술에 적용하는 방식을 취할 것으로 보입니다. 그리고 챗GPT와 같은 인공지능 도구가 데이터를 더욱 책임감있게 사용하게 하면서 동시에, 데이터 사용에 대한 결정은 그 데이터를 만든 사용자에게 있도록 하는 방향이 될 예정입니다.

 

유럽 연합

그외 유럽 연합에 속한 유럽 국가들도 AI 기술 관련 새로운 법안을 내놓고 있습니다. 데이터 학습 알고리즘에서 발생할 수 있는 각종 차별을 없애는 데에 초점이 맞춰져 있긴 합니다. EU의 데이터 보호 규정과 함께 적용되어 각종 인프라와 교육, 법안 집행, 사법 시스템 등에 있어 인공지능의 사용 자체를 상당히 제한시킬 예정이라고 합니다. 다만 이탈리아가 관련 정책을 내놓기 전에 먼저 챗GPT 이용 자체를 금지시키는 것을 보면서 유럽 연합에서도 법안을 만들기 전에 먼저 소송부터 진행할지를 논의하고 있다고 하니, 앞으로 유럽의 상황이 어떻게 흘러갈지는 지켜봐야 하는 상황입니다.

 

미국

미국의 경우 아직 인공지능 기술을 감독하는 규제가 따로 있지는 않습니다. 국가 과학 기술 연구소(National Institute of Science and Technology) 측에서 인공지능 시스템을 사용, 설계 및 배포하는 회사들의 잠재적 피해 관리를 위한 지침을 내놓기는 했지만 권고사항 정도이기에 지침을 따르지 않아도 처벌은 없는 상황입니다. 다만 얼마 전 어느 비영리 연구단체 측에서 GPT-4가 개인정보 보호 및 공공 안전에 위협적이라는 의견과 함께 불만을 제기한 상황이라 최악의 경우 챗GPT의 상업적 배포가 중단될 여지도 없지는 않습니다.

 

중국

중국에서는 이미 챗GPT를 사용할 수 없었던 상황입니다. 중국의 경우 중국 측에서 공식 차단한 것이 아닌, 오픈AI사 측에서 중국 사용자의 가입을 허용하지 않은 것이었다고 합니다. 참고로 중국 외에도 북한과 러시아, 이란의 IP 주소도 차단되어 있습니다. 챗GPT는 이용할 수 없었지만 바이두와 알리바바, 징동닷컴 등 중국의 여러 대기업들이 챗GPT와 유사한 서비스를 내놓고 있기는 했습니다. 관련한 규제로는 얼마 전까지만 해도 딥페이크 관련 규제만 있었지만 얼마 전 인공지능의 알고리즘 운영 방식에 대한 규제도 도입했다고 합니다. 인공지능 기술을 보유한 기업들이 앞으로는 운영 알고리즘에 대한 세부 정보를 관련 기관에 제출해야 한다는 내용입니다. 언어 모델에도 얼마든지 적용될 수 있는 규제이니, 앞으로 이들 규제가 관련 기업들에 어떻게 적용될지는 마찬가지로 지켜봐야 하겠습니다.