AI 생성 이미지 구별 방법

AI가 만들어내는 이미지가 점점 정교화되면서 사람이 촬영한 이미지와 기계가 만들어낸 이미지를 구별하는 것이 어려워지고 있습니다. 이들을 구별하는 방법이 있을까요? 앞으로 관련 기술은 계속 발전해 나가겠지만 적어도 현재 기준으로는 어느 정도 구별할 수 있는 방법이 있습니다.

 

 

손이나 발 등이 부자연스러운 경우

AI 기술이 사진을 만들어낼 때, 사람의 손가락을 묘사하는 것은 아직은 잘 하지 못하는 것 같습니다. 미드저니나 스테이블디퓨전 등이 만들어내는 이미지를 보면 사람 손가락이 한 손에 열개씩 있는 경우도 있습니다. 또 사람 손이 부자연스럽게 교차되거나 휘어있는 경우도 있습니다. 얼마 전 바이럴화 되었던 교황님의 사진도, 그냥 보기에는 너무나도 사실적이었지만 두 손을 자세히 보니 크기가 상이했고 오른손이 물병을 쥐고 있는 모습이 부자연스러웠으며 (손 뒤에 물병이 있기는 하나 실제로 손으로 물병을 쥐고있는 것처럼 보이지는 않는 모습) 손가락이 부자연스럽게 합쳐져있었던 것이 단서가 되어 해당 이미지가 AI의 생성물이라는 것을 알 수 있었습니다. 이렇게 자세히 보았을 때 신체가 다소 부자연스럽게 그려져 있다면 AI가 만든 이미지라고 의심해볼 수 있겠습니다.

 

출처: 미드저니/레딧 미드저니 커뮤니티

출처: 미드저니/레딧 미드저니 커뮤니티

출처: 스테이블디퓨전/프롬프트헌트

 

중력을 초월하는 경우

AI가 합성한 사진을 보면 중력의 법칙이 적용되지 않는 모습을 하는 경우도 있습니다. 아래 사진을 보시면 교황님이 차에 앉아있긴 한데, 팔을 어디에 걸쳐놓은 것인지가 명확하지 않아 보입니다. 팔이 걸쳐진 모습 자체나 팔의 각도 등은 자연스러워 보이지만 자세히 보면 팔은 어디에도 걸쳐져있지 않고 붕 떠있습니다. AI는 학습한 데이터를 합성하여 새로운 이미지를 생성하는 데엔 탁월한 능력을 보이지만, 인간의 기본적인 구조나 중력의 법칙까지 이해하고 있는 것 같지는 않습니다. 그나저나, 더 자세히 보니 차 문이 아랫쪽만 열려있고 윗쪽은 창문이 닫혀있는 것처럼 보이기도 하네요. 그리고 문짝은 어디로 간 걸까요.

출처: 미드저니/레딧 미드저니 커뮤니티

 

의미 없는 글자가 적혀있는 경우

미드저니와 같은 AI에게 사진이나 로고 등을 만들어달라고 했을 때, 이미지 안에 적힌 글자를 보면 대체적으로 실제 존재하지 않는 단어이거나 알파벳들이 무의미하게 랜덤으로 나열되어있는 경우가 많습니다. 아래 예시의 경우가 그렇습니다. 과일 주스에 대한 로고를 만들어달라고 한 경우 무작위 알파벳으로 된 회사명을 기재해 놓았고, 해리 왕자 부부가 슈퍼마켓에 방문한 모습을 그린 아래의 이미지의 경우에도 천장에 붙어있는 알림판이나 옷의 로고 등을 보면 의미 없는 글자가 적혀있습니다. 모음과 자음이 적절하게 배치되어 있지도 않아 (TDEE TT AD, YIULYY 등) 읽어보는 것도 쉽지가 않습니다. 글자를 포함하는 이미지에 있어서는 글자 영역을 한 번 확인해보는 것이 좋겠습니다. 물론 관련 기술이 지속적으로 발전하고 있으니 조만간 해결될 수 있는 문제일지도 모르겠지만요.

출처: 미드저니/레딧 미드저니 커뮤니티

출처: 미드저니/레딧 미드저니 커뮤니티

 

사진 속 요소가 제각각인 경우

AI가 생성한 사진을 보면, 큰 그림만 봐서는 알 수 없지만 요소들을 하나 하나 뜯어보면 알고 보니 내용이 다 제각각인 경우도 있습니다. 아래 이미지를 보시면 트럼프를 잡고있는 경찰이 여러 명인데 각자 쓰고 있는 모자가 모두 제각각입니다. 어떤 분들은 각진 모자를 썼고 어떤 분들은 캡을 썼네요. 캡도 자세히 보면 뒷쪽 분은 알파벳이 적힌 캡을 쓰고 있고, 앞쪽 분들은 하얀 로고가 그려진 캡을 쓰고 있습니다. AI가 나름 디테일에 신경쓰고자 노력한 흔적일 수는 있겠지만, 인간이 보았을 때엔 '일반적'으로 볼 수 있는 상황이 아닌 것입니다. 이렇게 디테일 요소를 살펴보았을 때 앞 뒤가 맞지 않는 경우, 또는 일반 상식을 벗어나는 요소가 포함되어 있는 경우, AI가 생성한 이미지로 의심해볼 수 있겠습니다.

 

출처: 미드저니/Eliot Higgins 트위터