AI가 쓴 글과 사람이 쓴 글을 100% 정확도로 판별할 수 있을까?
할 수 있는지 없는지를 떠나서 이것을 구분하는 것이 왜 중요한 문제인가 먼저 생각해보자. 요즘 각종 보고서나 기사, 자기소개서에 AI를 활용하는 사례들이 늘고 있다. 어떤 사람이 AI를 이용해서 10분만에 글을 쓰고, 다른 사람은 하루종일 시간을 들여 글을 썼다고 했을 때 AI를 사용한 사람에게 보상이 돌아간다면 억울할 것 같다. 이를 방지하기 위해 ChatGPT가 쓴 글인지 아닌지를 판독하는 AI 서비스도 있다. 심지어 더 억울한 상황은 손수 글을 작성해서 냈는데 그 글이 AI가 생성한 글이라고 판별되는 경우이다. 여러모로 사회적으로 억울한 사람들이 나올 수 있는 상황이므로, AI가 쓴 글을 제대로 판별해낼 수 있는가는 중요한 문제라고 할 수 있다. (참고로, 지금 쓰고 있는 이 글은 사람 필자의 뇌에서 손가락 타이핑을 거쳐 직접 쓰고 있는 글이다.)
일단 AI가 쓴 글인지 사람이 쓴 글인지를 구분하고 싶다면 어떻게 해야할까? 둘 사이의 차이점을 찾아보면 될 것 같다. AI가 쓴 글과 사람이 쓴 글에는 어떤 차이점이 있을까?
AI가 생성한 글은 사람에게 받은 프롬프트에 맞춰 추론하고 생성한 것이다. 프롬프트에 이 글을 써야하는 배경과 동기에 대해 충분히 맥락을 제공하지 않았다면, AI는 뜬구름 잡는 소리들을 많이 할 가능성이 크다. 사람은 자신이 의도와 목적을 정할 수 있다. 사람마다 동기도 다르다. 그렇기 때문에 AI가 쓰는 글에 비해 사람이 쓴 글에는 명확한 의도와 동기가 담길 여지가 크다. 즉 AI가 생성한 글과 사람이 쓰는 글에는 이러한 본질적인 차이가 나타나는데, “뭘 말하고 싶은 건지 모르겠다”는 느낌이 든다면 AI가 쓴 글일 확률이 높다. 화려하고 멋있는 문장으로 가득하지만, 정작 하고 싶은 말이 무엇인지, 왜 그런 말을 하는지 잘 모르겠을 때 AI일 확률이 높아진다.
챗GPT, 클로드, 제미니 등 각각의 생성형 AI마다 글을 작성하는 패턴이 다르다. 거꾸로 말하면 이러한 패턴을 탐지할 수 있다면, 인위적으로 패턴을 바꾸는 것도 가능하다. 패턴을 탐지하는 것은 AI가 이미 잘하는 일이며, 그렇게 AI가 쓴 글을 판별해주는 AI 서비스들이 등장한다. 패턴 인식과 변형은 양방향으로 작용할 수 있다. 때문에 패턴을 탐지하고, 이를 다시 변형해 AI가 생성한 글을 사람이 쓴 것처럼 바꿔주는 AI도 나타난다. 서로를 속고 속이며, 텍스트 생성은 계속해서 정교해져간다. 결과적으로 AI가 생성한 글을 판별하는 것, 사람이 쓴 글을 AI가 생성한 글로 오판하는 것, AI가 쓴 글을 아닌 것처럼 바꾸는 일이 모두 가능하다. 어쩌면, 지금은 그나마 구분이 가능할지 모르지만, 앞으로는 정말 구분하기 힘들어질지도 모른다.
솔직히 말해서 글 생성 분야는 아직 사정이 나은 편이 아닌가 싶다. 그림 그리는 영역에서는 지브리 스타일로 그려달라 하면 완벽하게 그려준다. 사람들에게 알려지지 않은 지브리 그림이 있고, 이를 꺼내와 AI가 그린 건지 지브리에서 그린건지 구분하라고 한다면, 출처를 알기 전까지는 기술적으로 구분할 수 있는 방법은 없어 보인다. 코딩은 어떨까? 코드는 100% 정확도로 사람이 짠 것인지 AI가 만든 것인지 구분하는 것이 가능할까? 사실 구분이 되지 않는 경지에 이르게 된다면, 구분 자체는 무의미해질 수도 있다. 이미 유튜브 썸네일이 AI가 만든 그림들로 넘쳐나고 있는 상황에서, 썸네일을 AI로 만들었는지 사람이 만들었는지가 중요할까.
AI를 사용하는 것과 인간이 직접 만든 것의 구분과 경계가 점차 모호해져가고 있다. 하지만 결과물을 놓고 판단을 하는 것은 사람의 몫이다. 누군가는 AI가 생성한 글이라도 자신에게 도움이 되는 글이라고 판단했다면 가치를 느낄 것이고, 또 누군가는 AI가 생성한 글에서 아무런 매력을 느끼지 못해 가치를 전혀 느끼지 못할 수도 있다. 이를 어떻게 받아들일 것인가는 우리가 앞으로 더 고민해봐야할 문제가 아닐까.
