이주의 기획 상품
🤚🏼폭주 멈춰! AI 콘텐츠 규제는 필요할까?
지난 5월 22일 페이스북, 트위터 등 SNS에 미국 국방부 청사 "펜타곤" 폭발 소식과 함께 검은 연기 이미지가 세계로 확산됐어요. 러시아 관영 매체와 유명 금융 뉴스 계정에서 해당 게시물을 공유하면서 미국 S&P500 지수도 잠시 영향을 받기도 했습니다.
AI로 제작된 가짜 이미지(출처=트위터)
그런데 사실 해당 이미지는 AI가 만들어낸 가짜 이미지였습니다.
😟폭주 중인 가짜 AI 콘텐츠
생성AI 기술이 고도로 빠르게 발전하면서 AI가 제작한 콘텐츠들이 최근 온라인 특히, 각종 SNS를 통해 우후죽순으로 배포되고 있어요. 펜타곤 폭발 가짜 이미지 뿐만 아니라 각국의 주요 인물이 등장하는 가짜 이미지, 영상도 많은데요.
AI로 제작된 가짜 이미지(출처=트위터)
명품 패딩을 입은 프란치스코 교황의 이미지, 조 바이든 미국 대통령을 비난하는 CNN 앵커 영상 등 AI가 제작한 허위 콘텐츠들이 공유되며 논란이 된 바 있습니다.
웃어 넘길 수 있는 정도의 콘텐츠도 많지만 주식 시장에도 영향을 미친 펜타곤 폭발 가짜 이미지 사례처럼 사회 전반에 혼란을 야기하는 수위 높은 콘텐츠 또한 늘면서 우려의 목소리는 커지고 있어요.
실제로 혼란을 방지하기 위해 국내외에서 규제 도입을 추진하고 있는데요. 우리나라의 경우 국회 이상헌 의원이 지난 22일 AI를 이용해 제작된 콘텐츠의 경우 그 사실을 의무 표기하도록 하는 '콘텐츠산업 진흥법 일부 개정법률안'을 발의했어요.
구글은 지난 10일 AI 생성 이미지의 모든 원본 파일에 '구글이 생성한 AI 이미지'라고 표시할 것이라 밝히기도 했죠. 미국과 EU에서도 AI 생성 콘텐츠에 대한 규제안을 검토 중입니다.
🎤브루노 마스가 부릅니다. "뉴진스의 하입보이"
AI 콘텐츠는 비단 사진이나 영상 뿐만 아니라 그림, 음악, 웹툰, 글 등 그 범주가 빠르게 확산**되고 있어요. 같은 **AI 생성 기술이지만 적용되는 분야와 대중의 반응은 천차만별인데요.
1️⃣그림, 웹툰
(출처=네이버 웹툰)
네이버 웹툰에서 연재 중인 ‘신과함께 돌아온 기사왕님’은 별점 2점대와 연이은 독자들의 혹평을 받으며 논란이 되었는데요. 해당 작품에 AI가 생성한 그림이 포함되었다는 의혹과 함께 다른 작품의 그림체와 유사한 부분들이 발견 됐기 때문입니다. 몇몇 독자들은 AI가 생성한 이미지 특유의 부자연스러운 점들까지 지적하기도 했죠.
2️⃣음악
유튜브 'WhoAmI AiCover'
최근 유튜브에서는 브루노 마스가 부르는 ‘Hype Boy’(원곡 뉴진스)가 업로드 3주 만에 100만 조회수를 넘겼어요. AI를 이용해 브루노 마스의 목소리로 구현한 것인데요. 해당 채널에는 에미넴, 마이클 잭슨 등 유명 아티스트의 목소리가 활용한 콘텐츠들도 업로드 되어 있어요. 대중들은 "가수 특유의 고음 처리 방식까지 디테일하게 묘사됐다"며 호평을 이어갔습니다.
유튜브 'Snapshot Edits'
한편 더 위켄드와 드레이크의 콜라보 신곡처럼 소개된 AI 생성 음악은 두 가수의 소속사인 유니버셜로부터 삭제 요청을 받기도 했습니다. 유니버셜 측은 “우리 아티스트의 음악을 이용한 생성형 AI 학습은 저작권법 위반”이라고 주장했죠.
3️⃣글, 대본
파업 시위하는 WGA 조합원(출처=동아일보)
지난 2일에는 할리우드 작가 1만 1500여 명으로 구성된 미국작가조합(WGA)가 영화·TV 제작자 연합(AMPTP)과의 임금 협상 불발로 전면 파업에 돌입했어요. 미국작가조합이 제시한 임금 협상안에는 AI를 활용한 대본 작성 및 수정, 재작성 금지 조건과 AI가 작가의 작업물로 학습할 수 없다는 조건이 포함되어 있었습니다.
🤖AI는 AI로 잡는다!?
생성 AI 기술이 양날의 검인 만큼 여론이 갈릴 수는 있겠습니다. 한 가지 분명한 점은 AI에 의한 저작권 침해 사례는 폭증하고 있다는 것인데요. 저작권이나 윤리 문제에 대한 대한 명확한 규정이 없기 때문입니다. AI가 허위 콘텐츠나 저작권 위반 콘텐츠를 제작하는 경우에 대한 제도도 당연히 마련되어 있지 않은 상황이에요.
(출처=각 사)
네이버 웹툰, 카카오 엔터테인먼트 등 저작권과 밀접한 관련이 있는 콘텐츠 기업들은 AI 콘텐츠 저작권에 대한 자체적인 가이드라인을 마련하기 시작했어요. 정부 또한 지난 5월 2일 국무회의를 통해 오는 9월까지 디지털 질서 확립을 위한 방안을 마련할 예정이라고 발표했지만 아직까지는 미비한 수준입니다.
사람이 제작했다고 판별된 이미지(출처=옵틱)
한편, AI 콘텐츠를 판별하는 AI가 개발되기도 했는데요. 🔗미국의 ‘옵틱’은 90% 확률로 ’이미지가 AI로 만들어졌을 가능성이 있다‘고 답해주는 사이트를 공개했어요. 인텔 또한 지난 11월 96%의 정확도로 AI로 만들어진 가짜 동영상을 판별하는 ‘페이크캐처’를 출시한 바 있죠.
