[핸드메이커 김서진 기자] 문화체육관광부는 한국저작권위원회와 함께 지난 4월 24일 위원회 서울사무소에서 'AI-저작권법 제도 개선 워킹그룹' 제3차 회의를 열고 AI 학습 시 저작물 활용 이슈를 논의했다.

이번 회의에서는 AI 학습 과정에서 발생할 수 있는 현행법상 저작권 침해 가능성과 함께, AI 기술 발전에 따라 새롭게 만들어질 수 있는 저작권 시스템에 따른 분야별 손익 등에 대한 내용을 쟁점으로 다뤘다.

충남대학교 법학전문대학원 이철남 교수가 언어와 이미지 모델을 중심으로 한 ‘생성 AI의 저작권 쟁점’을 발표하고, 전문가와 이해관계자들이 현행 「저작권법」 하에서 공정이용 조항을 활용해 AI 학습을 할 수 있는지, AI를 활용한 생성물이 저작권을 침해하거나 오픈소스 라이선스를 위반할 가능성이 있는지 등에 대해 의견을 나눴다.

AI 산업계 측의 솔트룩스 이경일 대표는 “인공지능 학습과 관련해 특정한 요건을 만족하는 경우에만 가능하도록 할 것이 아니라, 반대로 하지 말아야 할 것들을 명시할 필요가 있다”라며, “MP3 등 기술 발전에 따라 오히려 음악 분야 창작자들의 소득이 늘어난 것처럼, AI 기술도 현재 다소 혼란이 있을 수 있지만, 향후 시스템화되면 창작자의 소득이 늘어날 수 있다”라고 전했다.

창작자 측 한국문학저작권협회 김동현 사무처장은 반대로, “AI의 대세를 거스를 수는 없지만, 현재는 어떤 방식으로 저작권 침해가 이루어지고 있는지 기업 측이 정보를 제공하지 않으면 알 수도 없는 상황”이라며, “향후 AI가 정착되어 새로운 시스템이 구축되더라도, 음악 등과 달리 시·소설 등 어문 분야의 저작물도 소외되지 않도록 고려할 필요가 있다.”라고 우려하며, 세심한 정책적 배려가 필요하다는 점을 지적했다.

문체부 정책 담당자는 "기술 발전에 따라 저작권 제도 역시 지속적으로 변화해 왔다"라며 "AI를 강화하기 위한 학습에서부터 생성물의 산출 이후에 이르는 모든 과정에서 '저작권법' 상 쟁점이 발생하고 있는 만큼, 다양한 이해관계자와 전문가의 의견을 반영해 제도 개선 방향을 모색할 것"이라고 밝혔다.
 

AI가 사람 대신 뛰어드는 영역은 생각보다 더 빠르게 넓어지고 있다. AI가 쓰는 소설, AI가 그리는 그림, AI가 녹음하는 성우, AI가 쓰는 논문 등 사람의 머리와 손에서 나오던 창작물들이 이제는 컴퓨터를 통해 나오고 있다. 사람이라면 몇 시간, 며칠에 걸쳐 나올 작업물들이 이제는 빠르면 5분, 길어도 한 시간이면 뚝딱 나올 정도다. 컴퓨터를 잘 다루는 사람이라면 그 시간은 점점 더 짧아져 간다. 사람이 하루에 하나를 그렸다면, 이제 컴퓨터로는 하루에 50여 개도 그리는 시대가 왔다.
 

기업이 AI를 쓰는 건 시간도 절약하고, 인건비도 줄일 수 있고 여러모로 사람을 쓰는 것보다 훨씬 더 이익이 크기 때문이라는 이유가 많다. 돈 대비 큰 효율을 바라는 기업이라면 AI를 마다하지 않는 것이다. 일반 사용자도 마찬가지다. 대화형 인공지능 서비스인 챗GTP는 사용자가 어떤 질문을 하고, 어떤 상황을 만들든 그에 맞게 대답하고 이후의 상황까지 만들어 간다.

특정 캐릭터를 선택하면 마치 그 캐릭터와 실제로 대화하는 기분을 낼 수 있다. 마치 인공지능 뒤에 사람이 숨어 있는 것 같은 느낌을 준다. 실제 존재하는 사람과 오래 대화할 능력도 없고 용기도 없어도 챗GTP와는 얼마든지 오래, 길게 대화할 수 있다. 겉으로만 본다면 AI는 너무나도 편리한 시스템 그 자체다. AI 생성기에 어떤 미션을 주든 결과물을 손쉽게 낼 수 있기 때문이다.

머리를 싸매고 앉아 몇 시간을 고민해야 나오는 좋은 문장들이 얼핏 보면 챗GTP에서도 흔히, 그리고 10분도 안 되어 나오는 것처럼 보인다. 포토샵에서 스케치를 하고, 색감을 고민하고, 붓 칠 하나하나를 고민할 수많은 시간 대신 몇 분이면 유려한 붓 칠이 돋보이는 수준 높은 그림들을 얼핏 보면 생산해 내는 것처럼 보인다. 겉으로만 본다면 말이다. 컴퓨터가 부지런해질수록 사람은 자연히 게을러지고, 무신경해지고, 무감각해진다. AI에는 사실 저작권이라는 치명적인 단점이 있지만 당장 AI가 생산해 내는 엄청난 결과물들에 사람들은 막상 정신을 못 차리고 있을 뿐이다. 
 

4월 13일, EU의 초기 합의에 따라 챗GTP처럼 생성형 AI 도구를 배포하는 기업은 시스템 개발에 사용된 모든 저작권 자료를 공개해야 한다는 규제안을 추진한다고 로이터 통신이 보도했다. EU는 2년 전부터 이 새로운 기술을 규제하기 위해 법 초안을 작성하기 시작했고, 현재 법안의 최종 세부 사항을 논의할 예정이다. 이 법안에 따르면 AI 도구는 위험도에 따라 최소(minimal)부터 제한(limited), 높음(high), 수용불가(unacceptable) 등의 등급으로 분류된다.

우려가 되는 등급에는 허위사실 유포, 차별적인 언어 등이 포함된다. 챗GTP나 미드저니와 같은 생성형 AI 도구를 배포하는 기업은 시스템 개발에 사용된 저작권에 대한 자료도 공개해야 한다. 챗GPT의 개발사 오픈 AI의 샘 올트먼 CEO는 StrictlyVC(실리콘밸리 뉴스레터)와의 인터뷰에서 ChatGPT의 기반이 되는 GPT 시리즈의 최신 버전인 GPT-4에 대한 소문에 대해 "사람들이 실망할 것"이란 말을 했다. 인터뷰에서 그는 GPT-4 출시에 대해 구체적인 시기를 밝히지 않았고, "안전하고, 책임감 있게 만들 수 있다는 확신이 들면 언젠가는 출시될 것이다"라며 말을 아꼈다.

그는 첨단기술 전문 매체인 뉴아틀라스(newatlas)와의 인터뷰에서 초인공지능이 우리를 죽일 수도 있겠냐는 질문에 "그럴 가능성은 어느 정도 있다. 그것을 인정하는 게 정말 중요하다. 우리가 그 문제에 대해 이야기하지 않거나, 잠재적인 현실로 취급하지 않는다면 문제가 생겼을 때 해결하기 위한 충분한 노력을 기울일 수 없기 때문이다"라며, "조금도 무섭지 않다는 건 미친 짓이다. 나 역시 두려움을 느끼는 사람들에게 공감한다"는 말을 남겼다. 

챗GTP는 사용자들이 사용하는 빈도가 높아질수록 축적하는 정보 또한 많아진다. 즉 잘못된 정보를 수많은 사용자들이 마음먹고 학습시킨다면 잘못된 정보를 사람들이 제대로 된 정보로 오인할 수 있고 심지어 그릇된 정보가 정설이 될 수도 있다. 허위사실 유포 또한 얼마든지 가능하다는 치명적인 단점이 존재한다. 사람이 AI를 어떻게 쓰느냐에 따라 좋은 방향으로, 또는 더 나쁜 방향으로도 나아갈 수 있다는 얘기다. 
 

북미 최대 IT 온라인 매체 '테크 크런치'는 창의력의 한계를 뛰어넘기 위한 도구로 AI를 도입한 홀리 헨든(Holly Herndon)과 요트(YACHT) 같은 뮤지션들을 소개했다. YACHT는 14년간 음악을 AI에 학습시켜 그 결과를 합성해 앨범 'Chain Tripping'을 발매했고, 홀리 헨든은 누구나 자신의 목소리로 딥페이크 음악을 자유롭게 만들 수 있는 웹사이트 Holly+'를 만들었다.

'Future of Music Coalition' 디렉터 케빈 에릭슨은 테크 크런치와의 인터뷰에서 "중요한 건 동의의 문제다"라는 말을 했다. AI 자체가 사람들의 작업물을 동의 없이 무단 도용해 쌓이는 정보의 향연이다. 많은 아티스트들은 자신의 음악들이 AI가 생성하는 음악의 토대가 되고 있다는 것조차 모르는 경우가 많다. 그래서인지, 유니버설 뮤직 그룹(UMG)과 같은 주요 레이블은 AI 사용에 반대하는 입장을 표명했다.

UMG 관계자는 "우리는 아티스트에게 음악 무단 사용을 방지하고, 플랫폼이 아티스트와 다른 제작자의 권리를 침해하는 콘텐츠를 수집하는 것을 막기 위해 노력할 도덕적이며 상업적인 책임이 있다"고 전했다. UMG 측은 AI로 생성된 음악의 인기가 높아지는 것에 대해 "모든 이해 관계자가 아티스트의 창의적인 표현의 편에 서길 원하는지, 아니면 가짜와 사기가 난무하고 아티스트의 정당한 보상을 거부하는 편에 서기를 원하는지 의문이다"고 밝혔다. 
 

아일랜드 성우인 레미 미셸 클라크는 지난 1월 예상치 못한 곳에서 그의 목소리와 흡사한 목소리를 발견한다. 'Revoicer.com'의 "올리비아"라는 여성의 목소리였다. 이 사이트를 이용하는 고객은 월정액만 지불하면 수백 가지의 다양한 목소리를 이용할 수 있고 인공지능 지원 도구를 통해 광고 음성, 교육 낭독, 책 내레이션 등 원하는 대로 목소리를 변형할 수 있다.

'Revoicer.com'은 아시아계로 보이는 백발의 여성 사진과 함께 '올리비아'라는 인물을 광고했다고 한다. '깊고 차분하며 친절한 목소리, 오디오북에 딱 맞는 목소리입니다'라는 문구와 함께. 그러나 미셸 클라크는 38세의 갈색 머리칼을 지녔고, 올리비아와 전혀 닮지도 않았다. 곧 재생 버튼을 누르자 '안녕하세요, 제 이름은 올리비아입니다'라는 자신의 목소리가 삐걱거리며 흘러나왔다.

그는 WP와의 인터뷰에서 '너무나 기괴하다'라는 말을 했다. 'Revoicer' 측은 마이크로소프트와 라이선스 계약을 맺고 미셸 클라크의 샘플에 제한 없이 접근할 수 있는 권한을 부여받아 목소리를 사용했다고 밝혔다. 미셸 클라크는 마이크로소프트 검색 엔진인 '빙'의 아일랜드 버전을 녹음한 적이 있다.
 

전문가들은 성우와 기업이 계약 시 계약서에는 기업이 성우의 목소리를 무한히 변형하여 사용할 수 있고, 심지어 다른 사람에게 판매할 수 있도록 허용하는 세부 조항이 눈에 확 띄지 않게 포함되어 있는 경우가 더 많다고 지적한다. 미셸 클라크 또한 자신의 목소리에 대한 법적 보호를 받기가 어려운 상태였던 것도 크다. AI 음성이나 텍스트는 저작권 조항에 다루어지지 않기 때문. 

이후 WP가 Revoicer에게 연락을 취하자 몇 시간 후, 회사 측은 사이트에서 해당 음성을 삭제했다고 알려 왔다. Revoicer 측은 이메일을 통해 "우리가 책임을 지겠다"며, "다만 (미셸 클라크의)상황에 대한 우리의 책임은 없다"고 덧붙였다. 미셸 클라크는 WP에 "얼마나 많은 회사들이 제 목소리와 제 일, 제 생계를 고려하지 않고 이런 짓을 하고 있을까"라고 물었다. 그는 아직도 제 3의 사이트에서 자신의 목소리를 판매하고 있는 건 아닌지, 걱정된다고 밝혔다. 

캐나다 출신 성우 베브도 비슷한 일을 겪었다. 그는 어느날 아이들에게 틱톡에서 엄마의 목소리가 들렸다는 연락을 받는다. 그는 많은 일을 했지만 틱톡에서 내레이션을 한 적도 없고 모기업인 바이트댄스로부터 돈을 받은 적도 없었다. 그러나 그는 틱톡에 업로드된 고양이 동영상의 내레이션, 맥도날드의 햄버거 광고 등에서 자신의 목소리를 발견할 수 있었다.

그는 2018년 한 고객의 의뢰를 받아 번역 앱에 사용할 목소리를 녹음하는 일을 했다. 당시 틱톡의 내레이션처럼 모노톤의 스타일로 작업을 했고 계약서에서도 다른 회사에 이 목소리를 판매할 수 있다는 조항은 없었다고. 베브는 2021년 바이트댄스를 고소했고, 얼마 지나지 않아 틱톡은 앱에서 그의 목소리를 삭제했다. 베브는 아직도, 자신의 허락 없이 자신의 목소리가 복제된 것에 대해 불쾌하다는 입장을 밝혔다.
 

지적재산권 전문가인 밴더빌트대 로스쿨 대니얼 J. 게르바이스 교수는 현재 미국의 법이 미셸 클라크나 베브처럼 목소리를 빼앗긴 사람들에게 별 도움이 되지 않는다고 말한다. 미 연방의 저작권법은 개인의 목소리를 보호하지 못하고 있고 주마다 또 법이 다르다.

결국 성우들이 인터넷에서 자신의 목소리가 어떻게 사용되는지를 알아야 하고 계약서의 세부 사항에 세심한 주의를 기울이는 수밖에 없다. 많은 성우들이 노조에 가입되어 있지 않기 때문에 성우들이 자신의 목소리에 대한 권리를 영구적으로 보장해야 한다는 조항을 꾸준히 요구해야 하는 것도 있다.  
 

AI로 인한 저작권 문제에 골치를 썩는 것은 일러스트레이터들도 만만치 않다. 지난 4월 11일 글로벌 테크 전문지 'rest of world'는 AI로 인해 일러스트레이터들이 겪는 고충에 대해 자세히 다루었다. AI 일러의 질이 높아지면서 많은 일러스트레이터가 스테이블 디퓨전, DALL-E 2와 같은 AI 이미지 생성기로 인해 일자리를 잃고 있다.

'rest of world'에 따르면 한 중국인 프리랜서 일러스트레이터는 게임 일러스트를 그릴 때마다 약 많게는 1,000달러까지 받는다고 한다. 일러스트 한 장을 완성하는 데 일주일이 걸렸으며 포토샵에서 스케치를 하고 윤곽을 다듬고 색 작업을 하는 등 세심한 작업이 필요했지만 2월부터 그는 이런 일자리가 줄어들어 갔다고 말한다. 신체의 비뚤어진 부분을 수정하는 작은 작업을, 원래 작업비의 1/10만 받는다고.

한 일러스트레이터는 익명을 요구하며 'Rest of World'에 "우리의 생계 수단이 갑자기 사라졌다"고 전했다. 인간이 수십 년에 걸쳐 생성한 방대한 데이터를 학습한 알고리즘이 예술가를 대체한다는 것에 대해 그는 '비열하다'고 말한다. 그럼에도, 그는 생산성을 높이기 위해 자신의 그림을 이용해 AI 프로그램을 훈련시킬 예정이다. 그는 "내가 최고 수준의 아티스트라면 AI를 쓰지 않겠지만, 그래도 나는 먹고 살아야 한다"고 밝혔다.

일러스트레이터들은 기업에서 생산성을 높이기 위해 AI 이미지 생성기를 사용하도록 권장한다고 말한다. 예를 들어 사람이 그린 캐릭터 스케치를 바탕으로 AI 이미지 생성기가 옷과 액세서리 등을 추가해 그림을 그리는 식이다. 한 게임 회사에서 일하는 일러스트레이터는 원래는 하루에 한 장면, 또는 하나의 캐릭터를 작업했지만 이제는 AI로 인해 하루에 40개 이상을 작업해야 한다고 말한다. 그는 AI 이미지 생성기를 없애버리고 싶다며, 해고에 대한 두려움이 동료들의 경쟁을 더 치열하게 만들고 매일 야근을 하게 만들었다고 토로했다. 
 

게임 커뮤니티에서 네티즌들은 AI로 만든 일러스트를 '인공예술의 디지털 시체'라고 비난한다. 캐릭터 일러스트, 팬아트 등에 부자연스러워 보이는 부분이 있는지를 집요하게 찾아낸다. 일러스트레이터들은 AI 이미지 생성기 자체가 아직 인간의 능력에 미치지 못한다고 지적한다.

실제로 레이아크는 <디모 2>의 3.0 버전 티저 이미지에서 인물의 오른쪽 손가락이 6개로 보이는 이미지를 공개해 네티즌들의 비판을 받았다. AI로 생성된 이미지들은 어딘가 조악하고, 인체가 이상하며, 특히 손이나 머리칼 같은 세심한 부분은 그냥 뭉개거나 이상하게 변형되는 모습을 보인다.

손가락이 6개였던 이미지는 추후 5개로 다시 바뀌었지만 사람들의 반응은 싸늘하다. 애초에 AI로 자신의 그림을 학습시키는 아티스트들을 이해할 수 없다는 입장이다. 엄연히 게임 일러스트를 작업하고 판매하는 게임사들인데 사용자들 입장에서는 그저 게으르고, 성의가 없어 보일 수밖에 없다. 
 

지금의 AI는 누구의 그림인지도 모르는 수많은 그림들을 무단으로 가져다 쓰는 상황이라 아무리 자신의 그림을 학습시킨다 해도 결과물에는 결국 다른 그림들 또한 무작위로 섞여 있다. 자연히 AI로 생성되는 그림들은 자신의 그림, 누구의 것인지도 모를 남의 그림이 뒤섞인 혼종이 될 수밖에 없다. 마치 요리사로 치면 수많은 연구 끝에 탄생하는 자신의 요리가 아닌, 다른 사람들의 레시피를 가져다 인스턴트 소스를 뿌려 내보내는 요리와 다른 점이 있을까.

AI는 사람들의 노력으로 점점 더 똑똑해져 가고, 사람들을 위협할 정도로 발전하고 있지만 오히려 인간은 그 AI가 생산하는 결과물에만 기대하며 게을러지고 있다. '어차피 AI가 다 할 텐데', 라는 생각에 빠지면 어떤 인간이 엄청난 노력과 열정을 들여 창작을 하려고 하겠는가. AI는 무서운 속도로 나아가고 있지만 그 AI를 사용하는 인간은 순간의 편의를 위해 스스로 더 퇴보하고 있는 건 아닐까.