"우리가 딥페이크 (성착취) 음란물을 심각하게 바라봐야 하는 이유가 무엇이냐, 사람의 본질적인 인격과 관련되어 있기 때문입니다. 딥페이크 음란물은 누군가 특정인의 이미지·영상·음성을 활용하기 때문에 그 사람의 인격을 완전히 말살해 버릴 수 있습니다."
한국인공지능법학회 회장 맡고 있는 최경진 가천대학교 법학과 교수가 12일 서울 양천구 목동 방송회관에서 방송통신위원회·방송통신심의위원회·시청자미디어재단 주최로 열린 '딥페이크 성범죄영상물 대응 전문가 토론회' 발제를 통해 이같이 밝혔다.
최 교수는 △딥페이크 범죄에 대한 진입 장벽이 낮다는 점, △플랫폼과 결합해 무한정 확산이 가능하다는 점, △피해자 관점에서 완전 회복이 불가능하다는 점, △음란물의 진위 여부가 불명확한 상태에서 사실이라고 믿게 되는 점, △아동청소년과 관계된 점 등을 언급하며 "이것은 '표현의 자유'를 넘어서는 것"이라고 설명했다.
또 다른 발제자인 정필운 한국교원대 일반사회교육과 교수도 딥페이크 성범죄 영상물에 대해 "'인격권'과 '표현의 자유'의 균형을 생각할 때 '인격권의 침해' 차원에서 훨씬 중대하게 생각해 해결할 필요가 있다"고 말했다.
정 교수는 "정치적 소견을 얘기하는 '표현의 자유'는 굉장히 고도로 보호해야 하지만 상업적 표현인 광고는 정치적인 의사보다 낮은 수준으로 보호해도 된다는 게 헌법의 일반 이론"이라며 "성범죄 영상물을 만들어 유포하는 것은 굉장히 낮은 수준으로 보호해야 한다"고 주장했다.
그러면서 유럽연합(EU)의 '디지털서비스법', 영국의 '온라인안전법' 등을 언급하며 "'(성범죄 영상물을 포함한) 불법 콘텐츠에 대해 훨씬 더 강한 위험 평가를 해야 한다'는 의무를 부과하고 있다"며 "우리도 법을 바꾸는 용기 같은 게 필요한 시기"라고 덧붙였다.
정 교수는 또 국내 정보통신망법에 따른 '자율규제(제44조의 4)'와 관련해 "자율규제기구에 국내 사업자들은 다 들어와 있는 반면 해외 사업자(글로벌 사업자)들은 들어오지 않고 있다"며 딥페이크 논란의 주요 플랫폼인 텔레그램에는 자율규제가 실효성이 없다고 꼬집었다.
이어 "네이버, 카카오 같은 국내 사업자와 구글, 유튜브, 텔레그램 이런 사업자(해외 사업자)를 비교해 봤을 때 동등하게 다루도록 입법이 되더라도 실제로 글로벌 사업자가 법을 제대로 따르지 않으면 결과적으로 사업에 있어서 동등한 기회를 가질 수 없다"며 "글로벌 사업자들은 살아남고 국내 사업자들은 살아남지 못하는 결과가 발생"할 수 있다고 지적했다.
정 교수는 딥페이크 논란은 인공지능 기술에 따른 것이라며 국가와 기업의 기술적 대응도 중요하다고 했다.
토론회 참가자들은 딥페이크 성범죄영상물에 대한 사회 구성원들의 인식 전환 및 교육의 필요성을 강조했다.
문성환 시청자미디어재단 미디어교육정책부장은 경찰이 올해 검거한 불법 합성물 성범죄 피의자 가운데 10대가 251명(78.9%)으로 가장 많은 점, 청소년을 대상으로 한 AI 실태 조사에서 AI 사용의 주요 동기가 관심과 호기심(약 60%)이라고 응답한 점을 언급하며 "청소년뿐 아니라 국민 모두에게 딥페이크 기술의 악용 가능성을 인식시키고 스스로 윤리적 책임감을 갖도록 하는 것이 중요하다"고 했다. 이를 위해 딥페이크 성범죄 위험성에 대한 공공 캠페인, 교육 현장에서의 미디어 리터러시 교육이 더욱 강화되어야 한다고 했다.
문기현 서울디지털성범죄 안심지원센터장 역시 "이번 피해를 겪으면서 우리가 원론적으로 다시 생각해 봐야 할 것은 결국은 교육"이라며 "10대 피해자뿐 아니라 피해자의 부모들도 교육이 필요하다"고 했다. 이상룡 부산광역시교육청 장학관도 "딥페이크 성범죄영상물이 범죄라는 점에서 학부모들의 관심이 필요하다"고 했다.
전체댓글 0