작성일 : 24-10-06 10:48
[189호] 시선 하나 - 딥페이크 범죄 해결을 위한 제언 ; 인권교육이 필요하다
 글쓴이 : 사무국
조회 : 159  
딥페이크 범죄 해결을 위한 제언 ; 인권교육이 필요하다.

‘인연’편집위원회


# 딥페이크(deepfake)란?

딥페이크(deepfake)란 단어는 인공지능(Artificial Intelligence ; 인간의 지능이 가지는 학습, 추리, 적응, 논증 따위의 기능을 갖춘 컴퓨터 시스템)이 다량의 데이터를 반복・학습하면서 처리 능력을 향상시키는 기술인 ‘딥러닝(deep learning)과 가짜를 의미하는 ‘페이크(fake)’의 합성어다. 2017년 말부터 사용된 이 용어는 부정적인 의미를 포함해 인공지능 기술을 사용한 인물 이미지 합성 기술을 뜻하는 용어로 통용된다.

1990년대 영상 속 인물의 대사를 수정하고 이에 맞춰 입모양을 움직이게 하는 정도였던 딥페이크 기술은 2010년 후반 인공지능 기술이 발달하면서 실시간으로 다른 사람의 표정을 흉내 낼 수 있게 되었다. 그리고 2020년에 들어서면서 모바일폰에서 딥페이크 영상을 만들 수 있는 애플리케이션이 출시되면서 대중화된다.

# 딥페이크 기술의 특징 및 활용

딥페이크 기술을 이용하면 영상을 프레임(frame ; 영화 필름 한 장에는 연속적인 동작의 한순간이 정지화면으로 기록된다.) 단위로 합성할 수 있어 비슷한 인물의 경우 다양한 데이터를 반복 학습시킨다면 가짜를 구분할 수 없을 정도의 자연스러운 결과물을 만들 수 있다.

사람의 표정을 만드는 근육은 80여 개가 된다. 자연스러운 표정이 되려면 이 중 20개 정도의 근육이 제대로 표현되어야 한다. 말하면서 나오는 표정을 자연스럽게 합성하려면 아무리 전문가라 할지라도 상당한 시간과 노력이 요구된다. 그런데 딥페이크 기술을 이용하면 합성작업이 간단하다. 영화계나 패션업계, 인테리어, 산업기계 배치 등 산업현장에서는 딥페이크 기술을 활용한 지가 오래다.

딥페이크 기술은 코로나 시대를 거치면서 세계인의 삶 속으로 급속히 스며들었다. 코로나 상황에서 오프라인 패션쇼가 불가능해지자 발렌시아는 딥페이크 기술을 활용한 온라인 패션쇼로 진행한다. 모델이 직접 옷을 갈아입지 않아도 딥페이크 기술이 모델을 대신해 여러 옷을 입고 런웨이를 워킹할 수 있도록 만들어 주었다. 2019년 4월 유명 축구선수인 데이비드 베컴은 9개 언어로 말라리아 퇴치 캠페인 영상을 만들었다.

하나의 언어로 영상을 만들고 딥페이크 기술을 사용하여 입 모양까지 바꾸면서 8개 국어로 된 영상을 추가한 것이다.

가상 인간도 등장한다. 유족들의 아픔을 달래주기 위해 고인은 가상 인간으로 만들기도 하고, 고인이 된 유명 가수의 공연을 만들어 옛 추억을 불러오기도 한다. 김광석 등 가수들의 인공지능 버전 노래는 유튜브에서 얼마든지 찾아볼 수 있다. 유튜브에서 ‘밤양갱’을 검색하면 박명수, 오혁, 잔나비, 이수현, 안예은, 아이유, 로제, 태양, 지드래곤, 이효리, 양희은, 송가인 등 많은 가수들의 버전이 나온다. 모두가 인공지능 딥보이스 기술을 이용해 만든 커버 버전이다. 제목 뒤에 ‘AI 커버’라는 단어가 붙어있다. 장기하가 만들고 비비가 부른 ‘밤양갱’의 커버 버전은 하나의 놀이가 되었다.

사진과 영상만 있다면 합성영상 제작에 걸리는 시간은 5~10분 정도면 된다. 눈, 코, 입은 물론 안경테와 그림자까지 가능하다. 실제 사람인지 합성된 가상 인물인지 구분은 거의 불가능하다. 코딩교육과 인공지능에 대해 교육을 받은 초등학교 고학년 정도면 딥페이크 영상을 만들 수 있는 사이트에 접속하여 쉽게 만들 수 있다. 그러다 보니 많은 사람들이 재미있는 놀이로 접근한다. 대표적인 예가 2024년 7월 테슬라모터스의 최고경영자 일론 머스크가 올린 AI 패션쇼다. 패션쇼의 모델은 교황을 비롯하여 김정은, 시진핑, 푸틴, 트럼프, 빌게이츠 등 세계 각국의 지도자들과 유명 기술계 인사들이다. 이 영상은 4시간 만에 4,000만 뷰를 기록했다.

# 전 세대를 아우르는 ‘인권교육’이 필요하다.

앞에서 말했듯이 코딩을 학습하고 인공지능에 대한 지식을 습득한 10대들은 딥페이크 기술에 대한 이해도가 높고, 이를 활용한 영상 제작을 놀이로 접근한다. 어릴 때부터 스마트폰을 가지고 놀면서 디지털문화와 친숙한 이들의 미디어 활용 능력은 다른 어떤 세대보다 뛰어나다. 또한 딥페이크 영상물 제작프로그램을 제공하는 사이트 대다수가 가입 연령제한이 없이 접근이 쉽다. 그러다 보니 허위영상물 범죄율에서도 10대가 압도적이다.
경찰청 통계에 따르면 올해 1~7월 딥페이크 영상물 관련 협의로 입건된 피의자 중 10대의 비율은 73.6%로 압도적이다. 딥페이크 범죄에 따른 처벌논의도 가속화되고 있다. 그런데 과연 처벌범위가 확대되고 처벌 수위가 높아지면 딥페이크 기술을 활용한 범죄가 줄어들까?

AI를 활용한 딥페이크 기술은 더욱 빠르게 발전할 것이며, 디지털세대라고 불리는 아이들이 성장해가면서 사회는 다양한 분야에서 활용될 것이다. 모든 기술과 도구들은 사용 방법이나 용도에 따라 쓰임이 달라지는 양면성이 있다. 딥페이크 기술 자체가 문제가 아니라 사용자에 대한 교육이 중요한 이유다.

2025년 고등학교 1학년부터 시행 예정인 2022년 교육과정 개정 내용을 보면 언어, 수리, 디지털 분야에서 기초소양 능력을 갖추도록 하고 있다. 여기에서는 디지털 소양에 대하여 ‘디지털 지식과 기술에 대한 이해와 윤리의식을 바탕으로, 정보를 수집・분석하고, 비판적으로 이해・평가하여 새로운 정보와 지식을 생산・활용하는 능력’이라고 정의되어 있다. 디지털 윤리교육의 필요성을 명시해 놓고 있지만 시기가 2025년부터다. 대상도 고등학교 1학년부터라니 한참 늦은 감이 있다.

기술이 빠르게 발전하고 있다. 기술의 발전 속도에 따른 사회환경도 빠르게 변화하고 있다. 이로 인한 사회공동체의 갈등도 심화되면서 다양한 문제들을 야기하고 있다. 사회환경의 빠른 변화 속에서도 사회공동체 유지를 위한 기초적 연대 의식은 어떻게 형성시켜낼까? 그 대안은 ‘인권교육’이지 않을까?

인권교육의 주 내용은 자신의 권리를 보장받고, 타인의 권리를 존중하며, 연대에 의한 권리 옹호의 정신이다. 초등학교부터 ‘인권교육’을 받으면서 ‘인권 감수성’을 키워왔다면 타인의 얼굴 사진을 가지고 성범죄 영상을 만드는 것이 얼마나 타인의 권리를 침해하는지 충분히 알 수 있었을 것이다. 초등교육과정에서부터 코딩교육을 배우고 있다. 동시에 성인들을 위한 디지털 교육도 이루어지고 있다. 전 세대에 걸쳐 새로운 기술을 접하고 새로운 문화를 배우고 있다. 여기에 ‘인권교육’이 함께해야 한다. 나와 너, 우리라는 사회구성원들의 연대를 위해, 사회공동체를 유지하기 위해…