대학신문방송국

꾸준히 발전하고 있는 딥페이크는 현대사회에 극적인 변화와 우리의 일상생활에 다양한 영향을 미치고 있다. 최근에는 허위 정보 유포와 디지털 성범죄 등 딥페이크 기술을 활용해 다양한 문제를 일으키며, 사회적 우려가 커지고 있다. 이에 따른 법적 규제와 처벌이 지속적으로 강화되어야 하며 사회 전반이 딥페이크 악용에 대한 경각심을 가져야 한다.

딥페이크란 딥러닝과 페이크의 합성어로, 2014년 이후 등장한 머신러닝 기술인 ‘적대적 생성 신경망(이하 GAN)’을 기반으로 발전되어왔다.GAN는 실제에 가까운 이미지나 사람이 쓴 것과 같은 글 등 여러 가짜 데이터를 생성하는 모델이다. 이를 이용한 기술들은 이미지를 생성해 낸다는 특성 때문에 미디어 산업에서 널리 쓰이고 있다.

지난 2020년 2월에 방영된 MBC 다큐멘터리<너를 만났다> 서는 딥페이크 기술과 AR 기술을 접목해 7세라는 이른 나이에 세상을 떠난 딸의 모습을 실제와 가깝게 만들어냈고, 죽은 소녀는 엄마와 가상현실에서 만날 수 있었다. 이어 같은 해 12월에 방영 된<AI 음악 프로젝트 다시 한 번>에서는 딥페이크 기술에 VA/AR, 음성 복원 등의 기술을 접목해 가수 故 김현식,故 김광석, 故 터틀맨 등 그리운 이들의 목소리를 다시 들을 수 있었다.

그뿐만 아니라, 2019년 7월 독일 뤼벡대 의료정보학연구소에서는 딥페이크 기술을 응용해 촬영된 CT, MRI, X-Ray 자료를 바탕으로 암의 징후와 이상 신호 등을 검출하는 기술을 개발했다. 이처럼 딥페이크 기술은 다양한 분야에서 긍정적으로 활용된다.

그러나 최근에는 딥페이크 기술을 활용한 디지털 범죄가 증가하면서 이 기술에 대한 부정적인 인식이 강하게 형성되고 있다. 그 시작점은 2017년 12월 미국 온라인 커뮤니티 레딧(Reddit)에 ‘Deepfakes’라는 아이디의 사용자가 올린 음란물에 유명 여배우의 얼굴을 합성한 게시물인데, 곧이어 유명 개발자 커뮤니티에 바로 구현할 수 있는 무료 API/SDK가 공유된 후 딥페이크 제작 애플리케이션과 웹사이트 등이 생겨나면서 누구나 쉽게 딥페이크 동영상을 이용할 수 있게 되었다. 이후 딥페이크 기술을 이용해유명인과 일반인을 대상으로 합성된 가짜 영상과 음란물이 제작되고 유포되는 등의 악용 사례가 최근까지 꾸준히 증가하고 있다.

대표적인 사례로는 유명인을 사칭한 딥페이크 투자사기 광고이다. 배우 송혜교와 조인성이 2차 전지 관련주 투자 열풍을 주도하며 일명 ‘배터리 아저씨’라고 불리는 박순혁 작가의자선 사업을 응원하며 투자를 유도했으나 이는 딥페이크 기술을 활용한 조작이었으며, 박순혁 작가도 자신은 광고와 무관하다고 밝혔다. 광고의 사기성을 인지하지 못한 투자자들은 유명인의 추천에 속아 약 6,600만 원을 사기 계좌에 이체한 것으로 드러났다.

또 다른 사례는 지난 8월의 ‘서울대 N번방 사건’을 기점으로 한다. 음란물에 여성의 얼굴을 합성・편집한 허위영상물을 생성·유포한다고 의심되는 단체 대화방이 대량으로 발견된 경우로, 이는 사회 전반에 큰 파장을 일으켰다. 이 대화방은 전국의 각 지역・학교별로 세분화된 대화방이 다수 만들어져 있고, 대화방마다 수천 명이 참여 중인 것으로 드러났다. 이들은 이른바 ‘겹지인방’이라는 명칭의 대화방을 따로 만들었는데, 이곳의 참가자들은 서로 같이 아는 특정 여성의 정보를 공유하고 딥페이크 영상물을 제작, 유포하는 등의 방식으로 성희롱하고 있었다. SNS에서는 딥페이크 불법 영상물이 만들어진 지역과 학교 명단도 공유되었다. 명단에 올라 있는 전국의중・고교와 대학교만 해도 수백 개소에 달하는 것으로 알려져 큰 충격을 안겼고, 이와 동시에 여성들의 불안은 커질 수밖에 없었다.

이처럼 딥페이크 기술 악용 사례가 매년 증가하자 페이스북과 구글,X(구 트위터) 등 글로벌 플랫폼도 딥페이크 기술 악용을 저지하고자 나섰다. 페이스북은 2019년 9월에 세계 여러 대학의 인공지능 전문가들과 손잡고 딥페이크 감지 기술 경연대회를 개최했으며, 구글은 3,000개의 딥페이크 영상을 촬영한 뒤 딥페이크 감지기술 연구에 제공하겠다고 밝혔다. X는 조작된 콘텐츠를 공유하지 못하게 하거나 조작된 콘텐츠가 허위임을 나타내는 링크를 삽입하는 등, 딥페이크 악용 사례를 방지하는 정책을 펼치고 있다.

국내에서도 지난 26일 딥페이크 성착취물을 소지·시청할 경우 최대 3년 이하의 징역 또는 3천만 원 이하 벌금에 처하는 이른바 ‘딥페이크 처벌법’이 국회 본회의를 통과했다. 또한 기존 법의 “허위 영상물을 ‘반포할 목적’으로 편집・합성 또는 가공한 자를 처벌한다”는 조항에서 ‘반포할 목적’이라는 단서 조항이 빠져 당사자의 의사에 반해 불법 합성물을 제작할 경우 목적과 관계없이 처벌할 수 있게 되었고, 성폭력방지법 제3조 국가 등의 책무에 ‘불법 촬영물 등의 삭제 지원 및 피해자에 대한 일상 회복 지원’항목이 신설・삽입되었다. 딥페이크 성범죄물 등에 대한 국가의 책임이 강화된 것이다.

이처럼 법적 규제와 기술적 대응이 강화된다 해도 악용은 계속될 것으로 예견된다. 따라서 SNS에 개인정보 공개를 최소화 하고, 의심스러운 통화 시 상대방을 확인하는 등의 개인적인노력이 필요하다. 비록 시간은 오래 걸릴지라도 사회 전체가 협력한다면 우리는 안전하고 신뢰할 수 있는 디지털 환경에서 살아갈 수 있을 것이다.

글 조혜원 수습기자