딥페이크 기술을 영상 산업에 적극적으로 활용하고 있는 현재, 보다 쉽고 간편하게 특수효과를 만들어 내거나 AR 영상을 제작하는 등 산업 전반의 가능성이 커지고 있다. 하지만 이러한 급진적 AI 기술은 명보다 암이 크다고 했을까. 최근의 딥페이크는 가짜 뉴스 제작이나 성범죄에 악용되며 많은 사회적, 윤리적 논쟁을 불러일으키고 있다. 하루가 다르게 발전하는 딥페이크 기술에는 분명한 사회적·기술적 브레이크가 필요하다.
 

딥페이크, 그게 뭔데?

딥페이크란? 

  인공지능 기술인 딥러닝(deep learning)과 ‘가짜’를 의미하는 단어인 페이크의 합성어로, 인공지능 기술을 이용하여 만든 진위를 구별하기 어려운 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 시기는 2017년으로, 미국 온라인 커뮤니티 Reddit의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 콘텐츠를 게재한 것에서 유래되었다. 이후 온라인 커뮤니티와 SNS를 중심으로 급속히 확산된 딥페이크 콘텐츠는 최근 영상 합성 제작 프로그램이 손쉽게 배포되면서 더욱 성행하고 있다. 

  딥페이크의 기반은 2014년에 등장한 머신러닝 기술인 ‘생성적 적대 신경망(Generative Adversarial Networks, 이하 GAN)’이다. GAN은 AI 모델을 생성 모델1과 분류 모델2로 구분하며 각 모델의 학습을 반복하는 과정을 거친다. 이러한 과정에서 생성모델과 분류모델은 서로를 적대적 경쟁자로 인식하며 상호 발전하게 된다. 생성모델은 실제와 유사한 데이터를 생성할 수 있게 되고, 분류모델은 데이터의 진위를 구별할 수 없게 되는 것이다. 이 과정을 반복하면서 원본 영상과의 구별이 거의 불가능할 정도로 정교한 합성 영상이 만들어진다.

딥페이크의 ‘명’

1) 의료 기술의 발전 

  요즘의 딥페이크는 질병을 학습하고 정확히 병명을 진단할 수 있도록 사용된다. 2019년 7월에 독일 뤼벡대 의료정보학연구소 연구진은 딥러닝 알고리즘의 이미지 패턴매칭 기능3을 활용하여 질병 진단용 인공지능을 개발했다. 이전에는 환자의 사생활 침해의 우려와 의료용 3D 이미지 합성에 필요한 비용 때문에 의료영상을 분석할 데이터가 충분하지 않았는데 딥페이크 기술로 이를 해결한 것이다.

2) 엔터테인먼트 산업의 발전 

  할리우드를 비롯한 영상 제작 업계에서는 딥페이크 기술로 특수효과를 만들어 내고 있다. 배우의 과거를 재현하거나 더는 실존하지 않는 인물을 그리고자 할 때 배우를 그 특정 인물과 닮아 보이게 만드는 것에 이용한다. AI 스피커, AI 챗봇 서비스를 앞다퉈 내놓고 있는 IT업계에서도 ‘사람 같은 AI’의 이미지와 목소리를 만드는데 주력하는 중이다. 이에 따라 딥페이크의 진화 버전인 ‘디지털 더블’ 기술로 만든 가상 인플루언서들도 잇따라 등장하고 있다.

  딥페이크 기술은 AR·VR 콘텐츠 제작에도 활용되고 있다. 미국 플로리다에 있는 Dali 박물관(The Dali Museum)은 미국의 광고사인 Goodby, Silverstein & Partners(GS&P)와 협업해 몇십 년 전에 작고한 예술가를 되살려냈다. GS&P는 Dali의 영상을 수집한 후 머신러닝 기법을 활용해 표정 알고리즘을 분석했다. 이후, Dali와 신체적 특징이 유사한 대역 배우를 섭외해 배우의 얼굴에 Dali의 얼굴·표정을 합성하고 Dali와 비슷한 성우의 목소리를 입혔다. 전시회 관람객들은 실물 크기의 키오스크 속에 등장하는 Dali와 촬영하고, 대화하는 등 AR Dali의 안내를 받으며 작품을 감상할 수 있다.

  이렇듯 분명한 도입 초창기의 ‘명’에도 불구하고 최근에는 왜 ‘암’만 부각 되는 것일까? 그건 아무래도 기술의 효율이 탁월하다 할지라도 한 사람의 삶과 죽음, 개인과 집단의 이익 목적 실현을 위한 딥페이크의 악용, 나아가 정치적으로 사용되어 거짓된 정보를 통해 대중을 선동하는 것이 국제적 불안을 조성하기까지, 그 암이 명을 뒤덮을 만큼, 걷잡을 수 없이 커져 버렸기 때문 아닐까?

딥페이크, 뭐가 문제야?

무엇이 진짜고, 무엇이 가짜일까?

“가장 큰 문제는 모든 게 ‘가짜’로 인식되고, 부정될 수 있단 사실이다. 무엇이 진짜이고 또 아닌지 객관적으로 분별할 수 없다면 자유 민주주의에 대한 실질적 위협이 된다.” 

  대선을 앞둔 한국에서 딥페이크는 무시하지 못할 위협이다. 가령 출마자의 사진을 다른 동영상에 합성해, 하지도 않은 말을 한 것처럼 꾸미거나, 하지도 않은 행동을 한 것처럼 만들 수도 있다. 여기에 인공지능 기반 음성 합성 기술이 더해지면 실제 해당 정치인의 얼굴과 목소리로 내세운 정책과 반대되는 발언을 한 것처럼 만들어 낼 수도 있다. 똑같이 합성한 얼굴에 말투나 버릇, 주변 행동까지 덧입히면 더 사실적으로 꾸밀 수 있기 때문인데, 텍스트로만 전달되는 가짜 뉴스보다 더 무서울 수밖에 없다. 실제로 미국 인기 TV쇼 ‘브레이킹 배드(Breaking Bad)’에 미국 도널드 트럼프 대통령을 교묘하게 편집해 넣은 딥페이크 영상이 65만 조회 수를 넘기며 논란이 된 바 있다.

  과거에도 역사를 왜곡하려는 시도가 있었지만, 지금처럼 딥페이크를 통해 정교하고도 빠르게 대규모로 가짜 영상을 만들어 낼 수는 없었다. 또한, 전쟁 무기를 만들려면 엄청난 자금과 투자 및 연구가 필요하지만, 인공지능은 프로그래머 한 사람만 있으면 그에 맞먹는 국제적 위력을 만들어 낼 수 있다. 딥페이크를 통한 가짜 뉴스의 정치적 선동을 경계해야 하는 가장 큰 이유이다.

일상을 위협하는 무기로 돌변하다?

  딥페이크 포르노는 가장 대표적인 딥페이크의 폐해로 지목된다. 현재 딥페이크 성범죄 피해자의 99%는 연예계 종사자이다. 2가지 머신러닝을 실행 후 감지할 수 없을 때까지 학습을 수행하므로 데이터가 많을수록 완성도가 높기 때문이다. 하지만 지난 N번방 사건 당시 일반인 대상의 딥페이크 포르노가 제작 및 유통된 사실을 통해 더는 유명인에게만 해당하는 이야기가 아님을 알 수 있다. 당시 ‘박사방’·‘N번방’ 같은 텔레그램 비밀방에서는 걸그룹, 여배우, 여성 아나운서는 물론 평범한 여성과 미성년자의 얼굴을 음란 영상의 여성 몸과 정교하게 합성한 ‘딥페이크’ 공유가 속수무책으로 이어졌다.

  지난해 9월 28일 국회부의장인 김상희 의원이 방송통신심의위원회에서 제출받은 자료에 따르면 성적 허위영상 차단‧삭제 건수는 2020년 6월부터 12월까지 548건 수준이었으나 다음 해 2021년 9월까지는 1408건으로 2.5배 이상 증가했다. 범죄자들은 SNS와 채팅 메신저 등으로 일반인 또는 연예인들의 사진과 개인정보를 받아 성적 허위 영상물을 제작·판매 및 유포한 것으로 나타났다.

 “엄마, 나 00인데...”

  영상과 음성을 동시에 위조한 초현실적인 컨텐츠가 제작 가능해짐에 따라 AI 기술 중 가장 주목받고 있는 적대 신경망을 활용한 ‘음성변조·생성’ 기술의 악용 가능성 우려가 커지고 있다. 실제로 지난 2019년 3월 영국의 한 에너지기업에서는 딥페이크 음성조작을 통해 걸려온 전화에 상사의 목소리로 거액을 송금하라는 지시를 받고 3억 원을 사기당하는 사건이 발생하기도 했다.

  기존 보이스피싱과 달리 대상의 가족관계 및 사회적 네트워크를 파악해 지인의 영상과 음성까지 묘사한 스피어피싱 범죄가 만연할 것이라는 예상이다. 지난해 2월 SBS ‘그것이 알고 싶다’ 방송에서는 20대 실험 참가자 세 명이 각자의 부모에게 그들의 얼굴이 합성된 가짜 영상을 보낸 뒤 신용카드 정보를 요구하는 실험을 진행했다. 마치 자식이 사고를 당해 병원에 입원한 것처럼 꾸며낸 영상을 보내 놀란 노년층들이 개인정보를 의심 없이 보내게끔 유도한 셈이다. 영상을 받은 부모들은 “카드 번호를 누구한테 불러줘? 엄마랑 지금 통화하자”, “너 아닌데, 아들 맞아? 어느 병원?” 등의 질문으로 의심하는 기색을 보이면서도 세 명 중 두 명의 부모가 신용카드 사진을 전송했다. 자식이 걱정돼 혹시나 하는 마음에서다. 세 명 중 두 명이 속을 정도로 딥페이크 기술은 정교했다.

나날이 발전하는 딥페이크에 제동을 걸어줄 해결책으로는 무엇이 있을까?

딥페이크에 제동을 걸어줄 무언가가 필요해

콘텐츠에 ‘블록체인’이란 이름표 붙여보자

  딥페이크의 진위를 감지하기 위한 디지털 포렌식 기술에 투자가 지속 중이나, 생성적 적대 신경망은 자체 훈련을 통해 이를 회피하는 방법도 학습할 수 있다. 이를 해결하기 위해 급부상하고 있는 블록체인이 있다. 블록체인은 참여자 간에 일치된 데이터를 공유하는 플랫폼으로 정의할 수 있다. 일치된 데이터를 참여자 간에 공유하고 참여자가 이러한 데이터에 무결성을 보증하기 때문에, 데이터 조작으로부터 안전하다. 그뿐만 아니라, 데이터 이력 추적에도 활용할 수 있다. 블록체인은 신뢰도가 높은 데이터를 공유하기 때문에, 참여자는 데이터의 이력을 쉽게 추적할 수 있다. 블록체인의 이러한 특징은 딥페이크 악용에 대응할 수 있다. 콘텐츠의 출처를 블록체인으로 기록하면 콘텐츠를 변형하더라도 진위를 파악할 수 있다. 한 마디로, 콘텐츠에 식별 기술을 덧붙이는 셈이다.

  페이스북, 구글, 아마존 등 글로벌 플랫폼도 딥페이크 기술의 악용을 저지하고자 나섰다. 페이스북과 아마존은 2019년 9월에 Microsoft, MIT, 옥스퍼드대학, 코넬 공과대학 등 전 세계 유수 대학의 인공지능 전문가들과 손을 잡고 딥페이크 감지 기술 경연 대회인 Deepfake Detection Challenge(DFDC)를 개최하며 블록체인과 같은 딥페이크 동영상 데이터셋을 이용하여 영상 해독 알고리즘을 개발하였다. 이렇듯 페이크 감지를 위한 기술투자가 지속되고 있지만, 아직 초보적 수준이라 피해를 방지하기 위해서는 강력하고 시의적절한 제재 법안 마련이 병행돼야 한다.

세부적인 법제적 처벌이 필요해.

  딥페이크를 통해 가장 많이 발생하는 범죄가 성범죄인 만큼 이 분야에 관련된 법이 가장 먼저 제정되었다.

국내의 경우 N번방 사건에 대한 국회 동의청원 결과로 딥페이크 성폭력 처벌법이 시행되었지만, 이 법안에는 이미 피해자가 상당한 피해를 입은 뒤의 후속 조치에 불과하다는 지적이 존재한다. 또한, 법 조항에 딥페이크 영상물을 구매 및 소유, 시청한 사람들에 대한 처벌 규정은 존재하지 않는 점도 허점으로 꼽힌다. 법 조항의 이러한 허술함을 증빙하듯 특별법이 엄연히 제정되었음에도 작년 ‘딥페이크 영상 제작·유포자를 강력히 처벌해 달라’는 청와대 국민청원은 국민 30만 명 이상 동의를 얻었다. 이처럼 딥페이크 성범죄의 근절은 여전히 어려운 상황이다. 나아가 수법이 매번 진화하는 만큼 그 제작 기술을 막지 못한다면 가공물이 다크웹 등으로 퍼져나가 ‘제2의 N번방 사건’이 발생할 가능성이 크다.

  이에 따라 AI를 포함한 지능정보기술을 악용한 범죄피해를 막기 위해서는 기술에 대한 규제가 필요하다는 지적이 제기됐다. 현행 ‘지능 정보화 기본법’ 제31조와 제60조에 따르면 지능정보기술이 사람의 생명과 신체의 안전을 저해하면 이를 제한하고 필요할 경우 국가가 그 기술을 비상 정지할 수 있다. 현재까지 딥페이크가 사람의 생명 또는 신체에 긴급한 위해를 가하는 등 규정을 위배한 사례는 없지만, 악용 범죄는 계속 이어지고 있어 현실적인 개선책이 필요한 상황인 만큼 정부도 협의체를 구성해 초기에 기술 규제를 강화해야 한다.

  또한, 음성학습을 통한 보이스피싱은 기존 전자금융거래법 제9조(‘13년 5월) 외 처벌규정이 없기에 법제 강화를 위한 정부의 조기검토도 필요하다. 지난 2019년 일반 보이스피싱 피해 건수가 3.8만 건(6398억원)에 달하는 만큼, 딥페이크가 보이스피싱에 악용될 경우 피해는 더욱 커짐이 예상되기 때문이다. 일반인의 경우 영상이나 목소리를 온전하게 위조할 정도로 수집 가능한 데이터가 많지 않아 아직 우려할 상황은 아니지만, 향후 늘어날 수 있는 디지털 금융 범죄에 대비한 보다 세부적인 법제적 대비가 필요하다.

  나아가 제도적으로 딥페이크 영상이나 음성 등에 대하여 표시 의무를 부과하여 소비자나 이용자들이 이를 분별할 수 있도록 도와주는 것도 딥페이크 악용 범죄를 예방할 수 있는 근본적 방안인 만큼 정부는 나서서 검토해야 한다.

모든 기술에는 명과 암이 공존한다. 딥페이크 기술도 쓰이는 의도에 따라 명과 암이 달라질 것이다. 딥페이크가 사실을 조작하고, 무고한 사람을 공격하는 강력한 도구가 될 수 있음은 분명하다. 이에 제동을 걸어 악용을 방지할 필요성은 기술 사용에 있어 필수 불가결의 조건이다. 하지만 이를 유용한 도구로 사용하는 방법 또한 잃어서는 안 된다. 딥페이크 기술이 우리 사회에 가져온 ‘암’에 대한 경각심은 가지되, 기술 발전을 통해 가져올 ‘명’도 함께 고려해야 한다는 뜻이다.

전현영  leonieji120gmail.com

<저작권자 © 홍익대교지편집위원회, 무단 전재 및 재배포 금지>