기사 작성: 이종근 - 2020년 04월 09일 14시33분
[온누리]딥페이크
지난해 국정감사에서 지적한 바와 같이 최근 딥페이크 기술을 이용하여 음란 영상물 제작 등 반사회적 이용이 증가하고 있고, 선거에 악·이용될 수 있는 사례 등이 발생하고 있어 문제가 되고 있다고 했다.
딥페이크(Deepfakes)는 인공지능 딥 러닝(deep learning)과 페이크(fake·가짜)의 합성어이다. 딥페이크는 인공지능 기술 중 하나인 ‘생성적 적대 신경망(GAN, Generative Adversarial Networks)’ 기술을 이용한다.
이 신경망 기술은 이미지의 진위 여부를 판단하는 ‘감별자’, 알고리즘과 이미 지를 만들어내는 ‘생성자’ 역할을 하는 두 가지 알고리즘으로 구성된다. 두 알고리즘이 서로 대립하는 과정을 통해 원본과의 오차를 줄여, 진짜인지 가짜인지를 판단하기 힘든 콘텐츠를 생성한다.
인공지능 기술의 발달로 인해 2D 영역에서만 가능하던 콘텐츠의 재창조가 3D 영역에서도 가능하게 됐다. 오바마 전 미국 대통령이 트럼프 대통령을 비난하는 동영상이 공개돼 큰 이슈가 된 적이 있다. 미국의 한 온라인 매체인 ‘버즈피드(BuzzFeed)’에 올라온 해당 영상은 딥페이크의 위험성을 알리기 위해 제작한 영상으로 알려졌다. 이처럼 인공지능으로 만든 가짜 영상은 진위 여부를 가려내기 어렵기 때문에 이로 인한 피해를 막기 위한 또 다른 인공지능 연구가 필요하다. 미국 국방부 소속 방위고등연구계획국(DARPA)에서는 가짜 영상을 제작하고 식별하는 기술을 개발하고 있으며, 국내에서는 과학기술정보통신부가 주최한 ‘인공지능 R&D 챌린지 대회’에서 가짜 이미지를 찾아내는 경연이 진행되기도 했다. 지난해 9월 발표된 네덜란드 사이버 보안 연구 회사 딥트레이스(Deeptrace) 연구 보고서에 의하면 딥페이크 영상의 96%는 음란 영상물이고 이중 25%가 한국 여성 연예인이라고 보도된 바 있다.
인공지능과 같은 기술의 발달은 우리 생활에 편리함을 주기도 하지만, 딥페이크와 같이 기술을 악용하는 사례도 종종 찾아볼 수 있다. 가짜 뉴스, 가짜 영상 등에 대해 경각심을 가지고 지켜보는 자세가 필요하다.
/이종근(문화교육부장)