최종편집: 2020년05월28일19시24분( Thursday ) Sing up Log in
IMG-LOGO

[온누리]딥페이크


기사 작성:  이종근
- 2020년 04월 09일 14시33분
IMG
AI(인공지능)기술을 활용한 신종 음란물 제작·유통이 사회적 문제가 되고 있는 가운데 이를 근절시키기 위한 법률이 지난 국회 본회의를 통과했다. 박대출 국회의원(진주갑, 미래통합당)은 국회 본회의에서 ‘성폭력범죄의 처벌 등에 관한 특례법 일부개정안’(약칭 딥페이크법)이 통과되었다고 밝혔다. 이를 통해 온라인상에 무분별하게 범람하고 있는 딥페이크 음란 영상물이 근절될 것으로 보인다. 개정안에 따르면 반포 등을 할 목적으로 성적 욕망 또는 수치심을 유발할 수 있는 영상 또는 음향 등을 제작 하거나 반포한 사람은 5년 이하의 징역 또는 5천만원 이하의 벌금에 처하도록 하고 있다.

지난해 국정감사에서 지적한 바와 같이 최근 딥페이크 기술을 이용하여 음란 영상물 제작 등 반사회적 이용이 증가하고 있고, 선거에 악·이용될 수 있는 사례 등이 발생하고 있어 문제가 되고 있다고 했다.

딥페이크(Deepfakes)는 인공지능 딥 러닝(deep learning)과 페이크(fake·가짜)의 합성어이다. 딥페이크는 인공지능 기술 중 하나인 ‘생성적 적대 신경망(GAN, Generative Adversarial Networks)’ 기술을 이용한다.

이 신경망 기술은 이미지의 진위 여부를 판단하는 ‘감별자’, 알고리즘과 이미 지를 만들어내는 ‘생성자’ 역할을 하는 두 가지 알고리즘으로 구성된다. 두 알고리즘이 서로 대립하는 과정을 통해 원본과의 오차를 줄여, 진짜인지 가짜인지를 판단하기 힘든 콘텐츠를 생성한다.

인공지능 기술의 발달로 인해 2D 영역에서만 가능하던 콘텐츠의 재창조가 3D 영역에서도 가능하게 됐다. 오바마 전 미국 대통령이 트럼프 대통령을 비난하는 동영상이 공개돼 큰 이슈가 된 적이 있다. 미국의 한 온라인 매체인 ‘버즈피드(BuzzFeed)’에 올라온 해당 영상은 딥페이크의 위험성을 알리기 위해 제작한 영상으로 알려졌다. 이처럼 인공지능으로 만든 가짜 영상은 진위 여부를 가려내기 어렵기 때문에 이로 인한 피해를 막기 위한 또 다른 인공지능 연구가 필요하다. 미국 국방부 소속 방위고등연구계획국(DARPA)에서는 가짜 영상을 제작하고 식별하는 기술을 개발하고 있으며, 국내에서는 과학기술정보통신부가 주최한 ‘인공지능 R&D 챌린지 대회’에서 가짜 이미지를 찾아내는 경연이 진행되기도 했다. 지난해 9월 발표된 네덜란드 사이버 보안 연구 회사 딥트레이스(Deeptrace) 연구 보고서에 의하면 딥페이크 영상의 96%는 음란 영상물이고 이중 25%가 한국 여성 연예인이라고 보도된 바 있다.

인공지능과 같은 기술의 발달은 우리 생활에 편리함을 주기도 하지만, 딥페이크와 같이 기술을 악용하는 사례도 종종 찾아볼 수 있다. 가짜 뉴스, 가짜 영상 등에 대해 경각심을 가지고 지켜보는 자세가 필요하다.

/이종근(문화교육부장)






■ 이종근 기자의 최근기사

Leave a Comment

Your email address will not be published. Required fields are marked *

CAPTCHA Image [ 다른 문자 이미지 ]
"