인공지능의 악용 사례, 딥페이크 기술과 과제

얼마전에 성균관대학교 소프트웨어학과의 우사이먼 교수가 강연하는 EIRIC의 Webinar에 참여했다.
GAN은 학습데이터가 없을때 유용한 AI알고리즘이라는 아주 얄팍한 지식만으로 참여하기엔 내겐 어려웠지만
전반적인 동향 파악에는 도움이 되었고 추가적인 관심도 가지게 되었다.
아래 보고서가 내 수준에서 전반적인 정리를 할 수 있어서 간단히 요약해 본다.
역시 아직 연구중인 기술이라 대응기술은 정책과 윤리적인 방안밖에는 없는 듯하다.
보안은 영원한 칼과 방패인 것 같다. 


인공지능의 악용 사례, 딥페이크 기술과 과제
                                                                            -SPRI 소프트웨어정책연구소, AI정책연구팀 안성원 선임연구원-

[딥페이크(Deepfake)의 정의]
인공지능 기술인 딥러닝(deep learning)과 '가짜'를 의미하는 단어인 페이크(fake)의 합성어로, 인공지능 기술을 이용하여 진위 여부를 구별하기 어려운 가짜 이미지나 영상물을 뜻한다.

[딥페이크의 확산]
- 단순히 재미와 유머를 목적으로 하는 예도 있지만, 정치·사회 영역에서 가짜 뉴스를 퍼트려 혼란을 유발하거나, 특정 인물을 콘텐츠로 활용하여 음해하는 등 심각한 부작용을 초래
- 악의적으로 인스타그램의 여성 사진을 누드로 편집(Deep porn)하는 AI가 등장한 지 오래이며, 유명 인사(트럼프, 오바마, BTS 등)를 다른 사람으로 편집하는 인권침해 사례도 다수 발생
- 최근에는 러시아와 전쟁을 겪고 있는 우크라이나의 젤린스키 대통령이 등장하는 가짜 영상이 공개되어 화제
=> 딥페이크, 페이크 페이스(Fakeface)와 같이 인공지능(AI)을 활용하여, 진짜 같은 가짜를 만드는 이미지 합성 기술은 악의적인 기만행위로 사회 및 국가적인 혼란을 야기

[딥페이크를 만드는 알고리즘]
-  딥페이크에 활용되는 AI는 생성적 적대 신경망(GAN, Generative Adversarial Network)이라는 모델
  -> 두 개의 신경망이 서로 경쟁하면서 더 나은 결과를 만들어내는 강화학습 방식의 AI 기술
  -> 그럴듯한 가짜 이미지를 생성(Generative)하고, 생성 및 감별 기능의 두 개 모델을 서로 적대적 (Adversarial)으로 경쟁·학습시킨 인공신경망(Network)

[딥페이크의 최근동향]
-  GAN을 활용하여 AI가 사람의 피부뿐 아니라 머리카락까지 실제와 비슷한 이미지를 생성하는 수준에 이르러, 기술적 한계(Uncanny Valley)를 이미 뛰어넘은 것으로 판단
-  미국 UC버클리대와 영국 랭커스터대 공동연구팀은 실제 얼굴과 AI가 합성한 얼굴을 구별하는 실험을 통하여, 사람들이 AI가 합성한 가짜를 구별하지 못하며 오히려 가짜를 더 신뢰한다는 결과를 도출

[GAN의 긍정 활용 사례와 딥페이크 대응 사례]
<긍정 활용 사례>
- Adobe는 인물의 나이 및 감정 상태(표정 등)를 조절할 수 있는 AI(Neural Filter)를 개발하여 자사의 애플리케이션인 포토샵(Photoshop v22)에 탑재
- 구글은 AI를 통하여 공상과학(SF)영화 속의 가상 생명체를 실감 나게 제작할 수 있는 도구(Chimera Painter)를 개발 : 자체 GAN 모델(CreatureGAN)을 활용하여 생물의 구조적 특징을 학습하고 새로운 유형의 생물체를 사실적으로 표현하는 것이 가능
<딥페이크 대응 사례 : 딥페이크 영상 감지>
-  해외 : 미국 스탠퍼드대 HAI(Human-centered AI) 연구팀은 조작된 영상 속 인물의 입 모양과 음성 소리 간의 미세한 불일치를 81%(최대 96%) 수준의 정확도로 감지하는 AI 시스템을 개발
- 국내 : 정부는 ‘AI 학습용 데이터 구축 사업’을 추진하고 있으며, 2020년 세부 과제 중 하나로 ‘딥페이크 방지 영상 AI 데이터’를 선정

[대응방안]
-  GAN 기술을 올바르게 활용하기 위한 기술 및 제도적 대응이 필요
- 산·학·연 협동의 긍정적 AI 활용 연구·개발 과제를 적극 기획·지원해야 하며, 공공의 호혜적 가치를 실현하는 다양한 실험적 시도를 추진
- 지방자치단체와 협력한 생활 밀착형 AI 리빙랩(Living Lab.) 프로젝트를 추진하며, GAN을 활용한 다양한 과제를 기획·개발

[참고]
https://spri.kr/posts/view/23469?code=data_all&study_type=industry_trend
https://ko.wikipedia.org/wiki/%EB%94%A5%ED%8E%98%EC%9D%B4%ED%81%AC
https://www.eiric.or.kr/community/webinar_detail.php?Seq=82&totalCnt=74