'딥페이크' 당신이 본 그 영상 진짜 맞아?
2019.12.10. 10:02https://m.post.naver.com/viewer/postView.naver?volumeNo=27043656&memberNo=4732370384 읽음
[IT 이야기]
당신이 본 그 후보는 가짜야
미국이 내년에 있을 대선을 앞두고 걱정이 이만저만이 아니에요. 바로 딥페이크 기술로 만든 영상 때문.
딥페이크가 뭔데?
딥페이크(Deepfake)는 딥 러닝(Deep Learning, 인공지능이 축적된 데이터를 가지고 스스로 학습하는 기술)과 페이크(Fake, 모조품)의 합성어로, 동영상 합성 조작 기술을 뜻해요. 딥페이크 기술을 이용하면 다른 사람의 동영상에 연예인이나 유명 정치인들의 얼굴과 목소리를 합성, 실제로 하지 않은 말이나 행동을 한 것처럼 만들 수 있어요.
2016년 미국 대선에서 가짜 뉴스(Fake News)가 큰 논란거리였다면, 2020년 미국 대선에는 이 딥페이크 영상이 뜨거운 감자로 떠오를 것이란 전망이에요. 딥페이크 기술을 사용해서 상대 후보자를 음해하려고 악의적으로 조작한 가짜 동영상이 퍼질 수 있기 때문이죠.
실제로 작년에 버락 오바마 전 대통령이 트럼프 대통령을 비난하는 동영상이 퍼진 적이 있는데, 이 영상이 엄청난 파문을 불러일으켰어요. 나중에 이 영상이 딥페이크에 대한 경각심을 주려고 한 영상 제작자가 오바마 얼굴에 자신의 목소리를 입혀 제작한 것으로 알려졌죠.
딥페이크 기술, 얼마나 구별하기 어렵길래 이렇게 걱정하는지 확인해보실까요.
영상 보고 놀라셨죠? 이렇게나 자연스럽게 구현되다니!
이렇게 딥페이크 영상은 합성하려는 사람의 고화질 영상이나 사진, AI만 있으면 뚝딱 만들어낼 수 있고, 현재 기술로는 그 진위 여부를 판별하기가 어려워요.
딥페이크 영상을 만들 땐 두 개의 AI를 이용하는데요. 한 AI가 영상을 합성하고, 다른 AI가 영상 진위 여부를 자체적으로 판별해요. 검사를 맡은 AI가 '이 영상은 가짜가 아니야'라고 판단할 때까지 합성을 반복하기 때문에 매우 정교하다고 해요.
딥페이크, 어디에 쓰이는데?
원래 고도화된 딥페이크 기술은 원본과 가짜를 구분하는 뛰어난 학습능력을 가지고 있어서 X선과 CT, MRI의 자료를 보고 암의 징후나 신체의 변화를 정확히 찾아내 의료 진단 도구로 활용돼요.
이외에도 VR, AR 등 엔터테인먼트나 교육 콘텐츠에도 활용될 수 있죠. 최근에는 사람과 구별하기 힘들 정도로 완벽하게 구현해낸 AI 아나운서가 등장해 화제가 되기도 했어요. 굳이 아나운서가 뉴스에 출연하지 않아도 언제든지 뉴스를 만들어내는 게 가능해진 거죠.
반대로 악용되는 사례도 많아요. 유명 연예인의 얼굴이 포르노에 합성돼 유포되거나, 지인의 목소리를 흉내 낼 수 있기 때문에 피싱 사기에도 이용되기도 해요.
그래서 어떻게 해결한대?
빅 테크 업체들이 딥페이크를 적발하고 방지하기 위해 나서고 있어요. 구글은 지난 20일 구글의 자체 정치 광고 규정을 갱신하면서 앞으로 정치 광고를 포함한 다른 광고에서 딥페이크의 사용을 금지한다고 헀어요. 트위터 또한 조작된 사진, 동영상, 오디오를 찾아내 이건 가짜야! 하고 표시하는 방안을 검토하고 있다고 해요.
페이스북, 마이크로소프트, 아마존은 대학과 힘을 합친대요. 다음 달부터 딥페이크 탐지 챌린지라는 프로그램을 가동할 예정인데요. 사람들의 오해를 불러일으킬 수 있는 미디어나 콘텐츠를 적발하고 방지하는 새 방안을 연구할 예정이래요. 기술이 발전할수록 가짜와의 싸움은 더욱 치열해질 것 같네요.
by. 민주
놓치고 간 지난주 이슈, 쉽게 정리해서 받아보고 싶다면? ☞ 줍줍을 구독해주세요 ♥
줍줍 뉴스레터
팔로워 21
이번주 당신이 바빠서 흘린 이슈, 줍줍이 주워다 드려요🏃 줍줍 뉴스레터 구독하기 https://page.stibee.com/subscriptions/46179
팔로잉https://m.post.naver.com/viewer/postView.naver?volumeNo=27043656&memberNo=47323703
'딥페이크' 당신이 본 그 영상 진짜 맞아?
[BY 줍줍 뉴스레터] [IT 이야기]당신이 본 그 후보는 가짜야 미국이 내년에 있을 대선을 앞두고 걱정이 ...
m.post.naver.com
'과학,수학,기술' 카테고리의 다른 글
| 악귀가 저건물에 산다고?하프늄 가저와 (0) | 2023.07.06 |
|---|---|
| [RNA - 1 -] RNA(RiboNucleic Acid)란 (0) | 2023.07.04 |
| [차이나 NOW]응답하라 1984? 중국판 빅브라더 (0) | 2023.06.28 |
| 시진핑의 중국, 1984 조지 오웰의 '빅브러더'의 세계로[출처] 시진핑의 중국, 1984 조지 오웰의 '빅브러더'의 세계로|작성자 미래사회 (0) | 2023.06.28 |
| 하층민들 국뽕주의 심하다 (0) | 2023.06.20 |