마크 주커버그가 데이터 도용을 인정하고 버락 오바마가 도널드 트럼프를 학대하는 영상이 꽤 오래전부터 인터넷에 돌고 있었다고?
이 비디오는 Deepfake라는 매우 진보되고 미래 지향적인 AI 기술의 결과입니다.
간단히 말해서 비디오용 포토샵 대안입니다. 한편으로는 실제 사람이 필요하지 않아 전자 미디어에 혁명을 일으킬 수 있습니다.
한편, 영상에서는 누구에게나 말을 하게 할 수 있어 자신의 신분을 심각하게 위협한다.
딥페이크 사용 깊은 학습 가짜 사건의 사진과 비디오를 만들기 위해 deepfake라는 이름이 붙었습니다. 기존 비디오의 얼굴을 바꿀 수 있을 뿐만 아니라 처음부터 새로운 프레임과 비디오를 생성할 수 있습니다.
딥페이크의 기원
광대 한 학술 연구 지난 몇 년 동안 사진 및 비디오 조작의 경계를 넓혔습니다. Deepfake는 또한 이러한 학술 연구의 결과입니다.
비디오 조작의 첫 번째 사례는 1997년에 보고되었습니다. 한 사람의 비디오가 다른 오디오 트랙에 포함된 단어를 말하도록 수정되었습니다. 를 이용한 안면 재생의 첫 사례였다. 기계 학습 기법.
2017년 버락 오바마 전 미국 대통령의 비디오가 다른 오디오 트랙과 일치하는 다른 단어를 말하도록 수정되면서 더욱 주목할만한 발전이 이루어졌습니다.
2018년 버클리 캘리포니아 대학교의 연구원들은 딥러닝을 이용한 페이크 댄스 영상. 이는 이전 작업이 얼굴에 국한되었던 것처럼 딥페이크가 전신으로 확장되는 것을 의미합니다.
딥페이크는 어떻게 만들어지는가?
컴퓨팅의 발전 덕분에 이제 딥페이크를 비교적 쉽고 저렴한 비용으로 개발할 수 있습니다. 딥페이크를 생성하는 데는 두 가지 주요 방법이 사용됩니다.
방법 1
당신은 훈련해야 할 것입니다 신경망 그 사람의 실제 비디오 영상에. 이렇게 하면 신경망 다양한 각도와 조명 조건에서 피사체의 얼굴 특징을 이해합니다.
그런 다음 인코더라는 AI 알고리즘을 통해 원본 얼굴과 잠복 얼굴을 모두 처리합니다. 두 얼굴 사이의 차이점과 유사점을 찾고 학습하며 두 얼굴은 공통된 특징을 공유하는 압축된 이미지로 축소됩니다.
그런 다음 압축된 이미지에서 얼굴을 복구하는 디코더라는 두 번째 AI 알고리즘이 제공됩니다. 두 얼굴은 두 개의 다른 디코더에 의해 복구됩니다.
얼굴 스왑을 수행하려면 인코딩된 이미지를 다른 디코더에 공급하기만 하면 됩니다.
예를 들어, 얼굴 A의 인코더 출력은 얼굴 B에서 훈련된 디코더에 입력된 다음 얼굴 A의 얼굴 특징으로 얼굴 B를 재구성합니다. 설득력 있는 출력을 위해 비디오의 모든 프레임에서 이 작업을 수행해야 합니다.
방법 2
딥페이크를 생성하는 또 다른 방법은 GAN(Generative Adversarial Network)입니다.
딥페이크를 생성하려면 두 가지 경쟁 알고리즘을 사용해야 합니다. 첫 번째는 임의의 노이즈를 사용하여 이미지를 생성하므로 생성기라고 합니다. 이 합성 이미지는 판별자라는 두 번째 알고리즘을 통해 실제 이미지 스트림에 제공됩니다.
판별기는 피드백에 따라 다른 이미지를 생성하는 생성기에 피드백을 제공합니다. 이러한 방식으로 두 알고리즘 모두 반복할 때마다 향상된 결과를 제공합니다. 이 프로세스는 필요한 정확도 수준에 도달할 때까지 여러 번 반복됩니다.
GAN은 완전히 현실적인 결과를 제공하지만 작업하기 어렵고 엄청난 양의 교육 데이터와 컴퓨팅 성능이 필요합니다. 이것이 일반적으로 비디오 클립보다 이미지를 생성하는 데 선호되는 이유입니다.
Deepfakes의 몇 가지 설득력 있는 예
인터넷을 떠도는 매우 설득력 있는 딥페이크가 있으며 대부분은 유명인입니다.
예를 들어 Tom Cruise의 딥페이크 전용 TikTok 계정이 있습니다. 비디오는 크루즈가 골프를 치거나 마술을 시연하는 것을 보여줍니다.
@deeptomcruise 여행하다! ????
Tom Cruise, Robert Downey Jr., Jeff Goldblum, George Lucas, Ewan McGregor와 함께 매우 복잡한 또 다른 딥페이크가 YouTube에 업로드되었습니다. 몇 가지 명백한 결함이 있지만 비디오에서 3~4개의 딥페이크를 동시에 처리하는 것 자체가 위업입니다.
또 다른 예는 버락 오바마 전 대통령의 딥페이크 비디오입니다.
이것은 대상의 목소리와 몸짓을 모방할 수 있는 가장의 목소리와 몸짓을 사용하기 때문에 놀랍도록 설득력이 있습니다.
우리는 지금 현대 주류 엔터테인먼트 산업에서 딥페이크를 보고 있습니다.
분노의 질주 7에서 폴 워커의 예기치 않은 사망 이후 장면을 촬영하는 데 사용되었습니다. 딥페이크는 그의 형제에게 놀라운 정확도로 사용되었습니다.
Deepfakes는 무엇을 테이블로 가져옵니까?
Deepfakes는 미디어와 엔터테인먼트에 혁명을 가져오는 매우 안정적인 기술임이 입증되었습니다.
"맨 오브 스틸"에서 헨리 카빌의 콧수염이 CGI에 의해 제거되었을 때 재앙이었는지 기억하십니까?
이제 훨씬 더 설득력 있는 결과로 수천 달러짜리 컴퓨터에서 동일한 작업을 수행할 수 있습니다.
이제 돌아가신 조상과 사랑하는 사람들을 만날 수 있습니다. 알버트 아인슈타인 자신의 물리학 강의를 들을 수도 있습니다.
이 모든 것 외에도 deepfake는 원래 의도한 방식으로 완전히 사용되지 않았습니다. 인터넷에 있는 딥페이크의 약 96%는 동의하지 않은 음란물입니다.
유명인이 사용할 수 있는 많은 양의 훈련 데이터로 인해 딥페이크의 가장 표적이 되는 피해자가 되었습니다.
그것은 우리가 누군가를 위험하거나 타협할 수 있는 시나리오에 넣을 수 있게 해주므로 모든 사람에게 큰 위험을 초래합니다.
오디오 딥페이크가 기업을 사기 위해 사용된 것으로 보고되었습니다. 2019년에 사칭자는 딥 페이크 오디오를 사용하여 영국 기반 회사의 CEO에게 회사의 모회사 임원을 사칭하여 €220,000를 헝가리 은행으로 이체하도록 지시했습니다.
악성 딥페이크에 대처하는 방법은 무엇입니까?
일반적으로 프레임별로 예리하게 관찰하고 인공물과 불규칙성을 찾아 딥페이크 비디오를 감지할 수 있습니다.
그러나 이는 직관적이지 않은 프로세스이며 많은 회사에서 알고리즘과 소프트웨어를 개발하고 있습니다. 딥페이크 감지.
페이스북은 딥페이크 탐지기를 구축하기 위해 버클리, 옥스포드 및 기타 기관의 연구원을 모집했습니다. 마찬가지로 YouTube는 미국 선거, 투표 절차 또는 2020년 미국 인구 조사와 관련된 딥페이크 동영상을 허용하지 않을 것이라고 발표했습니다.
다음과 같은 프로그램을 사용할 수도 있습니다. 현실 수비수 딥페이크를 감지하는 Deeptrace.
국가들은 또한 일반적으로 딥페이크의 사용에 관한 법률 제정에 분주합니다. 미국은 지난 XNUMX년 동안 딥페이크에 관한 여러 법률을 시행했습니다.
마무리
Deepfake는 AI 발전의 살아있는 구현입니다. 이는 미래의 경계를 더욱 모호하게 만들지만 인터넷에서 비디오 그래픽 콘텐츠의 신뢰성에 잠재적인 위협이 됩니다.
사람들이 인터넷의 모든 비디오를 의심하기 시작할 때가 있고 우리는 더 불확실한 시대로 밀려날 것입니다.
댓글을 남겨주세요.