Ang mga video ni Mark Zuckerberg na kinikilala ang pagnanakaw ng data at ang pag-abuso ni Barack Obama kay Donald Trump ay medyo matagal nang umiikot sa internet?
Ang mga video na ito ay ang kinalabasan ng isang napaka-advance at futuristic na teknolohiya ng AI na pinangalanang Deepfake.
Sa madaling salita, ito ay isang alternatibong photoshop para sa video. Sa isang panig, maaari nitong baguhin ang electronic media sa pamamagitan ng pag-aalis ng pangangailangan para sa isang aktwal na tao.
Sa kabilang banda, ito ay lubhang nagbabanta sa pagkakakilanlan ng isang tao dahil maaari mong gawin ang sinuman na magsabi ng kahit ano sa video.
Paggamit ng mga deepfakes malalim na pag-aaral upang lumikha ng mga larawan at video ng mga pekeng kaganapan, kaya tinawag na deepfake. Hindi lang ito makakapagpalit ng mga mukha sa mga kasalukuyang video ngunit makakagawa din ng mga bagong frame at video mula sa simula.
Ang Pinagmulan ng Deepfakes
Malawak akademikong pananaliksik ay nagtulak sa mga hangganan ng pagmamanipula ng larawan at video sa nakalipas na ilang taon. Ang Deepfake ay bunga din ng mga akademikong pananaliksik na ito.
Ang unang kaso ng pagmamanipula ng video ay iniulat noong 1997. Ang isang video ng isang tao ay binago upang sabihin ang mga salita na nasa ibang audio track. Ito ang unang kaso ng paggamit ng facial reanimation machine learning diskarte.
Ang karagdagang kapansin-pansing pagsulong ay ginawa noong 2017 nang ang isang video ng dating pangulo ng US na si Barack Obama ay binago upang magsalita ng iba't ibang mga salita na tumutugma sa ibang audio track.
Noong 2018, ipinakilala ng mga mananaliksik sa University of California, Berkeley, ang isang app na maaaring lumikha ng isang pekeng video sa pagsasayaw gamit ang malalim na pag-aaral. Ito ay minarkahan ang pagpapalawak ng mga deepfakes sa buong katawan dahil ang mga nakaraang gawa ay limitado sa mga mukha.
Paano Nilikha ang Deepfakes?
Salamat sa mga pagsulong sa computing, maaari ka na ngayong bumuo ng mga deepfakes na medyo madali at sa murang halaga. Dalawang pangunahing pamamaraan ang ginagamit upang makabuo ng mga deepfakes.
Pamamaraan sa 1
Kakailanganin mong sanayin ang isang neural network sa totoong video footage ng tao. Papayagan nito ang neural network upang maunawaan ang mga tampok ng mukha ng paksa sa iba't ibang anggulo at kundisyon ng liwanag.
Pagkatapos nito, ipoproseso mo pareho ang orihinal na mukha at ang nakatagong mukha sa pamamagitan ng AI algorithm na tinatawag na encoder. Hahanapin at matututunan nito ang mga pagkakaiba at pagkakatulad sa pagitan ng dalawang mukha at ang parehong mga mukha ay nabawasan sa isang naka-compress na imahe na nagbabahagi ng mga karaniwang tampok.
Pagkatapos ay darating ang pangalawang AI algorithm na tinatawag na decoder, na nagre-recover ng mga mukha mula sa mga naka-compress na larawan. Ang parehong mga mukha ay nakuhang muli ng dalawang magkaibang decoder.
Upang maisagawa ang pagpapalit ng mukha, ipapakain mo lang ang mga naka-encode na larawan sa isa pang decoder.
Halimbawa, ang isang encoder na output ng mukha A ay ipinapasok sa decoder na sinanay sa mukha B na pagkatapos ay muling buuin ang mukha B na may mga facial feature ng mukha A. Kakailanganin mong gawin ito sa bawat frame ng video para sa isang nakakumbinsi na output.
Pamamaraan sa 2
Ang isa pang paraan upang makabuo ng mga deepfakes ay Generative Adversarial Network (GAN).
Kakailanganin mong gumamit ng dalawang nakikipagkumpitensyang algorithm upang makabuo ng mga deepfakes. Ang una ay gagamit ng random na ingay upang makabuo ng isang imahe at samakatuwid ito ay tinatawag na generator. Ang sintetikong larawang ito ay ibinibigay sa isang stream ng mga totoong larawan sa pamamagitan ng pangalawang algorithm na tinatawag na discriminator.
Ang discriminator ay nagbibigay ng feedback sa generator na bumubuo ng isa pang larawan ayon sa feedback. Sa ganitong paraan, ang parehong mga algorithm ay nagbibigay ng mga pinahusay na resulta sa bawat pag-ulit. Ang prosesong ito ay paulit-ulit nang maraming beses hanggang sa makamit ang kinakailangang antas ng katumpakan.
Ang GAN ay naghahatid ng lubos na makatotohanang mga resulta, ngunit mahirap gamitin at nangangailangan ng napakalaking data ng pagsasanay at kapangyarihan sa pag-compute. Iyon ang dahilan kung bakit ito ay karaniwang ginustong para sa pagbuo ng mga imahe kaysa sa mga video clip.
Ilang mga nakakumbinsi na halimbawa ng Deepfakes
Mayroong ilang mga nakakakumbinsi na deepfakes na umiikot sa internet at karamihan sa mga ito ay mga kilalang tao.
Halimbawa, mayroong isang TikTok account na nakatuon lamang sa mga deepfakes ng Tom Cruise. Ang mga video ay nagpapakita ng Cruise golfing o nagpapakita ng magic trick.
@deeptomcruise paglalakbay! ????
Isa pang napaka-kumplikadong deepfake ang na-upload sa YouTube kasama sina Tom Cruise, Robert Downey Jr., Jeff Goldblum, George Lucas at Ewan McGregor. Mayroon itong ilang halatang mga bahid, ngunit ang magproseso ng 3 hanggang 4 na deepfakes sa isang video nang sabay-sabay ay isang gawa mismo.
Ang isa pang halimbawa ay isang malalim na pekeng video ng dating Pangulong Barack Obama.
Ang isang ito ay nakamamanghang nakakumbinsi dahil ginagamit nito ang mga boses at kilos ng mga impersonator na may kakayahang gayahin ang mga boses at kilos ng paksa.
Nakikita na natin ngayon ang mga deepfakes sa modernong mainstream na industriya ng entertainment.
Ito ay ginamit upang kunan ang mga eksena ni Paul Walker sa Fast and Furious 7 pagkatapos ng hindi inaasahang pagkamatay ng aktor. Ang deepfake ay ginamit sa kanyang kapatid na may kahanga-hangang katumpakan.
Ano ang dinadala ng Deepfakes sa mesa?
Ang mga Deepfakes ay napatunayang isang napaka-maaasahang teknolohiya upang magdala ng rebolusyon sa media at entertainment.
Naaalala mo ba noong tinanggal ng CGI ang bigote ni Henry Cavill sa “Man of Steel” at ito ay isang kalamidad?
Ang parehong ay maaari na ngayong gawin sa ilang libong dolyar na mga computer na may higit na nakakumbinsi na mga resulta.
Maaari mo na ngayong makilala ang iyong mga yumaong ninuno at mga mahal sa buhay. Maaari ka ring dumalo sa isang Physics lecture mula mismo kay Albert Einstein.
Bukod sa lahat ng ito, ang deepfake ay hindi pa ganap na ginagamit sa paraang nilayon nito. Humigit-kumulang 96% ng mga deepfakes sa internet ay hindi sinasang-ayunan na pornograpiya.
Ang mataas na dami ng data ng pagsasanay na magagamit para sa mga celebrity ay nagresulta sa kanilang pagiging pinaka-target na biktima ng deepfakes.
Ito ay nagbigay-daan sa amin na ilagay ang sinuman sa mga mapanganib o makompromisong sitwasyon at samakatuwid ito ay nagdudulot ng malaking panganib sa lahat.
Ang mga audio deepfake ay naiulat na ginagamit sa mga scam na korporasyon. Noong 2019, gumamit ang isang impersonator ng malalim na pekeng audio para turuan ang isang CEO ng kumpanyang nakabase sa UK na maglipat ng €220,000 sa isang bangko sa Hungarian sa pamamagitan ng pagpapanggap bilang parent company executive ng firm.
Paano kokontrahin ang Malicious Deepfakes?
Karaniwan, maaari mong makita ang malalim na pekeng mga video sa pamamagitan ng matalas na pagmamasid sa bawat frame at paghahanap ng mga artifact at iregularidad.
Gayunpaman, ito ay isang counter-intuitive na proseso at maraming kumpanya ang gumagawa ng mga algorithm at software para sa tuklasin ang mga deepfakes.
Ang Facebook ay nagrekrut ng mga mananaliksik mula sa Berkeley, Oxford, at iba pang mga institusyon upang bumuo ng isang deepfake detector. Katulad nito, inanunsyo ng YouTube na hindi sila tatanggap ng mga deepfake na video na nauugnay sa halalan sa US, mga pamamaraan sa pagboto, o sa 2020 US census.
Maaari ka ring gumamit ng mga program tulad ng Reality Defender at Deeptrace para matukoy ang mga deepfakes.
Abala rin ang mga bansa sa paggawa ng batas tungkol sa paggamit ng mga deepfakes sa pangkalahatan. Ang US ay nagpatupad ng ilang mga batas tungkol sa mga deepfakes sa nakaraang taon.
Balutin
Ang Deepfake ay ang buhay na sagisag ng pagsulong ng AI. Ito ay higit pang nagpapalabo sa hangganan ng hinaharap, gayunpaman, ito ay isang potensyal na banta sa kredibilidad ng video-graphic na nilalaman sa internet.
Darating ang panahon na ang mga tao ay magsisimulang magduda sa bawat video sa internet at tayo ay itutulak sa isang panahon ng karagdagang kawalan ng katiyakan.
Mag-iwan ng Sagot