Mae fideos o Mark Zuckerberg yn cydnabod dwyn data a Barack Obama yn cam-drin Donald Trump wedi bod yn cylchredeg y rhyngrwyd ers cryn amser bellach?
Mae'r fideos hyn yn ganlyniad i dechnoleg AI ddatblygedig a dyfodolaidd iawn o'r enw Deepfake.
Yn syml, mae'n ddewis arall photoshop ar gyfer fideo. Ar un ochr, gall chwyldroi cyfryngau electronig trwy ddileu'r angen am berson gwirioneddol.
Ar y llaw arall, mae'n bygwth hunaniaeth rhywun yn ddifrifol oherwydd gallwch chi wneud i unrhyw un ddweud unrhyw beth ar fideo.
Defnydd Deepfakes dysgu dwfn i greu lluniau a fideos o ddigwyddiadau ffug, a dyna pam yr enw deepfake. Gall nid yn unig gyfnewid wynebau ar fideos presennol ond hefyd greu fframiau a fideos newydd o'r dechrau.
Tarddiad Deepfakes
Yn helaeth ymchwil academaidd wedi gwthio ffiniau trin lluniau a fideo dros yr ychydig flynyddoedd diwethaf. Mae Deepfake hefyd yn ganlyniad yr ymchwil academaidd hyn.
Adroddwyd am yr achos cyntaf o drin fideo ym 1997. Addaswyd fideo o berson i siarad y geiriau a gynhwysir mewn trac sain gwahanol. Hwn oedd yr achos cyntaf o ddefnyddio adfywiad wyneb dysgu peiriant technegau.
Gwnaethpwyd cynnydd nodedig pellach yn 2017 pan addaswyd fideo o gyn-arlywydd yr UD Barack Obama i siarad geiriau gwahanol yn cyfateb i drac sain gwahanol.
Yn 2018, cyflwynodd ymchwilwyr ym Mhrifysgol California, Berkeley, ap a allai greu a fideo dawnsio ffug gan ddefnyddio dysgu dwfn. Roedd hyn yn nodi ehangu ffugiau dwfn i'r corff cyfan gan fod gweithiau blaenorol wedi'u cyfyngu i wynebau.
Sut mae Deepfakes yn cael eu Creu?
Diolch i ddatblygiadau mewn cyfrifiadura, gallwch nawr ddatblygu ffugiau dwfn yn gymharol hawdd ac am gost isel. Defnyddir dau brif ddull i gynhyrchu ffugiau dwfn.
Dull 1
Bydd yn rhaid i chi hyfforddi a rhwydwaith nefol ar ffilm fideo go iawn o'r person. Bydd hyn yn caniatáu i'r rhwydwaith nefol i ddeall nodweddion wyneb y pwnc ar wahanol onglau ac amodau goleuo.
Ar ôl hynny, byddwch yn prosesu'r wyneb gwreiddiol a'r wyneb cudd trwy algorithm AI o'r enw amgodiwr. Bydd yn darganfod ac yn dysgu'r gwahaniaethau a'r tebygrwydd rhwng y ddau wyneb ac mae'r ddau wyneb yn cael eu lleihau i ddelwedd gywasgedig sy'n rhannu'r nodweddion cyffredin.
Yna daw'r ail algorithm AI o'r enw'r datgodiwr, sy'n adennill wynebau o ddelweddau cywasgedig. Mae'r ddau wyneb yn cael eu hadennill gan ddau ddatgodiwr gwahanol.
I berfformio'r cyfnewid wyneb, yn syml, rydych chi'n bwydo'r delweddau wedi'u hamgodio i'r datgodiwr arall.
Er enghraifft, mae allbwn amgodiwr o wyneb A yn cael ei fwydo i mewn i'r datgodiwr sydd wedi'i hyfforddi ar wyneb B sydd wedyn yn ail-greu wyneb B gyda nodweddion wyneb wyneb A. Bydd yn rhaid i chi wneud hyn ar bob ffrâm o'r fideo i gael allbwn argyhoeddiadol.
Dull 2
Dull arall o gynhyrchu ffugiau dwfn yw Generative Adversarial Network (GAN).
Bydd yn rhaid i chi ddefnyddio dau algorithm cystadleuol i gynhyrchu ffugiau dwfn. Bydd yr un cyntaf yn defnyddio sŵn ar hap i gynhyrchu delwedd ac felly fe'i gelwir yn generadur. Mae'r ddelwedd synthetig hon yn cael ei bwydo i ffrwd o ddelweddau go iawn trwy ail algorithm o'r enw'r gwahaniaethwr.
Mae'r gwahaniaethwr yn rhoi adborth i'r generadur sy'n cynhyrchu delwedd arall yn ôl yr adborth. Yn y modd hwn, mae'r ddau algorithm yn rhoi canlyniadau gwell gyda phob iteriad. Mae'r broses hon yn cael ei hailadrodd sawl gwaith nes cyrraedd y lefel ofynnol o gywirdeb.
Mae GAN yn darparu canlyniadau cwbl realistig, ond mae'n anodd gweithio gyda nhw ac mae angen llawer iawn o ddata hyfforddi a phŵer cyfrifiadurol. Dyna pam ei bod yn well yn gyffredinol ar gyfer cynhyrchu delweddau yn hytrach na chlipiau fideo.
Rhai enghreifftiau argyhoeddiadol o Deepfakes
Mae yna rai ffugiau dwfn argyhoeddiadol iawn yn troi o amgylch y rhyngrwyd ac mae'r mwyafrif ohonyn nhw'n enwogion.
Er enghraifft, mae yna gyfrif TikTok sy'n ymroddedig i ffugiau dwfn Tom Cruise yn unig. Mae fideos yn dangos golff Cruise neu'n dangos tric hud.
@deeptomcruise Teithio! ????
Llwythwyd ffuglen hynod gymhleth arall ar YouTube gyda Tom Cruise, Robert Downey Jr., Jeff Goldblum, George Lucas ac Ewan McGregor. Mae ganddo rai diffygion amlwg, ond mae prosesu 3 i 4 ffug ddwfn mewn fideo ar yr un pryd yn gamp ynddo'i hun.
Enghraifft arall yw fideo ffug o'r cyn-Arlywydd Barack Obama.
Mae'r un hon yn syfrdanol argyhoeddiadol gan ei fod yn defnyddio lleisiau ac ystumiau dynwaredwyr sy'n gallu dynwared lleisiau ac ystumiau'r gwrthrych.
Rydym bellach yn gweld pethau dwfn yn y diwydiant adloniant prif ffrwd modern.
Fe'i defnyddiwyd i saethu golygfeydd o Paul Walker yn Fast and Furious 7 ar ôl marwolaeth annisgwyl yr actor. Defnyddiwyd y deepfake ar ei frawd gyda chywirdeb rhyfeddol.
Beth ddaw Deepfakes i'r bwrdd?
Mae Deepfakes wedi profi i fod yn dechnoleg ddibynadwy iawn i ddod â chwyldro yn y cyfryngau ac adloniant.
Allwch chi gofio pan gafodd mwstas Henry Cavill ei dynnu gan CGI yn “Man of Steel” ac roedd yn drychineb?
Gellir gwneud yr un peth nawr ar ychydig filoedd o ddoler cyfrifiaduron gyda chanlyniadau llawer mwy argyhoeddiadol.
Nawr gallwch chi gwrdd â'ch hynafiaid a'ch anwyliaid ymadawedig. Gallwch hyd yn oed fynychu darlith Ffiseg gan Albert Einstein ei hun.
Heblaw hyn oll, nid yw deepfake wedi cael ei ddefnyddio yn gyfan gwbl yn y modd y bwriadwyd iddo fod. Mae tua 96% o'r ffugiau dwfn ar y rhyngrwyd yn bornograffi anghydsyniol.
Mae'r swm uchel o ddata hyfforddi sydd ar gael ar gyfer enwogion wedi golygu mai nhw yw'r dioddefwyr sydd wedi'u targedu fwyaf o ffug ffug.
Mae wedi ein galluogi i roi unrhyw un mewn sefyllfaoedd peryglus neu gyfaddawdol ac felly mae'n peri risg mawr i bawb.
Dywedwyd bod deepfakes sain yn cael eu defnyddio i dwyllo corfforaethau. Yn 2019, defnyddiodd dynwaredwr sain ffug dwfn i gyfarwyddo Prif Swyddog Gweithredol cwmni o’r DU i drosglwyddo € 220,000 i fanc yn Hwngari trwy ddynwared prif weithredwr rhiant-gwmni’r cwmni.
Sut i frwydro yn erbyn Deepfakes Maleisus?
Fel rheol, gallwch ganfod fideos ffug trwy arsylwi'n ofalus ffrâm wrth ffrâm a chwilio am arteffactau ac afreoleidd-dra.
Fodd bynnag, mae'n broses wrth-sythweledol ac mae llawer o gwmnïau'n gweithio ar algorithmau a meddalwedd i canfod dwfn fakes.
Recriwtiodd Facebook ymchwilwyr o Berkeley, Rhydychen, a sefydliadau eraill i adeiladu synhwyrydd ffug dwfn. Yn yr un modd, cyhoeddodd YouTube na fyddant yn derbyn fideos ffug yn ymwneud ag etholiad yr UD, gweithdrefnau pleidleisio, na chyfrifiad 2020 yr UD.
Gallwch hefyd ddefnyddio rhaglenni fel Amddiffynnwr Realiti a Deeptrace i ganfod ffugiau dwfn.
Mae gwledydd hefyd yn brysur yn deddfu ynghylch y defnydd o ffugiau dwfn yn gyffredinol. Mae'r Unol Daleithiau wedi gweithredu sawl deddf ynghylch ffugiau dwfn dros y flwyddyn ddiwethaf.
Llwytho i fyny
Deepfake yw'r ymgorfforiad byw o ddatblygiad AI. Mae'n cymylu ffin y dyfodol ymhellach, fodd bynnag, mae'n fygythiad posibl i hygrededd cynnwys fideo-graffig ar y rhyngrwyd.
Bydd amser pan fydd pobl yn dechrau amau pob fideo ar y rhyngrwyd a byddwn yn cael ein gwthio i mewn i gyfnod o ansicrwydd pellach.
Gadael ymateb