Apariția modelelor mari de limbaj a arătat că algoritmii din zilele noastre sunt mai mult decât capabili să imite comportamentul uman online.
A studiu din martie 2023 a dezvăluit că participanții nu au putut distinge cu precizie între textul uman sau AI. Cercetătorii se tem că aceste modele ar putea fi folosite ca instrument pentru acte rău intenționate.
Companiile cum ar fi Microsoft au implementat balustrade în IA pentru a preveni utilizarea lor pentru dezinformare și alte tipuri de scheme. Cu toate acestea, multe dintre aceste modele generative sunt open-source sau scurse, permițând oricui să folosească aceste modele pentru propriul câștig.
Este din ce în ce mai greu să demonstrezi că orice utilizator cu care interacționezi pe internet este un bot. Platforme de social media precum Reddit și TIC-tac au introdus deja reguli comunitare care restricționează trimiterea conținutului AI.
Pe măsură ce viețile noastre devin tot mai dependente de interacțiunile online, este important ca aceste platforme online să stabilească protocoale care să demonstreze că un cont este condus de un om.
În acest articol, vom explica cerințele pentru un astfel de protocol și vom analiza progresele dezvoltate de aplicațiile Web3 pentru a rezolva această problemă a dovedirii personalității.
Ce este dovada caracterului personal?
Dovada caracterului personal sau PoP este un tip de protocol care permite unei rețele să verifice dacă un om real se află în spatele unui anumit eveniment.
Sistemele descentralizate pot implementa mecanisme PoP pentru a preveni apariția activităților rău intenționate.
Ce se întâmplă când a rețea descentralizată nu are o modalitate de a verifica umanitatea?
Una dintre cele mai dificile provocări Web3 este găsirea unor modalități de a preveni a Atac Sybil. Acest tip de amenințare apare atunci când un utilizator găsește o modalitate de a folosi mai multe conturi pentru a obține un avantaj nedrept într-o platformă sau o rețea.
De exemplu, un atacator poate crea mai multe conturi false pe o platformă precum Twitter sau Facebook. După ce a obținut acces la un număr mare de conturi, atacatorul își poate folosi raza de acțiune pentru a răspândi dezinformarea sau a manipula opinia publică.
Sau în rețelele care permit fiecărui utilizator să voteze, un atacator poate crea mai multe identități false pentru a manipula rezultatele.
Protocoalele de dovadă a personalității pot preveni atacurile Sybil solicitând indivizilor să demonstreze că sunt ființe umane reale înainte de a le permite să participe la o rețea.
Amenințarea modelelor AI asupra metodelor PoP actuale
Este posibil să fi întâlnit deja o formă de bază de PoP cu servicii de detectare a botului, cum ar fi recaptcha. Site-urile web adaugă aceste teste pentru a se asigura că persoana care utilizează serviciul este o persoană reală. Acestea solicită adesea să efectuați un test suficient de ușor de rezolvat pentru un om, dar care este mult mai greu pentru computere.
De exemplu, un test recaptcha obișnuit ar cere utilizatorului să selecteze toate pătratele dintr-o grilă care au un pod, un semn de oprire sau scări.
Cu toate acestea, pe măsură ce modelele AI devin din ce în ce mai avansate la detectarea imaginilor, aceste tipuri de teste devin încet învechite. Aceste teste au, de asemenea, o limitare critică: rezolvarea testului nu dovedește că sunteți un utilizator unic.
Un protocol PoP adecvat și sigur trebuie să aibă o modalitate de a dovedi în mod fiabil că un profil aparține unui utilizator real și că utilizatorul nu poate crea mai multe conturi pentru el însuși.
În secțiunea următoare, vom arunca o privire mai profundă asupra principalelor cerințe pentru mecanismele de demonstrare a caracterului personal și asupra modului în care aceste caracteristici pot ajuta la crearea identităților descentralizate globale.
Cerințe pentru dovada calității de persoană
Iată câteva proprietăți-cheie ale unui protocol ideal de dovadă a personalității.
- Protocolul trebuie să valorizeze intimitate. Mecanismul PoP trebuie să poată păstra anonimatul utilizatorului
- Protocolul PoP trebuie să fie și el rezistent la fraudă. Utilizatorii nu ar trebui să poată crea mai multe profiluri pe aceeași platformă.
- Pentru ca un protocol PoP să realizeze o adaptare globală, rețeaua în sine trebuie să fie scalabil și descentralizată.
Înainte de a ne uita la câteva implementări promițătoare ale protocoalelor PoP care urmăresc să atingă toate proprietățile de mai sus, să aruncăm o privire asupra dezavantajelor unora dintre cele mai populare metode de demonstrare a personalității.
Mai întâi, să aruncăm o privire la abordarea testului Turing. Cu siguranță ați mai întâlnit unul dintre aceste teste înainte, dacă ați trebuit vreodată să rezolvați un captcha online.
Ați observat vreodată că aceste teste devin din ce în ce mai complicat de rezolvat? AI ajunge într-un punct în care testele de răspuns la provocare, cum ar fi înțelegerea unei imagini, sunt acum o sarcină trivială. Actorii rău intenționați pot folosi, de asemenea, servicii care se bazează pe o echipă de utilizatori umani care sunt desemnați să rezolve aceste teste la scară.
O altă abordare comună PoP este verificarea identității. Majoritatea instituțiilor financiare urmează o anumită formă de standard KYC (Know-Your-Customer). gestionați activitățile frauduloase sau rău intenționate pe platforma lor.
Să presupunem că doriți să creați un cont nou la banca locală. De obicei, banca vă va cere să prezentați o formă de identitate guvernamentală. Platformele de social media precum Facebook și Twitter folosesc, de asemenea, o formă de verificare a identității. Aceste platforme cer utilizatorilor să își verifice numărul de telefon mobil sau e-mailul pentru a împiedica un singur utilizator să creeze zeci de conturi pe platforma lor.
Deși această metodă ajută la descurajarea actorilor rău intenționați, există încă multe modalități de a ocoli aceste limite. De exemplu, un actor rău intenționat poate folosi tehnici precum falsificarea prin SMS pentru a obține acces la un număr mare de conturi.
În plus, identificarea KYC este dificil de implementat la nivel global, deoarece nu fiecare persoană are un ID. Chiar dacă o persoană avea un act de identitate, un organism centralizat încă stochează și controlează aceste înregistrări.
Abordări posibile pentru dovada caracterului personal
Web de încredere
Abordarea web of trust pentru dovada personalității este o metodă descentralizată de verificare a identității.
În această abordare, utilizatorii își creează și își gestionează propriile identități digitale prin crearea de certificate digitale pe o platformă publică. Utilizatorii așteaptă apoi ca aceste certificate să fie verificate de către alte persoane din comunitate care sunt de încredere și verificate. Acest proces creează o „pânză de încredere” care garantează identitatea individului.
Cu cât sunt mai multe persoane care semnează un certificat de utilizator, cu atât identitatea lor devine mai de încredere și verificată. Acest lucru creează o rețea de încredere care poate ajuta la verificarea online a identității unei persoane.
Proiecte precum Dovada Umanității concentrați-vă pe construirea de rețele de încredere pentru Web3. Utilizatorii trebuie să încarce un videoclip cu ei vorbind cu o adresă Ethereum vizibilă clar pe un dispozitiv sau pe o foaie de hârtie. Utilizatorul trebuie să depună un număr mic de jetoane care vor fi returnate odată ce un utilizator înregistrat a garantat identitatea dumneavoastră.
Biometria
Biometria este o metodă de autentificare care se bazează pe caracteristicile biologice unice ale unui individ pentru verificarea identității. Deoarece aceste caracteristici nu pot fi pierdute sau uitate, biometria poate fi folosită ca metodă de încredere pentru dovada caracterului personal.
Există mai multe metode de biometrie cu diferite grade de dificultate în implementare.
Biometria amprentelor digitale implică utilizarea modelelor unice de amprentă digitală ale unei persoane pentru a-și verifica identitatea. Biometria amprentelor digitale este acceptată pe scară largă ca o metodă convenabilă de dovadă a caracterului personal în mediile guvernamentale și de afaceri.
De asemenea, utilizatorii își pot verifica identitatea prin utilizarea biometria feței. Platformele pot folosi tehnologia de recunoaștere facială pentru a potrivi chipul unui utilizator cu actul de identitate emis de guvern sau cu alte documente. Succesul sistemului Face ID de la Apple a demonstrat fezabilitatea biometriei feței în dispozitivele mobile, ca alternativă la codurile de acces și biometria amprentelor digitale.
O altă metodă potențială este utilizarea biometriei irisului pentru a scana modelele unice găsite în irisul unui individ. Cercetătorii susțin că biometria irisului este mai precisă decât recunoașterea feței și biometria amprentelor digitale. Modelele de iris sunt mai unice decât amprentele digitale și rămân relativ neînlănțuite pe măsură ce individul îmbătrânește.
Un avertisment al biometriei irisului este că scanarea irisului utilizatorului necesită dispozitive specializate.
Platforma de identitate digitală axată pe confidențialitate monedă mondială intenționează să utilizeze hardware personalizat numit „Orb”. Dispozitivul emite dovezi ale acreditărilor de personalitate pe care AI-ul va avea dificultăți să le falsifice. Orb păstrează, de asemenea, informațiile utilizatorului în siguranță, ștergând toate fotografiile după fiecare verificare.
Concluzie
Pe măsură ce aplicațiile descentralizate găsesc mai multe cazuri de utilizare în lumea reală, dezvoltatorii trebuie să integreze modalități de a împiedica actorii rău intenționați să profite de sistem. Mecanismele de dovadă a personalității sunt o parte cheie a menținerii acestor platforme în siguranță și fiabile.
Cercetările privind abordările dovedirii personalității ar trebui să se concentreze și asupra pericolului ca atacatorii să folosească AI pentru a păcăli sistemul. Dacă AI are capacitatea de a emula chipul și vorbirea oricărei persoane, platformele online ar putea fi expuse riscului de a fi depășite de profiluri frauduloase și rău intenționate care se prezintă drept oameni reali.
Care credeți că este cea mai bună modalitate de a aborda problema identităților digitale în era AI?
Lasă un comentariu