Hvernig tryggjum við að við notum gervigreind á ábyrgan hátt?
Framfarir í vélanámi sýna að líkön geta fljótt stækkað og haft áhrif á stóran hluta samfélagsins.
Reiknirit stjórna fréttastraumi í símum allra. Ríkisstjórnir og fyrirtæki eru farin að nota gervigreind til að taka gagnaupplýstar ákvarðanir.
Þegar gervigreind festist enn frekar í hvernig heimurinn starfar, hvernig tryggjum við að gervigreindin hegði sér sanngjarnt?
Í þessari grein munum við skoða siðferðislegar áskoranir þess að nota gervigreind og sjá hvað við getum gert til að tryggja ábyrga notkun gervigreindar.
Hvað er siðferðileg gervigreind?
Siðferðileg gervigreind vísar til gervigreindar sem fylgir ákveðnum siðferðilegum leiðbeiningum.
Með öðrum orðum, það er leið fyrir einstaklinga og stofnanir að vinna með gervigreind á ábyrgan hátt.
Undanfarin ár hafa fyrirtæki farið að halda sig við lög um persónuvernd eftir að vísbendingar um misnotkun og brot komu í ljós. Á sama hátt er mælt með leiðbeiningum um siðferðilega gervigreind til að tryggja að gervigreind hafi ekki neikvæð áhrif á samfélagið.
Til dæmis virka sumar tegundir gervigreindar á hlutdrægan hátt eða viðhalda hlutdrægni sem þegar er til staðar. Við skulum íhuga reiknirit sem hjálpar ráðunautum að raða í gegnum þúsundir ferilskráa. Ef reikniritið er þjálfað á gagnasafni með aðallega karlkyns eða hvítum starfsmönnum, þá er mögulegt að reikniritið muni hygla umsækjendum sem falla undir þá flokka.
Að koma á reglum fyrir siðferðilega gervigreind
Við höfum hugsað okkur að setja reglur til að setja á gervigreind í áratugi.
Jafnvel á fjórða áratugnum, þegar öflugustu tölvurnar gátu aðeins gert sérhæfðustu vísindalega útreikninga, hafa vísindaskáldsagnahöfundar velt fyrir sér hugmyndinni um að stjórna gáfuðum vélmennum.
Frægt er að Isaac Asimov bjó til þrjú lögmál vélfærafræðinnar, sem hann lagði til að væru felld inn í forritun vélmenna í smásögum hans sem öryggisþáttur.
Þessi lög hafa orðið prófsteinn fyrir margar framtíðar vísindasögur og hafa jafnvel upplýst raunverulegar rannsóknir á siðfræði gervigreindar.
Í samtímarannsóknum eru gervigreindarfræðingar að skoða fleiri grundvölluð heimildir til að koma á lista yfir meginreglur fyrir siðferðilega gervigreind.
Þar sem gervigreind mun að lokum hafa áhrif á mannslíf, verðum við að hafa grundvallarskilning á því hvað við ættum að gera og hvað ekki.
The Belmont Report
Til viðmiðunar skoða siðfræðirannsóknarmenn Belmont skýrsluna sem leiðarvísir. The Skýrsla Belmont var skjal sem bandaríska heilbrigðisstofnunin gaf út árið 1979. Lífeðlisfræðileg grimmdarverk sem framin voru í WW2 leiddu til þess að ýtt var á að lögfesta siðareglur fyrir vísindamenn sem stunda læknisfræði.
Hér eru þrjár grundvallarreglur sem nefnd eru í skýrslunni:
- Virðing fyrir einstaklingum
- Gagnsemi
- Réttlæti
Fyrsta meginreglan miðar að því að viðhalda reisn og sjálfræði allra mannlegra viðfangsefna. Rannsakendur ættu til dæmis að lágmarka að blekkja þátttakendur og ættu að krefjast þess að hver og einn gefi skýrt samþykki sitt.
Önnur meginreglan, velgjörð, beinist að skyldu rannsakanda til að lágmarka hugsanlegan skaða fyrir þátttakendur. Þessi meginregla gefur rannsakendum þá skyldu að jafna hlutfall einstaklingsáhættu og hugsanlegs félagslegs ávinnings.
Réttlæti, lokareglan sem sett er fram í Belmont-skýrslunni, leggur áherslu á jafna dreifingu áhættu og ávinnings milli hópa sem gætu notið góðs af rannsókninni. Vísindamönnum ber skylda til að velja rannsóknarviðfangsefni úr breiðari þýðinu. Að gera það myndi lágmarka einstaklingsbundna og kerfisbundna hlutdrægni sem gæti haft neikvæð áhrif á samfélagið.
Að setja siðfræði í gervigreindarrannsóknir
Þó að Belmont-skýrslan hafi fyrst og fremst verið miðuð við rannsóknir á mönnum, voru meginreglurnar nógu víðtækar til að eiga við á sviði gervigreindarsiðfræði.
Stór gögn eru orðin dýrmæt auðlind á sviði gervigreindar. Ferlarnir sem ákvarða hvernig vísindamenn safna gögnum ættu að fylgja siðferðilegum leiðbeiningum.
Innleiðing gagnaverndarlaga í flestum þjóðum setur að einhverju leyti takmörk fyrir því hvaða gögnum fyrirtæki geta safnað og notað. Hins vegar eru meirihluti þjóða enn með frumskilyrði laga til að koma í veg fyrir notkun gervigreindar til að valda skaða.
Hvernig á að vinna með gervigreind siðferðilega
Hér eru nokkur lykilhugtök sem geta hjálpað til við að vinna að siðferðilegri og ábyrgri notkun gervigreindar.
Stjórn fyrir hlutdrægni
Gervigreind er ekki hlutlaus í eðli sínu. Reiknirit eru alltaf næm fyrir innskotum hlutdrægni og mismunun vegna þess að gögnin sem þau læra af innihalda hlutdrægni.
Algengt dæmi um mismunandi gervigreind er sú tegund sem kemur oft fyrir í andlitsgreiningarkerfum. Þessum líkönum tekst oft að bera kennsl á hvít karlkyns andlit, en gengur síður að þekkja fólk með dekkri húð.
Annað dæmi birtist í DALL-E 2 frá OpenAI. Notendur hafa uppgötvaði að ákveðnar ábendingar endurskapa oft kynja- og kynþáttafordóma sem líkanið hefur tekið upp úr gagnasafni sínu með myndum á netinu.
Til dæmis, þegar beðið er um myndir af lögfræðingum, skilar DALL-E 2 myndum af karlkyns lögfræðingum. Á hinn bóginn, að óska eftir myndum af flugfreyjum skilar að mestu leyti flugfreyjukonum.
Þó að það gæti verið ómögulegt að fjarlægja hlutdrægni algjörlega úr gervigreindarkerfum, getum við gert ráðstafanir til að lágmarka áhrif þess. Vísindamenn og verkfræðingar geta náð meiri stjórn á hlutdrægni með því að skilja þjálfunargögnin og ráða fjölbreytt teymi til að veita inntak um hvernig gervigreind kerfið ætti að virka.
Mannmiðuð hönnunaraðferð
Reiknirit í uppáhaldsforritinu þínu geta haft neikvæð áhrif á þig.
Pallar eins og Facebook og TikTok geta lært hvaða efni á að þjóna til að halda notendum á kerfum sínum.
Jafnvel án þess að ætla að valda skaða gæti markmiðið að halda notendum límdum við appið sitt eins lengi og mögulegt er leitt til geðheilsuvandamála. Hugtakið „doomscrolling“ hefur aukist í vinsældum sem yfirgripsmikið hugtak fyrir að eyða of miklum tíma í að lesa neikvæðar fréttir á kerfum eins og Twitter og Facebook.
Í öðrum tilvikum fær hatursfullt efni og rangar upplýsingar breiðari vettvang vegna þess að það hjálpar til við að auka þátttöku notenda. A 2021 study frá vísindamönnum við New York háskóla sýnir að færslur frá heimildarmönnum sem þekktar eru fyrir rangar upplýsingar fá sexfalt fleiri líkar en virtir fréttaheimildir.
Þessar reiknirit vantar í mannmiðaða hönnunarnálgun. Verkfræðingar sem eru að hanna hvernig gervigreind framkvæmir aðgerð verða alltaf að hafa notendaupplifunina í huga.
Vísindamenn og verkfræðingar verða alltaf að spyrja spurningarinnar: "hvernig gagnast þetta notandanum?"
Flestar gervigreindargerðir fylgja svörtum kassa líkani. Svartur kassi í vél nám vísar til gervigreindar þar sem enginn maður getur útskýrt hvers vegna gervigreindin komst að tiltekinni niðurstöðu.
Svartir kassar eru erfiðir vegna þess að það dregur úr því trausti sem við getum sett í vélar.
Við skulum til dæmis ímynda okkur atburðarás þar sem Facebook gaf út reiknirit sem hjálpaði stjórnvöldum að hafa uppi á glæpamönnum. Ef gervigreindarkerfið flaggar þér mun enginn geta útskýrt hvers vegna það hefur tekið þessa ákvörðun. Þessi tegund af kerfi ætti ekki að vera eina ástæðan fyrir því að þú ættir að vera handtekinn.
Útskýranleg gervigreind eða XAI ættu að skila lista yfir þætti sem áttu þátt í lokaniðurstöðunni. Ef við snúum aftur til ímyndaðs glæpaeftirlits okkar, getum við lagfært gervigreindarkerfið til að skila lista yfir færslur sem sýna grunsamlegt tungumál eða hugtök. Þaðan getur maður sannreynt hvort merkti notandinn sé þess virði að rannsaka eða ekki.
XAI veitir meira gagnsæi og traust á gervigreindarkerfum og getur hjálpað mönnum að taka betri ákvarðanir.
Niðurstaða
Eins og allar manngerðar uppfinningar er gervigreind ekki góð eða slæm í eðli sínu. Það er hvernig við notum gervigreind sem skiptir máli.
Það sem er einstakt við gervigreind er hraðinn sem hún vex. Undanfarin fimm ár höfum við séð nýjar og spennandi uppgötvanir á sviði vélanáms á hverjum degi.
Hins vegar eru lögin ekki eins fljót. Þar sem fyrirtæki og stjórnvöld halda áfram að nýta gervigreind til að hámarka hagnað eða ná stjórn á borgurum, verðum við að finna leiðir til að þrýsta á um gagnsæi og sanngirni í notkun þessara reiknirita.
Telur þú að raunverulega siðferðileg gervigreind sé möguleg?
Skildu eftir skilaboð