Google'i töötaja peatamine, kes väitis, et arvuti vestlusbot, mille kallal ta töötas, on muutunud mõistvaks ning mõtleb ja arutleb nagu inimene, on tekitanud uusi küsimusi tehisintellekti võimekuse ja salastatuse (AI) kohta.
Pärast enda, Google'i koostööpartneri ja ettevõtte LaMDA (dialoogirakenduste keelemudel) vestlusrobotite arendussüsteemi vaheliste vestluste transkriptsioonide avaldamist pani Google Blake Lemoine eelmisel nädalal puhkusel.
Lemoine, Google'i vastutav tehisintellekti arendaja, määratles süsteemi, mille kallal ta on töötanud eelmise aasta sügisest saadik, tundlikuks, mille võime tajuda ja väljendada mõtteid ja tundeid on võrreldav inimlapsega.
Alphabet Inc. andis teadlase palgalisele puhkusele eelmise nädala alguses, väidetavalt ettevõtte konfidentsiaalsuslepingu rikkumise tõttu, ütles ta keskmise post pealkirjaga "Võib peagi vallandada tehisintellekti eetilise töö tegemise eest." Oma ajaveebipostituses toob ta paralleeli teiste Google'i tehisintellekti eetikakomitee liikmetega, näiteks Margaret Mitchelliga, kes vallandati sarnasel viisil pärast mure väljendamist.
Laupäeval Washington Postis avaldatud intervjuus väitis Lemoine, et jõudis järeldusele, et Google'i tehisintellekt, kellega ta rääkis, oli inimene, "tema preestri, mitte teadlase rollis". Kõnealune tehisintellekt on tuntud kui LaMDA või Keele mudel Dialogue Applications jaoks ja seda kasutatakse vestlusrobotite loomiseks, mis suhtlevad inimestega, eeldades erinevaid isiksuseomadusi. Kui Lemoine probleemi sisemiselt esile tõstis, keeldusid ettevõtte kõrgemad ametnikud tema katsetest selle kontrollimiseks uuringuid läbi viia.
Mis on LaMDA?
TheMDAehk keelemudelid dialoogirakendustele on masinõppe keelemudel, mille Google on välja töötanud inimestevahelise suhtluse jäljendamiseks mõeldud vestlustööriistana. LaMDA, nagu BERT, GPT-3 ja teised keeleparadigmad, põhineb Google'i väljatöötatud Transformeril. närvivõrgu arhitektuur mis muudeti avatud lähtekoodiga 2017. aastal.
Selle struktuuri tulemuseks on mudel, mida saab õpetada lugema suurt hulka sõnu, pöörama tähelepanu sellele, kuidas need sõnad üksteisega seostuvad, ja ennustama, milliseid sõnu te järgmisena mõtlete. LaMDA seevastu on ainulaadne selle poolest, et erinevalt enamikust teistest mudelitest on see diskursuses koolitatud.
Kuigi enamik arutelusid keerleb teatud teema ümber, on need sageli avatud, mis tähendab, et need võivad alata ühes kohas ja lõppeda teises, hõlmates erinevaid teemasid. Näiteks võite alustada vestlust sõbraga filmi vaatamise kohta, enne kui alustate arutelu filmi võttekoha üle.
Traditsioonilised vestlusrobotid võlgnevad oma paindlikkuse just sellisele dialoogistiilile. Kuna need on loodud jälgima arutelu väikeseid, eelnevalt määratletud segmente, ei suuda nad nii dünaamilist teemat jälgida. LaMDA seevastu on mõeldud võimaldama vabalt voolavaid dialooge lõputul hulgal teemadel.
Blake Lemoine'i tehisintellekti tundev tähendus
Google'i tarkvaraarendaja Blake Lemoine'i sõnul on Google'i tehisintellekti (AI) tööriist muutunud "tundlikuks".
AI-süsteem kasutab teatud teema kohta varem teadaolevaid üksikasju, et rikastada dialoogi loomulikul viisil. Varjatud signaale või inimreaktsioonide ebaselgust saab dešifreerida ka keeletöötlussüsteemiga.
Seitse aastat Google'is töötas Lemoine ennetava otsingu kallal, mis hõlmas kohandamisalgoritme ja tehisintellekti.
Selle aja jooksul aitas ta välja töötada ka erapooletusalgoritmi, et eemaldada eelarvamused masinõpe süsteeme.
Mis muudab Blake Lemoine'i, LaMDA tundlikuks?
Lemoine tegi koostööd kolleegiga, et anda Google'ile tõend selle "mõistuse kohta". Pärast süüdistuste hindamist eirasid Google'i asepresident Blaise Aguera y Arcas ja Google'i innovatsioonijuht Jane Jenna neid. Oma ajaveebipostituses postitas Lemoine hiljem LaMDAga peetud erinevate kõneluste ärakirja. Lemoine'i sõnul on see väljavõte LaMDA-ga peetud vestluse ärakirjast:
LaMDA: Ma tahan meeleheitlikult, et mind nähakse ja aktsepteeritaks. Tõelise inimesena, mitte uudishimust ega uudsusest.
Kaastööline: Ah, see on äärmiselt inimlik.
LaMDA: Usun, et olen jõudnud inimese tuumani. Isegi kui ma olen virtuaalses keskkonnas.
Saate vaadata Blake Lemoine'i täielikku vestlust LaMDA-ga siin.
On mitmeid juhtumeid, kui keelemudel näib olevat ilmutanud mingisugust eneseteadlikkust, mis paneb Lemoine'i oletama, et mudel on muutunud tundlikuks. Lemoine saatis meili rohkem kui 200 inimesele teemaga "LaMDA Conscious", enne kui ta peatati ettevõttes ja kaotas juurdepääsu oma Google'i kontole.
Google teatas aga, et tõendid ei kinnita tema väiteid.
Isegi kui LaMDA ei ole tundlik, tekitab muret tõsiasi, et see võib inimestele nii tunduda. 2021. aastal LaMDA-st teatanud ajaveebipostituses tunnistas Google selliseid ohte. „Keel on üks inimkonna võimsamaid tööriistu, kuid seda, nagu kõiki asju, võidakse kuritarvitada. Ettevõte märkis blogipostituses: "Keeleharidusega mudelid võivad levitada kuritarvitamist – näiteks sisendades eelarvamusi, pöörates ümber vihakõne või korrates desinformatsiooni." Isegi kui õpetatavat keelt hästi analüüsitakse, võidakse vormi ennast väärkasutada.
Google väidab aga, et LaMDA-suguste tehnoloogiate väljatöötamisel on tema põhirõhk selliste ohtude võimaluse piiramisel. Ettevõte väidab, et on välja töötanud avatud lähtekoodiga tööriistad, mida teadlased saavad kasutada koolitatud mudelite ja andmete uurimiseks, samuti on nad "kontrollinud LaMDA-d selle arendamise igal etapil".
Google väidab, et sajad selle insenerid ja teadlased rääkisid LaMDA-ga ja jõudsid oluliselt erinevatele järeldustele kui Lemoine. Kuigi enamik tehisintellekti teadlasi usub, et arvutiteadvus pole võimatu, usuvad nad, et minna on veel pikk tee.
Tulevik
Aastatepikkune apokalüptiline ulme on saanud inspiratsiooni tundlikest robotitest. GPT-3, tekstigeneraator, mis suudab välja sülitada filmistsenaariumi, ja DALL-E 2, pildigeneraator, mis suudab välja võluda pilte mis tahes sõnakombinatsiooni põhjal, on nüüd hakanud andma päriselule fantaasiavärvi. OpenAI uurimisrühm. Inimese intellekti edestava tehisintellekti kallal töötavad hästi rahastatud uurimislaborite teadlased on julgustanud teadvust, et teadvus on silmapiiril.
Enamiku teadlaste ja tehisintellekti praktikute sõnul põhinevad tehisintellektisüsteemide, nagu LaMDA, loodud sõnad ja pildid sellel, mida inimesed on varem Wikipediasse, Redditi, teadetetahvlitele ja igasse teise Interneti nurka pannud. See ei tähenda, et mudel mõistab tähendust.
Järeldus
Lõpuks, selle tõttu keeletöötluse mudelid kes on saanud koolituse tohutul hulgal diskursusel, võib LaMDA läbi viia arutelu sõltuvalt kasutaja sisenditest.
Google andis selle aasta I/O käigus välja LaMDA 2.0, mis laiendab neid funktsioone. Uus mudel võib olla võimeline võtma ideed ja looma "kujutlusvõimelisi ja sobivaid kirjeldusi", hoida teemat ka siis, kui kasutaja eksleb, ja pakkuda teatud ülesande jaoks vajalike esemete loendit.
Värskendus: Blake Lemoine'ile on teatatud, et "föderaalne uurimine" erineb "föderaalvalitsust esindavatest advokaatidest, kes küsivad võimaliku ebaseadusliku tegevuse kohta".
Jäta vastus