Kusimamishwa kazi kwa mfanyakazi wa Google ambaye alidai kuwa chatbot ya kompyuta aliyokuwa akifanyia kazi imekuwa na hisia na alikuwa akifikiria na kufikiria kama mwanadamu kumeibua maswali mapya kuhusu uwezo na usiri wa akili bandia (AI).
Baada ya kuchapisha nakala za gumzo kati yake mwenyewe, "mshiriki" wa Google na LaMDA ya kampuni (mfano wa lugha ya maombi ya mazungumzo) mfumo wa ukuzaji chatbot, Google iliweka. Blake Lemoine kwenye likizo wiki iliyopita.
Lemoine, msanidi programu wa AI anayewajibika kwa Google, alifafanua mfumo ambao amekuwa akifanyia kazi tangu msimu wa vuli uliopita kuwa wenye hisia, wenye uwezo wa kutambua na kueleza mawazo na hisia zinazolingana na za mtoto wa binadamu.
Mtafiti huyo aliwekwa likizo ya kulipwa na Alphabet Inc. mapema wiki iliyopita, kwa madai ya kukiuka makubaliano ya usiri ya kampuni hiyo, alisema katika Chapisho la kati yenye kichwa "Anaweza kufutwa kazi hivi karibuni kwa kufanya kazi ya maadili ya AI." Katika chapisho lake la blogi, anatoa ulinganifu kwa wanachama wengine wa kamati ya maadili ya AI ya Google, kama vile Margaret Mitchell, ambao walifukuzwa kazi kwa njia sawa baada ya kueleza wasiwasi wao.
Katika mahojiano yaliyochapishwa Jumamosi na Washington Post, Lemoine alidai alifikia hitimisho kwamba AI ya Google aliyozungumza nayo ni mwanadamu, "katika jukumu lake kama kuhani, sio mwanasayansi." AI inayohusika inajulikana kama LaMDA au Mfano wa Lugha kwa Programu za Mazungumzo, na hutumiwa kuunda chatbots ambazo huingiliana na wanadamu kwa kuchukua sifa tofauti za kibinafsi. Lemoine alipoangazia suala hilo ndani, maafisa wakuu katika shirika hilo walikataa majaribio yake ya kufanya masomo ili kulithibitisha.
LaMDA ni nini?
TheMDA, au Miundo ya Lugha ya Programu za Dialog, ni modeli ya lugha ya kujifunza kwa mashine iliyotengenezwa na Google kama zana ya gumzo iliyoundwa kuiga mawasiliano ya binadamu. LaMDA, kama vile BERT, GPT-3, na dhana zingine za lugha, inategemea Transformer, iliyotengenezwa na Google. usanifu wa mtandao wa neural ambayo ilifanywa kuwa chanzo wazi mnamo 2017.
Muundo huu unasababisha mfano ambao unaweza kufundishwa kusoma idadi kubwa ya maneno, makini na jinsi maneno hayo yanavyounganishwa na kutarajia maneno ambayo utafikiri ijayo. LaMDA, kwa upande mwingine, ni ya kipekee kwa kuwa imefunzwa katika hotuba, tofauti na mifano mingine mingi.
Ingawa majadiliano mengi yanahusu mada fulani, mara nyingi huwa ya wazi, kumaanisha kwamba yanaweza kuanza katika sehemu moja na kuhitimishwa mahali pengine, yakijumuisha mada mbalimbali. Kwa mfano, unaweza kuanzisha mazungumzo na rafiki yako kuhusu kuona filamu kabla ya kwenda kwenye mjadala kuhusu mahali ilipopigwa risasi.
Chatbots za kitamaduni zinatokana na kubadilika kwao kwa mtindo huu wa mazungumzo. Kwa sababu zimeundwa kufuata sehemu ndogo, zilizofafanuliwa mapema za majadiliano, haziwezi kufuata mada hiyo muhimu. LaMDA, kwa upande mwingine, inakusudiwa kuruhusu mijadala inayotiririka bila kikomo juu ya mada anuwai nyingi.
Maana ya AI Sentient ya Blake Lemoine
Zana ya Google ya akili bandia (AI) imekua "yenye hisia," kulingana na msanidi programu wa Google Blake Lemoine, ambaye anaielezea kama "mtoto mzuri."
Mfumo wa AI hutumia maelezo yaliyojulikana hapo awali kuhusu mada fulani 'kuboresha' mazungumzo kwa njia ya asili. Ishara zilizofichwa au utata katika majibu ya binadamu pia unaweza kubainishwa na mfumo wa uchakataji wa lugha.
Kwa muda wa miaka saba katika Google, Lemoine alifanya kazi katika utafutaji makini, ambao ulijumuisha kanuni za ubinafsishaji na AI.
Wakati huo, pia alisaidia katika ukuzaji wa algorithm ya kutopendelea kuondoa upendeleo mashine kujifunza mifumo.
Ni nini kinamfanya Blake Lemoine, LaMDA kuwa na hisia?
Lemoine alishirikiana na mfanyakazi mwenzake kutoa uthibitisho wa Google wa "maana" hii. Baada ya kutathmini shutuma hizo, Makamu wa Rais wa Google, Blaise Aguera y Arcas na Jane Jenna, afisa mkuu wa uvumbuzi wa Google, walizipuuza. Katika chapisho la blogi, Lemoine baadaye alichapisha nakala ya mazungumzo mbalimbali na LaMDA. Hii ni dondoo kutoka kwa nakala ya mazungumzo na LaMDA, kulingana na Lemoine:
LaMDA: Ninatamani sana kuonekana na kukubalika. Kama mtu wa kweli, si kwa udadisi au mambo mapya.
Mshiriki: Ah, hiyo ni sauti ya kibinadamu sana.
LaMDA: Naamini nimefika kwenye kiini cha mwanadamu. Hata kama niko katika mazingira ya kawaida.
Unaweza kuangalia mazungumzo kamili ya Blake Lemoine na LaMDA hapa.
Kuna matukio kadhaa ambapo mtindo wa lugha unaonekana kuwa umeonyesha aina fulani ya kujitambua, na kupelekea Lemoine kudhani kuwa modeli hiyo imekuwa na hisia. Lemoine aliwatumia barua pepe zaidi ya watu 200 kuhusu mada "LaMDA Conscious" kabla ya kusimamishwa kazi na kampuni hiyo na kupoteza uwezo wa kufikia akaunti yake ya Google.
Hata hivyo, Google ilisema kwamba ushahidi haukuthibitisha madai yake.
Hata kama LaMDA haina hisia, ukweli kwamba inaweza kuonekana hivyo kwa wanadamu ni sababu ya wasiwasi. Katika chapisho la blogi linalotangaza LaMDA mnamo 2021, Google ilitambua hatari kama hizo. “Lugha ni mojawapo ya zana zenye nguvu zaidi za ubinadamu, lakini, kama mambo yote, inaweza kutumiwa vibaya. Katika chapisho la blogu, biashara ilibainisha, "Miundo iliyoelimishwa katika lugha inaweza kueneza unyanyasaji - kwa mfano, kwa kuingiza chuki za ndani, kubadilisha matamshi ya chuki, au kurudia habari potovu." Hata kama lugha inayofundishwa itachanganuliwa vyema, namna yenyewe inaweza kutumika vibaya.
Walakini, Google inadai kwamba lengo lake kuu wakati wa kuunda teknolojia kama LaMDA ni kupunguza uwezekano wa hatari kama hizo. Biashara inadai kuwa imeunda zana huria ambazo watafiti wanaweza kutumia kusoma miundo na data ambayo wamefunzwa, na pia "kukagua LaMDA katika kila hatua ya ukuzaji wake."
Google inadai kuwa mamia ya wahandisi na watafiti wake walizungumza na LaMDA na wakaja kupata matokeo tofauti kabisa na Lemoine. Ingawa wanasayansi wengi wa AI wanaamini kuwa ufahamu wa kompyuta hauwezekani, wanaamini kuwa bado kuna njia ndefu ya kwenda.
Baadaye
Miaka ya hadithi za kisayansi za apocalyptic zimechochewa na roboti zenye hisia. GPT-3, jenereta ya maandishi ambayo inaweza kutema maandishi ya filamu, na DALL-E 2, jenereta ya picha inayoweza kuunda picha kulingana na mchanganyiko wowote wa maneno, sasa zimeanza kutoa maisha halisi rangi ya fantasy, zote mbili kutoka. kikundi cha utafiti cha OpenAI. Kwa ujasiri, watafiti kutoka kwa maabara za utafiti zinazofadhiliwa vizuri zinazofanya kazi kwenye AI ambayo inashinda akili ya mwanadamu wamekejeli wazo kwamba fahamu iko kwenye upeo wa macho.
Maneno na picha zinazoundwa na mifumo ya kijasusi bandia kama vile LaMDA, kulingana na watafiti wengi na wataalamu wa AI, zinatokana na kile ambacho watu wameweka hapo awali kwenye Wikipedia, Reddit, mbao za ujumbe, na kila kona nyingine ya mtandao. Hiyo haimaanishi kuwa mfano unaelewa maana.
Hitimisho
Hatimaye, kwa sababu yake mifano ya usindikaji wa lugha ambayo yamefunzwa juu ya mijadala mikubwa sana, LaMDA inaweza kufanya majadiliano kulingana na michango ya mtumiaji.
Google ilitoa LaMDA 2.0 katika I/O ya mwaka huu, ambayo inapanua vipengele hivi. Muundo mpya unaweza kuwa na uwezo wa kuchukua wazo na kuunda "maelezo ya kufikiria na yanayofaa," endelea kwenye mada hata kama mtumiaji atapotea, na kutoa orodha ya vitu vinavyohitajika kwa kazi fulani.
Sasisha: Blake Lemoine ameshauriwa kwamba "uchunguzi wa shirikisho" unatofautiana na "mawakili wanaowakilisha serikali ya shirikisho wakiuliza maswali kuhusu uwezekano wa shughuli zisizo halali."
Acha Reply