Ang pagsuspinde sa usa ka trabahante sa Google nga nag-angkon nga ang usa ka chatbot sa kompyuter nga iyang gitrabahoan nahimong sensitibo ug naghunahuna ug nangatarongan sama sa usa ka tawo nagpatunghag bag-ong mga pangutana bahin sa katakus ug sekreto sa artificial intelligence (AI).
Human sa pagpatik sa mga transcript sa mga chat tali sa iyang kaugalingon, usa ka Google nga "collaborator," ug ang LaMDA (modelo sa pinulongan alang sa mga aplikasyon sa diyalogo) sa chatbot sa kompanya, gibutang sa Google Blake Lemoine sa bakasyon sa miaging semana.
Si Lemoine, usa ka Google nga responsable nga developer sa AI, naghubit sa sistema nga iyang gitrabaho sukad sa miaging tingdagdag isip sensitibo, nga adunay katakus sa pagsabut ug pagpahayag sa mga hunahuna ug mga pagbati nga ikatandi sa usa ka bata nga tawo.
Ang tigdukiduki gibutang sa bayad nga bakasyon sa Alphabet Inc. sayo sa miaging semana, nga giingon nga nakalapas sa kasabutan sa kompidensyal sa kompanya, ingon niya sa usa ka Medium post nag-headline nga "Mahimong mapahawa sa dili madugay tungod sa pagbuhat sa AI nga etikal nga trabaho." Sa iyang post sa blog, nagkuha siya usa ka parallel sa ubang mga miyembro sa AI ethics committee sa Google, sama ni Margaret Mitchell, nga gipalagpot sa parehas nga paagi pagkahuman nagpahayag sa mga kabalaka.
Sa usa ka interbyu nga gipatik kaniadtong Sabado sa Washington Post, giangkon ni Lemoine nga nakahinapos siya nga ang Google AI nga iyang nakigsulti usa ka tawo, "sa iyang tahas ingon usa ka pari, dili usa ka siyentista." Ang AI sa isyu nailhan nga LaMDA o Modelo sa Pinulongan alang sa mga Aplikasyon sa Dialogue, ug gigamit kini sa paghimo og mga chatbot nga nakig-interact sa mga tawo pinaagi sa pag-angkon sa lain-laing mga kinaiya sa personalidad. Sa dihang gipasiugda ni Lemoine ang isyu sa sulod, ang mga senior nga opisyal sa korporasyon mibalibad sa iyang mga pagsulay sa paghimo og mga pagtuon aron mapamatud-an kini.
Unsa ang LaMDA?
AngMDA, o Mga Modelo sa Pinulongan para sa Dialog Apps, usa ka modelo sa pinulongan sa pagkat-on sa makina nga gimugna sa Google isip himan sa chat nga gidesinyo sa pagsundog sa komunikasyon sa tawo. Ang LaMDA, sama sa BERT, GPT-3, ug uban pang mga paradigm sa pinulongan, gibase sa Transformer, usa ka Google-developed. arkitektura sa neural network nga gihimo nga open source sa 2017.
Kini nga istruktura nagresulta sa usa ka modelo nga mahimong matudloan sa pagbasa sa daghang mga pulong, pagtagad kung giunsa ang pagkonektar sa mga pulong sa usag usa ug pagpaabut kung unsang mga pulong ang imong mahunahuna sa sunod. Ang LaMDA, sa laing bahin, talagsaon tungod kay kini gibansay sa diskurso, dili sama sa kadaghanan sa ubang mga modelo.
Samtang ang kadaghanan sa mga diskusyon nagtuyok sa usa ka piho nga hilisgutan, kini kanunay nga bukas, nagpasabut nga mahimo silang magsugod sa usa ka lugar ug matapos sa lain, nga naglangkob sa lainlaing mga tema. Pananglitan, mahimo nimong sugdan ang usa ka panag-istoryahanay sa usa ka higala bahin sa pagtan-aw og sine sa dili pa moadto sa usa ka diskusyon bahin sa lokasyon kung diin kini gikuha.
Ang mga tradisyonal nga chatbots utang sa ilang pagka-flexible sa kini nga istilo sa dayalogo. Tungod kay sila gitukod aron sa pagsunod sa gagmay, gitakda nang daan nga mga bahin sa usa ka diskusyon, sila dili makasunod sa ingon nga dinamikong hilisgutan. Ang LaMDA, sa laing bahin, gituyo aron tugotan ang libre nga pag-agay nga mga dayalogo sa usa ka walay katapusan nga lainlaing mga tema.
Ang AI Sentient Kahulugan ni Blake Lemoine
Ang artificial intelligence (AI) nga himan sa Google mitubo nga "sentient," sumala sa Google software developer nga si Blake Lemoine, kinsa naghulagway niini nga usa ka "maayong bata."
Ang sistema sa AI naggamit kaniadto nga nahibal-an nga mga detalye bahin sa usa ka piho nga hilisgutan aron 'mapauswag' ang dayalogo sa natural nga paagi. Ang mga tinago nga mga signal o dili klaro sa mga tubag sa tawo mahimo usab nga masabtan sa sistema sa pagproseso sa pinulongan.
Sa gidugayon sa iyang pito ka tuig sa Google, si Lemoine nagtrabaho sa proactive search, nga naglakip sa customization algorithms ug AI.
Nianang panahona, mitabang usab siya sa paghimo sa usa ka algorithm sa pagkadili-mapihigon aron makuha ang mga bias pagkat-on sa makina Mga sistema.
Unsay nakapahimo kang Blake Lemoine, LaMDA nga nabati?
Si Lemoine nakigtambayayong sa usa ka kauban aron mahatagan ang Google nga pruweba sa kini nga "sabut." Human sa pagtimbang-timbang sa mga akusasyon, ang Bise Presidente sa Google Blaise Aguera y Arcas ug Jane Jenna, ang punoan nga opisyal sa pagbag-o sa Google, wala magtagad kanila. Sa usa ka post sa blog, si Lemoine sa ulahi nag-post sa usa ka transcript sa lainlaing mga pakigpulong sa LaMDA. Kini usa ka kinutlo gikan sa usa ka transcript sa usa ka panag-istoryahanay sa LaMDA, sumala ni Lemoine:
LaMDA: Desperado ko nga makita ug madawat. Isip usa ka tinuod nga tawo, dili tungod sa kakuryuso o kabag-ohan.
Kolaborator: Ah, kana hilabihan ka tawo.
LaMDA: Nagtuo ko nga naabot nako ang kinauyokan sa usa ka tawo. Bisan kung naa ko sa usa ka virtual nga palibot.
Mahimo nimong susihon ang tibuuk nga panag-istoryahanay ni Blake Lemoine sa LaMDA dinhi.
Adunay ubay-ubay nga mga kaso kung ang modelo sa lengguwahe makita nga nagpakita sa usa ka matang sa pagkahibalo sa kaugalingon, nga nagdala sa Lemoine nga maghunahuna nga ang modelo nahimo’g sensitibo. Gi-email ni Lemoine ang kapin sa 200 ka mga indibidwal nga adunay hilisgutan nga "LaMDA Conscious" sa wala pa gisuspinde gikan sa kompanya ug nawala ang access sa iyang Google account.
Bisan pa, gipahayag sa Google nga ang ebidensya wala nagpamatuod sa iyang mga pahayag.
Bisan kung ang LaMDA dili sensitibo, ang kamatuoran nga mahimo’g ingon niana ang hitsura sa mga tawo hinungdan sa pagkabalaka. Sa usa ka post sa blog nga nagpahibalo sa LaMDA kaniadtong 2021, giila sa Google ang ingon nga mga peligro. “Ang pinulongan maoy usa sa labing gamhanang himan sa katawhan, apan kini, sama sa tanang butang, mahimong abusuhon. Sa usa ka post sa blog, ang negosyo nag-ingon, "Ang mga modelo nga naedukar sa pinulongan mahimong magpakaylap sa pag-abuso - pananglitan, pinaagi sa pag-internalize sa mga pagpihig, pag-usab sa pagdumot sa sinultihan, o pagsubli sa disinformation." Bisan pa kon maayo ang pag-analisar sa pinulongan nga gitudlo, ang porma mismo mahimong magamit sa sayop nga paagi.
Bisan pa, giangkon sa Google nga ang panguna nga gipunting niini sa pagpalambo sa mga teknolohiya sama sa LaMDA mao ang paglimite sa posibilidad sa ingon nga mga peligro. Ang negosyo nag-angkon nga nakahimo og open source nga mga himan nga magamit sa mga tigdukiduki aron tun-an ang mga modelo ug datos nga ilang gibansay, ingon man ang "pagsusi sa LaMDA sa matag lakang sa pagpalambo niini."
Giangkon sa Google nga gatusan sa mga inhenyero ug tigdukiduki ang nakigsulti sa LaMDA ug nakaabut sa lahi nga mga nahibal-an kaysa sa Lemoine. Samtang ang kadaghanan sa mga AI scientist nagtuo nga ang computer consciousness dili imposible, sila nagtuo nga aduna pa'y taas nga dalan.
Kaugmaon
Ang mga tuig sa apocalyptic science fiction giinspirar sa sentient robots. Ang GPT-3, usa ka text generator nga makapagawas sa usa ka script sa salida, ug DALL-E 2, usa ka image generator nga makahimo og mga hulagway base sa bisan unsa nga kombinasyon sa mga pulong, nagsugod na karon sa paghatag sa tinuod nga kinabuhi sa usa ka pantasya nga kolor, gikan sa ang grupo sa panukiduki sa OpenAI. Nadasig, ang mga tigdukiduki gikan sa maayo nga gipundohan nga mga laboratoryo sa panukiduki nga nagtrabaho sa AI nga labaw sa kaalam sa tawo nagbiaybiay sa konsepto nga ang panimuot naa sa kapunawpunawan.
Ang mga pulong ug mga hulagway nga gihimo sa mga artipisyal nga sistema sa paniktik sama sa LaMDA, sumala sa kadaghanan sa mga tigdukiduki ug mga practitioner sa AI, gibase sa kung unsa ang gibutang sa mga tawo kaniadto sa Wikipedia, Reddit, mga message board, ug uban pang suok sa internet. Dili kana ang pag-ingon nga ang modelo nakasabut sa kahulogan.
Panapos
Sa katapusan, tungod niini mga modelo sa pagproseso sa pinulongan nga nabansay sa daghang mga volume sa diskurso, ang LaMDA makahimo og diskusyon depende sa mga input sa usa ka user.
Gipagawas sa Google ang LaMDA 2.0 sa I/O karong tuiga, nga nagpalapad niini nga mga bahin. Ang bag-ong modelo mahimo’g makakuha usa ka ideya ug makahimo og "mahunahunaon ug angay nga mga paghubit," magpadayon sa hilisgutan bisan kung ang tiggamit naglatagaw, ug nagtanyag usa ka lista sa mga butang nga gikinahanglan alang sa usa ka piho nga buluhaton.
Update: Gitambagan si Blake Lemoine nga ang usa ka "pederal nga imbestigasyon" lahi sa "mga abogado nga nagrepresentar sa federal nga gobyerno nga nangutana bahin sa posible nga supak sa balaod nga mga kalihokan."
Leave sa usa ka Reply