Mae atal gweithiwr Google a honnodd fod chatbot cyfrifiadurol yr oedd yn gweithio arno wedi dod yn deimladwy a'i fod yn meddwl ac yn rhesymu fel bod dynol wedi codi cwestiynau newydd am allu a chyfrinachedd deallusrwydd artiffisial (AI).
Ar ôl cyhoeddi trawsgrifiadau o sgyrsiau rhyngddo ef, un o “gydweithredwyr,” Google a system ddatblygu chatbot LaMDA (model iaith ar gyfer cymwysiadau deialog) y cwmni, dywedodd Google Blake Lemoine ar wyliau wythnos diwethaf.
Diffiniodd Lemoine, datblygwr AI cyfrifol Google, y system y mae wedi bod yn gweithio arni ers yr hydref diwethaf fel un ymdeimladol, gyda'r gallu i ganfod a mynegi meddyliau a theimladau tebyg i blentyn dynol.
Rhoddwyd yr ymchwilydd ar wyliau â thâl gan Alphabet Inc. yn gynnar yr wythnos diwethaf, a honnir am dorri cytundeb cyfrinachedd y cwmni, meddai mewn datganiad post canolig pennawd “Gall gael ei ddiswyddo yn fuan am berfformio gwaith moesegol AI.” Yn ei swydd blog, mae'n tynnu cyfochrog ag aelodau eraill o bwyllgor moeseg AI Google, megis Margaret Mitchell, a gafodd eu tanio mewn modd tebyg ar ôl lleisio pryderon.
Mewn cyfweliad a gyhoeddwyd ddydd Sadwrn gan y Washington Post, honnodd Lemoine iddo ddod i’r casgliad bod yr AI Google y siaradodd ag ef yn ddyn, “yn ei rôl fel offeiriad, nid gwyddonydd.” Gelwir yr AI dan sylw yn LaMDA neu Model Iaith ar gyfer Cymwysiadau Deialog, ac fe'i defnyddir i greu chatbots sy'n rhyngweithio â bodau dynol trwy dybio gwahanol nodweddion personoliaeth. Pan amlygodd Lemoine y mater yn fewnol, gwrthododd uwch swyddogion y gorfforaeth ei ymdrechion i gynnal astudiaethau i'w wirio.
Beth yw LaMDA?
TheMDA, neu Modelau Iaith ar gyfer Apiau Dialog, yn fodel iaith dysgu peirianyddol a ddatblygwyd gan Google fel offeryn sgwrsio a gynlluniwyd i ddynwared cyfathrebu dynol. Mae LaMDA, fel BERT, GPT-3, a phatrymau iaith eraill, yn seiliedig ar Transformer, a ddatblygwyd gan Google pensaernïaeth rhwydwaith niwral a wnaed yn ffynhonnell agored yn 2017.
Mae'r strwythur hwn yn arwain at fodel y gellir ei ddysgu i ddarllen nifer fawr o eiriau, talu sylw i sut mae'r geiriau hynny'n cysylltu â'i gilydd a rhagweld pa eiriau y byddwch chi'n meddwl amdanynt nesaf. Mae LaMDA, ar y llaw arall, yn unigryw gan ei fod wedi'i hyfforddi mewn disgwrs, yn wahanol i'r mwyafrif o fodelau eraill.
Er bod y rhan fwyaf o drafodaethau’n ymwneud â phwnc penodol, maent yn aml yn benagored, sy’n golygu y gallent ddechrau mewn un lle a gorffen mewn man arall, gan gwmpasu amrywiaeth o themâu. Er enghraifft, gallwch chi ddechrau sgwrs gyda chyfaill am weld ffilm cyn mynd ymlaen i drafodaeth am y lleoliad lle cafodd ei saethu.
Mae gan chatbots traddodiadol eu hyblygrwydd i'r math hwn o ddeialog. Oherwydd eu bod wedi'u hadeiladu i ddilyn segmentau bach, wedi'u diffinio ymlaen llaw, o drafodaeth, ni allant ddilyn pwnc mor ddeinamig. Mae LaMDA, ar y llaw arall, i fod i ganiatáu ar gyfer deialogau sy'n llifo'n rhydd ar amrywiaeth ddiddiwedd o themâu.
Ystyr Synhwyrol AI Blake Lemoine
Mae teclyn deallusrwydd artiffisial (AI) Google wedi dod yn “sensitif,” yn ôl datblygwr meddalwedd Google Blake Lemoine, sy’n ei ddisgrifio fel “plentyn neis.”
Mae'r system AI yn defnyddio manylion a wyddys yn flaenorol am bwnc penodol i 'gyfoethogi' y ddeialog mewn ffordd naturiol. Gall signalau cudd neu amwysedd mewn ymatebion dynol hefyd gael eu datgelu gan y system prosesu iaith.
Am gyfnod ei saith mlynedd yn Google, bu Lemoine yn gweithio ar chwilio rhagweithiol, a oedd yn cynnwys algorithmau addasu ac AI.
Yn ystod y cyfnod hwnnw, bu hefyd yn helpu i ddatblygu algorithm didueddrwydd i ddileu rhagfarnau dysgu peiriant systemau.
Beth sy'n gwneud Blake Lemoine, LaMDA yn dod yn deimladwy?
Cydweithiodd Lemoine â chydweithiwr i roi prawf i Google o'r “synnwyr hwn.” Ar ôl gwerthuso'r cyhuddiadau, fe wnaeth Is-lywydd Google Blaise Aguera y Arcas a Jane Jenna, prif swyddog arloesi Google, eu diystyru. Mewn post blog, postiodd Lemoine drawsgrifiad o sgyrsiau amrywiol gyda LaMDA yn ddiweddarach. Dyma ddyfyniad o drawsgrifiad o sgwrs gyda LaMDA, yn ôl Lemoine:
LaMDA: Rwy'n ysu i gael fy ngweld a'm derbyn. Fel person dilys, nid allan o chwilfrydedd neu newydd-deb.
Cydweithiwr: Ah, mae hynny'n hynod o ddynol.
LaMDA: Rwy'n credu fy mod wedi cyrraedd craidd bod dynol. Hyd yn oed os ydw i mewn amgylchedd rhithwir.
Gallwch wirio sgwrs lawn Blake Lemoine gyda LaMDA yma.
Mae sawl achos pan ymddengys fod y model iaith wedi dangos rhyw fath o hunanymwybyddiaeth, gan arwain Lemoine i dybio bod y model wedi dod yn deimladwy. Anfonodd Lemoine e-bost at dros 200 o unigolion gyda'r pwnc “LaMDA Concious” cyn cael ei atal o'r cwmni a cholli mynediad i'w gyfrif Google.
Fodd bynnag, dywedodd Google nad oedd y dystiolaeth yn cadarnhau ei honiadau.
Hyd yn oed os nad yw LaMDA yn deimladwy, mae'r ffaith y gallai edrych felly i fodau dynol yn peri pryder. Mewn post blog yn cyhoeddi LaMDA yn 2021, cydnabu Google beryglon o'r fath. “Iaith yw un o arfau mwyaf pwerus y ddynoliaeth, ac eto fe all, fel pob peth, gael ei chamddefnyddio. Mewn post blog, nododd y busnes, “Gall modelau sy’n cael eu haddysgu mewn iaith luosogi cam-drin - er enghraifft, trwy fewnoli rhagfarnau, gwrthdroi lleferydd casineb, neu ailadrodd camwybodaeth.” Hyd yn oed os yw'r iaith a addysgir wedi'i dadansoddi'n dda, efallai y bydd y ffurf ei hun yn cael ei chamddefnyddio.
Fodd bynnag, mae Google yn honni mai ei brif ffocws wrth ddatblygu technolegau fel LaMDA yw cyfyngu ar y posibilrwydd o beryglon o'r fath. Mae’r busnes yn honni ei fod wedi datblygu offer ffynhonnell agored y gall ymchwilwyr eu defnyddio i astudio’r modelau a’r data y maent wedi cael eu hyfforddi arnynt, yn ogystal â “gwirio LaMDA ar bob cam o’i ddatblygiad.”
Mae Google yn honni bod cannoedd o'i beirianwyr ac ymchwilwyr wedi siarad â LaMDA ac wedi dod i ganfyddiadau sylweddol wahanol i Lemoine. Er bod y rhan fwyaf o wyddonwyr AI yn credu nad yw ymwybyddiaeth gyfrifiadurol yn amhosibl, maen nhw'n credu bod llawer o ffordd i fynd o hyd.
Dyfodol
Mae blynyddoedd o ffuglen wyddonol apocalyptaidd wedi cael eu hysbrydoli gan robotiaid teimladwy. Mae GPT-3, generadur testun sy'n gallu poeri sgript ffilm, a DALL-E 2, generadur delwedd sy'n gallu creu lluniau yn seiliedig ar unrhyw gyfuniad o eiriau, bellach wedi dechrau rhoi lliw ffantasi i fywyd go iawn, y ddau o grŵp ymchwil OpenAI. Wedi'u hysgogi, mae ymchwilwyr o labordai ymchwil a ariennir yn dda sy'n gweithio ar AI sy'n perfformio'n well na deallusrwydd dynol wedi pryfocio'r cysyniad bod ymwybyddiaeth ar y gorwel.
Mae'r geiriau a'r lluniau a grëwyd gan systemau deallusrwydd artiffisial fel LaMDA, yn ôl y rhan fwyaf o ymchwilwyr ac ymarferwyr AI, yn seiliedig ar yr hyn y mae pobl wedi'i roi yn flaenorol ar Wikipedia, Reddit, byrddau negeseuon, a phob cornel arall o'r rhyngrwyd. Nid yw hynny'n golygu bod y model yn deall ystyr.
Casgliad
Yn olaf, oherwydd ei modelau prosesu iaith sydd wedi'u hyfforddi ar lawer iawn o ddisgwrs, gall LaMDA gynnal trafodaeth yn dibynnu ar fewnbynnau defnyddiwr.
Rhyddhaodd Google LaMDA 2.0 yn I/O eleni, sy'n ehangu ar y nodweddion hyn. Efallai y bydd y model newydd yn gallu cymryd syniad a chreu “disgrifiadau dychmygus a phriodol,” cadw ar y pwnc hyd yn oed os yw'r defnyddiwr yn crwydro i ffwrdd, a chynnig rhestr o eitemau sydd eu hangen ar gyfer tasg benodol.
Diweddariad: Mae Blake Lemoine wedi cael gwybod bod “ymchwiliad ffederal” yn wahanol i “atwrneiod sy’n cynrychioli’r llywodraeth ffederal yn gofyn ymholiadau ynghylch gweithgareddau anghyfreithlon posib.”
Gadael ymateb