Dair blynedd yn ôl, ymwelais ag arddangosfa gelf eithaf diddorol. Cododd “Machine Memoirs” gan Refik Anadol fy niddordeb o’r dechrau.
Mae'n enw poblogaidd ymhlith y rhai sydd â diddordeb mewn croestoriad celf ac AI. Ond peidiwch â phoeni, nid yw'r blog hwn yn ymwneud â chelf. Byddwn yn ymchwilio i “ganfyddiadau” dwfn o AI.
Yn yr arddangosfa hon, roedd Anadol yn arbrofi gyda Delweddau archwilio gofod NASA. Ysbrydolwyd yr arddangosfa gan y syniad y gallai telesgopau “freuddwydio” gan ddefnyddio eu harchifau gweledol, gan gymylu’r rhwystrau rhwng ffaith a dychymyg.
Trwy ymchwilio i'r berthynas rhwng data, cof, a hanes ar raddfa gosmig, roedd Anadol yn gofyn i ni ystyried potensial deallusrwydd artiffisial i arsylwi a deall y byd o'n cwmpas. A hyd yn oed AI i gael ei freuddwydion ei hun…
Felly, pam mae hyn yn berthnasol i ni?
Ystyriwch hyn: yn yr un modd ag y gwnaeth Anadol ymchwilio i'r cysyniad o delesgopau yn breuddwydio o'u data, mae gan systemau AI eu math eu hunain o freuddwyd - neu yn hytrach, rhithweledigaethau - o fewn eu banciau cof digidol.
Gall y rhithweledigaethau hyn, fel y delweddau yn arddangosfa Anadol, ein helpu i ddysgu mwy am ddata, AI, a'u terfynau.
Beth yn union yw rhithweledigaethau AI?
Pan fydd model iaith mawr, fel chatbot AI cynhyrchiol, yn cynhyrchu allbynnau gyda phatrymau nad ydynt yn bodoli neu sy’n anweledig i arsylwyr dynol, rydym yn galw’r rhain yn “rhithweledigaethau AI."
Gall yr allbynnau hyn, sy'n wahanol i'r ateb disgwyliedig yn seiliedig ar y mewnbwn a roddir i'r AI, fod yn gwbl wallus neu'n ddisynnwyr.
Yng nghyd-destun cyfrifiaduron, gall y term “rhithweledigaeth” ymddangos yn anarferol, ond mae'n disgrifio cymeriad rhyfedd yr allbynnau anghywir hyn yn gywir. Mae rhithwelediadau AI yn cael eu hachosi gan amrywiaeth o newidynnau, gan gynnwys gorffitio, rhagfarnau mewn data hyfforddi, a chymhlethdod y model AI.
Er mwyn deall yn well, mae hyn yn gysyniadol debyg i sut mae bodau dynol yn gweld siapiau mewn cymylau neu wynebau ar y lleuad.
Enghraifft:
Yn yr enghraifft hon, gofynnais gwestiwn hawdd iawn iddo SgwrsGPT. Roeddwn i fod i gael ateb fel, “Awdur y gyfres lyfrau Dune yw Frank Herbert.”.
Pam Mae hyn yn Digwydd?
Er gwaethaf cael eu hadeiladu i ysgrifennu cynnwys sy'n gydlynol a hylifol, mewn gwirionedd nid yw modelau iaith mawr yn gallu deall yr hyn y maent yn ei ddweud. Mae hyn yn hanfodol iawn wrth bennu hygrededd cynnwys a gynhyrchir gan AI.
Er y gall y modelau hyn gynhyrchu adweithiau sy'n dynwared ymddygiad dynol, nid oes ganddynt yr ymwybyddiaeth gyd-destunol a'r sgiliau meddwl beirniadol sy'n sail i wybodaeth wirioneddol.
O ganlyniad, mae allbynnau a gynhyrchir gan AI mewn perygl o fod yn gamarweiniol neu'n anghywir gan eu bod yn ffafrio patrymau paru yn hytrach na chywirdeb ffeithiol.
Beth allai fod rhai achosion eraill o rithweledigaethau?
Gwybodaeth anghywir beryglus: Gadewch i ni ddweud bod chatbot AI cynhyrchiol yn ffugio tystiolaeth a thystiolaeth i gyhuddo ffigwr cyhoeddus o ymddygiad troseddol ar gam. Mae gan y wybodaeth gamarweiniol hon y potensial i niweidio enw da'r person ac achosi dial anghyfiawn.
Atebion Rhyfedd neu iasol: I roi enghraifft ddoniol, lluniwch chatbot yn rhoi cwestiwn tywydd i ddefnyddiwr ac yn ateb gyda rhagolwg sy'n dweud y bydd yn bwrw glaw cathod a chŵn, ynghyd â lluniau o ddiferion glaw sy'n edrych fel cathod a chŵn. Er eu bod yn ddoniol, byddai hyn yn dal i fod yn “rithweledigaeth”.
Camgymeriadau Ffeithiol: Tybiwch fod chatbot sy'n seiliedig ar fodel iaith yn nodi'n anghywir y gellir edrych ar Wal Fawr Tsieina o'r gofod heb egluro mai dim ond o dan amodau penodol y gellir ei weld. Er y gall y sylw ymddangos yn gredadwy i rai, mae'n anghywir a gall gamarwain pobl ynghylch golwg y wal o'r gofod.
Sut Ydych Chi'n Osgoi Rhithweledigaethau AI fel Defnyddiwr?
Gwnewch Anogaethau Eglur
Mae angen i chi gyfathrebu'n benodol â modelau AI.
Meddyliwch am eich nodau a chynlluniwch eich awgrymiadau cyn ysgrifennu.
Er enghraifft, rhowch gyfarwyddiadau penodol fel “Eglurwch sut mae’r Rhyngrwyd yn gweithio ac ysgrifennwch baragraff am ei arwyddocâd yn y gymdeithas fodern” yn lle gwneud ymholiad cyffredinol fel “Dywedwch wrthyf am y Rhyngrwyd.”
Mae eglurdeb yn helpu'r model AI i ddehongli'ch bwriad.
Enghraifft: Gofynnwch gwestiynau'r AI fel y rhain:
“Beth yw cyfrifiadura cwmwl, a sut mae'n gweithio?”
“Eglurwch effaith drifft data ar berfformiad model.”
“Trafodwch effaith a dyfodol posibl technoleg VR ar y busnes TG.”
Cofleidio Grym Esiampl
Mae darparu enghreifftiau yn eich awgrymiadau yn helpu modelau AI i ddeall y cyd-destun a chynhyrchu atebion manwl gywir. P'un a ydych chi'n chwilio am fewnwelediadau hanesyddol neu esboniadau technegol, gall darparu enghreifftiau helpu i wella cywirdeb cynnwys a gynhyrchir gan AI.
Er enghraifft, gallwch chi ddweud, "Soniwch am nofelau ffantasi fel Harry Potter."
Chwalu Tasgau Cymhleth
Mae anogwyr cymhleth yn gorlwytho algorithmau AI, a gallant arwain at ganlyniadau amherthnasol. Er mwyn atal hyn, rhannwch weithgareddau cymhleth yn ddarnau llai, mwy hylaw. Trwy drefnu'ch awgrymiadau yn olynol, rydych chi'n caniatáu i'r AI ganolbwyntio ar bob cydran yn annibynnol, gan arwain at atebion mwy rhesymegol.
Er enghraifft, yn hytrach na gofyn i’r AI “egluro’r broses o greu a rhwydwaith niwral" mewn un ymholiad, rhannwch yr aseiniad yn gamau ar wahân fel diffinio problem a chasglu data.
Dilysu'r Allbynnau a Darparu Adborth
Gwiriwch y canlyniadau a gynhyrchir gan fodelau AI bob amser, yn enwedig ar gyfer gweithgareddau sy'n seiliedig ar ffeithiau neu weithgareddau hanfodol. Cymharwch yr atebion i ffynonellau dibynadwy a nodwch unrhyw wahaniaethau neu wallau.
Darparu mewnbwn i'r system AI i wella perfformiad yn y dyfodol a lleihau rhithweledigaethau.
Strategaethau i Ddatblygwyr i Osgoi Rhithweledigaethau AI
Gweithredu Adalw-Cynhyrchu Cynydd (RAG).
Integreiddio technegau cynhyrchu estynedig adalw i systemau AI i seilio atebion ar ffeithiau ffeithiol o gronfeydd data dibynadwy.
Mae cenhedlaeth estynedig adalw (RAG) yn cyfuno cenhedlaeth iaith naturiol safonol gyda'r gallu i gael ac ymgorffori gwybodaeth berthnasol o sylfaen wybodaeth enfawr, gan arwain at allbwn mwy cyd-destunol gyfoethog.
Trwy gyfuno cynnwys a gynhyrchir gan AI â ffynonellau data dilys, gallwch wella dibynadwyedd a dibynadwyedd canlyniadau AI.
Dilysu a Monitro allbynnau AI yn Barhaus
Sefydlu gweithdrefnau dilysu trwyadl i wirio cywirdeb a chysondeb allbynnau AI mewn amser real. Monitro perfformiad AI yn astud, edrych am rithweledigaethau neu gamgymeriadau posibl, ac ailadrodd hyfforddiant model ac optimeiddio prydlon i gynyddu dibynadwyedd dros amser.
Er enghraifft, defnyddiwch arferion dilysu awtomataidd i wirio cywirdeb ffeithiol cynnwys a gynhyrchir gan AI ac amlygu enghreifftiau o rithweledigaethau posibl ar gyfer asesiad â llaw.
Gwiriwch Am Drifftiau Data
Mae drifft data yn ffenomen lle mae nodweddion ystadegol y data a ddefnyddir i hyfforddi model AI yn amrywio gydag amser. Os yw'r model AI yn cwrdd â data sy'n wahanol iawn i'w ddata hyfforddi yn ystod casgliad, gall ddarparu canlyniadau ffug neu afresymegol, gan arwain at rithweledigaethau.
Er enghraifft, os yw model AI wedi'i hyfforddi ar ddata'r gorffennol nad yw bellach yn berthnasol neu'n arwydd o'r amgylchedd presennol, gall ddod i gasgliadau neu ragfynegiadau anghywir.
O ganlyniad, mae monitro a datrys lluwchfeydd data yn hanfodol i sicrhau perfformiad system AI a dibynadwyedd tra hefyd yn lleihau'r posibilrwydd o rithweledigaethau.
Casgliad
Yn ôl IBM Data, mae rhithweledigaethau AI yn digwydd mewn tua 3% i 10% o atebion o fodelau AI.
Felly, un ffordd neu'r llall, mae'n debyg y byddwch chi'n eu harsylwi hefyd. Rwy'n credu bod hwn yn bwnc hynod ddiddorol oherwydd mae'n atgof hynod ddiddorol o'r ffordd barhaus tuag at wella galluoedd AI.
Cawn arsylwi ac arbrofi gyda dibynadwyedd AI, cymhlethdodau prosesu data, a rhyngweithiadau dynol-AI.
Gadael ymateb