Tliet snin ilu, żort wirja tal-arti pjuttost interessanti. “Machine Memoirs” ta’ Refik Anadol qajjem l-interess tiegħi mill-bidu.
Huwa isem popolari fost dawk li huma interessati fl-intersezzjoni tal-arti u l-AI. Imma tinkwetax, dan il-blog mhux dwar l-arti. Se nidħlu fil-"perċezzjonijiet" profondi tal-AI.
F'din il-wirja, Anadol kien qed jesperimenta biha Xbihat ta' esplorazzjoni spazjali tan-NASA. Il-wirja kienet ispirata mill-idea li t-teleskopji jistgħu "joħlom" billi jużaw l-arkivji viżwali tagħhom, u jċajpar l-ostakli bejn il-fatt u l-immaġinazzjoni.
Billi investiga r-relazzjonijiet bejn id-dejta, il-memorja, u l-istorja fuq skala kożmika, Anadol kien qed jitlobna nikkunsidraw il-potenzjal ta’ intelliġenza artifiċjali biex josservaw u nifhmu d-dinja ta’ madwarna. U anke l-AI biex ikollha l-ħolm tagħha stess...
Allura, għaliex dan huwa rilevanti għalina?
Ikkunsidra dan: daqskemm Anadol investigat il-kunċett ta 'teleskopji ħolm mid-dejta tagħhom, is-sistemi tal-AI għandhom it-tip ta' ħolma tagħhom stess—jew aħjar, alluċinazzjonijiet—fi ħdan il-banek tal-memorja diġitali tagħhom.
Dawn l-alluċinazzjonijiet, bħall-viżwalizzazzjonijiet fil-wirja ta 'Anadol, jistgħu jgħinuna nitgħallmu aktar dwar id-dejta, l-AI, u l-limiti tagħhom.
X'inhuma eżattament l-alluċinazzjonijiet AI?
Meta mudell tal-lingwa kbira, bħal chatbot AI ġenerattiv, jipproduċi outputs b'mudelli li huma jew ineżistenti jew inviżibbli għall-osservaturi umani, insejħu dawn "Alluċinazzjonijiet AI."
Dawn l-outputs, li huma differenti mit-tweġiba mistennija bbażata fuq l-input mogħti lill-AI, jistgħu jkunu kompletament żbaljati jew bla sens.
Fil-kuntest tal-kompjuters, it-terminu "alluċinazzjoni" jista 'jidher mhux tas-soltu, iżda jiddeskrivi b'mod preċiż il-karattru stramb ta' dawn l-outputs mhux korretti. L-alluċinazzjonijiet tal-AI huma kkawżati minn firxa ta 'varjabbli, inkluż aċċessorji żejda, preġudizzji fid-dejta tat-taħriġ, u l-kumplessità tal-mudell tal-AI.
Biex tifhem aħjar, dan huwa kunċettwalment simili għal kif il-bnedmin jaraw forom fis-sħab jew uċuħ fuq il-qamar.
Eżempju:
F'dan l-eżempju, staqsejt mistoqsija faċli ħafna biex Chat GPT. Suppost kelli nikseb tweġiba bħal, "L-awtur tas-serje ta' kotba Dune huwa Frank Herbert.".
Għaliex Dan iseħħ?
Minkejja li huma mibnija biex jiktbu kontenut li huwa koerenti u fluwidu, mudelli lingwistiċi kbar fil-fatt ma jistgħux jifhmu dak li qed jgħidu. Dan huwa kritiku ħafna biex tiddetermina l-kredibilità tal-kontenut iġġenerat mill-AI.
Filwaqt li dawn il-mudelli jistgħu jiġġeneraw reazzjonijiet li jimitaw l-imġieba tal-bniedem, huma nieqsa mill-għarfien kuntestwali u l-ħiliet tal-ħsieb kritiku li jirfdu l-intelliġenza attwali.
Bħala riżultat, l-outputs iġġenerati mill-AI għandhom il-periklu li jkunu qarrieqa jew żbaljati peress li jiffavorixxu mudelli ta' tqabbil fuq il-korrettezza fattwali.
X'jistgħu jkunu xi każijiet oħra ta' alluċinazzjonijiet?
Misinformazzjoni Perikoluża: Ejja ngħidu chatbot ġenerattiv AI jiffabbrika evidenza u testimonjanzi biex jakkuża b'mod falz figura pubblika ta 'kondotta kriminali. Din l-informazzjoni qarrieqa għandha l-potenzjal li tagħmel ħsara lir-reputazzjoni tal-persuna u tikkawża ritaljazzjoni mhux ġustifikata.
Tweġibiet Strambi jew Creepy: Biex tagħti eżempju umoristiku, stampa chatbot li jagħti mistoqsija dwar it-temp lil utent u jwieġeb bi tbassir li jgħid li se tagħmel xita qtates u klieb, flimkien ma' stampi ta' qtar tax-xita li jidhru qishom qtates u klieb. Anke jekk huma umoristiċi, din xorta tkun "alluċinazzjoni.".
Ineżattezzi fattwali: Assumi chatbot ibbażat fuq mudell tal-lingwa jistqarr b'mod falz li l-Ħajt il-Kbir taċ-Ċina jista 'jitħares mill-ispazju mingħajr ma tispjega li huwa viżibbli biss taħt kundizzjonijiet speċifiċi. Filwaqt li r-rimarka tista 'tidher plawsibbli għal xi wħud, hija mhux preċiża u tista' tqarraq bin-nies dwar il-vista tal-ħajt mill-ispazju.
Kif Tevita Alluċinazzjonijiet AI bħala Utent?
Agħmel Prompts Espliċiti
Trid tikkomunika ma' mudelli AI b'mod espliċitu.
Aħseb dwar il-miri tiegħek u ddisinja l-prompts tiegħek qabel tikteb.
Pereżempju, agħti struzzjonijiet speċifiċi bħal “Spjega kif jaħdem l-Internet u ikteb paragrafu dwar is-sinifikat tiegħu fis-soċjetà moderna” minflok tagħmel inkjesta ġenerali bħal “Għidli dwar l-Internet.”
L-espliċità tgħin lill-mudell AI jinterpreta l-intenzjoni tiegħek.
Eżempju: Staqsi l-mistoqsijiet tal-AI bħal dawn:
"X'inhu cloud computing, u kif jaħdem?"
"Spjega l-impatt tad-data drift fuq il-prestazzjoni tal-mudell."
"Iddiskuti l-impatt u l-futur potenzjali tat-teknoloġija VR fuq in-negozju tal-IT."
Iħaddnu l-Qawwa tal-Eżempju
L-għoti ta' eżempji fil-promps tiegħek jgħin lill-mudelli tal-AI jifhmu l-kuntest u jiġġeneraw tweġibiet preċiżi. Kemm jekk qed tfittex għarfien storiku jew spjegazzjonijiet tekniċi, l-għoti ta' eżempji jista' jgħin biex ittejjeb l-eżattezza tal-kontenut iġġenerat mill-AI.
Pereżempju, tistaʼ tgħid, “Semma rumanzi taʼ fantasija bħal Harry Potter.”
Tkissir Kompiti Kumpless
Kumpless iqajjem algoritmi AI ta 'tagħbija żejda, u jistgħu jwasslu għal riżultati irrilevanti. Biex tevita dan, aqsam attivitajiet kumplessi f'biċċiet iżgħar u aktar maniġġabbli. Billi torganizza l-istruzzjonijiet tiegħek b'mod sekwenzjali, inti tippermetti lill-AI tiffoka fuq kull komponent b'mod indipendenti, u dan jirriżulta f'risposti aktar loġiċi.
Pereżempju, aktar milli titlob lill-AI biex "jispjega l-proċess tal-ħolqien ta' a netwerk newrali” f'mistoqsija waħda, jaqsam l-assenjazzjoni f'fażijiet diskreti bħad-definizzjoni tal-problema u l-ġbir tad-dejta.
Ivvalida l-Outputs u Ipprovdi Feedback
Dejjem iċċekkja darbtejn ir-riżultati prodotti minn mudelli AI, partikolarment għal attivitajiet ibbażati fuq il-fatti jew kruċjali. Qabbel it-tweġibiet għal sorsi affidabbli u nnota kwalunkwe differenzi jew żbalji.
Ipprovdi input lis-sistema AI biex ittejjeb il-prestazzjoni futura u tnaqqas l-alluċinazzjonijiet.
Strateġiji għall-Iżviluppaturi biex jevitaw Alluċinazzjonijiet AI
Implimenta Ġenerazzjoni Żieda-Irkupru (RAG).
Integra tekniki ta' ġenerazzjoni miżjuda bl-irkupru fis-sistemi AI biex tibbaża t-tweġibiet fuq fatti fattwali minn databases affidabbli.
Ġenerazzjoni miżjuda bl-irkupru (RAG) tgħaqqad il-ġenerazzjoni standard tal-lingwa naturali mal-kapaċità li tikseb u tinkorpora informazzjoni rilevanti minn bażi ta 'għarfien enormi, li tirriżulta f'output aktar sinjuri fil-kuntest.
Billi tgħaqqad kontenut iġġenerat mill-AI ma' sorsi ta' dejta validati, tista' ttejjeb l-affidabbiltà u l-affidabbiltà tar-riżultati tal-AI.
Ivvalida u timmonitorja l-outputs tal-AI Kontinwament
Stabbilixxi proċeduri ta' validazzjoni rigorużi biex tivverifika l-korrettezza u l-konsistenza tal-outputs tal-AI f'ħin reali. Immonitorja l-prestazzjoni tal-AI b'attenzjoni, fittex alluċinazzjonijiet jew żbalji potenzjali, u tenni fuq it-taħriġ tal-mudell u l-ottimizzazzjoni fil-pront biex tiżdied l-affidabbiltà maż-żmien.
Pereżempju, uża rutini ta' validazzjoni awtomatizzati biex tiċċekkja l-kontenut iġġenerat mill-AI għall-korrettezza fattwali u tenfasizza każijiet ta' alluċinazzjonijiet possibbli għal valutazzjoni manwali.
Iċċekkja Għal Drifts tad-Data
Id-data drift huwa fenomenu li fih il-karatteristiċi statistiċi tad-data użata biex jitħarreġ mudell AI jvarjaw maż-żmien. Jekk il-mudell AI jilħaq data li hija differenti konsiderevolment mid-data tat-taħriġ tiegħu waqt l-inferenza, jista 'jipprovdi riżultati foloz jew illoġiċi, li jirriżultaw f'alluċinazzjonijiet.
Pereżempju, jekk mudell AI jiġi mħarreġ fuq data tal-passat li m'għadhiex rilevanti jew indikattiva tal-ambjent attwali, jista' jagħmel konklużjonijiet jew tbassir mhux korretti.
Bħala riżultat, il-monitoraġġ u r-riżoluzzjoni tad-drifts tad-dejta huma kritiċi biex jiġu żgurati l-prestazzjoni u l-affidabbiltà tas-sistema tal-AI filwaqt li titnaqqas ukoll il-possibbiltà ta’ alluċinazzjonijiet.
konklużjoni
Skont IBM Data, alluċinazzjonijiet tal-AI jseħħu f'madwar 3% sa 10% tat-tweġibiet minn mudelli tal-AI.
Allura, b'xi mod jew ieħor, inti probabilment se tosservahom ukoll. Nemmen li dan huwa suġġett oerhört interessanti għaliex huwa tfakkira affaxxinanti tat-triq kontinwa lejn it-titjib tal-kapaċitajiet tal-AI.
Irridu nosservaw u nesperimentaw bl-affidabbiltà tal-AI, l-intricacies tal-ipproċessar tad-dejta, u l-interazzjonijiet bejn il-bniedem u l-AI.
Ħalli Irrispondi