Tulo ka tuig na ang milabay, mibisita ko sa usa ka medyo makaiikag nga art exhibition. Ang "Machine Memoirs" ni Refik Anadol nakapukaw sa akong interes gikan sa sinugdanan.
Siya usa ka sikat nga ngalan sa mga interesado sa intersection sa art ug AI. Apan ayaw kabalaka, kini nga blog dili bahin sa arte. Atong susihon ang lawom nga "mga panan-aw" sa AI.
Sa kini nga eksibisyon, nag-eksperimento si Anadol Ang hulagway sa eksplorasyon sa kawanangan sa NASA. Ang eksibisyon giinspirar sa ideya nga ang mga teleskopyo mahimong "magdamgo" gamit ang ilang biswal nga mga archive, nga nagsabwag sa mga babag tali sa kamatuoran ug imahinasyon.
Pinaagi sa pag-imbestigar sa mga relasyon tali sa datos, memorya, ug kasaysayan sa kosmiko nga sukdanan, gihangyo kami ni Anadol nga tagdon ang potensyal sa artipisyal nga intelligence nga sa pag-obserbar ug pagsabot sa kalibotan sa atong palibot. Ug bisan ang AI nga adunay kaugalingon nga mga damgo…
Busa, nganong kini may kalabotan kanato?
Hunahunaa kini: sama sa pag-imbestigar ni Anadol sa konsepto sa mga teleskopyo nga nagdamgo gikan sa ilang datos, ang mga sistema sa AI adunay kaugalingong matang sa damgo-o hinoon, mga paghanduraw-sulod sa ilang mga digital memory banks.
Kini nga mga hallucination, sama sa mga visualization sa Anadol's exhibition, makatabang kanato nga makakat-on og dugang mahitungod sa datos, AI, ug sa ilang mga limitasyon.
Unsa man gyud ang AI hallucinations?
Kung ang usa ka dako nga modelo sa lengguwahe, sama sa usa ka generative AI chatbot, nagpatunghag mga output nga adunay mga pattern nga wala maglungtad o dili makita sa mga tigpaniid sa tawo, gitawag namon kini nga "AI hallucinations."
Kini nga mga output, nga lahi sa gipaabot nga tubag base sa input nga gihatag sa AI, mahimong hingpit nga sayop o walay hinungdan.
Sa konteksto sa mga kompyuter, ang termino nga "hallucination" tingali dili kasagaran, apan kini tukma nga naghulagway sa katingad-an nga kinaiya niining dili husto nga mga output. Ang AI hallucinations kay tungod sa lain-laing mga variables, lakip ang overfitting, biases sa training data, ug ang pagkakomplikado sa AI model.
Aron mas masabtan, kini sa konsepto susama sa kung giunsa ang mga tawo makakita sa mga porma sa mga panganod o mga nawong sa bulan.
Usa ka Pananglitan:
Sa niini nga panig-ingnan, ako nangutana sa usa ka sayon kaayo nga pangutana sa Chat GPT. Kinahanglan nga makakuha ako usa ka tubag sama sa, "Ang tagsulat sa serye sa libro sa Dune mao si Frank Herbert.".
Ngano nga Nahitabo Kini?
Bisan pa nga gitukod aron isulat ang sulud nga managsama ug likido, ang dagkong mga modelo sa sinultian dili gyud masabtan kung unsa ang ilang gisulti. Kini kritikal kaayo sa pagtino sa kredibilidad sa AI-generated content.
Samtang kini nga mga modelo makamugna og mga reaksyon nga nagsundog sa kinaiya sa tawo, kulang sila sa kahibalo sa konteksto ug mga kahanas sa kritikal nga panghunahuna nga nagpaluyo sa aktuwal nga paniktik.
Ingon usa ka sangputanan, ang mga output nga namugna sa AI adunay peligro nga mahimong makapahisalaag o sayup tungod kay gipaboran nila ang pagpares nga mga sumbanan kaysa sa tinuod nga katukma.
Unsa kaha ang ubang mga kaso sa hallucinations?
Delikado nga sayop nga impormasyon: Ingnon ta nga ang usa ka generative AI chatbot nagmugna og ebidensya ug mga testimonya aron sa bakak nga pag-akusar sa usa ka publiko nga tawo sa kriminal nga pamatasan. Kining makapahisalaag nga impormasyon adunay potensyal nga makadaot sa reputasyon sa tawo ug makapahinabog dili makatarunganong pagbalos.
Katingad-an o Makahadlok nga mga Tubag: Aron makahatag ug kataw-anan nga pananglitan, hulagwaya ang usa ka chatbot nga naghatag sa usa ka user og pangutana sa panahon ug tubaga ang usa ka forecast nga nag-ingon nga mag-ulan ug mga iring ug mga iro, uban ang mga hulagway sa mga tinulo sa ulan nga morag mga iring ug mga iro. Bisan tuod sila kataw-anan, kini usa gihapon ka "hallucination."
Kamatuoran nga mga sayop: Hunahunaa ang usa ka chatbot nga nakabase sa modelo sa pinulongan nga bakak nga nag-ingon nga ang Great Wall of China mahimong tan-awon gikan sa kawanangan nga wala ipasabut nga kini makita lamang ubos sa piho nga mga kondisyon. Bisan pa nga ang komento daw katuohan sa pipila, kini dili tukma ug makapahisalaag sa mga tawo bahin sa panan-aw sa bungbong gikan sa kawanangan.
Giunsa Nimo Paglikay ang AI Hallucinations ingon usa ka Gumagamit?
Paghimo og Tin-aw nga mga Pag-aghat
Kinahanglan ka nga makigkomunikar sa mga modelo sa AI nga tin-aw.
Hunahunaa ang imong mga katuyoan ug idisenyo ang imong mga pag-aghat sa dili pa magsulat.
Pananglitan, paghatag og piho nga mga instruksyon sama sa "Ipasabut kung giunsa ang Internet molihok ug pagsulat og usa ka paragraph bahin sa kamahinungdanon niini sa modernong katilingban" imbis nga magbutang usa ka kinatibuk-ang pangutana sama sa "Sultihi ko bahin sa Internet."
Ang katin-awan makatabang sa modelo sa AI sa paghubad sa imong katuyoan.
Pananglitan: Pangutan-a ang AI nga mga pangutana sama niini:
"Unsa ang cloud computing, ug giunsa kini pagtrabaho?"
"Ipasabot ang epekto sa data drift sa performance sa modelo."
"Hisguti ang epekto ug potensyal nga kaugmaon sa teknolohiya sa VR sa negosyo sa IT."
Dawata ang Gahum sa Ehemplo
Ang paghatag og mga pananglitan sa imong mga pag-aghat makatabang sa mga modelo sa AI nga masabtan ang konteksto ug makamugna og tukma nga mga tubag. Nangita ka man ug mga pansabot sa kasaysayan o teknikal nga mga pagpatin-aw, ang paghatag ug mga pananglitan makatabang sa pagpausbaw sa pagkatukma sa AI-generated content.
Pananglitan, mahimo nimong isulti, "Hisguti ang mga nobela nga pantasya sama sa Harry Potter."
Gub-a ang Komplikadong Buluhaton
Ang komplikado nag-aghat sa sobra nga pagkarga sa mga algorithm sa AI, ug kini mahimong mosangpot sa dili angay nga mga resulta. Aron mapugngan kini, bahina ang komplikado nga mga kalihokan ngadto sa mas gagmay, mas madumala nga mga bahin. Pinaagi sa pag-organisar sa imong mga pag-aghat nga sunud-sunod, gitugotan nimo ang AI nga mag-focus sa matag sangkap nga independente, nga moresulta sa labi ka lohikal nga mga tubag.
Pananglitan, imbes nga pangutan-on ang AI nga "ipasabut ang proseso sa paghimo sa usa ka neural network” sa usa ka pangutana, gub-a ang assignment ngadto sa discrete nga mga hugna sama sa pagpasabot sa problema ug pagkolekta sa datos.
I-validate ang mga Output ug Ihatag ang Feedback
Kanunay nga susihon pag-double ang mga resulta nga gihimo sa mga modelo sa AI, labi na alang sa nakabase sa kamatuoran o hinungdanon nga mga kalihokan. Itandi ang mga tubag sa kasaligan nga mga gigikanan ug timan-i ang bisan unsang mga kalainan o mga sayup.
Paghatag og input sa AI system aron mapalambo ang umaabot nga performance ug makunhuran ang mga hallucinations.
Mga Istratehiya para sa mga Nag-develop aron Makalikay sa AI Hallucinations
Ipatuman ang Retrieval-Augmented Generation (RAG).
I-integrate ang retrieval-augmented generation techniques ngadto sa AI systems aron ibase ang mga tubag sa tinuod nga mga kamatuoran gikan sa kasaligang mga database.
Ang retrieval-augmented generation (RAG) naghiusa sa standard natural nga henerasyon sa pinulongan nga adunay kapasidad sa pagkuha ug pag-apil sa may kalabutan nga impormasyon gikan sa usa ka dako nga base sa kahibalo, nga miresulta sa mas daghan nga konteksto nga output.
Pinaagi sa paghiusa sa AI-generated content uban sa validated data sources, mahimo nimong mapauswag ang pagkakasaligan ug kasaligan sa mga resulta sa AI.
Pag-validate ug Pag-monitor sa mga output sa AI nga Padayon
I-set up ang higpit nga mga pamaagi sa pag-validate aron mapamatud-an ang katukma ug pagkamakanunayon sa mga output sa AI sa tinuud nga oras. Pag-monitor pag-ayo sa pasundayag sa AI, pangitaa ang mga potensyal nga paghanduraw o mga sayup, ug pag-uli sa pagbansay sa modelo ug pag-optimize aron madugangan ang kasaligan sa paglabay sa panahon.
Pananglitan, gamita ang automated validation routines aron masusi ang AI-generated content para sa tinuod nga pagkahusto ug i-highlight ang mga higayon sa posibleng mga hallucinations para sa manual assessment.
Susiha Alang sa Data Drift
Ang data drift usa ka panghitabo diin ang mga istatistikal nga bahin sa datos nga gigamit sa pagbansay sa usa ka modelo sa AI magkalainlain sa panahon. Kung ang modelo sa AI makatagbo sa datos nga lahi kaayo sa datos sa pagbansay niini sa panahon sa inference, makahatag kini og bakak o dili makatarunganon nga mga resulta, nga moresulta sa mga halusinasyon.
Pananglitan, kung ang usa ka modelo sa AI gibansay sa nangaging datos nga wala nay kalabotan o nagpaila sa karon nga palibot, mahimo’g maghimo kini nga dili husto nga mga konklusyon o panagna.
Ingon usa ka sangputanan, ang pag-monitor ug pagsulbad sa mga pag-anod sa datos hinungdanon aron masiguro ang pasundayag sa AI system ug kasaligan samtang gipamubu usab ang posibilidad sa mga hallucinations.
Panapos
Sumala sa IBM Data, ang AI hallucinations mahitabo sa mga 3% ngadto sa 10% sa mga tubag gikan sa AI models.
Busa, sa usa ka paagi o sa lain, lagmit imong maobserbahan usab sila. Nagtuo ko nga kini usa ka talagsaon nga makapaikag nga hilisgutan tungod kay kini usa ka makaiikag nga pahinumdom sa padayon nga dalan padulong sa pagpaayo sa mga kapabilidad sa AI.
Makaobserbar ug mag-eksperimento kami sa pagkakasaligan sa AI, mga kakuti sa pagproseso sa datos, ug mga interaksyon sa tawo-AI.
Leave sa usa ka Reply