Peb xyoos dhau los, kuv tau mus xyuas ib qho kev nthuav qhia kos duab zoo nkauj. "Machine Memoirs" los ntawm Refik Anadol piqued kuv txaus siab los ntawm qhov pib.
Nws yog lub npe nrov ntawm cov neeg nyiam kev sib tshuam ntawm kev kos duab thiab AI. Tab sis tsis txhob txhawj, qhov blog no tsis yog hais txog kev kos duab. Peb yuav delve rau hauv qhov tob "kev nkag siab" ntawm AI.
Hauv qhov kev nthuav qhia no, Anadol tau sim nrog NASA qhov chaw tshawb nrhiav duab. Qhov kev nthuav qhia tau tshwm sim los ntawm lub tswv yim hais tias telescopes tuaj yeem "npau suav" siv lawv cov ntaub ntawv pom, ua kom pom kev tsis sib haum ntawm qhov tseeb thiab kev xav.
Los ntawm kev soj ntsuam kev sib raug zoo ntawm cov ntaub ntawv, nco, thiab keeb kwm ntawm lub cosmic scale, Anadol tau hais kom peb xav txog lub peev xwm ntawm artificial txawj ntse saib thiab nkag siab txog lub ntiaj teb nyob ib puag ncig peb. Thiab txawm tias AI kom muaj nws tus kheej npau suav…
Yog li, vim li cas qhov no cuam tshuam rau peb?
Xav txog qhov no: ntau npaum li Anadol tau tshawb xyuas lub tswv yim ntawm tsom iav tsom iav los ntawm lawv cov ntaub ntawv, AI systems muaj lawv tus kheej hom kev npau suav - lossis theej, hnov lus - hauv lawv lub txhab nyiaj digital nco.
Cov kev xav tsis zoo no, zoo li kev pom hauv Anadol qhov kev nthuav qhia, tuaj yeem pab peb kawm paub ntau ntxiv txog cov ntaub ntawv, AI, thiab lawv cov kev txwv.
Dab tsi yog AI hallucinations?
Thaum tus qauv lus loj, xws li AI chatbot generative, tsim tawm nrog cov qauv uas tsis muaj lossis tsis pom rau tib neeg cov neeg soj ntsuam, peb hu cov "AI kev npau suav."
Cov txiaj ntsig no, uas txawv ntawm cov lus teb xav tau raws li cov tswv yim muab rau AI, tuaj yeem ua yuam kev lossis tsis muaj tseeb.
Hauv cov ntsiab lus ntawm cov khoos phis tawj, lo lus "hallucination" yuav zoo li txawv txav, tab sis nws qhia meej txog qhov txawv txawv ntawm cov txiaj ntsig tsis raug. AI kev xav tsis thoob yog tshwm sim los ntawm ntau qhov sib txawv, suav nrog kev ua haujlwm dhau, kev tsis ncaj ncees hauv cov ntaub ntawv qhia, thiab qhov nyuaj ntawm AI qauv.
Kom nkag siab zoo dua, qhov no yog lub tswv yim zoo ib yam li tib neeg pom cov duab hauv huab lossis ntsej muag ntawm lub hli.
Ib qho Piv Txwv:
Hauv qhov piv txwv no, kuv nug ib lo lus nug yooj yim heev rau Sib tham GPT. Kuv yuav tsum tau txais cov lus teb zoo li, "Tus sau phau ntawv Dune yog Frank Herbert."
Vim li cas Qhov no tshwm sim?
Txawm hais tias tau tsim los sau cov ntsiab lus uas sib koom ua ke thiab muaj dej, cov qauv lus loj tsis tuaj yeem nkag siab qhov lawv hais. Qhov no yog qhov tseem ceeb heev hauv kev txiav txim siab kev ntseeg siab ntawm AI-tsim cov ntsiab lus.
Thaum cov qauv no tuaj yeem tsim cov tshuaj tiv thaiv uas ua rau tib neeg tus cwj pwm, lawv tsis muaj kev paub txog lub ntsiab lus thiab kev txawj xav uas underpin tiag tiag txawj ntse.
Raws li qhov tshwm sim, AI-tsim cov txiaj ntsig tau ua rau muaj kev phom sij ntawm kev nkag siab yuam kev lossis tsis ncaj ncees vim tias lawv nyiam cov qauv sib piv ntawm qhov tseeb qhov tseeb.
Yuav ua li cas lwm yam xwm txheej ntawm hallucinations?
Dangerous Misinformation: Cia peb hais tias lub generative AI chatbot tsim cov pov thawj thiab cov lus pov thawj los liam rau pej xeem ntawm kev ua txhaum cai. Cov ntaub ntawv tsis raug no muaj peev xwm ua rau tus neeg lub koob npe puas tsuaj thiab ua rau muaj kev ua pauj tsis ncaj ncees.
Cov lus teb Weird los yog Creepy: Txhawm rau muab cov piv txwv lom zem, duab chatbot muab rau tus neeg siv cov lus nug huab cua thiab teb nrog kev kwv yees hais tias nws yuav los nag miv thiab dev, nrog rau cov duab ntawm cov nag uas zoo li miv thiab dev. Txawm hais tias lawv funny, qhov no tseem yuav yog "kev xav tsis thoob."
Factual Inaccuracies: Piv txwv li cov qauv lus raws li chatbot cuav hais tias Great Wall of China yuav raug saib los ntawm qhov chaw yam tsis tau piav qhia tias nws tsuas yog pom nyob rau hauv cov xwm txheej tshwj xeeb. Txawm hais tias cov lus hais tuaj yeem tshwm sim rau qee tus, nws tsis raug thiab tuaj yeem ua rau tib neeg yuam kev txog phab ntsa pom ntawm qhov chaw.
Yuav ua li cas kom tsis txhob AI Hallucinations raws li tus neeg siv?
Ua cov lus qhia meej
Koj yuav tsum sib txuas lus nrog AI qauv qhia meej.
Xav txog koj lub hom phiaj thiab tsim koj qhov kev tshoov siab ua ntej sau ntawv.
Piv txwv li, muab cov lus qhia tshwj xeeb xws li "Qhia seb Internet ua haujlwm li cas thiab sau ib nqe lus hais txog nws qhov tseem ceeb hauv lub neej niaj hnub no" es tsis txhob sau cov lus nug dav dav xws li "Qhia rau kuv txog Is Taws Nem."
Explicity pab tus qauv AI txhais koj lub hom phiaj.
Piv txwv: Nug cov lus nug AI xws li cov no:
"Dab tsi yog huab xam, thiab nws ua haujlwm li cas?"
"Qhia qhov cuam tshuam ntawm cov ntaub ntawv drift ntawm tus qauv kev ua tau zoo."
"Sib tham txog qhov cuam tshuam thiab muaj peev xwm yav tom ntej ntawm VR thev naus laus zis ntawm kev lag luam IT."
Txais Lub Hwj Chim ntawm Piv Txwv
Muab piv txwv hauv koj cov lus ceeb toom pab AI cov qauv nkag siab txog cov ntsiab lus thiab tsim cov lus teb meej. Txawm hais tias koj tab tom nrhiav kev nkag siab keeb kwm lossis kev piav qhia, muab cov piv txwv tuaj yeem pab txhim kho qhov tseeb ntawm AI-tsim cov ntsiab lus.
Piv txwv li, koj tuaj yeem hais tias, "Mus txog cov dab neeg zoo nkauj xws li Harry Potter."
Txhaum cov hauj lwm nyuaj
Complex prompts overload AI algorithms, thiab lawv yuav ua rau cov txiaj ntsig tsis cuam tshuam. Txhawm rau tiv thaiv qhov no, faib cov kev ua ub no rau hauv me me, tswj tau ntau dua. Los ntawm kev teeb tsa koj cov lus ceeb toom ua ntu zus, koj tso cai rau AI tsom mus rau txhua yam ntawm nws tus kheej, ua rau cov lus teb ntau dua.
Piv txwv li, tsis yog nug AI kom "piav txog cov txheej txheem ntawm kev tsim ib neural network " nyob rau hauv ib qho lus nug, rhuav tshem txoj haujlwm mus rau hauv cov theem tsis sib xws xws li teeb meem txhais thiab sau cov ntaub ntawv.
Txheeb xyuas cov txiaj ntsig thiab muab cov lus teb
Ib txwm tshawb xyuas ob npaug ntawm cov txiaj ntsig uas tsim los ntawm AI qauv, tshwj xeeb tshaj yog rau qhov tseeb lossis cov haujlwm tseem ceeb. Sib piv cov lus teb rau cov peev txheej txhim khu kev qha thiab nco ntsoov qhov sib txawv lossis qhov yuam kev.
Muab cov tswv yim rau AI system los txhim kho kev ua haujlwm yav tom ntej thiab txo qis kev xav tsis thoob.
Cov tswv yim rau cov tsim tawm kom tsis txhob AI Hallucinations
Ua kom rov qab-Augmented Generation (RAG).
Kev koom ua ke retrieval-augmented tiam cov tswv yim rau hauv AI systems los teb cov lus teb rau qhov tseeb ntawm cov ntaub ntawv ntseeg tau.
Retrieval-augmented generation (RAG) sib txuas cov qauv lus tsim nrog lub peev xwm kom tau txais thiab koom nrog cov ntaub ntawv tseem ceeb los ntawm lub hauv paus kev paub loj, uas ua rau muaj txiaj ntsig ntau ntxiv.
Los ntawm kev sib koom ua ke AI-tsim cov ntsiab lus nrog cov ntaub ntawv siv tau, koj tuaj yeem txhim kho qhov kev cia siab thiab kev ntseeg siab ntawm AI cov txiaj ntsig.
Txheeb xyuas thiab saib xyuas AI cov txiaj ntsig tsis tu ncua
Teeb tsa cov txheej txheem kev siv tau zoo los txheeb xyuas qhov raug thiab sib xws ntawm AI cov khoom tawm hauv lub sijhawm. Saib xyuas AI kev ua tau zoo, saib rau qhov muaj peev xwm hnov lus lossis ua yuam kev, thiab rov hais dua rau cov qauv kev cob qhia thiab ua kom zoo tshaj plaws kom muaj kev cia siab rau lub sijhawm.
Piv txwv li, siv automated validation routines los xyuas AI-tsim cov ntsiab lus rau qhov tseeb qhov tseeb thiab hais txog qhov tshwm sim ntawm kev xav tsis zoo rau kev ntsuas phau ntawv.
Tshawb nrhiav cov ntaub ntawv Drifts
Cov ntaub ntawv drift yog qhov tshwm sim uas cov xwm txheej ntawm cov ntaub ntawv siv los cob qhia tus qauv AI sib txawv raws sijhawm. Yog tias tus qauv AI ua tau raws li cov ntaub ntawv sib txawv ntawm nws cov ntaub ntawv qhia thaum lub sij hawm inference, nws tuaj yeem muab cov txiaj ntsig tsis tseeb lossis tsis muaj tseeb, ua rau muaj kev xav tsis thoob.
Piv txwv li, yog tias tus qauv AI tau kawm txog cov ntaub ntawv yav dhau los uas tsis muaj feem cuam tshuam lossis qhia txog ib puag ncig tam sim no, nws yuav ua rau tsis raug lossis kev kwv yees.
Raws li qhov tshwm sim, kev saib xyuas thiab daws cov ntaub ntawv drifts yog qhov tseem ceeb los ua kom ntseeg tau AI system kev ua tau zoo thiab kev cia siab rau thaum tseem txo qis qhov muaj peev xwm ntawm kev hnov lus.
xaus
Raws li IBM Cov Ntaub Ntawv, AI hallucinations tshwm sim nyob ib ncig ntawm 3% mus rau 10% ntawm cov lus teb los ntawm AI qauv.
Yog li, ib txoj kev los yog lwm qhov, koj yuav zaum saib lawv thiab. Kuv ntseeg tias qhov no yog ib lub ntsiab lus nthuav dav heev vim tias nws yog ib qho kev ceeb toom tseem ceeb ntawm txoj kev txuas mus ntxiv rau kev txhim kho AI lub peev xwm.
Peb tau txais kev soj ntsuam thiab sim nrog kev ntseeg siab ntawm AI, kev tsis sib haum xeeb ntawm kev ua cov ntaub ntawv, thiab kev sib cuam tshuam ntawm tib neeg-AI.
Sau ntawv cia Ncua