Twa zan de sa, mwen te vizite yon egzibisyon atizay olye enteresan. "Memoirs machin" pa Refik Anadol te pike enterè mwen depi nan kòmansman an.
Li se yon non popilè nan mitan moun ki enterese nan entèseksyon atizay ak AI. Men, pa enkyete w, blog sa a pa sou atizay. Nou pral fouye nan gwo twou san fon "pèsepsyon" AI.
Nan egzibisyon sa a, Anadol te fè eksperyans Imaj eksplorasyon espas NASA. Egzibisyon an te enspire pa lide ke teleskòp te kapab "reve" lè l sèvi avèk achiv vizyèl yo, flou baryè ki genyen ant reyalite ak imajinasyon.
Nan envestige relasyon ki genyen ant done, memwa, ak istwa sou yon echèl cosmic, Anadol te mande nou konsidere potansyèl la nan atifisyèl entèlijans pou obsève ak konprann mond lan bò kote nou. E menm AI pou gen pwòp rèv li...
Kidonk, poukisa sa enpòtan pou nou?
Konsidere sa a: menm jan Anadol te envestige konsèp teleskòp k ap reve nan done yo, sistèm AI gen pwòp kalite rèv yo-oswa pito, alisinasyon-nan bank memwa dijital yo.
Alisinasyon sa yo, tankou vizyalizasyon yo nan egzibisyon Anadol la, ka ede nou aprann plis sou done, AI, ak limit yo.
Ki sa egzakteman alisinasyon AI?
Lè yon modèl lang gwo, tankou yon chatbot jeneratif AI, pwodui rezilta ak modèl ki swa inègzistan oswa envizib pou obsèvatè imen, nou rele sa yo "AI alisinasyon."
Pwodiksyon sa yo, ki diferan de repons espere ki baze sou opinyon yo bay AI a, ka konplètman inègza oswa san sans.
Nan yon kontèks òdinatè, tèm "alisinasyon an" ka sanble etranj, men li avèk presizyon dekri karaktè ra nan rezilta sa yo kòrèk. Alisinasyon AI yo te koze pa yon seri de varyab, ki gen ladan overfitting, prejije nan done fòmasyon, ak konpleksite nan modèl AI.
Pou konprann pi byen, sa a konseptyèlman sanble ak fason moun wè fòm nan nyaj oswa figi sou lalin lan.
Yon egzanp:
Nan egzanp sa a, mwen te poze yon kesyon trè fasil Chat GPT. Mwen te sipoze jwenn yon repons tankou, "Otè a nan seri a liv Dune se Frank Herbert."
Poukisa sa rive?
Malgre ke yo te bati pou ekri kontni ki aderan ak likid, gwo modèl lang yo aktyèlman pa kapab konprann sa yo ap di. Sa a trè kritik nan detèmine kredibilite nan kontni AI-pwodwi.
Pandan ke modèl sa yo ka jenere reyaksyon ki imite konpòtman imen, yo manke konsyans kontèks la ak ladrès panse kritik ki fonde entèlijans aktyèl la.
Kòm yon rezilta, AI-pwodwi rezilta yo kouri danje a pou yo twonpe oswa mal paske yo favorize modèl matche sou korèkte reyalite.
Ki sa ki ka gen kèk lòt ka alisinasyon?
Move enfòmasyon danjere: Ann di yon chatbot jeneratif AI fabrike prèv ak temwayaj pou fo akize yon figi piblik nan konduit kriminèl. Enfòmasyon ki twonpe sa a gen potansyèl pou yo domaje repitasyon moun nan epi lakòz revanj san jistifikasyon.
Repons etranj oswa grenpe: Pou bay yon egzanp komik, imajine yon chatbot k ap bay yon itilizatè yon kesyon metewolojik epi reponn ak yon previzyon ki di li pral lapli chat ak chen, ansanm ak foto gout lapli ki sanble chat ak chen. Menm si yo komik, sa a ta toujou yon "alisinasyon.".
Ereksyon reyalite: Sipoze yon chatbot ki baze sou modèl lang bay manti ke Gran miray Lachin nan ka wè nan espas san yo pa eksplike ke li se vizib sèlman nan kondisyon espesifik. Pandan ke remak la ka parèt plausible pou kèk, li pa kòrèk epi li ka twonpe moun sou je miray la soti nan espas.
Ki jan ou fè pou evite alisinasyon AI kòm yon itilizatè?
Fè envit eksplisit
Ou bezwen kominike ak modèl AI klèman.
Reflechi sou objektif ou yo epi konsepsyon envit ou anvan ou ekri.
Pa egzanp, bay enstriksyon espesifik tankou "Eksplike kijan Entènèt la fonksyone epi ekri yon paragraf sou siyifikasyon li nan sosyete modèn" olye w poze yon kesyon jeneral tankou "Pale m sou entènèt la."
Eksplisite ede modèl AI entèprete entansyon ou.
Egzanp: Poze kesyon AI yo tankou sa yo:
"Ki sa ki cloud computing, ak ki jan li fonksyone?"
"Eksplike enpak done derive sou pèfòmans modèl."
"Diskite sou enpak ak avni potansyèl teknoloji VR sou biznis IT la."
Anbrase pouvwa egzanp lan
Bay egzanp nan envit ou yo ede modèl AI konprann kontèks la epi jenere repons egzak. Kit w ap chèche enfòmasyon istorik oswa eksplikasyon teknik, bay egzanp ka ede amelyore presizyon kontni AI-pwodwi.
Pa egzanp, ou ka di, "Mansyone woman fantasy tankou Harry Potter."
Dekonpoze Travay Konplèks
Konplèks envit surcharge algorithm AI, epi yo ka mennen nan rezilta petinan. Pou anpeche sa, divize aktivite konplèks yo an pi piti, pi jere moso. Lè w òganize envit ou yo an sekans, ou pèmèt AI a konsantre sou chak eleman poukont li, sa ki lakòz repons ki pi lojik.
Pou egzanp, olye ke mande AI a "eksplike pwosesis la nan kreye yon rezo neral" nan yon sèl rechèch, divize plasman an nan faz disrè tankou definisyon pwoblèm ak koleksyon done.
Valide rezilta yo epi bay Feedback
Toujou tcheke rezilta yo pwodwi pa modèl AI, patikilyèman pou aktivite ki baze sou reyalite oswa enpòtan. Konpare repons yo ak sous serye epi sonje nenpòt diferans oswa erè.
Bay opinyon nan sistèm AI pou amelyore pèfòmans nan lavni ak diminye alisinasyon.
Estrateji pou devlopè yo evite alisinasyon AI
Aplike Retrieval-Augmented Generation (RAG).
Entegre teknik jenerasyon rekiperasyon ogmante nan sistèm AI pou baze repons yo sou reyalite reyalite ki soti nan baz done serye.
Retrieval-augmented generation (RAG) konbine jenerasyon estanda lang natirèl ak kapasite pou jwenn ak enkòpore enfòmasyon enpòtan ki soti nan yon baz konesans gwo, sa ki lakòz plis pwodiksyon kontèks.
Lè w rantre kontni AI-pwodwi ak sous done valide, ou ka amelyore fyab ak fyab rezilta AI yo.
Valide ak kontwole rezilta AI Kontinyèlman
Mete sou pye pwosedi validation solid pou verifye kòrèkteman ak konsistans rezilta AI an tan reyèl. Siveye pèfòmans AI ak anpil atansyon, gade pou alisinasyon oswa erè potansyèl, epi repete sou fòmasyon modèl ak optimize rapid pou ogmante fyab sou tan.
Pou egzanp, sèvi ak woutin validation otomatik pou tcheke kontni AI-pwodwi pou kòrèkteman reyalite epi mete aksan sou ka alisinasyon posib pou evalyasyon manyèl.
Tcheke Pou Done Drifts
Drift done se yon fenomèn kote karakteristik estatistik done yo itilize pou fòme yon modèl AI varye ak tan. Si modèl AI a satisfè done ki diferan anpil ak done fòmasyon li yo pandan enferans, li ka bay rezilta fo oswa ki pa lojik, sa ki lakòz alisinasyon.
Pou egzanp, si yon modèl AI resevwa fòmasyon sou done sot pase yo ki pa enpòtan oswa ki endike anviwònman aktyèl la, li ka fè konklizyon oswa prediksyon ki pa kòrèk.
Kòm yon rezilta, siveyans ak rezoud derive done yo enpòtan anpil pou asire pèfòmans sistèm AI ak fyabilite pandan y ap diminye posiblite pou alisinasyon tou.
konklizyon
Dapre IBM Data, alisinasyon AI rive nan anviwon 3% a 10% repons ki soti nan modèl AI.
Se konsa, yon fason oswa yon lòt, ou pral pwobableman obsève yo tou. Mwen kwè ke sa a se yon sijè ekstrèmman enteresan paske li se yon rapèl kaptivan nan wout la kontinyèl nan direksyon amelyore kapasite AI a.
Nou jwenn obsève ak eksperyans ak fyab nan AI, sibtilite yo nan pwosesis done, ak entèraksyon moun-AI.
Kite yon Reply