L-IA għandha s-setgħa li ttejjeb l-effiċjenza f'diversi setturi bħan-negozju u l-kura tas-saħħa. Madankollu, in-nuqqas ta 'spjegabbiltà tfixkel id-dipendenza tagħna fuq l-użu tagħha għat-teħid tad-deċiżjonijiet.
Għandna nafdaw il-ġudizzju ta 'algoritmu?
Huwa importanti li dawk li jieħdu d-deċiżjonijiet fi kwalunkwe industrija jifhmu l-limitazzjonijiet u l-preġudizzji potenzjali mudelli ta 'tagħlim bil-magna. Biex jiġi żgurat li dawn il-mudelli qed iġibu ruħhom kif maħsub, l-output ta 'kwalunkwe sistema AI għandu jkun spjegabbli għal bniedem.
F'dan l-artikolu, se ngħaddu fuq l-importanza tal-ispjegabilità fl-AI. Aħna ser nipprovdu ħarsa ġenerali fil-qosor tat-tipi ta 'metodi użati biex nidħlu spjegazzjonijiet minn mudelli ta' tagħlim bil-magni.
X'inhu l-AI Spjegabbli?
Spjegabbli intelliġenza artifiċjali jew XAI jirreferi għat-tekniki u l-metodi użati biex jippermettu lill-bnedmin jifhmu kif il-mudelli tat-tagħlim tal-magni jaslu għal ċertu output.
Ħafna popolari algoritmi ta 'tagħlim bil-magna taħdem bħallikieku kienet “kaxxa sewda”. Fit-tagħlim bil-magni, algoritmi tal-kaxxa sewda irreferi għal mudelli ML fejn huwa impossibbli li jiġi vverifikat kif ċertu input iwassal għal output partikolari. Anke l-iżviluppatur tal-AI mhux se jkun kapaċi jispjega bis-sħiħ kif jaħdem l-algoritmu.
Per eżempju, algoritmi ta 'tagħlim fil-fond jużaw netwerks newrali biex tidentifika mudelli minn tunnellata ta 'dejta. Anke jekk ir-riċerkaturi u l-iżviluppaturi tal-AI jifhmu kif in-netwerks newrali jaħdmu mil-lat tekniku, lanqas huma jistgħu jispjegaw bis-sħiħ kif netwerk newrali ħareġ b'riżultat partikolari.
Xi netwerks newrali jimmaniġġjaw miljuni ta 'parametri li kollha jaħdmu flimkien biex jirritornaw ir-riżultat finali.
F'sitwazzjonijiet fejn id-deċiżjonijiet huma importanti, in-nuqqas ta' spjegazzjoni jista' jsir problematiku.
Għaliex Tgħodd l-Ispjegabbiltà
Spjegabbiltà jipprovdi għarfien dwar kif il-mudelli jieħdu deċiżjonijiet. In-negozji li jippjanaw li jadattaw l-AI biex jieħdu deċiżjonijiet se jkollhom jiddeterminaw jekk l-AI użatx l-input it-tajjeb biex jaslu għall-aħjar deċiżjoni.
Mudelli li ma jistgħux jiġu spjegati huma kwistjoni f'diversi industriji. Pereżempju, kieku kumpanija kellha tuża algoritmu biex tieħu deċiżjonijiet ta’ kiri, ikun fl-aħjar interess ta’ kulħadd li jkun hemm trasparenza dwar kif l-algoritmu jiddeċiedi li jirrifjuta applikant.
Qasam ieħor fejn tagħlim fil-fond algoritmi qed jintużaw aktar spiss huwa fil-kura tas-saħħa. F'każijiet fejn l-algoritmi jippruvaw jiskopru sinjali possibbli ta 'kanċer, huwa importanti li t-tobba jifhmu kif il-mudell wasal għal dijanjosi partikolari. Huwa meħtieġ ċertu livell ta' spjegazzjoni għall-esperti biex jieħdu vantaġġ sħiħ mill-AI u ma jsegwuhx bl-addoċċ
Ħarsa ġenerali ta 'Algoritmi AI Spjegabbli
Algoritmi AI spjegabbli jaqgħu f'żewġ kategoriji wesgħin: mudelli awto-interpretabbli u spjegazzjonijiet post-hoc.
Mudelli awto-interpretabbli
Mudelli awto-interpretabbli huma algoritmi li bniedem jista’ jaqra u jinterpreta direttament. F'dan il-każ, il-mudell innifsu huwa l-ispjegazzjoni.
Uħud mill-mudelli awto-interpretabbli l-aktar komuni jinkludu siġar tad-deċiżjonijiet u mudelli ta 'rigressjoni.
Pereżempju, ejja nikkunsidraw mudell ta' rigressjoni lineari li jbassar il-prezzijiet tad-djar. Rigressjoni lineari tfisser li b'xi valur x, inkunu nistgħu nbassru l-valur fil-mira tagħna y billi napplikaw funzjoni lineari partikolari f.
Ejja ngħidu li l-mudell tagħna juża d-daqs tal-lott bħala l-input ewlieni biex jiddetermina l-prezz tad-dar. Bl-użu ta 'rigressjoni lineari, stajna noħorġu bil-funzjoni y = 5000 * x fejn x huwa l-ammont ta' pied kwadru jew daqs tal-lott.
Dan il-mudell jista' jinqara mill-bniedem u huwa kompletament trasparenti.
Spjegazzjonijiet Post-Hoc
Spjegazzjonijiet post hoc huma grupp ta 'algoritmi u tekniki li jistgħu jintużaw biex iżidu spjegazzjoni għal algoritmi oħra.
Il-biċċa l-kbira tat-tekniki ta’ spjegazzjoni post-hoc m’għandhomx għalfejn jifhmu kif jaħdem l-algoritmu. L-utent jeħtieġ biss li jispeċifika l-input u l-output li jirriżulta tal-algoritmu fil-mira.
Dawn l-ispjegazzjonijiet huma aktar maqsuma f'żewġ tipi: spjegazzjonijiet lokali u spjegazzjonijiet globali.
Spjegazzjonijiet lokali għandhom l-għan li jispjegaw subsett ta’ inputs. Pereżempju, minħabba output partikolari, spjegazzjoni lokali tkun kapaċi tindika liema parametri kkontribwew biex tittieħed dik id-deċiżjoni.
Spjegazzjonijiet globali għandhom l-għan li jipproduċu spjegazzjonijiet post-hoc tal-algoritmu kollu. Dan it-tip ta 'spjegazzjoni huwa tipikament aktar diffiċli biex tagħmel. L-algoritmi huma kumplessi u jista' jkun hemm għadd ta' parametri li huma sinifikanti fil-kisba tar-riżultat finali.
Eżempji ta' Algoritmi ta' Spjegazzjoni Lokali
Fost il-ħafna tekniki użati biex jinkiseb XAI, l-algoritmi użati għall-ispjegazzjonijiet lokali huma dak li ħafna riċerkaturi jiffokaw fuqhom.
F'din it-taqsima, nagħtu ħarsa lejn xi algoritmi ta' spjegazzjoni lokali popolari u kif jaħdmu kull wieħed minnhom.
ĠIR
LIME (Mudell Interpretabbli Lokali-Spjegatur Agnostiku) huwa algoritmu li jista 'jispjega t-tbassir ta' kwalunkwe algoritmu ta 'tagħlim tal-magni.
Kif jimplika l-isem, LIME huwa agnostiku tal-mudell. Dan ifisser LIME jista 'jaħdem għal kwalunkwe tip ta' mudell. Il-mudell huwa wkoll interpretabbli lokalment, jiġifieri nistgħu nispjegaw il-mudell billi nużaw riżultati lokali aktar milli nispjegaw il-mudell kollu.
Anki jekk il-mudell li qed jiġi spjegat huwa kaxxa sewda, LIME joħloq mudell lineari lokali madwar punti qrib ċerta pożizzjoni.
LIMe jipprovdi mudell lineari li jqarreb il-mudell fil-viċinanza ta 'tbassir iżda mhux neċessarjament globalment.
Tista' titgħallem aktar dwar dan l-algoritmu billi żżur dan ir-repożitorju ta' sors miftuħ.
SHAP
Spjegazzjonijiet tal-Addittivi Shapley (SHAP) huwa metodu biex jispjega tbassir individwali. Biex nifhmu kif jaħdem SHAP, ikollna nispjegaw x'inhuma l-valuri Shapley.
Il-valur Shapley huwa kunċett fit-teorija tal-logħob li jinvolvi li jiġi assenjat "valur" lil kull plejer fil-logħba. Dan jitqassam b'tali mod li l-valur assenjat lil kull plejer huwa bbażat fuq il-kontribut tal-plejer għal-logħba.
Kif napplikaw teorija tal-logħob għal tagħlim bil-magni mudelli?
Ejja ngħidu li kull karatteristika fil-mudell tagħna hija "player" u li l-"logħba" hija l-funzjoni li toħroġ il-previżjoni.
Il-metodu SHAP joħloq mudell lineari peżat li jassenja valuri Shapley għal diversi karatteristiċi. Karatteristiċi b'valuri Shapley għoljin għandhom influwenza akbar fuq l-eżitu tal-mudell filwaqt li karatteristiċi b'valuri Shapley baxxi għandhom inqas impatt.
konklużjoni
L-ispjegabbiltà tal-IA hija importanti mhux biss biex tiġi żgurata l-ġustizzja u r-responsabbiltà tas-sistemi tal-IA, iżda wkoll għall-bini tal-fiduċja fit-teknoloġija tal-IA b'mod ġenerali.
Għad hemm ħafna riċerka xi ssir fil-qasam tal-ispjegabbiltà tal-AI, iżda hemm xi approċċi promettenti li jistgħu jgħinuna nifhmu s-sistemi kumplessi tal-kaxxa s-sewda tal-AI li diġà jintużaw ħafna llum.
B'aktar riċerka u żvilupp, nistgħu nittamaw li nibnu sistemi AI li huma aktar trasparenti u aktar faċli biex jinftiehmu. Sadanittant, in-negozji u l-esperti f’oqsma bħall-kura tas-saħħa għandhom ikunu konxji mil-limitazzjonijiet tal-ispjegabbiltà tal-IA.
Ħalli Irrispondi