AI muaj lub zog los txhim kho kev ua tau zoo hauv ntau yam xws li kev lag luam thiab kev kho mob. Txawm li cas los xij, qhov tsis muaj kev piav qhia cuam tshuam peb qhov kev cia siab ntawm kev siv nws rau kev txiav txim siab.
Peb puas yuav tso siab rau qhov kev txiav txim ntawm ib qho algorithm?
Nws yog ib qho tseem ceeb rau cov neeg txiav txim siab hauv txhua qhov kev lag luam kom nkag siab txog cov kev txwv thiab kev tsis ncaj ncees uas muaj peev xwm tshuab kev kawm ua qauv. Txhawm rau kom ntseeg tau tias cov qauv no coj tus cwj pwm raws li lub hom phiaj, cov txiaj ntsig ntawm AI system yuav tsum tau piav qhia rau tib neeg.
Hauv tsab xov xwm no, peb yuav mus dhau qhov tseem ceeb ntawm kev piav qhia hauv AI. Peb yuav muab cov ntsiab lus luv luv ntawm hom kev siv los piav qhia los ntawm cov qauv kev kawm tshuab.
Explainable AI yog dab tsi?
piav tau artificial txawj ntse los yog XAI hais txog cov txheej txheem thiab cov txheej txheem siv los tso cai rau tib neeg kom nkag siab tias cov qauv kev kawm tshuab tuaj txog ntawm cov khoom siv li cas.
Ntau yam nrov tshuab kawm algorithms ua haujlwm zoo li nws yog "black box". Hauv kev kawm tshuab, dub lub thawv algorithms xa mus rau ML qauv uas nws tsis tuaj yeem txheeb xyuas seb qhov kev tawm tswv yim twg ua rau ib qho kev tso tawm. Txawm tias tus tsim tawm ntawm AI yuav tsis tuaj yeem piav qhia tag nrho li cas lub algorithm ua haujlwm.
Piv txwv li, kev kawm tob algorithms siv neural networks txhawm rau txheeb xyuas cov qauv ntawm ib tuj ntawm cov ntaub ntawv. Txawm hais tias AI cov kws tshawb fawb thiab cov neeg tsim khoom nkag siab tias kev sib koom tes neural ua haujlwm li cas los ntawm qhov kev pom zoo, txawm tias lawv tsis tuaj yeem piav qhia tag nrho li cas neural network tuaj nrog ib qho txiaj ntsig.
Qee cov neural tes hauj lwm tswj ntau lab tus yam ntxwv uas txhua tus ua haujlwm hauv kev sib koom ua ke kom rov qab tau cov txiaj ntsig kawg.
Hauv cov xwm txheej uas kev txiav txim siab tseem ceeb, qhov tsis muaj kev piav qhia yuav ua teeb meem.
Yog vim li cas Explainability tseem ceeb
Kev piav qhia muab kev nkag siab txog yuav ua li cas cov qauv txiav txim siab. Cov lag luam uas npaj rau kev hloov kho AI los txiav txim siab yuav tau txiav txim siab seb AI puas tau siv cov tswv yim tsim nyog los txog rau qhov kev txiav txim siab zoo tshaj plaws.
Cov qauv uas tsis piav qhia yog qhov teeb meem hauv ntau qhov kev lag luam. Piv txwv li, yog tias ib lub tuam txhab yuav tsum siv lub algorithm los txiav txim siab ntiav, nws yuav yog rau txhua tus neeg qhov kev txaus siab kom muaj kev pom tseeb ntawm qhov kev txiav txim siab txiav txim siab tsis lees txais tus neeg thov.
Lwm teb qhov twg kawm tob algorithms tau siv ntau zaus hauv kev kho mob. Nyob rau hauv rooj plaub uas algorithms sim kuaj pom cov tsos mob ntawm tus mob qog noj ntshav, nws yog ib qho tseem ceeb rau cov kws kho mob kom nkag siab tias tus qauv tuaj txog ntawm ib qho kev kuaj mob. Qee qhov kev piav qhia yog xav tau rau cov kws tshaj lij kom tau txais txiaj ntsig zoo ntawm AI thiab tsis ua raws li qhov muag tsis pom
Txheej txheem cej luam ntawm piav qhia AI Algorithms
Piav tau AI algorithms poob rau hauv ob pawg dav: tus kheej txhais cov qauv thiab cov lus piav qhia tom qab.
Tus kheej txhais cov qauv
Tus kheej txhais cov qauv yog algorithms uas tib neeg tuaj yeem nyeem ncaj qha thiab txhais. Hauv qhov no, tus qauv nws tus kheej yog qhov piav qhia.
Qee cov qauv kev txhais tau tus kheej feem ntau suav nrog cov ntoo txiav txim siab thiab cov qauv kev rov ua dua.
Piv txwv li, cia peb xav txog cov qauv linear regression uas kwv yees tus nqi tsev. Ib txoj kab regression txhais tau hais tias nrog qee tus nqi x, peb yuav tuaj yeem kwv yees peb lub hom phiaj tus nqi y los ntawm kev siv ib qho kev ua haujlwm tshwj xeeb f.
Piv txwv tias peb cov qauv siv ntau qhov loj los ua cov tswv yim tseem ceeb los txiav txim siab nqi tsev. Siv cov linear regression, peb tuaj yeem tuaj nrog qhov ua haujlwm y = 5000 * x qhov twg x yog tus nqi square feet lossis ntau ntau.
Cov qauv no yog tib neeg nyeem tau thiab yog pob tshab kiag li.
Cov lus piav qhia tom qab-Hoc
Cov lus piav qhia tom qab yog ib pawg ntawm algorithms thiab cov txheej txheem uas yuav siv tau los ntxiv piav qhia rau lwm algorithms.
Feem ntau cov txheej txheem piav qhia tom qab hoc tsis tas yuav nkag siab tias lub algorithm ua haujlwm li cas. Tus neeg siv tsuas yog yuav tsum tau qhia kom meej cov tswv yim thiab cov txiaj ntsig ntawm lub hom phiaj algorithm.
Cov lus piav qhia no tau muab faib ua ob hom: cov lus piav qhia hauv zos thiab cov lus piav qhia thoob ntiaj teb.
Cov lus piav qhia hauv zos yog tsom los piav qhia txog cov khoom nkag. Piv txwv li, muab cov txiaj ntsig tshwj xeeb, ib qho kev piav qhia hauv zos yuav tuaj yeem txheeb xyuas qhov tsis muaj txiaj ntsig ua rau kev txiav txim siab ntawd.
Cov lus piav qhia thoob ntiaj teb tsom los tsim cov lus piav qhia tom qab ntawm tag nrho cov algorithm. Hom kev piav qhia no feem ntau nyuaj dua ua. algorithms yog complex thiab tej zaum yuav muaj suav tsis txheeb uas tseem ceeb hauv kev ua tiav qhov kawg tshwm sim.
Piv txwv ntawm Local Explanation Algorithms
Ntawm ntau txoj kev siv los ua kom tiav XAI, cov algorithms siv rau cov lus piav qhia hauv zos yog qhov uas cov kws tshawb fawb feem ntau tsom rau.
Hauv seem no, peb yuav saib qee qhov kev piav qhia hauv zos nrov algorithms thiab lawv txhua tus ua haujlwm li cas.
TXHUA
LIME (Local Interpretable Model-Agnostic Explainer) yog ib qho algorithm uas tuaj yeem piav qhia qhov kev kwv yees ntawm txhua lub tshuab kev kawm algorithm.
Raws li lub npe implies, LIME yog qauv-agnostic. Qhov no txhais tau tias LIME tuaj yeem ua haujlwm rau txhua hom qauv. Tus qauv kuj tseem txhais tau hauv zos, txhais tau tias peb tuaj yeem piav qhia tus qauv siv cov txiaj ntsig hauv zos es tsis piav qhia tag nrho cov qauv.
Txawm hais tias tus qauv tau piav qhia yog lub thawv dub, LIME tsim cov qauv kab hauv zos nyob ib puag ncig cov ntsiab lus nyob ze ntawm qee txoj haujlwm.
LIMe muab cov qauv linear uas kwv yees tus qauv nyob ib puag ncig ntawm kev kwv yees tab sis tsis tas yuav tsum muaj thoob ntiaj teb.
Koj tuaj yeem kawm paub ntau ntxiv txog qhov algorithm no los ntawm kev mus saib qhov chaw khaws cia qhib.
SHAP
Shapley Additive Explanations (SHAP) yog ib txoj hauv kev los piav qhia txog kev kwv yees tus kheej. Kom nkag siab tias SHAP ua haujlwm li cas, peb yuav tau piav qhia seb Shapley qhov tseem ceeb yog dab tsi.
Tus nqi Shapley yog lub tswv yim hauv kev ua si txoj kev xav uas suav nrog kev muab "tus nqi" rau txhua tus neeg ua si hauv qhov kev ua si. Qhov no yog faib xws li tus nqi muab rau txhua tus neeg ua si yog nyob ntawm tus neeg ua si qhov kev pab cuam rau qhov kev ua si.
Peb yuav thov tau li cas game theory to machine learning qauv?
Piv txwv tias txhua qhov tshwj xeeb hauv peb cov qauv yog "tus neeg ua si" thiab "kev ua si" yog lub luag haujlwm uas tso tawm qhov kev twv ua ntej.
Txoj kev SHAP tsim cov qauv hnyav uas muab Shapley qhov tseem ceeb rau ntau yam. Nta nrog siab Shapley qhov tseem ceeb muaj kev cuam tshuam ntau dua rau qhov tshwm sim ntawm tus qauv thaum cov yam ntxwv nrog Shapley qis qhov tseem ceeb muaj qhov cuam tshuam tsawg dua.
xaus
Kev piav qhia AI tseem ceeb tsis yog tsuas yog ua kom muaj kev ncaj ncees thiab kev lav phib xaub ntawm AI systems, tab sis kuj tseem tsim kev ntseeg siab hauv AI thev naus laus zis feem ntau.
Tseem muaj ntau txoj kev tshawb fawb yuav tsum tau ua nyob rau hauv thaj tsam ntawm AI piav qhia, tab sis muaj qee qhov kev cog lus uas tuaj yeem pab peb nkag siab txog cov txheej txheem dub AI uas twb tau siv dav niaj hnub no.
Nrog rau kev tshawb fawb thiab kev txhim kho ntxiv, peb tuaj yeem cia siab tias yuav tsim AI systems uas muaj pob tshab thiab nkag siab yooj yim dua. Lub sijhawm no, kev lag luam thiab cov kws tshaj lij hauv kev kho mob yuav tsum paub txog cov kev txwv ntawm AI piav qhia.
Sau ntawv cia Ncua