Tha cumhachd aig AI èifeachdas a leasachadh ann an grunn roinnean leithid gnìomhachas agus cùram slàinte. Ach, tha dìth mìneachaidh a’ cur bacadh oirnn a bhith an urra ri bhith ga chleachdadh airson co-dhùnaidhean.
Am bu chòir dhuinn earbsa a bhith ann am breithneachadh algairim?
Tha e cudromach gun tuig luchd-co-dhùnaidh ann an gnìomhachas sam bith na crìochan agus na claon-bhreith a dh’ fhaodadh a bhith aca modalan ionnsachaidh innealan. Gus dèanamh cinnteach gu bheil na modailean sin gan giùlan fhèin mar a bha dùil, bu chòir toradh siostam AI sam bith a bhith furasta a mhìneachadh do dhuine.
San artaigil seo, thèid sinn thairis air cho cudromach sa tha mìneachadh ann an AI. Bheir sinn seachad sealladh goirid air na seòrsaichean dhòighean a thathas a’ cleachdadh gus mìneachadh fhaighinn bho mhodalan ionnsachaidh inneal.
Dè a th’ ann an AI a ghabhas mìneachadh?
Soilleir Artificial Intelligence no XAI a’ toirt iomradh air na dòighean agus na dòighean a thathar a’ cleachdadh gus leigeil le daoine tuigse fhaighinn air mar a ruigeas modalan ionnsachaidh inneal toradh sònraichte.
Mòran mòr-chòrdte algorithms ionnsachadh inneal obraich mar gum b’ e “bogsa dubh” a bh’ ann. Ann an ionnsachadh inneal, algorithms bogsa dubh thoir iomradh air modalan ML far a bheil e do-dhèanta dearbhadh mar a tha cuir a-steach sònraichte a’ leantainn gu toradh sònraichte. Cha bhith eadhon leasaiche an AI comasach air mìneachadh iomlan a dhèanamh air mar a tha an algairim ag obair.
Mar eisimpleir, bidh algorithms ionnsachadh domhainn a’ cleachdadh lìonraidhean neònach gus pàtrain aithneachadh bho thunna de dhàta. Eadhon ged a tha luchd-rannsachaidh AI agus luchd-leasachaidh a’ tuigsinn mar a tha lìonraidhean neural ag obair bho shealladh teignigeach, chan urrainn eadhon dhaibh làn mhìneachadh mar a thàinig lìonra neural suas le toradh sònraichte.
Bidh cuid de lìonraidhean neural a’ làimhseachadh milleanan de pharamadairean a bhios uile ag obair còmhla gus an toradh deireannach a thilleadh.
Ann an suidheachaidhean far a bheil co-dhùnaidhean cudromach, faodaidh dìth mìneachaidh a bhith na dhuilgheadas.
Carson a tha mìneachadh cudromach
Mìneachadh a’ toirt sealladh air mar a bhios modailean a’ dèanamh cho-dhùnaidhean. Feumaidh gnìomhachasan a tha an dùil AI atharrachadh gus co-dhùnaidhean a dhèanamh faighinn a-mach a bheil an AI air an cuir a-steach ceart a chleachdadh gus an co-dhùnadh as fheàrr a ruighinn.
Tha modalan nach gabh mìneachadh na chùis ann an grunn ghnìomhachasan. Mar eisimpleir, nam biodh companaidh a’ cleachdadh algairim airson co-dhùnaidhean fastaidh a dhèanamh, bhiodh e gu leas a h-uile duine follaiseachd a bhith aca a thaobh mar a cho-dhùnas an algairim tagraiche a dhiùltadh.
Raon eile far a bheil ionnsachadh domhainn thathas a’ cleachdadh algorithms nas trice ann an cùram slàinte. Ann an cùisean far a bheil algorithms a’ feuchainn ri comharran aillse a lorg, tha e cudromach gum bi dotairean a’ tuigsinn mar a thàinig am modail gu breithneachadh sònraichte. Tha feum air ìre de mhìneachadh airson eòlaichean gus làn bhuannachd a ghabhail de AI agus gun a bhith ga leantainn gu dall
Sealladh farsaing air Algorithms AI a ghabhas mìneachadh
Tha algoirmean AI soilleir a’ roinn ann an dà roinn fharsaing: modalan fèin-mhìneachaidh agus mìneachadh post-hoc.
Modailean fèin-mhìneachaidh
Modailean fèin-mhìneachaidh Tha iad nan algoirmean as urrainn do dhuine a leughadh agus a mhìneachadh gu dìreach. Anns a 'chùis seo, is e am modail fhèin am mìneachadh.
Am measg cuid de na modalan fèin-mhìneachaidh as cumanta tha craobhan co-dhùnaidh agus modalan ath-thòiseachaidh.
Mar eisimpleir, beachdaichidh sinn air modal ath-thilleadh sreathach a tha a’ ro-innse prìsean thaighean. Tha ais-thionndadh sreathach a’ ciallachadh le beagan luach x, gun urrainn dhuinn ar luach targaid y a ro-innse le bhith a’ cur gnìomh sreathach sònraichte an sàs f.
Osbarr gu bheil am modail againn a’ cleachdadh meud tòrr mar am prìomh chur-a-steach gus prìs taighe a dhearbhadh. A’ cleachdadh ais-tharraing sreathach, b’ urrainn dhuinn an gnìomh y = 5000 * x a lorg far a bheil x an ìre de throighean ceàrnagach no meud lot.
Tha am modail seo furasta a leughadh le daoine agus tha e gu tur follaiseach.
Mìneachaidhean Post-Hoc
Mìneachaidhean post-hoc Tha iad nam buidheann de algorithms agus dhòighean-obrach a dh’fhaodar a chleachdadh gus mìneachadh a chur ri algoirmean eile.
Chan fheum a’ mhòr-chuid de dhòighean mìneachaidh post-hoc tuigsinn mar a tha an algairim ag obair. Chan fheum an neach-cleachdaidh ach cuir a-steach agus toradh toradh an algairim targaid a shònrachadh.
Tha na mìneachaidhean sin air an roinn ann an dà sheòrsa: mìneachaidhean ionadail agus mìneachaidhean cruinneil.
Tha mìneachaidhean ionadail ag amas air fo-sheata de chuir a-steach a mhìneachadh. Mar eisimpleir, le toradh sònraichte, bidh mìneachadh ionadail comasach air comharrachadh dè na crìochan a chuir ri tighinn gu co-dhùnadh sin.
Tha mìneachaidhean cruinneil ag amas air mìneachaidhean post-hoc a thoirt gu buil air an algairim gu lèir. Mar as trice tha an seòrsa mìneachadh seo nas duilghe a dhèanamh. Tha algorithms iom-fhillte agus dh’ fhaodadh gu bheil grunn pharaimearan ann a tha cudromach ann a bhith a’ coileanadh an toraidh dheireannaich.
Eisimpleirean de Algorithms Mìneachaidh Ionadail
Am measg an iomadh dòigh a chaidh a chleachdadh gus XAI a choileanadh, is e na h-algorithms a thathar a’ cleachdadh airson mìneachadh ionadail a tha a’ mhòr-chuid de luchd-rannsachaidh ag amas.
Anns an earrainn seo, bheir sinn sùil air cuid de na h-algorithms mìneachaidh ionadail mòr-chòrdte agus mar a tha gach fear dhiubh ag obair.
Sgaoileadh
LIME (Mìneachadh Modail Eadar-mhìneachaidh Ionadail-Agnostic) Is e algairim a th’ ann a bheir mìneachadh air ro-innse algairim ionnsachaidh inneal sam bith.
Mar a tha an t-ainm a’ ciallachadh, tha LIME modail-agnostic. Tha seo a’ ciallachadh gum faodadh LIME obrachadh airson seòrsa sam bith de mhodail. Tha am modail cuideachd furasta a mhìneachadh gu h-ionadail, a’ ciallachadh gun urrainn dhuinn am modail a mhìneachadh a’ cleachdadh toraidhean ionadail seach a bhith a’ mìneachadh a’ mhodail gu lèir.
Eadhon ged is e bogsa dubh a th’ anns a’ mhodail a thathar a’ mìneachadh, bidh LIME a’ cruthachadh modal sreathach ionadail timcheall air puingean faisg air làimh ann an suidheachadh sònraichte.
Tha Lime a’ toirt seachad modail sreathach a tha a’ toirt tuairmse air a’ mhodail faisg air ro-innse ach nach eil gu riatanach air feadh na cruinne.
Faodaidh tu barrachd ionnsachadh mun algairim seo le bhith a’ tadhal air an stòr fosgailte seo.
SHAP
Mìneachaidhean Cur-ris Shapley (SHAP) tha e na dhòigh air ro-innse fa leth a mhìneachadh. Gus tuigse fhaighinn air mar a tha SHAP ag obair, feumaidh sinn mìneachadh dè a th’ ann an luachan Shapley.
Tha luach Shapley na bhun-bheachd ann an teòiridh geama a tha a’ toirt a-steach “luach” a shònrachadh do gach cluicheadair sa gheama. Tha seo air a chuairteachadh gus am bi an luach a chaidh a shònrachadh do gach cluicheadair stèidhichte air na chuir an cluicheadair ris a’ gheama.
Ciamar a nì sinn tagradh teòiridh geama gu ionnsachadh inneal modailean?
Osbarr gur e “cluicheadair” a th’ anns gach feart sa mhodail againn agus gur e an “geam” an gnìomh a bheir a-mach an ro-innse.
Tha an dòigh SHAP a’ cruthachadh modail sreathach le cuideam a bhios a’ sònrachadh luachan Shapley gu diofar fheartan. Tha buaidh nas motha aig feartan le luachan àrd Shapley air toradh a’ mhodail fhad ‘s a tha feartan le luachan ìosal Shapley a’ toirt nas lugha de bhuaidh.
Co-dhùnadh
Tha mìneachadh AI cudromach chan ann a-mhàin airson dèanamh cinnteach à cothromachd agus cunntachalachd shiostaman AI, ach cuideachd airson earbsa a thogail ann an teicneòlas AI san fharsaingeachd.
Tha rannsachadh gu leòr ri dhèanamh fhathast ann an raon mìneachadh AI, ach tha dòighean gealltanach ann a chuidicheas sinn le bhith a’ tuigsinn nan siostaman bogsa dubh iom-fhillte AI a tha air an cleachdadh gu farsaing an-diugh.
Le tuilleadh rannsachaidh is leasachaidh, faodaidh sinn a bhith an dòchas siostaman AI a thogail a tha nas soilleire agus nas fhasa a thuigsinn. Anns an eadar-ama, bu chòir do ghnìomhachasan agus eòlaichean ann an raointean leithid cùram slàinte a bhith mothachail air na crìochan air mìneachadh AI.
Leave a Reply