AI xwedan hêz e ku di sektorên cihêreng ên wekî karsazî û lênihêrîna tenduristî de karbidestiyê baştir bike. Lêbelê, nebûna ravekirinê pêbaweriya me ya karanîna wê ji bo biryargirtinê asteng dike.
Ma divê em ji dîwana algorîtmayekê bawer bikin?
Ji bo biryarderan di her pîşesaziyê de girîng e ku sînorkirin û nerînên potansiyel ên fêm bikin modelên fêrbûna makîneyê. Ji bo ku bicîh bikin ku ev model wekî ku tê xwestin tevdigerin, divê derketina her pergala AI-ê ji mirovek re were ravekirin.
Di vê gotarê de, em ê li ser girîngiya ravekirina di AI-ê de biçin. Em ê li ser cûreyên rêbazên ku ji bo ravekirinên ji modelên fêrbûna makîneyê têne bikar anîn kurteyek kurt peyda bikin.
Explainable AI çi ye?
Şîrovekirin çêkirî an XAI behsa teknolojiyên û rêbazên ku têne bikar anîn destnîşan dike ku mirov fêm bikin ka modelên fêrbûna makîneyê çawa digihîjin encamek diyarkirî.
Pir populer algorîtmayên fêrbûna makîneyê mîna ku ew "qutiya reş" be bixebite. Di fêrbûna makîneyê de, algorîtmayên qutiya reş serî li modelên ML-ê bidin ku ne gengaz e ku meriv verast bike ka çawa têketinek diyar berbi hilberek taybetî ve diçe. Tewra pêşdebirê AI-ê dê nikaribe bi tevahî rave bike ka algorîtma çawa dixebite.
Mînakî, algorîtmayên fêrbûna kûr bikar tînin torên neural ji bo naskirina qalibên ji ton daneyan. Her çend lêkolîner û pêşdebirên AI-ê fêm bikin ka torên neuralî ji hêla teknîkî ve çawa dixebitin, ne jî ew dikarin bi tevahî rave bikin ka torgilokek neural çawa encamek taybetî derketiye.
Hin torên neuralî bi mîlyonan pîvanan digirin ku hemî bi yekdengî dixebitin da ku encama dawîn vegerînin.
Di rewşên ku biryar girîng in, nebûna ravekirinê dibe ku pirsgirêk bibe.
Çima ravekirin girîng e
Ravekirin têgihiştinê dide ka model çawa biryaran digirin. Karsaziyên ku plan dikin ku AI-yê biguhezînin da ku biryaran bidin, neçar in ku diyar bikin ka AI-ê têketina rast bikar aniye da ku bigihîje biryara çêtirîn.
Modelên ku nayên ravekirin di gelek pîşesaziyê de pirsgirêkek in. Mînakî, heke pargîdaniyek algorîtmayek bikar bîne da ku biryarên kirêgirtinê bide, ew ê ji berjewendiya her kesê be ku zelal be ku çawa algorîtma biryar dide ku serlêderek red bike.
Qadeke din ku hînbûna kûr algorîtmayên ku di lênihêrîna tenduristiyê de pir caran têne bikar anîn. Di rewşên ku algorîtmayan hewl didin ku nîşanên gengaz ên penceşêrê tespît bikin, ji bo bijîjkan girîng e ku fêm bikin ka model çawa gihîştiye tespîtek taybetî. Hin astek ravekirinê hewce ye ku pispor ji AI-ê tam sûd werbigirin û bi korayî wê neşopînin
Berfirehiya Algorîtmayên AI-ê yên Ravekirî
Algorîtmayên AI-ê yên ravekirî dikevin du kategoriyên berfireh: modelên xwe-şrovekirî û ravekirinên post-hoc.
Modelên ku bixwe têne şîrove kirin
Modelên ku bixwe têne şîrove kirin algorîtmayên ku mirov dikare rasterast bixwîne û şîrove bike ne. Di vê rewşê de, model bixwe ravek e.
Hin modelên xwe-şrovekirî yên herî gelemperî darên biryarê û modelên regresyonê hene.
Mînakî, werin em modelek regresyonê ya xêzek ku bihayên xaniyan pêşbînî dike binirxînin. Regressionek xêzik tê vê wateyê ku bi hin nirxek x re, em ê karibin bi sepandina fonksiyonek xêzikî ya taybetî f nirxa xweya y pêşbînî bikin.
Bifikirin ku modela me ji bo destnîşankirina bihayê xanî mezinahiya pirê wekî têketina sereke bikar tîne. Bi karanîna regresyona xêzikî, me karîbû fonksiyona y = 5000 * x ku x mîqdara lingên çargoşe an mezinahiya lotikê ye.
Ev model ji hêla mirovan ve tê xwendin û bi tevahî zelal e.
Ravekirinên Post-Hoc
Raveyên post-hoc komek ji algorîtma û teknîkan in ku dikarin werin bikar anîn da ku ravekirina algorîtmayên din zêde bikin.
Piraniya teknîkên ravekirina post-hoc ne hewce ne ku fêm bikin ka algorîtma çawa dixebite. Bikarhêner tenê pêdivî ye ku têketin û encamnameya algorîtmaya armancê diyar bike.
Ev ravekirin li ser du celeban têne dabeş kirin: ravekirinên herêmî û ravekirinên gerdûnî.
Armancên ravekirinên herêmî ravekirina binkomek têketinan e. Mînakî, ji hilberek taybetî re tê dayîn, ravekek herêmî dê bikaribe destnîşan bike ka kîjan parametre beşdarî wê biryarê bûne.
Ravekirinên gerdûnî armanc dikin ku ravekirinên post-hoc yên tevahiya algorîtmê hilberînin. Ev celeb ravekirin bi gelemperî dijwartir e. Algorîtma tevlihev in û dibe ku bêhejmar parametreyên ku di bidestxistina encama dawîn de girîng in hebin.
Nimûneyên Algorîtmayên Ravekirina Herêmî
Di nav gelek teknîkên ku ji bo bidestxistina XAI-yê têne bikar anîn de, algorîtmayên ku ji bo ravekirinên herêmî têne bikar anîn ew e ku pir lêkolîner li ser hûr dibin.
Di vê beşê de, em ê li hin algorîtmayên ravekirina herêmî yên populer û ka her yek ji wan çawa dixebitin mêze bikin.
LIME
LIME (Modela Wervekirî ya Herêmî-Rêvekera Agnostîk) algorîtmayek e ku dikare pêşbîniyên her algorîtmaya fêrbûna makîneyê rave bike.
Wekî ku ji navê xwe diyar dike, LIME model-agnostîk e. Ev tê vê wateyê ku LIME dikare ji bo her celeb modelê bixebite. Model di heman demê de ji hêla herêmî ve tê şîrove kirin, yanî em dikarin modelê bi karanîna encamên herêmî rave bikin û ne ku modela tevahî rave bikin.
Her çend modela ku tê ravekirin qutiyek reş be jî, LIME modelek xêzek herêmî li dora xalên li nêzîkê cîhek diyar diafirîne.
LIMe modelek xêzikî peyda dike ku modela li dor pêşbîniyek nêzik dike lê ne hewcedar li seranserê cîhanê.
Hûn dikarin li ser vê algorîtmayê bêtir fêr bibin bi serdana vê depoya çavkaniya vekirî.
SHAP
Şîrovekirina Zêdekirina Shapley (SHAP) rêbazek ravekirina pêşbîniyên kesane ye. Ji bo ku fêm bikin ka SHAP çawa dixebite, divê em rave bikin ka nirxên Shapley çi ne.
Nirxa Shapley di teoriya lîstikê de têgehek e ku ji bo her lîstikvanek di lîstikê de "nirx" tête destnîşan kirin. Ev bi vî rengî tê belav kirin ku nirxa ku ji her lîstikvan re hatî destnîşankirin li ser bingeha beşdariya lîstikvan a lîstikê ye.
Em çawa serî lê didin teoriya lîstikê ji bo fêrbûna makîneyê modelên?
Bifikirin ku her taybetmendiyek di modela me de "lîstikvanek" e û ku "lîstik" fonksiyona ku pêşbîniyê derdixe ye.
Rêbaza SHAP-ê modelek xêzikek giran diafirîne ku nirxên Shapley ji taybetmendiyên cihêreng re destnîşan dike. Taybetmendiyên bi nirxên Shapley yên bilind bandorek mezintir li ser encamên modelê dikin dema ku taybetmendiyên bi nirxên Shapley kêm bandorek kêmtir heye.
Xelasî
Ravekirina AI-ê ne tenê ji bo dabînkirina dadperwerî û berpirsiyariya pergalên AI-yê girîng e, lê di heman demê de ji bo avakirina pêbaweriyê di teknolojiya AI-ê de bi gelemperî jî girîng e.
Hîn jî gelek lêkolîn hene ku di warê ravekirina AI-ê de bêne kirin, lê hin nêzîkatiyên sozdar hene ku dikarin ji me re bibin alîkar ku pergalên AI-ya qutiya reş ên tevlihev ên ku îro berê bi berfirehî têne bikar anîn fam bikin.
Bi lêkolîn û pêşkeftina bêtir, em dikarin hêvî bikin ku pergalên AI-ê yên ku zelaltir û hêsan têne fam kirin ava bikin. Di vê navberê de, karsaz û pisporên di warên wekî lênihêrîna tenduristî de divê ji sînorên ravekirina AI-ê haydar bin.
Leave a Reply