Ang AI adunay gahum sa pagpauswag sa kahusayan sa lainlaing mga sektor sama sa negosyo ug pag-atiman sa kahimsog. Bisan pa, ang kakulang sa pagpatin-aw nagpugong sa among pagsalig sa paggamit niini alang sa paghimog desisyon.
Kinahanglan ba nga kita mosalig sa paghukom sa usa ka algorithm?
Mahinungdanon alang sa mga tighimog desisyon sa bisan unsang industriya nga masabtan ang mga limitasyon ug potensyal nga pagpihig sa mga modelo sa pagkat-on sa makina. Aron masiguro nga kini nga mga modelo naglihok sama sa gituyo, ang output sa bisan unsang AI system kinahanglan nga ipasabut sa usa ka tawo.
Niini nga artikulo, atong hisgotan ang kamahinungdanon sa pagpatin-aw sa AI. Maghatag kami usa ka mubo nga pagtan-aw sa mga tipo sa mga pamaagi nga gigamit aron makuha ang mga pagpasabut gikan sa mga modelo sa pagkat-on sa makina.
Unsa ang Explainable AI?
Mapasabot artipisyal nga intelligence nga o XAI nagtumong sa mga teknik ug mga pamaagi nga gigamit sa pagtugot sa mga tawo sa pagsabot sa unsa nga paagi sa makina pagkat-on modelo moabut sa usa ka piho nga output.
Daghang popular Mga algorithm sa pagkat-on sa makina pagtrabaho ingon nga kini usa ka "itom nga kahon". Sa pagkat-on sa makina, mga algorithm sa itom nga kahon nagtumong sa mga modelo sa ML diin imposible nga mapamatud-an kung giunsa ang usa ka piho nga input nagdala sa usa ka partikular nga output. Bisan ang nag-develop sa AI dili makahimo sa hingpit nga pagpatin-aw kung giunsa ang paglihok sa algorithm.
Pananglitan, gigamit ang lawom nga mga algorithm sa pagkat-on neural networks aron mahibal-an ang mga pattern gikan sa usa ka tonelada nga datos. Bisan kung ang mga tigdukiduki ug mga developer sa AI nakasabut kung giunsa ang pagtrabaho sa mga neural network gikan sa usa ka teknikal nga punto sa pagtan-aw, bisan kung dili nila hingpit nga ipasabut kung giunsa ang usa ka neural network nakakuha usa ka partikular nga sangputanan.
Ang pipila ka mga neural network nagdumala sa milyon-milyon nga mga parameter nga ang tanan naglihok nga naghiusa aron ibalik ang katapusan nga resulta.
Sa mga sitwasyon diin ang mga desisyon importante, ang kakulang sa pagpatin-aw mahimong problema.
Nganong Importante ang Pagpatin-aw
Katin-awan naghatag ug panabut kon giunsa paghimo sa mga modelo ang mga desisyon. Ang mga negosyo nga nagplano sa pagpahiangay sa AI aron makahimo mga desisyon kinahanglan nga mahibal-an kung gigamit ba sa AI ang husto nga input aron makuha ang labing kaayo nga desisyon.
Ang mga modelo nga dili masaysay usa ka isyu sa daghang mga industriya. Pananglitan, kung ang usa ka kompanya mogamit usa ka algorithm aron maghimo mga desisyon sa pag-hire, alang sa labing kaayo nga interes sa tanan nga adunay transparency kung giunsa ang pagdesisyon sa algorithm nga isalikway ang usa ka aplikante.
Laing natad diin lawom nga pagkat-on Ang mga algorithm nga gigamit nga mas kanunay anaa sa pag-atiman sa panglawas. Sa mga kaso diin ang mga algorithm misulay sa pag-ila sa posible nga mga timailhan sa kanser, hinungdanon nga masabtan sa mga doktor kung giunsa ang pag-abut sa modelo sa usa ka partikular nga diagnosis. Ang pila ka lebel sa pagpatin-aw gikinahanglan alang sa mga eksperto aron mapahimuslan sa hingpit ang AI ug dili bulag nga sundon kini
Kinatibuk-ang Pagtan-aw sa Masaysay nga AI Algorithm
Ang mapatin-aw nga mga algorithm sa AI nahulog sa duha ka halapad nga mga kategorya: mga modelo nga mahubad sa kaugalingon ug mga pagpatin-aw sa post-hoc.
Mga modelo nga mahubad sa kaugalingon
Mga modelo nga mahubad sa kaugalingon mao ang mga algorithm nga direktang mabasa ug mahubad sa tawo. Sa kini nga kaso, ang modelo mismo ang katin-awan.
Ang pipila sa labing kasagaran nga mga modelo nga mahubad sa kaugalingon naglakip sa mga punoan sa desisyon ug mga modelo sa regression.
Pananglitan, atong tagdon ang usa ka linear regression nga modelo nga nagtagna sa mga presyo sa balay. Ang usa ka linear regression nagpasabot nga sa pipila ka bili x, kita makahimo sa pagtagna sa atong target nga bili y pinaagi sa paggamit sa usa ka partikular nga linear function f.
Ibutang ta nga ang among modelo naggamit sa gidak-on sa lote isip panguna nga input aron mahibal-an ang presyo sa balay. Gamit ang linear regression, nakahimo kami sa paghimo sa function y = 5000 * x diin ang x mao ang gidaghanon sa square feet o lot size.
Kini nga modelo mabasa sa tawo ug hingpit nga transparent.
Mga Pagpatin-aw sa Post-Hoc
Post-hoc nga mga pagpatin-aw usa ka grupo sa mga algorithm ug mga teknik nga magamit aron madugangan ang pagpatin-aw sa ubang mga algorithm.
Kadaghanan sa mga teknik sa pagpatin-aw sa post-hoc dili kinahanglan nga masabtan kung giunsa ang paglihok sa algorithm. Ang user kinahanglan lamang nga ipiho ang input ug resulta nga output sa target algorithm.
Kini nga mga pagpatin-aw dugang gibahin ngadto sa duha ka matang: lokal nga mga pagpatin-aw ug global nga mga pagpatin-aw.
Ang lokal nga mga pagpatin-aw nagtumong sa pagpatin-aw sa usa ka subset sa mga input. Pananglitan, nga gihatag ang usa ka partikular nga output, ang usa ka lokal nga katin-awan makahimo sa pagpunting kung unsang mga parameter ang nakatampo sa paghimo niana nga desisyon.
Ang mga global nga pagpatin-aw nagtumong sa paghimo sa post-hoc nga mga pagpasabut sa tibuuk nga algorithm. Kini nga matang sa pagpatin-aw kasagaran mas lisud buhaton. Ang mga algorithm komplikado ug adunay dili maihap nga mga parameter nga hinungdanon sa pagkab-ot sa katapusan nga resulta.
Mga Ehemplo sa Local Explanation Algorithm
Taliwala sa daghang mga teknik nga gigamit aron makab-ot ang XAI, ang mga algorithm nga gigamit alang sa mga lokal nga pagpatin-aw mao ang gipunting sa kadaghanan sa mga tigdukiduki.
Niini nga seksyon, atong tan-awon ang pipila ka sikat nga lokal nga mga algorithm sa pagpatin-aw ug kung giunsa ang matag usa niini molihok.
NAWALA
LIME (Local Interpretable Model-Agnostic Explainer) usa ka algorithm nga makapatin-aw sa mga panagna sa bisan unsang algorithm sa pagkat-on sa makina.
Sama sa gipasabot sa ngalan, ang LIME kay model-agnostic. Kini nagpasabut nga ang LIME mahimong magamit alang sa bisan unsang klase nga modelo. Ang modelo mao usab ang lokal nga mahubad, nagpasabut nga mahimo natong ipasabut ang modelo gamit ang mga lokal nga resulta kaysa ipasabut ang tibuuk nga modelo.
Bisan kung ang modelo nga gipatin-aw usa ka itom nga kahon, ang LIME nagmugna usa ka lokal nga linear nga modelo sa palibot sa mga punto nga duol sa usa ka piho nga posisyon.
Naghatag ang LIMe og usa ka linear nga modelo nga gibanabana ang modelo sa palibot sa usa ka panagna apan dili kinahanglan sa tibuuk kalibutan.
Makakat-on ka og dugang mahitungod niini nga algorithm pinaagi sa pagbisita niining open-source nga repository.
SHAP
Shapley Additive Explanations (SHAP) usa ka paagi sa pagpatin-aw sa indibidwal nga mga panagna. Aron masabtan kung giunsa paglihok ang SHAP, kinahanglan naton ipasabut kung unsa ang mga kantidad sa Shapley.
Ang Shapley value kay usa ka konsepto sa game theory nga naglakip sa paghatag ug "value" sa matag player sa duwa. Giapod-apod kini nga ang kantidad nga gihatag sa matag magdudula gibase sa kontribusyon sa magdudula sa dula.
Giunsa mi mag-apply teorya sa dula hangtod sa pagkat-on sa makina mga modelo?
Ibutang ta nga ang matag bahin sa among modelo usa ka "player" ug nga ang "dula" mao ang function nga nagpagawas sa panagna.
Ang pamaagi sa SHAP nagmugna og usa ka gibug-aton nga linear nga modelo nga nag-assign sa mga kantidad sa Shapley sa lainlaing mga bahin. Ang mga feature nga adunay taas nga Shapley values adunay mas dako nga impluwensya sa resulta sa modelo samtang ang mga feature nga adunay ubos nga Shapley values adunay gamay nga epekto.
Panapos
Ang pagpatin-aw sa AI hinungdanon dili lamang sa pagsiguro sa kaangayan ug pagkamay-tulubagon sa mga sistema sa AI, apan alang usab sa pagtukod og pagsalig sa teknolohiya sa AI sa kinatibuk-an.
Adunay daghan pa nga panukiduki nga buhaton sa bahin sa pagpatin-aw sa AI, apan adunay pipila nga mga maayong pamaagi nga makatabang kanato nga masabtan ang komplikado nga itom nga kahon nga sistema sa AI nga kaylap nga gigamit karon.
Uban sa dugang nga panukiduki ug pag-uswag, kita makalaum nga makahimo og mga sistema sa AI nga mas transparent ug mas sayon sabton. Sa kasamtangan, ang mga negosyo ug eksperto sa natad sama sa pag-atiman sa panglawas kinahanglan nga makahibalo sa mga limitasyon sa pagpatin-aw sa AI.
Leave sa usa ka Reply