Manana hery hanatsara ny fahombiazana amin'ny sehatra isan-karazany toy ny fandraharahana sy ny fitsaboana ny AI. Na izany aza, ny tsy fahampian'ny fanazavana dia manakana ny fiankinantsika amin'ny fampiasana azy amin'ny fandraisana fanapahan-kevitra.
Tokony hatoky ny fitsaran'ny algorithm ve isika?
Zava-dehibe ho an'ny mpanapa-kevitra amin'ny indostria rehetra ny mahatakatra ny fetra sy ny mety ho fitongilanana modely fianarana milina. Mba hahazoana antoka fa mandeha araka ny tokony ho izy ireo maodely ireo, dia tokony hazavaina amin'ny olombelona ny vokatry ny rafitra AI rehetra.
Amin'ity lahatsoratra ity dia hiresaka momba ny maha-zava-dehibe ny fanazavana amin'ny AI isika. Hanome topimaso fohy momba ireo karazana fomba ampiasaina hahazoana fanazavana avy amin'ny maodely fianarana milina izahay.
Inona no atao hoe AI azo hazavaina?
azo hazavaina fahaizana artifisialy na XAI dia manondro ireo teknika sy fomba ampiasaina ahafahan'ny olombelona mahazo ny fomba ahatongavan'ny maodely fianarana milina amin'ny vokatra iray.
Be mpitia algorithma fianarana milina miasa toy ny hoe "boaty mainty". Amin'ny fianarana milina, boaty mainty algorithms jereo ny maodely ML izay tsy azo atao ny manamarina ny fomba itondran'ny fampidirana sasany mankany amin'ny vokatra manokana. Na ny mpamorona ny AI aza dia tsy afaka manazava tanteraka ny fomba fiasan'ny algorithm.
Ohatra, mampiasa algorithm fianarana lalina ny tambajotra vaovao mba hamantarana lamina avy amin'ny taonina angona. Na dia azon'ny mpikaroka sy ny mpamorona AI aza ny fomba fiasan'ny tambajotra neural amin'ny fomba fijery ara-teknika, na dia tsy afaka manazava tanteraka ny fomba nahatongavan'ny tambajotra neural vokatra manokana aza izy ireo.
Ny tambajotra neural sasany dia mitantana masontsivana an-tapitrisany izay miara-miasa daholo mba hamerenana ny vokatra farany.
Amin'ny toe-javatra misy ny fanapahan-kevitra manan-danja, ny tsy fahampian'ny fanazavana dia mety ho lasa olana.
Nahoana no zava-dehibe ny Fanazavana
Fahazavana manome fanazavana momba ny fomba fandraisana fanapahan-kevitra modely. Ny orinasa mikasa ny hampifanaraka ny AI amin'ny fandraisana fanapahan-kevitra dia tsy maintsy mamaritra raha nampiasa ny fampidirana mety ny AI mba hahatongavana amin'ny fanapahan-kevitra tsara indrindra.
Ny modely tsy azo hazavaina dia olana amin'ny indostria maro. Ohatra, raha mampiasa algorithm ny orinasa iray handraisana fanapahan-kevitra momba ny fandraisana mpiasa, dia ho tombontsoan'ny rehetra ny hisian'ny mangarahara amin'ny fanapahan-kevitry ny algorithm handà mpangataka iray.
saha hafa izay fianarana lalina Algorithm dia ampiasaina matetika kokoa amin'ny fitsaboana. Amin'ny toe-javatra izay manandrana mamantatra ny mety ho famantarana ny homamiadana ny algorithm, dia zava-dehibe ho an'ny dokotera ny mahatakatra ny fomba nahatongavan'ilay modely tamin'ny aretina manokana. Ny haavon'ny fanazavana sasany dia takiana amin'ny manam-pahaizana mba hanararaotra tanteraka ny AI fa tsy hanaraka azy an-jambany
Fijerena ny Algorithm AI azo hazavaina
Ny algorithm AI azo hazavaina dia tafiditra ao anatin'ny sokajy roa lehibe: modely azo adika ho an'ny tena sy fanazavana post-hoc.
Modely azo adika manokana
Modely azo adika manokana dia algorithm izay azon'ny olombelona vakiana mivantana sy adika. Amin'ity tranga ity, ny modely mihitsy no fanazavana.
Ny sasany amin'ireo modely azo adika tena mahazatra indrindra dia ahitana hazo fanapahan-kevitra sy modely regression.
Ohatra, andeha hodinihintsika ny maodelin'ny regression linear izay maminavina ny vidin'ny trano. Ny fihemorana an-tsipika dia midika fa amin'ny sanda x sasany, dia ho afaka haminavina ny sanda kendrena y isika amin'ny alalan'ny fampiharana asa andalana manokana f.
Eritrereto fa ny modely misy antsika dia mampiasa ny haben'ny trano ho toy ny fampidirana lehibe hamaritana ny vidin'ny trano. Amin'ny fampiasana ny fihemorana an-tariby, dia afaka nanamboatra ny y = 5000 * x izahay izay x dia ny habetsaky ny metatra toradroa na ny habeny.
Ity modely ity dia mora vakiana ary mangarahara tanteraka.
Fanazavana Post-Hoc
Fanazavana post-hoc dia vondron'ny algorithm sy teknika azo ampiasaina hanampiana fanazavana amin'ny algorithm hafa.
Ny ankamaroan'ny teknika fanazavana post-hoc dia tsy mila mahatakatra ny fomba fiasan'ny algorithm. Ny mpampiasa ihany no mila mamaritra ny fidirana sy ny vokatra vokarin'ny algorithm kendrena.
Mizara roa ihany koa ireo fanazavana ireo: ny fanazavana eo an-toerana sy ny fanazavana maneran-tany.
Ny fanazavana eo an-toerana dia mikendry ny hanazava ampahany amin'ny fampidirana. Ohatra, raha omena vokatra manokana, ny fanazavana eo an-toerana dia afaka manondro izay masontsivana nandray anjara tamin'ny fanapahan-kevitra.
Ny fanazavana manerantany dia mikendry ny hamokatra fanazavana post-hoc momba ny algorithm manontolo. Sarotra kokoa ny manao izany karazana fanazavana izany. Sarotra ny algorithm ary mety tsy tambo isaina ny masontsivana izay manan-danja amin'ny fanatrarana ny vokatra farany.
Ohatra amin'ny Algorithm Fanazavana eo an-toerana
Amin'ireo teknika maro ampiasaina hanatrarana ny XAI, ny algorithm ampiasaina amin'ny fanazavana eo an-toerana no tena ifantohan'ny ankamaroan'ny mpikaroka.
Ato amin'ity fizarana ity, hojerentsika ny algorithm fanazavana eo an-toerana malaza sy ny fomba fiasan'ny tsirairay amin'izy ireo.
SOKAY
LIME (Modely azo adika eo an-toerana-Agnostic Explainer) dia algorithm izay afaka manazava ny faminaniana momba ny algorithm fianarana milina.
Araka ny hevitr'ilay anarana dia modely-agnostika ny LIME. Midika izany fa afaka miasa amin'ny karazana modely rehetra ny LIME. Ny modely koa dia azo adika eo an-toerana, midika izany fa afaka manazava ny modely amin'ny fampiasana vokatra eo an-toerana isika fa tsy manazava ny modely manontolo.
Na dia boaty mainty aza ny maodely hazavaina, LIME dia mamorona maodely tsipika eo an-toerana manodidina ireo teboka eo akaikin'ny toerana iray.
Ny LIMe dia manome maodely tsipika izay mifanandrify amin'ny modely eo amin'ny manodidina ny vinavina iray fa tsy voatery ho maneran-tany.
Afaka mianatra bebe kokoa momba an'io algorithm io ianao amin'ny alàlan'ny fitsidihana ity tahiry open source ity.
SHAP
Shapley Additive Explanations (SHAP) dia fomba iray hanazavana ny faminaniana tsirairay. Mba hahatakarana ny fomba fiasan'ny SHAP dia mila manazava ny atao hoe soatoavina Shapley isika.
Ny sandan'ny Shapley dia foto-kevitra amin'ny teoria lalao izay misy ny fanomezana "soatoavina" ho an'ny mpilalao tsirairay ao amin'ny lalao. Nozaraina izany ka ny sanda omena ny mpilalao tsirairay dia mifototra amin'ny fandraisan'anjaran'ny mpilalao amin'ny lalao.
Ahoana no ampiharantsika? teoria lalao amin'ny fianarana milina modely?
Eritrereto hoe "mpilalao" ny endri-javatra tsirairay ao amin'ny modely misy antsika ary ny "lalao" no asa mamoaka ny faminaniana.
Ny fomba SHAP dia mamorona modely tsipika mavesatra izay manome soatoavina Shapley amin'ny endri-javatra isan-karazany. Ireo endri-javatra manana soatoavina Shapley avo dia manana fiantraikany lehibe kokoa amin'ny vokatry ny maodely raha toa kosa ny endri-javatra manana soatoavina Shapley ambany dia manana fiantraikany kely kokoa.
Famaranana
Ny fahaiza-manazava AI dia zava-dehibe tsy amin'ny fiantohana ny fahamendrehana sy ny maha-tompon'andraikitra ny rafitra AI, fa koa amin'ny fananganana fitokisana amin'ny teknolojia AI amin'ny ankapobeny.
Mbola betsaka ny fikarohana tokony hatao amin'ny sehatry ny fahalalaham-pitenenana AI, saingy misy fomba fiasa mampanantena izay afaka manampy antsika hahatakatra ny rafitra AI boaty mainty be pitsiny izay efa be mpampiasa ankehitriny.
Miaraka amin'ny fikarohana sy fampandrosoana bebe kokoa, afaka manantena ny hanangana rafitra AI mangarahara kokoa sy mora takarina isika. Mandritra izany fotoana izany, ny orinasa sy ny manam-pahaizana amin'ny sehatra toy ny fikarakarana ara-pahasalamana dia tokony hahafantatra ny fetran'ny fahaizan'ny AI manazava.
Leave a Reply