Kei a AI te mana ki te whakapai ake i te kaha ki nga momo waahanga penei i te pakihi me te tiaki hauora. Heoi, na te kore o te whakamarama ka aukati i to maatau whakawhirinaki ki te whakamahi mo te whakatau.
Me whakawhirinaki tatou ki te whakatau a te algorithm?
He mea nui mo nga kaihanga whakatau i roto i nga umanga katoa kia mohio ki nga herenga me nga rītaha pea o tauira miihini akoranga. Hei whakarite kia rite te ahua o enei tauira, me whakamarama te putanga o tetahi punaha AI ki te tangata.
I roto i tenei tuhinga, ka tirohia e maatau te hiranga o te whakamarama i roto i te AI. Ka whakaratohia e matou he tirohanga poto mo nga momo tikanga e whakamahia ana hei whakaputa whakamarama mai i nga tauira ako miihini.
He aha te Whakamarama AI?
Ka taea te whakamarama mātauranga horihori ko XAI ranei e tohu ana ki nga tikanga me nga tikanga e whakamahia ana kia mohio ai te tangata ki te taenga mai o nga tauira ako miihini ki tetahi putanga.
He maha nga rongonui miihini akoako miihini mahi me te mea he "pouaka pango". I roto i te ako miihini, pouaka pango algorithms tirohia nga tauira ML e kore e taea te manatoko me pehea te arahi o tetahi whakauru ki tetahi putanga. Ahakoa ko te kaiwhakawhanake o te AI e kore e kaha ki te tino whakamarama me pehea te mahi a te algorithm.
Hei tauira, ka whakamahia nga algorithm ako hohonu te ahunga taiao ki te tautuhi i nga tauira mai i te maha o nga raraunga. Ahakoa e mohio ana nga kairangahau AI me nga kaiwhakawhanake he pehea te mahi o nga whatunga neural mai i te tirohanga hangarau, ahakoa kaore e taea e raatau te whakamaarama me pehea te whakaputanga o te whatunga neural ki tetahi hua.
Ko etahi o nga whatunga neural e whakahaere ana i nga miriona tawhā ka mahi ngatahi katoa ki te whakahoki i te hua whakamutunga.
I roto i nga ahuatanga he mea nui nga whakatau, ka raru pea te kore o te whakamarama.
He aha te take o te whakamaramatanga
Te whakamarama e whakaatu ana i te huarahi e whakatau ai nga tauira. Ko nga pakihi e whakamahere ana ki te urutau AI ki te whakatau whakatau me whakatau mena kua whakamahia e te AI te whakauru tika kia tae ki te whakatau pai.
Ko nga tauira kaore e taea te whakamarama he take i roto i nga umanga maha. Hei tauira, ki te whakamahi tetahi kamupene i te algorithm ki te whakatau i te utu, he mea pai ki te katoa kia marama te whakaaro o te algorithm ki te whakakore i te kaitono.
Ko tetahi atu mara kei hea te ako hohonu Kei te whakamahia nga algorithms i nga wa katoa kei roto i nga mahi hauora. I roto i nga keehi ka ngana nga algorithms ki te kite i nga tohu o te mate pukupuku, he mea nui kia mohio nga taote me pehea i tae ai te tauira ki tetahi tohu mate. Ko etahi taumata o te whakamarama e hiahiatia ana mo nga tohunga ki te whai rawa ki te AI me te kore e whai matapo
Tirohanga o nga Algorithm AI Whakamarama
E rua nga waahanga whanui e taea ai te whakamarama: nga tauira whakamaori-whaiaro me nga whakamaarama pou-hoc.
Nga tauira ka taea te whakamaori
Nga tauira ka taea te whakamaori he algorithms ka taea e te tangata te panui tika me te whakamaori. I tenei take, ko te tauira ake te whakamarama.
Ko etahi o nga tauira ka taea te whakamaarama whaiaro ko nga rakau whakatau me nga tauira whakaheke.
Hei tauira, me whakaaro tatou ki tetahi tauira whakahekenga raina e tohu ana i nga utu o te whare. Ko te tikanga o te whakahekenga raina me etahi uara x, ka taea e tatou te matapae i to tatou uara y ma te whakamahi i tetahi mahi rarangi f.
Mehemea ka whakamahia e to maatau tauira te rahi o te rota hei whakaurunga matua ki te whakatau i te utu o te whare. Ma te whakamahi i te whakahekenga raina, i taea e matou te whakaputa i te mahi y = 5000 * x kei te x ko te nui o nga waewae tapawha me te rahi o te rota.
Ko tenei tauira ka taea e te tangata te panui me te tino marama.
Nga Whakamaramatanga i muri i te Hoc
Nga whakamaarama i muri mai he roopu algorithms me nga tikanga ka taea te whakamahi hei taapiri i te whakamaramatanga ki etahi atu algorithms.
Ko te nuinga o nga tikanga whakamaarama post-hoc kaore e tika kia mohio ki te mahi a te algorithm. Ko te kaiwhakamahi anake me tohu i te whakaurunga me te putanga hua o te algorithm whaainga.
Ka wehewehea enei whakamarama ki nga momo e rua: nga whakamarama a-rohe me nga whakamarama o te ao.
Ko nga whakamarama o te rohe he whakamarama i tetahi waahanga o nga whakaurunga. Hei tauira, i runga i tetahi putanga ake, ka taea e te whakamarama a-rohe te tohu ko wai nga tawhā i whai waahi ki te whakatau i taua whakatau.
Ko nga whakamaramatanga o te ao e whai ana ki te whakaputa i nga whakamaarama pou-hoc o te algorithm katoa. Ko tenei momo whakamarama he uaua ake te mahi. He whīwhiwhi ngā hātepe, ā, he maha pea ngā tawhā he mea nui ki te whakatutuki i te hua whakamutunga.
Nga Tauira o nga Algorithm Whakamaramatanga a-rohe
I roto i nga tikanga maha e whakamahia ana ki te whakatutuki i te XAI, ko nga algorithm e whakamahia ana mo nga whakamaramatanga o te rohe ko te nuinga o nga kairangahau e aro ana.
I roto i tenei waahanga, ka titiro tatou ki etahi momo whakamaarama whakamaarama a-rohe me te pehea e mahi ai ia.
NGARO
LIME (Whakamaori Tauira-Agnostic Explainer) he hātepe hātepe e taea te whakamārama i ngā matapae o tetahi hātepe ako miihini.
E ai ki te ingoa, he tauira-agnostic a LIME. Ko te tikanga ka taea e LIME te mahi mo tetahi momo tauira. Ka taea hoki te whakamaoritanga o te tauira i te rohe, te tikanga ka taea e tatou te whakamarama i te tauira ma te whakamahi i nga hua o te rohe, kaua ki te whakamarama i te tauira katoa.
Ahakoa he pouaka pango te tauira e whakamaramatia ana, ka hangaia e LIME he tauira raina rohe huri noa i nga waahi e tata ana ki tetahi waahi.
Ka whakarato a LIMe i te tauira raina e tata ana ki te tauira i te takiwa o te matapae engari ehara i te mea puta noa i te ao.
Ka taea e koe te ako atu mo tenei algorithm ma te toro ki tenei putunga puna tuwhera.
SHAP
Nga Whakamaramatanga taapiri a Shapley (SHAP) he tikanga hei whakamarama i nga matapaetanga takitahi. Kia mohio ai ki te mahi a SHAP, me whakamarama he aha nga uara a Shapley.
Ko te uara Shapley he ariā i roto i te ariā keemu e uru ana ki te tautapa i te "uara" ki ia kaitakaro o te keemu. Ka tohatohahia tenei kia rite ai te uara kua tohaina ki ia kaitakaro i runga i te takoha a te kaitakaro ki te keemu.
Me pehea te tono ariā kēmu ki te ako miihini tauira?
Me whakaaro ko ia ahuatanga i roto i ta maatau tauira he "kaitakaro" ko te "kēmu" te mahi e whakaputa ana i te matapae.
Ko te tikanga SHAP he hanga tauira raina taumaha e tautapa ai nga uara a Shapley ki nga momo ahuatanga. Ko nga ahuatanga he nui nga uara Shapley ka nui ake te awe ki te putanga o te tauira engari ko nga ahuatanga he iti nga uara Shapley he iti ake te paanga.
Opaniraa
He mea nui te whakamaramatanga o AI ehara i te mea mo te whakarite tika me te kawenga o nga punaha AI, engari mo te hanga whakawhirinaki ki te hangarau AI i te nuinga.
He maha tonu nga rangahau hei mahi mo te whakamaramatanga o AI, engari tera ano etahi huarahi pai hei awhina i a tatou ki te mohio ki nga punaha AI pouaka pango matatini kua whakamahia i enei ra.
Ma te rangahau me te whakawhanaketanga ake, ka tumanako tatou ki te hanga i nga punaha AI kia marama ake, kia maamaa ake te maarama. I tenei wa, me mohio nga pakihi me nga tohunga mo nga mara penei i te tiaki hauora ki nga herenga o te whakamarama AI.
Waiho i te Reply