Tá an chumhacht ag AI éifeachtacht a fheabhsú in earnálacha éagsúla cosúil le gnó agus cúram sláinte. Mar sin féin, cuireann an easpa míniúcháin bac orainn a bheith ag brath ar é a úsáid le haghaidh cinnteoireachta.
Ar cheart dúinn muinín a bheith againn as breithiúnas algartam?
Tá sé tábhachtach go dtuigfeadh cinnteoirí in aon tionscal na teorainneacha agus na laofachtaí a d’fhéadfadh a bheith ag baint le samhlacha foghlama meaisín. Chun a chinntiú go bhfuil na samhlacha seo á n-iompar mar a bhí beartaithe, ba cheart go mbeadh aschur aon chórais AI so-mhínithe don duine.
San Airteagal seo, déanfaimid dul thar an tábhacht a bhaineann le míniú in AI. Tabharfaimid forbhreathnú gairid ar na cineálacha modhanna a úsáidtear chun mínithe a fháil ó mhúnlaí meaisínfhoghlama.
Cad is AI Inmhínithe ann?
Inmhínithe hintleachta saorga nó tagraíonn XAI do na teicníochtaí agus na modhanna a úsáidtear chun ligean do dhaoine tuiscint a fháil ar an gcaoi a dtagann samhlacha meaisínfhoghlama ar aschur áirithe.
Go leor tóir halgartaim foghlama meaisín oibriú amhail is dá mba “bosca dubh” é. I meaisín foghlama, halgartaim bosca dubh tagairt a dhéanamh do mhúnlaí ML nuair nach féidir a fhíorú conas a bhíonn aschur áirithe mar thoradh ar ionchur áirithe. Ní bheidh fiú forbróir an AI in ann a mhíniú go hiomlán conas a oibríonn an algartam.
Mar shampla, úsáideann halgartaim foghlama domhain líonraí neural patrúin a aithint ó thonna sonraí. Cé go dtuigeann taighdeoirí agus forbróirí AI an chaoi a n-oibríonn líonraí néaracha ó thaobh teicniúil de, ní féidir leo a mhíniú go hiomlán fiú conas a tháinig líonra néarach suas le toradh ar leith.
Láimhseálann roinnt líonraí neural na milliúin paraiméadair a oibríonn go léir le chéile chun an toradh deiridh a thabhairt ar ais.
I gcásanna ina mbíonn tábhacht ag baint le cinntí, d’fhéadfadh go mbeadh fadhb ag baint leis an easpa míniúcháin.
Cén Fáth a Bhfuil Tábhacht ag Inmhíniú
Inmhínithe tugann sé léargas ar conas a dhéanann samhlacha cinntí. Beidh ar ghnólachtaí a bhfuil sé beartaithe acu AI a oiriúnú chun cinntí a dhéanamh a chinneadh ar bhain an AI úsáid as an ionchur ceart chun teacht ar an gcinneadh is fearr.
Is saincheist iad múnlaí nach féidir a mhíniú i dtionscail éagsúla. Mar shampla, dá n-úsáidfeadh cuideachta algartam chun cinntí a dhéanamh maidir le fruiliú, bheadh sé chun leasa gach duine trédhearcacht a bheith ann maidir le conas a chinneann an t-algartam iarratasóir a dhiúltú.
Réimse eile áit a bhfuil foghlaim domhain halgartaim á n-úsáid níos minice i gcúram sláinte. I gcásanna ina ndéanann halgartaim iarracht comharthaí féideartha ailse a bhrath, tá sé tábhachtach do dhochtúirí a thuiscint conas a tháinig an tsamhail ar dhiagnóis áirithe. Tá gá le leibhéal éigin míniúcháin do shaineolaithe chun leas iomlán a bhaint as AI agus gan é a leanúint go dall
Forbhreathnú ar Algartam AI Inmhínithe
Tá dhá chatagóir leathana ag halgartaim inmhínithe AI: samhlacha féin-léirmhínithe agus mínithe iar-hoc.
Samhlacha féin-léirmhínithe
Samhlacha féin-léirmhínithe is algartaim iad is féidir le duine a léamh agus a léirmhíniú go díreach. Sa chás seo, is é an tsamhail féin an míniú.
I measc cuid de na samhlacha féin-léirmhínithe is coitianta tá crainn chinnidh agus samhlacha cúlchéimnithe.
Mar shampla, déanaimis machnamh ar shamhail aischéimniúcháin líneach a thuarann praghsanna tithe. Ciallaíonn aischéimniú líneach, le luach éigin x, go mbeimid in ann ár spriocluach y a thuar trí fheidhm líneach ar leith f.
Cuir i gcás go n-úsáideann ár múnla méid leor mar an príomh-ionchur chun praghas tí a chinneadh. Ag baint úsáide as aischéimniú líneach, bhíomar in ann teacht suas leis an bhfeidhm y = 5000 * x áit a bhfuil x an méid troigh cearnach nó méid lot.
Tá an tsamhail seo inléite ag an duine agus tá sé go hiomlán trédhearcach.
Mínithe Iar-Hoc
Mínithe iar-hoc is grúpa algartaim agus teicníochtaí is féidir a úsáid chun míniú a thabhairt ar halgartaim eile.
Ní gá go dtuigeann an chuid is mó de na teicnící míniúcháin iar-hoc conas a oibríonn an algartam. Ní gá don úsáideoir ach an t-ionchur agus an t-aschur mar thoradh ar an sprioc-algartam a shonrú.
Roinntear na mínithe seo ina dhá chineál eile: mínithe áitiúla agus mínithe domhanda.
Tá sé mar aidhm ag míniúcháin áitiúla fo-thacar ionchuir a mhíniú. Mar shampla, nuair a chuirtear aschur áirithe san áireamh, beidh míniú áitiúil in ann na paraiméadair a chuir le déanamh an chinnidh sin a aimsiú.
Tá sé mar aidhm ag mínithe domhanda mínithe iar-hoc a tháirgeadh ar an algartam iomlán. De ghnáth bíonn sé níos deacra míniú den chineál seo a dhéanamh. Tá halgartaim casta agus d’fhéadfadh go mbeadh iliomad paraiméadair ann atá suntasach chun an toradh deiridh a bhaint amach.
Samplaí d'Algartam Mínithe Áitiúla
I measc na dteicnící iomadúla a úsáidtear chun XAI a bhaint amach, is iad na halgartaim a úsáidtear le haghaidh mínithe áitiúla a dhíríonn an chuid is mó de na taighdeoirí.
Sa chuid seo, féachfaimid ar roinnt halgartaim mhínithe áitiúla a bhfuil tóir orthu agus conas a oibríonn gach ceann acu.
LIME
LIME (Mínitheoir Inbhraite Áitiúil-Samhail Agnostic) is algartam é a fhéadfaidh tuar aon algartam meaisínfhoghlama a mhíniú.
Mar a thugann an t-ainm le tuiscint, is samhail-agnostic é LIME. Ciallaíonn sé seo go bhféadfadh LIME oibriú d’aon chineál múnla. Is féidir an tsamhail a léirmhíniú go háitiúil freisin, rud a chiallaíonn gur féidir linn an tsamhail a mhíniú ag baint úsáide as torthaí áitiúla seachas an tsamhail iomlán a mhíniú.
Fiú más bosca dubh é an tsamhail atá á mhíniú, cruthaíonn LIME samhail líneach áitiúil timpeall ar phointí in aice láimhe áit áirithe.
Soláthraíonn Lime samhail líneach a dhéanann neasú ar an múnla i gcomharsanacht tuar ach ní gá go domhanda.
Is féidir leat tuilleadh a fhoghlaim faoin algartam seo trí chuairt a thabhairt ar an stór foinse oscailte seo.
SHAP
Mínithe Breiseáin Shapley (SHAP) is modh é chun tuar aonair a mhíniú. Chun tuiscint a fháil ar an gcaoi a n-oibríonn SHAP, beidh orainn a mhíniú cad iad luachanna Shapley.
Is coincheap é luach Shapley i dteoiric an chluiche a bhaineann le “luach” a shannadh do gach imreoir sa chluiche. Dáiltear é seo sa chaoi is go mbíonn an luach a shanntar do gach imreoir bunaithe ar an méid a chuireann an t-imreoir leis an gcluiche.
Conas a dhéanaimid iarratas teoiric cluiche le foghlaim meaisín samhlacha?
Cuir i gcás gur “imreoir” gach gné inár múnla agus gurb é an “cluiche” an fheidhm a aschuireann an tuar.
Cruthaíonn modh SHAP samhail líneach ualaithe a sannann luachanna Shapley do ghnéithe éagsúla. Bíonn tionchar níos mó ag gnéithe le luachanna arda Shapley ar thoradh na samhla agus bíonn tionchar níos lú ag gnéithe le luachanna Shapley íseal.
Conclúid
Tá míniúchán AI tábhachtach, ní hamháin chun cothroime agus cuntasacht na gcóras AI a chinntiú, ach freisin chun muinín a thógáil i dteicneolaíocht AI go ginearálta.
Tá go leor taighde le déanamh go fóill i réimse na inmhínithe AI, ach tá roinnt cineálacha cur chuige tuar dóchais inti a chabhróidh linn tuiscint a fháil ar na córais casta bosca dubh AI a úsáidtear go forleathan inniu.
Le tuilleadh taighde agus forbartha, is féidir linn a bheith ag súil le córais AI a thógáil atá níos trédhearcaí agus níos éasca le tuiscint. Idir an dá linn, ba cheart go mbeadh gnólachtaí agus saineolaithe i réimsí mar chúram sláinte ar an eolas faoi na teorainneacha a bhaineann le míniúchán AI.
Leave a Reply