AI ni agbara lati mu ilọsiwaju ṣiṣẹ ni ọpọlọpọ awọn apa bii iṣowo ati ilera. Sibẹsibẹ, aini ti alaye ṣe idiwọ igbẹkẹle wa lori lilo rẹ fun ṣiṣe ipinnu.
Ṣe o yẹ ki a gbẹkẹle idajọ ti algorithm kan?
O ṣe pataki fun awọn oluṣe ipinnu ni eyikeyi ile-iṣẹ lati ni oye awọn idiwọn ati awọn aibikita ti o pọju ti awọn awoṣe ẹkọ ẹrọ. Lati rii daju pe awọn awoṣe wọnyi n huwa bi a ti pinnu, abajade ti eyikeyi eto AI yẹ ki o ṣe alaye si eniyan.
Ninu nkan yii, a yoo lọ lori pataki ti alaye ni AI. A yoo pese akopọ kukuru ti awọn oriṣi awọn ọna ti a lo lati ṣe alaye awọn alaye lati awọn awoṣe ikẹkọ ẹrọ.
Kini AI ti o ṣe alaye?
Ṣe alaye oye atọwọda tabi XAI tọka si awọn imọ-ẹrọ ati awọn ọna ti a lo lati gba eniyan laaye lati ni oye bi awọn awoṣe ikẹkọ ẹrọ ṣe de ni iṣelọpọ kan.
Ọpọlọpọ awọn gbajumo ẹrọ aligoridimu ṣiṣẹ bi ẹnipe o jẹ "apoti dudu". Ninu ẹkọ ẹrọ, dudu apoti aligoridimu tọka si awọn awoṣe ML nibiti ko ṣee ṣe lati rii daju bi titẹ sii kan ṣe nyorisi iṣelọpọ kan pato. Paapaa olupilẹṣẹ ti AI kii yoo ni anfani lati ṣalaye ni kikun bi algorithm ṣiṣẹ.
Fun apẹẹrẹ, awọn algoridimu ikẹkọ jinlẹ lo awọn nẹtiwọki ti nhu lati ṣe idanimọ awọn ilana lati pupọ ti data. Paapaa botilẹjẹpe awọn oniwadi AI ati awọn olupilẹṣẹ loye bii awọn nẹtiwọọki nkankikan ṣiṣẹ lati oju-ọna imọ-ẹrọ, paapaa wọn ko le ṣalaye ni kikun bi nẹtiwọọki nkankikan ṣe wa pẹlu abajade kan pato.
Diẹ ninu awọn nẹtiwọọki nkankikan mu awọn miliọnu awọn ayeraye ti gbogbo wọn ṣiṣẹ ni iṣọkan lati da abajade ikẹhin pada.
Ni awọn ipo nibiti awọn ipinnu ṣe pataki, aini alaye le di iṣoro.
Kini idi ti Iṣalaye Ṣe Pataki
Alaye pese enia sinu bi awọn awoṣe ṣe awọn ipinnu. Awọn iṣowo ti o gbero lori iyipada AI lati ṣe awọn ipinnu yoo ni lati pinnu boya AI ti lo titẹ sii ti o tọ lati de ipinnu to dara julọ.
Awọn awoṣe ti ko ṣe alaye jẹ ariyanjiyan ni awọn ile-iṣẹ pupọ. Fun apẹẹrẹ, ti ile-iṣẹ kan ba lo algorithm kan lati ṣe awọn ipinnu igbanisise, yoo jẹ anfani ti gbogbo eniyan lati ni akoyawo ni bi algorithm ṣe pinnu lati kọ olubẹwẹ kan.
Miiran aaye ibi ti ẹkọ jinlẹ awọn algoridimu ti wa ni lilo nigbagbogbo ni ilera. Ni awọn iṣẹlẹ nibiti awọn algoridimu gbiyanju lati rii awọn ami ti o ṣeeṣe ti akàn, o ṣe pataki fun awọn dokita lati ni oye bii awoṣe ṣe de ni ayẹwo kan pato. Diẹ ninu awọn ipele ti alaye ni a nilo fun awọn amoye lati ni anfani ni kikun ti AI ati pe ko tẹle ni afọju
Akopọ ti Awọn alugoridimu AI ti o ṣe alaye
Awọn algoridimu AI ti o ṣe alaye ṣubu si awọn ẹka gbooro meji: awọn awoṣe itumọ ti ara ẹni ati awọn alaye post-hoc.
Awọn awoṣe itumọ ti ara ẹni
Awọn awoṣe itumọ ti ara ẹni jẹ awọn algoridimu ti eniyan le ka taara ati tumọ. Ni idi eyi, awoṣe funrararẹ jẹ alaye.
Diẹ ninu awọn awoṣe ti ara ẹni ti o wọpọ julọ pẹlu awọn igi ipinnu ati awọn awoṣe atunṣe.
Fun apẹẹrẹ, jẹ ki a gbero awoṣe ifasilẹ laini ti o sọ asọtẹlẹ awọn idiyele ile. Ipadasẹhin laini tumọ si pe pẹlu diẹ ninu iye x, a yoo ni anfani lati ṣe asọtẹlẹ iye ibi-afẹde wa y nipa lilo iṣẹ laini kan pato f.
Ṣebi pe awoṣe wa lo iwọn pupọ bi titẹ sii akọkọ lati pinnu idiyele ile. Lilo ipadasẹhin laini, a ni anfani lati wa pẹlu iṣẹ y = 5000 * x nibiti x jẹ iye awọn ẹsẹ onigun mẹrin tabi iwọn pupọ.
Awoṣe yii jẹ kika eniyan ati pe o han gbangba.
Awọn alaye Post-Hoc
Awọn alaye lẹhin-hoc jẹ ẹgbẹ awọn alugoridimu ati awọn ilana ti o le ṣee lo lati ṣafikun alaye si awọn algoridimu miiran.
Pupọ awọn ilana alaye post-hoc ko nilo lati ni oye bii algorithm ṣiṣẹ. Olumulo nikan nilo lati pato titẹ sii ati abajade abajade ti algorithm afojusun.
Awọn alaye wọnyi tun pin si awọn oriṣi meji: awọn alaye agbegbe ati awọn alaye agbaye.
Awọn alaye agbegbe ni ifọkansi lati ṣalaye ipin ti awọn igbewọle. Fun apẹẹrẹ, fun abajade kan pato, alaye agbegbe kan yoo ni anfani lati tọka iru awọn aye ti o ṣe alabapin si ṣiṣe ipinnu yẹn.
Awọn alaye agbaye ni ifọkansi lati gbejade awọn alaye post-hoc ti gbogbo algorithm. Iru alaye yii jẹ igbagbogbo nira lati ṣe. Awọn alugoridimu jẹ eka ati pe o le wa awọn aye ailopin ti o ṣe pataki ni iyọrisi abajade ikẹhin.
Awọn apẹẹrẹ ti Awọn alugoridimu Alaye Agbegbe
Lara ọpọlọpọ awọn imuposi ti a lo lati ṣe aṣeyọri XAI, awọn algoridimu ti a lo fun awọn alaye agbegbe jẹ ohun ti ọpọlọpọ awọn oluwadi ṣe idojukọ.
Ni apakan yii, a yoo wo diẹ ninu awọn algoridimu alaye agbegbe olokiki ati bii ọkọọkan wọn ṣe n ṣiṣẹ.
OWO
LIME (Awoṣe Itumọ Agbegbe-Alaye Agnostic) jẹ algorithm kan ti o le ṣe alaye awọn asọtẹlẹ ti eyikeyi algorithm ikẹkọ ẹrọ.
Gẹgẹbi orukọ naa ṣe tumọ si, LIME jẹ awoṣe-agnostic. Eyi tumọ si LIME le ṣiṣẹ fun eyikeyi iru awoṣe. Awoṣe naa tun jẹ itumọ ti agbegbe, afipamo pe a le ṣe alaye awoṣe nipa lilo awọn abajade agbegbe dipo ṣiṣe alaye gbogbo awoṣe.
Paapaa ti awoṣe ti n ṣalaye jẹ apoti dudu, LIME ṣẹda awoṣe laini laini agbegbe ni ayika awọn aaye nitosi ipo kan.
Lime n pese awoṣe laini ti o ṣe isunmọ awoṣe ni agbegbe ti asọtẹlẹ ṣugbọn kii ṣe dandan ni agbaye.
O le kọ ẹkọ diẹ sii nipa algorithm yii nipa ṣiṣabẹwo si ibi ipamọ orisun-ìmọ yii.
SHAP
Awọn alaye Afikun Shapley (SHAP) jẹ ọna lati ṣe alaye awọn asọtẹlẹ kọọkan. Lati loye bii SHAP ṣe n ṣiṣẹ, a ni lati ṣalaye kini awọn iye Shapley jẹ.
Iye Shapley jẹ imọran ninu ilana ere ti o jẹ ipin “iye” si ẹrọ orin kọọkan ninu ere naa. Eleyi ti wa ni pin iru awọn ti iye sọtọ si kọọkan player wa ni da lori awọn orin ká ilowosi si awọn ere.
Bawo ni a ṣe lo ere ero to ẹrọ eko awọn awoṣe?
Ṣebi pe ẹya kọọkan ninu awoṣe wa jẹ “oṣere” ati pe “ere” jẹ iṣẹ ti o ṣe abajade asọtẹlẹ naa.
Ọna SHAP ṣẹda awoṣe laini iwuwo ti o fi awọn iye Shapley si awọn ẹya pupọ. Awọn ẹya ara ẹrọ pẹlu awọn iye Shapley giga ni ipa ti o tobi julọ lori abajade ti awoṣe lakoko ti awọn ẹya pẹlu awọn iye Shapley kekere ni o kere si ipa kan.
ipari
Alaye alaye AI jẹ pataki kii ṣe fun aridaju iṣedede ati iṣiro ti awọn eto AI, ṣugbọn tun fun gbigbe igbẹkẹle si imọ-ẹrọ AI ni gbogbogbo.
Ọpọlọpọ awọn iwadii tun wa lati ṣee ṣe ni agbegbe ti alaye AI, ṣugbọn awọn ọna ti o ni ileri kan wa ti o le ṣe iranlọwọ fun wa lati ni oye awọn ọna ẹrọ dudu ti eka dudu AI ti o ti lo tẹlẹ loni.
Pẹlu iwadii siwaju ati idagbasoke, a le nireti lati kọ awọn eto AI ti o han gbangba ati rọrun lati ni oye. Lakoko, awọn iṣowo ati awọn amoye ni awọn aaye bii ilera yẹ ki o mọ awọn idiwọn ti alaye AI.
Fi a Reply