Hekk kif aktar industriji jużaw il-qawwa tal-algoritmi biex awtomatizzati l-operazzjonijiet u jagħmlu għażliet, it-tagħlim tal-magni qed isir komponent kruċjali ta 'kif topera d-dinja kontemporanja.
Il-kwistjoni tal-preġudizzju fit-tagħlim tal-magni hija kruċjali li titqies meta l-mudelli tat-tagħlim tal-magni jiġu integrati fil-proċessi tat-teħid tad-deċiżjonijiet ta 'diversi organizzazzjonijiet.
Li jiġi garantit li l-għażliet iġġenerati mill-algoritmi jkunu imparzjali u nieqsa minn preġudizzju għandu jkun l-għan għal kwalunkwe organizzazzjoni li tuża mudelli ta 'tagħlim bil-magni. Biex jiġi żgurat li l-outputs tal-mudell ikunu jistgħu jiġu invokati u meqjusa bħala ġusti, huwa kruċjali li jiġu rikonoxxuti u indirizzati tagħlim magna preġudizzju.
Hija relatata ma 'mistoqsijiet ta' spjegazzjoni tal-mudell, jew kemm huwa faċli għal persuna li tifhem kif mudell ta 'tagħlim tal-magni wasal għal konklużjoni. Ix-xejriet u l-mudelli li l-mudelli tat-tagħlim bil-magni jimmappaw u jitgħallmu ġejjin mid-dejta nnifisha aktar milli permezz tal-iżvilupp uman dirett.
Il-preġudizzju fit-tagħlim tal-magni jista 'jirriżulta għal varjetà ta' raġunijiet jekk ma jkunx ikkontrollat u kkontrollat. Meta mudell jiġi skjerat, ta 'spiss jiltaqa' ma 'sitwazzjonijiet li mhumiex riflessi b'mod preċiż fil-kampjun tad-dejta tat-taħriġ.
Il-mudell seta' kien iżżejjed għal dan is-sett ta' taħriġ mhux rappreżentattiv ta' data. Minkejja l-kwalità eċċellenti tad-dejta tat-taħriġ, il-mudell xorta jista’ jiġi affettwat minn preġudizzju storiku li jirriżulta minn influwenzi kulturali usa’.
Ladarba jiġi implimentat, mudell preġudikat jista' jiffavorixxi ċerti gruppi jew jitlef l-eżattezza b'sottogruppi ta' data partikolari. Dan jista 'jirriżulta f'sentenzi li jikkastigaw b'mod inġust ċertu grupp ta' individwi, li jista 'jkollhom effetti negattivi fuq id-dinja attwali.
Dan l-artikolu jiddiskuti l-preġudizzju tat-tagħlim tal-magni, inkluż x'inhu, kif wieħed isibha, il-perikli li joħloq, u ħafna aktar.
Allura, X'inhu l-Bias tat-Tagħlim tal-Magni?
Algoritmu li jipproduċi outputs li huma preġudikati b'mod sistematiku bħala riżultat ta' suppożizzjonijiet foloz magħmula matul il-proċess ta' tagħlim bil-magni huwa magħruf bħala preġudizzju għat-tagħlim bil-magni, magħruf ukoll bħala preġudizzju tal-algoritmu jew magħruf bħala preġudizzju AI.
Il-preġudizzju tat-tagħlim bil-magni huwa t-tendenza ta' mudell li jiffavorixxi sett partikolari ta' dejta jew sottosett ta' dejta; huwa spiss miġjuba minn datasets ta 'taħriġ mhux rappreżentattivi. B'ċertu ġbir ta 'dejta, mudell preġudikat se jkollu rendiment baxx, li jagħmel ħsara lill-eżattezza tiegħu.
F'ambjent tad-dinja reali, dan jista' jimplika li data ta' taħriġ preġudikata rriżultat f'output ta' mudell li jiffavorixxi ċertu razza, demografija jew sess.
Bħala riżultat, l-outputs tat-tagħlim tal-magni jistgħu jkunu inġusti jew diskriminatorji. Taħriġ mhux rappreżentattiv settijiet ta' dejta jistgħu jikkontribwixxu għall-preġudizzju fit-tagħlim tal-magni.
Il-mudell li jirriżulta jista' jkun preġudikat lejn kategoriji oħra, sottorappreżentati jekk id-dejta tat-taħriġ tkun nieqsa jew rappreżentattiva żżejjed ta' grupp ta' dejta partikolari. Dan jista 'jiġri jekk il-kampjun tad-dejta tat-taħriġ ma jaqbilx preċiżament mal-ambjent ta' skjerament tad-dinja reali.
It-tagħlim tal-magni fl-industrija tal-kura tas-saħħa, li jista 'jintuża biex jiċċekkja d-dejta tal-pazjent kontra mard jew mard magħruf, huwa eżempju ewlieni. Il-mudelli jistgħu jħaffu l-interventi tat-tobba meta jintużaw b'mod xieraq.
Madankollu, il-preġudizzju huwa possibbli. Meta jintalab ibassar mard possibbli f'pazjent anzjan, mudell ma jistax jaħdem tajjeb jekk id-dejta tat-taħriġ użata biex tinbena tikkonsisti l-aktar minn dejta tal-pazjent minn medda ta 'età iżgħar.
Barra minn hekk, l-istatistika storika tista 'tiġi distorta. Pereżempju, minħabba li storikament, il-maġġoranza tal-impjegati kienu rġiel, mudell imħarreġ biex jiffiltra l-kandidati tax-xogħol jiffavorixxi applikanti rġiel.
Il-preġudizzju tat-tagħlim tal-magni se jkollu influwenza fuq l-eżattezza tal-mudell fiż-żewġ xenarji, u fl-agħar ċirkostanzi, jista 'saħansitra jirriżulta f'konklużjonijiet diskriminatorji u inġusti.
Id-deċiżjonijiet għandhom jiġu riveduti bir-reqqa biex jiġi żgurat li ma jkunx hemm preġudizzju mudelli ta 'tagħlim bil-magna ibdel aktar u aktar operazzjonijiet manwali. Bħala riżultat, prattiki ta 'governanza mudell fi kwalunkwe organizzazzjoni għandhom jinkludu monitoraġġ għall-preġudizzju tat-tagħlim tal-magni.
Ħafna tipi differenti ta 'impjiegi f'ħafna industriji differenti qed jitlestew minn mudelli ta' tagħlim bil-magni. Illum, il-mudelli jintużaw biex jiġu awtomatizzati proċessi dejjem aktar diffiċli u biex jiġġeneraw suġġerimenti. F'dan il-proċess ta' teħid ta' deċiżjonijiet, preġudizzju jfisser li mudell jista' jiffavorixxi grupp partikolari fuq ieħor ibbażat fuq preġudizzju mgħallem.
Meta jintuża biex isiru ġudizzji mhux sikuri b'konsegwenzi reali, dan jista' jkollu riperkussjonijiet serji. Meta jintuża biex japprova awtomatikament applikazzjonijiet għal self, pereżempju, mudell preġudikat jista' jippreġudika ċertu popolazzjoni. F'negozji regolati fejn kwalunkwe azzjoni tista' tiġi spezzjonata jew skrutinizzata, dan huwa fattur partikolarment kruċjali li għandu jitqies.
Tipi ta' Bias ta' Tagħlim tal-Machine
- Algoritmu Bias – Dan jiġri meta jkun hemm bug fl-algoritmu li jagħmel il-kalkoli li jmexxu l-komputazzjonijiet tat-tagħlim tal-magni.
- Kampjun Bias – Meta d-data użata ħarreġ it-tagħlim tal-magni mudell għandu problema, dan iseħħ. F'każijiet ta 'dan it-tip ta' preġudizzju, l-ammont jew il-kwalità tad-dejta utilizzata biex titħarreġ is-sistema hija insuffiċjenti. L-algoritmu se jiġi mħarreġ biex jemmen li l-għalliema kollha huma nisa jekk, pereżempju, id-dejta tat-taħriġ tkun magħmula kompletament minn għalliema nisa.
- Preġudizzju ta' esklużjoni – Dan iseħħ meta punt tad-dejta kruċjali jkun assenti mis-sett ta’ dejta li qed jiġi utilizzat, li jista’ jseħħ jekk dawk li jimmudellaw jonqsu milli jirrealizzaw is-sinifikat tal-punt tad-dejta nieqes.
- Preġudizzju – F'dan il-każ, it-tagħlim tal-magni innifsu huwa preġudikat peress li d-dejta użata biex titħarreġ is-sistema tirrifletti preġudizzji tad-dinja reali bħal preġudizzju, sterjotipi, u suppożizzjonijiet soċjali mhux korretti. Pereżempju, jekk id-dejta dwar il-professjonisti mediċi kellha tiġi inkluża fis-sistema tal-kompjuter li tinkludi biss tobba rġiel u infermiera nisa, sterjotip tal-ġeneru fid-dinja reali dwar il-ħaddiema tal-kura tas-saħħa jiġi perpetwat.
- Bias tal-Kejl – Kif jimplika l-isem, dan il-preġudizzju jirriżulta minn kwistjonijiet fundamentali dwar il-kwalità tad-dejta u l-metodi użati biex tinġabar jew tiġi evalwata. Sistema li tkun qed titħarreġ biex tivvaluta b'mod preċiż il-piż tkun preġudikata jekk il-piżijiet li jinsabu fid-dejta tat-taħriġ ikunu konsistentement imqarrba 'l fuq, u l-użu ta' stampi ta' impjegati kuntenti biex iħarreġ sistema maħsuba biex tivvaluta ambjent fuq il-post tax-xogħol jista' jkun preġudikat jekk l-impjegati fl-istampi jkunu jafu kienu qed jitkejlu għall-kuntentizza.
Liema fatturi jikkontribwixxu għall-preġudizzju fit-tagħlim tal-magni?
Għalkemm hemm ħafna raġunijiet għall-preġudizzju tat-tagħlim tal-magni, ħafna drabi jirriżulta minn preġudizzju fid-dejta tat-taħriġ innifsu. Hemm diversi kawżi sottostanti potenzjali għal preġudizzji fid-dejta tat-taħriġ.
L-aktar illustrazzjoni apparenti hija d-dejta tat-taħriġ, li hija subsett ta' kundizzjonijiet li jidhru f'sistema skjerata li mhix tipika. Din tista' tkun data ta' taħriġ b'sottorappreżentazzjoni ta' kategorija waħda jew kwantità sproporzjonata ta' oħra.
Dan huwa magħruf bħala preġudizzju tal-kampjun, u jista 'jirriżulta minn ġbir ta' data ta 'taħriġ mhux randomised. Il-metodi użati biex tinġabar, tanalizzaw jew tikklassifika d-dejta, kif ukoll l-għeruq storiċi tad-dejta, kollha jistgħu jwasslu għal preġudizzju fid-dejta nnifisha.
L-informazzjoni tista 'saħansitra tkun preġudikata storikament fil-kultura akbar fejn inġabret.
Il-preġudizzju tat-tagħlim bil-magni huwa l-aktar ikkawżat minn:
- Il-preġudizzji kkawżati mill-bnedmin jew mis-soċjetà fid-dejta storika jintużaw biex jitħarrġu l-algoritmi.
- Dejta ta' taħriġ li ma tirriflettix iċ-ċirkostanzi tad-dinja reali.
- Preġudizzju waqt it-tikkettar jew il-preparazzjoni tad-dejta għal tagħlim tal-magni sorveljat.
Pereżempju, nuqqas ta' diversità fid-dejta tat-taħriġ jista' jikkawża preġudizzju ta' rappreżentazzjoni. L-eżattezza tal-mudelli tat-tagħlim tal-magni hija spiss affettwata minn preġudizzju storiku fil-kultura usa '.
Dan kultant jissejjaħ preġudizzju soċjali jew uman. Is-sejba ta' kollezzjonijiet vasti ta' dejta li mhumiex suxxettibbli għal preġudizzju soċjetali jista' jkun ta' sfida. L-istadju tal-ipproċessar tad-dejta taċ-ċiklu tal-ħajja tat-tagħlim tal-magni huwa ugwalment suxxettibbli għall-preġudizzju uman.
Id-dejta li ġiet ittikkettata u pproċessata minn xjenzat tad-dejta jew espert ieħor hija meħtieġa għal tagħlim tal-magni sorveljat. Kemm jekk ġejja mill-varjetà ta 'data li hija mnaddfa, il-mod li l-punti tad-data huma ttikkettjati, jew l-għażla tal-karatteristiċi, preġudizzju f'dan il-proċess ta' tikkettjar jista 'jwassal għal preġudizzju fit-tagħlim tal-magni.
Riskji ta' Preġudizzju ta' Tagħlim tal-Machine
Peress li l-mudelli huma għodod tat-teħid tad-deċiżjonijiet immexxija mid-dejta, huwa preżunt li jipprovdu ġudizzji imparzjali. Mudelli ta 'tagħlim bil-magni spiss ikun fihom preġudizzju, li jista' jaffettwa r-riżultati.
Aktar u aktar industriji qed jimplimentaw tagħlim tal-magni minflok software u proċeduri skaduti. Mudelli preġudikati jista 'jkollhom effetti negattivi fid-dinja reali meta impjiegi aktar ikkumplikati huma awtomatizzati bl-użu ta' mudelli.
It-tagħlim bil-magni mhuwiex differenti minn proċessi oħra ta’ teħid ta’ deċiżjonijiet peress li l-organizzazzjonijiet u l-individwi jistennew li jkun trasparenti u ekwu. Minħabba li t-tagħlim bil-magni huwa proċess awtomatizzat, il-ġudizzji li jsiru bl-użu tiegħu kultant jiġu eżaminati saħansitra aktar mill-qrib.
Huwa kruċjali li l-organizzazzjonijiet ikunu proattivi biex jindirizzaw il-perikli peress li l-preġudizzju fit-tagħlim tal-magni spiss jista' jkollu effetti diskriminatorji jew negattivi fuq xi popolazzjonijiet. Għal kuntesti regolati, b'mod partikolari, għandha titqies il-possibbiltà ta' preġudizzju fit-tagħlim tal-magni.
Pereżempju, it-tagħlim tal-magni fil-banek jista' jintuża biex jaċċetta jew jirrifjuta awtomatikament applikanti għal ipoteki wara l-iskrinjar inizjali. Mudell li huwa preġudikat lejn ċertu grupp ta' kandidati jista' jkollu effetti detrimentali kemm fuq il-kandidat kif ukoll fuq l-organizzazzjoni.
Kwalunkwe preġudizzju misjub f'ambjent ta' skjerament fejn l-azzjonijiet jistgħu jiġu skrutinizzati jista' jwassal għal problemi kbar. Il-mudell jista' ma jaħdimx u, fl-agħar xenarji, jista' saħansitra jirriżulta li jkun diskriminatorju apposta.
Il-preġudizzju għandu jiġi evalwat bir-reqqa u ppreparat għalih peress li jista' jirriżulta li l-mudell jitneħħa kompletament mill-iskjerament. Il-kisba tal-kunfidenza fid-deċiżjonijiet tal-mudell jeħtieġ li wieħed jifhem u jindirizza l-preġudizzju tat-tagħlim tal-magni.
Il-livell ta' fiduċja ġewwa l-organizzazzjoni u fost il-konsumaturi tas-servizzi esterni jista' jiġi affettwat minn preġudizzju perċepit fit-teħid ta' deċiżjonijiet tal-mudell. Jekk il-mudelli mhumiex fdati, speċjalment meta jiggwidaw għażliet ta 'riskju għoli, ma jintużawx għall-potenzjal sħiħ tagħhom ġewwa organizzazzjoni.
Meta tiġi evalwata l-ispjegabbiltà ta' mudell, il-kontabilità għall-preġudizzju għandha tkun fattur li għandu jitqies. Il-validità u l-eżattezza tal-għażliet tal-mudell jistgħu jiġu affettwati serjament minn preġudizzju tat-tagħlim tal-magni mhux ikkontrollat.
Xi kultant jista' jirriżulta f'azzjonijiet diskriminatorji li jistgħu jaffettwaw nies jew gruppi partikolari. Jeżistu bosta applikazzjonijiet għal diversi tipi ta 'mudelli ta' tagħlim tal-magni, u kull wieħed huwa suxxettibbli għal preġudizzju tat-tagħlim tal-magni sa ċertu punt.
Il-preġudizzju tat-tagħlim bil-magni huwa muri minn:
- Minħabba n-nuqqas ta 'varjetà fid-dejta tat-taħriġ, algoritmi ta' rikonoxximent tal-wiċċ jistgħu jkunu inqas preċiżi għal xi gruppi razzjali.
- Il-programm jista' jiskopri preġudizzju razzjali u sesswali fid-dejta minħabba preġudizzju uman jew storiku.
- B'ċertu djalett jew aċċent, l-ipproċessar tal-lingwa naturali jista 'jkun aktar preċiż, u jista' ma jkunx kapaċi jipproċessa aċċent li huwa sottorappreżentat fid-dejta tat-taħriġ.
Solving Bias fit-Tagħlim Magni
Mudelli ta’ monitoraġġ u taħriġ mill-ġdid meta jinstab preġudizzju huma żewġ modi kif tiġi indirizzata l-preġudizzju tat-tagħlim tal-magni. Fil-biċċa l-kbira tal-każijiet, il-preġudizzju tal-mudell huwa indikazzjoni ta 'preġudizzju fid-dejta tat-taħriġ, jew tal-inqas il-preġudizzju jista' jkun relatat mal-istadju tat-taħriġ taċ-ċiklu tal-ħajja tat-tagħlim tal-magni.
Kull stadju taċ-ċiklu tal-ħajja tal-mudell għandu jkollu proċeduri fis-seħħ biex jaqbad il-preġudizzju jew id-drift tal-mudell. Huma inklużi wkoll proċessi għall-monitoraġġ tat-tagħlim tal-magni wara l-iskjerament. Huwa importanti li ta' spiss tiċċekkja l-mudell u s-settijiet tad-dejta għal preġudizzju.
Dan jista' jinvolvi l-eżaminazzjoni ta' dataset ta' taħriġ biex tara kif il-gruppi huma mqassma u rappreżentati hemmhekk. Huwa possibbli li jiġu mmodifikati u/jew imtejba settijiet tad-dejta li mhumiex rappreżentattivi għal kollox.
Barra minn hekk, il-preġudizzju għandu jiġi kkunsidrat waqt li tiġi vvalutata l-prestazzjoni tal-mudell. L-ittestjar tal-prestazzjoni tal-mudell fuq sottogruppi differenti tad-dejta jista 'juri jekk huwiex preġudikat jew imwaħħal iżżejjed fir-rigward ta' ċertu grupp.
Huwa possibbli li tiġi evalwata l-prestazzjoni tal-mudell tat-tagħlim tal-magni fuq ċerti sottosettijiet tad-dejta billi tuża tekniki ta’ validazzjoni inkroċjata. Il-proċedura tinvolvi d-diviżjoni tad-dejta f'settijiet distinti ta' taħriġ u ttestjar.
Tista' telimina l-preġudizzju fit-tagħlim tal-magni billi:
- Meta meħtieġ, ħarreġ mill-ġdid il-mudell billi tuża settijiet ta 'taħriġ akbar u aktar rappreżentattivi.
- L-istabbiliment ta' proċedura biex toqgħod attenta b'mod proattiv għal riżultati preġudikati u sentenzi mhux tas-soltu.
- L-ippeżar mill-ġdid tal-karatteristiċi u l-aġġustament tal-iperparametri kif meħtieġ jistgħu jgħinu biex jagħtu kont tal-preġudizzju.
- L-inkoraġġiment tar-riżoluzzjoni tal-preġudizzju skopert permezz ta 'ċiklu kontinwu ta' skoperta u ottimizzazzjoni.
konklużjoni
Huwa jitħajjar li wieħed jemmen li ladarba jitħarreġ, mudell ta 'tagħlim bil-magni jiffunzjona b'mod awtonomu. Fil-fatt, l-ambjent operattiv tal-mudell dejjem qed jinbidel, u l-maniġers iridu jħarrġu mill-ġdid mudelli li jużaw settijiet ta 'dejta friski fuq bażi regolari.
It-tagħlim bil-magni bħalissa huwa wieħed mill-aktar kapaċitajiet teknoloġiċi affaxxinanti b'benefiċċji ekonomiċi fid-dinja reali. It-tagħlim bil-magni, meta jkun imqabbel ma’ teknoloġiji ta’ dejta kbira u s-saħħa komputazzjonali immensa disponibbli permezz tal-cloud pubbliku, għandu l-potenzjal li jittrasforma kif l-individwi jinteraġixxu mat-teknoloġija, u forsi industriji sħaħ.
Madankollu, daqskemm it-teknoloġija tat-tagħlim bil-magni hija promettenti, għandha tiġi ppjanata bir-reqqa sabiex jiġu evitati preġudizzji mhux intenzjonati. L-effettività tal-ġudizzji magħmula mill-magni tista 'tiġi affettwata serjament minn preġudizzju, li hija xi ħaġa li l-iżviluppaturi tal-mudelli tat-tagħlim tal-magni għandhom iqisu.
Ħalli Irrispondi