Wrth i fwy o ddiwydiannau ddefnyddio pŵer algorithmau i awtomeiddio gweithrediadau a gwneud dewisiadau, mae dysgu peirianyddol yn dod yn elfen hanfodol o sut mae'r byd cyfoes yn gweithredu.
Mae'r mater o ragfarn mewn dysgu peiriant yn hollbwysig i'w ystyried pan fydd modelau dysgu peiriant yn cael eu hintegreiddio i brosesau gwneud penderfyniadau amrywiol sefydliadau.
Sicrhau bod dewisiadau a gynhyrchir gan algorithmau yn ddiduedd ac yn amddifad o ragfarn ddylai fod y nod i unrhyw sefydliad sy'n defnyddio modelau dysgu peirianyddol. Er mwyn sicrhau y gellir dibynnu ar allbynnau'r model a'u gweld yn deg, mae'n hollbwysig eu cydnabod a mynd i'r afael â hwy dysgu peiriant gogwydd.
Mae'n gysylltiedig â chwestiynau ynghylch egluro'r model, neu ba mor hawdd yw hi i berson ddeall sut y daeth model dysgu peirianyddol i gasgliad. Daw'r tueddiadau a'r patrymau y mae modelau dysgu peirianyddol yn eu mapio a'u dysgu o'r data ei hun yn hytrach na thrwy ddatblygiad dynol uniongyrchol.
Gall rhagfarn mewn dysgu peiriant ddod i'r amlwg am amrywiaeth o resymau os na chaiff ei reoli a'i wirio. Pan ddefnyddir model, mae'n aml yn dod ar draws sefyllfaoedd nad ydynt yn cael eu hadlewyrchu'n fanwl gywir yn y sampl data hyfforddi.
Gallai'r model fod wedi bod yn rhy addas ar gyfer y set ddata hyfforddi anghynrychioliadol hon. Er gwaethaf ansawdd rhagorol y data hyfforddi, gall y model gael ei effeithio o hyd gan duedd hanesyddol sy'n deillio o ddylanwadau diwylliannol ehangach.
Unwaith y caiff ei roi ar waith, gallai model rhagfarnllyd ffafrio rhai grwpiau neu golli cywirdeb gydag is-setiau data penodol. Gallai hyn arwain at ddyfarniadau sy’n cosbi grŵp penodol o unigolion yn annheg, a allai gael effeithiau negyddol ar y byd go iawn.
Mae'r erthygl hon yn trafod gogwydd dysgu peirianyddol, gan gynnwys beth ydyw, sut i'w adnabod, y peryglon y mae'n eu hachosi, a llawer mwy.
Felly, Beth yw Bias Dysgu Peiriant?
Gelwir algorithm sy'n cynhyrchu allbynnau sydd â thuedd systematig o ganlyniad i ragdybiaethau ffug a wnaed yn ystod y broses ddysgu peiriant yn ragfarn dysgu peiriant, a elwir hefyd yn rhagfarn algorithm neu a elwir yn rhagfarn AI.
Tuedd dysgu peirianyddol yw tuedd model i ffafrio set benodol o ddata neu is-set o ddata; caiff ei gyflwyno'n aml gan setiau data hyfforddi nad ydynt yn cynrychioli. Gyda chasgliad penodol o ddata, bydd model rhagfarnllyd yn tanberfformio, a fydd yn niweidio ei gywirdeb.
Mewn lleoliad go iawn, gall hyn awgrymu bod data hyfforddi rhagfarnllyd wedi arwain at allbwn model yn ffafrio hil, demograffig neu ryw penodol.
O ganlyniad, gallai allbynnau dysgu peirianyddol fod yn anghyfiawn neu'n gwahaniaethu. Hyfforddiant nad yw'n gynrychioliadol gall setiau data gyfrannu at ragfarn mewn dysgu peirianyddol.
Gall y model canlyniadol fod yn gogwyddo tuag at gategorïau eraill heb gynrychiolaeth ddigonol os yw'r data hyfforddi yn ddiffygiol neu'n rhy gynrychioliadol o grŵp data penodol. Gall hyn ddigwydd os nad yw'r sampl data hyfforddi yn cyfateb yn union i amgylchedd lleoli'r byd go iawn.
Mae dysgu peiriannau yn y diwydiant gofal iechyd, y gellir ei ddefnyddio i wirio data cleifion yn erbyn afiechydon neu salwch hysbys, yn enghraifft wych. Gall modelau gyflymu ymyriadau ymarferwyr meddygol pan gânt eu defnyddio'n briodol.
Fodd bynnag, mae rhagfarn yn bosibl. Pan ofynnir iddo ragfynegi salwch posibl mewn claf hŷn, ni all model berfformio'n dda os yw'r data hyfforddi a ddefnyddiwyd i'w adeiladu yn bennaf yn cynnwys data cleifion o ystod oedran lai.
Yn ogystal, gall yr ystadegau hanesyddol fod yn gwyro. Er enghraifft, oherwydd yn hanesyddol, roedd mwyafrif y gweithwyr yn ddynion, byddai model wedi'i hyfforddi i hidlo ymgeiswyr am swyddi yn ffafrio ymgeiswyr gwrywaidd.
Bydd gogwydd dysgu peirianyddol yn dylanwadu ar gywirdeb y model yn y ddau senario, ac yn yr amgylchiadau gwaethaf, gallai hyd yn oed arwain at gasgliadau gwahaniaethol ac anghyfiawn.
Rhaid adolygu penderfyniadau yn ofalus i sicrhau nad oes unrhyw ragfarn fel modelau dysgu peiriannau disodli mwy a mwy o weithrediadau llaw. O ganlyniad, dylai arferion llywodraethu enghreifftiol mewn unrhyw sefydliad gynnwys monitro ar gyfer tuedd dysgu peirianyddol.
Mae llawer o wahanol fathau o swyddi mewn llawer o wahanol ddiwydiannau yn cael eu cwblhau gan fodelau dysgu peiriannau. Heddiw, defnyddir modelau i awtomeiddio prosesau cynyddol anodd ac i gynhyrchu awgrymiadau. Yn y broses hon o wneud penderfyniadau, mae tuedd yn golygu y gallai model ffafrio un grŵp penodol dros grŵp arall yn seiliedig ar ogwydd a ddysgwyd.
Pan gaiff ei ddefnyddio i wneud dyfarniadau anniogel gyda chanlyniadau gwirioneddol, gall hyn gael ôl-effeithiau difrifol. Pan gaiff ei ddefnyddio i gymeradwyo ceisiadau am fenthyciad yn awtomatig, er enghraifft, gall model rhagfarnllyd ragfarnu poblogaeth benodol. Mewn busnesau a reoleiddir lle gellir archwilio neu graffu ar unrhyw gamau gweithredu, mae hwn yn ffactor arbennig o hanfodol i’w ystyried.
Mathau o Tuedd Dysgu Peiriannau
- Bias Algorithm – Mae hyn yn digwydd pan fo nam yn yr algorithm sy'n gwneud y cyfrifiadau sy'n gyrru cyfrifiannau dysgu peiriannau.
- Bias Sampl – Pan oedd y data yn arfer hyfforddi'r dysgu peiriant model Mae problem, mae hyn yn digwydd. Mewn achosion o'r math hwn o ragfarn, mae maint neu ansawdd y data a ddefnyddir i hyfforddi'r system yn annigonol. Bydd yr algorithm yn cael ei hyfforddi i gredu bod pob athro yn fenyw, er enghraifft, os yw data hyfforddiant yn cynnwys athrawon benywaidd yn gyfan gwbl.
- Tuedd gwaharddiad – Mae hyn yn digwydd pan fo pwynt data hanfodol yn absennol o’r set o ddata a ddefnyddir, a allai ddigwydd os bydd y modelwyr yn methu â sylweddoli arwyddocâd y pwynt data coll.
- Tuedd rhagfarn – Yn yr achos hwn, mae’r dysgu peirianyddol ei hun yn rhagfarnllyd gan fod y data a ddefnyddir i hyfforddi’r system yn adlewyrchu rhagfarnau’r byd go iawn megis rhagfarn, stereoteipiau, a thybiaethau cymdeithasol anghywir. Er enghraifft, pe bai data ar weithwyr meddygol proffesiynol yn cael eu cynnwys yn y system gyfrifiadurol a oedd yn cynnwys meddygon gwrywaidd a nyrsys benywaidd yn unig, byddai stereoteip rhywedd byd go iawn am weithwyr gofal iechyd yn cael ei barhau.
- Tuedd Mesur – Fel y mae’r enw’n awgrymu, mae’r duedd hon yn deillio o faterion sylfaenol yn ymwneud ag ansawdd y data a’r dulliau a ddefnyddiwyd i’w gasglu neu ei werthuso. Bydd system sy’n cael ei hyfforddi i asesu pwysau’n fanwl gywir yn rhagfarnllyd pe bai’r pwysau sydd wedi’u cynnwys yn y data hyfforddi wedi’u talgrynnu’n gyson, a gall defnyddio delweddau o weithwyr bodlon i hyfforddi system sydd i fod i asesu amgylchedd gweithle fod yn rhagfarnllyd pe bai’r gweithwyr yn y lluniau yn gwybod eu bod yn cael eu mesur ar gyfer hapusrwydd.
Pa ffactorau sy'n cyfrannu at ragfarn mewn dysgu peiriannau?
Er bod llawer o resymau dros ragfarn dysgu peiriannau, mae'n aml yn deillio o ragfarn yn y data hyfforddi ei hun. Mae sawl achos sylfaenol posibl dros ragfarnau mewn data hyfforddi.
Yr enghraifft fwyaf amlwg yw data hyfforddi, sef is-set o amodau a welir mewn system a ddefnyddir nad yw'n nodweddiadol. Gallai hyn fod yn ddata hyfforddi gyda thangynrychiolaeth o un categori neu swm anghymesur o un arall.
Gelwir hyn yn ogwydd sampl, a gall ddeillio o gasglu data hyfforddiant heb ei wneud ar hap. Gall y dulliau a ddefnyddir i gasglu, dadansoddi, neu ddosbarthu'r data, yn ogystal â gwreiddiau hanesyddol y data, oll arwain at ragfarn yn y data ei hun.
Gall y wybodaeth hyd yn oed fod â thuedd hanesyddol yn y diwylliant mwy lle cafodd ei chasglu.
Achosir tuedd dysgu peiriant yn bennaf gan:
- Defnyddir rhagfarnau a achosir gan fodau dynol neu gymdeithas yn y data hanesyddol i hyfforddi algorithmau.
- Data hyfforddi nad yw'n adlewyrchu amgylchiadau'r byd go iawn.
- Tuedd wrth labelu neu baratoi data ar gyfer dysgu peiriannau dan oruchwyliaeth.
Er enghraifft, gallai diffyg amrywiaeth mewn data hyfforddi achosi rhagfarn cynrychiolaeth. Mae cywirdeb modelau dysgu peirianyddol yn cael ei effeithio'n aml gan duedd hanesyddol yn y diwylliant ehangach.
Cyfeirir at hyn weithiau fel rhagfarn gymdeithasol neu ddynol. Gall fod yn heriol dod o hyd i gasgliadau helaeth o ddata nad ydynt yn dueddol o ddioddef o ragfarn gymdeithasol. Mae cam prosesu data cylch bywyd dysgu peiriannau yr un mor agored i ragfarn ddynol.
Mae data sydd wedi'i labelu a'i brosesu gan wyddonydd data neu arbenigwr arall yn angenrheidiol ar gyfer dysgu peirianyddol dan oruchwyliaeth. P'un a yw'n deillio o'r amrywiaeth o ddata sy'n cael ei lanhau, y modd y caiff pwyntiau data eu labelu, neu'r dewis o nodweddion, gall rhagfarn yn y broses labelu hon arwain at ragfarn mewn dysgu peiriannau.
Risgiau Tuedd Dysgu Peiriannau
Gan fod modelau yn arfau gwneud penderfyniadau sy'n cael eu gyrru gan ddata, rhagdybir eu bod yn rhoi barn ddiduedd. Mae modelau dysgu peiriant yn aml yn cynnwys tuedd, a all effeithio ar ganlyniadau.
Mae mwy a mwy o ddiwydiannau yn gweithredu dysgu peiriannau yn lle meddalwedd a gweithdrefnau sydd wedi dyddio. Gall modelau rhagfarnllyd gael effeithiau negyddol yn y byd go iawn pan fydd swyddi mwy cymhleth yn cael eu hawtomeiddio gan ddefnyddio modelau.
Nid yw dysgu peirianyddol yn wahanol i brosesau gwneud penderfyniadau eraill gan fod sefydliadau ac unigolion yn disgwyl iddo fod yn dryloyw ac yn deg. Gan fod dysgu peirianyddol yn broses awtomataidd, o bryd i'w gilydd archwilir dyfarniadau a wneir yn ei ddefnyddio'n agosach fyth.
Mae'n hanfodol bod sefydliadau'n rhagweithiol wrth fynd i'r afael â'r peryglon gan y gall rhagfarn mewn dysgu peirianyddol yn aml gael effeithiau gwahaniaethol neu negyddol ar rai poblogaethau. Ar gyfer cyd-destunau rheoledig, yn arbennig, rhaid ystyried y posibilrwydd o ragfarn mewn dysgu peirianyddol.
Er enghraifft, gellid defnyddio dysgu peirianyddol mewn bancio i dderbyn neu wrthod ymgeiswyr morgais yn awtomatig ar ôl sgrinio cychwynnol. Gallai model sy'n gogwyddo at grŵp penodol o ymgeiswyr gael effeithiau andwyol ar yr ymgeisydd a'r sefydliad.
Gallai unrhyw ragfarn a geir mewn amgylchedd lleoli lle y gellir craffu ar gamau gweithredu arwain at broblemau mawr. Efallai na fydd y model yn gweithio ac, yn y senarios gwaethaf, gallai hyd yn oed droi allan i fod yn wahaniaethol yn fwriadol.
Rhaid gwerthuso rhagfarn yn ofalus a pharatoi ar ei chyfer oherwydd gallai arwain at ddileu'r model yn gyfan gwbl o'r defnydd. Mae magu hyder mewn penderfyniadau model yn gofyn am ddeall a mynd i'r afael â thuedd dysgu peirianyddol.
Gallai tuedd ganfyddedig wrth wneud penderfyniadau enghreifftiol effeithio ar lefel yr ymddiriedaeth o fewn y sefydliad ac ymhlith defnyddwyr gwasanaethau allanol. Os na ymddiriedir mewn modelau, yn enwedig wrth arwain dewisiadau risg uchel, ni fyddant yn cael eu defnyddio i'w llawn botensial o fewn sefydliad.
Wrth werthuso eglurdeb model, dylai rhoi cyfrif am ragfarn fod yn ffactor i'w ystyried. Gall rhagfarn dysgu peiriannau heb ei wirio effeithio'n ddifrifol ar ddilysrwydd a chywirdeb dewisiadau model.
Weithiau gall arwain at gamau gwahaniaethol a allai effeithio ar bobl neu grwpiau penodol. Mae nifer o gymwysiadau yn bodoli ar gyfer gwahanol fathau o fodel dysgu peiriant, ac mae pob un yn agored i ragfarn dysgu peiriannau i ryw raddau.
Mae tuedd dysgu peiriant yn cael ei ddangos gan:
- Oherwydd absenoldeb amrywiaeth yn y data hyfforddi, gall algorithmau adnabod wynebau fod yn llai cywir ar gyfer rhai grwpiau hiliol.
- Gallai'r rhaglen ganfod rhagfarn hiliol a rhywedd mewn data oherwydd rhagfarn ddynol neu hanesyddol.
- Gyda thafodiaith neu acen benodol, gallai prosesu iaith naturiol fod yn fwy cywir, ac efallai na fydd yn gallu prosesu acen sy'n cael ei thangynrychioli mewn data hyfforddi.
Datrys Tuedd mewn Dysgu Peiriant
Mae monitro ac ailhyfforddi modelau pan ganfyddir rhagfarn yn ddwy ffordd o fynd i'r afael â thuedd dysgu peiriannau. Yn y rhan fwyaf o achosion, mae gogwydd model yn arwydd o duedd yn y data hyfforddi, neu o leiaf gall y rhagfarn fod yn gysylltiedig â cham hyfforddi cylch bywyd dysgu peiriant.
Dylai fod gan bob cam o gylchred oes y model weithdrefnau ar waith i ddal tuedd neu ddrifft model. Mae prosesau ar gyfer monitro dysgu peiriannau ar ôl eu defnyddio hefyd wedi'u cynnwys. Mae'n bwysig gwirio'r model a'r setiau data yn aml am ragfarn.
Gallai hyn olygu archwilio set ddata hyfforddi i weld sut mae grwpiau'n cael eu dosbarthu a'u cynrychioli yno. Mae'n bosibl addasu a/neu wella setiau data nad ydynt yn gwbl gynrychioliadol.
Yn ogystal, dylid ystyried tuedd wrth asesu perfformiad y model. Gall profi perfformiad y model ar wahanol is-setiau o'r data ddangos a yw'n rhagfarnllyd neu wedi'i orffitio mewn perthynas â grŵp penodol.
Mae'n bosibl gwerthuso perfformiad model dysgu peirianyddol ar rai is-setiau data trwy ddefnyddio technegau traws-ddilysu. Mae'r weithdrefn yn cynnwys rhannu'r data yn setiau data hyfforddi a phrofi penodol.
Gallwch ddileu rhagfarn mewn dysgu peiriant trwy:
- Pan fo angen, ailhyfforddi'r model gan ddefnyddio setiau hyfforddi mwy, mwy cynrychioliadol.
- Sefydlu gweithdrefn i edrych yn rhagweithiol am ganlyniadau rhagfarnllyd a dyfarniadau anarferol.
- Gall ailbwysoli nodweddion ac addasu hyperparamedrau yn ôl yr angen helpu i roi cyfrif am ragfarn.
- Annog datrys gogwydd a ddarganfuwyd trwy gylch parhaus o ganfod ac optimeiddio.
Casgliad
Mae'n demtasiwn credu y byddai model dysgu peiriant yn gweithredu'n annibynnol ar ôl ei hyfforddi. Mewn gwirionedd, mae amgylchedd gweithredol y model bob amser yn newid, a rhaid i reolwyr ailhyfforddi modelau gan ddefnyddio setiau data ffres yn rheolaidd.
Ar hyn o bryd mae dysgu peiriannau yn un o'r galluoedd technolegol mwyaf cyfareddol gyda buddion economaidd yn y byd go iawn. Mae gan ddysgu peirianyddol, o'i baru â thechnolegau data mawr a'r pŵer cyfrifiannol aruthrol sydd ar gael trwy'r cwmwl cyhoeddus, y potensial i drawsnewid sut mae unigolion yn rhyngweithio â thechnoleg, ac efallai diwydiannau cyfan.
Fodd bynnag, er mor addawol â thechnoleg dysgu peiriant, rhaid ei gynllunio'n ofalus er mwyn osgoi rhagfarnau anfwriadol. Gall effeithiolrwydd y dyfarniadau a wneir gan y peiriannau gael ei effeithio'n ddifrifol gan ragfarn, sy'n rhywbeth y mae'n rhaid i ddatblygwyr modelau dysgu peiriannau ei ystyried.
Gadael ymateb