Илүү олон салбарууд үйлдлүүдийг автоматжуулах, сонголт хийхэд алгоритмын хүчийг ашигладаг тул машин суралцах нь орчин үеийн ертөнц хэрхэн ажиллаж байгаагийн чухал бүрэлдэхүүн хэсэг болж байна.
Машин сургалтын загваруудыг янз бүрийн байгууллагын шийдвэр гаргах үйл явцад нэгтгэх үед машин сургалтын хэвшмэл байдлын асуудлыг анхаарч үзэх нь маш чухал юм.
Алгоритмуудын үүсгэсэн сонголтууд нь аль нэг талыг баримтлахгүй, өрөөсгөл байх нь машин сургалтын загварыг ашигладаг аливаа байгууллагын зорилго байх ёстой. Загварын үр дүнд найдаж, шударга гэж үзэхийн тулд үүнийг хүлээн зөвшөөрч, шийдвэрлэх нь чухал юм машин суралцах хэвийсэн.
Энэ нь загварын тайлбартай холбоотой асуултууд эсвэл машин сургалтын загвар хэрхэн дүгнэлтэнд хүрсэнийг хүн ойлгоход хэр хялбар байдагтай холбоотой юм. Машин сургалтын загваруудын зураглаж, сурдаг чиг хандлага, хэв маяг нь хүний шууд хөгжлөөр бус өгөгдлөөс өөрөөс нь гардаг.
Машины сургалтын гажуудал нь хяналтгүй, шалгагдаагүй тохиолдолд янз бүрийн шалтгааны улмаас үүсч болно. Загварыг ашиглах үед сургалтын өгөгдлийн түүвэрт нарийн тусгагдаагүй нөхцөл байдалтай байнга тулгардаг.
Загвар нь энэхүү төлөөлөлгүй сургалтын багц өгөгдөлд хэт тохирсон байж болох юм. Сургалтын өгөгдлийн чанар маш сайн байгаа хэдий ч загвар нь соёлын өргөн хүрээний нөлөөллөөс үүдэлтэй түүхэн хэвшмэл ойлголтод өртсөн хэвээр байж магадгүй юм.
Хэрэгжүүлсний дараа өрөөсгөл загвар нь тодорхой бүлгүүдэд таалагдах эсвэл тодорхой өгөгдлийн дэд багцын нарийвчлалыг алдаж болно. Энэ нь тодорхой бүлэг хүмүүсийг шударга бусаар шийтгэж, бодит ертөнцөд сөрөг нөлөө үзүүлж болзошгүй шүүлтэд хүргэж болзошгүй юм.
Энэ нийтлэлд энэ нь юу болох, түүнийг хэрхэн таних, ямар аюул учруулах, бусад олон зүйлийг багтаасан машин сургалтын гажуудлыг авч үзэх болно.
Тэгэхээр, Machine Learning хэвийх зүйл гэж юу вэ?
Машин сургалтын явцад гаргасан худал таамаглалын үр дүнд системчилсэн байдлаар хэвийсэн гаралтыг гаргах алгоритмыг машин сургалтын хазайлт, алгоритмын хазайлт гэж нэрлэдэг эсвэл AI хазайлт гэж нэрлэдэг.
Машины сургалтын хэвийх байдал нь тодорхой багц өгөгдөл эсвэл өгөгдлийн дэд багцыг илүүд үзэх загвар хандлага юм; Энэ нь ихэвчлэн төлөөллийн бус сургалтын өгөгдлийн багцаас ирдэг. Тодорхой мэдээллийн цуглуулгатай бол өрөөсгөл загвар нь дутуу ажиллах бөгөөд энэ нь түүний нарийвчлалд сөргөөр нөлөөлнө.
Бодит нөхцөлд энэ нь хэт нэг талыг барьсан сургалтын өгөгдөл нь тодорхой арьсны өнгө, хүн ам зүй, хүйсийг илүүд үздэг загвар гаргахад хүргэсэн гэсэн үг юм.
Үүний үр дүнд машин сургалтын үр дүн нь шударга бус эсвэл ялгаварлан гадуурхсан байж болно. Төлөөлөгчийн бус сургалт өгөгдлийн багц нь хэвийх байдалд хувь нэмэр оруулах боломжтой машин сургалтанд.
Сургалтын өгөгдөл дутагдалтай эсвэл тодорхой өгөгдлийн бүлэглэлийг хэт төлөөлсөн тохиолдолд үр дүнгийн загвар нь бусад, дутуу илэрхийлэгдсэн категориуд руу хазайж болно. Сургалтын өгөгдлийн дээж нь бодит ашиглах орчинтой яг таарахгүй байвал энэ нь тохиолдож болно.
Өвчтөний мэдээллийг мэдэгдэж буй өвчин, өвчний эсрэг шалгахад ашиглаж болох эрүүл мэндийн салбарын машин сургалт нь үүний тод жишээ юм. Загваруудыг зохих ёсоор ашиглах үед эмч нарын оролцоог хурдасгах боломжтой.
Гэсэн хэдий ч өрөөсгөл ойлголт байж болно. Өндөр настай өвчтөнд тохиолдож болох өвчлөлийг урьдчилан таамаглахыг хүсэхэд, хэрэв загвар зохион бүтээхэд ашигласан сургалтын өгөгдөл нь ихэвчлэн бага насны өвчтөний мэдээллээс бүрддэг бол загвар нь сайн ажиллаж чадахгүй.
Үүнээс гадна түүхэн статистикийг гажуудуулж болно. Жишээлбэл, түүхэнд ажилчдын дийлэнх нь эрэгтэй байсан тул ажил горилогчдыг шүүхээр бэлтгэгдсэн загвар өмсөгч эрэгтэй өргөдөл гаргагчдыг илүүд үздэг.
Машины сургалтын хэвийх байдал нь хоёр хувилбарт загварын үнэн зөв байдалд нөлөөлөх бөгөөд хамгийн муу нөхцөлд ялгаварлан гадуурхсан, шударга бус дүгнэлтэд хүргэж болзошгүй юм.
Аль нэг талыг баримтлахгүйн тулд шийдвэрийг сайтар нягталж үзэх хэрэгтэй машин сургалтын загварууд улам олон гар ажиллагаатай солих. Үүний үр дүнд аливаа байгууллагын загвар засаглалын практикт машин сургалтын хэвшмэл байдлыг хянах хяналт багтах ёстой.
Маш олон салбар дахь олон төрлийн ажлын байрыг машин сургалтын загвараар гүйцэтгүүлж байна. Өнөөдөр загваруудыг улам бүр төвөгтэй процессуудыг автоматжуулах, санал болгоход ашигладаг. Энэхүү шийдвэр гаргах үйл явцад хэвийсэн хандлага гэдэг нь тухайн загвар нь сурсан хэвийсэн хандлагад тулгуурлан нэг тодорхой бүлгийг нөгөө бүлгээс илүүд үзэж болно гэсэн үг юм.
Бодит үр дагавартай, аюултай дүгнэлт хийхэд ашиглах үед энэ нь ноцтой үр дагаварт хүргэж болзошгүй юм. Зээлийн өргөдлийг автоматаар батлахад ашиглах үед, жишээлбэл, өрөөсгөл загвар нь тодорхой хүн амыг хохироож болно. Аливаа үйлдлийг шалгах эсвэл шалгах боломжтой зохицуулалттай бизнесүүдэд энэ нь онцгой анхаарах ёстой чухал хүчин зүйл юм.
Машин сургалтын хэвийх хэлбэрүүд
- Алгоритмын хазайлт – Машины сургалтын тооцоололд хөтлөх тооцооллыг хийдэг алгоритмд алдаа гарсан тохиолдолд энэ нь тохиолддог.
- Жишээ хазайлт – Өгөгдөл ашигласан үед машин сургалтыг сургах загварт асуудал гарсан тул ийм зүйл тохиолддог. Ийм хэвийсэн тохиолдолд системийг сургахад ашигласан мэдээллийн хэмжээ, чанар хангалтгүй байдаг. Жишээлбэл, сургалтын өгөгдөл нь бүхэлдээ эмэгтэй багш нараас бүрдсэн тохиолдолд бүх багш нар эмэгтэй байна гэдэгт итгэхийн тулд алгоритмыг сургана.
- Хасагдах хэвийх байдал – Ашиглаж буй өгөгдлийн багцад чухал өгөгдлийн цэг байхгүй үед энэ нь тохиолддог бөгөөд энэ нь загвар зохион бүтээгчид дутуу өгөгдлийн цэгийн ач холбогдлыг ойлгохгүй байх үед тохиолдож болно.
- Өртөг үзэл – Энэ тохиолдолд системийг сургахад ашигласан өгөгдөл нь өрөөсгөл ойлголт, хэвшмэл ойлголт, нийгмийн буруу таамаглал зэрэг бодит ертөнцийн хэвшмэл ойлголтыг тусгадаг тул машин сургалт нь өөрөө өрөөсгөл юм. Жишээлбэл, хэрэв эмнэлгийн мэргэжилтнүүдийн мэдээллийг зөвхөн эрэгтэй эмч, эмэгтэй сувилагчдыг багтаасан компьютерийн системд оруулбал эрүүл мэндийн ажилтнуудын талаарх бодит жендэрийн хэвшмэл ойлголт мөнхөрнө.
- Хэмжилтийн хазайлт – Нэрнээс нь харахад энэхүү өрөөсгөл байдал нь мэдээллийн чанар, түүнийг цуглуулах, үнэлэх аргуудтай холбоотой үндсэн асуудлуудаас үүдэлтэй. Сургалтын мэдээлэлд агуулагдах жинг тогтмол бөөрөнхийлсөн тохиолдолд жинг нарийн үнэлэхэд сургагдаж буй систем нь өрөөсгөл байх болно, хэрэв зураг дээрх ажилтнууд мэдэж байсан бол ажлын байрны орчныг үнэлэх системийг сургахад сэтгэл хангалуун ажилчдын зургийг ашиглах нь өрөөсгөл болно. тэднийг аз жаргалаар хэмждэг байсан.
Ямар хүчин зүйл нь машин сурахад буруугаар нөлөөлдөг вэ?
Хэдийгээр машин сургалтын хэвийх олон шалтгаан байдаг ч энэ нь ихэвчлэн сургалтын өгөгдлийн буруугаас үүсдэг. Сургалтын өгөгдлийн гажуудал үүсэх хэд хэдэн боломжит шалтгаанууд байдаг.
Хамгийн тод жишээ бол сургалтын өгөгдөл бөгөөд энэ нь суулгасан системд ажиглагдсан ердийн бус нөхцөл байдлын дэд хэсэг юм. Энэ нь нэг ангиллын дутуу төлөөлөлтэй эсвэл нөгөө ангиллын пропорциональ бус тоо хэмжээ бүхий сургалтын өгөгдөл байж болно.
Үүнийг түүврийн хазайлт гэж нэрлэдэг бөгөөд энэ нь санамсаргүй бус сургалтын мэдээлэл цуглуулсны үр дүнд үүсдэг. Мэдээллийг цуглуулах, задлан шинжлэх, ангилахад ашигладаг аргууд, мөн өгөгдлийн түүхэн үндэс нь бүгд өгөгдөлд буруу ойлголт өгөхөд хүргэдэг.
Мэдээлэл нь цуглуулсан томоохон соёлын хувьд түүхийн хувьд өрөөсгөл байж магадгүй юм.
Машин сургалтын хэвийх байдал нь ихэвчлэн дараахаас үүдэлтэй:
- Түүхэн өгөгдөлд хүн эсвэл нийгэмээс үүссэн гажуудлыг алгоритмуудыг сургахад ашигладаг.
- Бодит нөхцөл байдлыг тусгаагүй сургалтын өгөгдөл.
- Хяналттай машин сургалтанд зориулж өгөгдлийг шошголох эсвэл бэлтгэх явцад гажуудал.
Жишээлбэл, сургалтын мэдээллийн олон янз байдал дутмаг байгаа нь төлөөллийн гажуудлыг үүсгэж болзошгүй. Машин сургалтын загваруудын нарийвчлалд өргөн хүрээний соёлын түүхэн хэвшмэл байдал ихэвчлэн нөлөөлдөг.
Үүнийг заримдаа нийгмийн эсвэл хүний хэв маяг гэж нэрлэдэг. Нийгэмд үл нийцэх асар их мэдээллийн цуглуулгыг олох нь хэцүү байж болно. Машины сургалтын амьдралын мөчлөгийн өгөгдөл боловсруулах үе шат нь хүний буруу хандлагад адилхан өртөмтгий байдаг.
Мэдээлэл судлаач эсвэл бусад шинжээчийн шошголож, боловсруулсан өгөгдөл нь хяналттай машин сургалтанд зайлшгүй шаардлагатай. Энэ нь олон төрлийн өгөгдлийн цэвэрлэгээ, өгөгдлийн цэгүүдийг шошголох арга, эсвэл онцлог шинж чанаруудын сонголтоос шалтгаалж байгаа эсэхээс үл хамааран энэхүү шошголох үйл явцын хэвийх байдал нь машин сурахад буруу ойлголт өгөхөд хүргэдэг.
Машины сургалтын хэвийх эрсдэл
Загварууд нь өгөгдөлд тулгуурласан шийдвэр гаргах хэрэгсэл байдаг тул тэдгээр нь шударга дүгнэлт өгдөг гэж үздэг. Машин сургалтын загварууд нь ихэвчлэн гажуудлыг агуулдаг бөгөөд энэ нь үр дүнд нөлөөлдөг.
Илүү олон салбарууд хуучирсан программ хангамж, процедурын оронд машин сургалтыг хэрэгжүүлж байна. Загвар ашиглан илүү төвөгтэй ажлуудыг автоматжуулах үед өрөөсгөл загвар нь бодит ертөнцөд сөрөг нөлөө үзүүлдэг.
Машины сургалт нь бусад шийдвэр гаргах үйл явцаас ялгарах зүйлгүй бөгөөд байгууллага болон хувь хүмүүс үүнийг ил тод, шударга байхыг хүсдэг. Машины сургалт нь автоматжуулсан үйл явц учраас үүнийг ашиглан хийсэн дүгнэлтийг хааяа бүр илүү нарийвчлан шалгадаг.
Машины сургалтын хэвшмэл байдал нь зарим хүн амд ялгаварлан гадуурхах эсвэл сөрөг нөлөө үзүүлдэг тул байгууллагууд аюулыг шийдвэрлэхэд идэвхтэй байх нь маш чухал юм. Зохицуулалттай нөхцөл байдлын хувьд, тухайлбал, машин сурахад хэвийх боломжийг харгалзан үзэх ёстой.
Жишээлбэл, банкинд машин суралцах нь анхан шатны шалгалтын дараа ипотекийн зээлдэгчийг автоматаар хүлээн авах эсвэл татгалзахад ашиглаж болно. Нэр дэвшигчдийн тодорхой бүлэгт хэт нэг талыг барьсан загвар нь нэр дэвшигч болон байгууллагын аль алинд нь сөрөг нөлөө үзүүлж магадгүй юм.
Үйлдлүүдийг сайтар шалгаж үзэх боломжтой байршуулах орчинд илэрсэн аливаа буруу хандлага нь томоохон асуудал үүсгэж болзошгүй. Энэ загвар нь ажиллахгүй байж магадгүй бөгөөд хамгийн муу тохиолдолд зориудаар ялгаварлан гадуурхах шинжтэй байж магадгүй юм.
Загварын хэрэглээг бүрэн устгахад хүргэж болзошгүй тул хэвийх байдлыг сайтар үнэлж, бэлтгэх ёстой. Загварын шийдвэрт итгэх итгэлийг олж авахын тулд машин сургалтын гажуудлыг ойлгож, шийдвэрлэх шаардлагатай.
Байгууллага доторх болон гадны үйлчилгээний хэрэглэгчдийн итгэлцлийн түвшинд загвар шийдвэр гаргахад өрөөсгөл ойлголт нөлөөлж болзошгүй. Хэрэв загвар өмсөгчдөд итгэлгүй бол, ялангуяа эрсдэл өндөртэй сонголтуудыг удирдан чиглүүлэхэд тэд байгууллага доторх боломжоо бүрэн ашиглаж чадахгүй.
Загварын тайлбарыг үнэлэхдээ хэвийсэн байдлыг тооцох нь анхаарах ёстой хүчин зүйл байх ёстой. Загварын сонголтын хүчинтэй байдал, үнэн зөв байдал нь машин сурахад хяналтгүй хэвийх хандлага нь ноцтой нөлөөлж болно.
Энэ нь заримдаа тодорхой хүмүүс эсвэл бүлэгт нөлөөлж болох ялгаварлан гадуурхах үйлдлүүдэд хүргэдэг. Төрөл бүрийн машин сургалтын загварт зориулсан олон тооны програмууд байдаг бөгөөд тус бүр нь машин сургалтын хэвийх хандлагад тодорхой хэмжээгээр өртөмтгий байдаг.
Машин сургалтын хэвийх байдлыг дараах байдлаар үзүүлэв.
- Сургалтын мэдээлэлд олон янз байдал байхгүй тул царай таних алгоритм нь арьсны зарим бүлгүүдэд бага нарийвчлалтай байж болно.
- Хөтөлбөр нь хүн төрөлхтний болон түүхийн үзлийн улмаас арьсны өнгө, хүйсийн ялгаварлалыг илрүүлэх боломжтой.
- Тодорхой аялгуу эсвэл аялгатай бол байгалийн хэлний боловсруулалт илүү нарийвчлалтай байж болох бөгөөд сургалтын өгөгдөлд дутуу илэрхийлэгдсэн өргөлтийг боловсруулах боломжгүй байж магадгүй юм.
Машины сургалт дахь хэвийх байдлыг шийдвэрлэх
Нэгэнт хэвийсэн байдал илэрсэн үед загваруудыг хянах, давтан сургах нь машин сургалтын хэвийх байдлыг арилгах хоёр арга юм. Ихэнх тохиолдолд загварын хэвийсэн байдал нь сургалтын өгөгдлийн хэвийх байдлын шинж тэмдэг юм, эсвэл ядаж хэвийсэн байдал нь машин сургалтын амьдралын мөчлөгийн сургалтын үе шаттай холбоотой байж болно.
Загварын амьдралын мөчлөгийн үе шат бүр нь хэвийх эсвэл загварын хазайлтыг барих журамтай байх ёстой. Байршуулсаны дараа машин сургалтыг хянах үйл явцыг мөн оруулсан болно. Загвар болон өгөгдлийн багцыг хэвийсэн эсэхийг байнга шалгаж байх нь чухал.
Үүнд бүлгүүдийг хэрхэн хуваарилж, төлөөлдөгийг харахын тулд сургалтын мэдээллийн багцыг шалгаж болно. Бүрэн төлөөлөх боломжгүй өгөгдлийн багцыг өөрчлөх болон/эсвэл сайжруулах боломжтой.
Нэмж дурдахад, загварын гүйцэтгэлийг үнэлэхдээ хэвийсэн байдлыг анхаарч үзэх хэрэгтэй. Загварын гүйцэтгэлийг өгөгдлийн өөр өөр дэд бүлэгт туршиж үзэх нь тодорхой бүлэгт хэт хазайсан эсвэл хэт тохируулагдсан эсэхийг харуулж чадна.
Хөндлөн баталгаажуулалтын техникийг ашиглан тодорхой өгөгдлийн дэд бүлэгт машин сургалтын загварын гүйцэтгэлийг үнэлэх боломжтой. Уг процедур нь өгөгдлийг тодорхой сургалт, туршилтын мэдээллийн багц болгон хуваах явдал юм.
Та дараах байдлаар машин сургалтын хэвийх байдлыг арилгах боломжтой.
- Шаардлагатай бол илүү том, илүү төлөөлөлтэй сургалтын багц ашиглан загварыг дахин сурга.
- Нэг талыг барьсан үр дүн, ер бусын дүгнэлтийг идэвхтэй хайх журмыг бий болгох.
- Онцлогуудыг дахин жинлэх, шаардлагатай бол гиперпараметрийг тохируулах нь хэвийсэн байдлыг тооцоход тусална.
- Илрүүлсэн гажуудлыг тасралтгүй илрүүлэх, оновчтой болгох замаар шийдвэрлэхэд дэмжлэг үзүүлэх.
Дүгнэлт
Нэгэнт бэлтгэгдсэн машин сургалтын загвар нь бие даасан байдлаар ажиллах болно гэдэгт итгэх нь сонирхолтой юм. Үнэн хэрэгтээ загварын үйл ажиллагааны орчин байнга өөрчлөгдөж байдаг бөгөөд менежерүүд шинэ өгөгдлийн багц ашиглан загваруудыг тогтмол сургах ёстой.
Машины сургалт нь одоогийн байдлаар эдийн засгийн бодит үр өгөөжтэй хамгийн гайхалтай технологийн боломжуудын нэг юм. Машины сургалтыг том өгөгдлийн технологи, нийтийн үүлэнгээр дамжуулан ашиглах асар их тооцооллын хүчин чадалтай хослуулснаар хувь хүмүүс технологи, магадгүй бүхэл бүтэн салбартай хэрхэн харьцаж байгааг өөрчлөх боломжтой.
Гэсэн хэдий ч, машин сургалтын технологи нь ирээдүйтэй боловч санамсаргүй өрөөсгөл байдлаас зайлсхийхийн тулд үүнийг сайтар төлөвлөх ёстой. Машинуудын хийсэн дүгнэлтийн үр нөлөө нь хэвийх хандлагаас ихээхэн нөлөөлдөг бөгөөд энэ нь машин сургалтын загвар хөгжүүлэгчид анхааралдаа авах ёстой зүйл юм.
хариу үлдээх