Daha çox sənaye əməliyyatları avtomatlaşdırmaq və seçim etmək üçün alqoritmlərin gücündən istifadə etdikcə, maşın öyrənməsi müasir dünyanın necə işlədiyinin vacib komponentinə çevrilir.
Maşın öyrənmə modellərinin müxtəlif təşkilatların qərar qəbul etmə proseslərinə inteqrasiyası zamanı maşın öyrənməsində qərəzlilik məsələsini nəzərə almaq çox vacibdir.
Alqoritmlər tərəfindən yaradılan seçimlərin qərəzsiz və qərəzsiz olmasını təmin etmək maşın öyrənmə modellərindən istifadə edən hər bir təşkilatın məqsədi olmalıdır. Model nəticələrinə etibar edilməsini və ədalətli görünməsini təmin etmək üçün onları tanımaq və onlara müraciət etmək çox vacibdir maşın təlim qərəz.
Bu, modelin izah oluna bilməsi və ya bir insanın maşın öyrənmə modelinin nəticəyə necə gəldiyini başa düşməsinin nə qədər asan olması ilə bağlıdır. Maşın öyrənmə modellərinin xəritələşdirdiyi və öyrəndiyi tendensiyalar və nümunələr birbaşa insan inkişafı vasitəsilə deyil, verilənlərin özündən gəlir.
Maşın öyrənməsində qərəzlilik, nəzarət edilmədikdə və yoxlanılmadıqda müxtəlif səbəblərdən yarana bilər. Model tətbiq edildikdə, o, tez-tez təlim məlumatı nümunəsində dəqiq əks olunmayan vəziyyətlərlə qarşılaşır.
Model bu qeyri-təmsil məlumat toplusu üçün çox uyğun ola bilərdi. Təlim məlumatlarının əla keyfiyyətinə baxmayaraq, model hələ də daha geniş mədəni təsirlərdən yaranan tarixi qərəzdən təsirlənə bilər.
Tətbiq edildikdən sonra qərəzli model müəyyən qruplara üstünlük verə bilər və ya müəyyən məlumat alt dəstləri ilə dəqiqliyini itirə bilər. Bu, müəyyən bir qrup insanı ədalətsiz şəkildə cəzalandıran mühakimələrlə nəticələnə bilər ki, bu da real dünyaya mənfi təsir göstərə bilər.
Bu məqalədə maşın öyrənməsinin qərəzliliyi, o cümlədən bunun nə olduğu, onu necə aşkar etmək, onun yaratdığı təhlükələr və sair müzakirə olunur.
Beləliklə, Maşın Öyrənmə Bias nədir?
Maşın öyrənmə prosesi zamanı edilən yanlış fərziyyələr nəticəsində sistematik olaraq qərəzli nəticələr çıxaran alqoritm, maşın öyrənməsinin qərəzi, həmçinin alqoritm qərəzi kimi tanınan və ya AI qərəzi kimi tanınır.
Maşın öyrənməsinin qərəzliliyi modelin müəyyən verilənlər toplusuna və ya verilənlərin alt dəstinə üstünlük vermə meylidir; o, tez-tez qeyri-təmsilçi təlim verilənlər topluları tərəfindən gətirilir. Müəyyən bir məlumat toplusu ilə, qərəzli bir model, onun düzgünlüyünə xələl gətirəcək zəif performans göstərəcəkdir.
Real şəraitdə bu, qərəzli təlim məlumatlarının müəyyən bir irqə, demoqrafik və ya cinsiyyətə üstünlük verən modelin çıxışı ilə nəticələndiyini ifadə edə bilər.
Nəticədə, maşın öyrənməsinin nəticələri ədalətsiz və ya ayrı-seçkilik yarada bilər. Qeyri-reprezentativ təlim məlumat dəstləri qərəzliliyə kömək edə bilər maşın öyrənməsində.
Təlim məlumatları yoxdursa və ya müəyyən məlumat qruplaşmasını həddən artıq təmsil edirsə, nəticə modeli digər, az təmsil olunan kateqoriyalara qarşı qərəzli ola bilər. Bu, təlim məlumatı nümunəsi real dünyada yerləşdirmə mühitinə dəqiq uyğun gəlmədikdə baş verə bilər.
Xəstə məlumatlarını məlum xəstəliklərə və ya xəstəliklərə qarşı yoxlamaq üçün istifadə edilə bilən səhiyyə sənayesində maşın öyrənməsi bunun ən yaxşı nümunəsidir. Modellər lazımi şəkildə istifadə edildikdə, həkimlərin müdaxilələrini sürətləndirə bilər.
Bununla belə, qərəzli münasibət mümkündür. Yaşlı bir xəstədə mümkün xəstəliyi proqnozlaşdırmaq istənildikdə, onu qurmaq üçün istifadə edilən təlim məlumatları əsasən daha kiçik yaş aralığında olan xəstə məlumatlarından ibarətdirsə, model yaxşı performans göstərə bilməz.
Bundan əlavə, tarixi statistik məlumatlar təhrif edilə bilər. Məsələn, tarixən işçilərin əksəriyyəti kişi olduğundan, işə namizədləri süzgəcdən keçirmək üçün təlim keçmiş bir model kişi müraciət edənlərə üstünlük verərdi.
Maşın öyrənməsinin qərəzliliyi hər iki ssenaridə modelin düzgünlüyünə təsir edəcək və ən pis şəraitdə hətta ayrı-seçkilik və ədalətsiz nəticələrlə nəticələnə bilər.
Qərəzlərin olmaması üçün qərarlar diqqətlə nəzərdən keçirilməlidir maşın öyrənmə modelləri getdikcə daha çox əl əməliyyatlarını əvəz edin. Nəticə etibarı ilə, hər hansı bir təşkilatda model idarəetmə praktikalarına maşın öyrənmə qərəzinin monitorinqi daxil edilməlidir.
Bir çox fərqli sənayedə bir çox fərqli iş növləri maşın öyrənmə modelləri ilə tamamlanır. Bu gün modellər getdikcə çətinləşən prosesləri avtomatlaşdırmaq və təkliflər yaratmaq üçün istifadə olunur. Bu qərar vermə prosesində qərəzlilik o deməkdir ki, bir model öyrənilmiş qərəz əsasında müəyyən qrupa üstünlük verə bilər.
Faktiki nəticələri olan təhlükəli mühakimələr üçün istifadə edildikdə, bunun ciddi nəticələri ola bilər. Məsələn, qərəzli model kredit müraciətlərini avtomatik olaraq təsdiqləmək üçün istifadə edildikdə müəyyən əhaliyə zərər verə bilər. Hər hansı bir hərəkətin yoxlanıla və ya yoxlanıla biləcəyi tənzimlənən müəssisələrdə bu, nəzərə alınmalı olan xüsusilə mühüm amildir.
Maşın Öyrənmə Qərəzinin növləri
- Alqoritm Yanlışlığı – Bu, alqoritmdə maşın öyrənmə hesablamalarını idarə edən hesablamaları edən səhv olduqda baş verir.
- Nümunə qərəzi – Verilənlər istifadə edildikdə maşın öyrənməsini öyrədin modeldə problem var, bu baş verir. Bu cür qərəzlilik hallarında sistemi öyrətmək üçün istifadə olunan məlumatların miqdarı və ya keyfiyyəti kifayət deyil. Alqoritm, məsələn, təlim məlumatları tamamilə qadın müəllimlərdən ibarət olarsa, bütün müəllimlərin qadın olduğuna inanmaq üçün öyrədiləcəkdir.
- İstisna qərəzi – Bu, istifadə olunan verilənlər toplusunda mühüm məlumat nöqtəsi olmadıqda baş verir və bu, modelləşdiricilər çatışmayan məlumat nöqtəsinin əhəmiyyətini dərk edə bilmədikdə baş verə bilər.
- Qərəz qərəzi – Bu halda, maşın öyrənməsinin özü qərəzlidir, çünki sistemi öyrətmək üçün istifadə olunan məlumatlar qərəz, stereotiplər və yanlış sosial fərziyyələr kimi real dünyadakı qərəzləri əks etdirir. Məsələn, tibb işçiləri haqqında məlumatlar yalnız kişi həkimləri və qadın tibb bacılarını əhatə edən kompüter sisteminə daxil edilsəydi, tibb işçiləri haqqında real dünyada gender stereotipi davam edərdi.
- Ölçmə meyli – Adından da göründüyü kimi, bu qərəz məlumatların keyfiyyəti və onları toplamaq və ya qiymətləndirmək üçün istifadə olunan üsullarla bağlı əsas problemlərdən irəli gəlir. Təlim məlumatlarında olan çəkilər ardıcıl olaraq yuvarlaqlaşdırılarsa, çəkisini dəqiq qiymətləndirmək üçün öyrədilmiş sistem qərəzli olacaq və iş yerindəki mühiti qiymətləndirmək üçün nəzərdə tutulan sistemi öyrətmək üçün məmnun işçilərin təsvirlərindən istifadə, əgər şəkillərdəki işçilər bilsələr, qərəzli ola bilər. xoşbəxtliklə ölçülürdülər.
Maşın öyrənməsində qərəzliliyə hansı amillər kömək edir?
Maşın öyrənmə qərəzinin bir çox səbəbi olsa da, bu, çox vaxt təlim məlumatlarının özündə olan qərəzdən yaranır. Təlim məlumatlarında qərəzliliyin bir neçə potensial əsas səbəbi var.
Ən bariz nümunə tipik olmayan yerləşdirilmiş sistemdə görülən şərtlərin alt dəsti olan təlim məlumatlarıdır. Bu, bir kateqoriyanın az təmsil olunduğu və ya digərinin qeyri-mütənasib miqdarı ilə təlim məlumatları ola bilər.
Bu, nümunə qərəzi kimi tanınır və bu, təsadüfi olmayan təlim məlumatlarının toplanması nəticəsində yarana bilər. Məlumatları toplamaq, təhlil etmək və ya təsnif etmək üçün istifadə olunan üsullar, eləcə də məlumatların tarixi kökləri məlumatın özündə qərəzliliyə səbəb ola bilər.
Məlumat hətta toplandığı daha böyük mədəniyyətdə tarixən qərəzli ola bilər.
Maşın öyrənmə qərəzliyi əsasən aşağıdakılardan qaynaqlanır:
- Tarixi məlumatlarda insanların və ya cəmiyyətin səbəb olduğu qərəzlər alqoritmləri hazırlamaq üçün istifadə olunur.
- Real həyat şəraitini əks etdirməyən təlim məlumatları.
- Nəzarət olunan maşın öyrənməsi üçün məlumatların etiketlənməsi və ya hazırlanması zamanı qərəzlilik.
Məsələn, təlim məlumatlarında müxtəlifliyin olmaması təmsilçilikdə qərəzliyə səbəb ola bilər. Maşın öyrənmə modellərinin düzgünlüyünə daha geniş mədəniyyətdəki tarixi meyllər tez-tez təsir edir.
Buna bəzən sosial və ya insan qərəzliyi də deyilir. Cəmiyyətin qərəzinə meylli olmayan geniş məlumat kolleksiyalarını tapmaq çətin ola bilər. Maşın öyrənmə həyat dövrünün məlumat emalı mərhələsi insan qərəzinə eyni dərəcədə həssasdır.
Məlumat alimi və ya digər ekspert tərəfindən etiketlənmiş və işlənmiş məlumatlar nəzarət edilən maşın öyrənməsi üçün lazımdır. Təmizlənən məlumatların müxtəlifliyindən, məlumat nöqtələrinin etiketlənməsindən və ya xüsusiyyətlərin seçilməsindən asılı olmayaraq, bu etiketləmə prosesində qərəzlik maşın öyrənməsində qərəzliliyə səbəb ola bilər.
Maşın Öyrənmə Riskləri
Modellər məlumatlara əsaslanan qərar qəbuletmə vasitələri olduğundan, onların qərəzsiz mühakimələri təmin etdiyi güman edilir. Maşın öyrənmə modellərində tez-tez nəticələrə təsir edə bilən qərəz var.
Getdikcə daha çox sənaye köhnəlmiş proqram və prosedurlar əvəzinə maşın öyrənməsini həyata keçirir. Qərəzli modellər, modellərdən istifadə edərək daha mürəkkəb işlərin avtomatlaşdırılması zamanı real dünyada mənfi təsir göstərə bilər.
Maşın öyrənməsi digər qərar qəbuletmə proseslərindən heç bir fərqi yoxdur ki, təşkilatlar və şəxslər onun şəffaf və ədalətli olmasını gözləyirlər. Maşın öyrənməsi avtomatlaşdırılmış proses olduğundan, ondan istifadə etməklə edilən mülahizələr bəzən daha yaxından araşdırılır.
Təşkilatların təhlükələrin aradan qaldırılmasında fəal olması çox vacibdir, çünki maşın öyrənməsində qərəzlilik tez-tez bəzi əhaliyə ayrı-seçkilik və ya mənfi təsir göstərə bilər. Tənzimlənən kontekstlər üçün, xüsusən də maşın öyrənməsində qərəzlilik ehtimalı nəzərə alınmalıdır.
Məsələn, bank işində maşın öyrənməsi ilkin yoxlamadan sonra ipoteka ərizəçilərini avtomatik qəbul etmək və ya rədd etmək üçün istifadə edilə bilər. Müəyyən bir qrup namizədə qarşı qərəzli olan model həm namizədə, həm də təşkilata zərərli təsir göstərə bilər.
Fəaliyyətlərin yoxlanıla biləcəyi yerləşdirmə mühitində aşkar edilən hər hansı qərəz böyük problemlərə səbəb ola bilər. Model işləməyə bilər və ən pis ssenarilərdə hətta qəsdən ayrı-seçkiliyə səbəb ola bilər.
Qərəz diqqətlə qiymətləndirilməli və buna hazır olmalıdır, çünki bu, modelin yerləşdirmədən tamamilə çıxarılması ilə nəticələnə bilər. Model qərarlarına inam qazanmaq üçün maşın öyrənməsinin qərəzliliyini başa düşmək və həll etmək lazımdır.
Təşkilat daxilində və xarici xidmət istehlakçıları arasında etimad səviyyəsi model qərarların qəbulunda qəbul edilən qərəzdən təsirlənə bilər. Modellərə etibar edilməzsə, xüsusən də yüksək riskli seçimlərə rəhbərlik edərkən, onlar təşkilat daxilində tam potensiallarından istifadə etməyəcəklər.
Modelin izahlılığını qiymətləndirərkən qərəzliliyin uçotu nəzərə alınmalı olan amil olmalıdır. Model seçimlərinin etibarlılığına və düzgünlüyünə yoxlanılmamış maşın öyrənmə meyli ciddi təsir göstərə bilər.
Bu, bəzən müəyyən insanlara və ya qruplara təsir edə biləcək ayrı-seçkilik hərəkətləri ilə nəticələnə bilər. Müxtəlif maşın öyrənmə model növləri üçün çoxsaylı tətbiqlər mövcuddur və hər biri müəyyən dərəcədə maşın öyrənməsi meylinə həssasdır.
Maşın öyrənməsinin qərəzi aşağıdakılarla təsvir olunur:
- Təlim məlumatlarında müxtəlifliyin olmaması səbəbindən üz tanıma alqoritmləri bəzi irqi qruplar üçün daha az dəqiq ola bilər.
- Proqram insan və ya tarixi xurafat səbəbindən məlumatlarda irqi və gender qərəzliyi aşkar edə bilər.
- Müəyyən bir dialekt və ya vurğu ilə təbii dilin işlənməsi daha dəqiq ola bilər və o, təlim məlumatlarında az təmsil olunan vurğunu emal edə bilməyəcək.
Maşın Öyrənməsində qərəzliliyin həlli
Qərəz aşkar edildikdə modellərin monitorinqi və yenidən hazırlanması maşın öyrənməsinin qərəzliliyini aradan qaldırmağın iki yoludur. Əksər hallarda, model qərəzliyi təlim məlumatlarında qərəzliliyin göstəricisidir və ya ən azı qərəz maşın öyrənmə həyat dövrünün təlim mərhələsi ilə əlaqəli ola bilər.
Modelin həyat dövrünün hər bir mərhələsində qərəzliliyi və ya model sürüşməsini tutmaq üçün prosedurlar olmalıdır. Yerləşdirmədən sonra maşın öyrənməsinin monitorinqi prosesləri də daxil edilmişdir. Modeli və məlumat dəstlərini qərəz üçün tez-tez yoxlamaq vacibdir.
Bu, qrupların orada necə paylandığını və təmsil olunduğunu görmək üçün təlim məlumat dəstinin tədqiqini əhatə edə bilər. Tamamilə təmsil olunmayan verilənlər toplusunu dəyişdirmək və/yaxud təkmilləşdirmək mümkündür.
Bundan əlavə, modelin performansını qiymətləndirərkən qərəzlilik nəzərə alınmalıdır. Modelin performansını verilənlərin müxtəlif alt qruplarında sınaqdan keçirmək onun müəyyən qrupa münasibətdə qərəzli və ya həddən artıq uyğun olub olmadığını göstərə bilər.
Çarpaz doğrulama üsullarından istifadə etməklə müəyyən məlumat alt qruplarında maşın öyrənmə modelinin performansını qiymətləndirmək mümkündür. Prosedur məlumatların fərqli təlim və sınaq verilənlər bazalarına bölünməsini nəzərdə tutur.
Maşın öyrənməsində qərəzliyi aradan qaldıra bilərsiniz:
- Zəruri hallarda, daha böyük, daha çox təmsil olunan təlim dəstlərindən istifadə edərək modeli yenidən hazırlayın.
- Qərəzli nəticələrə və qeyri-adi mühakimələrə proaktiv şəkildə baxmaq üçün prosedurun yaradılması.
- Xüsusiyyətləri yenidən ölçmək və lazım olduqda hiperparametrləri tənzimləmək qərəzliyi hesablamağa kömək edə bilər.
- Davamlı aşkarlama və optimallaşdırma dövrü vasitəsilə aşkar edilmiş qərəzlərin həllini təşviq etmək.
Nəticə
Təlimdən sonra maşın öyrənmə modelinin avtonom şəkildə fəaliyyət göstərəcəyinə inanmaq cazibədardır. Əslində, modelin əməliyyat mühiti həmişə dəyişir və menecerlər müntəzəm olaraq təzə məlumat dəstlərindən istifadə edərək modelləri yenidən hazırlamalıdırlar.
Maşın öyrənməsi hazırda real dünyada iqtisadi faydaları olan ən maraqlı texnoloji imkanlardan biridir. Maşın öyrənməsi, böyük məlumat texnologiyaları və ictimai bulud vasitəsilə mövcud olan böyük hesablama gücü ilə birləşdirildikdə, insanların texnologiya və bəlkə də bütün sənayelərlə qarşılıqlı əlaqəsini dəyişdirmək potensialına malikdir.
Bununla belə, maşın öyrənmə texnologiyası nə qədər perspektivli olsa da, qərəzsiz yanaşmaların qarşısını almaq üçün diqqətlə planlaşdırılmalıdır. Maşınlar tərəfindən verilən mühakimələrin effektivliyinə qərəz ciddi təsir göstərə bilər, bu, maşın öyrənmə modeli tərtibatçılarının nəzərə almalı olduğu bir şeydir.
Cavab yaz