لکه څنګه چې ډیر صنعتونه د عملیاتو اتومات کولو او انتخابونو لپاره د الګوریتم ځواک کاروي ، د ماشین زده کړه د معاصر نړۍ د فعالیت څرنګوالي یوه مهمه برخه کیږي.
د ماشین زده کړې کې د تعصب مسله مهمه ده چې په پام کې ونیول شي کله چې د ماشین زده کړې ماډلونه د مختلف سازمانونو د پریکړې کولو پروسو کې مدغم کیږي.
د دې تضمین کولو لپاره چې د الګوریتمونو لخوا رامینځته شوي انتخابونه بې طرفه او له تعصب څخه پاک دي باید د هرې ادارې لپاره هدف وي چې د ماشین زده کړې ماډلونه کاروي. د دې لپاره چې ډاډ ترلاسه شي چې د ماډل محصولات تکیه کیدی شي او د عادلانه په توګه لیدل کیدی شي، دا مهمه ده چې پیژندل او په نښه کول ماشین زده کړه تعصب
دا د ماډل تشریح کولو پوښتنو پورې اړه لري، یا د یو کس لپاره دا درک کول څومره اسانه دي چې څنګه د ماشین زده کړې ماډل یوې پایلې ته ورسید. هغه رجحانات او نمونې چې د ماشین زده کړې ماډل نقشه کوي او زده کوي پخپله د ډیټا څخه راځي نه د مستقیم انساني پرمختګ له لارې.
د ماشین زده کړې کې تعصب د مختلف دلیلونو لپاره رامینځته کیدی شي که چیرې دا کنټرول او چیک نه شي. کله چې یو ماډل ګمارل کیږي، دا په مکرر ډول د داسې شرایطو سره مخ کیږي چې د روزنې ډیټا نمونې کې دقیق نه منعکس کیږي.
ماډل د ډیټا د دې غیر نمایشي روزنې سیټ لپاره ډیر مناسب و. د روزنې ډیټا د غوره کیفیت سره سره، ماډل ممکن د پراخو کلتوري اغیزو په پایله کې د تاریخي تعصب لخوا اغیزمن شي.
یوځل چې پلي شي، یو اړخیز ماډل کولی شي د ځانګړو ډلو سره مرسته وکړي یا د ځانګړو معلوماتو فرعي سیټونو سره دقت له لاسه ورکړي. دا کیدای شي د قضاوت پایله وي چې په غیر عادلانه توګه د افرادو یوې ځانګړې ډلې ته سزا ورکوي، کوم چې کولی شي په ریښتینې نړۍ منفي اغیزه ولري.
دا مقاله د ماشین زده کړې تعصب په اړه بحث کوي، پشمول دا څه شی دی، څنګه یې په نښه کړئ، هغه خطرونه چې دا یې رامنځته کوي، او نور ډیر څه.
نو، د ماشین زده کړې تعصب څه شی دی؟
یو الګوریتم تولیدوي محصولات چې د ماشین زده کړې پروسې په جریان کې رامینځته شوي غلط انګیرنې په پایله کې په سیستماتیک ډول تعصب کیږي د ماشین زده کړې تعصب په نوم پیژندل کیږي ، چې د الګوریتم تعصب په نوم هم پیژندل کیږي یا د AI تعصب په نوم پیژندل کیږي.
د ماشین زده کړې تعصب د ماډل تمایل دی چې د ډیټا ځانګړي سیټ یا د ډیټا فرعي سیټ خوښوي؛ دا په مکرر ډول د غیر نمایشي روزنې ډیټاسیټونو لخوا راوړل کیږي. د معلوماتو د یوې ټاکلې ټولګې سره، یو متعصب ماډل به کم کار وکړي، کوم چې د هغې دقت ته زیان رسوي.
په ریښتیني نړۍ ترتیب کې، دا پدې معنی کیدی شي چې د روزنې تعصب ډیټا په پایله کې د ماډل محصول د یو ځانګړي نسل، ډیموګرافیک، یا جندر سره مرسته کوي.
د پایلې په توګه، د ماشین زده کړې پایلې غیر عادلانه یا تبعیض کیدی شي. غیر نماینده روزنه ډیټاسیټونه کولی شي په تعصب کې مرسته وکړي په ماشین زده کړه کې.
نتیجه اخیستونکی ماډل د نورو، کم نمایندګیو کټګوریو په وړاندې تعصب کیدی شي که چیرې د روزنې ډاټا نشتوالی وي یا د ځانګړي ډیټا ګروپینګ ډیر استازی وي. دا واقع کیدی شي که چیرې د روزنې ډاټا نمونه په سمه توګه د ریښتینې نړۍ ځای پرځای کولو چاپیریال سره سمون ونلري.
د روغتیا پاملرنې صنعت کې د ماشین زده کړه ، کوم چې د پیژندل شوي ناروغیو یا ناروغیو پروړاندې د ناروغ ډیټا چیک کولو لپاره کارول کیدی شي ، یو غوره مثال دی. ماډلونه کولی شي د طبي متخصصینو مداخلې ګړندۍ کړي کله چې دوی په سمه توګه کارول کیږي.
په هرصورت، تعصب ممکن دی. کله چې وپوښتل شول چې په زاړه ناروغ کې د احتمالي ناروغۍ وړاندوینه وکړي، یو ماډل نشي کولی ښه کار وکړي که چیرې د روزنې ډیټا د دې جوړولو لپاره کارول کیږي ډیری یې د کوچني عمر حد څخه د ناروغ ډیټا لري.
برسیره پردې، تاریخي احصایې کیدای شي د پام وړ وي. د مثال په توګه، ځکه چې په تاریخي توګه، ډیری کارکونکي نارینه وو، د کار نوماندانو د فلټر کولو لپاره روزل شوي ماډل به د نارینه غوښتونکو سره مرسته وکړي.
د ماشین زده کړې تعصب به په دواړو سناریوګانو کې د ماډل په دقت باندې اغیزه ولري، او په بدترین شرایطو کې، دا حتی د تبعیض او غیر عادلانه پایلو پایله کیدی شي.
پریکړې باید په دقت سره وڅیړل شي ترڅو ډاډ ترلاسه شي چې هیڅ ډول تعصب شتون نلري د ماشین زده کړې موډلونه ډیر او ډیر لاسي عملیات بدل کړئ. د پایلې په توګه، په هره اداره کې د ماډل حکومتولۍ کړنې باید د ماشین زده کړې تعصب لپاره نظارت شامل وي.
په ډیری بیلابیلو صنعتونو کې ډیری بیلابیل دندې د ماشین زده کړې ماډلونو لخوا بشپړ کیږي. نن ورځ، ماډلونه د مخ په زیاتیدونکي ستونزمن پروسې اتومات کولو او وړاندیزونو رامینځته کولو لپاره کارول کیږي. د تصمیم نیولو په دې بهیر کې، تعصب پدې مانا دی چې یو ماډل کولی شي د زده شوي تعصب پراساس د یوې ډلې په پرتله د بلې ډلې څخه ګټه پورته کړي.
کله چې د حقیقي پایلو سره د ناامنه قضاوت کولو لپاره کارول کیږي، دا کولی شي سخت عواقب ولري. کله چې په اتوماتيک ډول د پور غوښتنلیکونو تصویبولو لپاره کارول کیږي، د بیلګې په توګه، یو متعصب ماډل کولی شي یو مشخص نفوس تعصب کړي. په تنظیم شوي سوداګرۍ کې چیرې چې کوم عملونه معاینه یا وڅیړل شي ، دا یو ځانګړی مهم فاکتور دی چې باید په پام کې ونیول شي.
د ماشین زده کړې تعصب ډولونه
- د الګوریتم تعصب - دا پیښیږي کله چې په الګوریتم کې یوه بګ شتون ولري چې محاسبه کوي چې د ماشین زده کړې محاسبې پرمخ وړي.
- نمونه تعصب - کله چې ډاټا کارول کیږي د ماشین زده کړې روزنه ماډل یوه ستونزه لري، دا واقع کیږي. د دې ډول تعصب په حالت کې، د معلوماتو مقدار یا کیفیت چې د سیسټم روزنې لپاره کارول کیږي کافي ندي. الګوریتم به روزل کیږي ترڅو باور وکړي چې ټول ښوونکي ښځینه دي که چیرې، د بیلګې په توګه، د روزنې ډاټا په بشپړه توګه د ښځینه ښوونکو څخه جوړه وي.
- د اخراج تعصب - دا هغه وخت رامینځته کیږي کله چې د ډیټا یو مهم ټکی د کارول شوي ډیټا سیټ څخه غیر حاضر وي ، کوم چې ممکن پیښ شي که ماډلر د ورک شوي ډیټا نقطې اهمیت په پوهیدو کې پاتې راشي.
- تعصب تعصب - پدې مثال کې، د ماشین زده کړه پخپله متعصبه ده ځکه چې د سیسټم روزنې لپاره کارول شوي ډاټا د ریښتینې نړۍ تعصبونه منعکس کوي لکه تعصب، سټیریوټایپونه، او ناسم ټولنیز انګیرنې. د مثال په توګه، که چیرې د طبي متخصصینو معلومات د کمپیوټر سیسټم کې شامل شي چې یوازې نارینه ډاکټران او ښځینه نرسانې پکې شاملې وې، د روغتیایی کارمندانو په اړه د ریښتینې نړۍ جنسیت سټیریوټائپ به دوام ومومي.
- د اندازه کولو تعصب - لکه څنګه چې له نوم څخه څرګندیږي، دا تعصب د معلوماتو کیفیت او د راټولولو یا ارزولو لپاره کارول شوي میتودونو سره د بنسټیزو مسلو پایله ده. هغه سیسټم چې روزل کیږي د دقیق وزن ارزولو لپاره به متعصب وي که چیرې د روزنې ډیټا کې موجود وزنونه په دوامداره توګه راټول شوي وي، او د کاري ځای چاپیریال ارزولو لپاره د سیسټم روزنې لپاره د محتوا کارمندانو عکسونو کارول کیدی شي تعصب وي که چیرې په عکسونو کې کارمندان پوه شي دوی د خوښۍ لپاره اندازه کیدل.
کوم عوامل د ماشین زده کړې په تعصب کې مرسته کوي؟
که څه هم د ماشین زده کړې تعصب لپاره ډیری دلیلونه شتون لري، دا ډیری وختونه د روزنې ډاټا کې د تعصب څخه رامینځته کیږي. د روزنې په معلوماتو کې د تعصب لپاره ډیری احتمالي اصلي لاملونه شتون لري.
ترټولو ښکاره بیلګه د روزنې ډاټا ده، کوم چې د شرایطو یوه فرعي برخه ده چې په ګمارل شوي سیسټم کې لیدل کیږي چې عادي نه وي. دا کیدای شي د روزنې ډاټا وي چې د یوې کټګورۍ کم استازیتوب یا د بل غیر متناسب مقدار سره.
دا د نمونې تعصب په نوم پیژندل کیږي، او دا د غیر تصادفي روزنې معلوماتو راټولولو پایله کیدی شي. هغه میتودونه چې د معلوماتو راټولولو، تحلیل، یا طبقه بندي کولو لپاره کارول کیږي، او همدارنګه د ډیټا تاریخي ریښې، ټول کولی شي پخپله ډاټا کې د تعصب لامل شي.
معلومات ممکن حتی د تاریخي پلوه په لوی کلتور کې چیرې چې راټول شوي وي تعصب وي.
د ماشین زده کړې تعصب اکثرا د دې له امله رامینځته کیږي:
- په تاریخي معلوماتو کې د انسانانو یا ټولنې لخوا رامینځته شوي تعصبونه د الګوریتم روزنې لپاره کارول کیږي.
- د روزنې ډاټا چې د ریښتینې نړۍ شرایط منعکس نه کوي.
- د نظارت شوي ماشین زده کړې لپاره د لیبل کولو یا ډیټا چمتو کولو پرمهال تعصب.
د بیلګې په توګه، د روزنې په معلوماتو کې د تنوع نشتوالی کیدای شي د استازیتوب تعصب لامل شي. د ماشین زده کړې ماډلونو دقیقیت په پراخه کلتور کې د تاریخي تعصب لخوا په مکرر ډول اغیزمن کیږي.
دا ځینې وختونه د ټولنیز یا انساني تعصب په توګه راجع کیږي. د ډیټا پراخه راټولول موندل چې د ټولنیز تعصب سره مخ نه وي ننګونه کیدی شي. د ماشین زده کړې د ژوند دورې ډیټا پروسس کولو مرحله د انساني تعصب لپاره مساوي حساسه ده.
هغه معلومات چې د ډیټا ساینس پوه یا بل متخصص لخوا لیبل شوي او پروسس شوي د څارنې ماشین زده کړې لپاره اړین دي. که دا د پاکولو مختلف ډیټا څخه رامینځته کیږي ، د ډیټا پوائنټونو لیبل کولو څرنګوالی ، یا د ځانګړتیاو غوره کول ، د دې لیبل کولو پروسې کې تعصب کولی شي د ماشین زده کړې کې تعصب لامل شي.
د ماشین زده کړې تعصب خطرونه
څرنګه چې موډلونه د معلوماتو له مخې د پریکړې کولو وسیلې دي، داسې انګیرل کیږي چې دوی بې طرفه قضاوت وړاندې کوي. د ماشین زده کړې ماډلونه اکثرا تعصب لري، کوم چې کولی شي پایلې اغیزمنې کړي.
ډیر او ډیر صنعتونه د زاړه سافټویر او پروسیجرونو په ځای د ماشین زده کړې پلي کوي. متعصب ماډلونه په ریښتیني نړۍ کې منفي اغیزې کولی شي کله چې ډیر پیچلي دندې د ماډلونو په کارولو سره اتومات کیږي.
د ماشین زده کړه د نورو تصمیم نیولو پروسو څخه توپیر نلري چې سازمانونه او افراد یې تمه لري چې شفاف او مساوي وي. ځکه چې د ماشین زده کړه یو اتوماتیک پروسه ده، د هغې په کارولو سره قضاوتونه کله ناکله حتی ډیر نږدې معاینه کیږي.
دا مهمه ده چې سازمانونه د خطرونو په نښه کولو کې فعال وي ځکه چې د ماشین زده کړې کې تعصب کولی شي ډیری وختونه په ځینو خلکو تبعیض یا منفي اغیزې ولري. د تنظیم شوي شرایطو لپاره، په ځانګړې توګه، د ماشین زده کړې کې د تعصب احتمال باید په پام کې ونیول شي.
د مثال په توګه، په بانکداري کې د ماشین زده کړه د ابتدايي سکرینینګ وروسته د ګروي غوښتونکي په اتوماتيک ډول د منلو یا ردولو لپاره کارول کیدی شي. یو ماډل چې د کاندیدانو د یوې ټاکلې ډلې په وړاندې تعصب وي ممکن په دواړو نوماندانو او سازمان باندې ناوړه اغیزې ولري.
هر ډول تعصب د ګمارنې په چاپیریال کې وموندل شي چیرې چې کړنې وڅیړل شي ممکن لوی ستونزې رامینځته کړي. ماډل ممکن کار ونکړي او په بدترین سناریو کې ممکن حتی په قصدي ډول تبعیض وګرځي.
تعصب باید په دقت سره و ارزول شي او د دې لپاره چمتو شي ځکه چې دا ممکن د دې لامل شي چې ماډل په بشپړ ډول له پلي کولو څخه لرې شي. د ماډل پریکړو باور ترلاسه کول د ماشین زده کړې تعصب پوهه او حل کولو ته اړتیا لري.
د سازمان دننه او د بهرني خدماتو مصرف کونکو ترمینځ د باور کچه د ماډل پریکړې کولو کې د پام شوي تعصب لخوا اغیزمن کیدی شي. که موډلونه باوري نه وي، په ځانګړې توګه کله چې د لوړ خطر انتخابونو لارښوونه کوي، دوی به په یوه سازمان کې د دوی بشپړ ظرفیت څخه کار وانخلي.
کله چې د ماډل تشریح کولو ارزونه وکړئ، د تعصب لپاره محاسبه باید یو فاکتور وي چې باید په پام کې ونیول شي. د ماډل انتخابونو اعتبار او دقت د نه چیک شوي ماشین زده کړې تعصب لخوا په جدي ډول اغیزمن کیدی شي.
دا کله ناکله د تبعیض کړنو پایله کیدی شي چې کولی شي ځانګړي خلک یا ډلې اغیزمن کړي. د ماشین زده کړې مختلف ماډل ډولونو لپاره ډیری غوښتنلیکونه شتون لري، او هر یو د ماشین زده کړې تعصب ته یو څه حساس دی.
د ماشین زده کړې تعصب په لاندې ډول ښودل شوی:
- د روزنې معلوماتو کې د نوعې نشتوالي له امله، د مخ پیژندنې الګوریتمونه د ځینو توکمیزو ډلو لپاره لږ دقیق کیدی شي.
- برنامه کولی شي د انساني یا تاریخي تعصب له امله په معلوماتو کې نژادي او جنډر تعصب کشف کړي.
- د یوې ټاکلې ژبې یا تلفظ سره، د طبیعي ژبې پروسس کول خورا دقیق کیدی شي، او دا ممکن د دې توان ونلري چې داسې تلفظ پروسس کړي چې د روزنې معلوماتو کې کم ښودل شوي.
په ماشین زده کړه کې د تعصب حل کول
د موډلونو څارنه او بیا روزنه کله چې تعصب وموندل شي د ماشین زده کړې تعصب ته د رسیدو لپاره دوه لارې دي. په ډیری مواردو کې، د ماډل تعصب د روزنې ډاټا کې د تعصب یوه نښه ده، یا لږترلږه تعصب د ماشین زده کړې د ژوند دورې د روزنې مرحلې پورې تړاو لري.
د ماډل ژوند دورې هره مرحله باید د تعصب یا ماډل ډریف د نیولو لپاره پروسیجرونه ولري. د نصبولو وروسته د ماشین زده کړې نظارت کولو پروسې هم شاملې دي. دا مهمه ده چې په مکرر ډول موډل او ډیټاسیټونه د تعصب لپاره چیک کړئ.
پدې کې ممکن د روزنې ډیټاسیټ معاینه کول شامل وي ترڅو وګوري چې څنګه ګروپونه ویشل شوي او هلته استازیتوب کیږي. دا ممکنه ده چې ډیټاسیټونه تعدیل او / یا ښه کړي چې په بشپړ ډول نمایندګي نه وي.
برسیره پردې، د ماډل فعالیت ارزولو په وخت کې تعصب باید په پام کې ونیول شي. د ډیټا مختلف فرعي سیټونو کې د ماډل فعالیت ازموینه کولی شي وښیې چې ایا دا د یوې ټاکلې ډلې پورې اړوند تعصب یا ډیر مناسب دی.
دا ممکنه ده چې د کراس تایید کولو تخنیکونو په کارولو سره د ځینې ډیټا فرعي سیټونو کې د ماشین زده کړې ماډل فعالیت ارزونه وکړئ. په کړنلاره کې د معلوماتو ویش په جلا روزنې او ټیسټ ډیټا سیټونو کې شامل دي.
تاسو کولی شئ د ماشین زده کړې کې تعصب له منځه یوسي:
- کله چې اړتیا وي، د لوی، ډیر نمایشي روزنې سیټونو په کارولو سره موډل بیا وروزل.
- د یوې کړنلارې رامینځته کول چې په فعاله توګه د متعصبو پایلو او غیر معمولي قضاوتونو په لټه کې وي.
- د ځانګړتیاوو بیا وزن کول او د اړتیا سره سم د هایپرپرامیټرونو تنظیم کول کولی شي د تعصب حساب کولو کې مرسته وکړي.
- د کشف او اصلاح کولو دوامداره دورې له لارې د کشف شوي تعصب حل هڅول.
پایله
دا د باور کولو لپاره لیوالتیا ده چې یوځل روزل شوي، د ماشین زده کړې ماډل به په خپلواکه توګه کار وکړي. په حقیقت کې، د ماډل عملیاتي چاپیریال تل بدلیږي، او مدیران باید په منظمه توګه د تازه ډیټا سیټونو په کارولو سره ماډلونه وروزل شي.
د ماشین زده کړه اوس مهال د ریښتینې نړۍ اقتصادي ګټو سره یو له خورا زړه راښکونکي تخنیکي وړتیاو څخه دی. د ماشین زده کړه، کله چې د لوی ډیټا ټیکنالوژیو او د عامه کلاوډ له لارې شتون لرونکي پراخه کمپیوټري ځواک سره جوړه شوې ، د دې وړتیا لري چې څنګه اشخاص د ټیکنالوژۍ سره اړیکه ونیسي او شاید ټول صنعتونه بدل کړي.
په هرصورت، لکه څنګه چې د ماشین زده کړې ټیکنالوژي ژمنه ده، دا باید په احتیاط سره پالن شي ترڅو د غیر ارادي تعصب څخه مخنیوی وشي. د ماشینونو لخوا رامینځته شوي قضاوتونو اغیزې د تعصب لخوا په کلکه اغیزه کیدی شي ، کوم چې هغه څه دي چې د ماشین زده کړې ماډل جوړونکي باید په پام کې ونیسي.
یو ځواب ورکړئ ووځي