Καθώς περισσότερες βιομηχανίες χρησιμοποιούν τη δύναμη των αλγορίθμων για να αυτοματοποιήσουν τις λειτουργίες και να κάνουν επιλογές, η μηχανική μάθηση γίνεται ένα κρίσιμο στοιχείο του τρόπου λειτουργίας του σύγχρονου κόσμου.
Το ζήτημα της μεροληψίας στη μηχανική μάθηση είναι ζωτικής σημασίας να λαμβάνεται υπόψη όταν τα μοντέλα μηχανικής μάθησης ενσωματώνονται στις διαδικασίες λήψης αποφάσεων διαφόρων οργανισμών.
Η εγγύηση ότι οι επιλογές που δημιουργούνται από αλγόριθμους είναι αμερόληπτες και χωρίς προκατάληψη θα πρέπει να είναι ο στόχος για κάθε οργανισμό που χρησιμοποιεί μοντέλα μηχανικής μάθησης. Για να διασφαλιστεί ότι τα αποτελέσματα του μοντέλου μπορούν να βασιστούν και να θεωρηθούν δίκαια, είναι σημαντικό να αναγνωριστούν και να αντιμετωπιστούν μάθηση μηχανής προκατάληψη.
Σχετίζεται με ερωτήσεις σχετικά με την επεξήγηση του μοντέλου ή με το πόσο εύκολο είναι για ένα άτομο να κατανοήσει πώς ένα μοντέλο μηχανικής μάθησης κατέληξε σε ένα συμπέρασμα. Οι τάσεις και τα πρότυπα που χαρτογραφούν και μαθαίνουν τα μοντέλα μηχανικής μάθησης προέρχονται από τα ίδια τα δεδομένα και όχι από την άμεση ανθρώπινη ανάπτυξη.
Η προκατάληψη στη μηχανική μάθηση μπορεί να προκύψει για διάφορους λόγους, εάν δεν ελέγχεται και δεν ελέγχεται. Όταν ένα μοντέλο αναπτύσσεται, συναντά συχνά καταστάσεις που δεν αντικατοπτρίζονται με ακρίβεια στο δείγμα δεδομένων εκπαίδευσης.
Το μοντέλο θα μπορούσε να ήταν υπερβολικό για αυτό το μη αντιπροσωπευτικό σύνολο δεδομένων εκπαίδευσης. Παρά την εξαιρετική ποιότητα των δεδομένων εκπαίδευσης, το μοντέλο μπορεί να εξακολουθεί να επηρεάζεται από ιστορικές προκαταλήψεις που προκύπτουν από ευρύτερες πολιτισμικές επιρροές.
Μόλις εφαρμοστεί, ένα προκατειλημμένο μοντέλο θα μπορούσε να ευνοήσει ορισμένες ομάδες ή να χάσει την ακρίβεια με συγκεκριμένα υποσύνολα δεδομένων. Αυτό μπορεί να οδηγήσει σε κρίσεις που τιμωρούν άδικα μια συγκεκριμένη ομάδα ατόμων, κάτι που θα μπορούσε να έχει αρνητικές επιπτώσεις στον πραγματικό κόσμο.
Αυτό το άρθρο εξετάζει τη μεροληψία μηχανικής μάθησης, συμπεριλαμβανομένου του τι είναι, πώς να το εντοπίσετε, τους κινδύνους που εγκυμονεί και πολλά άλλα.
Λοιπόν, τι είναι η προκατάληψη μηχανικής μάθησης;
Ένας αλγόριθμος που παράγει αποτελέσματα που είναι συστηματικά μεροληπτικά ως αποτέλεσμα λανθασμένων υποθέσεων που γίνονται κατά τη διαδικασία μηχανικής μάθησης είναι γνωστός ως προκατάληψη μηχανικής μάθησης, επίσης γνωστή ως μεροληψία αλγορίθμου ή γνωστή ως προκατάληψη AI.
Η μεροληψία μηχανικής μάθησης είναι η τάση ενός μοντέλου να ευνοεί ένα συγκεκριμένο σύνολο δεδομένων ή ένα υποσύνολο δεδομένων. συχνά προκαλείται από μη αντιπροσωπευτικά σύνολα δεδομένων κατάρτισης. Με μια συγκεκριμένη συλλογή δεδομένων, ένα προκατειλημμένο μοντέλο θα έχει χαμηλή απόδοση, γεγονός που θα βλάψει την ακρίβειά του.
Σε ένα πραγματικό περιβάλλον, αυτό μπορεί να σημαίνει ότι τα προκατειλημμένα δεδομένα εκπαίδευσης είχαν ως αποτέλεσμα το αποτέλεσμα ενός μοντέλου να ευνοεί μια συγκεκριμένη φυλή, δημογραφικό ή φύλο.
Ως αποτέλεσμα, τα αποτελέσματα της μηχανικής μάθησης θα μπορούσαν να είναι άδικα ή μεροληπτικά. Μη αντιπροσωπευτική εκπαίδευση Τα σύνολα δεδομένων μπορούν να συμβάλλουν στην προκατάληψη στη μηχανική μάθηση.
Το μοντέλο που προκύπτει μπορεί να είναι προκατειλημμένο προς άλλες, υποεκπροσωπούμενες κατηγορίες, εάν τα δεδομένα εκπαίδευσης λείπουν ή είναι υπερβολικά αντιπροσωπευτικά μιας συγκεκριμένης ομαδοποίησης δεδομένων. Αυτό μπορεί να συμβεί εάν το δείγμα δεδομένων εκπαίδευσης δεν ταιριάζει ακριβώς με το περιβάλλον ανάπτυξης του πραγματικού κόσμου.
Η μηχανική μάθηση στον κλάδο της υγειονομικής περίθαλψης, η οποία μπορεί να χρησιμοποιηθεί για τον έλεγχο των δεδομένων ασθενών έναντι γνωστών ασθενειών ή ασθενειών, είναι ένα χαρακτηριστικό παράδειγμα. Τα μοντέλα μπορούν να επιταχύνουν τις παρεμβάσεις των ιατρών όταν χρησιμοποιούνται κατάλληλα.
Ωστόσο, η προκατάληψη είναι δυνατή. Όταν ζητείται να προβλέψει πιθανή ασθένεια σε έναν ηλικιωμένο ασθενή, ένα μοντέλο δεν μπορεί να αποδώσει καλά εάν τα δεδομένα εκπαίδευσης που χρησιμοποιούνται για την κατασκευή του αποτελούνται κυρίως από δεδομένα ασθενών από μικρότερο εύρος ηλικιών.
Επιπλέον, τα ιστορικά στατιστικά στοιχεία μπορούν να παραμορφωθούν. Για παράδειγμα, επειδή ιστορικά, η πλειονότητα των εργαζομένων ήταν άνδρες, ένα μοντέλο εκπαιδευμένο να φιλτράρει υποψηφίους εργασίας θα ευνοούσε τους άνδρες υποψήφιους.
Η μεροληψία μηχανικής μάθησης θα επηρεάσει την ακρίβεια του μοντέλου και στα δύο σενάρια, και στις χειρότερες συνθήκες, θα μπορούσε ακόμη και να οδηγήσει σε διακριτικά και άδικα συμπεράσματα.
Οι αποφάσεις πρέπει να αναθεωρούνται προσεκτικά για να διασφαλιστεί ότι δεν υπάρχει προκατάληψη μοντέλα μηχανικής μάθησης αντικαταστήστε όλο και περισσότερες χειροκίνητες λειτουργίες. Ως αποτέλεσμα, οι πρακτικές διακυβέρνησης μοντέλου σε οποιονδήποτε οργανισμό θα πρέπει να περιλαμβάνουν παρακολούθηση για μεροληψία μηχανικής μάθησης.
Πολλοί διαφορετικοί τύποι εργασιών σε πολλούς διαφορετικούς κλάδους ολοκληρώνονται με μοντέλα μηχανικής μάθησης. Σήμερα, τα μοντέλα χρησιμοποιούνται για να αυτοματοποιήσουν όλο και πιο δύσκολες διαδικασίες και να δημιουργήσουν προτάσεις. Σε αυτή τη διαδικασία λήψης αποφάσεων, μεροληψία σημαίνει ότι ένα μοντέλο θα μπορούσε να ευνοήσει μια συγκεκριμένη ομάδα έναντι μιας άλλης με βάση μια μαθημένη μεροληψία.
Όταν χρησιμοποιείται για τη λήψη μη ασφαλών κρίσεων με πραγματικές συνέπειες, αυτό μπορεί να έχει σοβαρές επιπτώσεις. Όταν χρησιμοποιείται για την αυτόματη έγκριση αιτήσεων δανείου, για παράδειγμα, ένα προκατειλημμένο μοντέλο μπορεί να βλάψει έναν συγκεκριμένο πληθυσμό. Σε ρυθμιζόμενες επιχειρήσεις όπου οποιεσδήποτε ενέργειες μπορούν να επιθεωρηθούν ή να εξεταστούν, αυτός είναι ένας ιδιαίτερα κρίσιμος παράγοντας που πρέπει να λαμβάνεται υπόψη.
Τύποι προκατάληψης μηχανικής μάθησης
- Προκατάληψη αλγορίθμου – Αυτό συμβαίνει όταν υπάρχει ένα σφάλμα στον αλγόριθμο που κάνει τους υπολογισμούς που οδηγούν τους υπολογισμούς μηχανικής μάθησης.
- Δείγμα μεροληψίας – Όταν τα δεδομένα εκπαιδεύστε τη μηχανική μάθηση το μοντέλο έχει πρόβλημα, αυτό συμβαίνει. Σε περιπτώσεις αυτού του είδους μεροληψίας, η ποσότητα ή η ποιότητα των δεδομένων που χρησιμοποιούνται για την εκπαίδευση του συστήματος είναι ανεπαρκής. Ο αλγόριθμος θα εκπαιδευτεί να πιστεύει ότι όλοι οι δάσκαλοι είναι γυναίκες εάν, για παράδειγμα, τα δεδομένα κατάρτισης αποτελούνται εξ ολοκλήρου από γυναίκες δασκάλες.
- Μεροληψία αποκλεισμού – Αυτό συμβαίνει όταν ένα κρίσιμο σημείο δεδομένων απουσιάζει από το σύνολο δεδομένων που χρησιμοποιούνται, κάτι που μπορεί να συμβεί εάν οι διαμορφωτές δεν καταλάβουν τη σημασία του σημείου δεδομένων που λείπει.
- Προκατάληψη μεροληψίας – Σε αυτήν την περίπτωση, η ίδια η μηχανική μάθηση είναι προκατειλημμένη, καθώς τα δεδομένα που χρησιμοποιούνται για την εκπαίδευση του συστήματος αντικατοπτρίζουν προκαταλήψεις του πραγματικού κόσμου, όπως προκαταλήψεις, στερεότυπα και εσφαλμένες κοινωνικές υποθέσεις. Για παράδειγμα, εάν στο σύστημα υπολογιστών περιλαμβάνονταν δεδομένα για επαγγελματίες υγείας που περιελάμβαναν μόνο άνδρες γιατρούς και γυναίκες νοσοκόμες, θα διαιωνιζόταν ένα πραγματικό στερεότυπο για το φύλο για τους εργαζόμενους στον τομέα της υγείας.
- Μεροληψία μέτρησης – Όπως υποδηλώνει το όνομα, αυτή η μεροληψία προκύπτει από θεμελιώδη ζητήματα με την ποιότητα των δεδομένων και τις μεθόδους που χρησιμοποιούνται για τη συλλογή ή την αξιολόγησή τους. Ένα σύστημα που εκπαιδεύεται για την ακριβή εκτίμηση του βάρους θα είναι προκατειλημμένο εάν τα βάρη που περιέχονται στα δεδομένα εκπαίδευσης στρογγυλοποιούνται με συνέπεια και η χρήση εικόνων ικανοποιημένων εργαζομένων για την εκπαίδευση ενός συστήματος που προορίζεται να αξιολογεί ένα περιβάλλον εργασίας μπορεί να είναι προκατειλημμένο, εάν οι υπάλληλοι στις φωτογραφίες γνώριζαν μετρούνταν για την ευτυχία.
Ποιοι παράγοντες συμβάλλουν στην προκατάληψη στη μηχανική μάθηση;
Αν και υπάρχουν πολλοί λόγοι για μεροληψία μηχανικής μάθησης, συχνά προκύπτει από μεροληψία στα ίδια τα δεδομένα εκπαίδευσης. Υπάρχουν πολλές πιθανές υποκείμενες αιτίες για προκαταλήψεις στα δεδομένα εκπαίδευσης.
Η πιο εμφανής απεικόνιση είναι τα δεδομένα εκπαίδευσης, τα οποία είναι ένα υποσύνολο συνθηκών που παρατηρούνται σε ένα αναπτυγμένο σύστημα που δεν είναι τυπικό. Αυτά μπορεί να είναι δεδομένα εκπαίδευσης με υποεκπροσώπηση μιας κατηγορίας ή δυσανάλογη ποσότητα μιας άλλης.
Αυτό είναι γνωστό ως προκατάληψη δείγματος και μπορεί να προκύψει από μη τυχαιοποιημένη συλλογή δεδομένων εκπαίδευσης. Οι μέθοδοι που χρησιμοποιούνται για τη συλλογή, την ανάλυση ή την ταξινόμηση των δεδομένων, καθώς και οι ιστορικές ρίζες των δεδομένων, μπορούν όλες να οδηγήσουν σε μεροληψία στα ίδια τα δεδομένα.
Οι πληροφορίες μπορεί ακόμη και να είναι προκατειλημμένες ιστορικά στον ευρύτερο πολιτισμό όπου συγκεντρώθηκαν.
Η προκατάληψη μηχανικής μάθησης προκαλείται κυρίως από:
- Οι προκαταλήψεις που προκαλούνται από τον άνθρωπο ή την κοινωνία στα ιστορικά δεδομένα χρησιμοποιούνται για την εκπαίδευση αλγορίθμων.
- Δεδομένα προπόνησης που δεν αντικατοπτρίζουν τις πραγματικές συνθήκες.
- Προκατάληψη κατά την επισήμανση ή την προετοιμασία δεδομένων για εποπτευόμενη μηχανική εκμάθηση.
Για παράδειγμα, η έλλειψη διαφορετικότητας στα δεδομένα εκπαίδευσης μπορεί να προκαλέσει μεροληψία αναπαράστασης. Η ακρίβεια των μοντέλων μηχανικής μάθησης συχνά επηρεάζεται από την ιστορική προκατάληψη στην ευρύτερη κουλτούρα.
Αυτό μερικές φορές αναφέρεται ως κοινωνική ή ανθρώπινη προκατάληψη. Η εύρεση τεράστιων συλλογών δεδομένων που δεν είναι επιρρεπείς σε κοινωνικές προκαταλήψεις μπορεί να είναι πρόκληση. Το στάδιο επεξεργασίας δεδομένων του κύκλου ζωής της μηχανικής μάθησης είναι εξίσου ευαίσθητο στην ανθρώπινη προκατάληψη.
Τα δεδομένα που έχουν επισημανθεί και υποστεί επεξεργασία από επιστήμονα δεδομένων ή άλλο ειδικό είναι απαραίτητα για την εποπτευόμενη μηχανική εκμάθηση. Είτε προέρχεται από την ποικιλία των δεδομένων που καθαρίζονται, τον τρόπο με τον οποίο επισημαίνονται τα σημεία δεδομένων ή την επιλογή των χαρακτηριστικών, η μεροληψία σε αυτήν τη διαδικασία επισήμανσης μπορεί να οδηγήσει σε μεροληψία στη μηχανική εκμάθηση.
Κίνδυνοι μεροληψίας μηχανικής μάθησης
Δεδομένου ότι τα μοντέλα είναι εργαλεία λήψης αποφάσεων που βασίζονται σε δεδομένα, θεωρείται ότι παρέχουν αμερόληπτες κρίσεις. Τα μοντέλα μηχανικής μάθησης συχνά περιέχουν προκατάληψη, η οποία μπορεί να επηρεάσει τα αποτελέσματα.
Όλο και περισσότερες βιομηχανίες εφαρμόζουν μηχανική μάθηση στη θέση του απαρχαιωμένου λογισμικού και διαδικασιών. Τα μεροληπτικά μοντέλα μπορούν να έχουν αρνητικά αποτελέσματα στον πραγματικό κόσμο όταν πιο περίπλοκες εργασίες αυτοματοποιούνται χρησιμοποιώντας μοντέλα.
Η μηχανική μάθηση δεν διαφέρει από άλλες διαδικασίες λήψης αποφάσεων στο ότι οι οργανισμοί και τα άτομα αναμένουν ότι θα είναι διαφανής και δίκαιη. Επειδή η μηχανική μάθηση είναι μια αυτοματοποιημένη διαδικασία, οι κρίσεις που γίνονται με τη χρήση της εξετάζονται περιστασιακά ακόμη πιο προσεκτικά.
Είναι σημαντικό οι οργανισμοί να είναι προορατικοί στην αντιμετώπιση των κινδύνων, καθώς η μεροληψία στη μηχανική μάθηση μπορεί συχνά να έχει μεροληπτικές ή αρνητικές επιπτώσεις σε ορισμένους πληθυσμούς. Για ρυθμιζόμενα πλαίσια, ειδικότερα, πρέπει να λαμβάνεται υπόψη η πιθανότητα μεροληψίας στη μηχανική μάθηση.
Για παράδειγμα, η μηχανική εκμάθηση στον τραπεζικό τομέα θα μπορούσε να χρησιμοποιηθεί για την αυτόματη αποδοχή ή απόρριψη αιτούντων στεγαστικών δανείων μετά τον αρχικό έλεγχο. Ένα μοντέλο που είναι προκατειλημμένο προς μια συγκεκριμένη ομάδα υποψηφίων μπορεί κάλλιστα να έχει επιζήμια αποτελέσματα τόσο στον υποψήφιο όσο και στον οργανισμό.
Οποιαδήποτε μεροληψία διαπιστωθεί σε ένα περιβάλλον ανάπτυξης όπου οι ενέργειες μπορούν να ελέγχονται εξονυχιστικά μπορεί να οδηγήσει σε μεγάλα προβλήματα. Το μοντέλο μπορεί να μην λειτουργεί και, στα χειρότερα σενάρια, μπορεί ακόμη και να αποδειχθεί σκόπιμα μεροληπτικό.
Η μεροληψία πρέπει να αξιολογηθεί προσεκτικά και να προετοιμαστεί γιατί μπορεί να οδηγήσει στην πλήρη απομάκρυνση του μοντέλου από την ανάπτυξη. Η απόκτηση εμπιστοσύνης στις αποφάσεις μοντέλων απαιτεί κατανόηση και αντιμετώπιση της μεροληψίας μηχανικής μάθησης.
Το επίπεδο εμπιστοσύνης εντός του οργανισμού και μεταξύ των εξωτερικών καταναλωτών υπηρεσιών θα μπορούσε να επηρεαστεί από την αντιληπτή μεροληψία στη λήψη αποφάσεων για το μοντέλο. Εάν τα μοντέλα δεν είναι αξιόπιστα, ειδικά όταν καθοδηγούνται επιλογές υψηλού κινδύνου, δεν θα χρησιμοποιηθούν στο μέγιστο των δυνατοτήτων τους σε έναν οργανισμό.
Κατά την αξιολόγηση της επεξηγηματικότητας ενός μοντέλου, η λογιστική για μεροληψία πρέπει να είναι ένας παράγοντας που πρέπει να λαμβάνεται υπόψη. Η εγκυρότητα και η ακρίβεια των επιλογών μοντέλων μπορεί να επηρεαστεί σοβαρά από την ανεξέλεγκτη προκατάληψη μηχανικής μάθησης.
Περιστασιακά μπορεί να οδηγήσει σε ενέργειες που εισάγουν διακρίσεις που θα μπορούσαν να επηρεάσουν συγκεκριμένα άτομα ή ομάδες. Υπάρχουν πολυάριθμες εφαρμογές για διάφορους τύπους μοντέλων μηχανικής μάθησης και καθεμία είναι επιρρεπής σε μεροληψία μηχανικής μάθησης σε κάποιο βαθμό.
Η μεροληψία μηχανικής μάθησης απεικονίζεται από:
- Λόγω της απουσίας ποικιλίας στα δεδομένα εκπαίδευσης, οι αλγόριθμοι αναγνώρισης προσώπου μπορεί να είναι λιγότερο ακριβείς για ορισμένες φυλετικές ομάδες.
- Το πρόγραμμα θα μπορούσε να ανιχνεύσει φυλετική και έμφυλη προκατάληψη στα δεδομένα λόγω ανθρώπινης ή ιστορικής προκατάληψης.
- Με μια συγκεκριμένη διάλεκτο ή προφορά, η επεξεργασία της φυσικής γλώσσας θα μπορούσε να είναι πιο ακριβής και μπορεί να μην είναι σε θέση να επεξεργαστεί μια προφορά που υποεκπροσωπείται στα δεδομένα εκπαίδευσης.
Επίλυση Προκατάληψης στη Μηχανική Μάθηση
Η παρακολούθηση και η επανεκπαίδευση μοντέλων όταν εντοπίζεται μεροληψία είναι δύο τρόποι αντιμετώπισης της μεροληψίας μηχανικής μάθησης. Στις περισσότερες περιπτώσεις, η μεροληψία μοντέλου είναι ένδειξη μεροληψίας στα δεδομένα εκπαίδευσης ή τουλάχιστον η μεροληψία μπορεί να σχετίζεται με το στάδιο εκπαίδευσης του κύκλου ζωής της μηχανικής μάθησης.
Σε κάθε στάδιο του κύκλου ζωής του μοντέλου θα πρέπει να υπάρχουν διαδικασίες για την αντιμετώπιση της μεροληψίας ή της μετατόπισης του μοντέλου. Περιλαμβάνονται επίσης διαδικασίες για την παρακολούθηση της μηχανικής εκμάθησης μετά την ανάπτυξη. Είναι σημαντικό να ελέγχετε συχνά το μοντέλο και τα σύνολα δεδομένων για προκατάληψη.
Αυτό μπορεί να περιλαμβάνει την εξέταση ενός συνόλου δεδομένων εκπαίδευσης για να δούμε πώς οι ομάδες κατανέμονται και αντιπροσωπεύονται εκεί. Είναι δυνατό να τροποποιηθούν ή/και να βελτιωθούν σύνολα δεδομένων που δεν είναι απολύτως αντιπροσωπευτικά.
Επιπλέον, η μεροληψία θα πρέπει να λαμβάνεται υπόψη κατά την αξιολόγηση της απόδοσης του μοντέλου. Η δοκιμή της απόδοσης του μοντέλου σε διαφορετικά υποσύνολα δεδομένων μπορεί να δείξει εάν είναι προκατειλημμένο ή υπερβολικά προσαρμοσμένο σε σχέση με μια συγκεκριμένη ομάδα.
Είναι δυνατό να αξιολογηθεί η απόδοση του μοντέλου μηχανικής εκμάθησης σε ορισμένα υποσύνολα δεδομένων χρησιμοποιώντας τεχνικές διασταυρούμενης επικύρωσης. Η διαδικασία περιλαμβάνει τη διαίρεση των δεδομένων σε ξεχωριστά σύνολα δεδομένων εκπαίδευσης και δοκιμής.
Μπορείτε να εξαλείψετε την προκατάληψη στη μηχανική μάθηση με:
- Όταν είναι απαραίτητο, επανεκπαιδεύστε το μοντέλο χρησιμοποιώντας μεγαλύτερα, πιο αντιπροσωπευτικά σετ εκπαίδευσης.
- Καθιέρωση μιας διαδικασίας για την προληπτική προσοχή για μεροληπτικά αποτελέσματα και ασυνήθιστες κρίσεις.
- Η επαναστάθμιση των χαρακτηριστικών και η προσαρμογή των υπερπαραμέτρων, όπως απαιτείται, μπορεί να βοηθήσει να ληφθεί υπόψη η μεροληψία.
- Ενθάρρυνση της επίλυσης της ανακαλυφθείσας μεροληψίας μέσω ενός συνεχούς κύκλου ανίχνευσης και βελτιστοποίησης.
Συμπέρασμα
Είναι δελεαστικό να πιστεύουμε ότι μόλις εκπαιδευτεί, ένα μοντέλο μηχανικής μάθησης θα λειτουργούσε αυτόνομα. Στην πραγματικότητα, το λειτουργικό περιβάλλον του μοντέλου αλλάζει πάντα και οι διαχειριστές πρέπει να επανεκπαιδεύουν τα μοντέλα χρησιμοποιώντας νέα σύνολα δεδομένων σε τακτική βάση.
Η μηχανική μάθηση είναι επί του παρόντος μια από τις πιο συναρπαστικές τεχνολογικές δυνατότητες με πραγματικά οικονομικά οφέλη. Η μηχανική μάθηση, όταν συνδυάζεται με τεχνολογίες μεγάλων δεδομένων και την τεράστια υπολογιστική ισχύ που είναι διαθέσιμη μέσω του δημόσιου νέφους, έχει τη δυνατότητα να μεταμορφώσει τον τρόπο με τον οποίο τα άτομα αλληλεπιδρούν με την τεχνολογία, και ίσως με ολόκληρες βιομηχανίες.
Ωστόσο, όσο πολλά υποσχόμενη και αν είναι η τεχνολογία μηχανικής μάθησης, πρέπει να σχεδιαστεί προσεκτικά για να αποφευχθούν ακούσιες προκαταλήψεις. Η αποτελεσματικότητα των κρίσεων που γίνονται από τις μηχανές μπορεί να επηρεαστεί σοβαρά από την προκατάληψη, κάτι που πρέπει να λάβουν υπόψη οι προγραμματιστές μοντέλων μηχανικής μάθησης.
Αφήστε μια απάντηση