10 βήματα για να εκπαιδεύσετε την εταιρεία σας σχετικά με τη δικαιοσύνη AI

Καθώς οι εταιρείες εφαρμόζουν όλο και περισσότερο την τεχνητή νοημοσύνη, πρέπει να αντιμετωπίσουν ανησυχίες σχετικά με την εμπιστοσύνη.

Ακολουθούν 10 πρακτικές παρεμβάσεις που μπορούν να χρησιμοποιήσουν οι εταιρείες για να διασφαλίσουν τη δικαιοσύνη της τεχνητής νοημοσύνης. Περιλαμβάνουν τη δημιουργία ενός Δικαιοσύνη AI ναύλωση και εφαρμογή εκπαίδευσης και δοκιμών.

Οι τεχνολογίες που βασίζονται σε δεδομένα και η τεχνητή νοημοσύνη (AI) ενισχύουν τον κόσμο μας σήμερα - από το να προβλέψουμε πού θα προκύψει η επόμενη παραλλαγή COVID-19, μέχρι να μας βοηθήσουν να ταξιδέψουμε στην πιο αποτελεσματική διαδρομή. Σε πολλούς τομείς, το ευρύ κοινό έχει μεγάλη εμπιστοσύνη ότι οι αλγόριθμοι που τροφοδοτούν αυτές τις εμπειρίες αναπτύσσονται με δίκαιο τρόπο.

Ωστόσο, αυτή η εμπιστοσύνη μπορεί εύκολα να σπάσει. Για παράδειγμα, σκεφτείτε λογισμικό πρόσληψης ότι, λόγω των μη αντιπροσωπευτικών δεδομένων κατάρτισης, τιμωρεί τις εφαρμογές που περιέχουν τη λέξη «γυναίκες» ή ένα σύστημα βαθμολόγησης πιστοληπτικής ικανότητας που χάνει πραγματικές αποδείξεις αξιοπιστίας και, ως εκ τούτου, ορισμένες ομάδες χαμηλότερα πιστωτικά όρια ή στερούνται δανείων.

Η πραγματικότητα είναι ότι η τεχνολογία κινείται ταχύτερα από την εκπαίδευση και την κατάρτιση σχετικά με τη δικαιοσύνη AI. Οι άνθρωποι που εκπαιδεύουν, αναπτύσσουν, εφαρμόζουν και εμπορεύονται αυτές τις εμπειρίες βάσει δεδομένων συχνά δεν γνωρίζουν τις συνέπειες της σκληρής δουλειάς τους δεύτερης ή τρίτης τάξης.

Ως μέρος του Παγκόσμιου Οικονομικού Φόρουμ Παγκόσμιο μελλοντικό συμβούλιο για την τεχνητή νοημοσύνη για την ανθρωπότητα, μια ομάδα από επαγγελματίες της AI, ερευνητές και εταιρικούς συμβούλους, προτείνουμε 10 πρακτικές παρεμβάσεις για να εφαρμόσουν οι εταιρείες προκειμένου να διασφαλιστεί η δικαιοσύνη AI.

1. Αναθέστε την ευθύνη για την εκπαίδευση στην ΑΠ

Ορίστε έναν επικεφαλής αξιωματικό δεοντολογίας AI (CAIO), ο οποίος μαζί με έναν πίνακα διαλειτουργικής δεοντολογίας (συμπεριλαμβανομένων εκπροσώπων από την επιστήμη των δεδομένων, τις κανονιστικές ρυθμίσεις, τις δημόσιες σχέσεις, τις επικοινωνίες και το ανθρώπινο δυναμικό) θα πρέπει να είναι υπεύθυνοι για το σχεδιασμό και την υλοποίηση εκπαιδευτικών δραστηριοτήτων AI. Το CAIO θα πρέπει επίσης να είναι ο «διαμεσολαβητής» για το προσωπικό που θα επικοινωνήσει σε περίπτωση ανησυχίας σχετικά με τη δικαιοσύνη, καθώς και εκπρόσωπος του μη τεχνικού προσωπικού. Στην ιδανική περίπτωση, αυτός ο ρόλος πρέπει να αναφέρεται απευθείας στον Διευθύνοντα Σύμβουλο για προβολή και εφαρμογή.

2. Ορίστε τη δικαιοσύνη για τον οργανισμό σας

Αναπτύξτε ένα πρότυπο χάρτη δικαιοσύνης AI και, στη συνέχεια, ρωτήστε όλα τα τμήματα που χρησιμοποιούν ενεργά το AI για να το ολοκληρώσουν στο περιβάλλον τους. Αυτό ισχύει ιδιαίτερα για τους διευθυντές επιχειρηματικών γραμμών και τους κατόχους προϊόντων και υπηρεσιών.

3. Εξασφαλίστε δίκαιη τεχνητή νοημοσύνη κατά μήκος της αλυσίδας εφοδιασμού

Απαιτήστε προμηθευτές που χρησιμοποιείτε που έχουν ενσωματωμένο AI στα προμηθευμένα προϊόντα και υπηρεσίες τους - για παράδειγμα μια εταιρεία πρόσληψης που θα μπορούσε να χρησιμοποιήσει AI για έλεγχο υποψηφίων - για να συμπληρώσει επίσης έναν χάρτη δικαιοσύνης AI και να συμμορφωθεί με τις εταιρικές πολιτικές σχετικά με τη δικαιοσύνη AI. Αυτό είναι ιδιαίτερα σημαντικό για τη λειτουργία προμηθειών και για τους προμηθευτές.

4. Εκπαιδεύστε το προσωπικό και τα ενδιαφερόμενα μέρη μέσω της κατάρτισης και μιας προσέγγισης «μάθετε με πράξη»

Απαίτηση υποχρεωτικής εκπαίδευσης και πιστοποίησης για όλους τους υπαλλήλους σχετικά με τις αρχές δικαιοσύνης της τεχνητής νοημοσύνης - παρόμοιο με το πώς απαιτείται από το προσωπικό να εγγραφεί σε κώδικες επιχειρηματικής συμπεριφοράς. Για τεχνικό προσωπικό, παρέχετε εκπαίδευση σχετικά με τον τρόπο κατασκευής μοντέλων που δεν παραβιάζουν τις αρχές της δικαιοσύνης. Όλα τα εκπαιδευτικά προγράμματα θα πρέπει να αξιοποιήσουν τις γνώσεις από τους ναυλωτές δικαιοσύνης AI για να αντιμετωπίσουν άμεσα ζητήματα που αντιμετωπίζει η εταιρεία. Βεβαιωθείτε ότι το περιεχόμενο του μαθήματος ελέγχεται τακτικά από το συμβούλιο δεοντολογίας.

5. Δημιουργήστε ένα πρόγραμμα ανθρωπίνων δικαιοσύνης ανθρώπινου δυναμικού

Ένα σχέδιο αξιοπιστίας HR AI θα πρέπει να περιλαμβάνει μια ετήσια ανασκόπηση από τον HR για την αξιολόγηση της ποικιλομορφίας της ομάδας που εργάζεται σε τεχνολογίες που βασίζονται σε δεδομένα και την τεχνητή νοημοσύνη, καθώς και μια ρητή ανασκόπηση και αναβάθμιση των ικανοτήτων και δεξιοτήτων που διαφημίζονται επί του παρόντος για βασική ανάπτυξη προϊόντων σχετικών με την AI ρόλοι (όπως ιδιοκτήτης προϊόντος, επιστήμονας δεδομένων και μηχανικός δεδομένων) για να διασφαλιστεί η συνειδητοποίηση της δικαιοσύνης αποτελεί μέρος της περιγραφής της εργασίας.

6. Δοκιμάστε τη δικαιοσύνη AI πριν ξεκινήσει οποιαδήποτε τεχνολογία

Απαιτήστε από τα τμήματα και τους προμηθευτές να εκτελέσουν και να δημοσιεύσουν εσωτερικά τεστ αποτελεσμάτων δικαιοσύνης προτού επιτραπεί ο ζωντανός αλγόριθμος AI Μόλις μάθετε ποιες ομάδες ενδέχεται να αντιμετωπίζονται άδικα λόγω προκατάληψης δεδομένων, προσομοιώστε τους χρήστες από αυτήν την ομάδα και παρακολουθήστε τα αποτελέσματα. Αυτό μπορεί να χρησιμοποιηθεί από τις ομάδες προϊόντων για να επαναλάβει και να βελτιώσει το προϊόν ή την υπηρεσία τους προτού κυκλοφορήσει. Εργαλεία ανοιχτού κώδικα, όπως Microsoft Fairlearn, μπορεί να βοηθήσει στην παροχή της ανάλυσης για ένα τεστ αποτελεσμάτων δικαιοσύνης.

7. Ανακοινώστε την προσέγγισή σας στην δικαιοσύνη AI

Ρυθμίστε συνεδρίες μάθησης αποτελεσμάτων δικαιοσύνης με το προσωπικό που απευθύνεται στον πελάτη και στο κοινό για να περάσετε από τις δοκιμές αποτελεσμάτων δικαιοσύνης για οποιοδήποτε νέο ή ενημερωμένο προϊόν ή υπηρεσία. Αυτό ισχύει ιδιαίτερα για το μάρκετινγκ και τις εξωτερικές επικοινωνίες, καθώς και για ομάδες εξυπηρέτησης πελατών.

8. Αφιερώστε ένα μόνιμο στοιχείο στις συνεδριάσεις του διοικητικού συμβουλίου στις διαδικασίες δικαιοσύνης AI

Αυτή η συζήτηση θα πρέπει να περιλαμβάνει την αναφορά σχετικά με την πρόοδο και την τήρηση, τα θέματα που τέθηκαν από τον επικεφαλής υπεύθυνο δεοντολογίας και το διοικητικό συμβούλιο δεοντολογίας και τα αποτελέσματα των τεστ αποτελεσμάτων δικαιοσύνης υψηλής προτεραιότητας

9. Βεβαιωθείτε ότι η εκπαίδευση κολλάει

Παρακολουθήστε τακτικά και αναφέρετε τη συμμετοχή και την ολοκλήρωση των δραστηριοτήτων δικαιοσύνης AI, μαζί με τον αποδεδειγμένο αντίκτυπο της διαχείρισης της δικαιοσύνης όσον αφορά την πραγματική επιχειρηματική αξία. Δώστε αυτές τις ενημερώσεις σε διευθυντές τμημάτων και γραμμών για να επικοινωνήσετε με το προσωπικό για να ενισχύσετε ότι κάνοντας τις πλατφόρμες και το λογισμικό AI πιο δίκαιες, ο οργανισμός είναι πιο αποτελεσματικός και παραγωγικός.

10. Καταγράψτε τα πάντα

Τεκμηριώστε την προσέγγισή σας στην δικαιοσύνη AI και επικοινωνήστε με την εκπαίδευση προσωπικού και προμηθευτών και εκδηλώσεων υψηλού προφίλ, συμπεριλαμβανομένων για πελάτες και επενδυτές.

[Αυτή η ιστορία αρχικά εμφανίστηκε 10 βήματα για να εκπαιδεύσετε την εταιρεία σας σχετικά με τη δικαιοσύνη AI | Παγκόσμιο Οικονομικό Φόρουμ (weforum.org). Πνευματικά δικαιώματα 2021.]

Νάντζια Γιουσιφ είναι Διευθύνων Σύμβουλος και Συνεργάτης στο Boston Consulting Group και καθοδηγεί την πρακτική των χρηματοπιστωτικών ιδρυμάτων για το Ηνωμένο Βασίλειο την Ολλανδία και το Βέλγιο.

Μαρκ Μίνβιτς είναι Πρόεδρος της Πολιτικής Τεχνητής Νοημοσύνης στο Διεθνές Κέντρο Έρευνας για την Τεχνητή Νοημοσύνη υπό την αιγίδα της UNESCO, Ινστιτούτο Jozef Stefan.