Αμφισβητήσιμες πρακτικές σε ορισμένους αυτόνομους κατασκευαστές αυτοκινήτων AI που προκαλούν Whistleblower 

Από τον Lance Eliot, το AI Trends Insider 

Υπάρχει το παλιό ρητό ότι δεν πρέπει να κοιτάζετε στην κουζίνα όταν πηγαίνετε σε μερικά εστιατόρια ή εστιατόρια για να φάτε κάτι. Όταν βλέπετε πώς προετοιμάζεται το φαγητό, μπορεί απλώς να σας κάνει να αρρωστήσετε στο στομάχι σας.  

Μπορείτε να εφαρμόσετε αυτόν τον κανόνα σε σχεδόν οποιαδήποτε οντότητα που παράγει οποιοδήποτε είδος προϊόντος. Φανταστείτε αν μια τοστιέρα κατασκευαζόταν με ελαττωματικό τρόπο και ήταν πιθανό να πάρει φωτιά όταν τεθεί σε χρήση. Αναμφίβολα θα καλοδεχόμασταν να εμφανιστεί εκ των προτέρων κάποιος που εργαζόταν στην εταιρεία που φτιάχνει την τοστιέρα.   

Τα σύνθετα προϊόντα είναι ιδιαίτερα περιπτώσεις που ελπίζουμε ότι κάποιος εμπιστευόμενος θα εμφανιστεί. Το αυτοκίνητό σας για παράδειγμα είναι ένα αρκετά περίπλοκο προϊόν. Περιέχει χιλιάδες χιλιάδες εξαρτήματα. Η αυτοκινητοβιομηχανία είχε μερικές αξιοσημείωτες περιπτώσεις εμπιστευτικών πληροφοριών που βοήθησαν στην αποκάλυψη σοβαρών εσωτερικών ζητημάτων σχετικά με την παραγωγή αυτοκινήτων.   

Συνολικά, σίγουρα θα ήταν ωραίο να μιλήσει κάποιος από μέσα και να προσπαθήσει να διορθώσει ένα πρόβλημα στα παρασκήνια, ιδιαίτερα όταν είναι επικίνδυνο. 

Ένα τέτοιο άτομο που μιλάει αναφέρεται συνήθως ως καταγγέλλων. 

Ίσως γνωρίζετε αόριστα ότι ο Ralph Nader τις δεκαετίες του 1960 και του 1970 βοήθησε στη διάδοση της συνθηματικής φράσης του πληροφοριοδότη κατά τη διάρκεια των ακτιβιστικών του προσπαθειών. Μέχρι εκείνη τη στιγμή, η ιδέα να μιλήσουμε ανοιχτά για ένα εσωτερικό ζήτημα ήταν αποκρουστική. Οι εργαζόμενοι γενικά αναμενόταν να είναι άγρια ​​πιστοί στον εργοδότη τους και να μην τολμούν να μιλήσουν από τη σειρά τους. Στην πραγματικότητα, μέχρι σήμερα, μερικές φορές ένας πληροφοριοδότης εξοστρακίζεται και χαρακτηρίζεται ως αρουραίος ή μοχθηρός για τις προσπάθειές του.   

Για να διευκρινίσουμε, δεν έχουν δίκιο όλοι οι πληροφοριοδότες για αυτό που αναφέρουν. Υπάρχουν περιπτώσεις που ένας πληροφοριοδότης μπορεί να κάνει λάθος σχετικά με αυτό που αντιλαμβάνεται ως πρόβλημα. Μπορεί να παρερμηνεύσουν τα πράγματα. Μπορεί να υπερδιογκώσουν την ανησυχία. Δεν μπορείτε να υποθέσετε κενά ότι ένας πληροφοριοδότης είναι τέλειος στους στόχους του. Μερικές φορές, ένας πληροφοριοδότης μπορεί να τρέφει προσωπικές προκαταλήψεις και να επιδιώκει κάποια μορφή στρεβλή εκδίκηση ή να έχει στο μυαλό του άλλα ανάρμοστα κίνητρα.   

Αλλά αυτό επίσης δεν σημαίνει ότι ο καταγγέλλων θα πρέπει να χρωματίζεται αξιωματικά ως κακό περιεχόμενο, απλώς και μόνο επειδή ενεργεί ως πληροφοριοδότης. Καθόλου.   

Η μετάβαση στη διαδρομή του καταγγέλλοντος μπορεί να είναι επίπονη και καταστροφική με πολλούς τρόπους. Ένα άτομο μπορεί να χαρακτηριστεί ως είδος προδότης και να αμαυρωθεί για πάντα, όπου κι αν πηγαίνει και οτιδήποτε άλλο στη ζωή που προσπαθούν να κάνουν. Το να αποφασίσετε να γίνετε καταγγέλλοντες απαιτεί κάποια έντονη σκέψη, προσπαθώντας να εξισορροπήσετε μια προσωπική αίσθηση ηθικών κωδίκων έναντι της δυνατότητας να γίνετε γνωστοί ως πληροφοριοδότες ή τατουάζ.   

Μπορούμε να είμαστε ευγνώμονες για εκείνους τους καταγγέλλοντες που επέλεξαν να κάνουν το σωστό, παρά τα προσωπικά κόστη, και έχουν εκθέσει ουσιαστικά προβλήματα που διαφορετικά δεν θα είχαν πάρει το φως της ημέρας. Και, σε πολλές τέτοιες περιπτώσεις, αυτοί οι τύποι προβληματικών προβλημάτων ήταν ήδη αναπόσπαστοι για να βλάψουν εκείνους που χρησιμοποιούν το προϊόν ή θα μπορούσαν ενδεχομένως να το πράξουν στο μέλλον. Ο καταγγέλλων μπόρεσε να ξεκινήσει μια αλυσίδα γεγονότων που τελικά μείωσε ή μείωσε αυτά τα δυσάρεστα ή απολύτως λυπηρά αποτελέσματα.   

Πώς προέρχεται ο καταγγέλλων και ουσιαστικά φυσάει τη σφύρα, όπως ήταν;   

Συνήθως υπάρχουν δύο δρόμοι για τον καταγγέλλοντα να γνωστοποιήσει τα εσωτερικά ζητήματα που πιστεύουν ότι είναι ανεπιθύμητα. 

Μια προσέγγιση είναι να είναι ο λεγόμενος εσωτερικός αναφέρων whistleblower, πράγμα που γενικά σημαίνει ότι το άτομο που κάνει την καταγγελία κάνει αυτό εντός των ορίων της οντότητας στην οποία εργάζεται. Μπορεί να φέρουν τις ανησυχίες τους στον επόπτη ή τον διαχειριστή τους. Ίσως η εταιρεία να έχει μια τυποποιημένη διαδικασία καταγγελίας πληροφοριών που συνεπάγεται την υποβολή εγγράφου σχετικά με την ασφάλεια. Και ούτω καθεξής. 

Η άλλη προσέγγιση είναι η εξωτερική αποκάλυψη πληροφοριοδότη. Αυτό συμβαίνει όταν ένα άτομο που είναι ή ήταν ένας εμπιστευτής επιλέγει να πει εξωτερικά για τις εσωτερικές πτυχές που θεωρούν ως ενοχλητικές. Το άτομο μπορεί να πει στους δημοσιογράφους για το τι συμβαίνει. Το άτομο μπορεί να αποφασίσει να μιλήσει με τρίτο φορέα προστασίας καταναλωτών. Και τα λοιπά. 

Νωρίτερα, ανέφερα ότι τα αυτοκίνητα και η αυτοκινητοβιομηχανία είχαν διάφορους καταγγέλλοντες. 

Στις Ηνωμένες Πολιτείες, ο Νόμος για την Ασφάλεια Οχημάτων (VSA) χρησιμεύει ως η γενική κατευθυντήρια γραμμή σχετικά με τις καταγγελίες και τους καταγγέλλοντες στο πλαίσιο των εκτιμήσεων σχετικά με τα οχήματα. Ακολουθεί ο επίσημος ορισμός της VSA σχετικά με το τι ακριβώς είναι ένας πληροφοριοδότης: «Ο όρος «whistleblower» σημαίνει οποιονδήποτε υπάλληλο ή εργολάβο κατασκευαστή αυτοκινήτων οχημάτων, προμηθευτή ανταλλακτικών ή αντιπροσωπεία που παρέχει εθελοντικά στον Γραμματέα πρωτότυπες πληροφορίες σχετικά με οποιοδήποτε μηχανοκίνητο όχημα ελάττωμα, μη συμμόρφωση ή οποιαδήποτε παραβίαση ή εικαζόμενη παραβίαση οποιασδήποτε απαίτησης ειδοποίησης ή αναφοράς αυτού του κεφαλαίου, η οποία είναι πιθανό να προκαλέσει αδικαιολόγητο κίνδυνο θανάτου ή σοβαρού σωματικού τραυματισμού» (ως δευτερεύουσα σημείωση, ο Γραμματέας που αναφέρεται είναι ο Γραμματέας Μεταφορών ). 

Η συνήθης διαδρομή για ένα πληροφοριοδότη που σχετίζεται με αυτοκίνητο που πρόκειται να αποκαλύψει ένα ζήτημα θα ήταν να επικοινωνήσετε με το NHTSA (National Highway Traffic Safety Administration) που είναι γραφείο του Υπουργείου Μεταφορών των ΗΠΑ (US DOT). Η δηλωμένη αποστολή του NHTSA είναι να σώσει ζωές, να αποτρέψει τραυματισμούς και να μειώσει τα ατυχήματα που σχετίζονται με οχήματα στις Ηνωμένες Πολιτείες.   

Σύμφωνα με τον ιστότοπο που περιγράφει αναλυτικά το πρόγραμμα πληροφοριοδοτών της NHTSA: «Οι πληροφοριοδότες είναι μια σημαντική πηγή πληροφοριών για την NHTSA σχετικά με πιθανά προβλήματα ασφάλειας οχημάτων και παραβιάσεις του νόμου. Ο Νόμος για την Ασφάλεια Οχημάτων προστατεύει το απόρρητο των καταγγελιών και επιτρέπει στην NHTSA να καταβάλει χρηματικό βραβείο σε έναν πληροφοριοδότη του οποίου οι πληροφορίες οδηγούν στην επιτυχή επίλυση μιας εκτελεστικής πράξης για παραβιάσεις του νόμου.» 

Υπάρχει μια μεγάλη ποικιλία αποχρώσεων στο πρόγραμμα πληροφοριοδοτών. Εάν εσείς ή κάποιος που γνωρίζετε σκέφτεται να γίνετε πληροφοριοδότης που σχετίζεται με ένα θέμα αυτοκινήτου, φροντίστε να ενημερωθείτε για το θέμα. Καλύτερα να κοιτάξεις πριν πηδήξεις. Επιπλέον, όπως αναφέρεται στο VSA: «Ένας πληροφοριοδότης μπορεί να εκπροσωπείται από δικηγόρο».   

Όσον αφορά το εύρος του τι θα μπορούσε να θεωρηθεί ότι δικαιολογείται η υποβολή καταγγελιών, ακολουθεί αυτό που δείχνει ο ιστότοπος της NHTSA: «Το NHTSA λαμβάνει πληροφορίες από καταγγελίες πληροφοριών για ένα ευρύ φάσμα θεμάτων, συμπεριλαμβανομένων πιθανών ελαττωμάτων ασφάλειας των οχημάτων, μη συμμόρφωσης με τα ομοσπονδιακά πρότυπα ασφάλειας οχημάτων, και παραβιάσεις του νόμου για την ασφάλεια του οχήματος. Οι ερευνητές του NHTSA εξετάζουν πληροφορίες που παρέχονται από καταγγελίες, οι οποίες μπορεί να οδηγήσουν σε επίσημες ενέργειες όπως έρευνα, ανάκληση ή δράση επιβολής ποινικών κυρώσεων. Το NHTSA προστατεύει την εμπιστευτικότητα των καταγγελτών. Το NHTSA μπορεί να καταβάλει χρηματικό έπαθλο σε έναν καταγγέλλοντα που παρέχει πληροφορίες που οδηγούν στην επιτυχή επίλυση μιας δράσης επιβολής για παραβιάσεις του νόμου. "   

Μπορεί να νομίζετε ότι η καταγγελία για αυτοκίνητα είναι ένα κάπως χαζό θέμα. Οι καταγγελίες για αυτοκίνητα γίνονται εδώ και χρόνια.   

Λοιπόν, υπάρχει κάτι νέο που πρέπει να λάβετε υπόψη.   

Το μέλλον των αυτοκινήτων αποτελείται από πραγματικά ατομικά αυτοκίνητα που βασίζονται σε AI. 

Επιτρέψτε μου μια στιγμή να επεξεργαστώ.   

Δεν υπάρχει ανθρώπινος οδηγός που να εμπλέκεται σε ένα αληθινό αυτο-οδήγηση αυτοκινήτου. Λάβετε υπόψη ότι τα αληθινά αυτοκινούμενα αυτοκίνητα οδηγούνται μέσω ενός συστήματος οδήγησης AI. Δεν υπάρχει ανάγκη για ανθρώπινο οδηγό στο τιμόνι, ούτε υπάρχει πρόβλεψη για τον άνθρωπο να οδηγεί το όχημα. 

Ακολουθεί μια ενδιαφέρουσα ερώτηση που αξίζει να αναλογιστούμε: Θα δούμε τους καταγγέλλοντες πληροφορίες σχετικά με την εμφάνιση πραγματικών αυτοκινούμενων αυτοκινήτων που βασίζονται σε τεχνητές νοημοσύνες και αν ναι, τι αντίκτυπο θα περιμέναμε;   

Πριν προχωρήσω στις λεπτομέρειες, θα ήθελα να διευκρινίσω περαιτέρω τι εννοεί όταν αναφέρομαι σε αληθινά αυτοκινούμενα αυτοκίνητα. 

Για το πλαίσιο για τα αυτόνομα αυτοκίνητα AI, δείτε τον σύνδεσμο εδώ: https://aitrends.com/ai-insider/framework-ai-self-driving-driverless-cars-big-picture/   

Γιατί αυτή είναι μια τεράστια προσπάθεια, δείτε την εξήγησή μου εδώ: https://aitrends.com/ai-insider/self-driving-car-mother-ai-projects-moonshot/   

Για περισσότερα σχετικά με τα επίπεδα ως τύπος κλίμακας Ρίχτερ, δείτε τη συζήτησή μου εδώ: https://aitrends.com/ai-insider/richter-scale-levels-self-driving-cars/ 

Για το επιχείρημα σχετικά με τη διακλάδωση των επιπέδων, δείτε την εξήγησή μου εδώ: https://aitrends.com/ai-insider/reframing-ai-levels-for-self-driving-cars-bifurcation-of-autonomy/   

Κατανόηση των επιπέδων Αυτοκινήτων Αυτοκινήτων 

Ως διευκρίνιση, τα αληθινά αυτοκινούμενα αυτοκίνητα είναι εκείνα όπου το AI οδηγεί το αυτοκίνητο εξ ολοκλήρου μόνο του και δεν υπάρχει ανθρώπινη βοήθεια κατά τη διάρκεια της οδήγησης. 

Αυτά τα οχήματα χωρίς οδηγό θεωρούνται Επίπεδο 4 και Επίπεδο 5, ενώ ένα αυτοκίνητο που απαιτεί έναν ανθρώπινο οδηγό να μοιράζεται την προσπάθεια οδήγησης θεωρείται συνήθως στο Επίπεδο 2 ή στο Επίπεδο 3. Τα αυτοκίνητα που μοιράζονται την εργασία οδήγησης περιγράφονται ως ημι -Αυτόνομο και συνήθως περιέχει μια ποικιλία αυτοματοποιημένων πρόσθετων που αναφέρονται ως ADAS (Advanced Driver-Assistance Systems).   

Δεν υπάρχει ακόμη ένα αληθινό αυτοκίνητο αυτο-οδήγησης στο Επίπεδο 5, το οποίο δεν γνωρίζουμε ακόμη και αν αυτό θα είναι δυνατό να επιτευχθεί και ούτε πόσο θα χρειαστεί να φτάσουμε εκεί.   

Εν τω μεταξύ, οι προσπάθειες του επιπέδου 4 προσπαθούν σταδιακά να προσελκύσουν την ύπαρξη πολύ στενών και επιλεκτικών δημόσιων δοκιμών στο δρόμο, αν και υπάρχει διαμάχη για το κατά πόσον αυτή η δοκιμή πρέπει να επιτρέπεται καθεαυτή (είμαστε όλοι πειραματόζωα σε ζωή ή θάνατο σε ένα πείραμα που λαμβάνουν χώρα στους αυτοκινητόδρομους και τους παρακαμπτήριους, ορισμένοι υποστηρίζουν). 

Δεδομένου ότι τα ημι-αυτόνομα αυτοκίνητα απαιτούν ανθρώπινο οδηγό, η υιοθέτηση αυτών των τύπων αυτοκινήτων δεν θα είναι σημαντικά διαφορετική από την οδήγηση συμβατικών οχημάτων, οπότε δεν υπάρχουν πολλά καινούργια καθαρά για αυτά σχετικά με αυτό το θέμα (ωστόσο, όπως θα δείτε σε λίγο, τα επόμενα σημεία είναι γενικά εφαρμόσιμα).  

Για τα ημι-αυτόνομα αυτοκίνητα, είναι σημαντικό το κοινό να προειδοποιείται για μια ενοχλητική πτυχή που έχει προκύψει πρόσφατα, συγκεκριμένα ότι παρά τους ανθρώπους που συνεχίζουν να δημοσιεύουν βίντεο που κοιμούνται στο τιμόνι ενός αυτοκινήτου Level 2 ή Level 3 , όλοι πρέπει να αποφύγουμε να παραπλανηθούμε στο να πιστεύουμε ότι ο οδηγός μπορεί να αφαιρέσει την προσοχή του από το καθήκον οδήγησης κατά την οδήγηση ενός ημι-αυτόνομου αυτοκινήτου.   

Είστε ο υπεύθυνος για τις ενέργειες οδήγησης του οχήματος, ανεξάρτητα από το πόσο αυτοματοποίηση μπορεί να πεταχτεί σε Επίπεδο 2 ή Επίπεδο 3.   

Γιατί αποφεύγεται η απομακρυσμένη πλοήγηση ή η λειτουργία αυτοκινούμενων αυτοκινήτων, δείτε την εξήγησή μου εδώ: https://aitrends.com/ai-insider/remote-piloting-is-a-self-driving-car-crutch/   

Για να είστε προσεκτικοί με ψεύτικες ειδήσεις σχετικά με τα αυτοκίνητα αυτο-οδήγησης, δείτε τις συμβουλές μου εδώ: https://aitrends.com/ai-insider/ai-fake-news-about-self-driving-cars/   

Οι ηθικές επιπτώσεις των συστημάτων οδήγησης AI είναι σημαντικές, δείτε την ένδειξή μου εδώ: https://aitrends.com/selfdrivingcars/ethically-ambiguous-self-driving-cars/   

Λάβετε υπόψη τις παγίδες της ομαλοποίησης της απόκλισης όταν πρόκειται για αυτοκινούμενα αυτοκίνητα, εδώ είναι το κάλεσμα μου για όπλα: https://aitrends.com/ai-insider/normalization-of-deviance-endangers-ai-self-driving-cars/ 

Αυτοκίνητα Αυτοκίνητα και Καταγγελίες   

Για τα πραγματικά οχήματα επιπέδου 4 και επιπέδου 5, δεν θα υπάρχει ανθρώπινος οδηγός που θα εμπλέκεται στην οδήγηση. Όλοι οι επιβάτες θα είναι επιβάτες. το AI κάνει την οδήγηση.   

Μία πτυχή για άμεση συζήτηση συνεπάγεται το γεγονός ότι η AI που εμπλέκεται στα σημερινά συστήματα οδήγησης AI δεν είναι αισιόδοξη. Με άλλα λόγια, η τεχνητή νοημοσύνη είναι συνολικά μια ομάδα προγραμματισμού και αλγορίθμων που βασίζονται σε υπολογιστή και σίγουρα δεν είναι σε θέση να αιτιολογήσει με τον ίδιο τρόπο που οι άνθρωποι μπορούν. 

Γιατί αυτό έδωσε έμφαση στο ότι η AI δεν είναι αισιόδοξη; 

Επειδή θέλω να υπογραμμίσω ότι κατά τη συζήτηση του ρόλου του συστήματος οδήγησης AI, δεν αποδίδω ανθρώπινες ιδιότητες στο AI. Λάβετε υπόψη ότι υπάρχει μια συνεχιζόμενη και επικίνδυνη τάση αυτές τις μέρες να ανθρωπομορφώνεται η AI. Ουσιαστικά, οι άνθρωποι αποδίδουν ανθρώπινη αίσθηση στη σημερινή AI, παρά το αναμφισβήτητο και αναμφισβήτητο γεγονός ότι δεν υπάρχει τέτοια AI.   

Με αυτήν την αποσαφήνιση, μπορείτε να φανταστείτε ότι το σύστημα οδήγησης AI δεν θα “ξέρει” εγγενώς για τις πτυχές της οδήγησης. Η οδήγηση και όλα όσα συνεπάγεται θα πρέπει να προγραμματιστούν ως μέρος του υλικού και του λογισμικού του αυτοκινούμενου αυτοκινήτου.   

Ας δούμε τις μυριάδες πτυχές που έρχονται να παίξουν σε αυτό το θέμα.   

Ίσως να σοκαριστείτε όταν πιστεύετε ότι θα υπήρχε οποιοδήποτε είδος καταγγελίας που σχετίζεται με αυτοκίνητα αυτο-οδήγησης. 

Οι περισσότεροι άνθρωποι τείνουν να υποθέτουν ότι οι εσωτερικές προσπάθειες για την ανάπτυξη αυτών των υπερσύγχρονων συστημάτων τεχνητής νοημοσύνης και τη δημιουργία ενός αυτοκινούμενου αυτοκινήτου γίνονται με τις υψηλότερες και καλύτερες προθέσεις. Μερικοί παρομοιάζουν την προσπάθεια προσγείωσης στο φεγγάρι, μια μάλλον δέος φιλοδοξία.   

Σίγουρα, ό,τι συμβαίνει στα παρασκήνια με την κατασκευή αυτοοδηγούμενων αυτοκινήτων είναι τελείως αυθόρμητα. Κανείς δεν θα επιδίωκε να παράγει ένα αυτοοδηγούμενο αυτοκίνητο που να είναι επικίνδυνο. Επιπλέον, η ελπίδα είναι ότι τα αυτόνομα αυτοκίνητα θα δημιουργήσουν μια εποχή κινητικότητας για όλους, επιτρέποντας σε όσους δεν έχουν εύκολα πρόσβαση στη μεταφορά αυτοκινήτων σήμερα να έχουν απρόσκοπτη πρόσβαση στην πανταχού παρούσα κινητικότητα. Και υπάρχει επίσης η πεποίθηση ότι τα αυτοοδηγούμενα αυτοκίνητα θα μειώσουν δραματικά τον αριθμό των ανθρώπινων τραυματισμών και θανάτων λόγω ατυχημάτων που οδηγούνται από ανθρώπους.   

Λοιπόν, δεν θέλω να σας σοκάρω, αλλά αυτό που συμβαίνει στην κουζίνα έχει τη δυνατότητα να σερβίρει ένα γεύμα που μπορεί να βλάψει τους ανθρώπους. 

Κάποιες προσπάθειες αυτοοδηγούμενων οχημάτων κόβουν τις στροφές, προσπαθούν να κάνουν την επείγουσα προσφορά της ανώτερης διοίκησης και δεν μπορούν να πραγματοποιήσουν τόσο διπλό και τριπλό έλεγχο, όσο πιστεύουν ότι είναι απαραίτητο. Ομοίως, υπάρχουν άτομα στην ανώτερη διοίκηση που αγνοούν την έλλειψη προσοχής στη λεπτομέρεια και την παράλειψη ή την παράλειψη πτυχών ποιότητας ασφάλειας κατά τη διάρκεια των δραστηριοτήτων ανάπτυξης αυτοοδηγούμενων αυτοκινήτων στις ομάδες ανάπτυξής τους.   

Λειτουργεί αμφότερα.   

Λάβετε υπόψη ότι συνεχίζεται ένας αγώνας ειδών. 

Ποιος θα αποκτήσει πρώτα αληθινά αυτοκίνητα αυτο-οδήγησης;   

Προκειμένου να φτάσει στο φεγγάρι, πολλά οδηγούν στον πρώτο για να κάνουν αυτό το αυτοκινούμενο αυτοκίνητο ένα «τεράστιο άλμα» για την ανθρωπότητα. Δισεκατομμύρια σε δισεκατομμύρια δολάρια χύνονται σε αυτές τις μπερδεμένες προσπάθειες. Δεν υπάρχουν σχεδόν καθόλου έσοδα από τις προσπάθειες αυτο-οδήγησης αυτοκινήτου. Τα χρήματα εισέρχονται και υπάρχει μια προσδοκία ότι θα προκύψει κάτι θαυματουργό.   

Κάτω από αυτό το είδος πίεσης, μπορείτε να φανταστείτε ότι ορισμένα στοιχεία μπορεί να υποχωρήσουν σε μια προσπάθεια να προχωρήσουν. Οι ανησυχίες σχετικά με τις πτυχές ασφάλειας μπορούν κατά καιρούς να τοποθετηθούν στο πίσω μέρος του καυστήρα. Τα χαρακτηριστικά του συστήματος οδήγησης τεχνητής νοημοσύνης που φαίνονται καθοριστικά μπορούν να τοποθετηθούν στην υπάρχουσα λίστα περιβλημάτων ακμών ή γωνιών, πράγμα που σημαίνει ότι αυτές είναι δυνατότητες που υποτίθεται ότι μπορούν να αντιμετωπιστούν αργότερα.   

Αυτό δεν υποδηλώνει ότι κάτι τέτοιου είδους είναι κατά κάποιο τρόπο αχαλίνωτο ή βρίσκεται παντού. Αυτό θα ήταν εντελώς άδικο για όλους εκείνους που αγωνίζονται δυναμικά να παράγουν αυτοκίνητα αυτόνομης οδήγησης. Αυτοί είναι οι ήρωες που αγωνίζονται δυναμικά, κάθε μέρα, με στόχο να φέρουν στον κόσμο αυτοοδηγούμενα αυτοκίνητα, και με αυτόν τον τρόπο να φτάσουν σε αυτά τα ιδανικά που αναφέρθηκαν προηγουμένως.   

Επίσης, όπως έχω αναφέρει επανειλημμένα στις στήλες μου, τα τελευταία αρκετά χρόνια οι αυτοκινητοβιομηχανίες και οι αυτοοδηγούμενες αυτοκινητοβιομηχανίες έχουν υιοθετήσει πολύ πιο ισχυρή στάση απέναντι στην ασφάλεια. Αυτό περιλαμβάνει την πρόσληψη εμπειρογνωμόνων υψηλού προφίλ στην ασφάλεια αυτοκινήτων και την έναρξη σημαντικών και ουσιαστικών εσωτερικών προσπαθειών για την ενίσχυση της κατανόησης του τι συνίσταται η ασφάλεια. Επιπλέον, πολλές από τις αυτοοδηγούμενες εταιρίες αυτοκινήτων διαθέτουν πλέον εσωτερικά προγράμματα «whistleblower», που συνήθως επινοούνται πιο ξεκάθαρα ως προγράμματα αναφοράς ασφάλειας, που έχουν ως στόχο να κάνουν τους εμπιστευόμενους να εμφανιστούν όταν βλέπουν κάτι που αντιλαμβάνονται ως απαράδεκτο. 

Η φαινομενική ανησυχία είναι ότι υπάρχουν πραγματικές πιθανότητες σε μια τέτοια ατμόσφαιρα υψηλής πίεσης από ένα κακό μήλο εδώ ή εκεί. Για να καταστεί σαφές, δεν είναι απαραίτητα το γεγονός ότι ένα κακόβουλο άτομο πρόκειται να φυτέψει κάτι κακό σε ένα σύστημα οδήγησης AI (ωστόσο, αυτό μπορεί να συμβεί). Όταν οι προγραμματιστές τεχνητής νοημοσύνης τρέχουν με πλήρη ταχύτητα, υπάρχει πιθανότητα να χάσουν κάποιες σημαντικές διασφαλίσεις ή να μην έχουν τα σωστά εργαλεία ανάπτυξης ή να είναι συντριπτικοί και ανεπαρκείς.   

Συνολικά, το αποτέλεσμα μπορεί να είναι ότι ένα κρυφό σφάλμα ή πρόβλημα έχει εισέλθει στο σύστημα οδήγησης AI. Όχι απαραίτητα σκόπιμα. Ακριβώς επειδή δεν υπάρχουν επαρκείς έλεγχοι και υπόλοιπα και άλλες επιπλοκές.   

Όταν ένα αυτοοδηγούμενο αυτοκίνητο έχει έναν εφεδρικό άνθρωπο οδηγό στο όχημα, η πεποίθηση είναι ότι αυτό είναι αρκετό για να συλλάβει τυχόν δυσάρεστες ενέργειες που μπορεί να κάνει το σύστημα οδήγησης AI. Με αυτόν τον τρόπο σκέψης, είναι σαν να έχετε έναν γευσιγνώστη που κάθεται στο τραπέζι της τραπεζαρίας σας. Το άτομο υποτίθεται ότι πιάνει οτιδήποτε μπορεί να παρασύρει τα πράγματα.   

Όπως αναφέρθηκε στις στήλες μου, δεν πιστεύουν όλοι ότι αυτός είναι ένας σωστός τρόπος αντιμετώπισης προβλημάτων και ορισμένοι αποδοκιμάζουν ότι η χρήση των δημόσιων δρόμων με αυτόν τον τρόπο είναι εντελώς ακατάλληλη. Αν χρησιμοποιούμε την αναλογία ενός γευσιγνώστη, είναι σαν να τρώει ο γευσιγνώστης το γεύμα την ίδια στιγμή που ένα άτομο τρώει στο γεύμα. Δεν είναι μια ικανοποιητική μορφή ασφάλειας για το άτομο που τρώει ταυτόχρονα κάτι που μπορεί να είναι τοξικό φαγητό. Ουσιαστικά, ο εφεδρικός οδηγός μπορεί να μην συλλάβει εγκαίρως μια δυσάρεστη οδήγηση και το όχημα να προσκρούσει σε πεζό ή αυτοκίνητο που οδηγείται από άνθρωπο.    

Επίσης, όταν βλέπετε ένα αυτο-οδηγούμενο αυτοκίνητο να οδηγεί στο δρόμο και να το κάνει χωρίς ανθρώπινο εφεδρικό οδηγό, πώς μπορείτε να ξέρετε ότι το σύστημα οδήγησης τεχνητής νοημοσύνης θα είναι σίγουρα ένας ασφαλής οδηγός;   

Δεν το κάνεις.   

Η συνήθης ανταπόκριση είναι ότι εάν το αυτόνομο όχημα περνάει από έναν δρόμο της πόλης και δεν έχει χτυπήσει κανέναν, αυτό πρέπει να σημαίνει ότι το σύστημα οδήγησης AI λειτουργεί καλά, σας ευχαριστώ πολύ. Πράγματι, εκείνοι που συνεχίζουν να κάνουν αυτές τις βόλτες με αυτοκίνητα που οδηγούν αυτοί και κάνουν αυτές τις εντυπωσιακές μαρτυρίες τείνουν να εμπίπτουν στην ίδια κατηγορία. Πιστεύουν ότι μόνο και μόνο επειδή το αυτοκινούμενο αυτοκίνητο τους έφερε με ασφάλεια στο μανάβικο, είναι σαν να παρέχει άφθονη και αναμφισβήτητη απόδειξη ότι το αυτοκινούμενο αυτοκίνητο μπορεί να πάει οπουδήποτε με ασφάλεια.   

Πέφτουν σε μια κλασική ψυχική παγίδα. Είναι ένα κοινό λάθος που βασίζεται στις στατιστικές. Υποθέτουν ότι η συγκεκριμένη περίπτωση τους επιτρέπει γενικευμένες γενικεύσεις.   

Θα μπορούσε να είναι ότι το σύστημα οδήγησης AI θα έρθει σε μια κατάσταση όπως ένας πεζός που βγαίνει ξαφνικά στο δρόμο και το αυτοκινούμενο αυτοκίνητο δεν θα σταματήσει εγκαίρως (ας υποθέσουμε ότι θα μπορούσε να έχει). Το άτομο που είχε κάνει το ταξίδι στο μανάβικο δεν είχε συναντήσει έναν πεζόδρομο, και έτσι δεν έχει ιδέα τι θα κάνει το αυτο-οδηγούμενο αυτοκίνητο σε ένα τέτοιο περιβάλλον. Εξω από τα μάτια έξω από το μυαλό.   

Ας επιστρέψουμε σε αυτό που λέει το NHTSA σχετικά με τα αυτοκίνητα συνολικά και το εύρος της πιθανής καταγγελίας που μπορεί να ισχύει: «Το NHTSA λαμβάνει πληροφορίες από καταγγελίες πληροφοριών για ένα ευρύ φάσμα θεμάτων, συμπεριλαμβανομένων πιθανών ελαττωμάτων ασφάλειας των οχημάτων, μη συμμόρφωσης με τα ομοσπονδιακά πρότυπα ασφάλειας οχημάτων, και παραβιάσεις του νόμου για την ασφάλεια των οχημάτων. "   

Παραδοσιακά, αυτό το είδος του πεδίου τείνει να επικεντρώνεται στα μηχανικά μέρη ενός αυτοκινήτου.   

Σήμερα, τα αυτοκίνητα έχουν γίνει ουσιαστικά υπολογιστές με τροχούς. Το λογισμικό μπαίνει όλο και περισσότερο στο πεδίο των θεμάτων που συνεπάγονται ελαττώματα ασφάλειας οχημάτων, μη συμμόρφωση και παραβιάσεις της VSA.   

Σε ποιους τομείς των συστημάτων οδήγησης AI θα μπορούσαμε να προβλέψουμε πιθανά ζητήματα; 

Πρώτον, οι αισθητήρες χρησιμοποιούνται για τη συλλογή δεδομένων σχετικά με τη σκηνή οδήγησης. Τα αυτοκινούμενα αυτοκίνητα συνήθως χρησιμοποιούν βιντεοκάμερες, ραντάρ, LIDAR, μονάδες υπερήχων, συσκευές θερμικής απεικόνισης και παρόμοια. Αυτά είναι τα μάτια και τα αυτιά του συστήματος οδήγησης AI. 

Ας υποθέσουμε ότι ένας εμπιστευτής γνωρίζει ότι οι αισθητήρες που επιλέγονται για το αυτοκινούμενο μοντέλο αυτοκινήτου στο οποίο εργάζονται έχουν προβλήματα ασφάλειας που δεν αντιμετωπίζονται. Μόλις το αυτοκινούμενο αυτοκίνητο αποσταλεί, ενδέχεται υπό ορισμένες συνθήκες ένας συγκεκριμένος αισθητήρας να παρέχει ελαττωματικά δεδομένα. Από αυτό, το σύστημα οδήγησης AI ενδέχεται να μην έχει προγραμματιστεί για να υπολογίσει σωστά τι να κάνει.   

Ένα κακό αποτέλεσμα μπορεί να συμβεί ενώ βρίσκεστε στους δημόσιους δρόμους μας.   

Μια άλλη πιθανή λεωφόρος συνίσταται στη συγχώνευση των δεδομένων σε πολλούς αισθητήρες. Γνωστό ως MSDF (σύντηξη δεδομένων πολλών αισθητήρων), ίσως η τεχνική σύντηξης που χρησιμοποιείται βασίζεται στο ότι οι βιντεοκάμερες θεωρούνται «σωστές», ακόμη και αν η είσοδος ραντάρ λέει διαφορετικά (η απόκλιση απλώς απορρίπτεται αντί να σηκώνει μια σημαία ή απαιτεί κάποια προσθήκη βήματα για να δοκιμάσετε και να επιλύσετε). Πώς ενσωματώνονται τα ζητήματα ασφάλειας σε αυτήν τη μορφή προγραμματισμού;   

Η λίστα συνεχίζει και συνεχίζει.   

Υπάρχει το εικονικό μοντέλο που διατηρείται από το σύστημα οδήγησης AI και απεικονίζει εσωτερικά το υπάρχον και το προβλεπόμενο περιβάλλον. Θα μπορούσαν σίγουρα να υπάρχουν ανησυχίες για την ασφάλεια σχετικά με τον τρόπο λειτουργίας αυτού του κώδικα. Υπάρχει το τμήμα του σχεδίου δράσης του συστήματος οδήγησης AI που προσπαθεί να υπολογίσει ποιες επόμενες ενέργειες του αυτόνομου οχήματος είναι πιο συνετό να γίνουν. Και πάλι, οι ανησυχίες για την ασφάλεια θα μπορούσαν να βρίσκονται εκεί. Και τα λοιπά.   

Για περισσότερες λεπτομέρειες σχετικά με τις ODD, δείτε την ένδειξή μου σε αυτόν τον σύνδεσμο εδώ: https://www.aitrends.com/ai-insider/amalgamating-of-operational-design-domains-odds-for-ai-self-driving-cars/ 

Σχετικά με το θέμα των αυτοκινούμενων αυτοκινήτων εκτός δρόμου, ακολουθούν τα στοιχεία μου: https://www.aitrends.com/ai-insider/off-roading-as-a-challenging-use-case-for-ai-autonomous-cars/ 

Έχω προτρέψει να υπάρχει επικεφαλής ασφαλείας για αυτοκινητοβιομηχανίες, εδώ είναι η ουσία: https://www.aitrends.com/ai-insider/chief-safety-officers-needed-in-ai-the-case-of-ai-self-driving-cars/ 

Περιμένετε ότι οι αγωγές θα γίνουν σταδιακά σημαντικό μέρος της αυτοκινητοβιομηχανίας, δείτε τις επεξηγηματικές μου λεπτομέρειες εδώ: https://aitrends.com/selfdrivingcars/self-driving-car-lawsuits-bonanza-ahead/ 

Συμπέρασμα 

Εδώ είναι η κατώτατη γραμμή.   

Καθώς τα αυτόνομα αυτοκίνητα αρχίζουν να αναδύονται όλο και περισσότερο από τα εργαστήρια και τις προσπάθειες Ε&Α, θα χρησιμοποιούνται σε δημόσιους δρόμους. Ο αριθμός τέτοιων αυτοοδηγούμενων αυτοκινήτων στους δρόμους θα αρχίσει να αυξάνεται. Ο αυξημένος αριθμός τέτοιων αυτόνομων οχημάτων θα τείνει να αυξήσει κάπως τις πιθανότητες να προκύψει κάτι δυσμενές. 

Συνήθως, οι ειδήσεις είναι μεγάλοι. 

Μήπως το αυτοκινητιστικό ατύχημα που έγινε πρωτοσέλιδο είχε ένα εσωτερικό ζήτημα που θα μπορούσε να ήταν γνωστό από κάποιον εσωτερικό, και όμως αποφάσισαν να μην πουν για αυτό που ήξεραν ή υποψιάστηκαν σοβαρά;   

Θα ήθελα να στοιχηματίσω ότι είναι πιθανό να δούμε μια εμφάνιση καταγγέλλων που προέρχονται από αυτοκίνητα αυτο-οδήγησης. 

Δεν θα ισχύουν όλες αυτές οι περιπτώσεις. Κάποιοι θα.   

Ο αντίκτυπος είναι πιθανό ότι αυτό θα αναγκάσει ορισμένες αυτοκινητοβιομηχανίες και κατασκευαστές τεχνολογίας αυτοοδηγούμενων αυτοκινήτων να επανεξετάσουν αυτό που κάνουν. Μπορείτε βεβαίως να περιμένετε ότι αυτοί οι τύποι αναφορών πληροφοριοδοτών θα πυροδοτήσουν περαιτέρω ρυθμιστικό ενδιαφέρον.   

Αυτό θα είναι έκπληξη για κάποιους, και καθόλου έκπληξη για άλλους. Όσοι έχουν δουλέψει σε τέτοιες «κουζίνες» στο παρελθόν, και ήδη αισθάνονται ότι μερικά από τα αυτοοδηγούμενα αυτοκίνητα που βγαίνουν στους δρόμους είναι ένα τρομακτικά και ανεπαρκώς μαγειρεμένο γεύμα.   

Θα μάθουμε μόλις αρχίσουν να σφυρίζουν. 

Copyright 2021 Δρ Lance Eliot  

http://ai-selfdriving-cars.libsyn.com/website 

Πηγή: https://www.aitrends.com/ai-insider/questionable-practices-at-some-ai-autonomous-car-makers-spurring-whistleblowers/