Thực tiễn đáng nghi vấn ở một số nhà sản xuất ô tô tự hành của AI thúc đẩy những người thổi còi 

Bởi Lance Eliot, Người trong cuộc Xu hướng AI 

Có một câu nói cổ rằng bạn không nên vào bếp khi đến một số nhà hàng hoặc quán ăn để ăn một miếng. Khi bạn nhìn thấy thức ăn được chế biến như thế nào, điều đó có thể khiến bạn đau bụng.  

Bạn có thể áp dụng quy tắc này cho bất kỳ tổ chức nào tạo ra bất kỳ loại sản phẩm nào. Hãy tưởng tượng nếu một chiếc máy nướng bánh mì được sản xuất không đúng quy cách và có khả năng bắt lửa khi đưa vào sử dụng. Chúng tôi chắc chắn sẽ hoan nghênh việc có một người trong công ty làm việc trong công ty sản xuất máy nướng bánh mì trước.   

Các sản phẩm phức tạp đặc biệt là những trường hợp mà chúng tôi hy vọng sẽ có người trong cuộc đưa ra. Ví dụ như ô tô của bạn là một sản phẩm khá phức tạp. Nó chứa hàng nghìn hàng nghìn thành phần. Ngành công nghiệp ô tô đã có một số trường hợp đáng chú ý của những người trong cuộc đã hỗ trợ tiết lộ các vấn đề nội bộ nghiêm trọng liên quan đến sản xuất ô tô.   

Tất cả đã nói, chắc chắn sẽ rất tốt nếu ai đó ở bên trong lên tiếng và cố gắng khắc phục một vấn đề hậu trường, đặc biệt là khi nguy hiểm. 

Một người trong cuộc nói ra như vậy thường được gọi là whistleblower. 

Bạn có thể lờ mờ nhận ra rằng Ralph Nader trong những năm 1960 và 1970 đã hỗ trợ phổ biến câu cửa miệng của người tố giác trong các nỗ lực hoạt động của ông. Cho đến thời điểm đó, khái niệm về việc lên tiếng về một vấn đề nội bộ vẫn chưa được chấp nhận. Nhân viên thường được kỳ vọng là phải trung thành mãnh liệt với chủ và không dám lên tiếng phản đối. Trên thực tế, cho đến ngày nay, đôi khi một người tố cáo bị tẩy chay và bị gán ghép là một con chuột hoặc một kẻ chỉ trích vì những nỗ lực của họ.   

Để làm rõ, không phải tất cả những người tố cáo đều đúng về những gì họ báo cáo. Đôi khi người tố cáo có thể nhầm lẫn về những gì họ cho là một vấn đề. Họ có thể hiểu sai mọi thứ. Họ có thể lạm phát quá mức mối quan tâm. Bạn không thể giả định một cách trắng trợn rằng một người tố cáo là người hoàn hảo trong mục tiêu của họ. Đôi khi, người tố cáo có thể đang nuôi dưỡng thành kiến ​​cá nhân và tìm kiếm một số hình thức trả thù xoắn hoặc có động cơ rõ ràng khác trong tâm trí.   

Nhưng điều đó cũng không có nghĩa là một người tố cáo phải được coi là một kẻ bất chính chỉ đơn giản là do hoạt động như một người tố cáo. Không có gì.   

Đi theo con đường tố giác có thể khó khăn và tàn phá theo nhiều cách. Một người có thể bị liệt vào dạng kẻ phản bội và mãi mãi bị lu mờ, dù họ đi bất cứ đâu và bất cứ điều gì khác trong cuộc sống mà họ cố gắng làm. Quyết định trở thành một người tố cáo đòi hỏi một số suy nghĩ chín chắn, cố gắng cân bằng giữa ý thức cá nhân về các quy tắc đạo đức so với khả năng được biết đến như một người cung cấp thông tin hoặc nói xấu.   

Chúng ta có thể biết ơn những người tố cáo đã chọn làm điều đúng đắn, bất chấp chi phí cá nhân, và đã phơi bày những vấn đề thực chất mà nếu không sẽ không được đưa ra ánh sáng. Và, trong nhiều trường hợp như vậy, những loại vấn đề biểu hiện đó đã là yếu tố không thể thiếu để gây hại cho những người sử dụng sản phẩm hoặc có khả năng làm như vậy trong tương lai. Người tố giác có thể bắt đầu một chuỗi sự kiện mà cuối cùng đã hạn chế hoặc giảm bớt những kết quả không tốt đẹp hoặc hoàn toàn đáng trách.   

Làm thế nào để một người tố cáo tiến về phía trước và thổi còi như nó vốn có?   

Thường có hai cách để người tố cáo biết những vấn đề nội bộ mà họ tin là không thể giải quyết được. 

Một cách tiếp cận là trở thành cái gọi là người tố cáo báo cáo nội bộ, thường có nghĩa là người thực hiện việc tố cáo thực hiện việc này trong phạm vi giới hạn của tổ chức mà họ đang làm việc. Họ có thể đưa mối quan tâm của mình lên người giám sát hoặc người quản lý của họ. Có lẽ công ty có một quy trình tố giác chính thức đòi hỏi phải gửi văn bản về mối quan ngại về an toàn. Và như thế. 

Cách tiếp cận khác là người tố cáo tiết lộ ra bên ngoài. Đây là khi một người đã hoặc là người trong cuộc chọn nói với bên ngoài về những khía cạnh bên trong mà họ cho là đáng lo ngại. Người đó có thể nói với các phóng viên về những gì đang diễn ra. Người đó có thể quyết định nói chuyện với một tổ chức bảo vệ người tiêu dùng bên thứ ba. Vân vân. 

Trước đó, tôi đã đề cập rằng ô tô và ngành công nghiệp ô tô đã có nhiều người tố cáo khác nhau. 

Tại Hoa Kỳ, Đạo luật An toàn Phương tiện (VSA) đóng vai trò là hướng dẫn chung về việc thổi còi và người tố giác trong bối cảnh cân nhắc về phương tiện. Đây là định nghĩa chính thức của VSA được đưa ra về người tố giác chính xác là gì: “Thuật ngữ '' người tố giác '' có nghĩa là bất kỳ nhân viên hoặc nhà thầu nào của nhà sản xuất xe cơ giới, nhà cung cấp phụ tùng hoặc đại lý tự nguyện cung cấp cho Bộ trưởng thông tin ban đầu liên quan đến bất kỳ phương tiện cơ giới nào khiếm khuyết, không tuân thủ, hoặc bất kỳ vi phạm hoặc bị cáo buộc vi phạm bất kỳ thông báo hoặc yêu cầu báo cáo nào của chương này, có khả năng gây ra nguy cơ tử vong hoặc thương tật nghiêm trọng không đáng có ”(như một lưu ý phụ, Thư ký được gọi là Bộ trưởng Giao thông vận tải ). 

Con đường bình thường cho một người tố cáo liên quan đến ô tô sẽ tiết lộ ra bên ngoài vấn đề là liên hệ với NHTSA (Cục Quản lý An toàn Giao thông Đường cao tốc Quốc gia), một cơ quan thuộc Bộ Giao thông Vận tải Hoa Kỳ (US DOT). Nhiệm vụ đã nêu của NHTSA là cứu sống, ngăn ngừa thương tích và giảm thiểu các vụ va chạm liên quan đến xe cộ ở Hoa Kỳ.   

Theo trang web trình bày chi tiết về chương trình của người tố giác NHTSA: “Người tố giác là nguồn thông tin quan trọng cho NHTSA về các vấn đề an toàn của phương tiện và các hành vi vi phạm pháp luật tiềm ẩn. Đạo luật An toàn Phương tiện bảo vệ tính bí mật của người tố cáo và cho phép NHTSA trả thưởng bằng tiền cho người tố cáo có thông tin dẫn đến việc giải quyết thành công hành động cưỡng chế đối với hành vi vi phạm pháp luật. ” 

Có rất nhiều sắc thái cho chương trình tố giác. Nếu bạn hoặc ai đó mà bạn biết đang xem xét trở thành người tố giác liên quan đến một vấn đề ô tô, hãy đảm bảo bắt kịp vấn đề. Tốt nhất hãy nhìn trước khi bạn nhảy. Ngoài ra, như đã nêu trong VSA: "Người tố cáo có thể được đại diện bởi luật sư."   

Xét về phạm vi của nội dung có thể được coi là đệ trình có bảo đảm tố giác, đây là những gì trang web của NHTSA chỉ ra: “NHTSA nhận được thông tin từ những người tố cáo về nhiều chủ đề, bao gồm các khiếm khuyết tiềm ẩn về an toàn của phương tiện, không tuân thủ Tiêu chuẩn An toàn Phương tiện Cơ giới Liên bang, và vi phạm Đạo luật An toàn Phương tiện. Các nhà điều tra của NHTSA xem xét thông tin do người tố giác cung cấp, có thể dẫn đến các hành động chính thức như điều tra, thu hồi hoặc hành động thi hành hình phạt dân sự. NHTSA bảo vệ bí mật của người tố cáo. NHTSA có thể trả một phần thưởng bằng tiền cho người tố giác người cung cấp thông tin dẫn đến việc giải quyết thành công một hành động cưỡng chế đối với các hành vi vi phạm pháp luật. ”   

Bạn có thể nghĩ rằng việc thổi còi về xe hơi là một chủ đề hơi ho-hum; việc tố giác ô tô đã diễn ra trong nhiều năm.   

Chà, có một cái gì đó mới mà bạn cần phải xem xét thích đáng.   

Tương lai của ô tô bao gồm những chiếc ô tô tự lái thực sự dựa trên AI. 

Cho phép tôi một chút thời gian để giải thích.   

Không có người lái xe con người tham gia vào một chiếc xe tự lái thực sự. Hãy nhớ rằng ô tô tự lái thực sự được điều khiển thông qua hệ thống lái xe AI. Không cần con người điều khiển, và cũng không có điều kiện cho con người điều khiển phương tiện. 

Đây là một câu hỏi hấp dẫn đáng để suy ngẫm: Chúng ta sẽ gặp những người tố cáo về sự ra đời của những chiếc xe tự lái thực sự dựa trên AI, và nếu có, chúng ta có thể mong đợi tác động nào?   

Trước khi đi vào chi tiết, tôi muốn làm rõ thêm ý nghĩa khi tôi đề cập đến những chiếc xe tự lái thực sự. 

Đối với khuôn khổ của tôi về xe hơi tự trị AI, xem liên kết ở đây: https://aitrends.com/ai-insider/framework-ai-self-driving-driverless-cars-big-picture/   

Tại sao đây là một nỗ lực moonshot, xem giải thích của tôi ở đây: https://aitrends.com/ai-insider/self-driving-car-mother-ai-projects-moonshot/   

Để biết thêm về các cấp độ như một loại thang đo Richter, hãy xem thảo luận của tôi ở đây: https://aitrends.com/ai-insider/richter-scale-levels-self-driving-cars/ 

Đối với các tranh luận về phân chia các cấp độ, xem giải thích của tôi ở đây: https://aitrends.com/ai-insider/reframing-ai-levels-for-self-driving-cars-bifurcation-of-autonomy/   

Hiểu các cấp độ của ô tô tự lái 

Để làm rõ, những chiếc xe tự lái thực sự là những chiếc xe mà AI tự điều khiển chiếc xe hoàn toàn và không có bất kỳ sự hỗ trợ nào của con người trong quá trình lái xe. 

Những phương tiện không người lái này được coi là Cấp 4 và Cấp 5, trong khi ô tô yêu cầu con người cùng chia sẻ nỗ lực lái xe thường được coi là ở Cấp 2 hoặc Cấp 3. Những chiếc xe cùng chia sẻ nhiệm vụ lái xe được mô tả là bán -tự động, và thường chứa nhiều tiện ích bổ sung tự động được gọi là ADAS (Hệ thống hỗ trợ người lái xe nâng cao).   

Vẫn chưa có một chiếc xe tự lái thực sự ở Cấp độ 5, mà chúng ta thậm chí còn không biết liệu điều này có thể đạt được hay không, và cũng sẽ mất bao lâu để đến đó.   

Trong khi đó, các nỗ lực của Cấp độ 4 đang dần cố gắng đạt được một số lực kéo bằng cách trải qua các thử nghiệm trên đường công cộng rất hẹp và có chọn lọc, mặc dù vẫn còn tranh cãi về việc liệu thử nghiệm này có được cho phép hay không (tất cả chúng ta đều là những con chuột lang sinh tử trong một thử nghiệm diễn ra trên đường cao tốc và đường bộ của chúng tôi, một số đối thủ). 

Vì những chiếc xe bán tự động cần có người lái, nên việc sử dụng những loại xe đó sẽ không khác biệt nhiều so với việc lái những chiếc xe thông thường, vì vậy sẽ không có nhiều điều mới để nói về chúng về chủ đề này (mặc dù, như bạn sẽ thấy trong một thời điểm, các điểm tiếp theo được thực hiện thường được áp dụng).  

Đối với ô tô bán tự trị, điều quan trọng là công chúng cần phải được cảnh báo trước về một khía cạnh đáng lo ngại đang phát sinh gần đây, cụ thể là mặc dù những người lái xe đó vẫn đăng video ngủ quên trên bánh xe của Cấp độ 2 hoặc Cấp 3 , tất cả chúng ta cần tránh bị lầm tưởng rằng người lái xe có thể lấy đi sự chú ý của họ khỏi nhiệm vụ lái xe trong khi lái một chiếc xe bán tự động.   

Bạn là bên chịu trách nhiệm cho các hành động lái xe của xe, bất kể mức độ tự động hóa có thể được ném vào Cấp 2 hoặc Cấp 3.   

Để biết lý do tại sao việc thử nghiệm hoặc vận hành xe ô tô tự lái từ xa thường bị cấm, hãy xem giải thích của tôi tại đây: https://aitrends.com/ai-insider/remote-piloting-is-a-self-driving-car-crutch/   

Để cảnh giác với những tin tức giả mạo về ô tô tự lái, hãy xem các mẹo của tôi tại đây: https://aitrends.com/ai-insider/ai-fake-news-about-self-driving-cars/   

Các tác động đạo đức của hệ thống lái xe AI là rất quan trọng, hãy xem chỉ dẫn của tôi ở đây: https://aitrends.com/selfdrivingcars/ethically-ambiguous-self-driving-cars/   

Hãy nhận biết những cạm bẫy của việc bình thường hóa độ lệch khi nói đến ô tô tự lái, đây là lời kêu gọi của tôi: https://aitrends.com/ai-insider/normalization-of-deviance-endangers-ai-self-driving-cars/ 

Ô tô tự lái và người thổi còi   

Đối với xe tự lái cấp độ 4 và cấp độ 5, sẽ không có người lái xe tham gia vào nhiệm vụ lái xe. Tất cả những người ngồi trên xe sẽ là hành khách; AI đang điều khiển.   

Một khía cạnh cần thảo luận ngay lập tức đòi hỏi thực tế là AI liên quan đến các hệ thống lái xe AI ngày nay không có tri giác. Nói cách khác, AI hoàn toàn là một tập hợp các thuật toán và lập trình dựa trên máy tính, và chắc chắn nhất là không thể suy luận theo cách mà con người có thể làm được. 

Tại sao điều này lại nhấn mạnh thêm về việc AI không có tri giác? 

Bởi vì tôi muốn nhấn mạnh rằng khi thảo luận về vai trò của hệ thống lái xe AI, tôi không mô tả phẩm chất của con người với AI. Xin lưu ý rằng ngày nay có một xu hướng đang diễn ra và nguy hiểm trong việc nhân cách hóa AI. Về bản chất, mọi người đang gán sự quan tâm giống như con người cho AI ngày nay, mặc dù thực tế không thể phủ nhận và không thể chối cãi rằng chưa có AI như vậy tồn tại.   

Với sự làm rõ đó, bạn có thể hình dung rằng hệ thống lái xe AI sẽ không tự nhiên bằng cách nào đó "biết" về các khía cạnh của việc lái xe. Lái xe và tất cả những gì nó đòi hỏi sẽ cần được lập trình như một phần của phần cứng và phần mềm của xe tự lái.   

Chúng ta hãy đi sâu vào vô số khía cạnh liên quan đến chủ đề này.   

Bạn có thể bị sốc khi nghĩ rằng sẽ có bất kỳ hình thức thổi còi nào liên quan đến xe tự lái. 

Hầu hết mọi người có xu hướng cho rằng những nỗ lực nội bộ trong việc phát triển các hệ thống lái xe AI hiện đại đó và kết hợp một chiếc xe tự lái đang được thực hiện với mục đích cao nhất và tốt nhất. Một số người ví nỗ lực hạ cánh lên mặt trăng, một khát vọng khá kinh ngạc.   

Chắc chắn, mọi thứ diễn ra đằng sau hậu trường trong quá trình chế tạo xe tự lái đều hoàn toàn nằm ở phía trên và hunky-dory. Không ai muốn sản xuất một chiếc xe tự lái nguy hiểm. Hơn nữa, hy vọng rằng ô tô tự lái sẽ mang lại kỷ nguyên di chuyển cho tất cả mọi người, cho phép những người không sẵn sàng tiếp cận phương tiện ô tô ngày nay có thể tiếp cận liền mạch với phương tiện di chuyển phổ biến. Và cũng có niềm tin rằng ô tô tự lái sẽ giảm đáng kể số người bị thương và tử vong do va chạm với ô tô do con người điều khiển.   

Tôi không muốn làm bạn bị sốc, nhưng những gì đang diễn ra trong nhà bếp có khả năng phục vụ một bữa ăn có khả năng gây hại cho con người. 

Một số nỗ lực ô tô tự lái đang cắt giảm các góc cạnh, cố gắng thực hiện đấu thầu khẩn cấp của quản lý cấp trên, và không thể thực hiện kiểm tra hai lần và kiểm tra ba lần, như họ tin là cần thiết. Tương tự như vậy, có những người trong ban lãnh đạo cấp trên không nhận thức được việc thiếu chú ý đến từng chi tiết và bỏ sót hoặc bỏ sót các khía cạnh chất lượng an toàn trong các hoạt động phát triển xe tự lái trong nhóm phát triển của họ.   

Nó hoạt động theo cả hai cách.   

Hãy nhớ rằng có một cuộc chạy đua đang diễn ra. 

Ai sẽ đạt được những chiếc xe tự lái thực sự đầu tiên?   

Tương tự như việc lên mặt trăng, rất nhiều người đang đi trên con đường đầu tiên biến chiếc xe tự lái này trở thành một "bước nhảy vọt khổng lồ" cho nhân loại. Hàng tỷ tỷ đô la đang đổ vào những nỗ lực được ca tụng này. Hầu như không có doanh thu nào từ nỗ lực mua xe tự lái. Tiền đang vào, và có một kỳ vọng rằng một điều gì đó kỳ diệu sẽ xuất hiện.   

Dưới áp lực đó, bạn có thể tưởng tượng rằng một số yếu tố có thể bị thu hẹp lại trong nỗ lực thúc đẩy. Đôi khi, mối quan tâm về khía cạnh an toàn có thể được đặt lên hàng đầu. Các tính năng cho hệ thống lái xe AI có vẻ quan trọng có thể được đưa vào danh sách các trường hợp cạnh hoặc góc hiện có, có nghĩa là đó là những khả năng mà nó được cho là có thể được xử lý sau này.   

Điều này không có nghĩa là bất cứ thứ gì có tính chất này bằng cách nào đó đang tràn lan hoặc được tìm thấy ở khắp mọi nơi. Điều đó sẽ hoàn toàn không công bằng đối với tất cả những người đang nỗ lực hết mình để sản xuất ô tô tự lái. Đây là những anh hùng đang nỗ lực hết mình, từng ngày, từng giờ nhằm mục đích mang đến cho thế giới những chiếc xe tự lái, và nhờ đó, đạt được những lý tưởng được trích dẫn trước đó.   

Ngoài ra, như tôi đã nhiều lần đề cập trong các chuyên mục của mình, trong vài năm qua, các nhà sản xuất ô tô và nhà sản xuất ô tô tự lái đã có quan điểm mạnh mẽ hơn nhiều về vấn đề an toàn. Điều này bao gồm việc thuê các chuyên gia an toàn ô tô nổi tiếng và thực hiện các nỗ lực nội bộ quan trọng và có ý nghĩa để nâng cao hiểu biết về an toàn bao gồm những gì. Ngoài ra, nhiều công ty ô tô tự lái hiện có các chương trình “tố giác” nội bộ, thường được hiểu đơn giản hơn là các chương trình báo cáo an toàn, nhằm thúc đẩy những người trong cuộc tiến tới khi họ nhìn thấy điều gì đó mà họ cho là không thể nghe được. 

Mối quan tâm bề ngoài là có rất nhiều cơ hội thực sự xảy ra trong bầu không khí nóng áp suất cao như vậy của một quả táo xấu ở đây hoặc ở đó. Để làm rõ hơn, không nhất thiết phải có trường hợp một kẻ bất chính sẽ gieo một thứ gì đó bất chính vào hệ thống lái xe AI (tuy nhiên, điều đó có thể xảy ra). Khi các nhà phát triển AI đang chạy với tốc độ tối đa, sẽ có khả năng thiếu một số biện pháp bảo vệ quan trọng hoặc không có các công cụ phát triển phù hợp, hoặc bị quá tải và thiếu nhân sự.   

Nhìn chung, kết quả có thể là một lỗi hoặc vấn đề ẩn đã xâm nhập vào hệ thống lái xe AI. Không nhất thiết phải cố ý như vậy. Chỉ vì không có đủ kiểm tra và số dư và các phức tạp khác liên quan.   

Khi một chiếc ô tô tự lái có một người lái xe dự phòng trong xe, chúng tôi tin rằng điều này là đủ để bắt được bất kỳ hành động sai lầm nào mà hệ thống lái xe AI có thể thực hiện. Theo cách nghĩ đó, nó giống như việc người nếm thức ăn đang ngồi trên bàn ăn của bạn. Người đó phải nắm bắt bất cứ thứ gì có thể khiến mọi thứ đi chệch hướng.   

Như đã đề cập trong các cột của tôi, không phải ai cũng tin rằng đây là một cách giải quyết vấn đề đúng đắn và một số người chê bai rằng việc sử dụng đường công cộng theo cách này là hoàn toàn không đúng. Nếu chúng ta sử dụng phép tương tự của người nếm thức ăn, thì giống như người nếm thức ăn đang ăn bữa ăn cùng lúc với một người đang ăn trong bữa ăn. Không phải là một hình thức an toàn thỏa đáng cho người đang đồng thời ăn những gì có thể là thực phẩm độc hại. Về bản chất, người lái xe dự phòng có thể không bắt kịp hành động lái xe không đúng mực và xe đâm vào người đi bộ hoặc xe do con người điều khiển.    

Ngoài ra, khi bạn nhìn thấy một chiếc ô tô tự lái đang chạy trên đường và làm như vậy mà không có người lái dự phòng, làm sao bạn có thể biết rằng hệ thống lái xe AI chắc chắn sẽ trở thành một người lái xe an toàn?   

Bạn không.   

Câu trả lời thông thường là nếu xe tự hành đang lao xuống đường thành phố và không đâm vào ai, điều này có nghĩa là hệ thống lái xe AI đang hoạt động tốt, cảm ơn bạn rất nhiều. Thật vậy, những người tiếp tục đi những chuyến xe tự lái đó và thực hiện những lời chứng thực dồn dập đó có xu hướng rơi vào cùng một loại. Họ tin rằng chỉ vì chiếc xe tự lái đã đưa họ đến cửa hàng tạp hóa một cách an toàn, nên điều này cung cấp bằng chứng phong phú và không thể nghi ngờ rằng xe tự lái có thể đi đến bất cứ đâu một cách an toàn.   

Họ đang rơi vào một cái bẫy tinh thần kinh điển. Đó là một sai lầm phổ biến theo định hướng thống kê. Họ giả định rằng một ví dụ cụ thể của họ tạo ra những khái quát hóa mở rộng.   

Có thể là hệ thống lái xe AI sẽ xảy ra tình huống chẳng hạn như một người đi bộ đột ngột lao ra đường và xe tự lái sẽ không dừng lại kịp thời (giả sử nó có thể xảy ra). Người đã thực hiện chuyến đi đến cửa hàng tạp hóa đã không gặp phải người đi bộ chen ngang, và do đó họ không biết chiếc xe tự lái sẽ làm gì trong bối cảnh như vậy. Xa mặt cách lòng.   

Hãy quay lại những gì NHTSA nói về ô tô nói chung và phạm vi của việc tố cáo có thể áp dụng: “NHTSA nhận được thông tin từ những người tố cáo về nhiều chủ đề, bao gồm cả những khiếm khuyết tiềm ẩn về an toàn của xe, việc không tuân thủ Tiêu chuẩn An toàn Xe cơ giới Liên bang và vi phạm Đạo luật An toàn Phương tiện. ”   

Theo truyền thống, loại phạm vi này có xu hướng tập trung vào các bộ phận cơ khí của ô tô.   

Ngày nay, ô tô về cơ bản đã trở thành máy tính trên bánh xe. Phần mềm ngày càng đi sâu vào phạm vi các chủ đề liên quan đến các khiếm khuyết về an toàn của phương tiện, sự không tuân thủ và vi phạm VSA.   

Chúng ta có thể dự đoán các vấn đề tiềm ẩn trong những lĩnh vực nào của hệ thống lái xe AI? 

Đầu tiên, các cảm biến được sử dụng để thu thập dữ liệu về cảnh lái xe. Xe tự lái thường sử dụng máy quay video, radar, LIDAR, thiết bị siêu âm, thiết bị ảnh nhiệt và những thứ tương tự. Đây là tai mắt của hệ thống lái xe AI. 

Giả sử một người trong cuộc biết rằng các cảm biến được chọn cho mẫu xe tự lái mà họ đang nghiên cứu có những lo ngại về an toàn chưa được giải quyết. Khi ô tô tự lái được đưa vào thực địa, có thể trong một số điều kiện nhất định, một bộ cảm biến cụ thể sẽ cung cấp dữ liệu bị lỗi. Từ đó, hệ thống lái xe AI có thể đã không được lập trình để tính toán chính xác những gì cần làm.   

Một kết quả xấu có thể xảy ra khi đi trên đường công cộng của chúng ta.   

Một phương thức khả thi khác bao gồm việc tổng hợp dữ liệu trên nhiều cảm biến. Được gọi là MSDF (kết hợp dữ liệu đa cảm biến), có lẽ kỹ thuật tổng hợp đang được sử dụng dựa trên việc các máy quay video được coi là "đúng" ngay cả khi đầu vào ra đa nói khác đi (sự khác biệt chỉ đơn giản là loại bỏ chứ không phải nâng cờ hoặc yêu cầu thêm một số các bước để thử và giải quyết). Các mối quan tâm về an toàn được đưa vào dạng lập trình này như thế nào?   

Danh sách đi và về.   

Có một mô hình ảo được duy trì bởi hệ thống lái xe AI và mô tả nội bộ môi trường xung quanh hiện có và được dự đoán. Chắc chắn có thể có những lo ngại về an toàn về cách mã đó đang hoạt động. Có phần lập kế hoạch hành động của hệ thống lái xe AI cố gắng tính toán những hành động tiếp theo của xe tự hành cần thực hiện một cách thận trọng nhất. Một lần nữa, những lo ngại về an toàn có thể nằm ở đó. Vân vân.   

Để biết thêm chi tiết về ODD, hãy xem chỉ dẫn của tôi tại liên kết này ở đây: https://www.aitrends.com/ai-insider/amalgamating-of-operational-design-domains-odds-for-ai-self-driving-cars/ 

Về chủ đề xe ô tô tự lái địa hình, đây là thông tin chi tiết của tôi: https://www.aitrends.com/ai-insider/off-roading-as-a-challenging-use-case-for-ai-autonomous-cars/ 

Tôi đã thúc giục rằng phải có một Giám đốc An toàn tại các nhà sản xuất xe tự lái, đây là tin sốt dẻo: https://www.aitrends.com/ai-insider/chief-safety-officers-needed-in-ai-the-case-of-ai-self-driving-cars/ 

Kỳ vọng rằng các vụ kiện sẽ dần trở thành một phần quan trọng của ngành công nghiệp xe hơi tự lái, hãy xem chi tiết giải thích của tôi tại đây: https://aitrends.com/selfdrivingcars/self-driving-car-lawsuits-bonanza-ahead/ 

Kết luận  

Đây là điểm mấu chốt.   

Khi ô tô tự lái bắt đầu xuất hiện ngày càng nhiều từ các phòng thí nghiệm và nỗ lực R&D, chúng sẽ được sử dụng trên các tuyến đường công cộng. Số lượng xe ô tô tự lái như vậy trên đường sẽ bắt đầu tăng lên. Việc gia tăng số lượng các phương tiện tự hành như vậy sẽ có xu hướng làm tăng phần nào khả năng có điều gì đó bất lợi sẽ phát sinh. 

Những điều này thường tạo tiêu đề lớn trong tin tức. 

Phải chăng vụ việc xe tự lái được đưa tin rầm rộ là có vấn đề nội bộ mà có thể người trong cuộc đã biết, nhưng họ quyết định không tiết lộ về những gì họ đã biết hoặc bị nghi ngờ nghiêm trọng?   

Tôi đánh cược rằng chúng ta có thể sẽ thấy sự xuất hiện của những người tố cáo về xe tự lái. 

Không phải tất cả các trường hợp như vậy sẽ hợp lệ. Một số sẽ.   

Tác động có thể là điều này sẽ khiến một số nhà sản xuất ô tô và các nhà sản xuất công nghệ xe tự lái phải xem xét lại những gì họ đang làm. Bạn chắc chắn có thể mong đợi rằng những loại báo cáo tố giác đó sẽ thu hút sự quan tâm của các cơ quan quản lý hơn nữa.   

Đây sẽ là một điều ngạc nhiên đối với một số người, và hoàn toàn không phải là điều ngạc nhiên đối với những người khác. Những người đã từng làm việc trong những “nhà bếp” như vậy trước đây và đều cảm thấy rằng một số chiếc xe tự lái đang chạy trên đường là một bữa ăn đáng sợ và không được nấu chín kỹ.   

Chúng tôi sẽ tìm ra khi còi bắt đầu thổi. 

Bản quyền 2021 Tiến sĩ Lance Eliot  

http://ai-selfdriving-cars.libsyn.com/website 

Nguồn: https://www.aitrends.com/ai-insider/questioned-practices-at-some-ai-autonomous-car-makers-spurring-whistleblowers/