一些人工智能自动驾驶汽车制造商的可疑做法刺激了举报人

由柏拉图重新发布

关注： 0

举报人员工 — 由于一些自动驾驶汽车的努力似乎是为了满足进度压力而偷工减料，跳过了一些双重和三次检查，我们很可能会看到告密者。（信用：盖蒂图片社）

AI趋势内幕人士Lance Eliot

有句老话说，去一些餐馆或小餐馆吃点东西时，不应该看厨房。当您看到食物是如何准备的时，它可能只会让您感到胃部不适。

您可以将此规则应用于制造任何类型产品的任何实体。想象一下，如果烤面包机的制造方式有问题，并且在投入使用时很可能会着火。毫无疑问，我们欢迎有一位在公司工作的内部人士提前出面制作烤面包机。

复杂的产品尤其是我们希望内部人士挺身而出的例子。例如，您的汽车是一个非常复杂的产品。它包含成千上万的组件。汽车行业有一些值得注意的内部人士案例，这些案例有助于揭示有关汽车生产的严重内部问题。

总而言之，如果有人在内部说出来并试图纠正幕后问题，尤其是在危险的时候，那肯定会很好。

这种直言不讳的内部人士通常被称为 举报人.

您可能隐约知道，拉尔夫·纳德 (Ralph Nader) 在 1960 年代和 1970 年代在其激进主义努力期间帮助普及了举报人的标语。在那之前，公开谈论内部问题的想法是不受欢迎的。人们普遍期望员工对雇主非常忠诚，不敢乱说话。事实上，直到今天，有时举报人仍会因他们的努力而被排斥并被贴上老鼠或告密者的标签。

澄清一下，并非所有举报人都对他们的报告内容正确。有时，举报人可能会误认为他们认为存在问题。他们可能会误解事情。他们可能会夸大这种担忧。你不能盲目地假设举报人的目标是完美的。有时，举报人可能怀有个人偏见并寻求某种形式的扭曲报复或有其他不体面的动机。

但这也不意味着举报人应该仅仅因为充当举报人而被公理地认为是不满者。一点也不。

走告密者之路在很多方面都是艰巨和毁灭性的。一个人可以被列为叛徒，并且无论他们走到哪里，在生活中尝试做任何其他事情，都会被永远玷污。决定成为举报人需要一些深思熟虑，试图在个人道德准则感与被称为告密者或窃窃私语的可能性之间取得平衡。

我们可以感谢那些不顾个人成本选择做正确事情的告密者，并揭露了本来不会被曝光的实质性问题。而且，在许多此类情况下，这些类型的示范问题已经成为伤害使用该产品的人的必要条件，或者将来可能会这样做。举报人能够发起一系列事件，最终减少或减少那些令人不快或完全令人遗憾的结果。

举报人是如何站出来并基本上吹哨的？

举报人通常有两种途径可以让他们知道他们认为不合适的内部问题。

一种方法是成为所谓的内部报告举报人，这通常意味着进行举报的人在他们工作的实体范围内进行举报。他们可能会将他们的担忧提交给他们的主管或经理。也许该公司有一个正式的举报程序，需要以书面形式提交安全问题。等等。

另一种方法是外部披露举报人。这是当一个曾经或曾经是内部人士的人选择从外部讲述他们认为令人不安的内部方面时。这个人可能会告诉记者正在发生的事情。此人可能决定与第三方消费者保护实体交谈。等等。

之前我提到过汽车和汽车行业有各种各样的告密者。

在美国，《车辆安全法》(VSA) 是关于在车辆考虑方面的举报和举报人的总体指南。以下是正式的 VSA 定义，关于什么是举报人：“‘举报人’一词是指汽车制造商、零件供应商或经销商的任何雇员或承包商，他们自愿向部长提供与任何机动车辆有关的原始信息缺陷、不合规或违反或涉嫌违反本章的任何通知或报告要求，可能导致不合理的死亡或严重身体伤害风险”（作为旁注，所指的部长是交通部长）。

与汽车相关的举报人要向外部泄露问题的正常途径是联系 NHTSA（国家公路交通安全管理局），它是美国交通部 (US DOT) 的一个机构。 NHTSA 的既定使命是在美国挽救生命、防止伤害并减少与车辆相关的事故。

根据详细介绍 NHTSA 举报人计划的网站：“举报人是 NHTSA 有关潜在车辆安全问题和违法行为的重要信息来源。《车辆安全法》保护举报人的机密性，并允许 NHTSA 向举报人支付金钱奖励，举报人的信息导致成功解决违法执法行动。”

举报人计划有很多细微差别。如果您或您认识的人正在考虑成为与汽车问题相关的举报人，请确保及时了解此事。跳之前最好先看看。此外，如 VSA 中所述：“举报人可由律师代表。”

就可能被视为举报授权提交的范围而言，NHTSA 网站指出：“NHTSA 从举报人那里收到有关各种主题的信息，包括潜在的车辆安全缺陷、不遵守联邦机动车辆安全标准、以及违反《车辆安全法》。 NHTSA 调查人员会考虑举报人提供的信息，这可能会导致正式行动，例如调查、召回或民事处罚执法行动。 NHTSA 保护举报人的机密性。 NHTSA 可能会向提供信息以成功解决违法执法行动的举报人支付金钱奖励。”

您可能会认为关于汽车的泄密是一个有点无聊的话题；关于汽车的泄密事件已经发生多年。

好吧，您需要适当考虑一些新事物。

汽车的未来由基于人工智能的真正自动驾驶汽车组成。

请允许我详细说明一下。

真正的自动驾驶汽车没有涉及人类驾驶员。请记住，真正的自动驾驶汽车是通过人工智能驾驶系统驱动的。不需要人类驾驶员驾驶，也不需要人类驾驶车辆。

这是一个值得思考的有趣问题： 我们是否会看到有关基于人工智能的真正自动驾驶汽车出现的告密者，如果是这样，我们可能会产生什么影响？

在进入细节之前，我想进一步澄清当我提到真正的自动驾驶汽车时是什么意思。

对于我有关AI自动驾驶汽车的框架，请参见此处的链接： https://aitrends.com/ai-insider/framework-ai-self-driving-driverless-cars-big-picture/

为什么这是一个月球努力，请在这里查看我的解释： https://aitrends.com/ai-insider/self-driving-car-mother-ai-projects-moonshot/

有关作为里氏标度类型的级别的更多信息，请参见此处的讨论： https://aitrends.com/ai-insider/richter-scale-levels-self-driving-cars/

有关将级别分叉的争论，请参见此处的解释： https://aitrends.com/ai-insider/reframing-ai-levels-for-self-driving-cars-bifurcation-of-autonomy/

了解无人驾驶汽车的水平

需要澄清的是，真正的自动驾驶汽车是指AI完全自行驾驶汽车，并且在驾驶任务期间没有任何人工协助。

这些无人驾驶汽车被认为是4级和5级，而通常需要人类驾驶员共同分担驾驶努力的汽车通常被认为是2级或3级。共同分担驾驶任务的汽车被描述为半自动。 -Autonomous，通常包含称为ADAS（高级驾驶员辅助系统）的各种自动附加组件。

5级还没有真正的无人驾驶汽车，我们甚至都不知道是否有可能实现这一目标，也不知道需要多长时间才能到达那里。

同时，尽管是否应允许进行这种测试本身存在争议（我们都是实验中的有生命或有生命的豚鼠），但4级研究人员正在通过非常狭窄和选择性的公共道路试验逐渐尝试吸引一些关注。发生在我们的高速公路和小路上）。

由于半自动驾驶汽车需要人工驾驶，因此采用这些类型的汽车与驾驶传统汽车并无明显不同，因此，在这个主题上，它们本身并没有太多新的内容要介绍（尽管您会看到暂时，接下来提出的要点通常适用）。

对于半自动驾驶汽车，重要的是必须预先警告公众有关最近出现的令人不安的方面，即尽管有那些人类驾驶员不断发布自己在2级或3级汽车的方向盘上睡着的视频，，我们所有人都需要避免被误导以为驾驶员在驾驶半自动驾驶汽车时可以将注意力从驾驶任务上移开。

您是车辆驾驶行为的负责方，无论可能将多少自动化投入到2级或3级。

有关为什么通常避免使用自动驾驶汽车进行远程驾驶或操作的原因，请参阅此处的解释： https://aitrends.com/ai-insider/remote-piloting-is-a-self-driving-car-crutch/

要警惕有关自动驾驶汽车的虚假消息，请在此处查看我的提示： https://aitrends.com/ai-insider/ai-fake-news-about-self-driving-cars/

人工智能驾驶系统的伦理意义重大，请参阅此处的说明： https://aitrends.com/selfdrivingcars/ethically-ambiguous-self-driving-cars/

请注意自动驾驶汽车偏离正常化的陷阱，这是我对武器的呼吁： https://aitrends.com/ai-insider/normalization-of-deviance-endangers-ai-self-driving-cars/

自动驾驶汽车和告密者

对于 4 级和 5 级真正的自动驾驶汽车，不会有人类驾驶员参与驾驶任务。所有乘客都是乘客；人工智能正在驾驶。

需要立即讨论的一个方面是，当今的AI驾驶系统所涉及的AI并不具有感知性。换句话说，AI完全是基于计算机的编程和算法的集合，并且最有把握的是，它不能以与人类相同的方式进行推理。

为什么这更多地强调了人工智能没有被感知？

因为我想强调的是，在讨论AI驾驶系统的作用时，我并没有将AI的人格特质归咎于AI。请注意，这些天来有一种持续不断的危险趋势将人类拟人化。从本质上讲，尽管不可否认的事实是，人们至今仍在为人类的AI赋予类似人的感觉。

通过澄清，您可以设想AI驾驶系统不会以某种方式自然地“知道”驾驶的各个方面。驾驶及其所需要的全部都需要作为自动驾驶汽车的硬件和软件的一部分进行编程。

让我们深入探讨与此主题有关的无数方面。

你可能会震惊地认为会有任何与自动驾驶汽车有关的举报。

大多数人倾向于认为，开发最先进的人工智能驾驶系统和组装自动驾驶汽车的内部努力是出于最高和最好的意图。有些人将登月的努力比作是一种相当令人敬畏的愿望。

当然，在制作自动驾驶汽车的幕后发生的一切都是完全光明正大的。没有人会寻求生产一种危险的自动驾驶汽车。此外，希望自动驾驶汽车将带来一个全民出行的时代，让那些今天无法轻松使用汽车交通的人能够无缝访问无处不在的移动性。还有人相信，自动驾驶汽车将大大减少因人为驾驶的车祸造成的人员伤亡人数。

好吧，我不想让你震惊，但厨房里发生的事情有可能会提供可能会伤害人的饭菜。

一些自动驾驶汽车的努力正在偷工减料，试图做高层管理人员的紧急招标，并且无法进行他们认为必要的双重检查和三重检查。同样，也有高层管理人员没有意识到他们的开发团队在自动驾驶汽车开发活动中缺乏对细节的关注以及安全质量方面的遗漏或回避。

它是双向的。

请记住，正在进行各种竞赛。

谁将首先获得真正的自动驾驶汽车？

就像登月一样，为了让这辆自动驾驶汽车成为人类的“巨大飞跃”，很多人都在乘坐第一辆车。数十亿美元正涌入这些引以为豪的努力中。迄今为止，无人驾驶汽车的努力几乎没有收入。资金正在流入，人们期待奇迹会出现。

在这种压力下，你可以想象某些元素可能会被忽视以努力推进。对安全方面的担忧有时会被搁置一旁。人工智能驾驶系统的看似关键的功能可以被推到现有的边缘或角落案例列表中，这意味着这些功能被认为可以在以后处理。

这并不意味着这种性质的任何东西都以某种方式猖獗或随处可见。这对所有努力生产自动驾驶汽车的人来说是完全不公平的。这些英雄每天都在奋力拼搏，旨在将自动驾驶汽车推向世界，从而实现之前提到的那些理想。

此外，正如我在我的专栏中反复提到的，在过去几年中，汽车制造商和自动驾驶汽车制造商对安全采取了更强硬的立场。这包括聘请了知名的汽车安全专家，并开展了重大而有意义的内部工作，以促进对安全构成的理解。此外，许多自动驾驶汽车公司现在都有内部“告密者”程序，通常更简单地称为安全报告程序，旨在让内部人员在看到他们认为不妥的事情时站出来。

表面上的担忧是，在如此高压的轰轰烈烈的氛围中，这里或那里真的有可能出现坏苹果。需要说明的是，邪恶的人不一定会在 AI 驾驶系统中植入邪恶的东西（尽管这可能会发生）。当 AI 开发人员全速奔波时，可能会错过一些重要的保护措施，或者没有合适的开发工具，或者不堪重负和人手不足。

总而言之，结果可能是隐藏的错误或问题进入了 AI 驾驶系统。不一定是故意的。只是因为没有足够的制衡和其他并发症。

当一辆自动驾驶汽车在车上有一个备用的人类司机时，人们相信这足以捕捉到人工智能驾驶系统可能做出的任何不良行为。在这种思维方式下，这就像有一个美食品尝师坐在您的餐桌旁。这个人应该抓住任何可能导致事情误入歧途的东西。

正如我在专栏中提到的，并不是每个人都认为这是解决问题的正确方法，并且有人谴责以这种方式使用公共道路是完全不当的。如果我们使用食物品尝者的类比，就好像食物品尝者在吃这顿饭的同时，一个人正在用餐。对于同时食用可能有毒食物的人来说，这不是一种令人满意的安全形式。从本质上讲，后备驾驶员可能无法及时发现不良驾驶行为，从而导致车辆撞向行人或人类驾驶的汽车。

此外，当你看到一辆自动驾驶汽车在街上行驶，而且没有人工辅助司机时，你怎么知道人工智能驾驶系统肯定会是一个安全的司机？

你不知道

通常的反驳是，如果自动驾驶汽车在城市街道上行驶并且没有撞到任何人，这一定意味着人工智能驾驶系统做得很好，非常感谢。事实上，那些继续乘坐自动驾驶汽车并做那些滔滔不绝的推荐的人往往属于同一类。他们相信，仅仅因为自动驾驶汽车安全地将他们送到了杂货店，这就好像提供了充分而不容置疑的证据，证明自动驾驶汽车可以安全地去任何地方。

他们陷入了一个典型的心理陷阱。这是一个常见的面向统计的错误。他们假设他们的一个特定实例可以进行广泛的概括。

可能是人工智能驾驶系统会遇到行人突然冲进街上的情况，而自动驾驶汽车不会及时停下来（假设它可能会停下来）。去杂货店的人没有遇到过路人，不知道自动驾驶汽车在这种情况下会做什么。眼不见，心不烦。

让我们回到 NHTSA 对汽车的总体评价以及可能适用的举报范围：“NHTSA 从举报者那里收到有关各种主题的信息，包括潜在的车辆安全缺陷、不遵守联邦机动车辆安全标准、以及违反《车辆安全法》。”

传统上，这种范围倾向于关注汽车的机械部件。

如今，汽车基本上已经变成了带轮子的计算机。该软件越来越多地转向涉及车辆安全缺陷、不合规和违反 VSA 的主题范围。

在人工智能驾驶系统的哪些领域，我们可能会预见到潜在的问题？

首先，传感器用于收集有关驾驶场景的数据。自动驾驶汽车通常使用摄像机、雷达、激光雷达、超声波装置、热成像设备等。这些是AI驾驶系统的眼睛和耳朵。

假设内部人员知道为他们正在研究的自动驾驶汽车模型选择的传感器存在未处理的安全问题。一旦自动驾驶汽车投入使用，在某些情况下，特定传感器可能会提供错误数据。由此看来，人工智能驾驶系统可能没有被编程为正确计算要做什么。

在我们的公共道路上可能会发生不好的结果。

另一种可能的途径包括跨多个传感器的数据融合。被称为 MSDF（多传感器数据融合），也许所使用的融合技术是基于摄像机被认为是“正确的”，即使雷达输入另有说明（差异被简单地丢弃而不是举旗或要求添加一些尝试和解决的步骤）。如何将安全问题纳入这种编程形式？

这个清单一直在继续。

有一个由人工智能驾驶系统维护的虚拟模型，在内部描绘现有和预测的环境。该代码的工作方式肯定存在安全问题。人工智能驾驶系统的行动计划部分会尝试计算自动驾驶汽车接下来最应该采取的行动。同样，安全问题可能存在于那里。等等。