为了确保包容性，拜登政府必须加倍开展AI开发计划

国家人工智能安全委员会（NSCAI）发布了一份 报告 上个月发布了令人不安的公开消息： 美国不准备在AI时代捍卫或竞争。 它导致需要我们立即做出反应的两个关键问题：如果在人工智能开发和部署方面落后，美国会继续成为全球超级大国吗？ 我们该怎么做才能改变这一轨迹？

如果放任不管，看似中立的人工智能（AI）工具可以并且将使不平等长期存在，并实际上使歧视自动化。 信用决策中已经出现了技术带来的危害， 医疗服务及 广告.

为了防止这种复发和大规模增长，拜登政府必须阐明有关AI和机器学习模型的现行法律-包括我们如何评估私人参与者的使用以及我们如何在政府系统内管理AI的使用。

从技术领域的重要任命到发布新技术，政府都坚定了前进的脚步 行政命令 在办公室的第一天就建立了公平数据工作组。 这使怀疑论者感到安心，他们既担心美国对AI开发的承诺，又要确保数字空间的公平性。

但这将是短暂的，除非政府在使AI资金成为现实并建立保护其开发和使用所必需的领导者和架构方面表现出坚定的决心。

需要明确优先事项

联邦层面的人工智能政策和对技术平等的承诺发生了翻天覆地的变化。拜登政府的一系列高调任命——从阿隆德拉·尼尔森博士担任科技政策办公室副主任，到国家经济委员会的蒂姆·吴，再到国家安全委员会的（我们的前高级顾问）库尔特·坎贝尔——都表明，包容性将受到高度重视由内部专家进行人工智能开发。

NSCAI最终报告 其中包含的建议可能被证明对于为包容性AI开发奠定更好的基础至关重要，例如通过 美国数字服务学院 培训现在和将来的员工。

该报告还建议建立一个新的 技术竞争力委员会 由副总统领导。这对于确保国家对人工智能领导地位的承诺仍然是最高层的优先事项至关重要。鉴于哈里斯与总统的战略伙伴关系，由副总统哈里斯带头领导人工智能领域是很有意义的。 精通技术政策 她专注于公民权利。

美国需要以身作则

我们知道，人工智能在创造效率方面具有强大的能力，例如翻阅成千上万张简历以找出潜在的合适人选。 但这也可以扩大歧视范围，例如 亚马逊招聘工具 优先考虑男性候选人或“数字红线基于种族的信用”。

拜登政府应该向各机构发布一项行政命令（EO），邀请人们就人工智能改善政府运作的方式提出构想。行政长官还应强制检查美国政府使用的人工智能，以确保其不会无意中传播歧视性结果。

例如，必须制定例行时间表，对AI系统进行评估，以确保嵌入的，有害的偏见不会导致歧视或不符合我们的民主，包容性价值观的建议；并且由于AI不断地反复学习和学习，因此应定期重新评估新模式。

在美国政府中，建立负责任的AI治理系统尤为关键，这需要提供 两 过程 否认某些利益时提供保护。 例如，当AI用于确定分配时 医疗补助金，并且根据算法修改或拒绝了此类收益，政府必须能够说明该结果， 适当地称为技术正当程序.

如果将决策委托给自动化系统而没有 可解释性，指导方针和人为监督，我们发现自己处于这种基本宪法权利被剥夺的不稳定局面。

同样，政府拥有巨大的权力，可以通过其采购能力确保关键企业参与者的AI保障措施到位。 预计联邦合同支出将 超过600亿美元 在2020财年，甚至还不包括大流行的经济刺激资金。 USG可通过发布联邦采购AI系统的检查表来产生巨大影响-这将确保政府的程序既严格又普遍适用，包括相关的民权方面的考虑。

保护免受来自人工智能系统的歧视

政府拥有另一个强大的杠杆来保护我们免受人工智能的伤害：其调查和起诉权。当决策依赖人工智能驱动的系统时，指示各机构澄清现行法律法规（例如 ADA、公平住房、公平贷款、民权法案等）的适用性的行政命令可能会导致全球清算。在美国运营的公司无疑会有动力检查其人工智能系统是否对受保护群体造成伤害。

低收入个体极易受到AI的许多负面影响。 这在以下方面尤其明显 信用 和贷款创造，因为它们不太可能获得传统金融产品或基于传统框架获得高分的能力。 然后，这成为用于创建自动执行此类决策的AI系统的数据。

消费者金融保护局（CFPB）可以在使金融机构对因依赖歧视性AI系统而产生的歧视性贷款流程负责的过程中发挥关键作用。 EO的任务将是强制性功能，用于陈述如何评估支持AI的系统，从而引起公司的注意，并以对AI使用的明确期望更好地保护公众。

当个人以歧视性方式行事并且 正当程序 任意否认公共利益而未经说明的行为。 从理论上讲，当涉及到AI系统时，这些负债和权利将轻松转移，但对代理机构的行为和法律先例（或更确切地说，缺乏法律先例）的审查则相反。

管理工作有了一个良好的开端，例如回滚 建议的HUD规则 这将根本无法实现针对歧视性AI的法律挑战。 接下来，具有调查或检察权的联邦机构应阐明哪些AI做法将受到其审查，并且当前的法律将适用。例如，HUD用于非法住房歧视； 关于信用贷款中使用的AI的CFPB; 以及在雇用，评估和解雇的决定中使用的人工智能部门。

这样的行动会带来额外的好处，那就是建立一个 有用的先例 原告在投诉中的行动。

拜登政府已经采取了令人鼓舞的第一步，表明其致力于确保包容性、较少歧视性的人工智能的意图。然而，它必须整顿自己的内部秩序，指示联邦机构要求人工智能的开发、获取和使用——在内部以及与它有业务往来的人——以保护隐私、公民权利、公民自由和自由的方式进行。美国价值观。

资料来源：https://techcrunch.com/2021/04/22/to-ensure-inclusivity-the-biden-administration-must-double-down-on-ai-development-initiatives/