就 AI 公平性对公司进行教育的 10 个步骤

随着公司越来越多地应用人工智能，他们必须解决对信任的担忧。

以下是公司可以采用的 10 项实用干预措施，以确保人工智能的公平性。 它们包括创建一个 AI公平 章程和实施培训和测试。

数据驱动的技术和人工智能 (AI) 正在为我们的世界提供动力——从预测下一个 COVID-19 变种将出现的位置，到帮助我们以最有效的路线旅行。 在许多领域，公众高度信任支持这些体验的算法正在以公平的方式开发。

然而，这种信任很容易被打破。 例如，考虑 招聘软件 由于不具有代表性的训练数据，惩罚包含“女性”一词的应用程序，或者信用评分系统错过了真实世界的信用价值证据，因此某些群体得到 降低信用额度 或被拒绝贷款。

现实情况是，该技术的发展速度比关于 AI 公平性的教育和培训发展得更快。 培训、开发、实施和营销这些数据驱动的体验的人通常不知道 他们辛勤工作的二阶或三阶影响.

作为世界经济论坛的一部分 人类人工智能全球未来委员会由 AI 从业者、研究人员和企业顾问组成的集体，我们提出了 10 项实用干预措施，供公司采用以确保 AI 公平。

1. 分配人工智能教育责任

指派一名首席人工智能道德官 (CAIO) 与跨职能道德委员会（包括来自数据科学、监管、公共关系、传播和人力资源的代表）一起负责人工智能教育活动的设计和实施。 CAIO 还应该是工作人员在涉及公平问题时可以联系的“监察员”，以及非技术人员的发言人。 理想情况下，此角色应直接向 CEO 报告，以便了解和实施。

2. 为您的组织定义公平性

开发AI公平章程模板，然后询问 所有部门 积极使用人工智能在他们的环境中完成它。 这对于业务线经理以及产品和服务所有者尤其重要。

3. 确保供应链中的 AI 公平性

要求您使用的供应商在其采购的产品和服务中内置了人工智能——例如可能使用人工智能进行候选人筛选的招聘机构——还需要完成人工智能公平章程并遵守公司关于人工智能公平的政策。 这对于采购职能和供应商尤其重要。

4. 通过培训和“边做边学”方法教育员工和利益相关者

要求对所有员工进行人工智能公平原则的强制性培训和认证——类似于要求员工签署商业行为准则的方式。 对于技术人员，提供有关如何构建不违反公平原则的模型的培训。 所有培训都应利用 AI 公平章程中的见解来直接解决公司面临的问题。 确保课程内容由道德委员会定期审查。

5. 创建 HR AI 公平人员计划

人力资源人工智能公平计划应包括人力资源部门的年度审查，以评估从事数据驱动技术和人工智能工作的团队的多样性，并对目前宣传的关键人工智能相关产品开发的能力和技能进行明确审查和升级确保公平意识的角色（例如产品负责人、数据科学家和数据工程师）是工作描述的一部分。

6. 在任何技术发布之前测试人工智能的公平性

要求部门和供应商在允许任何 AI 算法上线之前运行并在内部发布公平结果测试。 一旦您知道哪些群体可能因数据偏差而受到不公平对待，请模拟该群体中的用户并监控结果。 产品团队可以使用它在产品或服务上线之前对其进行迭代和改进。 开源工具，例如 微软 Fairlearn，可以帮助为公平结果测试提供分析。

7. 传达您对 AI 公平性的态度

与面向客户和公众的员工建立公平结果学习会议，以通过任何新的或更新的产品或服务的公平结果测试。 这对于营销和外部沟通以及客户服务团队尤其重要。

8. 在董事会会议上将一个常设项目专门用于 AI 公平流程

该讨论应包括进展和遵守情况的报告、首席人工智能道德官和道德委员会提出的主题以及高优先级公平结果测试的结果

9.确保教育坚持

定期跟踪和报告 AI 公平活动的参与和完成情况，以及管理公平在实际业务价值方面的已证明影响。 将这些更新提供给部门和直线经理，以便与员工进行沟通，以通过使 AI 平台和软件更加公平来加强组织的效率和生产力。

10.记录一切

记录您实现 AI 公平性的方法，并在员工和供应商培训以及备受瞩目的活动中进行交流，包括面向客户和投资者的活动。

[这个故事最初出现在 就 AI 公平性对您的公司进行教育的 10 个步骤 | 世界经济论坛（weforum.org）. 版权所有 2021。]

纳贾·尤西夫 是董事总经理兼合伙人 波士顿咨询集团 并共同领导英国、荷兰和比利时的金融机构业务。

马克·米涅维奇 是联合国教科文组织资助下的国际人工智能研究中心的人工智能政策主席，Jozef Stefan 研究所。