10 bước để giáo dục công ty của bạn về sự công bằng của AI

Khi các công ty ngày càng áp dụng trí tuệ nhân tạo, họ phải giải quyết những lo ngại về lòng tin.

Dưới đây là 10 biện pháp can thiệp thiết thực cho các công ty sử dụng để đảm bảo sự công bằng của AI. Chúng bao gồm việc tạo ra một AI công bằng điều lệ và thực hiện đào tạo, sát hạch.

Các công nghệ dựa trên dữ liệu và trí tuệ nhân tạo (AI) đang cung cấp năng lượng cho thế giới của chúng ta ngày nay — từ việc dự đoán nơi xuất hiện biến thể COVID-19 tiếp theo, đến giúp chúng ta di chuyển trên lộ trình hiệu quả nhất. Trong nhiều lĩnh vực, công chúng nói chung có mức độ tin tưởng cao rằng các thuật toán hỗ trợ những trải nghiệm này đang được phát triển một cách công bằng.

Tuy nhiên, niềm tin này có thể dễ dàng bị phá vỡ. Ví dụ, xem xét phần mềm tuyển dụng rằng, do dữ liệu đào tạo không mang tính đại diện, sẽ phạt các ứng dụng có từ “phụ nữ” hoặc hệ thống chấm điểm tín dụng bỏ sót bằng chứng trong thế giới thực về mức độ xứng đáng với tín dụng và do đó, một số nhóm nhất định nhận được giới hạn tín dụng thấp hơn hoặc bị từ chối cho vay.

Thực tế là công nghệ đang phát triển nhanh hơn giáo dục và đào tạo về sự công bằng của AI. Những người đào tạo, phát triển, triển khai và tiếp thị những trải nghiệm dựa trên dữ liệu này thường không biết về ý nghĩa thứ hai hoặc thứ ba của công việc khó khăn của họ.

Là một phần của Diễn đàn Kinh tế Thế giới Hội đồng Tương lai Toàn cầu về Trí tuệ Nhân tạo cho Nhân loại, một tập thể gồm các nhà thực hành AI, nhà nghiên cứu và cố vấn doanh nghiệp, chúng tôi đề xuất 10 biện pháp can thiệp thiết thực cho các công ty sử dụng để đảm bảo sự công bằng về AI.

1. Giao trách nhiệm giáo dục AI

Chỉ định một giám đốc đạo đức AI (CAIO), người cùng với hội đồng đạo đức đa chức năng (bao gồm đại diện từ khoa học dữ liệu, quy định, quan hệ công chúng, truyền thông và nhân sự) chịu trách nhiệm thiết kế và triển khai các hoạt động giáo dục AI. CAIO cũng phải là “thanh tra viên” để nhân viên liên hệ trong trường hợp có quan ngại về tính công bằng, đồng thời là người phát ngôn cho nhân viên không thuộc chuyên môn kỹ thuật. Lý tưởng nhất là vai trò này nên báo cáo trực tiếp với Giám đốc điều hành để biết khả năng hiển thị và triển khai.

2. Xác định sự công bằng cho tổ chức của bạn

Phát triển mẫu điều lệ công bằng AI và sau đó hỏi tất cả bộ ngành đang tích cực sử dụng AI để hoàn thành nó trong ngữ cảnh của họ. Điều này đặc biệt phù hợp với các nhà quản lý ngành nghề kinh doanh và chủ sở hữu sản phẩm và dịch vụ.

3. Đảm bảo tính công bằng AI trong chuỗi cung ứng

Yêu cầu các nhà cung cấp mà bạn đang sử dụng đã tích hợp AI vào các sản phẩm và dịch vụ được mua của họ – chẳng hạn như một cơ quan tuyển dụng có thể sử dụng AI để sàng lọc ứng viên – cũng phải hoàn thành điều lệ công bằng AI và tuân thủ các chính sách của công ty về sự công bằng AI. Điều này đặc biệt phù hợp với chức năng thu mua và các nhà cung cấp.

4. Giáo dục nhân viên và các bên liên quan thông qua đào tạo và phương pháp tiếp cận “vừa học vừa làm”

Yêu cầu đào tạo bắt buộc và chứng nhận cho tất cả nhân viên về nguyên tắc công bằng AI – tương tự như cách nhân viên được yêu cầu đăng ký quy tắc ứng xử trong kinh doanh. Đối với nhân viên kỹ thuật, đào tạo về cách xây dựng các mô hình không vi phạm nguyên tắc công bằng. Tất cả các khóa đào tạo nên tận dụng những hiểu biết sâu sắc từ điều lệ công bằng AI để giải quyết trực tiếp các vấn đề mà công ty phải đối mặt. Đảm bảo nội dung khóa học thường xuyên được xem xét bởi hội đồng đạo đức.

5. Lập kế hoạch nhân sự công bằng AI

Kế hoạch công bằng AI của HR nên bao gồm đánh giá hàng năm của HR để đánh giá sự đa dạng của nhóm làm việc trên các công nghệ dựa trên dữ liệu và AI, đồng thời đánh giá và nâng cấp rõ ràng các năng lực và kỹ năng hiện đang được quảng cáo để phát triển sản phẩm chính liên quan đến AI các vai trò (chẳng hạn như chủ sở hữu sản phẩm, nhà khoa học dữ liệu và kỹ sư dữ liệu) để đảm bảo nhận thức về sự công bằng là một phần của bản mô tả công việc.

6. Kiểm tra tính công bằng của AI trước khi bất kỳ công nghệ nào ra mắt

Yêu cầu các bộ phận và nhà cung cấp chạy và xuất bản nội bộ các bài kiểm tra kết quả công bằng trước khi bất kỳ thuật toán AI nào được phép hoạt động. Sau khi bạn biết nhóm nào có thể bị đối xử bất công do sai lệch dữ liệu, hãy mô phỏng người dùng từ nhóm đó và theo dõi kết quả. Điều này có thể được các nhóm sản phẩm sử dụng để lặp lại và cải thiện sản phẩm hoặc dịch vụ của họ trước khi đi vào hoạt động. Các công cụ nguồn mở, chẳng hạn như Microsoft Fairlearning, có thể giúp cung cấp phân tích cho bài kiểm tra kết quả công bằng.

7. Truyền đạt cách tiếp cận của bạn đối với sự công bằng AI

Thiết lập các buổi học hỏi về kết quả công bằng với nhân viên trực tiếp với khách hàng và công chúng để vượt qua các bài kiểm tra kết quả công bằng đối với bất kỳ sản phẩm hoặc dịch vụ mới hoặc cập nhật nào. Điều này đặc biệt phù hợp với tiếp thị và truyền thông bên ngoài, cũng như các nhóm dịch vụ khách hàng.

8. Dành một mục thường trực trong các cuộc họp hội đồng quản trị cho các quy trình công bằng AI

Cuộc thảo luận này nên bao gồm báo cáo về tiến độ và sự tuân thủ, các chủ đề được nêu ra từ giám đốc đạo đức AI và hội đồng đạo đức, và kết quả của các bài kiểm tra kết quả đầu ra công bằng có mức độ ưu tiên cao

9. Đảm bảo rằng nền giáo dục luôn gắn bó

Thường xuyên theo dõi và báo cáo việc tham gia và hoàn thành các hoạt động công bằng AI, cùng với tác động đã được chứng minh của việc quản lý công bằng về giá trị kinh doanh thực tế. Cung cấp các bản cập nhật này cho các nhà quản lý bộ phận và trực tiếp để truyền đạt tới nhân viên nhằm củng cố điều đó bằng cách làm cho các nền tảng và phần mềm AI trở nên công bằng hơn, tổ chức hoạt động hiệu quả và năng suất hơn.

10. Ghi lại mọi thứ

Ghi lại cách tiếp cận của bạn đối với sự công bằng trong AI và truyền đạt nó trong các khóa đào tạo nhân viên và nhà cung cấp cũng như các sự kiện nổi bật, bao gồm cả khách hàng và nhà đầu tư.

[Câu chuyện này ban đầu xuất hiện trên 10 bước để giáo dục công ty của bạn về sự công bằng của AI | Diễn đàn Kinh tế Thế giới (weforum.org). Bản quyền 2021.]

Nadjia Yousif là Giám đốc điều hành và Đối tác tại Tập đoàn tư vấn Boston và đồng lãnh đạo hoạt động Tổ chức tài chính cho Vương quốc Anh, Hà Lan và Bỉ.

Mark Minevich là Chủ tịch về Chính sách Trí tuệ Nhân tạo tại Trung tâm Nghiên cứu Quốc tế về Trí tuệ Nhân tạo dưới sự bảo trợ của UNESCO, Viện Jozef Stefan.