AI Weekly: Lệnh cấm nhận dạng khuôn mặt của EU nêu bật nhu cầu đối với luật pháp Hoa Kỳ

Tuần này, Nghị viện Châu Âu, cơ quan chịu trách nhiệm thông qua luật của Liên minh Châu Âu (EU), đã thông qua một nghị quyết không mang tính ràng buộc kêu gọi cấm cơ quan thực thi pháp luật sử dụng công nghệ nhận dạng khuôn mặt ở những nơi công cộng. Nghị quyết cũng đề xuất lệnh cấm triển khai phần mềm trị an dự đoán, sẽ hạn chế việc sử dụng nhận dạng sinh trắc học từ xa trừ khi nó nhằm mục đích chống tội phạm “nghiêm trọng”, chẳng hạn như bắt cóc và khủng bố.

Cách tiếp cận này trái ngược với cách tiếp cận của các cơ quan Hoa Kỳ, vốn tiếp tục áp dụng nhận dạng khuôn mặt ngay cả khi có các nghiên cứu cho thấy khả năng có thành kiến ​​về sắc tộc, chủng tộc và giới tính. Mới đây báo cáo từ Văn phòng Trách nhiệm Chính phủ Hoa Kỳ nhận thấy rằng 10 chi nhánh bao gồm Bộ Nông nghiệp, Thương mại, Quốc phòng và An ninh Nội địa có kế hoạch mở rộng việc sử dụng nhận dạng khuôn mặt từ năm 2020 đến năm 2023 khi họ triển khai tới 17 hệ thống nhận dạng khuôn mặt khác nhau.

Các hệ thống phân tích khuôn mặt thương mại đã bị các học giả cũng như các nhà hoạt động phê bình trong suốt thập kỷ qua, nếu không muốn nói là lâu hơn. Công nghệ và kỹ thuật - mọi thứ từ phim nhuốm màu nâu đỏ đến máy ảnh kỹ thuật số có độ tương phản thấp - thường ưu tiên làn da sáng hơn, mã hóa thành kiến ​​​​chủng tộc trong thuật toán. Thật vậy, các tiêu chuẩn độc lập về hệ thống của nhà cung cấp do Sắc thái giới tính dự án và loại khác đã tiết lộ rằng các công nghệ nhận dạng khuôn mặt dễ bị ảnh hưởng bởi một loạt thành kiến, trầm trọng hơn do sử dụng sai mục đích trong lĩnh vực này. Ví dụ, một báo cáo từ Trung tâm Công nghệ và Quyền riêng tư của Georgetown Law trình bày chi tiết cách cảnh sát cung cấp dữ liệu thiếu sót cho phần mềm nhận dạng khuôn mặt, bao gồm các bản phác thảo tổng hợp và hình ảnh của những người nổi tiếng có các đặc điểm ngoại hình giống với nghi phạm.

Ít nhất ba người ở Mỹ - tất cả đều là đàn ông da đen - đã bị bắt oan do nhận dạng khuôn mặt kém. Tại Detroit, nơi bắt đầu thí điểm phần mềm nhận dạng khuôn mặt vào năm 2017, cảnh sát vào năm 2020 đã sử dụng công nghệ này để tiến hành hơn 100 cuộc khám xét nghi phạm và thực hiện hơn 80 vụ bắt giữ trong những trường hợp xác định được có thể trùng khớp, theo Sở Cảnh sát Detroit. hồ sơ công khai. Ở nước ngoài, công nghệ nhận dạng khuôn mặt được Cảnh sát Thủ đô Vương quốc Anh sử dụng vào năm 2019 được phát hiện là 81% không chính xác, nhắm nhầm vào 4 trong số 5 người vô tội là nghi phạm bị truy nã, một sách trắng của Đại học Essex do Scotland Yard ủy quyền đã phát hiện.

Tuy nhiên, thị trường nhận dạng khuôn mặt toàn cầu dự kiến ​​​​sẽ trị giá 4.45 tỷ USD vào năm 2021 – và nhiều chính phủ đang kêu gọi công nghệ này. Các nhà cung cấp như AnyVision và Gorilla Technologies được cho là nhà cung cấp cho các nhà tù Đài Loan và các trạm kiểm soát của quân đội Israel ở Bờ Tây. Huawei đã thử nghiệm phần mềm được cho là có thể nhận dạng khuôn mặt của một thành viên thuộc nhóm thiểu số Duy Ngô Nhĩ. Và Clearview, công ty đã thu thập 10 tỷ bức ảnh chụp từ web để phát triển hệ thống nhận dạng khuôn mặt, tuyên bố có 3,100 cơ quan thực thi pháp luật và khách hàng chính phủ, bao gồm FBI, Cơ quan Hải quan và Bảo vệ Biên giới Hoa Kỳ.

Năm 2019, chỉ một nửa số người trưởng thành ở Hoa Kỳ nói rằng họ tin tưởng cơ quan thực thi pháp luật sẽ sử dụng tính năng nhận dạng khuôn mặt một cách có trách nhiệm, theo đến một cuộc thăm dò của Trung tâm Nghiên cứu Pew. Bản thân nhiều nhân viên chính phủ cũng nghi ngờ các công nghệ AI như nhận dạng khuôn mặt. Theo báo cáo gần đây của Gartner bỏ phiếu, chỉ 53% nhân viên tại các cơ quan công ở Châu Á Thái Bình Dương, Châu Âu, Châu Mỹ Latinh và Bắc Mỹ từng làm việc với công nghệ AI tin rằng công nghệ này cung cấp thông tin chuyên sâu để thực hiện công việc của họ tốt hơn. Trong số những người chưa sử dụng AI, tỷ lệ này là 34%, phản ánh mối lo ngại về tác động của công nghệ.

Thay vì quy định của liên bang Hoa Kỳ, một số tiểu bang, thành phố và thậm chí cả các công ty đã tự mình giải quyết vấn đề. Oakland và San Francisco ở California và Somerville, Massachusetts là một trong những thành phố lớn nơi cơ quan thực thi pháp luật bị cấm sử dụng nhận dạng khuôn mặt. Ở Illinois, các công ty phải nhận được sự đồng ý trước khi thu thập bất kỳ loại thông tin sinh trắc học nào, bao gồm cả hình ảnh khuôn mặt. New York gần đây thông qua lệnh cấm sử dụng nhận dạng sinh trắc học trong trường học cho đến năm 2022, và các nhà lập pháp ở Massachusetts và Maine đã tiến hành một lệnh cấm đình chỉ về việc chính phủ sử dụng bất kỳ hệ thống giám sát sinh trắc học nào trong khối thịnh vượng chung. Gần đây hơn, Maine đã thông qua một sáng kiến ​​​​bỏ phiếu cấm cảnh sát và các cơ quan thành phố sử dụng nhận dạng khuôn mặt. Và Amazon, IBM và Microsoft đã tự áp đặt lệnh cấm bán hệ thống nhận dạng khuôn mặt.

Nhưng bằng chứng là các đề nghị của EU, rõ ràng là cần có những hướng dẫn toàn diện hơn để điều chỉnh các công nghệ nhận dạng khuôn mặt được sử dụng trong khu vực công. Thượng nghị sĩ Hoa Kỳ Bernie Sanders (I-Vt.), Elizabeth Warren (D-Mass.), và Ron Wyden (D-Ore.) trong số những người khác đã đề xuất các biện pháp lập pháp, nhưng do tình trạng bế tắc hiện tại ở Capitol Hill, họ có thể sẽ vẫn bị đình trệ trong thời gian tới.

Để biết thông tin về AI, hãy gửi các mẹo tin tức tới Kyle Wiggers - và nhớ đăng ký Bản tin hàng tuần về AI và đánh dấu kênh AI của chúng tôi, The Machine.

Cảm ơn vì đã đọc,

Kyle Wiggers

Người viết nhân viên AI