Làm cho AI đứng vững trước thử thách của thời gian

Làm cho AI đứng vững trước thử thách của thời gian

Dấu thời gian: ngày 2 tháng 2024 năm 4 30:XNUMX sáng
Nút nguồn: 2424084

Ý kiến Tất cả những lo lắng và sợ hãi về AI đều tập trung lại thành một. Làm thế nào để chúng ta biết nó hoạt động tốt như thế nào?

Loại điểm chuẩn mà bộ phận CNTT thường lo lắng không phải là không có tầm quan trọng. Một tập dữ liệu cụ thể được học nhanh như thế nào, các lời nhắc có thể được xử lý nhanh như thế nào, những tài nguyên nào được yêu cầu và tất cả quy mô như thế nào? Nếu bạn đang tạo một hệ thống AI như một phần của doanh nghiệp mình, tốt hơn hết bạn nên hiểu đúng những điều đó hoặc ít nhất là hiểu giới hạn của chúng.

Mặt khác, chúng không quan trọng lắm, mặc dù bạn có thể chắc chắn rằng hoạt động tiếp thị và các chuyên gia sẽ không đồng ý. Thực tế là điều đó không thành vấn đề là một điều tốt: điểm chuẩn thường trở thành mục tiêu làm sai lệch chức năng và chúng cần được giữ chặt trong cũi của mình.

Tiêu chuẩn quan trọng nhất đối với AI là mức độ trung thực của nó hoặc hữu ích hơn là mức độ xuyên tạc của những người bán hoặc sử dụng nó. Như Pontius Pilate đã nói cách đây 2,000 năm, sự thật là gì? Không có điểm chuẩn. Bất chấp hàng nghìn năm qua và vô số tuyên bố đã khắc phục được điều này, vẫn chưa có. Những kẻ nói dối nghiêm trọng nhất có thể nhận được sự ủng hộ của các quốc gia ngay giữa thời kỳ vàng son của lý trí. Nếu không ai chuẩn bị hoặc có thể ngăn chặn chúng, thì liệu chúng ta có cơ hội nào để giữ AI đứng về phía các thiên thần?

Cơ chế duy nhất có cơ hội là sự tổng hợp kỳ lạ của các cơ quan quản lý và hệ thống tư pháp tồn tại - về mặt lý thuyết - bên ngoài chính trị nhưng bên trong sự kiểm soát dân chủ. Các cơ quan quản lý đặt ra các tiêu chuẩn, tòa án đóng vai trò là điểm tựa cho các quyền lực đó và là cơ quan xét xử các tranh chấp.

Nếu bạn nhìn vào nơi cuộc tranh luận là về AI trong hệ thống tư pháp, bạn sẽ tìm thấy rất nhiều sắc thái. Giống như tất cả các ngành nghề, luật được tạo thành từ những người muốn giữ được công việc của mình. Họ cũng muốn làm những công việc đó tốt hơn. Điều này có nghĩa là giảm bớt khoảng cách mà họ nhận thức sâu sắc giữa những người cần công lý và những người có thể tiếp cận nó. Triển vọng của AI ở đây được coi là có tiềm năng mang lại lợi ích to lớn – miễn là nó minh bạch, dễ tiếp cận, đáng tin cậy và có sức hấp dẫn.

Tất nhiên, điều này đúng với AI ở những nơi khác, và vì nghề luật đã dành nhiều thời gian để lo lắng về sự thật trong các vấn đề của con người hơn bất kỳ ai khác, nên tất cả chúng ta cần phải theo dõi chặt chẽ những gì họ nghĩ. Rốt cuộc thì họ đã có viết mã rất lâu trước COBOL.

Điều này đưa chúng ta đến các cơ quan quản lý. Lẽ ra lĩnh vực được quản lý càng mang tính kỹ thuật và đo lường được thì công việc của cơ quan quản lý càng dễ dàng hơn. Nếu bạn đang quản lý quang phổ vô tuyến hoặc đường sắt, có điều gì đó không ổn sẽ nhanh chóng xuất hiện trong các con số. Các cơ quan quản lý tài chính, hoạt động trong môi trường kinh tế vốn và sự định hướng sai lầm của doanh nghiệp, trải qua một chu kỳ bị suy yếu dưới danh nghĩa tăng trưởng mạnh cho đến khi mọi thứ sụp đổ và một cuộc tái thiết lập lớn diễn ra sau đó. Nhăn nhó và lặp lại. Tuy nhiên, các cơ quan quản lý rất kỹ thuật có thể gặp trục trặc, như với FAA và 737 MAX của Boeing. Sự nắm bắt quy định của các ngành công nghiệp của họ hoặc các chính trị gia là mối đe dọa thường xuyên. Và đôi khi chúng tôi không thể biết được – GDPR đã đồng hành cùng chúng tôi được 5 năm. Nó có hoạt động không?

Than ôi, không thể tạo ra một thị trường được điều tiết theo hai cách khác nhau và so sánh kết quả. EU có nhiều năm tuân thủ GDPR: không có EU nào cùng thời kỳ không có. Các nhóm kiểm soát, một trong những nền tảng của chủ nghĩa kinh nghiệm, không dễ dàng tìm thấy trong các cơ quan quản lý, và càng không thể tìm thấy nhiều trong hệ thống pháp luật. Hệ thống bồi thẩm đoàn xét xử một vụ án thông qua sự hiện diện của nhiều bộ óc độc lập, trong khi điểm dừng cuối cùng của các tòa án tối cao sẽ xem những vụ án khó nhất cũng được trình bày trước hội đồng xét xử. Không có hệ thống song song, khác biệt. Làm sao có thể có được?

Ở đây, bản chất của AI có thể gợi ý về một chỗ đứng pháp lý trong việc tích hợp máy móc một cách có trách nhiệm với các vấn đề của nhân loại. Không chỉ có một AI mà còn có vô số mô hình, nền tảng phần cứng, phương pháp tiếp cận, thử nghiệm. Họ là những cỗ máy và chúng ta có thể tạo ra bao nhiêu tùy thích. Sự thật cuối cùng là điều không thể biết được, nhưng vẫn có thể đạt được sự đồng thuận khả thi - hoặc thậm chí là đạt được đa số khả thi.

Nếu bạn có một nhiệm vụ quan trọng có liên quan đến AI và không có cách nào để phát hiện ngay lỗi sai, hãy thực hiện song song một nhiệm vụ khác. Và một cái khác. So sánh các câu trả lời. Nếu bạn không thể tìm thấy đủ AI độc lập cho một vấn đề cụ thể, đừng sử dụng AI cho đến khi bạn có thể.

Sự dư thừa là một vũ khí mạnh mẽ chống lại lỗi. Apollo lên Mặt trăng không phải vì các hệ thống này hoàn hảo, mà vì chúng có dự phòng sẵn sàng cho sự thất bại. Nỗ lực lên mặt trăng có người lái của Liên Xô đã tránh điều đó để có lợi cho những gì trông có vẻ hiệu quả nhưng lại kết thúc trong sự ô nhục.

Chúng ta không cần phải tin tưởng vào AI, điều này cũng tốt – sự thật là gì? Nó không biết nhiều hơn chúng ta. Nhưng chúng ta đã tạo dựng nên một xã hội khả thi xung quanh các hệ thống tin cậy và xác minh, và chúng ta thấy điều này có hiệu quả ở các thẩm phán cũng như máy bay phản lực. Triết lý, tiềm năng và cạm bẫy của những người bạn đồng hành ngày càng chu đáo của chúng ta sẽ phát huy tác dụng theo thời gian, chúng ta chỉ nên đặt ra những lợi thế có lợi cho mình khi có thể. Dù chúng ta làm gì, chúng ta cũng sẽ không thể rửa tay được. ®

Dấu thời gian:

Thêm từ Đăng ký