یورپ نے اعتماد اور اپٹیک کو بڑھانے کے لئے خطرے پر مبنی AI اصولوں کے لئے منصوبہ تیار کیا ہے

یوروپی یونین کے قانون سازوں نے ان کو پیش کیا ہے رسک پر مبنی تجویز بلاک کے واحد بازار میں مصنوعی ذہانت کی اعلی رسک ایپلی کیشنز کو منظم کرنے کے لئے۔

اس منصوبے میں استعمال کی ایسی چھوٹی تعداد پر پابندیاں شامل ہیں جو لوگوں کی حفاظت یا یورپی یونین کے شہریوں کے بنیادی حقوق کے لیے انتہائی خطرناک سمجھے جاتے ہیں، جیسے کہ چائنا طرز کا سوشل کریڈٹ اسکورنگ سسٹم یا AI سے چلنے والے بڑے پیمانے پر نگرانی کی مخصوص اقسام۔

تجویز کے تحت AI کے زیادہ تر استعمال کو کسی ضابطے کا سامنا نہیں کرنا پڑے گا (پابندی ہی چھوڑ دیں) لیکن نام نہاد "ہائی رسک" استعمال کا ایک ذیلی سیٹ مخصوص ریگولیٹری تقاضوں کے تابع ہوگا، دونوں سابقہ ​​(پہلے) اور سابقہ ​​پوسٹ (بعد میں) ) مارکیٹ میں لانچ کرنا۔

AI کے استعمال کے کچھ معاملات کے لیے شفافیت کے تقاضے بھی ہیں — جیسے کہ چیٹ بوٹس اور ڈیپ فیکس — جہاں EU قانون سازوں کا خیال ہے کہ ممکنہ خطرے کو صارفین کو یہ بتا کر کم کیا جا سکتا ہے کہ وہ کسی مصنوعی چیز کے ساتھ بات چیت کر رہے ہیں۔

منصوبہ بند قانون کا مقصد EU میں AI پروڈکٹ یا سروس بیچنے والی کسی بھی کمپنی پر لاگو کرنا ہے، نہ کہ صرف EU پر مبنی کمپنیوں اور افراد پر — لہذا، جیسا کہ EU کے ڈیٹا پروٹیکشن نظام کے ساتھ ہے، یہ دائرہ کار سے باہر ہو گا۔

یورپی یونین کے قانون سازوں کا سب سے بڑا ہدف عوام کے اعتماد کو فروغ دینا ہے کہ ٹیکنالوجی کے استعمال کو بڑھانے میں مدد کے لیے AI کو کس طرح لاگو کیا جاتا ہے۔ کمیشن کے سینئر اہلکار یورپی اقدار کے ساتھ ہم آہنگ ایک "ایکسی لینس ایکو سسٹم" تیار کرنے کی خواہش کے بارے میں بات کرتے ہیں۔

کمیشن ای وی پی، مارگریتھ ویسٹیجر نے ایک پریس کانفرنس میں اس تجویز کو اپنانے کا اعلان کرتے ہوئے کہا، "آج، ہمارا مقصد یورپ کو ایک محفوظ، قابل اعتماد اور انسانوں پر مرکوز مصنوعی ذہانت کی ترقی اور اس کے استعمال میں عالمی معیار کا بنانا ہے۔"

“ایک طرف ، ہمارے ضابطے میں AI کے مخصوص استعمال سے وابستہ انسانی اور معاشرتی خطرات کی نشاندہی کی جاتی ہے۔ یہ اعتماد پیدا کرنا ہے۔ دوسری طرف ، ہمارے مربوط منصوبے میں ضروری اقدامات کی نشاندہی کی گئی ہے جو ممبر ممالک کو سرمایہ کاری اور جدت طرازی کو فروغ دینے کے لئے اپنانا چاہئے۔ اتکرجتا کی ضمانت یہ سب ، اس بات کا یقین کرنے کے لئے کہ ہم پورے یورپ میں اے آئی کی اپ کو مضبوط بنائیں۔

اس تجویز کے تحت ، لازمی تقاضوں کو AI کے اطلاق کے "اعلی رسک" والے زمرے سے منسلک کیا گیا ہے حفاظت کا واضح خطرہ پیش کریں یا اس پر نقد لگانے کی دھمکی دیں یوروپی یونین کے بنیادی حقوق (جیسے غیر تفریق کا حق)۔

ہائی رسک AI کے استعمال کے کیسز کی مثالیں جو استعمال پر اعلیٰ ترین سطح کے ضابطے کے تابع ہوں گی ضابطے کے ضمیمہ 3 میں بیان کی گئی ہیں - جس کے بارے میں کمیشن نے کہا کہ اس کے پاس ڈیلیگیٹ ایکٹ کے ذریعے توسیع کرنے کا اختیار ہوگا، جیسا کہ استعمال کے کیسز AI ترقی کرتا رہتا ہے اور خطرات تیار ہوتے ہیں۔

ابھی کے لئے اعلی خطرے کی مثالیں مندرجہ ذیل اقسام میں آتی ہیں: بایومیٹرک شناخت اور قدرتی افراد کی درجہ بندی۔ اہم انفراسٹرکچر کا انتظام اور عمل۔ تعلیم اور پیشہ ورانہ تربیت؛ ملازمت ، کارکنوں کا انتظام اور خود روزگار تک رسائی۔ ضروری نجی خدمات اور عوامی خدمات اور فوائد تک رسائی اور ان سے لطف اندوز ہونا؛ قانون نافذ کرنے والے؛ ہجرت ، پناہ اور بارڈر کنٹرول مینجمنٹ؛ انصاف اور جمہوری عمل کا انتظام۔

اے آئی کے فوجی استعمال کو خاص طور پر دائرہ کار سے خارج کر دیا گیا ہے کیوں کہ ضابطہ بلاک کی داخلی مارکیٹ پر مرکوز ہے۔

اعلی رسک ایپلی کیشنز بنانے والوں کے پاس اپنی سابقہ ​​ذمہ داریوں کا ایک مجموعہ ہوگا جس کی تعمیل کرنے سے پہلے وہ اپنے پروڈکٹ کو مارکیٹ میں لانے سے پہلے ان کے AI کو تربیت دینے کے لئے استعمال ہونے والے ڈیٹا سیٹس کے معیار اور نہ صرف ڈیزائن بلکہ استعمال پر انسانی نگرانی کی ایک سطح پر مشتمل ہوں گے۔ مارکیٹ کے بعد کی نگرانی کی شکل میں ، اس کے ساتھ ساتھ جاری ، سابقہ ​​پوسٹ کی ضروریات۔

دیگر تقاضوں میں تعمیل چیک کو قابل بنانے کے لئے اے آئی سسٹم کے ریکارڈ تخلیق کرنے اور صارفین کو متعلقہ معلومات فراہم کرنے کی ضرورت بھی شامل ہے۔ اے آئی نظام کی مضبوطی ، درستگی اور حفاظت بھی ضابطے سے مشروط ہوگی۔

کمیشن کے عہدیداروں نے مشورہ دیا کہ اے کی درخواستوں کی اکثریت اس انتہائی ریگولیٹری زمرے سے باہر ہوگی۔ ان 'کم خطرے' والے AI نظاموں کو بنانے والوں کو محض استعمال کے سلسلے میں (غیر قانونی طور پر پابند) ضابطہ اخلاق اپنانے کی ترغیب دی جائے گی۔

مخصوص AI استعمال کیس پر پابندی عائد کرنے کے اصولوں کی خلاف ورزی کرنے کے جرمانے عالمی سالانہ ٹرن اوور کا 6٪ یا M 30M (جو بھی بڑا ہے) کے لئے مقرر کیا گیا ہے۔ جبکہ اعلی رسک ایپلی کیشنز سے متعلق قوانین کی خلاف ورزی 4٪ (یا 20M)) تک کی پیمائش کرسکتی ہے۔

نفاذ میں یوروپی یونین کے ہر ممبر ریاست میں متعدد ایجنسیاں شامل ہوں گی۔ اس تجویز کے ساتھ موجودہ (متعلقہ) ایجنسیوں جیسے پروڈکٹ سیفٹی باڈیز اور ڈیٹا پروٹیکشن ایجنسیوں کی نگرانی کا ارادہ کیا گیا ہے۔

یہ قومی اداروں کی مناسب وسائل کی فراہمی پر فوری سوالات اٹھاتا ہے، اضافی کام اور تکنیکی پیچیدگیوں کو دیکھتے ہوئے جو انہیں AI قوانین کی پولیسنگ میں درپیش ہوں گے۔ اور یہ بھی کہ بعض رکن ممالک میں نفاذ کی رکاوٹوں سے کیسے بچا جائے گا۔ (قابل ذکر بات یہ ہے کہ یورپی یونین کے جنرل ڈیٹا پروٹیکشن ریگولیشن کی بھی رکن ریاستوں کی سطح پر نگرانی کی جاتی ہے اور اسے یکساں طور پر بھرپور نفاذ کی کمی کا سامنا کرنا پڑا ہے۔)

یہاں ایک EU وسیع ڈیٹا بیس بھی مرتب کیا جائے گا جس نے بلاک میں لاگو ہائی رسک سسٹمز کا رجسٹر تشکیل دیا جائے (جس کا انتظام کمیشن کے ذریعہ ہوگا)۔

یوروپی مصنوعی انٹلیجنس بورڈ (ای اے آئی بی) کے نام سے ایک نیا ادارہ بھی تشکیل دیا جائے گا جس میں اس ضابطے کی مستقل درخواست کی حمایت کی جاسکے گی۔ یوروپی ڈیٹا پروٹیکشن بورڈ کے آئینے میں جو جی ڈی پی آر کو لاگو کرنے کے لئے رہنمائی پیش کرتا ہے۔

AI کے مخصوص استعمال کے اصولوں کے ساتھ قدم میں، منصوبے میں AI کی ترقی کے لیے EU کے رکن ریاستوں کی حمایت کو مربوط کرنے کے اقدامات شامل ہیں - جیسے کہ سٹارٹ اپس اور SMEs کو AI سے چلنے والی اختراعات کو تیار کرنے اور جانچنے میں مدد کے لیے ریگولیٹری سینڈ باکسز کا قیام۔ AI ڈویلپرز کو سپورٹ کرنے کے لیے EU کی ھدف شدہ فنڈنگ۔

انٹرنل مارکیٹ کمشنر تھیری بریٹن نے کہا کہ سرمایہ کاری اس منصوبے کا ایک اہم حصہ ہے۔

"ہمارے ڈیجیٹل یورپ اور ہورائزن یورپ پروگرام کے تحت ہم ہر سال ایک بلین یورو مفت کرنے جا رہے ہیں۔ اور اس کے علاوہ ہم آنے والی دہائی کے دوران نجی سرمایہ کاری اور € 20BN سالانہ کی اجتماعی EU کی سرمایہ کاری پیدا کرنا چاہتے ہیں - 'ڈیجیٹل دہائی' جیسا کہ ہم نے اسے کہا ہے،'' انہوں نے کہا۔ "ہم €140BN بھی چاہتے ہیں جو نیکسٹ جنریشن EU [COVID-19 ریکوری فنڈ] کے تحت ڈیجیٹل سرمایہ کاری کی مالی اعانت فراہم کرے گا - اور جزوی طور پر AI میں جانا ہے۔"

AI کے لیے قوانین کی تشکیل یورپی یونین کی صدر ارسولا وان ڈیر لیین کے لیے ایک اہم ترجیح رہی ہے جنہوں نے 2019 کے آخر میں اپنا عہدہ سنبھالا تھا۔ ایک وائٹ پیپر شائع کیا گیا تھا۔ گزشتہ سال، پیروی کرنا a یورپی یونین کی حکمت عملی کے لئے 2018 اے - اور وسٹاگر نے کہا کہ آج کی تجویز تین سال کے کام کی انتہا ہے۔

بریٹن نے مزید کہا کہ کاروباری اداروں کو AI لاگو کرنے کے لیے رہنمائی فراہم کرنے سے انہیں قانونی یقین اور یورپ کو ایک برتری ملے گی۔ انہوں نے کہا کہ "اعتماد... ہمارے خیال میں مصنوعی ذہانت کی ترقی کی اجازت دینا بہت ضروری ہے۔" [AI کی ایپلی کیشنز] کو قابل اعتماد، محفوظ، غیر امتیازی ہونا ضروری ہے - جو کہ بالکل اہم ہے - لیکن یقیناً ہمیں یہ سمجھنے کے قابل بھی ہونا چاہیے کہ یہ ایپلی کیشنز کس طرح کام کریں گی۔

"ہمیں رہنمائی کی ضرورت ہے۔ خاص طور پر ایک نئی ٹیکنالوجی میں… ہم ہیں، ہم ہوں گے، پہلا براعظم جہاں ہم رہنما خطوط دیں گے — ہم کہیں گے 'ارے، یہ سبز ہے، یہ گہرا سبز ہے، یہ شاید تھوڑا سا نارنجی ہے اور یہ حرام ہے'۔ . تو اب اگر آپ مصنوعی ذہانت کی ایپلی کیشنز استعمال کرنا چاہتے ہیں تو یورپ جائیں! آپ کو معلوم ہو جائے گا کہ کیا کرنا ہے، آپ کو معلوم ہو گا کہ اسے کیسے کرنا ہے، آپ کے ایسے پارٹنرز ہوں گے جو اچھی طرح سمجھتے ہوں گے اور ویسے، آپ اس براعظم میں بھی آئیں گے جہاں آپ کے پاس کرہ ارض پر سب سے زیادہ صنعتی ڈیٹا تیار ہو گا۔ اگلے دس سالوں کے لیے۔

"تو یہاں آئیں - کیونکہ مصنوعی ذہانت ڈیٹا کے بارے میں ہے - ہم آپ کو رہنما خطوط دیں گے۔ ہمارے پاس اسے کرنے کے اوزار اور انفراسٹرکچر بھی ہوگا۔

آج کی تجویز کا ایک ورژن پچھلے ہفتے لیک - کے نتیجے میں MEPs کے ذریعہ مطالبہ کرتے ہیں کہ منصوبہ کو بہتر بنائیں، جیسے عوامی مقامات پر ریموٹ بایومیٹرک نگرانی پر پابندی لگا کر۔

اس صورت میں حتمی تجویز ، دور دراز کے بایومیٹرک نگرانی کا خاص طور پر اے آئی کی اعلی رسک کا اطلاق کرتی ہے۔

تاہم استعمال کی مکمل طور پر پابندی نہیں ہے ، متعدد مستثنیات کے ساتھ جہاں قانون نافذ کرنے والے اداروں کو اب بھی اس کا استعمال کرنے میں مدد ملے گی ، جو ایک جائز قانونی بنیاد اور مناسب نگرانی کے تحت ہوگی۔

تحفظات بہت کمزور کے طور پر حملہ کیا

کمیشن کی تجویز پر ردعمل میں قانون نافذ کرنے والے اداروں کے لیے حد سے زیادہ وسیع چھوٹ کی تنقید کے ساتھ ساتھ یہ تشویش بھی شامل تھی کہ AI نظام کے امتیازی سلوک کے خطرے سے نمٹنے کے لیے اقدامات کافی حد تک آگے نہیں بڑھ رہے ہیں۔

کرمنل جسٹس این جی او، فیئر ٹرائلز نے کہا کہ اگر ضابطہ فوجداری انصاف کے سلسلے میں بامعنی تحفظات پر مشتمل ہو تو بنیادی بہتری کی ضرورت ہے۔ ایک بیان میں تبصرہ کرتے ہوئے، این جی او کے قانونی اور پالیسی افسر گریف فیرس نے کہا:یورپی یونین کی تجاویز کو مجرمانہ انصاف کے نتائج میں امتیازی سلوک کی سختی کو روکنے، بے گناہی کے تصور کی حفاظت اور یقینی بنانے کے لیے بنیادی تبدیلیوں کی ضرورت ہے۔ مجرمانہ انصاف میں AI کے لیے بامعنی احتساب۔ 

"قانون سازی میں امتیازی سلوک کے خلاف کسی قسم کے تحفظات کا فقدان ہے، جب کہ 'عوامی سلامتی کے تحفظ' کے لیے وسیع پیمانے پر چھوٹ اس بات کو مکمل طور پر کم کر دیتی ہے کہ فوجداری انصاف کے سلسلے میں جو بہت کم تحفظات ہیں۔ فریم ورک میں شامل ہونا ضروری ہے۔ امتیازی سلوک کو روکنے اور منصفانہ ٹرائل کے حق کے تحفظ کے لیے سخت حفاظتی اقدامات اور پابندیاں۔ اس میں ایسے نظاموں کے استعمال کو محدود کرنا شامل ہے جو لوگوں کو پروفائل کرنے کی کوشش کرتے ہیں اور جرائم کے خطرے کی پیش گوئی کرتے ہیں۔ 

سول لبرٹیز یونین فار یوروپ (لبرٹیز) نے بھی خامیوں کو نشانہ بنایا جس نے کہا کہ این جی او نے کہا کہ یورپی یونین کے ممبر ممالک کو AI کے مشکل استعمال پر پابندی لگانے کی اجازت دے گی۔

"اس ٹیکنالوجی کے بہت سارے مسائل والے استعمال ہیں جن کی اجازت ہے، جیسے کہ جرم کی پیشن گوئی کرنے کے لیے الگورتھم کا استعمال یا کمپیوٹر کا سرحدی کنٹرول پر لوگوں کی جذباتی حالت کا اندازہ لگانا، یہ دونوں ہی انسانی حقوق کے سنگین خطرات اور خطرہ ہیں۔ EU کی اقدار کے مطابق، "اورسولیا ریخ، سینئر ایڈوکیسی آفیسر، نے ایک بیان میں خبردار کیا۔ "ہمیں اس بات پر بھی تشویش ہے کہ پولیس چہرے کی شناخت کی ٹیکنالوجی کو ایسے طریقوں سے استعمال کر سکتی ہے جو ہمارے بنیادی حقوق اور آزادیوں کو خطرے میں ڈال سکتی ہے۔"

پیٹرک بریئر، جرمن بحری قزاقوں کے MEP نے بھی خبردار کیا کہ یہ تجویز 'یورپی اقدار' کے احترام کے دعوے کی پابندی کو پورا کرنے میں ناکام ہے۔ MEP ان 40 میں سے ایک تھا جنہوں نے کمیشن کو ایک خط پر دستخط کیے تھے۔ گزشتہ ہفتے اس کے بعد متنبہ کیا گیا کہ تجویز کا لیک شدہ ورژن بنیادی حقوق کے تحفظ میں کافی حد تک آگے نہیں بڑھا۔

"ہمیں یورپی یونین کو اخلاقی تقاضوں اور جمہوری اقدار کے مطابق مصنوعی ذہانت لانے کے موقع سے فائدہ اٹھانا چاہیے۔ بدقسمتی سے، کمیشن کی تجویز ہمیں صنفی انصاف اور تمام گروہوں کے ساتھ مساوی سلوک جیسے چہرے کی شناخت کے نظام یا دیگر قسم کی بڑے پیمانے پر نگرانی کے خطرات سے بچانے میں ناکام رہتی ہے،" بریئر نے آج کی رسمی تجویز پر ردعمل ظاہر کرتے ہوئے ایک بیان میں کہا۔

"ہماری عوامی جگہوں پر بائیو میٹرک اور بڑے پیمانے پر نگرانی، پروفائلنگ اور رویے کی پیش گوئی کی ٹیکنالوجی ہماری آزادی کو مجروح کرتی ہے اور ہمارے کھلے معاشروں کو خطرہ بناتی ہے۔ یوروپی کمیشن کی تجویز عوامی مقامات پر چہرے کی خودکار شناخت کے اعلی خطرے کے استعمال کو پورے یوروپی یونین میں لے آئے گی، ہمارے لوگوں کی اکثریت کی مرضی کے برعکس۔ مجوزہ طریقہ کار کے تقاضے محض سموک اسکرین ہیں۔ ہم لوگوں کے بعض گروہوں کے ساتھ امتیازی سلوک اور ان ٹیکنالوجیز کے ذریعے لاتعداد افراد کے جھوٹے الزامات کی اجازت نہیں دے سکتے۔

صارفین کے حقوق کی چھتری گروپ، BEUC، بھی تیزی سے تنقید کا نشانہ بن رہا تھا - کمیشن کی تجویز کو صارفین کے تحفظ کے حوالے سے کمزور قرار دیتے ہوئے، کیونکہ یہ "AI کے استعمال اور مسائل کی ایک بہت ہی محدود حد" کو منظم کرنے پر مرکوز ہے۔

"یورپی کمیشن کو صارفین کو ان کی روزمرہ کی زندگی میں AI پر بھروسہ کرنے میں مدد کرنے پر زیادہ توجہ دینی چاہیے تھی،" Beuc کے ڈائریکٹر جنرل Monique Goyens نے ایک بیان میں کہا: "لوگوں کو مصنوعی ذہانت سے چلنے والی کسی بھی پروڈکٹ یا سروس پر بھروسہ کرنے کے قابل ہونا چاہیے، خواہ وہ ہو۔ 'ہائی رسک'، 'میڈیم رسک' یا 'کم رسک'۔ EU کو یقینی بنانے کے لیے مزید کچھ کرنا چاہیے کہ صارفین کو قابل نفاذ حقوق حاصل ہوں، نیز کچھ غلط ہونے کی صورت میں ازالے اور علاج تک رسائی۔

ٹیک انڈسٹری گروپ ڈاٹ یورپ (سابقہ ​​ایڈیما) - جس کے ممبران میں Airbnb، Apple، Facebook، Google، Microsoft اور دیگر پلیٹ فارم کمپنیاں شامل ہیں - نے اس تجویز کی رہائی کا خیرمقدم کیا لیکن تحریر کے وقت ابھی تک تفصیلی ریمارکس پیش نہیں کیے، یہ کہتے ہوئے کہ یہ تشکیل دے رہا ہے۔ اس کی پوزیشن.

دیگر ٹیک لابی گروپوں نے ریڈ ٹیپ ریپنگ AI کے امکان پر حملہ کرنے کا انتظار نہیں کیا - یہ دعویٰ کرتے ہوئے کہ یہ ضابطہ "EU کی نوزائیدہ AI انڈسٹری کو اس سے پہلے کہ وہ چلنا سیکھ لے" گھٹنے ٹیک دے گا، جیسا کہ واشنگٹن اور برسلز میں قائم ٹیک پالیسی تھنک ٹینک (مرکز برائے ڈیٹا انوویشن) نے اسے رکھا۔

CCIA تجارتی ایسوسی ایشن نے بھی "ڈویلپرز اور صارفین کے لیے غیر ضروری ریڈ ٹیپ" کے خلاف فوری طور پر خبردار کیا، مزید کہا کہ ریگولیشن اکیلا یورپی یونین کو لیڈر نہیں بنائے گا۔ AI.

آج کی تجویز یورپی یونین کے شریک قانون سازی کے عمل کے تحت کافی بحث کا آغاز کرتی ہے، جس میں یورپی پارلیمنٹ اور یورپی یونین کونسل کے ذریعے ممبر ممالک کو اس مسودے پر اپنی رائے دینے کی ضرورت ہوتی ہے - یعنی یورپی یونین کے اداروں کے معاہدے پر پہنچنے سے پہلے بہت کچھ بدل سکتا ہے۔ پین-EU AI ریگولیشن کی حتمی شکل۔

کمشنروں نے اس بات کا ٹائم فریم دینے سے انکار کردیا کہ آج کب قانون سازی کی جاسکتی ہے، صرف یہ کہتے ہوئے کہ انہیں امید ہے کہ یورپی یونین کے دیگر ادارے فوری طور پر مشغول ہوں گے اور یہ عمل جلد از جلد کیا جاسکتا ہے۔ اس کے باوجود، ضابطے کی توثیق اور نافذ ہونے میں کئی سال لگ سکتے ہیں۔

اس رپورٹ کو کمیشن کی تجویز پر ردعمل کے ساتھ اپ ڈیٹ کیا گیا تھا۔

ماخذ: https://techcrunch.com/2021/04/21/europe-lays-out-plan-for-risk-based-ai-rules-to-boost-trust-and-uptake/