بذریعہ جان پی ڈیسمنڈ، اے آئی ٹرینڈز ایڈیٹر
ایک حالیہ سروے میں، سینئر بزنس ایگزیکٹیو نے اعتراف کیا کہ وہ کبھی کبھی AI کے غیر اخلاقی استعمال کرتے ہیں۔
کھلے عام غیر اخلاقی ہونے کا اعتراف جواب دہندگان کی طرف سے ڈیٹا پرائیویسی کے بارے میں 250 سے زیادہ ملازمین والی کمپنیوں میں KPMG کے 1,000 ڈائریکٹر لیول یا اعلیٰ ایگزیکٹوز کے حالیہ سروے میں سامنے آیا ہے۔
جواب دہندگان میں سے کچھ 29 فیصد نے اعتراف کیا کہ ان کی اپنی کمپنیاں ذاتی معلومات اکٹھی کرتی ہیں جو "کبھی کبھی غیر اخلاقی" ہوتی ہیں اور 33 فیصد نے کہا کہ صارفین کو اس بارے میں فکر مند ہونا چاہیے کہ ان کی کمپنی ذاتی ڈیٹا کو کس طرح استعمال کرتی ہے، میں ایک حالیہ رپورٹ کے مطابق دی نیویارکر.
نتیجہ نے سروے کرنے والے کو حیران کر دیا۔ KPMG کی یو ایس پرائیویسی سروسز ٹیم کے پرنسپل اورسن لوکاس نے کہا، "کچھ کمپنیوں کے لیے، ڈیٹا پرائیویسی کے بارے میں جو کچھ وہ کہتے ہیں کہ وہ کیا کر رہے ہیں اور وہ اصل میں کیا کر رہے ہیں، اس کے درمیان غلط فرق ہو سکتا ہے۔"
ایک بڑھتا ہوا عمل کسی شخص کے بارے میں "سب کچھ جمع" کرنے کا اقدام ہے، پھر بعد میں معلوم کریں کہ اسے کیسے استعمال کیا جائے۔ اس نقطہ نظر کو بہتر طور پر سمجھنے کے ایک موقع کے طور پر دیکھا جاتا ہے کہ گاہک کیا کاروبار سے باہر نکلنا چاہتے ہیں جس کا نتیجہ بعد میں اس بارے میں شفاف گفت و شنید کی صورت میں نکل سکتا ہے کہ گاہک کونسی معلومات فراہم کرنے کے لیے تیار ہیں اور کب تک۔
ان میں سے اکثر کمپنیاں ابھی تک شفاف مذاکراتی مرحلے تک نہیں پہنچی ہیں۔ انٹرویو کیے گئے تقریباً 70 فیصد ایگزیکٹوز نے کہا کہ ان کی کمپنیوں نے گزشتہ سال جمع کی گئی ذاتی معلومات کی مقدار میں اضافہ کیا ہے۔ اور 62٪ نے کہا کہ ان کی کمپنی کو ڈیٹا کے تحفظ کے اقدامات کو مضبوط بنانے کے لیے مزید کام کرنا چاہیے۔
کے پی ایم جی نے ڈیٹا پرائیویسی پر عام آبادی کے 2,000 بالغوں کا سروے بھی کیا، جس میں پتہ چلا کہ 40 فیصد کمپنیوں کو اپنی ذاتی معلومات کے ساتھ اخلاقی طور پر برتاؤ کرنے پر بھروسہ نہیں ہے۔ لوکاس کے خیال میں، صارفین ایسے کاروبار کو سزا دینا چاہیں گے جو ذاتی ڈیٹا کے استعمال کے ارد گرد غیر منصفانہ طرز عمل کو ظاہر کرتا ہے۔
جمع کرائے گئے کاغذات کے وسیع تر اخلاقی جائزوں پر غور کرتے ہوئے AI کانفرنسز
دریں اثنا، AI کانفرنسوں میں، بعض اوقات AI ٹیکنالوجی کو اس کے ممکنہ طور پر غیر اخلاقی استعمال کے لیے بہت کم حساسیت کے ساتھ ڈسپلے کیا جاتا ہے، اور بعض اوقات، یہ AI ٹیک تجارتی مصنوعات میں اپنا راستہ تلاش کر لیتی ہے۔ 2019 میں کمپیوٹر ویژن اور پیٹرن کی شناخت پر آئی ای ای ای کانفرنس، مثال کے طور پر، ایم آئی ٹی کے کمپیوٹر سائنس اور اے آئی لیبارٹری کے محققین کے ایک مقالے کو قبول کیا گیا جس میں کسی شخص کے بولنے والے کی آڈیو ریکارڈنگ سے اس کا چہرہ سیکھنا تھا۔
Speech2Face نامی پروجیکٹ کا مقصد یہ تحقیق کرنا تھا کہ کسی شخص کے بولنے کے انداز سے اس کی شکل کے بارے میں کتنی معلومات کا اندازہ لگایا جا سکتا ہے۔ محققین نے ایک نیورل نیٹ ورک فن تعمیر کی تجویز پیش کی جو خاص طور پر آڈیو سے چہرے کی تعمیر نو کا کام انجام دینے کے لیے ڈیزائن کیا گیا تھا۔
چیزوں نے اس کے آس پاس کے پرستار کو مارا، گوگل کی ایک ٹرانس ویمن اور ماہر عمرانیات جو AI اخلاقیات کا مطالعہ کرتی ہیں، نے ٹویٹ کے ذریعے اسے "ٹرانس فوبک" کہتے ہوئے تحقیق کو روکنے کے لیے کہا۔ حنا نے اس بات پر اعتراض کیا کہ تحقیق نے شناخت کو حیاتیات سے جوڑنے کی کوشش کی۔ بحث چھڑ گئی۔ کچھ نے سوال کیا کہ کیا علمی پر مبنی کانفرنسوں میں جمع کرائے گئے کاغذات کو مزید اخلاقی جائزے کی ضرورت ہے۔
مائیکل کیرنز، یونیورسٹی آف پنسلوانیا کے کمپیوٹر سائنس دان اور کتاب کے مصنف، "اخلاقی الگورتھم، " کو بیان کیا دی نیویارکر کہ ہم AI اور مشین لرننگ کے لیے "ایک مین ہٹن پروجیکٹ کے لمحے" میں ہیں۔ انہوں نے کہا کہ "اس میدان میں علمی تحقیق کو معاشرے میں بڑے پیمانے پر تعینات کیا گیا ہے۔" "اس کے ساتھ یہ اعلی ذمہ داری آتی ہے۔"
Speech2Face پر ایک مقالہ وینکوور، کینیڈا میں منعقدہ 2019 نیورل انفارمیشن پروسیسنگ سسٹمز (Neurips) کانفرنس میں قبول کیا گیا۔ کیتھرین ہیلر، ڈیوک یونیورسٹی میں کمپیوٹر سائنس دان اور تنوع اور شمولیت کے لیے نیوریپس کی شریک چیئر نے بتایا۔ دی نیویارکر کہ کانفرنس نے اس سال تقریباً 1,400 مقالے قبول کیے تھے، اور وہ اخلاقیات کے موضوع پر تقابلی پش بیک کا سامنا کرنا یاد نہیں کر سکتی تھیں۔ "یہ نیا علاقہ ہے،" اس نے کہا۔
نیورپس 2020 کے لیے، جو دسمبر 2020 میں دور سے منعقد ہوا، اگر تحقیق معاشرے کے لیے خطرہ پایا گیا تو کاغذات کو مسترد کر دیا گیا۔ لندن میں گوگل ڈیپ مائنڈ کے ایک ریسرچ سائنسدان، آئیسن گیبریل، جو کانفرنس کے اخلاقیات پر نظرثانی کے عمل کی قیادت میں شامل ہیں، نے کہا کہ AI کو "ایک فیلڈ کے طور پر ترقی کرنے" میں مدد کرنے کے لیے تبدیلی کی ضرورت تھی۔
اخلاقیات کمپیوٹر سائنس کے لیے کسی حد تک نیا علاقہ ہے۔ جب کہ ماہرین حیاتیات، ماہر نفسیات، اور ماہر بشریات کو ان جائزوں کے لیے استعمال کیا جاتا ہے جو ان کی تحقیق کی اخلاقیات کے بارے میں استفسار کرتے ہیں، کمپیوٹر سائنسدانوں کو اس طرح نہیں اٹھایا گیا ہے۔ سرقہ اور مفادات کے تصادم جیسے طریقوں پر زیادہ توجہ مرکوز ہے۔
اس نے کہا، پچھلے کئی سالوں میں AI کے اخلاقی استعمال میں دلچسپی رکھنے والے متعدد گروپس سامنے آئے ہیں۔ ایسوسی ایشن فار کمپیوٹنگ مشینری کے کمپیوٹر-انسانی تعامل پر خصوصی دلچسپی کے گروپ نے، مثال کے طور پر، 2016 میں ایک ورکنگ گروپ کا آغاز کیا جو اب ایک اخلاقیات کی تحقیقی کمیٹی ہے جو کانفرنس پروگرام کے چیئرز کی درخواست پر کاغذات کا جائزہ لینے کی پیشکش کرتی ہے۔ 2019 میں، گروپ کو 10 انکوائریاں موصول ہوئیں، بنیادی طور پر تحقیقی طریقوں کے بارے میں۔
"زیادہ سے زیادہ، ہم دیکھتے ہیں، خاص طور پر AI خلا میں، زیادہ سے زیادہ سوالات، کیا اس قسم کی تحقیق بھی کوئی چیز ہونی چاہیے؟" یونیورسٹی آف میری لینڈ کی انفارمیشن سائنسدان اور کمیٹی کی سربراہ کیٹی شلٹن نے کہا۔ نیو یارکر۔
شلٹن نے ممکنہ طور پر غیر اخلاقی اثرات کی چار اقسام کی نشاندہی کی۔ سب سے پہلے، AI جسے آبادی کے خلاف "ہتھیار" بنایا جا سکتا ہے، جیسے چہرے کی شناخت، مقام سے باخبر رہنا، اور نگرانی۔ دوسرا، Speech2Face جیسی ٹیکنالوجیز جو کہ "لوگوں کو ان زمروں میں سخت کر سکتی ہیں جو اچھی طرح سے فٹ نہیں ہیں"، جیسے کہ جنس یا جنسی رجحان۔ تیسرا، خودکار ہتھیاروں کی تحقیق۔ چوتھا، حقیقت کے متبادل سیٹ بنانے کے لیے استعمال ہونے والے ٹولز، جیسے کہ جعلی خبریں، آوازیں یا تصاویر۔
یہ سبز میدان کا علاقہ نامعلوم میں ایک منصوبہ ہے۔ کمپیوٹر سائنس دانوں کے پاس عام طور پر اچھی تکنیکی معلومات ہوتی ہیں، "لیکن کمپیوٹر سائنس میں بہت سے لوگوں کو تحقیقی اخلاقیات کی تربیت نہیں دی گئی ہے،" شلٹن نے کہا کہ یہ کہنا آسان نہیں ہے کہ تحقیق کی ایک لائن موجود نہیں ہونی چاہیے۔
مقام کا ڈیٹا کیتھولک پادری کے لیے ہتھیار بنا ہوا ہے۔
کیتھولک پادری کے حالیہ تجربے میں لوکیشن ٹریکنگ ٹیکنالوجی کی ہتھیار سازی کا بھرپور مظاہرہ کیا گیا جسے گرائنڈر ڈیٹنگ ایپ کے صارف کے طور پر نکال دیا گیا تھا، اور جس نے بعد میں استعفیٰ دے دیا تھا۔ کیتھولک پادری برہمی کا حلف لیتے ہیں، جو کسی بھی قسم کی ڈیٹنگ ایپ کمیونٹی میں ہونے سے متصادم ہوگا۔
اس واقعے نے اخلاقی مسائل کو جنم دیا۔ اس کہانی کو ستون نامی کیتھولک نیوز آؤٹ لیٹ نے توڑا، جس نے کسی نہ کسی طرح "مقام پر مبنی ہک اپ ایپ Grindr سے ایپ ڈیٹا سگنلز" حاصل کیے تھے۔ بازیافت کریں ووکس سے یہ واضح نہیں تھا کہ اشاعت نے مقام کا ڈیٹا کیسے حاصل کیا اس کے علاوہ یہ کہنے کے کہ یہ "ڈیٹا وینڈر" سے تھا۔
ایکسپریس وی پی این کی ڈیجیٹل سیکیورٹی لیب کے پرنسپل محقق شان اوبرائن نے کہا، "مقام سے باخبر رہنے کی وجہ سے ہونے والے نقصانات حقیقی ہیں اور مستقبل میں دیرپا اثرات مرتب کر سکتے ہیں۔" recode "اسمارٹ فون کی نگرانی کی کوئی بامعنی نگرانی نہیں ہے، اور ہم نے اس معاملے میں جو رازداری کا غلط استعمال دیکھا ہے وہ ایک منافع بخش اور عروج والی صنعت کے ذریعے فعال ہے۔"
اس کاروبار میں ایک ڈیٹا وینڈر X-Mode ہے، جو سینکڑوں ایپس کے لاکھوں صارفین سے ڈیٹا اکٹھا کرتا ہے۔ ایک اکاؤنٹ کے مطابق، کمپنی کو امریکی حکومت کے ساتھ قومی سلامتی کے کام کی وجہ سے گزشتہ سال ایپل اور گوگل پلیٹ فارمز سے نکال دیا گیا تھا۔ وال اسٹریٹ جرنل تاہم، کمپنی ڈیجیٹل ایلچی، انکارپوریٹڈ آف اٹلانٹا کے ذریعہ حاصل کی جا رہی ہے، اور اسے آؤٹ لاجک کے نام سے دوبارہ برانڈ کیا جائے گا۔ اس کے چیف ایگزیکٹو، جوشوا اینٹن، ڈیجیٹل ایلچی کے ساتھ بطور چیف سٹریٹیجی آفیسر شامل ہوں گے۔ خریداری کی قیمت ظاہر نہیں کی گئی۔
ڈیجیٹل ایلچی کے سی ای او جیروڈ اسٹولر نے کہا کہ X-Mode کو حاصل کرنا "ہمیں سائبر سیکیورٹی، AI، فراڈ اور حقوق کے انتظام سے متعلق اپنی پیشکش کو مزید بڑھانے کی اجازت دیتا ہے۔" "یہ ہمیں دونوں ڈیٹا سیٹوں سے فائدہ اٹھاتے ہوئے نئے حلوں کو دیکھ کر خلا میں اختراع کرنے کی اجازت دیتا ہے۔ اور یہ نئے کلائنٹس اور نئی مارکیٹیں بھی لاتا ہے۔
ڈیجیٹل ایلچی اپنے صارفین کو ان کے ISP یا سیل فون کیریئر کے ذریعے تفویض کردہ IP ایڈریس کی بنیاد پر انٹرنیٹ صارفین پر ڈیٹا اکٹھا کرنے اور فراہم کرنے میں مہارت رکھتا ہے۔ ڈیٹا میں تخمینی جغرافیائی محل وقوع شامل ہو سکتا ہے اور کہا جاتا ہے کہ اشتہارات سمیت تجارتی ایپلی کیشنز میں مفید ہے۔
ایکس موڈ نے حال ہی میں ایک ویژولائزیشن ایپ کو ریٹائر کیا ہے، جسے XDK کہا جاتا ہے، اور اس میں ایک اکاؤنٹ کے مطابق، ڈیٹا کہاں سے حاصل کیا جاتا ہے اس بارے میں نئی رہنمائی شامل کرکے طریقوں کو تبدیل کر دیا ہے۔ تکنیکی طور پر۔ 2013 میں قائم ہونے کے بعد یہ دوسری بار ہے جب کمپنی نے دوبارہ برانڈ کیا ہے۔ ڈرنک موڈ کے طور پر شروع ہوا۔.
حصول کے بعد، ڈیجیٹل ایلچی نے ایک بیان میں کہا کہ اس نے ایک نیا ضابطہ اخلاق، ڈیٹا ایتھکس ریویو پینل، ایک حساس ایپ پالیسی شامل کی ہے اور ایک چیف پرائیویسی آفیسر کی خدمات حاصل کی جائیں گی۔
میں ماخذ مضامین اور معلومات پڑھیں دی نیویارکرمیں بازیافت کریں ووکس سے، میں وال سٹریٹ جرنل اور میں تکنیکی طور پر.
- 000
- 2016
- 2019
- 2020
- اکاؤنٹ
- حصول
- اشتہار.
- AI
- یلیکس
- ایمیزون
- کے درمیان
- اپلی کیشن
- ایپل
- ایپلی کیشنز
- ایپس
- فن تعمیر
- ارد گرد
- مضامین
- اٹلانٹا
- آڈیو
- آٹو
- آٹومیٹڈ
- حیاتیات
- بٹ
- کاروبار
- کینیڈا
- وجہ
- سی ای او
- تبدیل
- چیف
- کلائنٹس
- کوڈ
- جمع
- تجارتی
- کمیونٹی
- کمپنیاں
- کمپنی کے
- کمپیوٹر سائنس
- کمپیوٹر ویژن
- کمپیوٹنگ
- کانفرنس
- کانفرنسوں
- تنازعہ
- مفادات میں تضاد
- صارفین
- کریڈٹ
- گاہکوں
- سائبر سیکیورٹی
- اعداد و شمار
- ڈیٹا اخلاقیات
- ڈیٹا کی رازداری
- ڈیٹا کے تحفظ
- ڈیٹنگ
- بحث
- Deepmind
- DID
- ڈیجیٹل
- تنوع
- تنوع اور شمولیت
- ڈیوک
- ملازمین
- اخلاقیات
- ایگزیکٹو
- ایگزیکٹوز
- تجربہ
- چہرہ
- چہرے کی شناخت
- سامنا کرنا پڑا
- جعلی
- جعلی خبر کے
- اعداد و شمار
- پتہ ہے
- پہلا
- فٹ
- توجہ مرکوز
- دھوکہ دہی
- مستقبل
- جنس
- جنرل
- اچھا
- گوگل
- حکومت
- سبز
- گروپ
- بڑھتے ہوئے
- معاوضے
- کس طرح
- کیسے
- HTTPS
- سینکڑوں
- شناختی
- IEEE
- اثر
- انکارپوریٹڈ
- سمیت
- شمولیت
- صنعت
- معلومات
- بات چیت
- دلچسپی
- انٹرنیٹ
- IP
- IP ایڈریس
- آئی ایس پی
- مسائل
- IT
- میں شامل
- علم
- KPMG
- قیادت
- سیکھنے
- لائن
- محل وقوع
- لندن
- لانگ
- مشین لرننگ
- انتظام
- Markets
- میری لینڈ
- دھات
- منتقل
- قومی سلامتی
- نیٹ ورک
- عصبی
- عصبی نیٹ ورک
- نیورپس
- نئے حل
- خبر
- کی پیشکش
- تجویز
- افسر
- مواقع
- دیگر
- کاغذ.
- پاٹرن
- پنسلوانیا
- لوگ
- ذاتی مواد
- ستون
- پلیٹ فارم
- پالیسی
- آبادی
- قیمت
- پرنسپل
- کی رازداری
- حاصل
- پروگرام
- منصوبے
- تحفظ
- خرید
- حقیقت
- رپورٹ
- تحقیق
- کا جائزہ لینے کے
- جائزہ
- سائنس
- سائنسدانوں
- سیکورٹی
- سروسز
- نشانیاں
- اسمارٹ فون
- سوسائٹی
- حل
- خلا
- مہارت دیتا ہے
- کی طرف سے سپانسر
- اسٹیج
- بیان
- حکمت عملی
- سڑک
- مطالعہ
- جمع کرائی
- نگرانی
- سروے
- سسٹمز
- ٹیک
- ٹیکنیکل
- ٹیکنالوجی
- ٹیکنالوجی
- مستقبل
- ماخذ
- TIE
- وقت
- ٹریکنگ
- رجحانات
- بھروسہ رکھو
- پیغامات
- یونیورسٹی
- مریم لینڈ یونیورسٹی
- یونیورسٹی آف پنسلوانیا
- us
- امریکی حکومت
- صارفین
- وینکوور
- وینچر
- لنک
- نقطہ نظر
- تصور
- آوازیں
- وال سٹریٹ
- وال سٹریٹ جرنل
- Whitepaper
- ڈبلیو
- عورت
- کام
- سال
- سال