Джон П. Десмонд, редактор AI Trends
Під час нещодавнього опитування керівники вищих компаній визнали, що іноді неетично використовують ШІ.
Респонденти визнали свою відверту неетику під час нещодавнього опитування, проведеного KPMG, серед 250 керівників на рівні директорів і вище в компаніях із понад 1,000 співробітників щодо конфіденційності даних.
Близько 29% респондентів визнали, що їхні власні компанії збирають особисту інформацію, яка «іноді є неетичною», а 33% сказали, що споживачі повинні турбуватися про те, як їх компанія використовує персональні дані, згідно з нещодавнім звітом у The New Yorker.
Результат здивував опитуваного. «Для деяких компаній може виникнути невідповідність між тим, що вони кажуть, що вони роблять щодо конфіденційності даних, і тим, що вони роблять насправді», – заявив Орсон Лукас, керівник служби конфіденційності KPMG у США.
Однією з зростаючих практик є рух «зібрати все» про людину, а потім зрозуміти, як це використовувати. Такий підхід розглядається як можливість краще зрозуміти, що клієнти хочуть отримати від бізнесу, що згодом може призвести до прозорих переговорів про те, яку інформацію клієнти готові надати і як довго.
Більшість із цих компаній ще не досягли етапу прозорих переговорів. Близько 70% опитаних керівників сказали, що їхні компанії збільшили кількість особистої інформації, яку вони збирали за останній рік. І 62% сказали, що їхня компанія повинна робити більше для посилення заходів захисту даних.
KPMG також провела опитування 2,000 дорослих населення щодо конфіденційності даних, виявивши, що 40% не довіряють компаніям етично поводитися з їхньою особистою інформацією. На думку Лукаса, споживачі захочуть покарати бізнес, який демонструє несправедливу практику використання персональних даних.
Конференції AI, які розглядають ширші етичні огляди поданих робіт
Тим часом на конференціях з штучним інтелектом іноді демонструється технологія штучного інтелекту з незначною чутливістю до її потенційно неетичного використання, а іноді ця технологія AI знаходить свій шлях у комерційних продуктах. Наприклад, конференція IEEE з комп’ютерного зору та розпізнавання образів у 2019 році прийняла доповідь дослідників з лабораторії комп’ютерних наук і штучного інтелекту Массачусетського технологічного інституту про вивчення обличчя людини за аудіозаписами, на яких ця людина говорить.
Мета проекту під назвою Speech2Face полягала в тому, щоб дослідити, скільки інформації про зовнішність людини можна вивести з того, як вони говорять. Дослідники запропонували архітектуру нейронної мережі, розроблену спеціально для виконання завдання реконструкції обличчя за допомогою аудіо.
Це викликало у шанувальників те, що Алекс Ханна, транс-жінка і соціолог з Google, яка вивчає етику штучного інтелекту, попросила через твіти припинити дослідження, назвавши його «трансфобним». Ханна заперечила проти того, як дослідження намагалися пов’язати ідентичність з біологією. Зав'язалися дебати. Дехто поставив під сумнів, чи потребують подальшої етичної перевірки роботи, подані на академічні конференції.
Майкл Кернс, спеціаліст з інформатики з Університету Пенсільванії та співавтор книги, "Етичний алгоритм, Â € заявив до The New Yorker що ми знаходимося в «трохи моменті Манхеттенського проекту» щодо штучного інтелекту та машинного навчання. «Академічні дослідження в цій галузі були широко розгорнуті в суспільстві», – сказав він. «З цим приходить ця вища відповідальність».
Доповідь про Speech2Face була прийнята на конференції нейронних систем обробки інформації (Neurips) 2019 року у Ванкувері, Канада. Розповіла Кетрін Хеллер, спеціаліст з інформатики з Університету Дьюка та співголова Neurips з питань різноманітності та інклюзії. The New Yorker що конференція того року прийняла близько 1,400 доповідей, і вона не могла пригадати, щоб зіткнутися з аналогічним відштовхуванням на тему етики. «Це нова територія», — сказала вона.
На Neurips 2020, який відбувся дистанційно в грудні 2020 року, документи були відхилені, якщо було виявлено, що дослідження становить загрозу для суспільства. Іасон Габріель, науковець Google DeepMind в Лондоні, який є одним із керівників процесу етичного огляду конференції, сказав, що зміни необхідні, щоб допомогти ШІ «досягти прогресу як галузі».
Етика є дещо новою територією для інформатики. У той час як біологи, психологи та антропологи звикли писати огляди, які ставлять під сумнів етику їхніх досліджень, комп’ютерних науковців не виховували таким чином. У центрі уваги більше методів, таких як плагіат і конфлікт інтересів.
Тим не менш, за останні кілька років з’явилася низка груп, зацікавлених у етичному використанні ШІ. Наприклад, у 2016 році Спеціальна група за інтересами Асоціації комп’ютерної техніки з взаємодії між комп’ютером і людиною заснувала робочу групу, яка зараз є дослідницьким комітетом з етики, який пропонує переглядати документи на прохання керівників програм конференції. У 2019 році група отримала 10 запитів, головним чином щодо методів дослідження.
«Ми все частіше бачимо, особливо в просторі штучного інтелекту, все більше і більше питань про те, чи варто взагалі проводити таке дослідження?» заявила Кеті Шілтон, науковець з питань інформації з Університету Меріленду та голова комітету, Нью-Йорк.
Шилтон виділив чотири категорії потенційно неетичного впливу. По-перше, AI, який можна «зброїти» проти населення, наприклад, розпізнавання обличчя, відстеження місцезнаходження та спостереження. По-друге, такі технології, як Speech2Face, які можуть «затвердити людей у категорії, які погано підходять», як-от стать чи сексуальна орієнтація. По-третє, дослідження автоматизованої зброї. По-четверте, інструменти, що використовуються для створення альтернативних наборів реальності, таких як фейкові новини, голоси чи зображення.
Ця територія зеленого поля — це підприємство у невідоме. Комп’ютерні науковці зазвичай мають хороші технічні знання. «Але багато людей, які займаються комп’ютерними науками, не були навчені дослідницькій етиці», – сказав Шилтон, зазначивши, що нелегко сказати, що лінія досліджень не повинна існувати.
Дані про місцезнаходження зброї для католицького священика
Зброя технології відстеження місцеположення була наочно продемонстрована в нещодавньому досвіді католицького священика, якого видали як користувача програми для знайомств Grindr, і який згодом пішов у відставку. Католицькі священики дають обітницю безшлюбності, що буде суперечити тому, що вони перебувають у будь-якій спільноті додатків для знайомств.
Інцидент підняв низку етичних проблем. Історію порушило католицьке інформаційне агентство під назвою Pillar, яке якимось чином отримало «сигнали даних додатка від додатка Grindr для підключення на основі місцезнаходження», – йдеться в обліковому записі в перекодувати від Vox. Незрозуміло, як публікація отримала дані про місцезнаходження, крім як стверджувати, що це від «постачальника даних».
«Шкода, заподіяна відстеженням місцезнаходження, реальна і може мати довготривалий вплив у майбутнє», — сказав Шон О'Браєн, головний науковий співробітник лабораторії цифрової безпеки ExpressVPN. перекодувати. «Немає жодного значущого нагляду за стеженням смартфонів, а порушення конфіденційності, яке ми спостерігали у цьому випадку, спричинене прибутковою та процвітаючою індустрією».
Одним із постачальників даних у цьому бізнесі є X-Mode, який збирає дані від мільйонів користувачів із сотень програм. Компанія була виведена з платформ Apple і Google минулого року через її роботу з національною безпекою з урядом США, згідно з обліковим записом в The Wall Street Journal. Однак компанію купує Digital Envoy, Inc. з Атланти, і вона буде перейменована на Outlogic. Його виконавчий директор Джошуа Антон приєднається до Digital Envoy як стратегічний директор. Вартість закупівлі не розголошується.
Придбання X-Mode «дозволяє нам ще більше вдосконалювати наші пропозиції, пов’язані з кібербезпекою, штучним інтелектом, шахрайством та управлінням правами», – заявив генеральний директор Digital Envoy Джеррод Столлер. «Це дозволяє нам впроваджувати інновації в космосі, дивлячись на нові рішення, які використовують обидва набори даних. І це також приносить нових клієнтів і нові ринки».
Digital Envoy спеціалізується на зборі та наданні своїм клієнтам даних про користувачів Інтернету на основі IP-адреси, призначеної їм їхнім провайдером або оператором мобільного зв’язку. Дані можуть включати приблизну геолокацію і, як кажуть, корисні в комерційних додатках, включаючи рекламу.
X-Mode нещодавно припинив використання програми візуалізації під назвою XDK і змінив практику, додавши нові вказівки щодо джерела даних, відповідно до облікового запису в Технічно. Це вже другий ребрендинг компанії з моменту заснування в 2013 році почався як п’яний режим.
Після придбання Digital Envoy заявила у своїй заяві, що додала новий кодекс етики, панель перегляду етики даних, політику щодо конфіденційних додатків і буде наймати головного спеціаліста з питань конфіденційності.
Прочитайте вихідні статті та інформацію в The New Yorkerв перекодувати від Vox, в The Wall Street Journal і в Технічно.
- 000
- 2016
- 2019
- 2020
- рахунки
- придбання
- реклама
- AI
- Alex
- Amazon
- серед
- додаток
- Apple
- застосування
- додатка
- архітектура
- навколо
- статті
- Atlanta
- аудіо
- автоматичний
- Автоматизований
- біологія
- Біт
- бізнес
- Канада
- викликаний
- Генеральний директор
- зміна
- головний
- клієнтів
- код
- Збір
- комерційний
- співтовариство
- Компанії
- компанія
- Інформатика
- Комп'ютерне бачення
- обчислення
- конференція
- конференції
- конфлікт
- Конфлікт інтересів
- Споживачі
- кредит
- Клієнти
- Кібербезпека
- дані
- етика даних
- конфіденційність даних
- захист даних
- датування
- дебати
- Deepmind
- DID
- цифровий
- різноманітність
- Різноманітність та включеність
- Герцог
- співробітників
- етика
- виконавчий
- керівництво
- досвід
- Face
- розпізнавання осіб
- облицювання
- підроблений
- підроблені новини
- Рисунок
- знахідки
- Перший
- відповідати
- Сфокусувати
- шахрайство
- майбутнє
- Стать
- Загальне
- добре
- Уряд
- зелений
- Group
- Зростання
- Наймання
- Як
- How To
- HTTPS
- Сотні
- Особистість
- IEEE
- Impact
- Инк
- У тому числі
- включення
- промисловість
- інформація
- взаємодія
- інтерес
- інтернет
- IP
- IP-адреса
- ISP
- питання
- IT
- приєднатися
- знання
- КПМГ
- Керівництво
- вивчення
- Лінія
- розташування
- Лондон
- Довго
- навчання за допомогою машини
- управління
- ринки
- Меріленд
- метал
- рухатися
- національна безпека
- мережу
- Нейронний
- нейронної мережі
- NeurIPS
- нові рішення
- новини
- пропонує
- Пропозиції
- Офіцер
- Можливість
- Інше
- Папір
- Викрійки
- Пенсільванія
- Люди
- особисті дані
- стовп
- Платформи
- політика
- населення
- price
- Головний
- недоторканність приватного життя
- Продукти
- програма
- проект
- захист
- покупка
- Реальність
- звітом
- дослідження
- огляд
- Відгуки
- наука
- Вчені
- безпеку
- Послуги
- Ознаки
- смартфон
- суспільство
- Рішення
- Простір
- спеціалізується
- Рекламні
- Стажування
- Заява
- Стратегія
- вулиця
- Дослідження
- представлений
- спостереження
- Огляд
- Systems
- технології
- технічний
- Технології
- Технологія
- Майбутнє
- Джерело
- TIE
- час
- Відстеження
- Тенденції
- Довіряйте
- чірікать
- університет
- Університет штату Меріленд
- Університет Пенсільванії
- us
- нас уряд
- користувачі
- Ванкувер
- підприємство
- вид
- бачення
- візуалізації
- ГОЛОСИ
- Уолл-стріт
- Wall Street Journal
- Whitepaper
- ВООЗ
- жінка
- Work
- рік
- років