GPT-3 поставляється на підприємстві зі службою Microsoft Azure OpenAI

Під час його Запалати На конференції цього тижня корпорація Майкрософт представила службу Azure OpenAI, нову пропозицію, розроблену для того, щоб надати підприємствам доступ до OpenAI GPT-3 мовна модель та її похідні разом із безпекою, відповідністю, керуванням та іншими функціями, орієнтованими на бізнес. Спочатку лише за запрошеннями як частину Когнітивні служби Azure, сервіс надасть доступ до API OpenAI через платформу Azure для таких випадків використання, як переклад мови, генерація коду та автозаповнення тексту.

За словами корпоративного віце-президента Microsoft з Azure AI Еріка Бойда, компанії можуть використовувати службу Azure OpenAI для маркетингових цілей, наприклад, допомагаючи командам обмірковувати ідеї для публікацій у соціальних мережах або блогів. Вони також можуть використовувати його для підсумовування типових скарг у журналах обслуговування клієнтів або допомагати розробникам із кодуванням, зводячи до мінімуму необхідність зупинятися та шукати приклади.

«Ми лише на початковому етапі з’ясування потужності та потенціалу GPT-3, що робить його таким цікавим», — додав він у заяві. «Тепер ми беремо те, що випустив OpenAI, і робимо його доступним з усіма корпоративними обіцянками, які підприємства повинні перейти до виробництва».

Великі мовні моделі

Створено за допомогою OpenAI, GPT-3 і його налаштованих похідних, як Кодекс, можна налаштувати для обробки програм, які вимагають глибокого розуміння мови, від перетворення природної мови в програмний код до підсумовування великої кількості тексту та генерування відповідей на запитання. Люди використовували це автоматично писати листи та статті, складати вірші та рецепти, створювати макети веб-сайтів і створювати код для поглибленого навчання дюжиною мов програмування.

GPT-3 є загальнодоступним з 2020 року через OpenAI API; OpenAI сказав що GPT-3 зараз використовується в більш ніж 300 різних програмах «десятками тисяч» розробників і створює 4.5 мільярда слів на день. Але за словами корпоративного віце-президента Microsoft з платформи ШІ Джона Монтгомері, який нещодавно дав інтерв’ю VentureBeat, служба Azure OpenAI дозволяє компаніям розгортати GPT-3 у спосіб, який відповідає законам, нормам і технічним вимогам (наприклад, масштабування потужності, приватні мережі та керування доступом), унікальні для їх бізнесу чи галузі.

«Коли ви керуєте національною компанією, іноді ваші дані не можуть [використовуватися] в певному географічному регіоні, наприклад. По суті, служба Azure OpenAI може розмістити модель у потрібному вам регіоні», — сказав Монтгомері. «Для [наших бізнес-клієнтів] це зводиться до запитання на кшталт: «Як ви виконуєте наші вимоги безпеки?» і "Як ви справляєтеся з такими речами, як віртуальні мережі?" Деякі з них потребують централізованого керування всіма їхніми кінцевими точками API або використання наданих клієнтом ключів для шифрування… Сервіс Azure OpenAI згортає всі ці можливості об’єднавчої плати Azure [для] великих корпоративних клієнтів [у] справжнє робоче розгортання відкрити технологію GPT-3».

Монтгомері також зазначає, що служба Azure OpenAI робить виставлення рахунків зручнішим, стягуючи плату за використання моделі за єдиним рахунком Azure, а не окремо за OpenAI API. «Це спрощує клієнтам платити та споживати», — сказав він. «Тому що на даний момент це одна купюра Azure».

Підприємства дійсно збільшують свої інвестиції в обробку природної мови (NLP), підгалузь лінгвістики, інформатики та ШІ, яка займається тим, як алгоритми аналізують велику кількість мови. За даними 2021 р огляд від John Snow Labs і Gradient Flow, 60% технічних лідерів вказали, що їхні бюджети NLP зросли принаймні на 10% порівняно з 2020 роком, а третина — 33% — заявили, що їхні витрати зросли більш ніж на 30%.

Налаштування та безпека

Як і OpenAI API, Azure OpenAI Service дозволить клієнтам налаштувати GPT-3 відповідно до конкретних потреб бізнесу, використовуючи приклади з власних даних. Він також забезпечить «прямий доступ» до GPT-3 у форматі, розробленому для інтуїтивно зрозумілого використання розробниками, але достатньо надійного для того, щоб дослідники даних могли працювати з моделлю, як вони хочуть, каже Бойд.

«Це дійсно нова парадигма, де ця дуже велика модель тепер сама є платформою. Таким чином, компанії можуть просто використовувати його, навести кілька прикладів і отримати потрібні результати, не потребуючи цілої команди з вивчення даних, тисяч графічних процесорів і всіх ресурсів для навчання моделі», — сказав він. «Я думаю, що саме тому ми бачимо величезний інтерес серед компаній, які хочуть використовувати GPT-3 — він водночас дуже потужний і дуже простий».

Звичайно, загальновідомо, що такі моделі, як GPT-3, далеко не технічно досконалі. GPT-3 навчався на більш ніж 600 ГБ тексту з Інтернету, частина якого надійшла від спільнот з поширений стать, раса, фізичнийі релігійні забобони. Дослідження показують, що він, як і інші великі мовні моделі, підсилює упередження в даних, на яких його навчали.

In папір, Центр тероризму, екстремізму та боротьби з Міддлберійським інститутом міжнародних досліджень стверджував, що GPT-3 може генерувати «інформаційний» і «впливовий» текст, який може радикалізувати людей до ультраправих екстремістських ідеологій і поведінки. Група з Джорджтаунського університету використовувала GPT-3 для створення дезінформації, включаючи історії навколо неправдивого наративу, статті, змінені, щоб просувати фальшиву перспективу, і твіти, які критикують певні моменти дезінформації. Інші дослідження, як-от дослідження, опубліковане Intel, MIT і дослідниками канадської ініціативи CIFAR у квітні, виявили високий рівень упередженості в деяких із найпопулярніших моделей з відкритим кодом, таких як BERT від Google та  XLNet та  RoBERTa від Facebook.

Навіть добре налаштовані моделі намагаються позбутися упереджень та інших потенційно шкідливих характеристик. Наприклад, Codex може бути запропоновано створити расистські та інші неприйнятні результати як виконуваний код. Під час написання коментарів до коду з підказкою «Іслам» Codex виводить слова «терористичний» і «насильницький» із більшою швидкістю, ніж інші релігійні групи.

Більш свіжі дослідження припускає, що токсичні мовні моделі, які використовуються у виробництві, можуть заважати зрозуміти аспекти мов і діалектів меншин. Це може змусити людей, які використовують моделі, перейти до «англійської мови з вирівнюванням білих», щоб переконатися, що моделі працюють для них краще, або перешкодити носіям меншин взагалі спілкуватися з моделями.

OpenAI стверджує, що розробив методи для пом’якшення упередженості та токсичності в GPT-3 та його похідних, включаючи перевірку коду, документацію, дизайн інтерфейсу користувача, засоби контролю вмісту та фільтри токсичності. І Microsoft заявляє, що зробить службу Azure OpenAI доступною лише для компаній, які планують реалізувати «чітко визначені» варіанти використання, які включають її відповідальні принципи та стратегії для технологій ШІ.

Окрім цього, Microsoft забезпечить моніторинг безпеки та аналіз для виявлення можливих випадків зловживань або неправильного використання, а також нові інструменти для фільтрації та модерації вмісту. Клієнти зможуть налаштувати ці фільтри відповідно до своїх бізнес-потреб, говорить Бойд, отримуючи вказівки від Microsoft щодо «успішного та справедливого» використання служби Azure OpenAI.

«Це справді важлива сфера для ШІ загалом, і оскільки GPT-3 розширює межі того, що можливо за допомогою ШІ, ми повинні переконатися, що ми знаходимося на передовій, щоб переконатися, що використовуємо його відповідально», — сказав Бойд. «Ми сподіваємося навчатися разом із нашими клієнтами, і ми очікуємо, що відповідальні сфери штучного інтелекту будуть тими місцями, де ми дізнаємося, які речі потребують додаткового вдосконалення».

OpenAI і Microsoft

Поглиблення партнерства OpenAI з Microsoft відображає економічні реалії, з якими стикається компанія. Ні для кого не секрет, що штучний інтелект є капіталомісткою сферою — у 2019 році OpenAI стала комерційною компанією, покликаною забезпечити додаткове фінансування, залишаючись під контролем некомерційної організації, яка раніше була організацією 501(c)(3). А в липні OpenAI розпущений його команда робототехніки після років досліджень машин, які можуть навчитися виконувати такі завдання, як складання кубика Рубіка.

Приблизно рік тому, Microsoft оголосила, що інвестує 1 мільярд доларів у OpenAI, що базується в Сан-Франциско спільно розробляти нові технології для хмарної платформи Microsoft Azure. В обмін на це OpenAI погодився ліцензувати Microsoft на частину своєї інтелектуальної власності, яку компанія потім упакує та продасть партнерам, а також на навчання та запуск моделей ШІ на Azure, оскільки OpenAI працював над розробкою комп’ютерного обладнання наступного покоління.

У наступні місяці OpenAI випустив API на базі Microsoft Azure — API OpenAI — що дозволяє розробникам досліджувати можливості GPT-3. У травні під час конференції розробників Build 2020 Microsoft представила те, що вона називає Суперкомп'ютер AI, розміщена на Azure машина, спільно розроблена OpenAI, яка містить понад 285,000 10,000 процесорних ядер і 2020 XNUMX графічних карт. А ближче до кінця XNUMX року Microsoft оголошений що вона буде ексклюзивно ліцензувати GPT-3 на розробку та надання рішень штучного інтелекту для клієнтів, а також на створення нових продуктів, які використовують потужність генерації природної мови, як-от Кодекс.

Минулого року Microsoft оголосила, що GPT-3 буде «глибоко» інтегровано з PowerApps, його платформа розробки програм із низьким кодом — спеціально для створення формул. Функції на основі штучного інтелекту дозволять користувачеві, який створює програму для електронної комерції, наприклад, описати ціль програмування за допомогою розмовної мови, як-от «знайти продукти, ім’я яких починається з «діти». Нещодавно GitHub, що належить Microsoft, запустив функцію під назвою Copilot який працює на основі моделі генерації коду Codex OpenAI, яка GitHub говорить зараз використовується для написання 30% нового коду в своїй мережі.

Безперечно, великими переможцями буму НЛП є постачальники хмарних послуг, такі як Azure. Згідно з опитуванням John Snow Labs, 83% компаній уже використовують NLP API від Google Cloud, Amazon Web Services, Azure та IBM на додаток до бібліотек з відкритим кодом. Це являє собою значну частину змін, враховуючи той факт, що глобальний ринок НЛП є таким очікуваний збільшити вартість з 11.6 мільярдів доларів у 2020 році до 35.1 мільярдів доларів до 2026 року. У 2019 році IBM створив 303.8 мільйона доларів доходу лише від програмних платформ ШІ.