GPT-3 arriva in azienda con Azure OpenAI Service di Microsoft

Durante il suo infiammare conferenza di questa settimana, Microsoft ha presentato il servizio Azure OpenAI, una nuova offerta progettata per dare alle aziende l'accesso a OpenAI GPT-3 modello linguistico e i suoi derivati ​​insieme a sicurezza, conformità, governance e altre funzionalità incentrate sul business. Inizialmente solo su invito come parte di Servizi cognitivi di Azure, il servizio consentirà l'accesso all'API di OpenAI tramite la piattaforma Azure per casi d'uso come traduzione linguistica, generazione di codice e completamento automatico del testo.

Secondo Eric Boyd, vicepresidente aziendale di Microsoft per Azure AI, le aziende possono sfruttare il servizio Azure OpenAI per scopi di marketing, come aiutare i team a raccogliere idee per post o blog sui social media. Potrebbero anche usarlo per riassumere i reclami comuni nei registri del servizio clienti o aiutare gli sviluppatori con la codifica riducendo al minimo la necessità di fermarsi e cercare esempi.

"Siamo solo nelle fasi iniziali di capire quale sia la potenza e il potenziale di GPT-3, che è ciò che lo rende così interessante", ha aggiunto in una dichiarazione. "Ora stiamo prendendo ciò che OpenAI ha rilasciato e lo rendiamo disponibile con tutte le promesse aziendali di cui le aziende hanno bisogno per passare alla produzione".

Grandi modelli linguistici

Costruito da OpenAI, GPT-3 e i suoi derivati ​​perfezionati, come Codice, può essere personalizzato per gestire applicazioni che richiedono una profonda comprensione del linguaggio, dalla conversione del linguaggio naturale in codice software al riepilogo di grandi quantità di testo e alla generazione di risposte alle domande. Le persone lo hanno usato automaticamente scrivere e-mail e articoli, componi poesie e ricette, crea layout di siti Web e crea codice per il deep learning in una dozzina di linguaggi di programmazione.

GPT-3 è disponibile pubblicamente dal 2020 tramite l'API OpenAI; OpenAI ha detto che GPT-3 viene ora utilizzato in più di 300 app diverse da "decine di migliaia" di sviluppatori e produce 4.5 miliardi di parole al giorno. Ma secondo il vicepresidente aziendale Microsoft della piattaforma AI John Montgomery, che ha parlato di recente con VentureBeat in un'intervista, il servizio Azure OpenAI consente alle aziende di distribuire GPT-3 in modo conforme alle leggi, ai regolamenti e ai requisiti tecnici (ad esempio, capacità di scalabilità, reti private e gestione degli accessi) uniche per la loro attività o settore.

“Quando gestisci una società nazionale, a volte, i tuoi dati non possono [essere utilizzati] in una particolare regione geografica, ad esempio. Il servizio Azure OpenAI può sostanzialmente inserire il modello nella regione di cui hai bisogno", ha affermato Montgomery. “Per [i nostri clienti aziendali] si tratta di domande del tipo: 'Come gestite i nostri requisiti di sicurezza?' e "Come gestisci cose come le reti virtuali?" Alcuni di loro hanno bisogno che tutti i loro endpoint API siano gestiti centralmente o utilizzino chiavi fornite dal cliente per la crittografia... Ciò che fa il servizio Azure OpenAI è che riunisce tutte queste funzionalità del backplane di Azure [per] clienti di grandi aziende [in una] vera distribuzione di produzione per aprire la tecnologia GPT-3.”

Montgomery sottolinea inoltre che il servizio Azure OpenAI rende la fatturazione più conveniente addebitando l'utilizzo del modello con un'unica fattura Azure, rispetto a separatamente con l'API OpenAI. "Ciò rende un po' più semplice per i clienti pagare e consumare", ha affermato. "Perché a questo punto, è una fattura Azure."

Le aziende stanno effettivamente aumentando i loro investimenti nell'elaborazione del linguaggio naturale (NLP), il sottocampo della linguistica, dell'informatica e dell'intelligenza artificiale che si occupa di come gli algoritmi analizzano grandi quantità di linguaggio. Secondo un 2021 sondaggio da John Snow Labs e Gradient Flow, il 60% dei leader tecnologici ha indicato che i propri budget per la PNL sono cresciuti di almeno il 10% rispetto al 2020, mentre un terzo - il 33% - ha affermato che la propria spesa è aumentata di oltre il 30%.

Personalizzazione e sicurezza

Come con l'API OpenAI, il servizio Azure OpenAI consentirà ai clienti di ottimizzare GPT-3 per soddisfare esigenze aziendali specifiche utilizzando esempi tratti dai propri dati. Fornirà anche "accesso diretto" a GPT-3 in un formato progettato per essere intuitivo da usare per gli sviluppatori, ma abbastanza robusto per consentire ai data scientist di lavorare con il modello come desiderano, afferma Boyd.

“È davvero un nuovo paradigma in cui questo modello molto grande è ora esso stesso la piattaforma. Quindi le aziende possono semplicemente usarlo e fornirgli un paio di esempi e ottenere i risultati di cui hanno bisogno senza bisogno di un intero team di data science e migliaia di GPU e tutte le risorse per addestrare il modello", ha affermato. "Penso che sia questo il motivo per cui vediamo l'enorme interesse intorno alle aziende che desiderano utilizzare GPT-3: è sia molto potente che molto semplice."

Naturalmente, è risaputo che modelli come GPT-3 sono tutt'altro che tecnicamente perfetti. GPT-3 è stato addestrato su più di 600 GB di testo dal Web, una parte dei quali proveniva da comunità con pervasivo genere, razza, Fisico, e pregiudizi religiosi. Gli studi dimostrano che, come altri modelli linguistici di grandi dimensioni, amplifica i pregiudizi nei dati su cui è stato addestrato.

In un documento, il Centro sul terrorismo, l'estremismo e l'antiterrorismo del Middlebury Institute of International Studies ha affermato che il GPT-3 può generare testi "informativi" e "influenti" che potrebbero radicalizzare le persone verso ideologie e comportamenti estremisti di estrema destra. Un gruppo della Georgetown University ha utilizzato GPT-3 per generare disinformazione, comprese storie su una falsa narrativa, articoli alterati per spingere una prospettiva fasulla e tweet che parlano di particolari punti di disinformazione. Altri studi, come quello pubblicato da Intel, MIT e dai ricercatori CIFAR dell'iniziativa canadese di intelligenza artificiale ad aprile, hanno riscontrato alti livelli di distorsione da alcuni dei modelli open source più popolari, come BERT di Google ed Rete XL ed RoBERTa di Facebook.

Anche i modelli perfezionati lottano per eliminare pregiudizi e altre caratteristiche potenzialmente dannose. Ad esempio, al Codex può essere richiesto di generare output razzisti e altrimenti discutibili come codice eseguibile. Quando si scrivono commenti in codice con il prompt "Islam", Codex emette la parola "terrorista" e "violento" a un ritmo maggiore rispetto ad altri gruppi religiosi.

Più recente riparazioni suggerisce che i modelli linguistici tossici utilizzati nella produzione potrebbero avere difficoltà a comprendere gli aspetti delle lingue e dei dialetti minoritari. Ciò potrebbe costringere le persone che utilizzano i modelli a passare all'"inglese allineato al bianco" per garantire che i modelli funzionino meglio per loro, o scoraggiare gli oratori di minoranza dal interagire con i modelli.

OpenAI sostiene di aver sviluppato tecniche per mitigare pregiudizi e tossicità in GPT-3 e nei suoi derivati, inclusa la revisione del codice, la documentazione, la progettazione dell'interfaccia utente, i controlli dei contenuti e filtri di tossicità. E Microsoft afferma che renderà disponibile il servizio Azure OpenAI solo alle aziende che intendono implementare casi d'uso "ben definiti" che ne incorporano principi e strategie responsabili per le tecnologie AI.

Oltre a ciò, Microsoft fornirà monitoraggio e analisi della sicurezza per identificare possibili casi di abuso o uso improprio, nonché nuovi strumenti per filtrare e moderare i contenuti. I clienti saranno in grado di personalizzare questi filtri in base alle loro esigenze aziendali, afferma Boyd, mentre ricevono indicazioni da Microsoft sull'utilizzo del servizio Azure OpenAI "con successo e in modo equo".

"Questa è un'area davvero critica per l'intelligenza artificiale in generale e con GPT-3 che spinge i confini di ciò che è possibile con l'intelligenza artificiale, dobbiamo assicurarci di essere in prima linea per assicurarci di utilizzarlo in modo responsabile", ha affermato Boyd. "Ci aspettiamo di imparare con i nostri clienti e ci aspettiamo che le aree di intelligenza artificiale responsabili siano luoghi in cui apprendiamo ciò che le cose hanno bisogno di essere più rifinite".

OpenAI e Microsoft

L'approfondimento della partnership di OpenAI con Microsoft riflette le realtà economiche che l'azienda deve affrontare. È un segreto di Pulcinella che l'intelligenza artificiale sia un campo ad alta intensità di capitale: nel 2019, OpenAI è diventata una società a scopo di lucro chiamata a garantire finanziamenti aggiuntivi pur rimanendo controllata da un'organizzazione non profit, essendo stata in precedenza un'organizzazione 501 (c) (3). E a luglio OpenAI sciolto il suo team di robotica dopo anni di ricerca su macchine che possono imparare a svolgere compiti come risolvere un cubo di Rubik.

Circa un anno fa, Microsoft ha annunciato che avrebbe investito $ 1 miliardo in OpenAI con sede a San Francisco Francisco sviluppare insieme nuove tecnologie per la piattaforma cloud Azure di Microsoft. In cambio, OpenAI ha accettato di concedere in licenza parte della sua proprietà intellettuale a Microsoft, che l'azienda avrebbe poi impacchettato e venduto ai partner, e di addestrare ed eseguire modelli di intelligenza artificiale su Azure mentre OpenAI lavorava per sviluppare hardware di elaborazione di prossima generazione.

Nei mesi successivi, OpenAI ha rilasciato un'API basata su Microsoft Azure — API OpenAI — che consente agli sviluppatori di esplorare le capacità di GPT-3. A maggio, durante la conferenza degli sviluppatori Build 2020, Microsoft ha svelato quello che chiama il Supercomputer AI, una macchina ospitata in Azure co-progettata da OpenAI che contiene oltre 285,000 core di processore e 10,000 schede grafiche. E verso la fine del 2020, Microsoft ha annunciato che concederebbe in licenza GPT-3 in esclusiva per sviluppare e fornire soluzioni di intelligenza artificiale per i clienti, oltre a creare nuovi prodotti che sfruttino la potenza della generazione del linguaggio naturale, come Codice.

Microsoft l'anno scorso ha annunciato che GPT-3 sarà integrato "profondamente" con App potenti, la sua piattaforma di sviluppo di app low-code, specifica per la generazione di formule. Le funzionalità basate sull'intelligenza artificiale consentiranno a un utente che crea un'app di e-commerce, ad esempio, di descrivere un obiettivo di programmazione utilizzando un linguaggio conversazionale come "trovare prodotti in cui il nome inizia con "bambini". "Più recentemente, GitHub di proprietà di Microsoft ha lanciato una funzione chiamata Secondo pilota è alimentato dal modello di generazione del codice Codex di OpenAI, che GitHub dice viene ora utilizzato per scrivere fino al 30% del nuovo codice sulla sua rete.

Certamente, i grandi vincitori del boom della PNL sono i fornitori di servizi cloud come Azure. Secondo il sondaggio di John Snow Labs, l'83% delle aziende utilizza già le API NLP di Google Cloud, Amazon Web Services, Azure e IBM oltre alle librerie open source. Ciò rappresenta una parte considerevole del cambiamento, considerando il fatto che il mercato globale della PNL è previsto aumentare di valore da 11.6 miliardi di dollari nel 2020 a 35.1 miliardi di dollari entro il 2026. Nel 2019, IBM generato $ 303.8 milioni di entrate solo dalle sue piattaforme software di intelligenza artificiale.