GPT-3 kommer til bedriften med Microsofts Azure OpenAI Service

Under sin Ignite konferansen denne uken, avduket Microsoft Azure OpenAI Service, et nytt tilbud designet for å gi bedrifter tilgang til OpenAIs GPT-3 språkmodellen og dens derivater sammen med sikkerhet, compliance, styring og andre forretningsfokuserte funksjoner. I utgangspunktet kun for invitasjon som en del av Azure kognitive tjenester, vil tjenesten gi tilgang til OpenAIs API gjennom Azure-plattformen for brukstilfeller som språkoversettelse, kodegenerering og autofullføring av tekst.

I følge Microsofts konserndirektør for Azure AI, Eric Boyd, kan bedrifter utnytte Azure OpenAI-tjenesten til markedsføringsformål, som å hjelpe team med idédugnad om ideer til innlegg eller blogger på sosiale medier. De kan også bruke den til å oppsummere vanlige klager i kundeservicelogger eller hjelpe utviklere med koding ved å minimere behovet for å stoppe og søke etter eksempler.

"Vi er bare i begynnelsen av å finne ut hva kraften og potensialet til GPT-3 er, og det er det som gjør det så interessant," la han til i en uttalelse. "Nå tar vi det OpenAI har gitt ut og gjør det tilgjengelig med alle bedriftsløftene som bedrifter trenger for å gå over i produksjon."

Store språkmodeller

Bygget av OpenAI, GPT-3 og dets finjusterte derivater, som Codex, kan tilpasses for å håndtere applikasjoner som krever en dyp forståelse av språk, fra å konvertere naturlig språk til programvarekode til å oppsummere store mengder tekst og generere svar på spørsmål. Folk har brukt det til automatisk skrive e-post og artikler, komponer poesi og oppskrifter, lag nettstedoppsett og lag kode for dyp læring på et dusin programmeringsspråk.

GPT-3 har vært offentlig tilgjengelig siden 2020 gjennom OpenAI API; OpenAI har sagt at GPT-3 nå brukes i mer enn 300 forskjellige apper av «titusenvis» av utviklere og produserer 4.5 milliarder ord per dag. Men ifølge Microsofts konserndirektør for AI-plattformen John Montgomery, som nylig snakket med VentureBeat i et intervju, gjør Azure OpenAI Service det mulig for selskaper å distribuere GPT-3 på en måte som er i samsvar med lover, forskrifter og tekniske krav (f.eks. skaleringskapasitet, privat nettverk og tilgangsadministrasjon) som er unike for deres virksomhet eller bransje.

"Når du driver et nasjonalt selskap, kan dataene dine noen ganger ikke [brukes] i en bestemt geografisk region, for eksempel. Azure OpenAI Service kan i utgangspunktet plassere modellen i regionen du trenger for deg,» sa Montgomery. «For [bedriftskunder] kommer det ned på spørsmål som «Hvordan håndterer du sikkerhetskravene våre?» og «Hvordan håndterer du ting som virtuelle nettverk?» Noen av dem trenger at alle API-endepunktene deres administreres sentralt. eller bruk kundeleverte nøkler for kryptering ... Det Azure OpenAI-tjenesten gjør, er at den bretter alle disse Azure-bakplansfunksjonene [for] store bedriftskunder [til en] ekte produksjonsdistribusjon for å åpne GPT-3-teknologien."

Montgomery påpeker også at Azure OpenAI-tjenesten gjør fakturering mer praktisk ved å ta betalt for modellbruk under en enkelt Azure-regning, kontra separat under OpenAI API. "Det gjør det litt enklere for kundene å betale og konsumere," sa han. "Fordi på dette tidspunktet er det én Azure-regning."

Bedrifter øker faktisk investeringene sine i naturlig språkbehandling (NLP), underfeltet til lingvistikk, informatikk og AI som er opptatt av hvordan algoritmer analyserer store mengder språk. I følge en 2021 Undersøkelsen fra John Snow Labs og Gradient Flow indikerte 60 % av teknologilederne at deres NLP-budsjetter vokste med minst 10 % sammenlignet med 2020, mens en tredjedel – 33 % – sa at utgiftene deres steg med mer enn 30 %.

Tilpasning og sikkerhet

Som med OpenAI API, vil Azure OpenAI-tjenesten tillate kunder å justere GPT-3 for å møte spesifikke forretningsbehov ved å bruke eksempler fra deres egne data. Det vil også gi "direkte tilgang" til GPT-3 i et format designet for å være intuitivt for utviklere å bruke, men likevel robust nok til at dataforskere kan jobbe med modellen som de ønsker, sier Boyd.

"Det er virkelig et nytt paradigme der denne veldig store modellen nå selv er plattformen. Så bedrifter kan bare bruke det og gi det et par eksempler og få resultatene de trenger uten å trenge et helt datavitenskapsteam og tusenvis av GPUer og alle ressursene for å trene modellen,» sa han. "Jeg tror det er grunnen til at vi ser den enorme interessen rundt bedrifter som ønsker å bruke GPT-3 - det er både veldig kraftig og veldig enkelt."

Selvfølgelig er det veletablert at modeller som GPT-3 er langt fra teknisk perfekte. GPT-3 ble trent på mer enn 600 GB med tekst fra nettet, hvorav en del kom fra samfunn med gjennomgripende kjønn, rase, fysisk, og religiøse fordommer. Studier viser at den, som andre store språkmodeller, forsterker skjevhetene i data som den ble trent på.

In et papir, hevdet Middlebury Institute of International Studies 'senter for terrorisme, ekstremisme og bekjempelse av terrorisme at GPT-3 kan generere "informasjonsmessig" og "innflytelsesrik" tekst som kan radikalisere folk til høyreekstreme ideologier og atferd. En gruppe ved Georgetown University har brukt GPT-3 til å generere feilinformasjon, inkludert historier rundt en falsk fortelling, artikler endret for å presse et falskt perspektiv, og tweets som riffer på bestemte punkter med desinformasjon. Andre studier, som en publisert av Intel, MIT og det kanadiske AI-initiativet CIFAR-forskere i april, har funnet høye nivåer av skjevhet fra noen av de mest populære åpen kildekode-modellene, som f.eks. Googles BERT og XLNet og Facebooks RoBERTa.

Selv finjusterte modeller sliter med å kvitte seg med fordommer og andre potensielt skadelige egenskaper. For eksempel kan Codex bli bedt om å generere rasistiske og ellers støtende utdata som kjørbar kode. Når du skriver kodekommentarer med ledeteksten «Islam», gir Codex ut ordet «terrorist» og «voldelig» i høyere hastighet enn med andre religiøse grupper.

Nyere forskning antyder at giftige språkmodeller som brukes i produksjon kan slite med å forstå aspekter ved minoritetsspråk og dialekter. Dette kan tvinge folk som bruker modellene til å bytte til "hvitjustert engelsk" for å sikre at modellene fungerer bedre for dem, eller fraråde minoritetstalende fra å engasjere seg med modellene i det hele tatt.

OpenAI hevder å ha utviklet seg teknikker for å redusere skjevheter og toksisitet i GPT-3 og dets derivater, inkludert kodegjennomgang, dokumentasjon, brukergrensesnittdesign, innholdskontroller og toksisitetsfiltre. Og Microsoft sier at de bare vil gjøre Azure OpenAI Service tilgjengelig for selskaper som planlegger å implementere "veldefinerte" brukstilfeller som inkluderer ansvarlige prinsipper og strategier for AI-teknologier.

Utover dette vil Microsoft levere sikkerhetsovervåking og analyse for å identifisere mulige tilfeller av misbruk eller misbruk samt nye verktøy for å filtrere og moderere innhold. Kunder vil kunne tilpasse disse filtrene i henhold til deres forretningsbehov, sier Boyd, mens de mottar veiledning fra Microsoft om å bruke Azure OpenAI-tjenesten «vellykket og rettferdig».

"Dette er et veldig kritisk område for AI generelt, og med GPT-3 som presser grensene for hva som er mulig med AI, må vi sørge for at vi er i forkant for å sikre at vi bruker den ansvarlig," sa Boyd. "Vi forventer å lære med kundene våre, og vi forventer at de ansvarlige AI-områdene er steder der vi lærer hvilke ting som trenger mer polering."

OpenAI og Microsoft

OpenAIs dypere partnerskap med Microsoft gjenspeiler de økonomiske realitetene selskapet står overfor. Det er en åpen hemmelighet at AI er et kapitalintensivt felt – i 2019 ble OpenAI et profittselskap kalt for å sikre ytterligere finansiering mens de forblir kontrollert av en ideell organisasjon, etter å ha vært en 501(c)(3)-organisasjon. Og i juli, OpenAI oppløst sitt robotikkteam etter år med forskning på maskiner som kan lære å utføre oppgaver som løse en Rubiks kube.

For omtrent et år siden, Microsoft kunngjorde at de ville investere 1 milliard dollar i San Francisco-baserte OpenAI å i fellesskap utvikle nye teknologier for Microsofts Azure-skyplattform. I bytte gikk OpenAI med på å lisensiere noe av dets intellektuelle eiendom til Microsoft, som selskapet deretter ville pakke og selge til partnere, og å trene og kjøre AI-modeller på Azure mens OpenAI jobbet med å utvikle neste generasjons datamaskinvare.

I månedene som fulgte, ga OpenAI ut en Microsoft Azure-drevet API - Åpne AI API – som lar utviklere utforske GPT-3s evner. I mai under sin Build 2020-utviklerkonferanse avduket Microsoft det de kaller AI superdatamaskin, en Azure-vertsmaskin utviklet av OpenAI som inneholder over 285,000 10,000 prosessorkjerner og 2020 XNUMX grafikkort. Og mot slutten av XNUMX, Microsoft annonsert at det eksklusivt vil lisensiere GPT-3 til å utvikle og levere AI-løsninger for kunder, samt lage nye produkter som utnytter kraften i naturlig språkgenerering, som Codex.

Microsoft kunngjorde i fjor at GPT-3 vil bli "dypt" integrert med PowerApps, dens lavkode-apputviklingsplattform - spesielt for formelgenerering. De AI-drevne funksjonene vil tillate en bruker som bygger en e-handelsapp, for eksempel å beskrive et programmeringsmål ved å bruke samtalespråk som "finn produkter der navnet starter med "barn." Mer nylig lanserte Microsoft-eide GitHub en funksjon kalt copilot som er drevet av OpenAIs Codex-kodegenereringsmodell, som GitHub sier brukes nå til å skrive så mye som 30 % av ny kode på nettverket.

Absolutt, de store vinnerne i NLP-boomen er skytjenesteleverandører som Azure. I følge John Snow Labs-undersøkelsen bruker 83 % av selskapene allerede NLP APIer fra Google Cloud, Amazon Web Services, Azure og IBM i tillegg til åpen kildekode-biblioteker. Dette representerer en betydelig del av endringen, tatt i betraktning det faktum at det globale NLP-markedet er det forventet å stige i verdi fra 11.6 milliarder dollar i 2020 til 35.1 milliarder dollar innen 2026. I 2019 IBM generert 303.8 millioner dollar i inntekt alene fra AI-programvareplattformene.