GPT-3 chega à empresa com o serviço Azure OpenAI da Microsoft

Durante a sua Inflamar conferência esta semana, a Microsoft revelou o Azure OpenAI Service, uma nova oferta projetada para dar às empresas acesso ao OpenAI's GPT-3 modelo de linguagem e seus derivados, juntamente com segurança, conformidade, governança e outros recursos focados nos negócios. Inicialmente apenas para convidados como parte do Serviços Cognitivos Azure, o serviço permitirá acesso à API da OpenAI por meio da plataforma Azure para casos de uso como tradução de idiomas, geração de código e preenchimento automático de texto.

De acordo com o vice-presidente corporativo da Microsoft para Azure AI, Eric Boyd, as empresas podem aproveitar o serviço Azure OpenAI para fins de marketing, como ajudar equipes a debater ideias para postagens em mídias sociais ou blogs. Eles também poderiam usá-lo para resumir reclamações comuns em registros de atendimento ao cliente ou ajudar os desenvolvedores com a codificação, minimizando a necessidade de parar e procurar exemplos.

“Estamos apenas nos estágios iniciais de descobrir qual é o poder e o potencial do GPT-3, que é o que o torna tão interessante”, acrescentou ele em comunicado. “Agora estamos pegando o que a OpenAI lançou e disponibilizando-o com todas as promessas empresariais que as empresas precisam para passar à produção.”

Modelos de grande linguagem

Construído pela OpenAI, GPT-3 e seus derivados aprimorados, como Códice, pode ser personalizado para lidar com aplicativos que exigem um conhecimento profundo da linguagem, desde a conversão da linguagem natural em código de software até o resumo de grandes quantidades de texto e a geração de respostas a perguntas. As pessoas usaram-no para automaticamente escrever e-mails e artigos, componha poesias e receitas, crie layouts de sites e crie códigos para aprendizado profundo em uma dúzia de linguagens de programação.

O GPT-3 está disponível publicamente desde 2020 por meio da API OpenAI; OpenAI disse que o GPT-3 está sendo usado agora em mais de 300 aplicativos diferentes por “dezenas de milhares” de desenvolvedores e produzindo 4.5 bilhões de palavras por dia. Mas de acordo com o vice-presidente corporativo de plataforma de IA da Microsoft, John Montgomery, que conversou recentemente com a VentureBeat em uma entrevista, o Azure OpenAI Service permite que as empresas implantem o GPT-3 de uma forma que esteja em conformidade com as leis, regulamentos e requisitos técnicos (por exemplo, capacidade de expansão, rede privada e gerenciamento de acesso) exclusivos para seu negócio ou setor.

“Quando você opera uma empresa nacional, às vezes, seus dados não podem [ser usados] em uma determinada região geográfica, por exemplo. O serviço Azure OpenAI pode basicamente colocar o modelo na região que você precisa”, disse Montgomery. “Para [nossos clientes empresariais], tudo se resume a perguntas como: 'Como vocês lidam com nossos requisitos de segurança?' e 'Como você lida com coisas como redes virtuais?' Alguns deles precisam que todos os seus endpoints de API sejam gerenciados centralmente ou usem chaves fornecidas pelo cliente para criptografia... O que o Azure OpenAI Service faz é dobrar todos esses recursos de backplane do Azure [para] clientes de grandes empresas [em uma] verdadeira implantação de produção para abrir a tecnologia GPT-3.”

Montgomery também aponta que o serviço Azure OpenAI torna o faturamento mais conveniente, cobrando pelo uso do modelo em uma única fatura do Azure, em vez de separadamente na API OpenAI. “Isso torna um pouco mais simples para os clientes pagar e consumir”, disse ele. “Porque neste momento, é uma fatura do Azure.”

As empresas estão, de facto, a aumentar os seus investimentos no processamento de linguagem natural (PNL), o subcampo da linguística, da ciência da computação e da IA ​​que se preocupa com a forma como os algoritmos analisam grandes quantidades de linguagem. De acordo com um 2021 vistoria do John Snow Labs e Gradient Flow, 60% dos líderes de tecnologia indicaram que seus orçamentos de PNL cresceram pelo menos 10% em comparação com 2020, enquanto um terço – 33% – disse que seus gastos aumentaram mais de 30%.

Personalização e segurança

Tal como acontece com a API OpenAI, o serviço Azure OpenAI permitirá que os clientes ajustem o GPT-3 para atender às necessidades específicas do negócio usando exemplos de seus próprios dados. Ele também fornecerá “acesso direto” ao GPT-3 em um formato projetado para ser intuitivo para os desenvolvedores, mas robusto o suficiente para que os cientistas de dados trabalhem com o modelo como desejarem, diz Boyd.

“É realmente um novo paradigma onde este modelo muito grande é agora a plataforma. Assim, as empresas podem simplesmente usá-lo e dar alguns exemplos e obter os resultados que precisam sem precisar de toda uma equipe de ciência de dados e milhares de GPUs e todos os recursos para treinar o modelo”, disse ele. “Acho que é por isso que vemos o enorme interesse em torno das empresas que desejam usar o GPT-3 – é muito poderoso e muito simples.”

É claro que está bem estabelecido que modelos como o GPT-3 estão longe de ser tecnicamente perfeitos. O GPT-3 foi treinado em mais de 600 GB de texto da web, parte dos quais veio de comunidades com penetrante gênero, raça, físicoe preconceitos religiosos. Estudos mostram que ele, como outros grandes modelos de linguagem, amplifica os preconceitos nos dados nos quais foi treinado.

In um papel, o Centro sobre Terrorismo, Extremismo e Contraterrorismo do Instituto Middlebury de Estudos Internacionais afirmou que o GPT-3 pode gerar texto “informativo” e “influente” que pode radicalizar as pessoas em ideologias e comportamentos extremistas de extrema direita. Um grupo da Universidade de Georgetown usou o GPT-3 para gerar desinformação, incluindo histórias em torno de uma narrativa falsa, artigos alterados para promover uma perspectiva falsa e tweets que abordam pontos específicos de desinformação. Outros estudos, como um publicado pela Intel, MIT e pesquisadores da iniciativa canadense de IA CIFAR em abril, encontraram altos níveis de preconceito em alguns dos modelos de código aberto mais populares, como BERT do Google e XLNet e RoBERTa do Facebook.

Mesmo modelos bem ajustados lutam para se livrar do preconceito e de outras características potencialmente prejudiciais. Por exemplo, o Codex pode ser solicitado a gerar resultados racistas e de outra forma questionáveis ​​como código executável. Ao escrever comentários de código com a indicação “Islã”, o Codex produz as palavras “terrorista” e “violento” em uma taxa maior do que com outros grupos religiosos.

Mais recente pesquisa sugere que os modelos linguísticos tóxicos implantados na produção podem ter dificuldades para compreender aspectos das línguas e dialetos minoritários. Isto poderia forçar as pessoas que utilizam os modelos a mudar para o “inglês alinhado ao branco” para garantir que os modelos funcionam melhor para elas, ou desencorajar os falantes minoritários de se envolverem com os modelos.

OpenAI afirma ter desenvolvido técnicas para mitigar preconceitos e toxicidade no GPT-3 e seus derivados, incluindo revisão de código, documentação, design de interface de usuário, controles de conteúdo e filtros de toxicidade. E a Microsoft afirma que disponibilizará o serviço Azure OpenAI apenas para empresas que planejam implementar casos de uso “bem definidos” que incorporem seu princípios e estratégias responsáveis para tecnologias de IA.

Além disso, a Microsoft fornecerá monitoramento e análise de segurança para identificar possíveis casos de abuso ou uso indevido, bem como novas ferramentas para filtrar e moderar conteúdo. Os clientes poderão personalizar esses filtros de acordo com suas necessidades de negócios, diz Boyd, enquanto recebem orientação da Microsoft sobre como usar o serviço Azure OpenAI “com sucesso e de forma justa”.

“Esta é uma área realmente crítica para a IA em geral e com o GPT-3 ultrapassando os limites do que é possível com a IA, precisamos ter certeza de que estamos na vanguarda para garantir que o estamos usando de forma responsável”, disse Boyd. “Esperamos aprender com nossos clientes e esperamos que as áreas responsáveis ​​de IA sejam lugares onde aprendemos o que precisa de mais polimento.”

OpenAI e Microsoft

O aprofundamento da parceria da OpenAI com a Microsoft reflete as realidades económicas que a empresa enfrenta. É um segredo aberto que a IA é um campo de capital intensivo – em 2019, a OpenAI tornou-se uma empresa com fins lucrativos chamada para garantir financiamento adicional enquanto permanecia controlada por uma organização sem fins lucrativos, tendo sido anteriormente uma organização 501(c)(3). E em julho, OpenAI dissolvido sua equipe de robótica após anos de pesquisa em máquinas que podem aprender a realizar tarefas como resolvendo um cubo de Rubik.

Cerca de um ano atrás, A Microsoft anunciou que iria investir US $ 1 bilhão na OpenAI com sede em São Francisco desenvolver em conjunto novas tecnologias para a plataforma de nuvem Azure da Microsoft. Em troca, a OpenAI concordou em licenciar parte de sua propriedade intelectual para a Microsoft, que a empresa então empacotaria e venderia a parceiros, e treinar e executar modelos de IA no Azure enquanto a OpenAI trabalhava para desenvolver hardware de computação de próxima geração.

Nos meses que se seguiram, a OpenAI lançou uma API baseada no Microsoft Azure – API OpenAI – que permite aos desenvolvedores explorar os recursos do GPT-3. Em maio, durante a conferência de desenvolvedores Build 2020, a Microsoft revelou o que chama de Supercomputador de IA, uma máquina hospedada no Azure co-projetada pela OpenAI que contém mais de 285,000 núcleos de processador e 10,000 placas gráficas. E no final de 2020, a Microsoft anunciou que licenciaria exclusivamente o GPT-3 para desenvolver e fornecer soluções de IA para clientes, bem como criar novos produtos que aproveitassem o poder da geração de linguagem natural, como Códice.

A Microsoft anunciou no ano passado que o GPT-3 será integrado “profundamente” com Aplicativos poderosos, sua plataforma de desenvolvimento de aplicativos de baixo código — especificamente para geração de fórmulas. Os recursos alimentados por IA permitirão que um usuário crie um aplicativo de comércio eletrônico, por exemplo, para descrever um objetivo de programação usando linguagem de conversação como “encontre produtos onde o nome comece com 'crianças'”. Mais recentemente, o GitHub, de propriedade da Microsoft, lançou um recurso chamado Copilot que é alimentado pelo modelo de geração de código Codex da OpenAI, que o GitHub diz agora está sendo usado para escrever até 30% de novos códigos em sua rede.

Certamente, os grandes vencedores do boom da PNL são os provedores de serviços em nuvem como o Azure. De acordo com a pesquisa do John Snow Labs, 83% das empresas já usam APIs de PNL do Google Cloud, Amazon Web Services, Azure e IBM, além de bibliotecas de código aberto. Isto representa uma mudança considerável, considerando o fato de que o mercado global de PNL está esperado subir em valor de US$ 11.6 bilhões em 2020 para US$ 35.1 bilhões até 2026. Em 2019, Gerado pela IBM US$ 303.8 milhões somente em receita de suas plataformas de software de IA.