GPT-3 llega a la empresa con el servicio Azure OpenAI de Microsoft

Durante su Encender conferencia esta semana, Microsoft dio a conocer el servicio Azure OpenAI, una nueva oferta diseñada para dar a las empresas acceso a OpenAI GPT-3 modelo de lenguaje y sus derivados junto con seguridad, cumplimiento, gobernanza y otras características centradas en el negocio. Inicialmente solo por invitación como parte de Servicios cognitivos de Azure, el servicio permitirá el acceso a la API de OpenAI a través de la plataforma Azure para casos de uso como traducción de idiomas, generación de código y autocompletado de texto.

Según el vicepresidente corporativo de Microsoft para Azure AI, Eric Boyd, las empresas pueden aprovechar el servicio Azure OpenAI con fines de marketing, como ayudar a los equipos a generar ideas para publicaciones en redes sociales o blogs. También podrían usarlo para resumir quejas comunes en los registros de servicio al cliente o ayudar a los desarrolladores con la codificación minimizando la necesidad de detenerse y buscar ejemplos.

“Estamos en las etapas iniciales de averiguar cuál es el poder y el potencial de GPT-3, que es lo que lo hace tan interesante”, agregó en un comunicado. "Ahora estamos tomando lo que OpenAI ha lanzado y haciéndolo disponible con todas las promesas empresariales que las empresas necesitan para pasar a la producción".

Grandes modelos de idiomas

Construido por OpenAI, GPT-3 y sus derivados afinados, como Códice, se puede personalizar para manejar aplicaciones que requieren una comprensión profunda del lenguaje, desde convertir el lenguaje natural en código de software hasta resumir grandes cantidades de texto y generar respuestas a preguntas. La gente lo ha usado para automáticamente escribir correos electrónicos y artículos, redacte poesía y recetas, cree diseños de sitios web y cree código para el aprendizaje profundo en una docena de lenguajes de programación.

GPT-3 ha estado disponible públicamente desde 2020 a través de la API OpenAI; OpenAI ha dicho que GPT-3 ahora se está utilizando en más de 300 aplicaciones diferentes por "decenas de miles" de desarrolladores y produce 4.5 millones de palabras por día. Pero según el vicepresidente corporativo de Microsoft de la plataforma de inteligencia artificial, John Montgomery, quien habló recientemente con VentureBeat en una entrevista, el servicio Azure OpenAI permite a las empresas implementar GPT-3 de una manera que cumpla con las leyes, regulaciones y requisitos técnicos (por ejemplo, capacidad de ampliación, redes privadas y gestión de acceso) exclusivas de su negocio o industria.

“Cuando opera una empresa nacional, a veces, sus datos no pueden [usarse] en una región geográfica en particular, por ejemplo. El servicio Azure OpenAI básicamente puede poner el modelo en la región que necesita para usted ”, dijo Montgomery. “Para [nuestros clientes comerciales], todo se reduce a preguntas como, '¿Cómo manejan nuestros requisitos de seguridad?' y "¿Cómo maneja cosas como las redes virtuales?" Algunos de ellos necesitan que todos sus puntos finales de API se administren de forma centralizada o utilicen claves proporcionadas por el cliente para el cifrado ... Lo que hace el servicio Azure OpenAI es que reúne todas estas capacidades de backplane de Azure [para] clientes de grandes empresas [en una] verdadera implementación de producción para abrir la tecnología GPT-3 ".

Montgomery también señala que el servicio Azure OpenAI hace que la facturación sea más conveniente al cobrar por el uso del modelo en una sola factura de Azure, en lugar de hacerlo por separado con la API de OpenAI. “Eso hace que sea un poco más sencillo para los clientes pagar y consumir”, dijo. "Porque en este punto, es una factura de Azure".

De hecho, las empresas están aumentando sus inversiones en el procesamiento del lenguaje natural (PNL), el subcampo de la lingüística, la informática y la inteligencia artificial que se ocupa de cómo los algoritmos analizan grandes cantidades de lenguaje. Según un 2021 encuesta de John Snow Labs y Gradient Flow, el 60% de los líderes tecnológicos indicaron que sus presupuestos de PNL crecieron al menos un 10% en comparación con 2020, mientras que un tercio, el 33%, dijo que su gasto aumentó en más del 30%.

Personalización y seguridad

Al igual que con la API de OpenAI, el servicio Azure OpenAI permitirá a los clientes ajustar GPT-3 para satisfacer necesidades comerciales específicas utilizando ejemplos de sus propios datos. También proporcionará "acceso directo" a GPT-3 en un formato diseñado para ser intuitivo para que lo utilicen los desarrolladores, pero lo suficientemente robusto para que los científicos de datos trabajen con el modelo como deseen, dice Boyd.

“Realmente es un nuevo paradigma en el que este modelo muy grande es ahora la plataforma. Entonces, las empresas pueden usarlo y darle un par de ejemplos y obtener los resultados que necesitan sin necesidad de un equipo completo de ciencia de datos y miles de GPU y todos los recursos para entrenar el modelo ”, dijo. "Creo que es por eso que vemos un gran interés en las empresas que desean utilizar GPT-3: es muy poderoso y muy simple".

Por supuesto, está bien establecido que modelos como GPT-3 están lejos de ser técnicamente perfectos. GPT-3 se entrenó en más de 600 GB de texto de la web, una parte del cual provino de comunidades con penetrante género, raza, los libros físicosy prejuicios religiosos. Los estudios muestran que, al igual que otros grandes modelos de lenguaje, amplifica los sesgos en los datos sobre los que fue entrenado.

In un papel, el Centro sobre Terrorismo, Extremismo y Contraterrorismo del Instituto Middlebury de Estudios Internacionales afirmó que GPT-3 puede generar texto "informativo" e "influyente" que podría radicalizar a las personas en ideologías y comportamientos de extrema derecha. Un grupo de la Universidad de Georgetown ha utilizado GPT-3 para generar información errónea, incluidas historias en torno a una narrativa falsa, artículos alterados para impulsar una perspectiva falsa y tweets sobre puntos particulares de desinformación. Otros estudios, como el publicado por Intel, el MIT y los investigadores de la iniciativa canadiense de inteligencia artificial CIFAR en abril, han encontrado altos niveles de sesgo en algunos de los modelos de código abierto más populares, como BERT de Google y XLnet y RoBERTa de Facebook.

Incluso las modelos perfeccionadas luchan por deshacerse de los prejuicios y otras características potencialmente dañinas. Por ejemplo, se puede solicitar al Codex que genere resultados racistas y objetables como código ejecutable. Al escribir comentarios de código con la indicación "Islam", el Codex genera la palabra "terrorista" y "violento" a un ritmo mayor que con otros grupos religiosos.

Más reciente la investigación sugiere que los modelos de lenguaje tóxicos implementados en la producción podrían tener dificultades para comprender aspectos de los idiomas y dialectos minoritarios. Esto podría obligar a las personas que usan los modelos a cambiar al “inglés alineado en blanco” para asegurarse de que los modelos les funcionen mejor, o disuadir a los hablantes de minorías de interactuar con los modelos.

OpenAI afirma haber desarrollado técnicas para mitigar el sesgo y la toxicidad en GPT-3 y sus derivados, incluida la revisión del código, la documentación, el diseño de la interfaz de usuario, los controles de contenido y filtros de toxicidad. Y Microsoft dice que solo pondrá el servicio Azure OpenAI a disposición de las empresas que planean implementar casos de uso "bien definidos" que incorporen sus principios y estrategias responsables para tecnologías de IA.

Más allá de esto, Microsoft brindará monitoreo y análisis de seguridad para identificar posibles casos de abuso o mal uso, así como nuevas herramientas para filtrar y moderar el contenido. Los clientes podrán personalizar esos filtros de acuerdo con sus necesidades comerciales, dice Boyd, mientras reciben orientación de Microsoft sobre el uso del servicio Azure OpenAI "con éxito y de manera justa".

“Esta es un área realmente crítica para la IA en general y con GPT-3 superando los límites de lo que es posible con la IA, debemos asegurarnos de estar en la vanguardia para asegurarnos de que lo estamos usando de manera responsable”, dijo Boyd. "Esperamos aprender con nuestros clientes y esperamos que las áreas de inteligencia artificial responsables sean lugares donde aprendamos qué cosas necesitan más pulido".

OpenAI y Microsoft

La asociación cada vez más profunda de OpenAI con Microsoft refleja las realidades económicas a las que se enfrenta la empresa. Es un secreto a voces que la IA es un campo intensivo en capital: en 2019, OpenAI se convirtió en una empresa con fines de lucro llamada a asegurar fondos adicionales mientras se mantenía controlada por una organización sin fines de lucro, que anteriormente había sido una organización 501 (c) (3). Y en julio, OpenAI disuelto su equipo de robótica después de años de investigación en máquinas que pueden aprender a realizar tareas como resolviendo un cubo de Rubik.

Hace aproximadamente un año, Microsoft anunció que invertiría mil millones de dólares en OpenAI, con sede en San Francisco Desarrollar conjuntamente nuevas tecnologías para la plataforma en la nube Azure de Microsoft. A cambio, OpenAI acordó licenciar parte de su propiedad intelectual a Microsoft, que luego la compañía empaquetaría y vendería a los socios, y entrenar y ejecutar modelos de IA en Azure mientras OpenAI trabajaba para desarrollar hardware informático de próxima generación.

En los meses siguientes, OpenAI lanzó una API impulsada por Microsoft Azure: API OpenAI - que permite a los desarrolladores explorar las capacidades de GPT-3. En mayo, durante su conferencia de desarrolladores Build 2020, Microsoft dio a conocer lo que llama el Superordenador AI, una máquina alojada en Azure co-diseñada por OpenAI que contiene más de 285,000 núcleos de procesador y 10,000 tarjetas gráficas. Y hacia finales de 2020, Microsoft anunció que otorgaría licencias exclusivas a GPT-3 para desarrollar y entregar soluciones de inteligencia artificial para los clientes, así como para crear nuevos productos que aprovechen el poder de la generación de lenguaje natural, como Códice.

Microsoft anunció el año pasado que GPT-3 se integrará "profundamente" con Aplicaciones de energía, su plataforma de desarrollo de aplicaciones de código bajo, específicamente para la generación de fórmulas. Las funciones impulsadas por IA permitirán a un usuario que cree una aplicación de comercio electrónico, por ejemplo, describir un objetivo de programación utilizando un lenguaje conversacional como "encontrar productos donde el nombre comience con 'niños'". Más recientemente, GitHub, propiedad de Microsoft, lanzó una función llamada Copiloto que funciona con el modelo de generación de código Codex de OpenAI, que GitHub dice ahora se utiliza para escribir hasta un 30% del código nuevo en su red.

Ciertamente, los grandes ganadores del boom de la PNL son los proveedores de servicios en la nube como Azure. Según la encuesta de John Snow Labs, el 83% de las empresas ya utilizan las API de NLP de Google Cloud, Amazon Web Services, Azure e IBM, además de las bibliotecas de código abierto. Esto representa un cambio considerable, considerando el hecho de que el mercado mundial de PNL está esperado subir en valor de $ 11.6 mil millones en 2020 a $ 35.1 mil millones para 2026. En 2019, IBM generado $ 303.8 millones en ingresos solo de sus plataformas de software de inteligencia artificial.