GPT-3 hadir di perusahaan dengan Layanan Azure OpenAI Microsoft

Selama ini Terbakar konferensi minggu ini, Microsoft meluncurkan Azure OpenAI Service, penawaran baru yang dirancang untuk memberi perusahaan akses ke OpenAI GPT-3 model bahasa dan turunannya beserta keamanan, kepatuhan, tata kelola, dan fitur lain yang berfokus pada bisnis. Awalnya undang-hanya sebagai bagian dari Layanan Kognitif Azure, layanan akan memungkinkan akses ke API OpenAI melalui platform Azure untuk kasus penggunaan seperti terjemahan bahasa, pembuatan kode, dan pelengkapan otomatis teks.

Menurut VP korporat Microsoft untuk Azure AI Eric Boyd, perusahaan dapat memanfaatkan Layanan OpenAI Azure untuk tujuan pemasaran, seperti membantu tim melakukan brainstorming ide untuk posting media sosial atau blog. Mereka juga dapat menggunakannya untuk meringkas keluhan umum dalam log layanan pelanggan atau membantu pengembang dengan pengkodean dengan meminimalkan kebutuhan untuk berhenti dan mencari contoh.

“Kami baru dalam tahap awal mencari tahu apa kekuatan dan potensi GPT-3, yang membuatnya sangat menarik,” tambahnya dalam sebuah pernyataan. “Sekarang kami mengambil apa yang telah dirilis OpenAI dan membuatnya tersedia dengan semua janji perusahaan yang dibutuhkan bisnis untuk beralih ke produksi.”

Model bahasa besar

Dibangun oleh OpenAI, GPT-3 dan turunannya yang disempurnakan, seperti Naskah kuno, dapat disesuaikan untuk menangani aplikasi yang memerlukan pemahaman bahasa yang mendalam, mulai dari mengubah bahasa alami menjadi kode perangkat lunak hingga meringkas teks dalam jumlah besar dan menghasilkan jawaban atas pertanyaan. Orang-orang telah menggunakannya secara otomatis menulis email dan artikel, buat puisi dan resep, buat tata letak situs web, dan buat kode untuk pembelajaran mendalam dalam selusin bahasa pemrograman.

GPT-3 telah tersedia untuk umum sejak 2020 melalui OpenAI API; OpenAI telah berkata bahwa GPT-3 sekarang digunakan di lebih dari 300 aplikasi berbeda oleh "puluhan ribu" pengembang dan menghasilkan 4.5 miliar kata per hari. Namun menurut VP korporat Microsoft untuk platform AI John Montgomery, yang baru-baru ini berbicara dengan VentureBeat dalam sebuah wawancara, Layanan Azure OpenAI memungkinkan perusahaan untuk menggunakan GPT-3 dengan cara yang mematuhi undang-undang, peraturan, dan persyaratan teknis (misalnya, kapasitas penskalaan, jaringan pribadi, dan manajemen akses) yang unik untuk bisnis atau industri mereka.

“Saat Anda menjalankan perusahaan nasional, terkadang, data Anda tidak dapat [digunakan] di wilayah geografis tertentu, misalnya. Layanan OpenAI Azure pada dasarnya dapat menempatkan model di wilayah yang Anda butuhkan untuk Anda, ”kata Montgomery. “Untuk [pelanggan bisnis kami,] muncul pertanyaan seperti, 'Bagaimana Anda menangani persyaratan keamanan kami?' dan 'Bagaimana Anda menangani hal-hal seperti jaringan virtual?' Beberapa dari mereka membutuhkan semua titik akhir API mereka untuk dikelola secara terpusat atau menggunakan kunci yang disediakan pelanggan untuk enkripsi … Apa yang dilakukan Layanan Azure OpenAI adalah melipat semua kemampuan backplane Azure ini [untuk] pelanggan perusahaan besar [menjadi] penyebaran produksi yang sebenarnya untuk membuka teknologi GPT-3.”

Montgomery juga menunjukkan bahwa Layanan Azure OpenAI membuat penagihan lebih nyaman dengan membebankan biaya untuk penggunaan model di bawah satu tagihan Azure, dibandingkan secara terpisah di bawah OpenAI API. “Itu membuatnya sedikit lebih mudah bagi pelanggan untuk membayar dan mengkonsumsi,” katanya. “Karena saat ini, ini adalah satu tagihan Azure.”

Perusahaan memang meningkatkan investasi mereka dalam pemrosesan bahasa alami (NLP), subbidang linguistik, ilmu komputer, dan AI yang berkaitan dengan bagaimana algoritme menganalisis bahasa dalam jumlah besar. Menurut tahun 2021 dari John Snow Labs dan Gradient Flow, 60% pemimpin teknologi menunjukkan bahwa anggaran NLP mereka tumbuh setidaknya 10% dibandingkan tahun 2020, sementara sepertiga — 33% — mengatakan bahwa pengeluaran mereka naik lebih dari 30%.

Kustomisasi dan keamanan

Seperti API OpenAI, Layanan OpenAI Azure akan memungkinkan pelanggan untuk menyesuaikan GPT-3 untuk memenuhi kebutuhan bisnis tertentu menggunakan contoh dari data mereka sendiri. Ini juga akan memberikan "akses langsung" ke GPT-3 dalam format yang dirancang agar intuitif untuk digunakan pengembang, namun cukup kuat bagi ilmuwan data untuk bekerja dengan model sesuai keinginan mereka, kata Boyd.

“Ini benar-benar paradigma baru di mana model yang sangat besar ini sekarang menjadi platformnya sendiri. Jadi perusahaan dapat menggunakannya dan memberikan beberapa contoh dan mendapatkan hasil yang mereka butuhkan tanpa memerlukan seluruh tim ilmu data dan ribuan GPU serta semua sumber daya untuk melatih model tersebut, ”katanya. “Saya pikir itu sebabnya kami melihat minat yang sangat besar di sekitar bisnis yang ingin menggunakan GPT-3 — ini sangat kuat dan sangat sederhana.”

Tentu saja, sudah pasti bahwa model seperti GPT-3 jauh dari sempurna secara teknis. GPT-3 dilatih untuk lebih dari 600 GB teks dari web, sebagian berasal dari komunitas dengan yg dpt menembus jenis kelamin, ras, fisik, dan prasangka agama. Studi menunjukkan bahwa itu, seperti model bahasa besar lainnya, memperkuat bias dalam data yang dilatihnya.

In kertas, Pusat Studi Internasional Middlebury Institute tentang Terorisme, Ekstremisme, dan Kontraterorisme mengklaim bahwa GPT-3 dapat menghasilkan teks "informasional" dan "berpengaruh" yang mungkin meradikalisasi orang ke dalam ideologi dan perilaku ekstremis kanan. Sebuah kelompok di Universitas Georgetown telah menggunakan GPT-3 untuk menghasilkan informasi yang salah, termasuk cerita seputar narasi palsu, artikel yang diubah untuk mendorong perspektif palsu, dan tweet yang membahas poin-poin tertentu dari disinformasi. Studi lain, seperti yang diterbitkan oleh Intel, MIT, dan peneliti CIFAR inisiatif AI Kanada pada bulan April, telah menemukan tingkat bias yang tinggi dari beberapa model open source paling populer, seperti BERT Google dan XLNet dan RoBERTa Facebook.

Bahkan model yang disetel dengan baik berjuang untuk menghilangkan prasangka dan karakteristik lain yang berpotensi membahayakan. Misalnya, Codex dapat diminta untuk menghasilkan keluaran yang rasis dan tidak menyenangkan sebagai kode yang dapat dieksekusi. Saat menulis komentar kode dengan prompt "Islam", Codex mengeluarkan kata "teroris" dan "kekerasan" pada tingkat yang lebih tinggi dibandingkan dengan kelompok agama lain.

Lebih baru penelitian menunjukkan bahwa model bahasa beracun yang digunakan dalam produksi mungkin kesulitan untuk memahami aspek bahasa dan dialek minoritas. Hal ini dapat memaksa orang yang menggunakan model untuk beralih ke "Bahasa Inggris selaras putih" untuk memastikan model berfungsi lebih baik untuk mereka, atau mencegah penutur minoritas untuk terlibat dengan model sama sekali.

OpenAI mengklaim telah berkembang teknik untuk mengurangi bias dan toksisitas di GPT-3 dan turunannya, termasuk tinjauan kode, dokumentasi, desain antarmuka pengguna, kontrol konten, dan filter toksisitas. Dan Microsoft mengatakan itu hanya akan membuat Layanan Azure OpenAI tersedia untuk perusahaan yang berencana untuk menerapkan kasus penggunaan yang "didefinisikan dengan baik" yang menggabungkannya prinsip dan strategi yang bertanggung jawab untuk teknologi AI.

Selain itu, Microsoft akan memberikan pemantauan dan analisis keamanan untuk mengidentifikasi kemungkinan kasus penyalahgunaan atau penyalahgunaan serta alat baru untuk memfilter dan memoderasi konten. Pelanggan akan dapat menyesuaikan filter tersebut sesuai dengan kebutuhan bisnis mereka, kata Boyd, sambil menerima panduan dari Microsoft untuk menggunakan Layanan Azure OpenAI "dengan sukses dan adil".

“Ini adalah area yang sangat kritis untuk AI secara umum dan dengan GPT-3 mendorong batasan dari apa yang mungkin dilakukan dengan AI, kami perlu memastikan bahwa kami berada di garis depan untuk memastikan kami menggunakannya secara bertanggung jawab,” kata Boyd. “Kami berharap untuk belajar dengan pelanggan kami, dan kami berharap area AI yang bertanggung jawab menjadi tempat di mana kami mempelajari hal-hal yang perlu lebih dipoles.”

OpenAI dan Microsoft

Kemitraan OpenAI yang semakin mendalam dengan Microsoft mencerminkan realitas ekonomi yang dihadapi perusahaan. Sudah menjadi rahasia umum bahwa AI adalah bidang padat modal — pada tahun 2019, OpenAI menjadi perusahaan nirlaba yang dipanggil untuk mendapatkan pendanaan tambahan sambil tetap dikendalikan oleh organisasi nirlaba, setelah sebelumnya menjadi organisasi 501(c)(3). Dan di bulan Juli, OpenAI dibubarkan tim robotikanya setelah bertahun-tahun meneliti mesin yang dapat belajar melakukan tugas-tugas seperti memecahkan Rubik's Cube.

Kira-kira setahun yang lalu, Microsoft mengumumkan akan menginvestasikan $ 1 miliar di OpenAI yang berbasis di San Francisco untuk bersama-sama mengembangkan teknologi baru untuk platform cloud Azure Microsoft. Sebagai gantinya, OpenAI setuju untuk melisensikan beberapa kekayaan intelektualnya kepada Microsoft, yang kemudian akan dikemas dan dijual oleh perusahaan kepada mitra, dan untuk melatih dan menjalankan model AI di Azure saat OpenAI bekerja untuk mengembangkan perangkat keras komputasi generasi berikutnya.

Pada bulan-bulan berikutnya, OpenAI merilis API yang didukung Microsoft Azure — API OpenAI — yang memungkinkan pengembang menjelajahi kemampuan GPT-3. Pada bulan Mei selama konferensi pengembang Build 2020, Microsoft meluncurkan apa yang disebutnya AI Superkomputer, mesin yang dihosting Azure yang dirancang bersama oleh OpenAI yang berisi lebih dari 285,000 inti prosesor dan 10,000 kartu grafis. Dan menjelang akhir tahun 2020, Microsoft mengumumkan bahwa itu akan secara eksklusif melisensikan GPT-3 untuk mengembangkan dan memberikan solusi AI bagi pelanggan, serta menciptakan produk baru yang memanfaatkan kekuatan generasi bahasa alami, seperti Naskah kuno.

Microsoft tahun lalu mengumumkan bahwa GPT-3 akan diintegrasikan "secara mendalam". Aplikasi Daya, platform pengembangan aplikasi low-code — khusus untuk pembuatan formula. Fitur-fitur bertenaga AI akan memungkinkan pengguna membangun aplikasi e-niaga, misalnya, untuk mendeskripsikan tujuan pemrograman menggunakan bahasa percakapan seperti "temukan produk yang namanya dimulai dengan 'anak-anak'". Baru-baru ini, GitHub milik Microsoft meluncurkan fitur yang disebut Copilot yang didukung oleh model pembuatan kode Codex OpenAI, yaitu GitHub mengatakan sekarang digunakan untuk menulis sebanyak 30% kode baru di jaringannya.

Pastinya, pemenang besar dalam ledakan NLP adalah penyedia layanan cloud seperti Azure. Menurut survei John Snow Labs, 83% perusahaan sudah menggunakan API NLP dari Google Cloud, Amazon Web Services, Azure, dan IBM selain pustaka sumber terbuka. Ini mewakili perubahan yang cukup besar, mengingat fakta bahwa pasar NLP global diharapkan naik nilainya dari $11.6 miliar pada tahun 2020 menjadi $35.1 miliar pada tahun 2026. Pada tahun 2019, IBM dihasilkan Pendapatan $303.8 juta saja dari platform perangkat lunak AI-nya.