Metin otomatik tamamlama sistemleri hayatımızı kolaylaştırmayı amaçlıyor, ancak riskler var

Yakın zamanda bir kısa mesaj veya e-posta yazdıysanız, yapay zekanın size farklı eşanlamlılar, deyimler veya bir cümleyi tamamlama yolları önerme olasılığı vardır. Google'ın Smart Compose gibi yapay zeka destekli otomatik öneri araçlarının yükselişi, artık çoğunlukla çevrimiçi olan kurumsal iletişimin dijital dönüşümüyle aynı zamana denk geldi. Onun tahmini tipik bir çalışanın her gün yaklaşık 40 e-postaya yanıt verdiği ve gönderir haftada 200'den fazla Slack mesajı.

Mesajlaşma, Adobe ile iş gününün artan bir bölümünü tüketmekle tehdit ediyor pimleme çalışanların haftada 15.5 saatten e-postaları yanıtlamak için harcadıkları süre. Sürekli görev değiştirme, üretkenlik için bir ölüm çanıdır ve araştırmalar kesintisiz çalışmanın faydalarını göstermektedir. Araştırma Kaliforniya Üniversitesi ve Humboldt Üniversitesi'nden araştırmacılar, kesintiye uğradıkları her seferde bir görevde 23 dakikaya kadar zaman kaybedebileceklerini keşfettiler. daha fazla uzatma iş günü

Kendi kendine telkin araçları, mesaj yazmayı ve yanıtlamayı kolaylaştırarak zamandan tasarruf etmeyi vaat ediyor. Örneğin, Google'ın Akıllı Yanıt özelliği, normalde yazması dakikalar süren e-postalara hızlı yanıtlar önerir. Ancak bu araçların arkasındaki yapay zekanın, önyargılara yol açabilecek veya mesajlaşmada kullanılan dili istenmeyen şekillerde etkileyebilecek eksiklikleri vardır.

Otomatik telkin ve otomatik metin tamamlamadaki büyüme

Metin tahmini yeni bir teknoloji değil. Yaygın olarak bulunan ilk örneklerden biri, T9Her harf için tek bir tuşa basarak sözcüklerin oluşturulmasına olanak tanıyan , 90'ların sonunda birçok cep telefonunda standart olarak geldi. Ancak dilde daha gelişmiş, ölçeklenebilir AI tekniklerinin ortaya çıkışı, kendi kendine telkin araçlarının kalitesinde ve genişliğinde sıçramalara yol açtı.

2017'de Google kullanıma sunuldu Akıllı Yanıt şirketin daha sonra Sohbet ve üçüncü taraf uygulamaları da dahil olmak üzere diğer Google hizmetlerine getirdiği Gmail'de. Google'a göre, Smart Reply'ın arkasındaki yapay zeka, yalnızca tek bir mesaja değil, "bir görüşmenin tam bağlamına dayalı" yanıt önerileri üretiyor ve görünüşte daha zamanında ve alakalı önerilerle sonuçlanıyor. Akıllı Yazmae-postalarda tam cümleler öneren , Gmail'e bir yıl sonra ve Google Dokümanlar'a ulaştı kısa bir süre sonra. denilen benzer bir özellik önerilen cevaplar 2018'de Microsoft Outlook'a ve 2020'de Teams'e geldi.

Bazı akademik çevrelerin "Yapay zeka aracılı iletişim" olarak adlandırdığı yeni kendi kendine telkin araçlarının arkasındaki teknoloji, 90'larda var olanın çok ötesine geçmiştir. Örneğin, Smart Compose'u destekleyen yapay zeka modeli, milyarlarca e-posta örneği kullanılarak oluşturuldu ve özel hızlandırıcı donanımında bulutta çalışıyor. Bu arada, Smart Compose'un temelini oluşturan Smart Reply, insanların dilleri ve kavramları nasıl anladıklarından esinlenerek önerilere "hiyerarşik bir yaklaşım" getiriyor.

Google araştırma bilimcisi Brian Strope ve mühendislik direktörü Ray Kurzweil, "Dilin içeriği son derece hiyerarşiktir, dilin yapısına yansır." açıklamak bir blog yazısında. "'Sevdiğimiz kafedeki o ilginç kişi bana bir bakış attı' mesajını düşünün. ... Bu mesaja uygun bir yanıt önerirken, potansiyel olarak muğlak olan 'bakış' kelimesinin anlamını dikkate alabiliriz. Olumlu bir jest miydi? Bu durumda, "Harika!" şeklinde yanıt verebiliriz. Yoksa olumsuz bir jest miydi? Eğer öyleyse, özne, yazarın olumsuz değişim hakkında ne hissettiği hakkında herhangi bir şey söylüyor mu? İnce ayrımlar yapmak için dünya hakkında pek çok bilgiye ve mantıklı kararlar verme becerisine ihtiyaç vardır. Yeterince dil örneği verildiğinde, bir makine öğrenimi yaklaşımı bu ince ayrımların çoğunu keşfedebilir. ”

Ancak tüm teknolojilerde olduğu gibi, en yetenekli otomatik öneri araçları bile geliştirme ve devreye alma sürecinde ortaya çıkan kusurlara karşı hassastır.

Aralık 2016'da, ortaya Google Arama'nın otomatik tamamlama özelliğinin, "Yahudiler kötü mü?" gibi belirli arama ifadeleri için nefret dolu ve rahatsız edici sonlar önerdiğini. "Yahudiler" ifadesi için. Şirkete göre, diğer kullanıcıların son zamanlarda aradıklarına göre önerileri güncelleyen algoritmik bir sistem hatalıydı. Google sonunda bir düzeltme uygulasa da, şirketin aşağıdakiler için otomatik tamamlama önerilerini engellemesi birkaç yıl daha aldı: tartışmalı siyasi ifadeler oylama gereklilikleri ve seçim süreçlerinin meşruiyeti hakkında yanlış iddialar dahil.

Akıllı Yanıt bulundu silah emojisi içeren bir mesaja yanıt olarak "türbanlı kişi" emojisini sunmak. Ve Apple'ın iOS'ta otomatik tamamlaması Önceden CEO, COO ve CTO dahil yönetici rolleri için yalnızca erkek emoji önerdi.

önyargılı veri

Otomatik tamamlama ve otomatik telkin sistemlerindeki kusurlar genellikle önyargılı verilerden kaynaklanır. Sistemlerin öğrendiği milyonlarca ila milyarlarca örnek, metinle lekelenebilir. toksik web siteleri belirli cinsiyetleri, ırkları ilişkilendiren, etniklerve incitici kavramlar içeren dinler. Sorunu gösteren, KodeksOpenAI araştırma laboratuvarı tarafından geliştirilen kod üreten model, "İslam" kelimesiyle beslendiğinde "terörist" yazması istenebilir. AI başlangıcından başka bir büyük dil modeli tutarlı erkek ve kadınları "erkek bilim adamı" ve "kadın temizlikçi" gibi basmakalıp "erkek" ve "dişi" mesleklerle ilişkilendirme eğilimindedir.

Verilerdeki ek açıklamalar yeni sorunlara yol açabilir veya mevcut sorunları şiddetlendirebilir. Pek çok model, bir kelimenin, cümlenin, paragrafın veya belgenin olumlu veya olumsuz bir duygu gibi belirli özelliklere sahip olup olmadığını bildiren etiketlerden öğrendiği için, şirketler ve araştırmacılar, örnekleri etiketlemek için, genellikle Amazon Mechanical Turk gibi kitle kaynaklı platformlardan insan ek açıklama ekiplerini işe alır. Bu açıklayıcılar, kendi bakış açılarını ve önyargılarını masaya getiriyor.

Allen Yapay Zeka Enstitüsü, Carnegie Mellon ve Washington Üniversitesi tarafından yapılan bir çalışmada bilim adamları, etiketleyicilerin Afro-Amerikan İngilizcesi (AAE) lehçesindeki ifadelere açıklama ekleme olasılığının, genel Amerikan İngilizcesi eşdeğerlerinden daha zehirli olduğunu buldular - anlaşılmalarına rağmen AAE hoparlörler tarafından toksik olmadığı için. JigsawSiber zorbalık ve dezenformasyonla mücadele etmek için Google'ın ana şirketi Alphabet altında çalışan kuruluş, deneylerinde benzer sonuçlara ulaştı. Şirketteki araştırmacılar, kendilerini Afrikalı Amerikalılar ve LGBTQ+ topluluğunun üyeleri olarak tanımlayan etiketçiler ile bu gruplardan herhangi biri olarak tanımlanmayan ek açıklamalar arasındaki farklılıkları keşfettiler.

Bazen önyargı kasıtlıdır - yerel bir değiş tokuş meselesi. Örneğin, yazariçerik üretimi için bir AI asistanı geliştiren bir girişim olan , yazma önerilerinde "iş İngilizcesi" ne öncelik verdiğini söylüyor. CEO May Habib, başka hiçbir İngilizce tarzında bulunmayan bir fiil zamanı olan AAVE'de “alışılmış olmak” örneğini verdi.

"[alışılmış olan] geleneksel olarak iş İngilizcesinde kullanılmadığından ve bu nedenle veri kümelerimizde yüksek sıklıkta görünmediğinden, 'Hepiniz burada bazı tuhaf şeyler yapıyorsunuz' ifadesini 'Y' olarak düzeltirdik. Habib, VentureBeat'e e-posta yoluyla şunları söyledi: "Burada herkes bazı tuhaf şeyler yapıyor." "[Bununla birlikte,] yerel dil tabanlı selamlamaların ve imzaların Writer tarafından işaretlenmemesini manuel olarak sağladık. Bazı yerel diller, resmi iş İngilizcesine kıyasla cinsiyet açısından daha tarafsızdır; [örneğin], şirketler için daha modern ve markaya uygun bir dildir.”

Yazıyı etkilemek

Önyargılar - kasıtlı olsun ya da olmasın - otomatik tamamlama ve kendi kendine telkin sistemlerine dönüştüğünde, yazma şeklimizi değiştirebilirler. Bu sistemlerin çalıştığı muazzam ölçek, onlardan tamamen kaçınmalarını (imkansız değilse bile) zorlaştırır. Akıllı Yanıt (önceki değeri) sorumlu 10'da akıllı telefonlardan gönderilen tüm Gmail yanıtlarının %2016'u için.

Daha kapsamlı olanlardan birinde denetimler otomatik tamamlama araçlarından oluşan bir Microsoft araştırmacıları ekibi, Outlook'ta otomatik olarak oluşturulan yanıtlar hakkında düşüncelerini belirtmeleri söylenen gönüllülerle görüşmeler yaptı. Görüşülen kişiler, yanıtların bazılarını aşırı olumlu, kültür ve cinsiyet hakkındaki varsayımlarında yanlış ve kurumsal yazışmalar gibi belirli bağlamlar için fazla kaba buldular. Yine de, çalışma sırasında yapılan deneyler, kullanıcıların Outlook tarafından önerilen kısa, olumlu ve kibar yanıtları tercih etme olasılıklarının daha yüksek olduğunu gösterdi.

Ayrı bir Harvard araştırması, bir restoran hakkında yazan insanlara "olumlu" otomatik tamamlama önerileri sunulduğunda, ortaya çıkan incelemelerin, olumsuz önerilerle sunulduğu duruma göre daha olumlu olma eğiliminde olduğunu buldu. Harvard's School of Education'dan bir araştırmacı olan Ken Arnold, "Geleceğin tahmine dayalı metin sistemlerinin insanların çok daha etkili yazarlar olmasına nasıl yardımcı olabileceğini düşünmek heyecan verici, ancak aynı zamanda önyargılı veya manipüle edilmiş olabilecek önerilere karşı korunmak için şeffaflığa ve hesap verebilirliğe ihtiyacımız var." Çalışmaya katılan Mühendislik ve Uygulamalı Bilimler, söyledi BBC.

Zararlı otomatik tamamlama sorununa kapsamlı bir çözüm varsa, henüz keşfedilmemiştir. Google, Smart Compose'da cinsiyete dayalı zamir önerilerini engellemeyi tercih etti çünkü sistem, alıcıların cinsiyetlerini ve cinsiyet kimliklerini zayıf bir şekilde tahmin edebiliyordu. Microsoft'un LinkedIn'i ayrıca olası hataları önlemek için tahmine dayalı mesajlaşma aracı olan Akıllı Yanıtlarda cinsiyete dayalı zamirlerden kaçınır.

Microsoft'un ortak yazarları ders çalışma sistem tasarımcıları, otomatik tamamlama teknolojilerindeki eksiklikleri proaktif olarak ele almazlarsa, yalnızca kullanıcıları gücendirmekle kalmayıp aynı zamanda sistemlere güvenmemelerine neden olma riskiyle karşı karşıya kalacakları konusunda uyarın. "Sistem tasarımcıları, bireysel ve sosyal ağ düzeyinde kişiselleştirme stratejilerini keşfetmeli, kültürel değerlerin ve toplumsal önyargıların sistemleri tarafından nasıl sürdürülebileceğini düşünmeli ve sınırlamaları ve sorunları ele almaya başlamak için sosyal etkileşim modellemesini keşfetmeli" diye yazdılar. "[O]bulgularımız, e-posta ve diğer [benzeri] teknolojiler için mevcut metin öneri sistemlerinin, gerçek dünyadaki sosyal ilişkilerin ve iletişim ihtiyaçlarının inceliklerini yansıtmak için yetersiz kaldığını gösteriyor. “

Kaynak: https://venturebeat.com/2022/01/11/text-autocompletion-systems-aim-to-ease-our-lives-but-there-are-risks/