Bir matematikçi bir bara girer (dezenformasyon)

Dezenformasyon, yanlış bilgilendirme, bilgi-eğlence, algoritma savaşları; eğer son birkaç on yılda medyanın geleceğine dair tartışmalar bir anlam ifade ettiyse, en azından İngilizce dili üzerinde keskin bir iz bırakmışlardır. Bireysel psikolojilerimizden ve nörolojilerimizden demokratik toplumların gücüne dair daha geniş endişelere kadar, sosyal medyanın bize yaptıkları konusunda pek çok hakaret ve korku var. Joseph Bernstein'ın yakın zamanda söylediği gibi"Kalabalığın bilgeliğinden" "dezenformasyona" geçiş gerçekten de ani oldu.

Dezenformasyon nedir? Var mı, varsa nerede ve ona baktığımızı nasıl bileceğiz? İlgimizi çekmeye çalışan favori platformlarımızın algoritmalarının bize ne gösterdiğini önemsemeli miyiz? Bu sadece bu tür karmaşık matematik ve sosyal bilim sorularıdır. Nuh Giansiracusa konuyla ilgileniyorum.

Boston'daki Bentley Üniversitesi'nde profesör olan Giansiracusa, matematik eğitimi aldı (araştırmalarını cebirsel geometri gibi alanlara odakladı), ancak aynı zamanda sosyal konulara matematiksel bir mercek aracılığıyla bakma konusunda da bir tutkuya sahipti. Yüksek Mahkeme'ye hesaplamalı geometri. Son zamanlarda “adlı bir kitap yayınladı.Algoritmalar Sahte Haberleri Nasıl Oluşturur ve Önler?” günümüzün medya ortamındaki bazı zorlu soruları ve teknolojinin bu eğilimleri nasıl şiddetlendirdiğini ve iyileştirdiğini araştırmak için.

Geçtiğimiz günlerde Giansiracusa'yı bir Twitter Alanında ağırladım ve Twitter bu konuşmaları sonradan dinlemeyi kolaylaştırmadığı için (geçicilik!), sohbetimizin en ilginç kısımlarını sizin ve gelecek nesiller için çıkarmam gerektiğini düşündüm.

Bu röportaj düzenlenmiş ve netlik için yoğunlaştırılmıştır.

Danny Crichton: Sahte haberleri araştırıp bu kitabı yazmaya nasıl karar verdiniz?

Nuh Giansiracusa: Fark ettiğim bir şey, sahte haberler ve bu tür şeylerle ilgili gerçekten çok ilginç sosyolojik, siyaset bilimi tartışmalarının olduğudur. Teknik açıdan ise Mark Zuckerberg'in yapay zekanın tüm bu sorunları çözeceğini söylemesi gibi şeylerle karşılaşacaksınız. Görünüşe göre bu boşluğu kapatmak biraz zor.

Biden'ın yakın zamanda söylediği şu sözü muhtemelen herkes duymuştur: “insanları öldürüyorlarSosyal medyadaki yanlış bilgilerle ilgili olarak. Algoritmik tarafı gerçekten kavramanın onlar için zor olduğu bu tür şeyler hakkında konuşan politikacılarımız var. Ayrıca ayrıntılarda gerçekten derinlere inen bilgisayar bilimi insanlarımız var. Yani bir nevi arada oturuyorum, gerçek anlamda sıkı bir bilgisayar bilimi insanı değilim. Bu yüzden bir adım geri çekilip kuşbakışı bakmanın benim için biraz daha kolay olduğunu düşünüyorum.

Günün sonunda, işlerin karıştığı, matematiğin o kadar da temiz olmadığı toplumla daha fazla etkileşimi keşfetmek istediğimi hissettim.

Crichton: Matematiksel bir geçmişe sahip olduğunuzdan, pek çok insanın pek çok farklı açıdan yazdığı bu tartışmalı alana giriyorsunuz. İnsanlar bu alanda neyi doğru anlıyorlar ve belki de bazı nüansları gözden kaçırmışlar olabilir?

Giansiracusa: Çok sayıda inanılmaz gazetecilik var; Pek çok gazetecinin oldukça teknik konularla gerçekten nasıl başa çıkabildiğini görmek beni çok şaşırttı. Ama şunu söyleyebilirim ki, belki de yanlış anlamadılar ama beni çok etkiledi; pek çok kez akademik bir makale yayınlanıyor, hatta Google'dan, Facebook'tan ya da bu teknoloji şirketlerinden birinden bir duyuru çıkıyor ve bir şeyden bahsedecekler ve gazeteci belki bir alıntı çıkarıp bunu açıklamaya çalışacak, ancak gerçekten bakıp anlamaya çalışmaktan biraz korkuyorlar gibi görünüyor. Ve bunu yapamadıklarını da düşünmüyorum, bu daha çok bir gözdağı ve korku gibi görünüyor.

Bir matematik öğretmeni olarak çokça deneyimlediğim şeylerden biri, insanların yanlış bir şey söylemekten ve hata yapmaktan çok korkmasıdır. Bu teknik şeyler yazmak zorunda olan gazeteciler için de geçerli, yanlış bir şey söylemek istemiyorlar. Dolayısıyla Facebook'tan bir basın bülteninden alıntı yapmak veya bir uzmandan alıntı yapmak daha kolaydır.

Saf matematiğin çok eğlenceli ve güzel olan yanı, yanılma konusunda gerçekten endişelenmemeniz, sadece fikirleri deneyip bunların nereye vardığını görmeniz ve tüm bu etkileşimleri görmenizdir. Bir makale yazmaya veya konuşma yapmaya hazır olduğunuzda ayrıntıları kontrol edersiniz. Ancak matematiğin çoğu, araştırdığınız ve fikirlerin nasıl etkileşime girdiğini gördüğünüz yaratıcı süreçtir. Bir matematikçi olarak eğitimimin beni hata yapma ve çok kesin olma konusunda endişelendireceğini düşünüyorsunuz, ancak bunun tam tersi bir etkisi oldu.

İkincisi, bu algoritmik şeylerin çoğu göründükleri kadar karmaşık değiller. Bunları uygulamak için orada oturmuyorum, onları programlamanın zor olduğundan eminim. Ancak büyük resme baktığımızda, günümüzdeki tüm bu algoritmalar, bunların çoğu derin öğrenmeye dayanıyor. Yani bir miktar sinir ağınız var, dışarıdan biri olarak benim için hangi mimariyi kullandıkları pek önemli değil, asıl önemli olan tek şey tahminlerin neler olduğu. Temel olarak bu makine öğrenimi algoritmasını beslediğiniz değişkenler nelerdir? Peki ne çıkarmaya çalışıyor? Bunlar herkesin anlayabileceği şeyler.

Crichton: Bu algoritmaları analiz ederken karşılaştığım en büyük zorluklardan biri şeffaflığın olmayışıdır. Sorunları çözmek için çalışan bilim adamlarından oluşan bir topluluk olan saf matematik dünyasının aksine, bu şirketlerin çoğu aslında daha geniş bir topluluğa veri ve analiz sağlama konusunda oldukça çekişmeli olabilir.

Giansiracusa: Öyle görünüyor ki, dışarıdan birinin varlığına bakarak çıkarabileceklerinin bir sınırı var.

Bunun iyi bir örneği YouTube'dur; akademisyenlerden oluşan ekipler, YouTube öneri algoritmasının insanları bu komplo teorisi aşırılıkçılık tavşan deliklerine gönderip göndermediğini araştırmak istedi. Sorun şu ki, bu bir öneri algoritması olduğundan, derin öğrenmeyi kullanıyor, arama geçmişinize, demografik bilgilerinize, izlediğiniz diğer videolara ve ne kadar süre boyunca tüm bunlara dayalı yüzlerce tahmine dayanıyor. Size ve deneyiminize o kadar özel ki, bulabildiğim tüm çalışmalar gizli modu kullanıyor.

Yani temelde hiçbir arama geçmişi ve bilgisi olmayan bir kullanıcıdırlar ve bir videoya giderler, ardından önerilen ilk videoya, ardından bir sonrakine tıklarlar. Bakalım algoritma insanları nereye götürüyor? Bu, geçmişi olan gerçek bir insan kullanıcıdan çok farklı bir deneyim. Ve bu gerçekten zor oldu. Kimsenin YouTube algoritmasını dışarıdan algoritmik olarak keşfetmenin iyi bir yolunu bulduğunu sanmıyorum.

Dürüst olmak gerekirse, bunu yapabileceğinizi düşündüğüm tek yol, bir grup gönüllüyü işe aldığınız ve bilgisayarlarına bir nevi takip cihazı yerleştirdiğiniz ve "Hey, hayatı istediğiniz gibi yaşayın" diyebileceğiniz eski tarz bir çalışma gibi. normalde geçmişlerinizi ve her şeyi yapın ve bize izlediğiniz videoları anlatın. Dolayısıyla, bu algoritmaların birçoğunun, hatta neredeyse hepsinin, büyük ölçüde sizin bireysel verilerinize dayandığı gerçeğini aşmak zor oldu. Bunu toplu olarak nasıl inceleyeceğimizi bilmiyoruz.

Verilere sahip olmadığımız için sorun yaşayan sadece ben ya da dışarıdaki herhangi biri değil. Algoritmayı oluşturanlar ve algoritmanın kağıt üzerinde nasıl çalıştığını bilenler bile bu şirketlerin içindeki kişilerdir, ancak gerçekte nasıl davranacağını bilmiyorlar. Frankenstein'ın canavarı gibi: Bu şeyi yaptılar ama nasıl çalışacağını bilmiyorlar. Dolayısıyla bunu gerçekten çalışabilmenizin tek yolu, içeride bu verilere sahip olan kişilerin yollarından çekilmesi ve bunu incelemek için zaman ve kaynak harcamasıdır.

Crichton: Yanlış bilgilerin değerlendirilmesi ve bir platformdaki etkileşimin belirlenmesi konusunda kullanılan birçok ölçüm vardır. Matematiksel geçmişinize göre bu ölçümlerin sağlam olduğunu düşünüyor musunuz?

Giansiracusa: İnsanlar yanlış bilgileri çürütmeye çalışıyor. Ancak bu süreçte onun hakkında yorum yapabilirler, onu retweetleyebilirler veya paylaşabilirler ve bu da etkileşim olarak sayılır. Peki bu katılım ölçümlerinin çoğu gerçekten olumluya mı bakıyor, yoksa sadece katılımın tamamına mı bakıyor? Biliyorsunuz, her şey bir araya toplanıyor.

Bu akademik araştırmalarda da oluyor. Alıntılar, araştırmanın ne kadar başarılı olduğunun evrensel ölçüsüdür. Wakefield'ın orijinal otizm ve aşı makalesi gibi gerçekten düzmece şeyler tonlarca alıntı aldı, birçoğu doğru olduğunu düşündükleri için bundan alıntı yapan insanlardı, ama çoğu bilim adamları bunu çürütüyordu, makalelerinde bundan alıntı yapıyorlardı. diyelim ki bu teorinin yanlış olduğunu gösteriyoruz. Ama bir şekilde alıntı, alıntıdır. Yani bunların hepsi başarı ölçüsüne dahil.

Bence bu biraz da nişanla ilgili bir şey. Eğer yorumlarıma "Hey, bu çok çılgınca" diyen bir şey koyarsam algoritma onu destekleyip desteklemediğimi nasıl anlayacak? Denemek için bazı yapay zeka dil işlemlerini kullanabilirler, ancak öyle olup olmadığından emin değilim ve bunu yapmak çok fazla çaba gerektiriyor.

Crichton: Son olarak biraz GPT-3'ten, sentetik medya ve sahte haberlerle ilgili endişelerden bahsetmek istiyorum. Yapay zeka robotlarının medyayı dezenformasyonla boğacağına dair çok fazla korku var; ne kadar korkmalı veya korkmamalıyız?

Giansiracusa: Kitabım gerçekten tecrübeye dayalı bir dersten ortaya çıktığı için, tarafsız kalmaya çalışmak, insanları bir nevi bilgilendirmek ve onların kendi kararlarını vermelerine izin vermek istedim. Bu tartışmayı yarıda kesmeye ve her iki tarafın da konuşmasına izin vermeye karar verdim. Haber akışı algoritmaları ve tanıma algoritmalarının pek çok zararlı şeyi güçlendirdiğini ve bunun da toplum için yıkıcı olduğunu düşünüyorum. Ancak sahte haberleri sınırlamak için algoritmaların verimli ve başarılı bir şekilde kullanılması konusunda da çok şaşırtıcı ilerlemeler var.

Yapay zekanın her şeyi düzelteceğini, doğruyu söyleyeceğimizi, gerçekleri kontrol edebileceğimizi ve yanlış bilgileri tespit edip ortadan kaldırabilecek algoritmalara sahip olacağımızı söyleyen tekno-ütopistler var. Biraz ilerleme var ama bu gerçekleşmeyecek ve hiçbir zaman tam anlamıyla başarılı olamayacak. Her zaman insanlara güvenmek zorunda kalacak. Ama sahip olduğumuz diğer şey de mantıksız bir korku. Algoritmaların çok güçlü olduğu, tekillik gibi şeylerin bizi yok edecekleri hiperbolik bir yapay zeka distopyası var.

Deep fake'ler ilk kez 2018'de haberlere çıktığında ve birkaç yıl önce GPT-3 piyasaya sürüldüğünde, "Kahretsin, bu sahte haberlerle ve gerçekleri anlamayla ilgili tüm sorunlarımızı ortadan kaldıracak" şeklinde bir korku vardı. dünya çok çok daha zor.” Ve sanırım artık birkaç yıllık mesafemiz olduğuna göre, bunu biraz daha zorlaştırdıklarını görebiliyoruz, ancak beklediğimiz kadar önemli değil. Ve asıl mesele her şeyden çok psikolojik ve ekonomiktir.

Yani GPT-3'ün orijinal yazarlarının, algoritmayı tanıtan bir araştırma makalesi var ve yaptıkları şeylerden biri, içine bir miktar metin yapıştırıp bunu bir makaleye genişlettikleri bir testti ve ardından bazı gönüllülerin değerlendirme yapmasını ve hangisinin hangisi olduğunu tahmin etmesini sağladılar. algoritmik olarak oluşturulan ve hangisinin insan tarafından oluşturulan olduğu. %50'ye çok ama çok yakın doğruluk elde ettiklerini bildirdiler, bu da rastgele tahminlerin çok az üzerinde olduğu anlamına geliyor. Yani bu kulağa hem şaşırtıcı hem de korkutucu geliyor.

Ama detaylara baktığınızda tek satırlık bir başlık gibi bir paragrafa kadar uzanıyordu. Eğer The Atlantic uzunluğunda ya da New Yorker uzunluğunda tam bir makale yazmaya çalışırsanız, tutarsızlıkları görmeye başlayacaksınız, düşünce dolambaçlı hale gelecektir. Bu makalenin yazarları bundan bahsetmediler, sadece deneylerini yaptılar ve şöyle dediler: "Hey, bakın ne kadar başarılı."

Yani inandırıcı görünüyor, bu etkileyici yazıları yapabiliyorlar. Ama sonuçta GPT-3'ün sahte haberler, yanlış bilgiler ve tüm bu şeyler söz konusu olduğunda bu kadar dönüştürücü olamamasının ana nedeni şu. Çünkü sahte haberler çoğunlukla çöptür. Kötü yazılmış, düşük kaliteli, o kadar ucuz ve hızlı üretiliyor ki, 16 yaşındaki yeğeninize birkaç dakika içinde bir sürü sahte haber makalesi çıkarması için para ödeyebilirsiniz.

Matematiğin bunu görmeme pek faydası olmadı. Bir şekilde matematikte yapmaya çalıştığımız asıl şey şüpheci olmaktır. Dolayısıyla bunları sorgulamanız ve biraz şüpheci olmanız gerekiyor.

Kaynak: https://techcrunch.com/2021/08/20/a-mathematician-walks-into-a-bar-of-disinformation/