Seorang ahli matematika masuk ke sebuah bar (disinformasi)

Disinformasi, misinformasi, infotainment, algowars — jika perdebatan mengenai masa depan media dalam beberapa dekade terakhir mempunyai arti, setidaknya hal-hal tersebut meninggalkan jejak yang kuat pada bahasa Inggris. Ada banyak makian dan ketakutan terhadap dampak media sosial terhadap kita, mulai dari psikologi dan neurologi individu hingga kekhawatiran yang lebih luas mengenai kekuatan masyarakat demokratis. Seperti yang dikatakan Joseph Bernstein baru-baru ini, peralihan dari “kebijaksanaan orang banyak” menjadi “disinformasi” memang terjadi secara tiba-tiba.

Apa itu disinformasi? Apakah itu ada, dan jika ya, di mana dan bagaimana kita tahu bahwa kita sedang melihatnya? Haruskah kita peduli dengan apa yang ditunjukkan oleh algoritme platform favorit kita saat mereka berupaya memeras perhatian kita? Yang didapat hanyalah pertanyaan-pertanyaan matematika dan ilmu sosial yang rumit Noah Giansiracusa tertarik pada subjek tersebut.

Giansiracusa, seorang profesor di Universitas Bentley di Boston, terlatih dalam bidang matematika (memfokuskan penelitiannya pada bidang-bidang seperti geometri aljabar), namun dia juga memiliki kecenderungan untuk melihat topik-topik sosial melalui lensa matematika, seperti menghubungkan geometri komputasi ke Mahkamah Agung. Baru-baru ini, dia menerbitkan buku berjudul “Bagaimana Algoritma Membuat dan Mencegah Berita Palsu” untuk mengeksplorasi beberapa pertanyaan menantang seputar lanskap media saat ini dan bagaimana teknologi memperburuk dan memperbaiki tren tersebut.

Saya menjadi tuan rumah Giansiracusa di Twitter Space baru-baru ini, dan karena Twitter tidak memberikan kemudahan untuk mendengarkan pembicaraan ini setelahnya (sementara!), Saya pikir saya akan memberikan bagian paling menarik dari percakapan kami untuk Anda dan anak cucu.

Wawancara ini telah diedit dan diringkas untuk kejelasan.

Danny Crichton: Bagaimana Anda memutuskan untuk meneliti berita palsu dan menulis buku ini?

Noah Giansiracusa: Satu hal yang saya perhatikan adalah ada banyak diskusi sosiologis dan ilmu politik yang sangat menarik tentang berita palsu dan hal-hal semacamnya. Dan di sisi teknis, Anda akan melihat hal-hal seperti Mark Zuckerberg yang mengatakan AI akan memperbaiki semua masalah ini. Sepertinya, agak sulit untuk menjembatani kesenjangan tersebut.

Semua orang mungkin pernah mendengar kutipan Biden baru-baru ini yang mengatakan, “mereka membunuh orang,” sehubungan dengan misinformasi di media sosial. Jadi ada politisi yang membicarakan hal ini dan sulit bagi mereka untuk benar-benar memahami sisi algoritmiknya. Lalu kami memiliki orang-orang ilmu komputer yang sangat mendalami detailnya. Jadi saya duduk di antara keduanya, saya bukan orang yang benar-benar ahli ilmu komputer. Jadi menurut saya akan lebih mudah bagi saya untuk mundur dan melihat pemandangan dari atas.

Pada akhirnya, saya hanya merasa ingin mengeksplorasi lebih banyak interaksi dengan masyarakat di mana segala sesuatunya menjadi berantakan, di mana perhitungannya tidak begitu jelas.

Crichton: Berasal dari latar belakang matematika, Anda memasuki area kontroversial di mana banyak orang menulis dari berbagai sudut berbeda. Apa yang dilakukan orang-orang dengan benar dalam bidang ini dan apa saja yang mungkin terlewatkan oleh orang-orang?

Giansiracusa: Ada banyak jurnalisme yang luar biasa; Saya terpesona melihat betapa banyak jurnalis yang benar-benar mampu menangani hal-hal yang cukup teknis. Namun saya ingin mengatakan satu hal yang mungkin mereka tidak salah, namun yang membuat saya terkejut adalah, sering kali makalah akademis diterbitkan, atau bahkan pengumuman dari Google atau Facebook atau salah satu perusahaan teknologi tersebut, dan mereka akan menyebutkan sesuatu, dan jurnalisnya mungkin akan mengambil sebuah kutipan, dan mencoba mendeskripsikannya, namun mereka tampaknya agak takut untuk benar-benar mencoba melihat dan memahaminya. Dan menurut saya bukan karena mereka tidak mampu melakukannya, ini lebih terlihat seperti intimidasi dan ketakutan.

Satu hal yang sering saya alami sebagai guru matematika adalah orang-orang sangat takut mengatakan sesuatu yang salah dan membuat kesalahan. Dan ini berlaku bagi jurnalis yang harus menulis tentang hal-hal teknis, mereka tidak ingin salah bicara. Jadi lebih mudahnya hanya mengutip siaran pers dari Facebook atau mengutip pakarnya.

Satu hal yang sangat menyenangkan dan indah tentang matematika murni, adalah Anda tidak terlalu khawatir akan kesalahan, Anda cukup mencoba ide dan melihat ke mana arahnya dan Anda melihat semua interaksi ini. Saat Anda siap untuk menulis makalah atau memberikan ceramah, Anda memeriksa detailnya. Namun sebagian besar matematika adalah proses kreatif di mana Anda menjelajah, dan Anda hanya melihat bagaimana ide-ide berinteraksi. Pelatihan saya sebagai ahli matematika menurut Anda akan membuat saya khawatir jika membuat kesalahan dan lebih tepatnya, tetapi hal itu memiliki efek sebaliknya.

Kedua, banyak hal algoritmik yang tidak serumit kelihatannya. Saya tidak hanya duduk diam menerapkannya, saya yakin memprogramnya itu sulit. Namun gambaran besarnya, semua algoritme saat ini, sebagian besar didasarkan pada pembelajaran mendalam. Jadi, Anda memiliki jaringan saraf, bagi saya sebagai orang luar, arsitektur apa yang mereka gunakan tidak terlalu penting, yang terpenting adalah, apa prediktornya? Pada dasarnya, variabel apa yang Anda berikan pada algoritma pembelajaran mesin ini? Dan apa yang coba dihasilkannya? Itu adalah hal-hal yang dapat dipahami oleh siapa pun.

Crichton: Salah satu tantangan besar yang saya pikirkan dalam menganalisis algoritma ini adalah kurangnya transparansi. Berbeda dengan, katakanlah, dunia matematika murni yang merupakan komunitas ilmuwan yang bekerja untuk memecahkan masalah, banyak dari perusahaan-perusahaan ini sebenarnya sangat menentang dalam menyediakan data dan analisis kepada komunitas yang lebih luas.

Giansiracusa: Tampaknya ada batasan terhadap apa yang dapat disimpulkan oleh siapa pun hanya dengan melihat dari luar.

Contoh yang bagus adalah YouTube – tim akademisi ingin menyelidiki apakah algoritme rekomendasi YouTube membuat orang terjerumus ke dalam lubang ekstremisme dalam teori konspirasi. Tantangannya adalah karena ini adalah algoritme rekomendasi, maka ia menggunakan pembelajaran mendalam, yang didasarkan pada ratusan prediktor berdasarkan riwayat penelusuran Anda, demografi Anda, video lain yang telah Anda tonton, dan durasinya — semua hal tersebut. Ini sangat disesuaikan dengan Anda dan pengalaman Anda, sehingga semua penelitian yang saya temukan menggunakan mode penyamaran.

Jadi pada dasarnya mereka adalah pengguna yang tidak memiliki riwayat penelusuran, tidak memiliki informasi, dan mereka akan membuka sebuah video, lalu mengeklik video rekomendasi pertama, lalu mengeklik video berikutnya. Dan mari kita lihat ke mana algoritma ini membawa orang-orang. Itu adalah pengalaman yang berbeda dari pengguna manusia sebenarnya yang memiliki riwayat. Dan ini sungguh sulit. Saya rasa belum ada orang yang menemukan cara yang baik untuk menjelajahi algoritma YouTube dari luar.

Jujur saja, satu-satunya cara yang menurut saya bisa Anda lakukan adalah seperti studi kuno di mana Anda merekrut sejumlah besar sukarelawan dan memasang pelacak di komputer mereka dan berkata, “Hei, jalani saja hidup sesuai keinginan Anda. biasanya lakukan dengan riwayat Anda dan segalanya dan beri tahu kami video yang Anda tonton.” Jadi sulit untuk melupakan fakta bahwa banyak dari algoritma ini, hampir semuanya, menurut saya, sangat didasarkan pada data individual Anda. Kami tidak tahu bagaimana mempelajarinya secara agregat.

Dan bukan hanya saya atau siapa pun di luar yang mengalami masalah karena kami tidak memiliki datanya. Bahkan orang-orang di dalam perusahaan inilah yang membuat algoritme dan mengetahui cara kerja algoritme di atas kertas, namun mereka tidak tahu bagaimana perilakunya sebenarnya. Ini seperti monster Frankenstein: mereka membuat benda ini, tapi mereka tidak tahu bagaimana cara kerjanya. Jadi satu-satunya cara menurut saya Anda benar-benar dapat mempelajarinya adalah jika orang-orang yang memiliki data tersebut berusaha keras dan menghabiskan waktu serta sumber daya untuk mempelajarinya.

Crichton: Ada banyak metrik yang digunakan untuk mengevaluasi misinformasi dan menentukan keterlibatan pada suatu platform. Berdasarkan latar belakang matematika Anda, apakah menurut Anda langkah-langkah tersebut kuat?

Giansiracusa: Orang-orang mencoba menghilangkan prasangka informasi yang salah. Namun dalam prosesnya, mereka mungkin mengomentarinya, me-retweet atau membagikannya, dan itu dianggap sebagai keterlibatan. Jadi banyak dari pengukuran keterlibatan ini, apakah mereka benar-benar memandangnya positif atau hanya seluruh keterlibatan? Anda tahu, semuanya disatukan.

Hal ini juga terjadi dalam penelitian akademis. Kutipan adalah metrik universal tentang seberapa sukses suatu penelitian. Ya, hal-hal yang benar-benar palsu seperti makalah autisme dan vaksin asli Wakefield mendapat banyak sekali kutipan, banyak dari mereka yang mengutip karena mereka pikir itu benar, tetapi banyak dari para ilmuwan yang membantahnya, mereka mengutipnya di makalah mereka untuk katakanlah, kami menunjukkan bahwa teori ini salah. Tapi entah bagaimana kutipan tetaplah kutipan. Jadi semuanya diperhitungkan dalam metrik keberhasilan.

Jadi menurut saya itulah yang terjadi dengan pertunangan. Jika saya memposting sesuatu di komentar saya yang mengatakan, "Hei, itu gila," bagaimana algoritma mengetahui apakah saya mendukungnya atau tidak? Mereka mungkin menggunakan beberapa pemrosesan bahasa AI untuk mencobanya, tetapi saya tidak yakin apakah itu benar, dan perlu banyak upaya untuk melakukannya.

Crichton: Terakhir, saya ingin berbicara sedikit tentang GPT-3 dan kekhawatiran seputar media sintetis dan berita palsu. Ada banyak ketakutan bahwa bot AI akan membanjiri media dengan disinformasi — seberapa takut atau tidaknya kita?

Giansiracusa: Karena buku saya benar-benar berkembang berdasarkan pengalaman, saya ingin mencoba untuk tetap tidak memihak, dan hanya memberi informasi kepada orang-orang dan membiarkan mereka mengambil keputusan sendiri. Saya memutuskan untuk mencoba menghentikan perdebatan itu dan membiarkan kedua belah pihak berbicara. Menurut saya, algoritme umpan berita dan algoritme pengenalan memang memperkuat banyak hal yang berbahaya, dan hal ini berdampak buruk bagi masyarakat. Namun ada juga banyak kemajuan luar biasa dalam penggunaan algoritme secara produktif dan berhasil membatasi berita palsu.

Ada orang-orang tekno-utopis yang mengatakan bahwa AI akan memperbaiki segalanya, kita akan memiliki pengungkapan kebenaran, pengecekan fakta, dan algoritma yang dapat mendeteksi misinformasi dan menghapusnya. Ada beberapa kemajuan, namun hal itu tidak akan terjadi, dan tidak akan pernah berhasil sepenuhnya. Itu harus selalu bergantung pada manusia. Namun hal lain yang kita miliki adalah ketakutan yang tidak rasional. Ada semacam distopia AI hiperbolik di mana algoritme sangat kuat, seperti singularitas yang akan menghancurkan kita.

Ketika berita palsu pertama kali muncul pada tahun 2018, dan GPT-3 dirilis beberapa tahun yang lalu, ada banyak ketakutan bahwa, “Oh sial, ini akan membuat semua masalah kita dengan berita palsu dan memahami apa yang benar di dunia nyata.” dunia jauh lebih sulit.” Dan saya pikir sekarang kita memiliki jarak beberapa tahun, kita dapat melihat bahwa mereka telah mempersulitnya, namun tidak sesignifikan yang kita harapkan. Dan masalah utamanya lebih bersifat psikologis dan ekonomi daripada apa pun.

Jadi penulis asli GPT-3 memiliki makalah penelitian yang memperkenalkan algoritma tersebut, dan salah satu hal yang mereka lakukan adalah tes di mana mereka menempelkan beberapa teks dan memperluasnya ke sebuah artikel, dan kemudian mereka meminta beberapa sukarelawan mengevaluasi dan menebak yang mana. adalah artikel yang dihasilkan secara algoritmik dan artikel mana yang merupakan artikel yang dibuat oleh manusia. Mereka melaporkan bahwa mereka mendapatkan akurasi yang sangat, sangat dekat dengan 50%, yang berarti sedikit di atas tebakan acak. Jadi kedengarannya luar biasa sekaligus menakutkan.

Namun jika Anda melihat detailnya, judulnya memanjang seperti satu baris judul hingga satu paragraf teks. Jika Anda mencoba membuat artikel lengkap sepanjang The Atlantic atau New Yorker, Anda akan mulai melihat perbedaannya, pemikirannya akan berkelok-kelok. Penulis makalah ini tidak menyebutkan hal ini, mereka hanya melakukan eksperimen dan berkata, "Hei, lihat betapa suksesnya ini."

Jadi kelihatannya meyakinkan, mereka bisa membuat artikel-artikel mengesankan tersebut. Namun inilah alasan utama, pada akhirnya, mengapa GPT-3 belum begitu transformatif dalam hal berita palsu dan misinformasi dan semua hal lainnya. Itu karena berita palsu sebagian besar adalah sampah. Tulisannya buruk, kualitasnya rendah, murah dan cepat diterbitkan, Anda bisa saja membayar keponakan Anda yang berusia 16 tahun untuk membuat banyak artikel berita palsu dalam hitungan menit.

Matematika tidak banyak membantu saya melihat hal ini. Hanya saja, hal utama yang kita coba lakukan dalam matematika adalah bersikap skeptis. Jadi Anda harus mempertanyakan hal-hal ini dan sedikit skeptis.

Sumber: https://techcrunch.com/2021/08/20/a-mathematician-walks-into-a-bar-of-disinformation/