Belum Terlambat Mengganti Teknologi Beracun Dengan Teknologi Manusiawi

Diterbitkan Ulang Oleh Plato

Followers: 0

teknologi telepon media sosial Tristan Harris SXSW

Setahun setengah yang lalu Netflix dirilis Dilema Sosial, sebuah drama dokumenter yang menggali konsekuensi berbahaya dari media sosial. Pikirkan polarisasi politik, penyebaran keterangan yg salah, dan peningkatan kecemasan dan depresi di berbagai demografi. Tristan Harris, mantan ahli etika desain Google dan salah satu pendiri Pusat Teknologi Manusiawi, adalah tokoh sentral dalam film tersebut. Dalam sesi di Selatan Oleh Barat Daya minggu ini, Harris berbicara tentang langkah-langkah yang harus kita ambil untuk membawa teknologi ini dan hubungan kita dengannya ke tempat yang sehat, atau seperti yang dia katakan, kebijaksanaan yang kita butuhkan untuk mengarahkan teknologi dan masa depan kita.

Harris dibuka dengan mengutip dari ahli biologi Edward O.Wilson, yang mengatakan, “Masalah umat manusia yang sebenarnya adalah sebagai berikut: Kami memiliki emosi Paleolitik, institusi abad pertengahan, dan teknologi seperti dewa. Dan itu sangat berbahaya, dan sekarang mendekati titik krisis secara keseluruhan.”

Dengan kata lain, teknologi berkembang terlalu cepat bagi otak kita untuk mengikuti dan mengetahui bagaimana berinteraksi secara sehat dengannya, atau bagi institusi kita untuk memahaminya dan mengaturnya dengan bijak.

Wilson mengucapkan kata-kata ini pada sebuah debat di Museum Sejarah Alam Harvard pada tahun 2009; yaitu, sebelum adopsi platform seperti Instagram dan Tiktok, atau teknologi seperti deepfake, pembuat teks, CRISPR, dan inovasi lainnya yang berpotensi mengubah umat manusia (menjadi lebih baik atau lebih buruk).

Kami sekarang memiliki algoritme yang dapat menghasilkan gambar realistis berdasarkan teks, mulai dari matahari terbenam di gunung hingga bangunan yang dibom di Ukraina. Kita punya GPT-3, yang dapat menulis makalah yang meyakinkan dengan alasan bahwa vaksin mRNA tidak aman, mengutip fakta nyata yang hanya disajikan di luar konteks. “Ini seperti bom neutron untuk kepercayaan di internet,” kata Harris. “Dan kompleksitas dunia meningkat setiap hari.” Kemampuan kami untuk merespons, bagaimanapun, tidak cocok.

Isu-isu yang sebelumnya dianggap terpisah satu sama lain (atau yang tidak ada di masa lalu) kini terkait erat; mempertimbangkan dampak informasi yang salah dan media sintetis bisa berdampak pada eskalasi nuklir (dan dampaknya terhadap pemilu dan demokrasi), atau hubungan antara kecerdasan buatan dan global resiko keuangan.

Pemikiran kami sebelumnya tentang bagaimana mengelola teknologi tidak cukup baik dalam menghadapi kompleksitas baru ini; bagaimana kita menangani masalah seperti privasi atau kebebasan berbicara ketika banyak aktor terlibat, ada akuntabilitas yang rendah, dan definisi setiap orang tentang apa yang "benar" berbeda? “Teknologi telah merusak kapasitas manusia untuk kebijaksanaan,” kata Harris. “Tidak hanya secara individu, tetapi kemampuan kolektif kita untuk beroperasi dengan kebijaksanaan yang kita butuhkan.”

Kebijaksanaan, katanya, berarti mengetahui batas-batas bagaimana kita sebenarnya bekerja, memiliki kesadaran diri dan kerendahan hati untuk bertanya, dan mampu berpikir dalam kerangka sistem dan akar penyebab. Harris mereferensikan buku itu Berpikir dalam Sistem oleh ilmuwan lingkungan Donella Meadows, di mana dia merinci 12 poin pengaruh untuk campur tangan dalam suatu sistem—yaitu, mengubah cara sistem bekerja dari keadaan saat ini menjadi sesuatu yang lain. Menurut pendapat Harris, poin Meadows yang paling relevan dengan percakapan teknologi adalah kekuatan untuk melampaui paradigma.

Setiap paradigma pemikiran dalam industri teknologi yang membawa kita ke tempat kita sekarang harus dirombak dengan fokus yang berpusat pada manusia. Daripada mengabaikan bahaya teknologi dengan menegaskan bahwa selalu ada biaya dan manfaat, kita harus fokus pada meminimalkan eksternalitas yang berbahaya. Daripada memberikan apa yang diinginkan pengguna, kita harus menghormati kelemahan dan kerentanan manusia (misalnya, cara platform media sosial mengeksploitasi respons dopamin otak). Daripada memaksimalkan personalisasi untuk memberikan pengalaman yang memuaskan kepada pengguna (juga dikenal sebagai membuat ruang gema kecil kami yang unik), kita harus berusaha untuk menciptakan pemahaman bersama.

Pertanyaannya adalah, bagaimana kita membuat lebih banyak orang beralih dari pengguna biasa media sosial dan teknologi lain menjadi apa yang disebut Harris sebagai teknologi manusiawi?

Dimulai dengan meningkatkan kesadaran dan mendidik diri kita sendiri. Harris dan timnya di Center for Humane Technology menciptakan sebuah tentu saja secara online disebut Foundations of Humane Technology, yang membawa pendaftar melalui enam prinsip yang berpusat pada nilai yang, jika kami memprioritaskan mereka saat merancang teknologi baru (atau mengubah desain teknologi yang ada), dapat meningkatkan pengalaman kami baik secara individu maupun sebagai komunitas yang saling terhubung.

“Kami ingin memiliki 100,000 teknolog manusiawi yang terlatih dalam paradigma baru ini,” kata Harris. “Sulit untuk memikirkan hal-hal ini ketika Anda merasa bahwa Andalah satu-satunya yang mengajukan pertanyaan-pertanyaan ini.”

Kami berada pada titik belok di mana sangat penting bagi mereka yang bekerja pada teknologi untuk membantu menciptakan pemahaman bersama; dunia tidak akan menjadi kurang kompleks atau tidak stabil. Sebaliknya, Harris memperkirakan kita sedang menuju ke periode meningkatnya bencana global yang dipicu oleh perubahan iklim, ketidaksetaraan, dan rezim politik yang tidak stabil, di antara faktor-faktor lainnya.

Banyak yang harus diambil, bahkan banyak yang harus direnungkan. Tapi, kata Harris, dia memiliki harapan karena dia melihat sistem berubah lebih cepat dalam beberapa tahun terakhir daripada sebelumnya. Orang-orang dari dalam industri teknologi telah berbicara tentang risiko dan bahaya produk yang mereka bantu buat, dari mantan insinyur YouTube Chaslot Guillaume kepada salah satu pendiri Facebook Chris Hughes kepada mantan ilmuwan data Facebook Frances Hagen, dan masih banyak lagi. "Teknologi benar-benar bangun dan berkata, 'Saya tidak ingin berpartisipasi dalam bagian beracun dari industri, saya ingin membantu membangun bagian yang lebih baik,'" kata Harris.

Kembali ke kutipan Wilson, Harris mengusulkan hal berikut: kita perlu merangkul emosi Paleolitik kita, meningkatkan institusi abad pertengahan kita, dan memiliki kebijaksanaan untuk menggunakan teknologi seperti Tuhan kita. Kita harus mampu memahami dunia dan membuat orang-orang dari berbagai sisi berkumpul dan menyepakati tindakan yang harus kita ambil—lalu mengambilnya. Seharusnya tidak ada tempat untuk model bisnis yang bergantung pada memecah belah orang. “Kami membutuhkan semua orang yang bekerja untuk membantu kami menutup celah itu,” kata Harris.

Gambar Kredit: Rodion Kutsaev on Unsplash

Mencari cara untuk tetap berada di depan laju perubahan? Pikirkan kembali apa yang mungkin. Bergabunglah dengan kelompok 80 eksekutif yang sangat terkurasi dan eksklusif untuk Program Eksekutif (EP) unggulan Singularity, program transformasi kepemimpinan yang sepenuhnya imersif selama lima hari yang mengganggu cara berpikir yang ada. Temukan pola pikir, perangkat, dan jaringan baru dari sesama futuris yang berkomitmen untuk menemukan solusi terhadap laju perubahan yang cepat di dunia. Klik di sini untuk mempelajari lebih lanjut dan mendaftar hari ini!

Stempel Waktu: 14 Maret, 2022