Nie jest za późno, aby zastąpić toksyczne technologie technologią humanitarną

Opublikowane ponownie przez Plato

Obserwuje: 0

Technik telefoniczny w mediach społecznościowych Tristan Harris SXSW

Półtora roku temu pojawił się Netflix Dylemat społeczny, dramat dokumentalny, który zagłębił się w szkodliwe konsekwencje mediów społecznościowych. Pomyśl o polaryzacji politycznej, rozprzestrzenianiu się mylna informacjaoraz wzrost niepokoju i depresji w wielu grupach demograficznych. Tristana Harrisa, były etyk projektowania Google i współzałożyciel firmy Centrum Technologii Humanistycznych, jest centralną postacią filmu. W sesji w South By Southwest W tym tygodniu Harris mówił o krokach, które powinniśmy podjąć, aby ta technologia i nasze relacje z nią były zdrowe, lub, jak to ujął, mądrość, której potrzebujemy, aby sterować technologią i naszą przyszłością.

Harris otworzył z zacytować od biologa Edwarda O. Wilsona, który powiedział: „Prawdziwy problem ludzkości jest następujący: mamy paleolityczne emocje, średniowieczne instytucje i boską technologię. I jest to bardzo niebezpieczne, a teraz zbliża się do punktu ogólnego kryzysu”.

Innymi słowy, technologia rozwija się zbyt szybko, aby nasze mózgi mogły nadążyć i wiedzieć, jak zdrowo z nią wchodzić w interakcje lub aby nasze instytucje mogły ją zrozumieć i mądrze ją regulować.

Wilson wypowiedział te słowa podczas debaty w Harvard Museum of Natural History w 2009 roku; to znaczy przed powszechnym przyjęciem platform takich jak Instagram i Tiktok lub technologii, takich jak deepfake, generatory tekstu, CRISPRoraz inne innowacje, które mogą zmienić ludzkość (na lepsze lub gorsze).

Mamy teraz algorytmy, które mogą generować realistyczne obrazy na podstawie tekstu, od zachodów słońca w górach po zbombardowane budynki na Ukrainie. Mamy GPT-3, który mógłby napisać przekonujący artykuł argumentujący, że szczepionki mRNA nie są bezpieczne, powołując się na prawdziwe fakty, które są po prostu przedstawiane poza kontekstem. „To jest jak bomba neutronowa dla zaufania w Internecie” – powiedział Harris. „A złożoność świata rośnie każdego dnia”. Jednak nasza zdolność do reagowania nie pasuje.

Kwestie, które w przeszłości byłyby uważane za odrębne od siebie (lub nie istniały w przeszłości), są teraz ściśle powiązane; rozważ wpływ dezinformacji i media syntetyczne mogą mieć na eskalację nuklearną (i wpływ, jaki już wywarły na wybory i demokrację) lub związek między sztuczna inteligencja i globalny ryzyko finansowe.

Nasze wcześniejsze myślenie o tym, jak zarządzać technologią, nie jest wystarczająco dobre w obliczu tej nowej złożoności; jak radzimy sobie z takimi kwestiami jak prywatność lub wolność słowa, gdy zaangażowanych jest wielu aktorów, odpowiedzialność jest niska, a definicja tego, co jest „słuszne”, jest inna? „Technologia podkopuje zdolność ludzkości do mądrości” — powiedział Harris. „Nie tylko indywidualnie, ale nasza zbiorowa zdolność do działania z mądrością, której potrzebujemy”.

Powiedział, że mądrość oznacza poznanie granic tego, jak faktycznie pracujemy, posiadanie samoświadomości i pokory do dociekania oraz umiejętność myślenia w kategoriach systemów i przyczyn źródłowych. Harris odwołał się do książki Myślenie w systemach autorstwa naukowca zajmującego się środowiskiem Donelli Meadows, w którym wyszczególnia 12 punktów dźwigni za interwencję w system, czyli zmianę sposobu działania systemu z obecnego na inny. W opinii Harrisa najistotniejszym ze stwierdzeń Meadowsa w rozmowie o technologii jest moc przekraczania paradygmatów.

Każdy z paradygmatów myślenia w branży technologicznej, który zaprowadził nas tam, gdzie jesteśmy, powinien zostać zmieniony przez skupienie się na człowieku. Zamiast lekceważyć szkody związane z technologią, twierdząc, że zawsze istnieją koszty i korzyści, powinniśmy skupić się na minimalizowaniu szkodliwych efektów zewnętrznych. Zamiast dawać użytkownikom to, czego chcą, musimy szanować ludzkie słabości i słabości (na przykład sposób, w jaki platformy mediów społecznościowych wykorzystują reakcję mózgu na dopaminę). Zamiast maksymalizować personalizację, aby zapewnić użytkownikom satysfakcjonujące wrażenia (znane również jako tworzenie własnych, unikalnych komór echa), powinniśmy dążyć do wspólnego zrozumienia.

Pytanie brzmi, jak sprawić, by więcej ludzi przeszło od bycia typowymi użytkownikami mediów społecznościowych i innych technologii do bycia tym, co Harris nazywa humanitarnymi technologami?

Zaczyna się od podnoszenia świadomości i edukacji. Harris i jego zespół z Center for Humane Technology stworzyli kurs online zwaną „Podstawy technologii humanitarnej”, która prowadzi rejestrujących przez sześć zasad skoncentrowanych na wartościach, które, jeśli nadamy im priorytet podczas projektowania nowej technologii (lub zmiany projektu istniejącej technologii), może poprawić nasze doświadczenie zarówno indywidualnie, jak i jako połączona społeczność.

„Chcielibyśmy mieć 100,000 XNUMX humanitarnych technologów przeszkolonych w tym nowym paradygmacie” – powiedział Harris. „Trudno myśleć o tych rzeczach, kiedy czujesz, że jesteś jedyną osobą, która zadaje te pytania”.

Jesteśmy w punkcie zwrotnym, w którym dla osób pracujących nad technologią kluczowe znaczenie ma pomoc w tworzeniu wspólnego zrozumienia; świat nie stanie się mniej złożony lub niestabilny. Wręcz przeciwnie, Harris przewiduje, że wkraczamy w okres narastających globalnych katastrof, napędzanych między innymi przez zmiany klimatyczne, nierówności i niestabilne reżimy polityczne.

To dużo do podjęcia, a nawet dużo do rozważenia. Ale Harris powiedział, że ma nadzieję, ponieważ widział, jak system zmienia się znacznie szybciej w ciągu ostatnich kilku lat niż kiedykolwiek wcześniej. Osoby z branży technologicznej wypowiedziały się na temat zagrożeń i szkód związanych z produktami, które pomogły stworzyć — od byłego inżyniera YouTube Guillaume'a Chaslota do współzałożyciela Facebooka Chris Hughes do byłego analityka danych z Facebooka Franciszka Haugena, i wiele więcej. „Technolodzy rzeczywiście budzą się i mówią:„ Nie chcę uczestniczyć w toksycznej części przemysłu, chcę pomóc zbudować lepszą część ”- powiedział Harris.

Wracając do cytatu Wilsona, Harris zaproponował, co następuje: musimy przyjąć nasze paleolityczne emocje, ulepszyć nasze średniowieczne instytucje i mieć mądrość, by władać naszą boską technologią. Musimy być w stanie zrozumieć świat i zebrać ludzi z różnych stron i uzgodnić działania, które powinniśmy podjąć, a następnie je podjąć. Nie powinno być miejsca na modele biznesowe zależne od podziału ludzi. „Potrzebujemy, aby wszyscy pracowali, aby pomóc nam zlikwidować tę lukę” – powiedział Harris.

Kredytowych Image: Rodion Kucajew on Unsplash

Szukasz sposobów na wyprzedzenie tempa zmian? Zastanów się, co jest możliwe. Dołącz do starannie wyselekcjonowanej, ekskluzywnej kohorty 80 dyrektorów we flagowym programie wykonawczym Singularity (EP), pięciodniowym, w pełni wciągającym programie transformacji przywództwa, który zmienia dotychczasowe sposoby myślenia. Odkryj nowy sposób myślenia, zestaw narzędzi i sieć innych futurystów zaangażowanych w znajdowanie rozwiązań dla szybkiego tempa zmian na świecie. Kliknij tutaj, aby dowiedzieć się więcej i aplikuj już dziś!

Znak czasu: 14 marca 2022 r.