Het is niet te laat om giftige technologie te vervangen door humane technologie

Heruitgegeven door Plato

volgers: 0

sociale media telefoon tech Tristan Harris SXSW

Anderhalf jaar geleden kwam Netflix uit Het sociale dilemma, een docu-drama dat inging op de schadelijke gevolgen van sociale media. Denk aan politieke polarisatie, de verspreiding van desinformatie, en stijgingen in angst en depressie in meerdere demografische categorieën. tristan harris, een voormalig Google-ontwerpethicus en mede-oprichter van de Centrum voor humane technologie, is een centrale figuur in de film. In een sessie op Zuid door Zuidwest deze week sprak Harris over de stappen die we zouden moeten nemen om deze technologie en onze relatie ermee op een gezonde plek te brengen, of zoals hij het uitdrukte, de wijsheid die we nodig hebben om technologie en onze toekomst te sturen.

Harris opende met een citeren van bioloog Edward O.Wilson, die zei: "Het echte probleem van de mensheid is het volgende: we hebben paleolithische emoties, middeleeuwse instellingen en goddelijke technologie. En het is verschrikkelijk gevaarlijk, en het nadert nu over het algemeen een punt van crisis.”

Met andere woorden, de technologie vordert veel te snel voor onze hersenen om het bij te houden en te weten hoe we er gezond mee kunnen omgaan, of voor onze instellingen om het te begrijpen en het wijselijk te reguleren.

Wilson sprak deze woorden tijdens een debat in het Harvard Museum of Natural History in 2009; dat wil zeggen, vóór de wijdverbreide acceptatie van platforms zoals Instagram en Tiktok, of van technologie zoals deepfakes, tekstgenerators, CRISPR, en andere innovaties die het potentieel hebben om de mensheid te transformeren (ten goede of ten kwade).

We hebben nu algoritmen die realistische afbeeldingen kunnen genereren op basis van tekst, van alles van zonsondergangen in de bergen tot gebombardeerde gebouwen in Oekraïne. We hebben GPT-3, die een overtuigend artikel zou kunnen schrijven waarin wordt beweerd dat mRNA-vaccins niet veilig zijn, waarbij echte feiten worden genoemd die eenvoudigweg uit hun verband worden gepresenteerd. "Dit is als een neutronenbom voor vertrouwen op internet", zei Harris. "En de complexiteit van de wereld neemt elke dag toe." Ons vermogen om te reageren komt echter niet overeen.

Kwesties die in het verleden als los van elkaar zouden worden beschouwd (of die in het verleden niet bestonden) zijn nu nauw met elkaar verbonden; overweeg de impact die verkeerde informatie en synthetische media zou kunnen hebben op nucleaire escalatie (en de impact die ze al hebben gehad op verkiezingen en democratie), of het verband tussen kunstmatige intelligentie en wereldwijd financieel risico.

Ons eerdere denken over het beheer van technologie is niet goed genoeg in het licht van deze nieuwe complexiteit; hoe gaan we om met zaken als privacy of vrijheid van meningsuiting als er meerdere actoren bij betrokken zijn, er weinig verantwoordelijkheid is en ieders definitie van wat 'juist' is anders is? "Technologie heeft het vermogen van de mensheid tot wijsheid ondermijnd", zei Harris. "Niet alleen individueel, maar ons collectieve vermogen om te werken met de wijsheid die we nodig hebben."

Wijsheid, zei hij, betekent dat we de grenzen kennen van hoe we eigenlijk werken, het zelfbewustzijn en de nederigheid hebben om te onderzoeken, en in staat zijn te denken in termen van systemen en grondoorzaken. Harris verwees naar het boek Denken in systemen door milieuwetenschapper Donella Meadows, waarin ze 12 hefboompunten beschrijft om in te grijpen in een systeem - dat wil zeggen, de manier waarop een systeem werkt van zijn huidige staat naar iets anders veranderen. Volgens Harris is het meest relevante punt van Meadows voor het technische gesprek de kracht om paradigma's te overstijgen.

Elk van de denkparadigma's in de tech-industrie die ons hebben gebracht waar we zijn, zou moeten worden herzien door een mensgerichte focus. In plaats van de nadelen van technologie van ons af te schudden door te beweren dat er altijd kosten en baten zijn, moeten we ons richten op het minimaliseren van schadelijke externe effecten. In plaats van gebruikers te geven wat ze willen, moeten we menselijke zwakheden en kwetsbaarheden respecteren (bijvoorbeeld de manier waarop sociale-mediaplatforms gebruikmaken van de dopamine-respons van de hersenen). In plaats van personalisatie te maximaliseren om gebruikers een bevredigende ervaring te bieden (ook bekend als het creëren van onze eigen unieke kleine echokamers), moeten we ernaar streven om gedeeld begrip te creëren.

De vraag is, hoe zorgen we ervoor dat meer mensen van typische gebruikers van sociale media en andere technologie veranderen in wat Harris humane technologen noemt?

Het begint met bewustwording en het opleiden van onszelf. Harris en zijn team van het Center for Humane Technology creëerden een online cursus genaamd Foundations of Humane Technology, die registranten door zes waardengerichte principes leidt die, als we ze prioriteit geven bij het ontwerpen van nieuwe technologie (of het veranderen van het ontwerp van bestaande technologie), onze ervaring zowel individueel als als een onderling verbonden gemeenschap kunnen verbeteren.

"We zouden graag 100,000 humane technologen hebben die zijn opgeleid in dit nieuwe paradigma", zei Harris. "Het is moeilijk om over deze dingen na te denken als je het gevoel hebt dat je de enige bent die deze vragen stelt."

We bevinden ons op een keerpunt waar het van cruciaal belang is voor degenen die aan technologie werken om een gedeeld begrip te helpen creëren; de wereld staat niet op het punt minder complex of vluchtig te worden. Integendeel, Harris voorspelt dat we afstevenen op een periode van toenemende wereldwijde catastrofes, aangewakkerd door onder meer klimaatverandering, ongelijkheid en onstabiele politieke regimes.

Het is veel om op te nemen, zelfs veel om over na te denken. Maar, zei Harris, hij heeft hoop omdat hij het systeem de afgelopen jaren veel sneller heeft zien veranderen dan ooit tevoren. Mensen uit de technische industrie hebben zich uitgesproken over de risico's en schade van de producten die ze hebben helpen maken, van voormalig YouTube-technicus Guillaume Chaslot naar Facebook mede-oprichter Chris Hughes aan voormalig Facebook-datawetenschapper Frances Haugen, en nog veel meer. "Technologen worden wakker en zeggen: 'Ik wil niet deelnemen aan het giftige deel van de industrie, ik wil helpen een beter deel op te bouwen'", zei Harris.

Terugkomend op Wilsons citaat, stelde Harris het volgende voor: we moeten onze paleolithische emoties omarmen, onze middeleeuwse instellingen upgraden en de wijsheid hebben om onze goddelijke technologie te hanteren. We moeten in staat zijn om de wereld te begrijpen en mensen van verschillende kanten samen te laten komen en het eens te worden over de acties die we moeten ondernemen - en die vervolgens uitvoeren. Er mag geen plaats zijn voor businessmodellen die afhankelijk zijn van verdeeldheid tussen mensen. "We hebben iedereen nodig die ons helpt die kloof te dichten", zei Harris.

Krediet van het beeld: Rodion Kutsaev on Unsplash

Op zoek naar manieren om het tempo van veranderingen voor te blijven? Heroverweeg wat mogelijk is. Sluit je aan bij een zeer samengesteld, exclusief cohort van 80 leidinggevenden voor het vlaggenschip Executive Program (EP) van Singularity, een vijfdaags, volledig meeslepend transformatieprogramma voor leiderschap dat bestaande manieren van denken verstoort. Ontdek een nieuwe mindset, toolset en netwerk van collega-futuristen die zich inzetten voor het vinden van oplossingen voor het snelle tempo van verandering in de wereld. Klik hier voor meer informatie en solliciteer vandaag nog!

Tijdstempel: 14 maart 2022