Det er ikke for sent å erstatte giftig teknologi med human teknologi

Publisert av Platon

Følgere: 0

sosiale medier telefon tech Tristan Harris SXSW

For halvannet år siden lanserte Netflix Det sosiale dilemmaet, et doku-drama som gravde i sosiale mediers skadelige konsekvenser. Tenk politisk polarisering, spredning av feil~~POS=TRUNC, og økning i angst og depresjon på tvers av flere demografier. tristan harris, en tidligere Google-designetiker og medgründer av Senter for human teknologi, er en sentral skikkelse i filmen. I en økt kl Sør ved sørvest denne uken snakket Harris om trinnene vi bør ta for å få denne teknologien og vårt forhold til den til et sunt sted, eller som han sa det, visdommen vi trenger for å styre teknologien og fremtiden vår.

Harris åpnet med en sitere fra biolog Edward O. Wilson, som sa: «Menneskehetens virkelige problem er følgende: Vi har paleolittiske følelser, middelalderske institusjoner og gudelignende teknologi. Og det er fryktelig farlig, og det nærmer seg nå et krisepunkt totalt sett.»

Med andre ord, teknologien går altfor raskt frem til at hjernen vår kan følge med og vite hvordan den skal samhandle med den på en sunn måte, eller for at institusjonene våre kan forstå den og regulere den på en fornuftig måte.

Wilson sa disse ordene på en debatt ved Harvard Museum of Natural History i 2009; det vil si før den utbredte bruken av plattformer som Instagram og Tiktok, eller av teknologi som deepfakes, tekstgeneratorer, CRISPR, og andre innovasjoner som har potensial til å transformere menneskeheten (på godt og vondt).

Vi har nå algoritmer som kan generere realistiske bilder basert på tekst, av alt fra fjellsolnedganger til utbombede bygninger i Ukraina. Vi har GPT-3, som kan skrive en overbevisende artikkel som argumenterer for at mRNA-vaksiner ikke er trygge, og siterer virkelige fakta som ganske enkelt presenteres utenfor kontekst. "Dette er som en nøytronbombe for tillit på internett," sa Harris. "Og kompleksiteten i verden øker for hver dag." Vår evne til å svare stemmer imidlertid ikke overens.

Problemer som ville blitt ansett som atskilt fra hverandre tidligere (eller som ikke eksisterte i fortiden) er nå nært knyttet; vurdere virkningen som feilinformasjon og syntetiske medier kunne ha på atomeskalering (og innvirkningen de allerede har hatt på valg og demokrati), eller sammenhengen mellom kunstig intelligens og global økonomisk risiko.

Vår tidligere tankegang rundt hvordan vi skal administrere teknologi er ikke god nok i møte med denne nye kompleksiteten; hvordan håndterer vi spørsmål som personvern eller ytringsfrihet når flere aktører er involvert, det er lavt ansvar og alles definisjon av hva som er "riktig" er forskjellig? "Teknologi har undergravd menneskehetens evne til visdom," sa Harris. "Ikke bare individuelt, men vår kollektive evne til å operere med den visdommen vi trenger."

Visdom, sa han, betyr å kjenne grensene for hvordan vi faktisk fungerer, å ha selvbevissthet og ydmykhet til å spørre, og å være i stand til å tenke i termer av systemer og grunnleggende årsaker. Harris refererte til boken Tenker i systemer av miljøforsker Donella Meadows, der hun beskriver 12 innflytelsespunkter for å gripe inn i et system - det vil si å endre måten et system fungerer på fra sin nåværende tilstand til noe annet. Etter Harris mening er det mest relevante av Meadows poeng til den tekniske samtalen makten til å overskride paradigmer.

Hvert av tankeparadigmene i teknologiindustrien som fikk oss dit vi er, bør revideres av et menneskesentrert fokus. I stedet for å trekke på skuldrene fra teknologiens skader ved å hevde at det alltid er kostnader og fordeler, bør vi fokusere på å minimere skadelige eksternaliteter. I stedet for å gi brukerne det de vil ha, må vi respektere menneskelige svakheter og sårbarheter (for eksempel måten sosiale medieplattformer utnytter hjernens dopaminrespons). I stedet for å maksimere personalisering for å gi brukerne en tilfredsstillende opplevelse (også kjent som å lage våre egne unike små ekkokamre), bør vi strebe etter å skape felles forståelse.

Spørsmålet er, hvordan får vi flere til å gå fra å være typiske brukere av sosiale medier og annen teknologi til å være det Harris kaller humane teknologer?

Det starter med å øke bevisstheten og utdanne oss selv. Harris og teamet hans ved Center for Humane Technology opprettet en nettbasert kurs kalt Foundations of Humane Technology, som tar registranter gjennom seks verdisentrerte grunnsetninger som, hvis vi prioriterer dem når vi designer ny teknologi (eller endrer utformingen av eksisterende teknologi), kan forbedre opplevelsen vår både individuelt og som et sammenkoblet fellesskap.

"Vi vil gjerne ha 100,000 XNUMX humane teknologer som er opplært i dette nye paradigmet," sa Harris. "Det er vanskelig å tenke på disse tingene når du føler at du er den eneste som stiller disse spørsmålene."

Vi er ved et vendepunkt hvor det er avgjørende for de som jobber med teknologi å bidra til å skape felles forståelse; verden er ikke i ferd med å bli mindre kompleks eller flyktig. Tvert imot spår Harris at vi er på vei inn i en periode med økende globale katastrofer drevet av blant annet klimaendringer, ulikhet og ustabile politiske regimer.

Det er mye å ta på seg, til og med mye å tenke på. Men, sa Harris, han har håp fordi han har sett systemet endre seg mye raskere de siste årene enn noen gang før. Folk fra teknologiindustrien har snakket ut om risikoen og skadene ved produktene de var med på å lage, fra tidligere YouTube-ingeniør Guillaume Chaslot til Facebooks medgründer Chris Hughes til tidligere Facebook-dataforsker Frances Haugen, og mange flere. "Teknologer våkner faktisk og sier: 'Jeg vil ikke delta i den giftige delen av industrien, jeg vil bidra til å bygge en bedre del,'" sa Harris.

Når vi går tilbake til sitatet til Wilson, foreslo Harris følgende: vi må omfavne våre paleolittiske følelser, oppgradere våre middelalderske institusjoner og ha visdommen til å bruke vår gudlignende teknologi. Vi må være i stand til å forstå verden og få folk fra forskjellige sider til å komme sammen og bli enige om handlingene vi bør ta – for så å ta dem. Det skal ikke være plass for forretningsmodeller som er avhengige av å dele mennesker. "Vi trenger at alle som jobber med å hjelpe oss med å lukke gapet," sa Harris.

Bilde Credit: Rodion Kutsaev on Unsplash

Leter du etter måter å ligge i forkant av endringstakten? Tenk på nytt hva som er mulig. Bli med i en svært kuratert, eksklusiv gruppe på 80 ledere for Singularitys flaggskip Executive Program (EP), et femdagers, fullstendig oppslukende lederskapstransformasjonsprogram som forstyrrer eksisterende måter å tenke på. Oppdag et nytt tankesett, verktøysett og nettverk av andre fremtidsforskere som er forpliktet til å finne løsninger på den raske endringstakten i verden. Klikk her for å lære mer og søk i dag!

Tidstempel: Mars 14, 2022