Ainda não é tarde para substituir tecnologia tóxica por tecnologia humana

Republicado por Platão

seguidores: 0

técnico de telefonia de mídia social Tristan Harris SXSW

Há um ano e meio a Netflix lançou O dilema social, um docu-drama que aprofundou as consequências nocivas das mídias sociais. Pense na polarização política, na disseminação de desinformação, e aumentos na ansiedade e depressão em vários dados demográficos. tristão harris, um ex-ético de design do Google e cofundador do Centro de Tecnologia Humana, é uma figura central no filme. Em uma sessão de Sul pelo Sudoeste esta semana, Harris falou sobre os passos que devemos tomar para levar esta tecnologia e nosso relacionamento com ela para um lugar saudável, ou como ele disse, a sabedoria que precisamos para conduzir a tecnologia e nosso futuro.

Harris abriu com um citar do biólogo Edward O. Wilson, que disse: “O verdadeiro problema da humanidade é o seguinte: temos emoções paleolíticas, instituições medievais e tecnologia divina. E é terrivelmente perigoso, e agora está se aproximando de um ponto de crise geral.”

Em outras palavras, a tecnologia está avançando rápido demais para que nossos cérebros a acompanhem e saibam como interagir de forma saudável com ela, ou para que nossas instituições a entendam e a regulem com sabedoria.

Wilson falou essas palavras em um debate no Museu de História Natural de Harvard em 2009; isto é, antes da adoção generalizada de plataformas como Instagram e Tiktok, ou de tecnologia como deepfakes, geradores de texto, CRISPR, e outras inovações que têm o potencial de transformar a humanidade (para melhor ou para pior).

Agora temos algoritmos que podem gerar imagens realistas com base em texto, de qualquer coisa, desde pôr do sol nas montanhas até prédios bombardeados na Ucrânia. Nós temos GPT-3, que poderia escrever um artigo convincente argumentando que as vacinas de mRNA não são seguras, citando fatos reais que são simplesmente apresentados fora de contexto. “Isso é como uma bomba de nêutrons para a confiança na internet”, disse Harris. “E a complexidade do mundo está aumentando a cada dia.” Nossa capacidade de responder, no entanto, não está combinando.

Questões que teriam sido consideradas separadas umas das outras no passado (ou que não existiam no passado) agora estão intimamente ligadas; considerar o impacto que a desinformação e mídia sintética poderia ter sobre a escalada nuclear (e o impacto que eles já tiveram nas eleições e na democracia), ou a conexão entre inteligência artificial e global risco financeiro.

Nosso pensamento anterior sobre como gerenciar a tecnologia não é bom o suficiente diante dessa nova complexidade; como lidamos com questões como privacidade ou liberdade de expressão quando vários atores estão envolvidos, há pouca responsabilidade e a definição de cada um do que é “certo” é diferente? “A tecnologia vem minando a capacidade de sabedoria da humanidade”, disse Harris. “Não apenas individualmente, mas nossa capacidade coletiva de operar com a sabedoria de que precisamos.”

Sabedoria, disse ele, significa conhecer os limites de como realmente trabalhamos, ter autoconsciência e humildade para indagar e ser capaz de pensar em termos de sistemas e causas básicas. Harris fez referência ao livro Pensando em Sistemas pela cientista ambiental Donella Meadows, no qual ela detalha 12 pontos de alavancagem para intervir em um sistema – ou seja, mudar a maneira como um sistema funciona de seu estado atual para outra coisa. Na opinião de Harris, o ponto mais relevante de Meadows para a conversa sobre tecnologia é o poder de transcender paradigmas.

Cada um dos paradigmas de pensamento na indústria de tecnologia que nos trouxe onde estamos deve ser revisto por um foco centrado no ser humano. Em vez de ignorar os danos da tecnologia afirmando que sempre há custos e benefícios, devemos nos concentrar em minimizar as externalidades prejudiciais. Em vez de dar aos usuários o que eles querem, devemos respeitar as fraquezas e vulnerabilidades humanas (por exemplo, a maneira como as plataformas de mídia social exploram a resposta à dopamina do cérebro). Em vez de maximizar a personalização para oferecer aos usuários uma experiência satisfatória (também conhecida como criar nossas próprias pequenas câmaras de eco exclusivas), devemos nos esforçar para criar um entendimento compartilhado.

A questão é: como fazemos com que mais pessoas deixem de ser usuários típicos de mídia social e outras tecnologias para serem o que Harris chama de tecnólogos humanos?

Começa com a conscientização e a educação de nós mesmos. Harris e sua equipe do Center for Humane Technology criaram um curso online chamado Foundations of Humane Technology, que leva os inscritos por seis princípios centrados em valores que, se os priorizarmos ao projetar novas tecnologias (ou alterar o design de tecnologias existentes), podem melhorar nossa experiência individualmente e como uma comunidade interconectada.

“Gostaríamos de ter 100,000 tecnólogos humanos treinados neste novo paradigma”, disse Harris. “É difícil pensar nessas coisas quando você sente que é o único a fazer essas perguntas.”

Estamos em um ponto de inflexão em que é crucial que aqueles que trabalham com tecnologia ajudem a criar um entendimento compartilhado; o mundo não está prestes a ficar menos complexo ou volátil. Pelo contrário, Harris prevê que estamos entrando em um período de crescentes catástrofes globais alimentadas por mudanças climáticas, desigualdade e regimes políticos instáveis, entre outros fatores.

É muito para assumir, até muito para contemplar. Mas, disse Harris, ele tem esperança porque viu o sistema mudar muito mais rápido nos últimos anos do que nunca. Pessoas da indústria de tecnologia falaram sobre os riscos e danos dos produtos que ajudaram a criar, do ex-engenheiro do YouTube Guilherme Chaslot ao cofundador do Facebook Chris Hughes para o ex-cientista de dados do Facebook Frances Hagen, e muitos mais. “Os tecnólogos estão realmente acordando e dizendo: 'Não quero participar da parte tóxica da indústria, quero ajudar a construir uma parte melhor'”, disse Harris.

Voltando à citação de Wilson, Harris propôs o seguinte: precisamos abraçar nossas emoções paleolíticas, atualizar nossas instituições medievais e ter a sabedoria para manejar nossa tecnologia divina. Precisamos ser capazes de entender o mundo e fazer com que pessoas de diferentes lados se reúnam e concordem sobre as ações que devemos tomar – e depois as tome. Não deve haver lugar para modelos de negócios que dependam da divisão de pessoas. “Precisamos de todos trabalhando para nos ajudar a fechar essa lacuna”, disse Harris.

Crédito de imagem: Rodion Kutsaev on Unsplash

Procurando maneiras de ficar à frente do ritmo das mudanças? Repense o que é possível. Junte-se a uma coorte exclusiva e altamente selecionada de 80 executivos para o principal Programa Executivo (EP) da Singularity, um programa de transformação de liderança totalmente imersivo de cinco dias que rompe com as formas de pensamento existentes. Descubra uma nova mentalidade, conjunto de ferramentas e rede de colegas futuristas comprometidos em encontrar soluções para o ritmo acelerado das mudanças no mundo. Clique aqui para saber mais e aplicar hoje mesmo!

Carimbo de hora: 14 de março de 2022