No es demasiado tarde para reemplazar la tecnología tóxica con tecnología humana

Reeditado por Platón

seguidores: 0

tecnología telefónica de redes sociales Tristan Harris SXSW

Hace un año y medio que Netflix lanzó El dilema social, un docu-drama que profundiza en las consecuencias dañinas de las redes sociales. Piense en la polarización política, la propagación de desinformación, y aumentos en la ansiedad y la depresión en múltiples grupos demográficos. Tristán Harris, ex especialista en ética del diseño de Google y cofundador de la Centro de tecnología humana, es una figura central en la película. En una sesión en South By Southwest esta semana, Harris habló sobre los pasos que deberíamos tomar para llevar esta tecnología y nuestra relación con ella a un lugar saludable, o como él lo expresó, la sabiduría que necesitamos para dirigir la tecnología y nuestro futuro.

Harris abrió con una cotización inicial de biólogo Edward O. Wilson, quien dijo: “El verdadero problema de la humanidad es el siguiente: tenemos emociones paleolíticas, instituciones medievales y tecnología divina. Y es terriblemente peligroso, y ahora se acerca a un punto de crisis en general”.

En otras palabras, la tecnología avanza demasiado rápido para que nuestros cerebros se mantengan al día y sepan cómo interactuar de manera saludable con ella, o para que nuestras instituciones la entiendan y la regulen sabiamente.

Wilson pronunció estas palabras en un debate en el Museo de Historia Natural de Harvard en 2009; es decir, antes de la adopción generalizada de plataformas como Instagram y Tiktok, o de tecnología como deepfakes, generadores de texto, CRISPR, y otras innovaciones que tienen el potencial de transformar a la humanidad (para bien o para mal).

Ahora tenemos algoritmos que pueden generar imágenes realistas basadas en texto, de cualquier cosa, desde puestas de sol en las montañas hasta edificios bombardeados en Ucrania. Tenemos GPT-3, que podría escribir un artículo convincente argumentando que las vacunas de ARNm no son seguras, citando hechos reales que simplemente se presentan fuera de contexto. “Esto es como una bomba de neutrones para la confianza en Internet”, dijo Harris. “Y la complejidad del mundo aumenta cada día”. Nuestra capacidad de respuesta, sin embargo, no está a la altura.

Problemas que en el pasado se habrían considerado separados (o que no existían en el pasado) ahora están estrechamente vinculados; considerar el impacto que la desinformación y medios sintéticos podría tener en la escalada nuclear (y el impacto que ya han tenido en las elecciones y la democracia), o la conexión entre inteligencia artificial y global riesgo financiero.

Nuestro pensamiento anterior sobre cómo administrar la tecnología no es lo suficientemente bueno frente a esta nueva complejidad; ¿Cómo manejamos temas como la privacidad o la libertad de expresión cuando hay múltiples actores involucrados, hay poca responsabilidad y la definición de cada uno de lo que es "correcto" es diferente? “La tecnología ha estado socavando la capacidad de sabiduría de la humanidad”, dijo Harris. “No solo individualmente, sino también nuestra capacidad colectiva para operar con la sabiduría que necesitamos”.

Sabiduría, dijo, significa conocer los límites de cómo realmente trabajamos, tener la autoconciencia y la humildad para investigar, y poder pensar en términos de sistemas y causas fundamentales. Harris hizo referencia al libro Pensando en sistemas por la científica ambiental Donella Meadows, en el que detalla 12 puntos de influencia para intervenir en un sistema, es decir, cambiar la forma en que funciona un sistema de su estado actual a otra cosa. En opinión de Harris, el punto más relevante de Meadows para la conversación tecnológica es el poder de trascender paradigmas.

Cada uno de los paradigmas de pensamiento en la industria de la tecnología que nos llevaron a donde estamos debe ser revisado por un enfoque centrado en el ser humano. En lugar de ignorar los daños de la tecnología afirmando que siempre hay costos y beneficios, debemos centrarnos en minimizar las externalidades dañinas. En lugar de dar a los usuarios lo que quieren, debemos respetar las debilidades y vulnerabilidades humanas (por ejemplo, la forma en que las plataformas de redes sociales explotan la respuesta de dopamina del cerebro). En lugar de maximizar la personalización para brindar a los usuarios una experiencia satisfactoria (también conocida como crear nuestras propias cámaras de eco pequeñas y únicas), debemos esforzarnos por crear una comprensión compartida.

La pregunta es, ¿cómo hacemos para que más personas pasen de ser usuarios típicos de las redes sociales y otras tecnologías a ser lo que Harris llama tecnólogos humanos?

Comienza con la sensibilización y la educación de nosotros mismos. Harris y su equipo en el Center for Humane Technology crearon un curso en línea llamado Foundations of Humane Technology, que lleva a los registrantes a través de seis principios centrados en valores que, si los priorizamos al diseñar nueva tecnología (o cambiar el diseño de la tecnología existente), pueden mejorar nuestra experiencia tanto individualmente como como una comunidad interconectada.

“Nos gustaría tener 100,000 tecnólogos humanos que estén capacitados en este nuevo paradigma”, dijo Harris. “Es difícil pensar en estas cosas cuando sientes que eres el único que hace estas preguntas”.

Estamos en un punto de inflexión en el que es crucial que quienes trabajan en tecnología ayuden a crear una comprensión compartida; el mundo no está a punto de volverse menos complejo o volátil. Por el contrario, Harris predice que nos dirigimos a un período de crecientes catástrofes globales alimentadas por el cambio climático, la desigualdad y los regímenes políticos inestables, entre otros factores.

Es mucho para asumir, incluso mucho para contemplar. Pero, dijo Harris, tiene esperanza porque ha visto que el sistema ha cambiado mucho más rápido que nunca en los últimos años. Personas de la industria de la tecnología han hablado sobre los riesgos y daños de los productos que ayudaron a crear, del ex ingeniero de YouTube. Guillermo Chaslot al cofundador de Facebook Chris Hughes al ex científico de datos de Facebook francis haugen, y muchos más. “Los tecnólogos en realidad se están despertando y diciendo: 'No quiero participar en la parte tóxica de la industria, quiero ayudar a construir una mejor parte'”, dijo Harris.

Volviendo a la cita de Wilson, Harris propuso lo siguiente: necesitamos abrazar nuestras emociones paleolíticas, actualizar nuestras instituciones medievales y tener la sabiduría para manejar nuestra tecnología divina. Necesitamos poder dar sentido al mundo y hacer que personas de diferentes lados se reúnan y acuerden las acciones que debemos tomar, y luego tomarlas. No debería haber lugar para modelos de negocios que dependan de dividir a las personas. “Necesitamos que todos trabajen para ayudarnos a cerrar esa brecha”, dijo Harris.

Crédito de la imagen: rodion kutsaev on Unsplash

¿Está buscando maneras de mantenerse a la vanguardia del ritmo del cambio? Repensar lo que es posible. Únase a una cohorte exclusiva y altamente seleccionada de 80 ejecutivos para el Programa Ejecutivo (EP) insignia de Singularity, un programa de transformación de liderazgo totalmente inmersivo de cinco días que revoluciona las formas de pensar existentes. Descubra una nueva mentalidad, un conjunto de herramientas y una red de compañeros futuristas comprometidos con encontrar soluciones al rápido ritmo de cambio en el mundo. ¡Haga clic aquí para aprender más y aplicar hoy!

Sello de tiempo: Marzo 14, 2022