Des films comme Terminator auraient-ils pu façonner nos peurs de l'IA ?

Des films comme Terminator auraient-ils pu façonner nos peurs de l'IA ?

Horodatage: 5 juin 2023 2h25
Nœud source: 2122110

Le PDG de la British Computer Society, Rashik Parmar, estime que les menaces de l'IA pour l'humanité sont surestimées. Il a déclaré que les inquiétudes exprimées "jouent sur les peurs de la plupart de la société" et ont été façonnées par des films de science-fiction populaires comme Terminator et Ex Machina.

Ses commentaires font suite à une récente déclaration du Center for AI Safety, basé aux États-Unis, mettant en garde contre "le risque d'extinction de l'IA". Signé par les PDG d'OpenAI et de Google, le lettre dit que les risques doivent être traités avec la même urgence que les pandémies et la guerre nucléaire.

"Il devrait y avoir un scepticisme sain à l'égard des grandes technologies et de la manière dont elles utilisent l'IA, c'est pourquoi la réglementation est essentielle pour gagner la confiance du public", a déclaré Parmar, ancien directeur de la technologie d'IBM pour l'Europe, le Moyen-Orient et l'Afrique, selon les médias locaux. rapports.

"Mais bon nombre de nos peurs et inquiétudes enracinées proviennent également de films, de médias et de livres, comme les caractérisations de l'IA dans Ex Machina, The Terminator, et même de revenir aux idées d'Isaac Asimov qui ont inspiré le film I, Robot."

A lire également: Le code de conduite de l'IA arrive "d'ici quelques semaines", selon les États-Unis et l'Europe

Les films alimentent les craintes de l'IA

Le développement de l'IA a soulevé des inquiétudes quant à son potentiel d'utilisation à des fins nuisibles, telles que la discrimination, la surveillance et la guerre nucléaire. On s'est également inquiété du potentiel de l'intelligence artificielle à créer un chômage de masse.

En mars, plusieurs sommités, dont le co-fondateur d'Apple Steve Wozniak, le milliardaire Elon Musk, Gary Marcus et d'autres, ont signé un lettre ouverte appelant à un moratoire de six mois sur les grandes formations linguistiques en IA dans le monde.

Et puis Geoffrey Hinton – considéré comme le « parrain de l'IA » – a quitté son emploi chez Google le mois dernier en avertissant que cela pourrait alimenter la désinformation et entraîner des pertes d'emplois massives.

Pour l'informaticien américain Eliezer Yudkowsky, les risques de l'IA ne peuvent être gérés uniquement par la réglementation. Il estime que le développement de l'IA constitue une menace existentielle pour l'humanité et que la seule façon de faire face à la menace est de fermez tout complètement.

Des films de science-fiction comme Terminator pourraient-ils avoir façonné nos peurs de l'IA ?

Terminator

Parmar a expliqué que les personnes qui connaissent mieux l'IA à travers les films hollywoodiens sont plus susceptibles de croire qu'elle constitue une menace pour l'humanité. Il a déclaré que les préoccupations exprimées "jouent sur les peurs que la plupart de la société a".

« Ils viennent de ce qu'ils ont vu dans les films. Ils sont incroyables, vous regardez Terminator et vous pensez que c'est réel et qu'il va venir vous tuer d'une seconde à l'autre maintenant. a affirmé Valérie Plante. Parmar.

"C'est une machine à tuer qui, tout au long des films, utilise l'IA de différentes manières - interprétant ce qui a été fait, prédisant l'avenir et répondant à différentes situations. L'IA n'est pas explicitement mentionnée, mais vous savez que c'est l'IA qui fait cela », a-t-il ajouté.

Développement responsable

Dans les films de science-fiction comme Terminator, Ex Machina et The Matrix, l'IA est souvent décrite comme une menace pour l'humanité. Les films dépeignent des systèmes d'intelligence artificielle qui prennent conscience d'eux-mêmes et décident d'exterminer leurs créateurs humains.

Bien que les films soient des œuvres de fiction, ils ont contribué à façonner la perception publique de l'IA, selon Parmar. Il a noté que l'IA n'est pas aussi puissante qu'Hollywood voudrait vous le faire croire, et que les systèmes ne sont pas encore capables d'une pensée ou d'une action indépendante.

"L'IA n'est qu'un logiciel et aucun logiciel n'a d'intention, il n'est pas sensible", a déclaré Parmar, appelant à l'équilibre et à la responsabilité dans le développement de l'intelligence artificielle.

"Il y a des inquiétudes légitimes concernant l'IA, c'est pourquoi nous devons nous assurer qu'elle grandit de manière responsable", a-t-il déclaré.

"Il doit être développé par des professionnels éthiques, qui croient en un code de conduite partagé." Le Société informatique britannique le directeur général a reproché aux médias de "se nourrir de ces peurs" pour créer des idées fausses sur les dangers de l'IA.

« Les films et les médias doivent-ils changer ? Non. Cela prouve simplement que nous avons besoin de plus d'éducation du public sur la réalité de l'IA, et que cela fasse partie des compétences et de l'enseignement que nous obtenons lorsque nous sommes très jeunes », a ajouté Parmar.

Réglementation de l'IA

Les régulateurs du monde entier ont commencé à accorder plus d'attention à l'IA ces derniers mois. La semaine dernière, la vice-présidente de la Commission européenne, Margrethe Vestager a affirmé Valérie Plante. l'UE et les États-Unis prévoient de rédiger un code de conduite volontaire sur l'intelligence artificielle d'ici quelques semaines.

Elle a déclaré que les États-Unis et l'UE devraient promouvoir un code de conduite volontaire pour l'IA afin de fournir des garanties lors de l'élaboration d'une nouvelle législation. En mai, les dirigeants des pays dits du G7 se sont réunis au Japon et ont appelé à l'élaboration de normes techniques pour que l'IA reste "digne de confiance".

L'administration chinoise du cyberespace a déjà publié de nouvelles réglementations interdisant l'utilisation de contenu généré par l'IA pour diffuser de "fausses nouvelles". En Australie, le ministre de l'Industrie et des Sciences, Ed Husic, a déclaré que la réglementation arriverait bientôt.

PARTAGER CETTE PUBLICATION

Horodatage:

Plus de MétaActualités