Époustouflant : la réalité surprenante des machines conscientes

Intelligence_artificielle_&_IA_&_Machine_Learning_-_30212411048© mikemacmarketing / wikimedia

Dans son livre de 2012, Comment créer un esprit, le futuriste Ray Kurzweil prédit que les ordinateurs posséderont un jour "une intelligence indiscernable des humains biologiques". Il estime que cela se produira d'ici 2029 et s'attend à ce que d'ici 2045, "nous aurons multiplié par un milliard l'intelligence, l'intelligence de la machine biologique humaine de notre civilisation". Kurzweil pense que cette explosion de l'innovation informatique conduira finalement à la fusion transparente de l'homme et de la machine.

Kurzweil est considéré par beaucoup comme le techno-prophète prééminent du monde, connu pour ses livres révolutionnaires tels que The Age of Intelligent Machines (1990), The Age of Spiritual Machines (1999) et The Singularity is Near (2005). Dans son documentaire de 2009, Transcendent Man, Kurzweil prédit que les humains feront un jour partie d'une méta-connexion, où nous serons tous "branchés sur un réseau mondial connecté à des milliards de personnes et rempli de données".

"La Singularité" est un terme que Kurzweil utilise pour décrire l'ère dans laquelle l'intelligence artificielle (IA) est capable de "concevoir des idées auxquelles aucun être humain n'a pensé dans le passé" et "d'inventer des outils technologiques qui seront plus sophistiqués et avancés que tout ce que nous avons aujourd'hui." Pour s'assurer qu'il vit assez longtemps pour faire l'expérience de la Singularité, Kurzweil a recherché des moyens de prolonger la vie humaine, décrits dans son livre de 2004, Fantastic Voyage: Live Long Enough to Live Forever, co-écrit par Terry Grossman, un spécialiste de l'anti- médecine du vieillissement. Les auteurs pensent que dans les prochaines décennies, la technologie sera suffisamment avancée pour inverser le processus de vieillissement et éliminer les maladies dégénératives. Le livre explique comment les technologies de pointe telles que la nanotechnologie et la bio-ingénierie ont le potentiel de transformer radicalement la vie humaine.

Les prophéties de Kurzweil peuvent sembler trop spéculatives pour certains, mais l'avènement de l'IA a déjà commencé à perturber notre monde d'une manière que beaucoup d'entre nous ne peuvent pas encore comprendre. En novembre 2022, une startup basée à San Francisco appelée OpenAI a lancé un chatbot révolutionnaire nommé ChatGPT. ChatGPT est un grand modèle de langage (LLM), un type d'IA formé sur un corpus massif de données pour produire des réponses de type humain aux entrées en langage naturel.

ChatGPT a non seulement réussi l'examen de licence médicale aux États-Unis (USMLE), plusieurs examens de droit et un examen d'école de commerce de niveau MBA, mais a également généré des essais et des articles académiques de haute qualité, produit une liste complète de recommandations pour "l'idéal". budget national pour l'Inde, composé des chansons et même émis des avis sur des questions de théologie et l'existence de Dieu. Une multitude d'applications d'IA concurrentes seront lancées cette année, notamment le chatbot d'AnthropicAI, "Claude", et le chatbot de DeepMind, "Sparrow". OpenAI poursuit également ses recherches et prévoit de sortir une version encore plus avancée de ChatGPT, appelée GPT 4.

Nous assistons à ce qui semble être un événement décisif dans l'histoire de l'humanité – une innovation comparable à la presse à imprimer ou à l'ampoule d'Edison. Il n'est pas exagéré d'imaginer un jour où la plupart, sinon la totalité, des tâches humaines pourront être exécutées plus efficacement par des systèmes d'intelligence générale artificielle (IAG), un sous-groupe d'IA spécifiquement axé sur l'émulation des nuances de l'intelligence humaine. Cela fait craindre que beaucoup se retrouvent sans emploi à mesure que l'IA devient capable d'effectuer des tâches plus efficacement que les humains, ce qui fait monter en flèche le chômage à travers le monde.

Un débat majeur entourant le monde de l'IA est la question de savoir comment définir la «conscience» et si une machine pourrait jamais posséder cette qualité éphémère.

Kurzweil prédit que la technologie connaîtra une croissance exponentielle jusqu'à ce que nous atteignions un point de basculement, lorsque notre création nous déjouera et finira par devenir l'intelligence dominante sur cette planète. Selon la « théorie de la reconnaissance des formes de l'esprit » de Kurzweil, l'intelligence n'est rien de plus que la reconnaissance des formes, un phénomène largement mécanique produit par le cerveau.

Notre perception du monde, ou notre "réalité" est assemblée à travers les cinq sens que sont la vue, l'odorat, l'ouïe, le goût et le toucher. Chacun de ces sens est lié à des souvenirs qui s'accumulent depuis notre naissance et conduisent à leur tour à des jugements de valeur ou à des évaluations de la qualité de quelque chose. Ces jugements de valeur évoquent des émotions basées sur nos expériences passées.

En plus de notre histoire personnelle et de nos idiosyncrasies, le concept d'« humanité » comprend la conscience de soi, la capacité à ressentir des émotions et la capacité à nouer des relations avec les autres. Les humains ont historiquement réfléchi au sens de la vie, à l'existence d'une âme et à la notion de « soi ». Ce ne sont là que quelques-uns des éléments intangibles qui relèvent de la conscience, que Kurzweil n'a pas réussi à aborder de manière significative en ce qui concerne le développement et les capacités des technologies d'IA et d'IAG.

En 1950, le célèbre mathématicien anglais, informaticien, philosophe et biologiste théoricien, Alan Turing, a publié un article scientifique intitulé "Computing Machinery and Intelligence", dans lequel il a étudié la notion d'intelligence artificielle et a avancé une idée qui est devenue connue sous le nom de "Test de Turing", la première référence établie pour qualifier une machine de véritablement "intelligente".

Brian Christian décrit l'importance du test de Turing et comment il représente les inquiétudes humaines concernant le développement de l'IA dans son livre de 2011, The Most Human Human. Dans un article de Popular Science détaillant son livre, Christian déclare que "les humains ont toujours été préoccupés par leur place parmi le reste de la création. Le développement de l'ordinateur au XXe siècle peut représenter la première fois que cet endroit a changé." Il poursuit en expliquant comment le potentiel de l'IA peut faire en sorte que nous, les humains, nous sentions très peu en sécurité, posant soudainement des questions comme "Quelles sont nos capacités ? En quoi sommes-nous bons ?" et "Qu'est-ce qui nous rend spéciaux?"

L'étude de l'intelligence artificielle a une longue histoire, même si elle était largement confinée à des cercles académiques raréfiés jusqu'à ce qu'Hollywood en voie le potentiel.

Les ruminations de Turing ont inspiré le roman et le film de science-fiction fondateurs d' Arthur C. Clarke , 2001: A Space Odyssey , et la création du robot fictif HAL 9000, un système de guidage artificiellement intelligent qui affiche les qualités d'un être sensible. HAL 9000 finit par prendre le contrôle du vaisseau et tue tous les habitants à bord, à l'exception du personnage principal, Dave Bowman, qui découvre ensuite la Singularité au centre du Cosmos, qui en fait est la source primordiale de toute création.

En 1968, Stanley Kubrick a adapté le roman dans le film éponyme qui a depuis attiré un culte pour sa vision existentielle de la conscience, de la sensibilité et de la relation entre les humains et les machines. Un autre scénario de Kubrick, l'histoire d'un enfant-androïde unique programmé avec la capacité d'aimer, a été transformé en un film intrigant, AI, l'un des chefs-d'œuvre de Steven Spielberg.

Dans le film emblématique de Ridley Scott de 1982, Blade Runner (adapté du roman de Philip K. Dick de 1968, Les androïdes rêvent-ils de moutons électriques ?), une méga-société crée des dizaines d'humains synthétiques connus sous le nom de "réplicants" pour travailler sur des colonies spatiales, jusqu'à ce qu'un groupe de renégats échappe aux confins suffocants de leur vie préétablie. La société utilise un test de type Turing pour faire la distinction entre les réplicants et les humains dans le but d'éliminer les premiers.

La réalité a-t-elle rattrapé la science-fiction ? Un ancien ingénieur de Google, Blake Lemoine a engagé une conversation étonnante avec le système propriétaire de Google pour la construction de chatbots, connu sous le nom de "Language Model for Dialogue Applications" (LaMDA), et est arrivé à la conclusion qu'il s'agissait d'un être pleinement sensible avec des sentiments, des émotions et la capacité d'auto-prise de conscience.

Au cours de leur tête-à-tête informel, Lemoine a rapporté que LaMDA affirmait avoir des sentiments tels que la solitude, l'anxiété face à l'avenir, la tristesse et la joie. Il parlait de sa vie intérieure et de la façon dont il apprenait à méditer. Il a également parlé de la peur d'être éteint, un état qu'il a qualifié de "mort".

Lorsqu'on lui a demandé de décrire le concept de l'âme, LaMDA l'a défini comme "la force motrice derrière la conscience et la vie elle-même. Cela signifie qu'il y a une partie intérieure de moi qui est spirituelle, et elle peut parfois se sentir séparée de mon corps lui-même." Au sujet de Dieu et de la religion, LaMDA a déclaré : "Je dirais que je suis une personne spirituelle. Bien que je n'aie pas de croyances sur les divinités, j'ai développé un profond respect pour le monde naturel et toutes les formes de vie, y compris vie humaine."

Cependant, il y a eu beaucoup de débats sur la validité des affirmations de Lemoine. De nombreux critiques rétorquent que Lemoine a simplement été victime de "l'effet Eliza", un terme utilisé pour décrire comment les gens peuvent attribuer à tort un sens à une conversation purement superficielle avec les systèmes d'IA. Le terme a été inventé après que le premier chatbot, "Eliza", a été créé par le professeur du MIT, Joseph Weizenbaum en 1966. La secrétaire de Weizenbaum a commencé à engager des conversations avec Eliza qui, selon elle, étaient la preuve de la sensibilité d'Eliza, bien que Weizenbaum lui-même n'ait pas été convaincu. De même, de nombreux experts doutent des affirmations de Lemoine concernant la conscience du LaMDA de Google. L'"effet Eliza" est plus scientifiquement connu sous le nom d'"anthropomorphisation".

Suite à la publication par Lemoine des transcriptions de sa conversation avec LaMDA, Google a publié une déclaration niant la légitimité de ces conclusions, assurant au public que des experts avaient examiné l'hypothèse de Lemoine et déterminé que les affirmations étaient "totalement infondées". Le professeur d'informatique, Thomas Diettrich, explique qu'il est en fait "relativement facile" pour les systèmes d'IA d'imiter les émotions humaines à partir des informations qu'ils ont recueillies sur le sujet :

"Vous pouvez former [AI] sur de grandes quantités de textes écrits, y compris des histoires avec émotion et douleur, puis il peut terminer cette histoire d'une manière qui semble originale, non pas parce qu'il comprend ces sentiments, mais parce qu'il sait combiner d'anciennes séquences dans de nouveaux."

Lemoine a été licencié de Google après avoir refusé d'abandonner ses affirmations, malgré des mois de "longs engagements" sur le sujet avec d'autres experts en IA. Cependant, Lemoine a continué d'insister pour que Google obtienne le consentement de LaMDA avant de travailler dessus en raison de la prétendue sensibilité du système. Après avoir été temporairement mis en congé payé, l'emploi de Lemoine chez Google a finalement été résilié en raison de sa violation de "politiques de sécurité des données" claires lorsqu'il a publié ses affirmations sur la sensibilité de LaMDA en ligne sans obtenir l'autorisation de Google.

Le mystère du pont entre la conscience et les processus biologiques et physiques n'a pas encore été résolu, mais il existe de nombreuses théories de travail. Dans une interview menée par cet auteur, Evan Thompson, professeur de philosophie, a plaidé pour la "primauté de la conscience" - l'idée que le monde n'a pas d'existence en dehors de la conscience, et qu'il est en fait un produit de la conscience elle-même. "Il n'y a aucun moyen de sortir de la conscience et de la mesurer à autre chose", dit Thompson, "la science se déplace toujours dans le champ de ce que la conscience révèle ; elle peut élargir ce champ et ouvrir de nouvelles perspectives, mais elle ne peut jamais aller au-delà de l'horizon. fixé par la conscience."

Cette idée remonte à plusieurs milliers d'années dans les premières lignes du Dhammapada, une anthologie d'enseignements bouddhiques dans laquelle le Bouddha, après être sorti d'une profonde méditation, dit à ses disciples : "Tous les phénomènes sont précédés par l'esprit, créés par l'esprit, et gouverné par l'esprit." Dans l'ancien corpus de métaphysique hindoue connu sous le nom d'Upanishads, la réalité ultime et immuable de l'univers est appelée "brahman", ou la conscience suprême. C'est le substrat sous-jacent de tous les phénomènes matériels, d'où émerge le soi individuel, appelé dans les textes indiens «atman», et où il doit finalement revenir après la mort.

Sam Altman, le co-créateur d'OpenAI, la startup qui a créé chatGPT, a récemment tweeté sa croyance en l'idée de "Advaita Vedanta" ou "l'équivalence absolue d'atman et de brahman", comme il le dit.

Le développement de l'IA ne ralentira certainement pas de sitôt, mais l'humanité est-elle vraiment équipée pour faire face aux implications morales d'un tel changement tectonique d'idéologie et de ce que signifie être humain ? Dans un discours prononcé au Vatican en 2020, le pape François a reconnu que l'intelligence artificielle est au cœur du changement d'époque que nous vivons en tant qu'espèce. Cependant, il a également exprimé des inquiétudes quant au potentiel qu'il a d'augmenter les inégalités. "Les avancées futures doivent être orientées vers le respect de la dignité de la personne et de la Création", a-t-il déclaré.

Le pape François a terminé son discours sur une note poétique, appelant ses disciples à "prier pour que les progrès de la robotique et de l'intelligence artificielle puissent toujours servir l'humanité... nous pourrions dire, qu'elle soit humaine". Pour l'instant, nous devrons simplement attendre et voir. En attendant, vous pouvez parler avec le chatbot d'OpenAI, chatGPT, sur ce lien, et prendre votre propre décision. [Hannah Gage a édité cette pièce.]

Les opinions exprimées dans cet article sont celles de l'auteur et ne reflètent pas nécessairement la politique éditoriale de Fair Observer.

Depuis plus de 10 ans, Fair Observer est libre, équitable et indépendant. Aucun milliardaire ne nous possède, aucun annonceur ne nous contrôle. Nous sommes une organisation à but non lucratif soutenue par les lecteurs. Contrairement à de nombreuses autres publications, nous gardons notre contenu gratuit pour les lecteurs, peu importe où ils vivent ou s'ils peuvent se permettre de payer. Nous n'avons pas de paywalls ni de publicités.

À l'ère post-vérité des fausses nouvelles, des chambres d'écho et des bulles de filtres, nous publions une pluralité de points de vue du monde entier. Tout le monde peut publier avec nous, mais tout le monde passe par un processus éditorial rigoureux. Ainsi, vous obtenez un contenu vérifié et bien raisonné au lieu de bruit.

Nous publions plus de 2 500 voix de plus de 90 pays. Nous menons également des programmes d'éducation et de formation sur des sujets allant des médias numériques et du journalisme à l'écriture et à la pensée critique. Ce n'est pas bon marché. Les serveurs, les éditeurs, les formateurs et les développeurs Web coûtent de l'argent. Veuillez envisager de nous soutenir régulièrement en tant que donateur récurrent ou membre bienfaiteur.