L’intelligence artificielle : rester éveillés

Reconnaissance faciale dans l’espace public, assistants vocaux, moteurs de recherche, traduction automatique, outils de génération d’images, etc. Si cela fait intégralement partie de notre vie quotidienne, l’intelligence artificielle (IA) a pénétré sans faire de bruit toutes les sphères de la société. L’IA est un ensemble de techniques qui visent à réaliser des machines simulant l’intelligence humaine. Pour les citoyens et consommateurs que nous sommes, les avantages de cette intelligence artificielle sont nombreux et souvent cachés. Parmi ceux-là, on peut reconnaître que la logistique des chaînes d’approvisionnement est optimisée, la production et la gestion des stocks plus efficaces, la livraison des produits est rapide, certaines tâches administratives sont automatisées et optimisées, la sécurité en ligne est améliorée, les tentatives d’hameçonnage peuvent être détectées, les produits et services peuvent être personnalisés. Ces cerveaux numériques qui produisent tous ces résultats donnent cependant le vertige face à l’immensité offerte par l’intelligence artificielle.

Des défis multiples
Les progrès de la technologie, source d’enthousiasme, seraient à regarder comme un « chemin vers la paix », selon les souhaits du pape François dans son message du 1er janvier 2024 pour la 57e Journée mondiale de la Paix. Ainsi, l’intelligence artificielle rend accessible un immense patrimoine de connaissances, elle facilite l’échange d’informations, de données, entre les peuples, les générations. Les capacités cognitives de l’être humain sont reproduites par la machine, qui, bien qu’intelligente, reste toujours une machine. Pour ne pas être assujetti à la technique, le pape François assure qu’« il ne faut pas permettre aux algorithmes de déterminer la manière dont nous entendons les droits humains, de mettre de côté les valeurs essentielles de compassion, de miséricorde et de pardon, ou d’éliminer la possibilité qu’un individu change et laisse derrière lui le passé ».
Les défis que l’intelligence artificielle pose sont techniques mais également anthropologiques, éducatifs ou sociaux. Par exemple, en interrogeant le système d’intelligence artificielle Chat-GPT sur les soucis ecclésiaux posés par l’IA, voici ce que l’on peut lire : « Il peut y avoir des discussions sur la façon dont l’IA affecte la communauté et la pratique religieuse, par exemple, en permettant de nouvelles formes de communication ou de méditation, mais aussi en soulevant des questions sur la place de l’Homme dans la création divine ». Les milliards de données brassées permettent donc de produire instantanément un texte censé et cohérent, ou encore de peindre une image ou composer de la musique. De quel poids souhaite-t-on se libérer en déléguant notre pensée et nos actions à un dispositif technique ?

Risques et limites
Dans son message pour la 58e Journée mondiale des communications sociales (24 janvier 2024), consacré à l’intelligence artificielle, le pape François a dessiné un double horizon : « D’un côté se profile le spectre d’un nouvel esclavage, de l’autre une conquête de liberté ; d’un côté, la possibilité que quelques-uns conditionnent la pensée de tous ; de l’autre, la possibilité que tous participent à l’élaboration de la pensée ». Si notre pensée est entièrement externalisée et par conséquent anonyme, l’altération de la réalité deviendra une certitude. « La simulation, qui est à la base de ces programmes (…) devient perverse lorsqu’elle fausse le rapport à l’autre et à la réalité », précise le pontife. Utiliser l’IA répond à un désir de puissance qui relève de l’illusion et non de la réalité. C’est cette mise en garde que le Pape a souhaité donner aux communicants en affirmant qu’il fallait « réveiller l’homme de l’hypnose dans laquelle il tombe du fait de son délire de toute puissance, se croyant un sujet totalement autonome et auto-
référentiel ».

Rester pleinement humain
« C’est à l’homme de décider s’il veut devenir la nourriture des algorithmes ou nourrir son cœur de liberté », poursuit le Saint-Père à qui il ne pourra être reproché de ne pas s’être exprimé clairement sur l’importance d’encadrer l’intelligence artificielle. En fonction de la qualité des données utilisées donnant naissance à des algorithmes, les systèmes de l’intelligence artificielle peuvent être biaisés. De l’algorithme, le pape François avait inventé en 2019 le mot « algor-éthique » pour alerter sur le manque d’éthique circulant dans cette technologie. Nos cœurs oscillent entre l’enthousiasme d’une technique de pointe et la désorientation d’une humanité qui s’appauvrit face à ce manque de réflexion. Les machines travaillent et prennent des décisions à notre place, elles répondent à nos questions et apprennent de nos réponses, elles peuvent aussi parler avec la voix et les expressions de personnes décédées. Les préoccupations liées à la protection de la vie privée, à l’éthique et à la sécurité des données sont bien actuelles et n’ont pas encore de réponses convaincantes. En recherchant des informations sur les navigateurs, nous ne sommes généralement pas conscients des filtres qui conditionnent les résultats. À force de vouloir être connectés constamment et instantanément avec les données et ressources du monde, le risque réel est de s’isoler derrière des écrans et des informations partielles qui nous cloisonnent. L’Homme doit rester vigilant face à la fascination numérique.