L’éthique au coeur de l’intelligence artificielle et de nos vies

Au XVIe siècle, Rabelais soulignait l’importance de guider l’usage de la science par des considérations éthiques, afin de préserver l’intégrité et le bien-être de l’individu et de la société dans son ensemble.
A travers cet article rédigé par Abdelkrim Talahoui, directeur en charge d’Octopeek x Mazars Data services industrial project, nous vous proposons de prolonger le débat sur le thème de l’intelligence artificiel et de l’éthique.

L’intelligence artificielle pourrait être la pire ou la meilleure chose qui soit jamais arrivée à l’humanité”…
En 2020, cette déclaration du célèbre astrophysicien Stephen Hawking nous préoccupait avec les collègues Octopeek car nous comprenions depuis longtemps que l’intelligence artificielle était déjà omniprésente dans notre quotidien. De nos jours, grâce aux outils de génération d’intelligence artificielle (ia), le grand public prend véritablement conscience de la puissance de ces technologies.

Des solutions comme chatgpt nous sensibilise à l’intelligence artificielle. Celles-ci permettent d’éveiller la population sur ce domaine. Toutes les personnes qui se sont amusés avec des IA génératives ont pris conscience que l’IA est déjà au cœur de nos vies. Ne manquons pas cette occasion unique de réfléchir au cadre qui nous permettra d’en faire la meilleure chose qui soit jamais arrivée à l’humanité.

Les crises successives, qu’elles soient sanitaires, guerrières, économiques, géopolitiques ou climatiques, sont des facteurs qui accélèrent de manière exponentielle le développement de l’intelligence artificielle dans notre vie quotidienne. Les spécialistes prédisaient que l’intelligence artificielle transformerait la société telle que nous la connaissons dans les 50 années à venir. Cependant, ces crises modifient la donne et accélèrent cette métamorphose, ce qui pourrait se produire dans un laps de temps aussi court que 15 ans.

Pour anticiper et accompagner cette transformation, je vous invite à réfléchir avec moi sur le sujet de l’intelligence artificielle et ses répercussions. L’objectif est de développer une conscience collective du potentiel exceptionnel de ce domaine informatique, en accordant une attention particulière à l’éthique qui le guide.

La prise de conscience des crises évoquées plus haut met en lumière comme jamais toute la puissance que l’intelligence artificielle peut mettre au service du bien public. Un algorithme avait alerté les autorités sanitaires internationales contre la menace du covid19 plusieurs jours avant les premières annonces publiques. De nombreux établissements de santé et chercheurs s’appuient sur l’intelligence artificielle pour aider au diagnostic, identifier des médicaments et compiler les résultats des milliers de pages de recherches déjà écrites sur le sujet.

Qu’il s’agisse de santé, d’éducation, d’emploi ou de sécurité, les solutions basées sur l’intelligence artificielle se multiplient dans tous les aspects de notre vie quotidienne. Les pays misent sur l’IA afin d’en faire un des moteurs majeurs de leur croissance nationale.

En Chine, des véhicules autonomes sillonnent les rues pour observer les piétons, les identifier grâce à la reconnaissance faciale et prendre leur température. Dans les entreprises, des chatbots ont pris le relais des services clients. Dans l’industrie, des machines autonomes se sont substituées aux humains pour assurer la logistique, des livraisons, etc. L’accélération est en marche et des innovations attendues dans une cinquantaine d’années pourraient émerger dans les quinze ans à venir.

L’engouement actuel met en évidence l’urgence de s’engager dans ces questions, non seulement d’un point de vue utilitaire, mais aussi éthique. À ce titre, la géopolitique de l’intelligence artificielle est aussi une affaire de gros sous. Alors quelles garanties attendre en termes de protection des données et de souveraineté numérique quand nos données sont principalement hébergées par les géants de la Siliconvalley que sont Microsoft, Google ou Amazon. En 2022, avec Oracle, cela ne les pas empêché de signer un faramineux contrat avec le Pentagone de 9 milliards de dollars pour mettre en place une infrastructure. (1)

Alphabet (conglomérat des sociétés détenus par Google ) a peut-être renoncé à collaborer avec le Pentagone sur le projet Maven — un système de surveillance qui avait fait naître des protestations parmi ses propres ingénieurs —, mais cela ne l’a pas empêché de créer peu après Google Public Service, une entité qui, derrière son nom innocent, fournit à l’armée des services d’informatique en nuage (cloud). (2) De plus, Alex Karp, l’un des fondateurs de Palantir , déclarait dans la presse que les géants de la Silicon Valley n’ont pas à se préoccuper de la morale ni à s’opposer aux ordres du gouvernement ?

On le voit bien parmi ces quelques exemples, sans éthique, sans explication les dangers de l’intelligence artificielle sont réels : manipulation politique, disparition de la vie privée, prolifération du deep fake, discrimination algorithmique, voire transformation de l’homme tel que nous le connaissons aujourd’hui. Sujet à controverse, l’homme augmenté existe déjà, comme l’illustre l’utilisation de prothèses bioniques, d’implants médicaux ou de casques de réalité virtuelle. Depuis toujours, l’homme a eu le désir de se dépasser mais les développements de l’intelligence artificielle vont lui offrir des possibilités qui pourraient bouleverser la société et d’individu.
Et si la médecine de demain nous permettait de vaincre toutes les maladies et le vieillissement ? Et quels défis poserait un monde où l’homme pourrait télécharger sa conscience dans le cloud ?

Toutes ces questions n’appellent pas une réponse simple. Elles exigent de mener une réflexion avec les professionnels du secteur, mais aussi des universitaires, des chercheurs, des neuro-scientifiques, des éthiciens, des philosophes, des juristes, etc. Rabelais disait en son temps « science sans conscience n’est que ruine de l’âme ».
L’idée que la science et la connaissance sans une conscience morale et éthique appropriée pouvant causer des dommages et des conséquences néfastes pour l’individu et la société n’est donc pas nouvelle.
C’est pourquoi je vous propose d’alimenter un cercle de réflexion dédié à l’intelligence artificielle nous permettant de souligner l’importance de l’éthique, de la responsabilité dans l’utilisation et l’application de la connaissance scientifique. Tout en décrivant et en expliquant les enjeux qui se cachent derrière l’IA.

(1) & (2) Evgeny Morozov, Une guerre froide 2.0, Le monde diplomatique, mai 2023