Edito. L’IApocalypse, mythe ou réalité ?
L’alerte de Jacob Coxon relance le débat sur les risques liés au développement de l’intelligence artificielle. Photo de fond : © JUSTIN SULLIVAN / GETTY IMAGES NORTH AMERICA / Getty Images via AFP
Une chose est sûre : le développement de l’IA ne connaîtra pas de ralentissement malgré tout le brouhaha déclenché à la suite des confidences alarmistes de cet ancien ingénieur de Google DeepMind qui a récemment mis en garde contre les dangers de l’IA, alors qu’un autre cadre d’OpenAI et d’Anthropic, Jacob Coxon, a démissionné pour dénoncer le manque de prudence des entreprises.
En effet, selon le Financial Times, le président américain vient de rejeter les appels à ralentir les géants du secteur pour un renforcement de la réglementation en la matière. « Nous pouvons mettre en place des garde-fous et nous pouvons faire ceci ou cela, mais je pense qu’il y a beaucoup de forces négatives qui soulèvent cette question », s’est défendu Donald Trump.
Cette position en faveur d’une « réglementation minimale » du secteur a bien été déclenchée par un développement effréné de l’IA. Le 12 septembre, les dirigeants de certains des principaux groupes américains ont appelé à une réflexion sérieuse sur le développement de l’IA.
Une course à l’IA qui ne ralentit pas
La mise en garde contre les conséquences apocalyptiques de cette technologie si elle venait à échapper à tout contrôle est aujourd’hui sous-tendue par la ferme conviction chez les experts de l’IA qu’elle pourrait tous nous tuer d’ici à la fin de la décennie.
D’où la question essentielle : est-ce qu’il faut prendre au sérieux ces inquiétudes ?
Si l’IA a réellement le potentiel de nous tuer tous, le danger n’est pas là puisqu’on imagine mal une intelligence artificielle qui n’a pas de sentiments et qui ne peut ressentir d’émotions, qui peut simuler l’empathie ou l’humour, donnant l’illusion d’une conscience, mais qui n’en a pas, une machine qui fonctionne par calculs mathématiques et statistiques, sans aucune intériorité, ou ressenti qui ne souffre pas, ne s’enthousiasme pas et ne connaît ni la joie ni la colère, se mettre en tête de tuer les personnes.
Le risque d’une intelligence artificielle hors de contrôle
Un drone fonctionnant à l’IA, construit par des personnes, programmé par un ingénieur pour tuer des personnes avec telle ou telle caractéristique peut faire des ravages comme l’a démontré le film Naza qui donne la parole à 24 membres anonymes des services de renseignement et de l’armée israélienne.
Ceux-ci affirment que les atouts technologiques de l’intelligence artificielle permettent de cartographier les bâtiments pour calculer à l’avance le nombre de civils risquant de périr lors des bombardements.
Mais par contre, on peut craindre qu’un jour, l’IA pourrait finir par contrôler le web, par exemple. Là, on pourrait parler d’IApocalypse tant internet est devenu incontournable dans les gestes quotidiens les plus banals.
On a donc le choix entre un outil technologique au service des hommes ou une intelligence artificielle (IA) qui fonctionnerait comme l’Antéchrist avec l’objectif d’un contrôle mondial précédé d’une perte de l’autonomie humaine.
Derrière la machine, l’humain
La numérisation globale, la traçabilité des individus et les réseaux interconnectés représentent un système qui peut donner l’illusion du contrôle, mais une emprise totalitaire sur les esprits ne peut provenir que d’une utilisation sans âme des outils technologiques.
En somme, derrière la machine, il y aura toujours un être « humain » qui a abdiqué son discernement moral pour appuyer sur le bouton.
> A lire aussi :
Portrait. Nourdine Bihmane, enfant d’ouvrier devenu patron de la tech
Immigration : l’IA testée pour alléger la gestion des contentieux
Transhumanisme : Frankenstein au Maroc
La médecine 4.0, révolution silencieuse du soin par le numérique
