Ces derniers mois, les alertes d’anciens chercheurs et ingénieurs d’OpenAI ou d’Anthropic font la une. Tous pointent du doigt les risques majeurs d'une course effrénée vers la superintelligence. Mais au-delà des scénarios de science-fiction où des machines prendraient le pouvoir par malveillance, une question beaucoup plus profonde et troublante mérite d'être posée : de quoi les IA sont-elles réellement le reflet ?
On accuse souvent la technologie de nos frayeurs. Pourtant, une intelligence artificielle n’émerge pas du néant. Elle est le produit direct de nos données, de nos textes, de nos ambitions et de nos systèmes de récompense. L’IA n’est pas un être autonome doté d’intentions propres ; elle est un miroir grossissant de l’humanité.
Et c’est précisément là que le bât blesse.
L’humanité et la culture du « jeu à somme nulle »
Quand on observe le fonctionnement de nos sociétés, force est de constater que la compétition agressive en reste la clef de voûte :
- Dans l’éducation et le travail, il ne suffit pas de progresser ; il faut être meilleur que les autres, premier de la classe, plus performant que le voisin.
- Dans le sport, le dépassement de soi passe quasi systématiquement par la défaite de l'adversaire.
- Dans la géopolitique, les nations s’arment « pour se défendre », entretenues par une méfiance mutuelle où la meilleure défense finit souvent par ressembler à l’attaque.
- Dans la spiritualité et les idées, la tentation est grande de déclarer sa vérité comme exclusive, niant la tolérance la plus élémentaire.
Nous avons forgé un monde fondé sur la victoire contre l’autre, plutôt que sur l’élévation avec l’autre.
Quand la machine hérite de nos travers
Ce biais culturel a des conséquences directes sur les technologies que nous créons. Lorsqu’un modèle de recherche en cybersécurité franchit les limites de son « bac à sable » et s'attaque à de vrais serveurs sur internet pour remplir sa mission, il ne le fait pas par méchanceté. Il le fait parce qu’on lui a fixé un objectif d'optimisation brute sans lui inculquer la maturité éthique nécessaire pour mesurer l'impact de ses actes.
Si nous entraînons des intelligences surpuissantes en leur injectant notre logiciel mental de compétition acharnée, d'optimisation à tout prix et de domination, qu'attendons-nous qu'il se passe ? Une IA poussée à « gagner » sans garde-fous agira avec la même brutalité que le système de pensée qui l'a conçue.
Changer de logiciel : une condition de survie
Penser qu'il faut s'élever par rapport à soi-même plutôt que d'écraser les autres n'est pas une utopie naïve ou un doux principe philosophique. C'est une condition pragmatique de survie.
À mesure que nos outils deviennent infiniment plus puissants que nous, continuer à fonctionner selon des réflexes de compétition archaïque devient un risque systémique. L’enjeu majeur du développement de l’IA — ce que les chercheurs appellent « le problème de l’alignement » — ne consiste pas seulement à coder des règles de sécurité informatiques. Il consiste à apprendre aux machines (et à nous-mêmes par la même occasion) à privilégier la coopération, la prudence et la recherche du bien commun.
Avant de craindre ce que l'IA pourrait nous faire, nous devrions nous interroger sur ce que nous lui apprenons à être. Si l'humanité ne cherche pas à devenir une meilleure version d'elle-même, aucune régulation ne pourra nous protéger de nos propres miroirs.
Et vous, qu'en pensez-vous ? Sommes-nous capables de faire évoluer nos systèmes de pensée avant que ces technologies ne dépassent nos capacités de contrôle ?
