[Mise à jour #92]
Le 25 août, l’ONU et le Comité international de la Croix-Rouge ont lancé un appel commun d’une gravité inhabituelle, avertissant que le monde est “dangereusement proche de franchir une ligne rouge morale” sur la question du ciblage de vies humaines par des systèmes automatisés. Pas de robot humanoïde à l’horizon, pourtant. Le vrai sujet est plus discret, et c’est précisément ce qui le rend préoccupant : des drones et des systèmes de ciblage pilotés par intelligence artificielle, où la question n’est pas de savoir si une machine va se rebeller, mais si un humain garde encore un vrai droit de regard avant qu’un coup ne parte.
Ce qui inquiète vraiment, et ce qui n’est pas (encore) arrivé
Il faut être précis sur ce point, parce que la nuance change tout : à la connaissance des experts cités dans la presse, aucune arme totalement autonome n’a, à ce jour, choisi et frappé seule une cible humaine de façon avérée. Ce qui inquiète l’ONU et le CICR, ce sont des rapports non confirmés de drones entièrement autonomes guidés par IA déjà présents sur certains champs de bataille, ainsi que la vitesse à laquelle la technologie se rapproche de ce seuil. Laurent Gisel, qui dirige l’unité armes du CICR, résume la situation : ces systèmes équipent déjà des zones de conflit bien au-delà du strict cadre militaire, ce qui fait grimper mécaniquement le risque pour les populations civiles — pas parce qu’une machine “décide” de tuer au sens dramatique du terme, mais parce que la marge d’erreur et l’absence de jugement humain nuancé pèsent différemment quand un algorithme identifie une cible.
Un appel qui n’est pas une première, et qui arrive après un échec
Ce nouvel appel n’est pas inédit. En 2023, Guterres et la présidente du CICR Mirjana Spoljaric Egger avaient déjà demandé aux États d’interdire ces systèmes d’ici la fin de l’année 2026. Cette échéance arrive donc à son terme cette année même, sans qu’aucune interdiction contraignante n’ait été adoptée — un échec silencieux, sans grand titre ni scandale, qui explique le ton plus pressant de cette nouvelle déclaration. Les deux responsables constatent que la technologie progresse aujourd’hui plus vite que les règles censées l’encadrer, un décalage qui s’accentue à mesure que ces outils gagnent en sophistication sur le terrain. Fait notable qu’ils soulignent eux-mêmes : ce sont en partie les scientifiques et ingénieurs qui conçoivent ces technologies qui réclament aujourd’hui des limites — un signal rare venant du cœur même de l’industrie plutôt que de ses seuls détracteurs extérieurs.
Le processus diplomatique en cours, et sa fragilité
Il existe bien un cadre censé traiter ce dossier. Depuis trois ans, un groupe d’experts désignés par les gouvernements planche, dans le cadre de la Convention sur certaines armes classiques, sur les contours possibles d’une réglementation internationale. Ce travail touche justement à sa fin ces jours-ci, sans qu’on sache encore s’il débouchera sur un texte que tous les participants seraient prêts à approuver. La véritable bascule n’aura lieu qu’en novembre : lors de la conférence d’examen de cette convention, les pays membres trancheront la question de fond, celle de savoir s’il faut désormais ouvrir de vraies négociations en vue d’un texte contraignant, ou continuer à en débattre sans engagement ferme. Rien ne garantit à ce stade que cette étape aboutira à davantage que la précédente.
Pourquoi ce sujet reste largement invisible du grand public
Ce dossier souffre d’un problème d’image : il n’offre aucune scène spectaculaire à montrer, contrairement à l’idée d’un robot humanoïde en rébellion. Ce sont des lignes de code intégrées à des systèmes d’armes déjà existants — drones, munitions rôdeuses, systèmes de ciblage — qui évoluent progressivement vers plus d’autonomie décisionnelle, sans moment de bascule identifiable. C’est précisément cette absence de rupture visible qui rend le sujet difficile à traiter dans le débat public, et qui explique pourquoi un appel aussi grave que celui du 25 août risque de passer largement inaperçu
Ce qu’il faut retenir
Le vrai risque documenté aujourd’hui n’est pas celui d’une machine qui se retourne contre l’humanité de façon spectaculaire, mais celui d’un recul progressif et presque invisible du contrôle humain sur les décisions de vie ou de mort, un déploiement à la fois. L’échec silencieux de l’échéance fixée en 2023 illustre bien la difficulté du problème : obtenir des règles contraignantes suppose que les grandes puissances militaires acceptent de se lier les mains sur une technologie qu’elles continuent, dans le même temps, de développer activement.
La ligne rouge évoquée par l’ONU et le CICR n’a rien d’une frontière binaire qu’on franchirait un jour précis, façon scénario de film. C’est plutôt une pente qu’on descend progressivement, où chaque nouveau système un peu plus autonome rend le suivant plus facile à justifier. Le rendez-vous de novembre, lors de la conférence d’examen, dira si les États sont prêts à ralentir cette pente — ou s’ils préfèrent continuer à en discuter sans jamais vraiment trancher.
Sources : ONU Info, “Armes autonomes : l’ONU et la Croix-Rouge appellent à agir avant qu’il ne soit trop tard” — Boursorama (AFP), “Des machines ‘imprévisibles’ qui décident de tuer : l’ONU sonne l’alerte face au vertige des armes autonomes” — Le Temps, “‘Robots tueurs’ : l’ONU et le CICR alertent sur une ‘ligne rouge morale’ sur le point d’être franchie” — 20 minutes, “Des machines pour tuer des humains : la menace qui inquiète” — L’essentiel, “Armes autonomes : l’ONU et le CICR alertent contre une ‘ligne rouge morale’” — La Libre (Belga), “Armes autonomes : l’ONU et le CICR alertent sur le risque de ‘franchir une ligne rouge’” — Le Devoir, “Avec les armes autonomes, dont celles intégrant l’IA, nous pourrions ‘franchir une ligne rouge morale’, craignent l’ONU et la Croix-Rouge” — Pitas, “Armes autonomes : l’ONU et la Croix-Rouge réclament des règles internationales”
Level 50, la mise à jour pour rester connecté.