L’ONU et le Comité international de la Croix-Rouge (CICR) tirent une nouvelle fois la sonnette d’alarme face au développement des armes autonomes, capables de sélectionner et d’engager des cibles avec une intervention humaine limitée, voire inexistante. À Genève, le secrétaire général des Nations unies, António Guterres, et la présidente du CICR, Mirjana Spoljaric Egger, ont appelé les États à agir rapidement avant que les progrès de l’intelligence artificielle ne rendent ces systèmes encore plus difficiles à contrôler.

Les deux organisations s’inquiètent particulièrement de deux catégories de systèmes. Il s’agit d’abord des armes dont les effets ne peuvent pas être suffisamment anticipés par les opérateurs humains, mais aussi de celles conçues pour permettre à une machine de sélectionner et d’attaquer directement des personnes. Pour l’ONU et le CICR, laisser une machine prendre seule une décision ayant des conséquences irréversibles sur la vie humaine soulève des questions majeures au regard du droit international humanitaire.

Le développement rapide de l’intelligence artificielle et la multiplication des drones autonomes accélèrent cette évolution. De plus en plus d’armées cherchent à intégrer des capacités de détection, de reconnaissance et de décision automatisées à leurs systèmes militaires. Cette évolution pourrait permettre à certaines armes d’agir beaucoup plus rapidement qu’un être humain, tout en réduisant le temps disponible pour intervenir et empêcher une erreur.

António Guterres estime que le monde se rapproche ainsi dangereusement d’une « ligne rouge morale », celle du ciblage autonome des êtres humains par des machines. Le secrétaire général de l’ONU appelle donc les gouvernements à établir des limites claires afin de garantir qu’une décision humaine demeure au cœur de toute utilisation de la force létale.

Un rendez-vous majeur se profile en novembre à Genève, avec la 7ᵉ Conférence d’examen de la Convention sur certaines armes classiques. L’ONU et le CICR espèrent que cette rencontre permettra enfin aux États d’engager des négociations sur un instrument juridiquement contraignant. L’objectif est notamment de déterminer quelles armes autonomes devraient être interdites et quelles autres pourraient être autorisées sous des conditions strictes.

En 2023, les deux organisations avaient déjà demandé aux États de parvenir à de nouvelles règles internationales sur ces technologies d’ici 2026. Cette échéance arrive désormais sans qu’un accord contraignant ait été conclu. Pour l’ONU et le CICR, la réunion de novembre pourrait donc constituer une étape décisive pour empêcher que les progrès de l’IA militaire ne conduisent à une situation où des machines seraient capables de décider seules qui doit vivre ou mourir sur un champ de bataille.

A voir également sur Kessiya