"Robots tueurs": l’ONU et le CICR alertent sur une "ligne rouge morale" sur le point d’être franchie

L'ONU et la Croix-Rouge ont mis en garde mardi : le monde est "dangereusement proche" d'un avenir où des armes autonomes, les fameux "robots tueurs", pourraient prendre des humains pour cibles, et ont lancé un appel urgent à l'adoption de règles internationales.

Cet avertissement fait suite à un appel lancé en 2023 par le secrétaire général de l'ONU António Guterres et Mirjana Spoljaric Egger, présidente du Comité international de la Croix-Rouge, demandant aux États d'instaurer d'ici cette année des interdictions et restrictions spécifiques concernant cette technologie en plein essor.

"Aujourd'hui, nous réitérons cet appel avec une urgence encore plus grande", ont-ils déclaré dans un communiqué commun, en ajoutant que si leurs "préoccupations fondamentales restent inchangées... les risques se sont intensifiés". "Nous sommes désormais dangereusement proches de franchir une ligne rouge morale : le ciblage autonome d'êtres humains par des machines", ont-ils averti.

Les systèmes d'armes létales autonomes désignent généralement des systèmes capables de sélectionner des cibles et de faire usage de la force sans intervention humaine. Aucun usage avéré d'armes entièrement autonomes n'a été confirmé à ce jour.

Mais, alors que les tensions internationales s'envolent et que les conflits font rage au Moyen-Orient et en Ukraine, où la guerre des drones est devenue un élément central du champ de bataille, beaucoup redoutent que cela ne se produise bientôt.

Il n'existe pour l'heure aucun traité spécifique sur les armes autonomes ou rendues opérationnelles par l'intelligence artificielle.

"Les systèmes d'armes autonomes ne relèvent pas d'un futur lointain : une course vers une plus grande autonomie des systèmes d'armes est déjà bien engagée", ont déclaré Guterres et Spoljaric. "Les générations futures se demanderont si les dirigeants ont agi tant qu'il était encore possible de fixer des limites avant que ces armes ne se répandent hors de tout contrôle".

Ils ont souligné que les scientifiques et les ingénieurs impliqués dans le développement de ces systèmes avaient, dans de nombreux cas, eux-mêmes tiré la sonnette d'alarme. "Lorsque les architectes de cette technologie réclament des limites, les États ne peuvent se permettre de rester passifs", ont-ils affirmé.

Des discussions sont en cours depuis dix ans autour d'un éventuel futur traité visant à encadrer l'usage des armes autonomes.

Au terme de trois années de concertations, les États doivent décider en novembre s'ils lancent de véritables négociations en vue d'un traité.

Les dirigeants de l'ONU et de la Croix-Rouge ont appelé à faire preuve de "courage politique", en avertissant : "un manque d'action rapide et décisive coûtera des vies". Ils ont estimé qu'il était "urgent" de définir des règles claires, en martelant que "l'innovation doit servir l'humanité, et non la mettre en danger".