Quelles pistes pour réglementer l’usage des systèmes d’armes létales autonomes (ou robots tueurs) ?

Bernard Merck

Jusqu’où peut-on déléguer aux machines des décisions qui engagent la vie humaine ?

V5 – BM Novembre 2026

Préambule

Mon modeste essai sur « Les Robots Tueurs, Notre humanité en péril » date de presque deux années[1]. A l’époque, naïvement, je croyais possible, quoique difficile, à la mise en place d’une régulation internationale concernant l’utilisation de drones létaux. Si je percevais bien les tendances qui se dessinaient, je n’ai pas imaginé la vitesse de leur développement et de leur déploiement sur le terrain, rendant difficile un retour en arrière. Quelles options reste-t-il aujourd’hui ?

Le recours croissant aux drones pose la question des conditions de leur utilisation, question d’autant plus prégnante, que la tendance est d’utiliser des Intelligences Artificielles tout au long du processus de mise en œuvre. Aussi parle-t-on de Système d’Armes Létales Autonomes (SALA).

Les enseignements du conflit russo-ukrainien attestent de l’utilisation massive de drones de la part des deux belligérants^[2] et leur impact létal sur le terrain. Selon plusieurs articles, les drones seraient responsables des trois quarts des pertes humaines de part et d’autre.

Toutes les armées du monde – et leur appareil militaro industriel – scrutent avec attention ce qui se passe en Ukraine y compris les pays déjà avancés dans ce domaine (Chine, Iran, Israël, Russie, Turquie, USA), les uns se focalisant sur les conditions d’emploi en situation de conflit, les autres voulant maîtriser la technologie pour moderniser leur appareil militaire.

Quelles pistes pour réglementer l’usage des systèmes d’armes létales autonomes (ou robots tueurs) ?

Qu’entend-t-on par systèmes d’armes autonomes ?

C’est un automate militaire, capable de mener une action létale de manière automatisée sans interventions humaines. Il peut s’agir d’un engin pouvant se déplacer (comme un drone) ou d’un système fixe (comme le Samsung SGR-A1 sud-coréen[3]).

Etymologiquement, autonome signifie « régi par ses propres lois ». Cet adjectif pose la question de l’obéissance des robots, en particulier au regard de la continuité de la chaîne de commandement.

Pour être véritablement « autonome », un système doit être capable, pour atteindre ses objectifs, de faire ses propres choix, basés sur sa programmation fine de la mission qui lui est donnée et de la situation dans laquelle il se trouvera, parmi différentes options prédéfinies, ou imaginées en cas de recours à une IA. Les SALAs peuvent être définis comme des systèmes, qui une fois activés, sont en mesure d’accrocher une cible et d’user de leur force létale, sans supervision d’un opérateur humain.

Très tôt un débat s’est engagé sur la différence entre systèmes autonomes et systèmes automatisés, en fonction du degré de latitude laissé à la machine. Tant qu’il s’agissait de programmation classique, c’était clair : les systèmes étaient automatisés. On pouvait étudier leur code de programmation, évaluer leur sécurité et l’éthique de leur mise en oeuvre. Les mêmes causes généraient les mêmes effets, encore que les capteurs pussent générer de fausses informations. Tout dépendait de la programmation (code) et de la fiabilité des capteurs, mais un audit du système était possible.

Avec l’irruption de l’IA, le processus de décision ne peut plus être audité, les mêmes situations peuvent produire des effets différents. Pire, les capteurs font eux-mêmes appel à de l’IA. Le processus de décision ne peut être apprécié qu’à posteriori à l’aune de batteries d’expérimentations dûment documentées. D’où un vaste débat au niveau mondial pour savoir si l’on doit interdire ou réglementer les SALAs. Ce débat rentre dans un autre, plus large et antérieur, sur la place des machines dans notre univers, et les risques qu’ils génèrent. La difficulté sur le sujet des SALAs, est que nous n’avons connaissance ni de leurs capacités réelles, ni de l’état de la recherche. Leur utilisation dans les conflits actuels donne lieu à des communiqués, dont les contenus sont sujets à caution.

Un SALA est l’intégration dans un même ensemble de différents modules (dont un système d’arme existant), communiquant continuellement les uns avec les autres pour une efficacité optimale. La plupart des drones aériens savent aujourd’hui, tout seuls, décoller, atterrir, revenir à leur point d’envol car la procédure en est automatisée. La navigation peut aussi l’être dans le cas où la mission (attaque d’une cible connue) a été suffisamment définie. Décollage et navigation peuvent faire appel à une sorte d’autonomie, disons programmée, mais qui n’intègrera pas les difficultés de navigation ou de liaison qui pourraient être rencontrées (notamment celles que l’ennemi imaginera). C’est là qu’un niveau supérieur d’autonomie sera mis en oeuvre, soit par algorithme classique, soit par intervention d’une IA.

Normalement, pour la phase d’attaque et d’ouverture du feu, un homme intervient, qui va dire : « ok, attaque !» parce qu’il a validé la cible. Lorsque le drone perd sa connexion (brouillage par exemple), il comprend la situation et passe en mode autonome. Il a en mémoire des instructions d’attaque, une liste de cibles éventuelles. Utilisant ses capteurs il va se rendre sur la zone désignée, et observer autour de lui. S’il identifie un navire ou un blindé qui ressemble par sa silhouette à l’une des cibles qui lui ont été attribuées, il va l’attaquer de lui-même.

Les robots, comme les humains agissent dans un cadre cyclique de prise de décision[4] qui permet d’améliorer le temps de réaction et l’adaptabilité dans des situations changeantes. Il est donc gage de survie lors des affrontements armés. Il encourage à parcourir quatre étapes d’une boucle : Observer, Orienter, Décider et Agir, pour prendre les décisions les plus rapides et les plus efficaces. Le modèle est schématisé par les initiales de chaque étape OODA.

1. O : observer et recueillir des informations sur la situation et l’environnement actuel et une évaluation de la situation.

2. O : orienter la réflexion consiste à combiner les informations recueillies avec la mission à effectuer. Orienter permet de comprendre les implications plus larges de la situation et de façonner la décision.

3. D : choisir un plan d’action en fonction de l’observation et de l’orientation. Dans cette étape, il faut évaluer les différentes options et les prioriser pour Agir. La rapidité est très importante en raison de la nature dynamique des situations militaires.

4. A : mettre en œuvre immédiatement la décision choisie tout ens’adaptant aux circonstances évolutives. L’idée principale est de reconnaître que l’action décidée modifie la situation, mais que d’autres facteurs peuvent aussi la faire changer.

La raison pour laquelle ce modèle s’appelle “boucle OODA” est que lorsque la situation change, il faut de nouveau observer, orienter et décider pour adapter rapidement l’action à la réalité. La boucle OODA accepte le chaos de l’action.

Grâce à ses capteurs, le drone balaye en permanence les étapes OO et proposera à son opérateur des actions DA, ou il les mettra en œuvre directement. Dans les phases de décision D et d’action A –au moins dans celles importantes – l’homme est supposé intervenir. Mais si la liaison est coupée ou brouillée, le drone va obéir à ses propres règles, et privé de contact avec son opérateur, il va tout faire pour accomplir sa mission. Alors même que la liaison fonctionne les mécanismes, faisant appel à l’IA, peuvent être tellement puissants, que le drone peut leur donner plus de poids que les instructions reçues de son opérateur. En fait on a encore du mal à prévoir ce que fera l’IA.

Les points de vue sur les armes autonomes

Les opposants à l’autonomisation des systèmes d’armes redoutent à juste titre :

– 1 que celle-ci n’abaisse le seuil d’entrée en conflit en diminuant le coût économique et politique de l’emploi de la force, donc augmente la conflictualité. Les États s’engageraient d’autant plus volontiers dans ces conflits qu’ils auraient l’assurance de pouvoir se prévaloir, auprès de leurs opinions publiques, d’opérations « zéro morts ».

– 2 Que l’imbrication et l’interaction des systèmes autonomes entre eux ne créé des escalades stratégiques non maîtrisables.

– 3 Que si la guerre est déléguée à des systèmes autonomes il soit impossible aux dirigeants d’y mettre fin (si le niveau de contrôle sur les systèmes d’armes est insuffisant, ou que les liaisons de communication sont coupées).

Les ONG font valoir :

– 1 Que, l’emploi d’armes autonomes viderait le droit international humanitaire (DIH)[5] de son contenu.

2 – Qu’abandonner à des machines un droit de vie ou de mort » revient à «franchir une ligne morale fondamentale ». Car, expliquent-ils, « le jugement humain et la compréhension des contextes permettent seuls de faire des choix complexes sur un champ de bataille, pour distinguer les soldats des civils, ou pour estimer la proportionnalité d’une attaque : tout cela disparaîtrait avec l’emploi de robots autonomes, qui contreviendraient par conséquent aux lois de la guerre ».

-3 Que l’emploi d’armes autonomes, renforcerait le sentiment d’impunité et favoriserait la déresponsabilisation individuelle. Cela se traduirait finalement « par plus de souffrances pour des populations civiles ».

Le CICR[6] suggère d’aborder le problème d’un point de vue ex post. Un traité exigeant un contrôle humain significatif sur l’emploi la force, pour les «fonctions critiques» de sélection et «d’attaque des cibles», obligerait ainsi les États parties à prévoir et conserver des enregistrements fiables de toutes les données échangées entre leurs systèmes autonomes et les opérateurs humains. En cas de suspicion d’utilisation illégale de systèmes autonomes, il pourrait ainsi être demandé aux États de produire ces enregistrements, afin de procéder à une enquête.

Les tentatives de régulation

La non maîtrise des SALAs est un sujet d’inquiétude pour les militaires et les politiques, car des bavures, qui seraient immédiatement médiatisées par l’adversaire, entacheraient la notoriété du pays qui les utiliserait. Inversement le risque de ne pas en être doté, et d’être confronté à un adversaire (pas forcément un État) qui, lui, en serait doté, est tout aussi préoccupant.

Concernant le recours aux SALAs, le politique est partagé entre la nécessité d’en doter son armée pour en démultiplier la puissance, tout en contenant ses coûts militaires, et celle de ne pas se mettre à dos l’opinion publique, tant nationale qu’internationale[7]. Politiquement on assiste ainsi à des comportements hypocrites : déclaration anti-SALA, plaidoyers publics pour une régulation internationale et dans le même temps incitation nationale au développement et à l’intégration de systèmes autonomes dans les armées et freinage des négociations.

L’autonomie des systèmes d’arme bouscule le principe du contrôle humain sur l’usage de la force. Autonomie et contrôle sont à priori antinomiques. Le principe de contrôle de la force résulte d’un compromis entre efficacité sur le plan militaire et humanité d’un point de vue moral. Ainsi, lorsqu’un acteur a recours à la force, il est attendu de lui qu’il la contrôle, c’est-à-dire qu’il y pose des limites et qu’il ne la laisse pas se « déchaîner librement ». Ce principe irrigue toutes les normes de guerre, et constitue à ce titre une « méta norme ». Ces considérations renvoient à la nécessité de maintenir un contrôle humain significatif sur la manière dont la force est employée.

L’idée d’un moratoire sur les armes autonomes est apparue en mai 2013 au Conseil des Droits de l’Homme, soutenu par une vingtaine d’États[8], suite au rapport publié en novembre 2012 par Human Rights Watch « Losing Humanity : the Case Against Killer Robots ». Suite à différents débats, il est apparu que le DIH s’appliquait pleinement aux SALAs et que le CCAC (Convention sur Certaines Armes Classiques) des Nations Unies à Genève, était le cadre adéquat pour y fixer une régulation.

En treize ans, les débats de la CCAC n’ont en réalité que très peu avancé, se heurtant systématiquement aux questions sur la définition précise des armes autonomes, leur responsabilité, leur surveillance et la place de l’humain dans la boucle décisionnelle. Face aux interrogations que soulèvent les armes autonomes, à la fois éthiques (peut-on déléguer à une machine la décision de mettre à mort ?), juridiques (de tels armements sont-ils compatibles avec le droit de la guerre ?), et stratégiques (quel serait l’impact de leur développement sur l’équilibre des puissances ?), les délégations nationales et les représentants des ONG n’ont pas réussis à s’accorder.

En 2016, à l’initiative de la France et de l’Allemagne, un Groupe d’Experts Gouvernementaux (GGE) sur les SALAs a été créé, dans le cadre de la CCAC. Il a tenu sa première réunion en novembre 2017. En 2023, un vote de l’ONU pour une réglementation des SALAs sous l’angle « définition de l’autonomie » a été soutenue par 164 pays sur 177 (5 oppositions et 8 abstentions). Un rapport était attendu pour 2024, rapport toujours non validé. Cependant un nouveau texte a été approuvé par 128 pays le 05/09/2026, texte mettant simplement l’accent sur les règles fondamentales à respecter. Il stipule :

1- Les principes fondamentaux du droit international humanitaire (DIH), notamment les principes de distinction, de proportionnalité et d’humanité, qui demeurent pleinement applicables aux SALAs.

2 -L’affirmation est faite du principe d’un contrôle humain sur les décisions d’emploi de la force, sans en préciser le niveau[9].

Ce texte est une première étape avant d’éventuelles négociations en vue d’un traité international, mais la suite des négociations demeure cependant incertaine, en raison des profondes divergences qui subsistent entre les États parties, tant sur la définition des SALAs que sur le contenu d’un futur instrument juridique. Cet accord permet de caractériser conceptuellement les interdits (sans pour autant les définir). Son respect apparaît difficilement conciliable avec des systèmes susceptibles d’agir sans intervention humaine, notamment lorsque l’autonomie décisionnelle de ces systèmes bouscule l’imputation de la responsabilité en cas de violation du droit international humanitaire, ceci à moins d’entériner un contrôle « ex post » comme le suggère le CICR.

Le débat sur la réglementation des SALAs et celui sur la sécurité de l’intelligence artificielle portent sur des problèmes différents et à des niveaux différents. Il faut les séparer.

Pour réglementer efficacement les armes autonomes, et progresser enfin après une décennie de discussions, les législateurs et le public doivent comprendre, non pas si une arme est autonome[10], mais à quel point elle l’est. La dérive sémantique a engendré un problème persistant et pernicieux : les termes sont utilisés indifféremment pour désigner des capacités différentes[11]. L’autonomie n’est pas une notion binaire et tranchée, c’est un continuum défini par la technologie employée, et par les choix humains liés à la mise en œuvre d’un système d’arme. Les décideurs politiques ont besoin d’un cadre pour appréhender cette question, peut-être le GGE apportera-t-il les bonnes réponses ?

Qu’entend-t-on par autonomie ?

L’autonomie reflète le degré de discrétion dont dispose un système d’arme pour sélectionner, identifier et engager des cibles. Cependant l’autonomie ne se mesure pas seulement au niveau du drone, mais doit également être analysée lors de la décision de le mettre en œuvre.

Le schéma ci-dessous illustre ces liens

En 1980, le Pentagone déploya le système de missiles Patriot de l’Armée de terre et le système d’armes de proximité embarqué (CIWS) de la Marine, tous deux capables de détecter et d’engager des menaces plus rapidement que n’importe quel humain, et d’y répondre de manière autonome. Ces deux systèmes sont totalement autonomes, justifiés par la nécessité de contrer une menace imminente. L’action humaine se borne à les activer ou non.

Il semble pertinent de se pencher sur le processus de mise en œuvre d’un système d’armes. La première phase consiste à décider de lancer une opération militaire au niveau stratégique[12]. La seconde concerne le processus de ciblage opérationnel qui peut faire appel à des systèmes d’aide à la décision basés sur l’intelligence artificielle[13] (IA DSS) recommandant des cibles potentielles[14]. Troisièmement, la décision de mettre en oeuvre les frappes est ensuite prise par des décideurs qui feront le choix du système d’arme adapté. Il incombe aux commandants et opérateurs humains, en consultation avec les autorités compétentes, de prendre les décisions appropriées concernant l’usage de la force avant toute utilisation de systèmes d’armes. Dans la quatrième phase, les cibles sont transmises aux systèmes d’armes, lesquels peuvent être plus ou moins autonomes pour remplir leur mission. Dans la dernière et ultime phase intervient l’ouverture du feu. Dans ces cinq étapes, l’autonomie doit être encadrée – par une décision humaine d’engagement, – par un contrôle de conformité au DIH.

Une utilisation militaire de Palantir [15]

Des systèmes d’IA spécialisés peuvent intervenir dans les étapes 1 (autour du concept de « digitalisation du champ de bataille ») et 2 (propositions de cibles). Leur utilisation comme « usine à cibles[16] » permet d’augmenter l’éventail des informations prises en compte, de réduire considérablement le temps d’analyse (effet boîte noire) avant la décision de frappe. La mise en œuvre est également très fortement réduite, le système transmettant automatiquement les consignes de la mission au système d’armes. L’utilisation de tels dispositifs expose à plusieurs risques : contraction décisionnelle (moins de 20 secondes), standardisation des pratiques, réduction de l’incertitude à des probabilités statistiques. À mesure que les systèmes d’IA deviennent capables de produire des recommandations intégrées, le danger est de voir, au nom d’une efficacité maximale ou au prétexte des moyens disponibles, se réduire la pluralité des regards, des temporalités et des interprétations qui caractérisent traditionnel-lement la délibération en EM.

A ces deux niveaux, une IA n’agit pas au sens où le ferait un sujet capable d’intentionnalité, de responsabilité ou d’imputabilité morale. En revanche, elle peut exercer une influence importante sur les décisions humaines individuelles et tactiques en orientant l’attention des décideurs, en hiérarchisant certaines options ou en rendant plus probables certaines actions. Son pouvoir réside moins dans une capacité d’agir propre (encore que …) que dans sa faculté de restructurer l’environnement décisionnel au sein duquel les acteurs humains délibèrent sous pression temporelle. L’IA, par construction, a tendance à évacuer l’incertitude, or celle-ci est une condition de vigilance, de réversibilité du raisonnement et d’ajustement à la singularité de la situation et à son évolution. Même en situation d’ambiguïté, d’insuffisance d’informations ou d’indétermination des consignes, l’IA tend à générer une proposition, une hypothèse séduisante.

Lors de l’étape 2, l’arrivée de l’IA agentique [17]fait courir le risque, au nom de la réduction des cycles de décision, de limiter le rôle de l’homme à celui de régulateur, voire d’observateur. Or il faut préserver la capacité humaine à comprendre la situation, à prendre une décision éclairée, à interrompre une action engagée si nécessaire et à assumer les conséquences de son choix.

Au niveau des drones, il faut regarder, module par module, quel est son degré d’autonomie et sa fiabilité en liaison avec son apport au système[18]. Pour l’instant les utilisations de l’IA dans les drones sont limitées (car contraintes par des questions de poids et d’énergie) et essentiellement centrée sur la reconnaissance optique (navigation et ciblage). On ignore encore comment les LLM pourraient apporter une valeur opérationnelle à un système d’arme autonome. Il faudrait augmenter considérablement les tests et les évaluations pour assurer la fiabilité d’un système d’arme, condition nécessaire à son déploiement. Pour l’instant nous sommes dans l’expérimentation.

Aujourd’hui, les forces armées du monde entier tirent des enseignements cruciaux des conflits actuels entre la Russie et l’Ukraine, et entre les États-Unis et l’Iran, qui influenceront l’avenir de la guerre. Le développement de systèmes d’armes encore plus autonomes est probablement inévitable. Il s’agit donc de réfléchir aux moyens réalistes d’encadrer une évolution déjà en route.

Quelles pistes de négociation ?

L’ensemble de la régulation de la guerre – à la fois de ses méthodes et de ses moyens – repose sur le principe du contrôle de la force, que nous avons qualifiée de méta norme encadré par le politique, le militaire et l’international. Aucun des trois niveaux ne maîtrise les technologies émergentes dans le domaine des armes autonomes qui remettent en question l’essence même du contrôle de la force. Les armes autonomes sont porteuses d’un bouleversement pour l’Humanité dans la conduite de la guerre. Le fait que la force ne soit plus contrôlée par l’humain emporte des conséquences pour l’humain. Que ce soit dans son acception sociale, politique ou psychologique, la nature de la guerre est humaine. Le concept de dignité humaine, entendue au sens kantien[19], peut désormais être questionné lorsque des tirs contre des personnes sont décidés par des IA. Sur le terrain juridique, la définition même de l’autonomie et du moindre contrôle du recours à la force par l’humain, s’il s’accompagne d’opportunités indéniables, apportent effectivement de nouvelles vulnérabilités.

Dans un paysage géopolitique moins tendu, il serait déjà difficile d’aboutir à un nouvel accord international. La fébrilité que connaît actuellement la maîtrise des armements au niveau mondial en fait un objectif encore plus lointain. La rivalité entre les grandes puissances, notamment, mais aussi d’autres acteurs en quête de reconnaissance qui se disputent la domination dans le domaine de l’IA militaire, n’est de toute évidence pas propice à la régulation des armes autonomes. Les approches des États sur la question diffèrent largement.

Pour l’instant, seule la dimension humaine commence à faire consensus dans le débat sur la régulation des armes autonomes. Deux autres dimensions semblent devoir être abordées pour saisir pleinement les défis posés par ces armes et les traduire en perspectives de régulation : le contrôle politique de la force ainsi que le contrôle international de la force.

– Le contrôle politique renvoie à la pression exercée par les acteurs non étatiques sur le gouvernement d’une part, et aux limites que celui-ci fixe aux forces armées d’autre part. Les États sont en effet limités dans leur manière d’employer la force, par ce qu’ils comprennent être les perceptions et attentes de leurs populations. À cet égard, les armes autonomes risquent de diminuer le contrôle démocratique, en rendant l’usage de la force moins transparent et plus aisé, jusqu’au moment où une bavure ferait réagir.

– Le contrôle international de la force – qui reflète à la fois le rapport de force entre compétiteurs et les efforts de coopération multilatérale entre les États.

Aux deux dimensions précédentes, il s’agit sans doute de rajouter l’influence du « complexe militaro-industriel » et du secteur privé sur ces questions. Ces dernières sont divergentes entre elles et orientent les premières: alors que les entreprises de l’industrie de défense sont engagées dans une vive compétition pour l’autonomie, qui tend à altérer le contrôle sur les fonctions critiques des systèmes d’armes, la communauté épistémique de l’IA s’avère extrêmement réticente aux usages militaires de cette technologie, leur préférant ses applications civiles et pacifiques. Cette dernière intervient publiquement, avec une influence sur l’opinion publique en renforcement de celle des ONG.

La France et l’Allemagne privilégient la piste d’un encadrement contrôlé (« Controled Containement ») par l’élaboration d’un code de conduite non juridiquement contraignant. Des pays tels que les États-Unis ou la Corée du Sud misent sur une participation active aux négociations pour faire émerger un accord peu ambitieux, et la Russie adopte une stratégie d’obstruction, afin de bloquer toute tentative d’accord multilatéral. La Chine, grande vendeuse de drones, soutient l’interdiction des systèmes d’armes entièrement autonomes, mais en précisant que celle-ci doit s’appliquer uniquement à leur utilisation sur le champ de bataille – pas à leur développement, ni à leur production, ni à leur commercialisation. Les Chinois « travaillent simultanément sur la technologie et la réglementation afin d’utiliser le droit international comme des contraintes envers leurs concurrents[20] ».

Dans ce contexte, la seule possibilité semble être la conclusion d’un accord non contraignant sur les bonnes pratiques, une sorte de « code de bonne conduite », (moins contraignant que le TIAN^[21] ou le TNP^[22]^, mais pouvant déboucher sur des interdictions d’usage), mettant l’accent sur les obligations légales au regard du DIH et sur des engagements unilatéraux rigoureux. Cette approche pourrait ne traiter que quelques uns des modules embarqués comme le ciblage et le déclenchement du feu et les conditions de mise en œuvre d’un SALA par une autorité militaire. Cependant, si elle tente de répondre aux préoccupations juridiques, elle ne permet pas d’endiguer tous les effets préjudiciables de l’autonomie, ni de prévoir ses effets sur la stabilité internationale. Elle nécessiterait une mesure et un contrôle unilatéral du degré d’autonomie auditable « ex post ». Aujourd’hui seuls quelques États procèdent à des examens de licéité des armes au titre de l’article 36[23], et sans aucune obligation d’en partager les résultats. Cette piste pourrait être une bonne suite de l’accord de septembre 2026.

Conclusion très provisoire

Après plus de dix ans de discussions, la codification d’une obligation positive de contrôle humain sur l’usage de la force est au cœur du débat. Cette notion générale, qui a pris de l’ampleur dans le sillage de l’appel à un «icontrôle humain significatif » lancé par l’ONG « Article 36 », semble largement adoptée par les représentants de la société civile ainsi que par un nombre croissant d’États parties à la CCAC. En conséquence, ce principe est aujourd’hui largement accepté, à la fois dans la littérature académique et dans le débat diplomatique, notamment parce que les États-Unis et le CICR l’ont adopté.

Ce schéma de contrôle humain devrait se traduire par des impératifs de contrôlabilité dès la conception des systèmes d’armement, en ce qui concerne les interfaces homme / machine. Il faudrait, pour ce faire, déterminer les «iniveaux de contrôle humain » utilisés, c’est-à-dire les techniques et procédures requises pour maintenir le contrôle et la responsabilité humaine, intacts tout au long du fonctionnement du système, ce qui revient à limiter l’autonomie, voire à la supprimer ! Il est vraisemblable, que cette notion si elle était acceptée, aurait du mal à être respectée sur le terrain, actant du fait que les adversaires ont délibérément brouillé la liaison homme / machine obligeant l’autonomie à reprendre la main et rendant impossible la fourniture d’éléments prouvant que la frappe a été décidée par un humain. Cependant des journaux, enregistrements peuvent être conservés prouvant que telle était la volonté de l’utilisateur.

La chercheuse Elvira Rosert[24], proposait de modifier le protocole additionnel I aux conventions de Genève, et le préambule de la CCAC, pour y ajouter le principe de contrôle humain significatif. Cette approche permettrait de redynamiser les discussions du GGE.

Il serait souhaitable d’aller au-delà et d’inscrire une nécessité éthique tout au long du processus « conception, fabrication, utilisation des SALAs » préservant la responsabilité morale humaine levinassienne[25] face à des systèmes capables d’agir sans intervention de leur opérateur. Cela permettrait de dépasser les visions juridiques, militaires, politiques, nationales.

[1] Janvier 2025

[2] Quoi que les chiffres soient sujets à caution, la capacité de production ukrainienne , est estimée à plus de 8 millions de drones FPV (pilotés) par an, et celle de la Russie serait de 1,5 millions dont 36 000 drones suicide à longue portée Shahed / Geran.

[3] Le Samsung SGR-A1 est un robot militaire sentinelle sud-coréen conçu pour remplacer les soldats humains de l’armée de la Corée du Sud dans la zone coréenne démilitarisée à la frontière avec la Corée du Nord. C’est un système d’armes létales autonome fixe, fabriqué par Samsung Techwin (devenu Hanwha Techwin en 2016, puis Hanwha Aerospace en 2018), filiale du groupe Samsung.

[4] OODA est un cadre cyclique de prise de décision développé par un stratège militaire, le colonel de l’armée de l’air John Boyd.

[5] DIH : ensemble de règles établies pour limiter les conséquences des conflits sur les populations civiles et limiter les violences non nécessaires.

[6] Le CICR recommande/d’interdire les armes autonomes dont les effets sont suffisamment imprévisibles pour empêcher un contrôle suffisant du DIH, / d’interdire les armes autonomes conçues et utilisées pour appliquer la force contre des personnes, / d’encadrer strictement les autres systèmes par des limitations concernant les cibles, l’espace géographique, la durée, les circonstances d’utilisation et les possibilités de neutralisation.

[7] A titre d’exemple les frappes américaines par drones ont été mal perçues, tant par les citoyens américains qui y voyaient une atteinte à leurs valeurs, qu’à l’étranger où s’est développé un énorme ressentiment antiaméricain.

[8] qui affichent des ambitions militaires limitées.

[9] Le niveau concernerait le ciblage, le choix du système d’armes, la mise en œuvre et le contrôle.

[10] Presque chaque semaine, à mesure que l’intérêt pour l’IA grandit, de nouveaux articles paraissent sur les « robots tueurs », les « armes entièrement autonomes », les « systèmes d’armes autonomes (SAA) », les « systèmes d’armes létales autonomes (SALA) » ou, plus simplement, les « armes autonomes ». Or, ces termes sont employés à tort et à travers, comme s’il existait un consensus sur leur définition. Ce qui n’est pas le cas.

[11] La rupture rendue publique cette année entre le Pentagone et Anthropic, la société d’IA de Dario Amodei, porte en partie sur la différence entre la définition d’Anthropic des « armes entièrement autonomes » et le terme privilégié par le Pentagone, « systèmes d’armes autonomes ».

[12] A ce niveau, les états majors peuvent s’appuyer sur des outils de digitalisation du champ de bataille, regroupant les données recueillies par tous les moyens disponibles (satellites, drones, capteurs, humain, remontées terrain, renseignement.

[13] Par exemple, le Commandement central des États-Unis a utilisé le système intelligent Maven[13] lors de l’opération Epic Fury pour centraliser des flux d’informations disparates sur un tableau de bord unique.

[14] En cas de suggestion automatique des cibles, il existe un risque réel que le décideur humain valide sans réelle valeur ajoutée, privilégiant le nombre à la qualité. (Voir les critiques Israéliennes sur Habsora)

[15] Palantir est une entreprise américaine spécialisée dans l’analyse du renseignement et des données. Elle développe des logiciels qui permettent aux services de renseignement, aux armées, aux forces de police et aux entreprises de rassembler des informations provenant de multiples sources, de les croiser et d’identifier des liens difficiles à voir autrement. 4,48 Md$ ( 54 % des revenus proviennent des gouvernements). Le cofondateur est Peter Thiel. Principaux produits : AIP ( intelligence artificielle appliquée), Gotham (renseignement et défense), Foundry (entreprises et organisations). Maven est utilisé par l’armée américaine pour analyser de grands volumes de données militaires et aider à identifier des menaces ou des cibles potentielles

[16] On parle de Fire Factory

[17] Le terme d’autonomie appliqué aux systèmes d’IA agentique désigne exclusivement une autonomie fonctionnelle, c’est-à-dire la capacité d’exécuter, d’enchaîner ou d’adapter certaines opérations sans intervention humaine immédiate. Il ne renvoie ni à une autonomie morale, ni à une capacité de délibération éthique, ni à une responsabilité propre.

[18] On ne traitera pas de la même façon le module de navigation et celui de verrouillage de la cible alors qu’ils font tout deux appel à de la reconnaissance optique.

[19] L’éthique kantienne est un ensemble de principes moraux universels qui s’appliquent à tous les êtres humains, quel que soit le contexte ou la situation. Emmanuel Kant appelle ces principes des impératifs catégoriques, qui sont définis par leur moralité et leur niveau de liberté.

[20] Comme l’explique le chercheur américain Peter Singer,

[21] Le Tian établit un cadre légal qui rend illégales les armes nucléaires pour ses États parties, renforçant la stigmatisation de ces armes et soutenant la perspective humanitaire, mais il est critiqué par les États dotés d’armes nucléaires.

[22] Le TNP crée un cadre pour réduire la prolifération nucléaire et favoriser le désarmement progressif, mais il permet aux cinq États dotés de conserver leurs arsenaux, tout en engageant des discussions sur le désarmement.

[23] Le Conseil de sécurité peut, à tout moment de l’évolution d’un différend de la nature mentionnée à l’Article 33 ou d’une situation analogue, recommander les procédures ou méthodes d’ajustement appropriées.

[24] Elvira. Rosert, « How to Regulate Autonomous Weapons », Prif Spotlight,2017.

[25]: La philosophie d’Emmanuel Levinas est centrée sur la question éthique d’Autrui, avec le visage (notion de rencontre en face à face) comme exigence fondamentale.