Le Pentagone a lancé un concours de six mois d’une valeur de 93 millions d’euros pour développer des essaims de drones autonomes capables d’exécuter des commandes vocales. SpaceX et sa filiale xAI y participent, marquant un tournant dans l’intégration de l’IA dans les applications militaires offensives.
Le ministère de la Défense des États-Unis a discrètement lancé un concours de six mois doté d’un financement de 100 millions de dollars (environ 93 millions d’euros) qui semble tout droit sorti de la science-fiction : construire des essaims de drones autonomes capables de recevoir des ordres verbaux et de les transformer en actions de bataille coordonnées.
Ce défi fait partie de la Stratégie d’Accélération de l’IA du Pentagone, qui vise à intégrer l’intelligence artificielle dans la planification militaire, la logistique et les systèmes de combat. Toutefois, ce concours se concentre sur un aspect plus spécifique et, par certains aspects, controversé. L’objectif est de créer un logiciel capable de traduire la voix d’un commandant en instructions numériques que plusieurs drones peuvent exécuter ensemble, que ce soit dans les airs ou en mer.
Selon Bloomberg, SpaceX et sa filiale d’intelligence artificielle, xAI, font partie d’un groupe restreint sélectionné pour participer. L’entrée des entreprises de Musk dans une compétition explicitement liée à des applications militaires offensives marque un changement notable. Musk a précédemment plaidé contre le développement de « nouveaux outils pour tuer des gens » et, en 2015, a signé une lettre ouverte mettant en garde contre les dangers des armes autonomes. Cependant, la manière dont le Pentagone définit ce concours souligne les enjeux : dans une annonce de janvier, un responsable de la défense a déclaré que l’interaction homme-machine « aura un impact direct sur la létalité et l’efficacité de ces systèmes ».
Le concours est dirigé conjointement par l’Innovation Defense Unit et le Defense Autonomous Warfare Group, une nouvelle entité sous le commandement des opérations spéciales américaines. Il se déroule en cinq phases, débutant par le développement de logiciels et culminant en démonstrations opérationnelles en direct. Les premières étapes se concentrent uniquement sur le code, tandis que les phases ultérieures impliquent des plates-formes réelles, une « conscience et un partage liés à des cibles », pour finalement ce que le Pentagone décrit comme un « lancement à la terminaison ».
Bien que les spectacles de lumière de drones donnent souvent l’impression que la technologie des essaims est déjà mûre, les experts disent que cela est trompeur. Ces spectacles reposent généralement sur des itinéraires préprogrammés et des systèmes de contrôle centralisés. Un véritable essaim militaire, en revanche, nécessite que chaque drone partage des informations, s’adapte aux pertes d’autres drones, et prenne des décisions décentralisées sans point de défaillance unique, tout en opérant dans des environnements sans GPS ou perturbés.
C’est là que les choses se compliquent.
Les champs de bataille sont saturés d’interférences électroniques. La bande passante est limitée. Les communications peuvent être perturbées. Pour qu’un essaim fonctionne dans de telles conditions, chaque drone doit posséder une puissance de traitement significative à bord et fonctionner semi-indépendamment. Traduire un ordre verbal en actions coordonnées entre des dizaines, voire des centaines de systèmes, est bien plus complexe que de programmer un drone à suivre un chemin fixe.
Bloomberg rapporte également que OpenAI soutient une candidature dirigée par Applied Intuition. Dans cette proposition, le rôle de OpenAI serait limité à l’élément « contrôle de mission » — convertissant la voix et d’autres instructions en commandes numériques — sans être impliqué dans l’exécution des drones ou l’intégration d’armes. Un représentant de la société a précisé qu’ils s’assureraient que leurs outils soient utilisés conformément à leurs politiques.
En revanche, SpaceX et xAI devraient travailler sur l’ensemble du champ de projet, selon des personnes proches du dossier.
xAI a activement recruté des ingénieurs ayant des habilitations de sécurité « secrètes » ou « top secrètes » américaines, recherchant des candidats expérimentés avec le ministère de la Défense et les entrepreneurs fédéraux. La société a auparavant obtenu un contrat de 200 millions de dollars (environ 186 millions d’euros) du Pentagone et a annoncé en décembre qu’elle intégrerait son chatbot Grok dans des systèmes gouvernementaux.
Cependant, même au sein des cercles de défense, l’idée d’intégrer l’IA générative dans des plates-formes d’armement soulève des inquiétudes. Les modèles de langage large — la technologie à la base des chatbots — sont connus pour produire des erreurs et les soi-disant hallucinations. Plusieurs personnes au fait du concours ont mentionné à Bloomberg qu’il serait crucial de limiter l’IA générative à des fonctions de traduction et de garantir que les humains restent fermement impliqués dans le processus.
La nouvelle stratégie du Pentagone vise à « libérer » les agents IA dans toutes les fonctions militaires. La question de savoir si des essaims contrôlés par la voix deviendront un outil de bataille fiable ou resteront une expérience ambitieuse pourrait dépendre de la capacité des ingénieurs à transformer des mots prononcés en actions coordonnées et résilientes dans les conditions les plus difficiles imaginables.
Pour l’instant, le prix de 100 millions de dollars signale clairement une chose : la course pour définir la guerre pilotée par l’IA s’accélère.
Mon avis :
Le projet du Pentagone visant à développer des essaims de drones autonomes commandés par la voix soulève des enjeux prometteurs et controversés. Bien que cela puisse révolutionner la guerre moderne avec une coordination accrue, des préoccupations subsistent quant à la fiabilité des IA génératives, souvent sujettes à des erreurs, ce qui pourrait compromettre la sécurité sur le terrain.
Les questions fréquentes
Quels sont les objectifs du concours lancé par le Pentagone ?
Le concours vise à développer des essaims de drones autonomes capables de recevoir des commandes vocales et de les transformer en actions coordonnées sur le champ de bataille. Cet effort s’inscrit dans la stratégie d’accélération de l’intelligence artificielle du Pentagone, qui cherche à intégrer l’IA dans divers aspects des opérations militaires.
Quelles entreprises participent à cette compétition ?
Parmi les entreprises sélectionnées pour concourir, on trouve SpaceX et sa filiale d’intelligence artificielle, xAI. Leur participation à un concours lié à des applications militaires offensives représente un changement significatif pour Musk, qui avait précédemment exprimé des réserves sur le développement d’armes autonomes.
Comment la compétition est-elle structurée ?
La compétition se déroule en cinq phases, débutant par le développement de logiciels et se terminant par des démonstrations opérationnelles en direct. Les premières étapes se concentrent sur le codage, tandis que les phases ultérieures impliquent des plateformes réelles et des actions coordonnées sur le terrain.
Quelles sont les préoccupations liées à l’utilisation de l’IA dans ce contexte militaire ?
L’intégration de l’IA générative dans les plateformes d’armement soulève des inquiétudes, notamment en ce qui concerne les erreurs potentielles et les « hallucinations » des modèles de langage. Il est crucial de limiter l’utilisation de l’IA générative à des fonctions de traduction afin de garantir que les humains restent impliqués dans le processus décisionnel.
