MAN & MACHINE IN DECISION-MAKING
Towards augmented rather than artificial intelligence
23rd and 24th May 2023
Vauban Citadelle, Lille, France
SUMMARY OF THE 2023 EDITION
The fifth Vauban Sessions were opened by Lieutenant General Emmanuel Gaulin, Commander of the Rapid Reaction Corps-France (RRC-Fr), with whom the Vauban Sessions have been organised by CEIS (Avisa Partners Group) since 2019.
The RRC-Fr, a NATO-certified French headquarters based at the Lille citadel in Lille and composed of 13 nations, led two days of reflection on the impact of augmented intelligence on decision chains and future combat operations. Artificial intelligence refers to complex computer technologies capable of reproducing human behaviour and enhancing individuals’ processing and analysis capabilities. Augmented intelligence (AI), combining the power of the human mind and that of the machine, could radically transform the conduct of warfare on several levels, from tactical situational assessments to operational command, via multiplier technologies such as drone swarms, targeting assistance and remote processing of massive data collected by sensors in the field.
The digital transformation of armed forces' resources and platforms is generating massive volumes of data, from both human and automated technical sources. However, to confer an operational or even a strategic advantage, this data must be prepared, sorted and processed, to avoid creating an information and cognitive overload, whether at the level of the individual combatant or headquarters. The use of algorithms at the right levels can improve decision-making by filtering the growing mass of data collected, and building a better situational picture. The use of these new technologies increases combatants’ ability to act in a collaborative and coordinated manner, thanks to the sharing of information in real time, the networking of all levels and the use of the Internet of Things and the cloud. Combining a military Internet of Things (IoMT) with an AI-enhanced C2 structure will accelerate real-time data collection, information exchange between units and coordination of operations.
Combined with human decision-making capabilities, "artificial intelligence" algorithms become "machine-augmented (human) intelligence" and can provide a decisive advantage at the strategic, operational and tactical levels. Augmented Intelligence (AI) can boost the capacity of command posts (CPs) to process masses of data and extract trends not detectable to the human eye or precise information buried in this mass. Ultimately, AI should make it possible to reduce the number and size of CPs, increasing their stealth, agility, mobility and responsiveness. Based on a connectivity architecture dedicated to massive data processing, AI should also make it possible to offer commanders options based on the analysis of available data in record time, enabling them to move faster from knowledge to anticipation.
While AI will never be able to demonstrate an initial intention, the prerogative of a sentient being, it will certainly transform the way in which command is exercised. Its ability to process information in near-real time, and to apply self-enhancing models, will enable it to be increasingly integrated into the decision-making process. However, this integration can pose major problems, starting with commanders' dependence on this type of solution and the relative loss of the ability to make decisions in uncertain conditions, in the event of malfunction or destruction. It is also important to bear in mind the inability of AI to innovate or propose breakthrough solutions, based, by design, on past data and the application of statistical models, albeit highly advanced ones (machine learning). A C2 system 'boosted by AI' can nevertheless become a decisive operational advantage, once a balance has been struck between maintaining a human capacity for analysis and decision-making - and therefore the inherent risk-taking - and accelerating the OODA (Observe, Orient, Decide, Act) loop. Similarly, on a more technical level and to be truly effective, the AI employed by all levels of command (strategic, operational, tactical) will need to incorporate an explanatory component, so that the solutions or recommendations issued by the systems can be questioned and analysed by humans to refine the analyses and options proposed. Acculturation of command levels to the understanding and proper use of AI as a decision-making tool will be an essential challenge if we are to take full advantage of it.
Initial feedback from Ukraine also shows the importance of developing a multi-domain C2 doctrine (MDC2) that takes account of civilian contributions, particularly in the network area, as in the case of the Starlink satellite network in the resilience of Ukrainian communications. But this civil/military interweaving also goes further in terms of relations with civilian populations, for example the contribution of the software ecosystem to the development of intelligence applications - which raises the problem of the distinction between civilians and combatants - but also the development of 'civil protection' and warning applications. For the Atlantic Alliance, the challenge will also be to harmonise the various national MDC2s to develop an effective decision-making process, enabling information to be shared rapidly. Generative AI, capable of synthesising masses of heterogeneous data to propose options to commanders, could be one way of overcoming the growing complexity of these interconnected MDC2s, which the exponential growth in the mass of data and the acceleration of the OODA loop risk paralysing.
As a result of the massive digitisation of platforms and equipment at the tactical level, the problem of the bandwidth required for data transfer is already arising, and beyond that, the problem of the computing capacity needed to use it. To reduce the amount of data transferred, armed forces and manufacturers will have to install more computing power in vehicles and tactical systems, so that some of the processing can be carried out locally. As the tempo of operations accelerates, AI will give the tactical echelons a decisive advantage by making it possible to deport analysis capacity as close as possible and thus speed up the targeting cycle (Find, Fix, Track, Target, Engage, Assess) by automating certain functions. However, these AI systems will need to be designed in a 'distributed' way to ensure their ability to operate autonomously, otherwise the theoretical advantages will be disconnected from the realities on the ground.
In the event of a major engagement, the acceleration of the OODA loop and MDOs have implications for the chain of command that the post-Cold War period had led us to forget. For the enemy, destroying or neutralising CPs is a priority objective and, as seen in Ukraine, an achievable one - whether through tactical or strategic action. Another reminder of the current conflict is the importance of electronic warfare (EW), localisation, jamming and - in defence - reducing electromagnetic signatures. The physical (mobility) and technical (electromagnetic stealth) agility of CPs must therefore be taken into account to ensure that the digitisation of these PCs does not become a vulnerability factor on the battlefield. In order to speed up the installation of CIS resources while maintaining electromagnetic silence for as long as possible, certain technologies can be used, such as Li-Fi (Light Fidelity), which was tested during phase 4 of the Orion exercise.
The war in Ukraine also highlights the important role of cyber defence in a major operations, whether for purely military aspects, critical infrastructures or even private individuals. To maintain essential command functions and support the civilian infrastructure still in place, modern cyber defence must be more agile, in order to switch CIS architectures from peacetime to wartime mode faster.
Version française
La cinquième édition des Vauban Sessions a été ouverte par le général de corps d’armée Emmanuel Gaulin, commandeur du Corps de réaction rapide-France (CRR-Fr), avec qui les Vauban Sessions sont organisées par CEIS (groupe Avisa Partners) depuis 2019.
Le CRR-Fr, état-major français certifié par l’OTAN, basé à la citadelle de Lille et auquel participent 13 nations, a conduit une réflexion sur l’impact de l’intelligence augmentée sur les chaînes de décision et le combat du futur. L’intelligence artificielle désigne les technologies informatiques complexes pouvant reproduire des comportements humains et améliorer les capacités de traitement et d’analyse des individus. L’intelligence augmentée (IA), combinaison de l’esprit humain et de la puissance de la machine, pourrait transformer radicalement la conduite de la guerre à plusieurs niveaux, de l’appréciation de la situation tactique au commandement des opérations, en passant par les technologies démultiplicatrices comme les drones en essaim, l’aide au ciblage et le traitement déporté de données massives issues des capteurs sur le terrain.
La numérisation des moyens et des plateformes des Armées génère des volumes massifs de données, émises par les humains comme par des sources techniques automatisées. Néanmoins, pour conférer un avantage opérationnel, voire stratégique, ces données doivent être préparées, triées et traitées, sous peine de créer une surcharge informationnelle et cognitive, que ce soit au niveau du combattant individuel ou des états-majors. Aussi, l’emploi d’algorithmes aux bons échelons peut améliorer la prise de décision en filtrant la masse croissante de données collectées, et en construisant une meilleure vision de la situation. L’usage de ces nouvelles technologies vient accroître la capacité des combattants à agir de manière collaborative et coordonnée grâce au partage d’informations en temps réel, la mise en réseau de tous les échelons et l’utilisation de l’internet des objets et du cloud. L’association d’un internet des objets militaires (IoMT) à une structure de C2 augmentée par l’IA permettra d’accélérer la collecte de données en temps réel, l'échange d'informations entre les unités et la coordination des opérations.
Combinés aux capacités humaines de décision, les algorithmes « d’intelligence artificielle » deviennent « intelligence (humaine) augmentée (par la machine) » et peuvent donner un avantage décisif aux niveaux stratégique, opérationnel et tactique. L’Intelligence augmentée (IA) peut décupler les capacités des postes de commandement (PC) à traiter des masses de données et en extraire des tendances non décelables à l’œil humain ou des informations précises noyées dans cette masse. À terme, l’IA doit pouvoir permettre de réduire les effectifs et la taille des PC les rendant plus furtifs, agiles, mobiles et réactifs. Reposant sur une architecture de connectivité dédiée au traitement de données massif, l’IA devrait également permettre de proposer au commandeur des options basées sur l’analyse des données disponibles en un temps record permettant de passer de la connaissance à l’anticipation plus rapidement.
Si l’IA ne pourra jamais faire preuve d’une intention initiale, prérogative d’un être pensant, elle va certainement transformer l’exercice du commandement. Sa capacité à traiter les informations en temps quasi réel, à appliquer des modèles qui s’auto-enrichissent, va permettre de l’intégrer de plus en plus dans le processus d’élaboration des décisions. Cette intégration peut cependant poser des problèmes majeurs, à commencer par la dépendance du commandement à ce type de solutions et la perte de relative de capacité à décider dans l’incertitude en cas de dysfonctionnement ou de destruction. Mais il faut également tenir compte de l’incapacité de l’IA à innover ou à proposer des chemins de rupture, reposant, par construction, sur des données passées et sur l’application de modèle statistiques, certes très évolués (machine learning). Un système C2 « dopé à l’IA » peut néanmoins devenir un avantage opérationnel décisif, une fois l’équilibre trouvé entre le maintien d’une capacité humaine d’analyse et de décision - et donc la prise de risque inhérente - et l’accélération de la boucle OODA (Observe, Orient, Decide, Act). De même, sur un plan plus technique et pour être réellement efficace, l’IA employée par tous les niveaux de commandement (stratégique, opératif, tactique) devra intégrer une composante explicative, pour que les solutions ou préconisations issues des systèmes puissent faire l’objet d’une remise en cause et d’une analyse humaine pour affiner les analyses et options proposées. L’acculturation des niveaux de commandement à la compréhension et la bonne utilisation de l’IA comme outil d’aide à la décision sera un enjeu essentiel pour en tirer pleinement profit.
Les premiers retours d’expérience de l’Ukraine montrent également l’importance d’élaborer une doctrine C2 multidomaine (MDC2) qui prenne en compte les apports du civil, notamment pour la partie réseau, à l’exemple du réseau satellitaire Starlink dans la résilience des communications ukrainiennes. Mais cette imbrication civil/militaire va plus loin également dans les relations avec la population civile, comme par exemple, l’apport de l’écosystème logiciel dans le développement d’applications de renseignement - ce qui pose le problème de la distinction civil/combattant - mais également le développement d’applications de « protection civile » et d’alerte. Pour l’Alliance atlantique, le défi sera aussi d’harmoniser les différents MDC2 nationaux pour développer un processus décisionnel efficace, permettant de partager de l’information rapidement. L’IA générative, capable de synthétiser des masses de données hétérogènes pour proposer des options au commandement, pourrait être une piste pour pallier la complexité croissante de ces MDC2 interconnectés, que la croissance exponentielle de la masse de données et l’accélération de la boucle OODA risquent de paralyser.
Conséquence de la numérisation massive des plateformes et équipements, aux échelons tactiques, la problématique de la bande passante nécessaire aux transferts des données se pose déjà et au-delà ouvre celle des capacités de calcul nécessaires à les utiliser. Pour réduire les flux transférés, les Armées et les industriels vont devoir embarquer plus de puissance de calcul dans les véhicules et les systèmes tactiques, afin de précéder à certains traitements en local. Face à l’accélération du tempo des opérations, l’IA conférera aux échelons tactiques un avantage décisif par la possibilité de déporter une capacité d’analyse au plus près et donc d’accélérer le cycle du ciblage (Find, Fix, Track, Target, Engage, Assess) par l’automatisation de certaines fonctions. Toutefois, il faudra concevoir ces systèmes d’IA de manière « distribuée » pour en assurer la capacité à fonctionner de manière autonome, sinon les avantages théoriques seront décorrélés des réalités du terrain.
En cas d’engagement majeur, l’accélération de la boucle OODA et les MDO ont des implications pour la chaîne de commandement que la période post-guerre froide avait conduit à quelque peu oublier. Pour l’ennemi, la destruction ou la neutralisation des PC est un objectif prioritaire et comme on le voit en Ukraine, atteignable - que ce soit par des actions tactiques ou stratégiques. Autre rappel du conflit actuel, l’importance de la guerre électronique (EW), de la localisation, du brouillage et - en défense - de la réduction de la signature électromagnétique. L’agilité physique (mobilité) et technique (discrétion électromagnétique) des PC doit donc être bien prise en compte pour ne pas que la numérisation de ces PC devienne facteur de vulnérabilités sur le champ de bataille. Afin d’accélérer la durée de mise en place des moyens SIC tout en maintenant un silence électromagnétique le plus longtemps possible, certaines technologies peuvent être utilisées, telles que le Li-Fi (Light Fidelity), testé en exercice durant la phase 4 de l’exercice Orion.
La guerre en Ukraine met également en évidence le rôle important de la cyberdéfense dans un engagement majeur, que ce soit pour les aspects purement militaires, les infrastructures critiques et même pour les particuliers. Pour maintenir les fonctions de commandement essentielles et soutenir les infrastructures civiles encore en place, la cyberdéfense moderne doit être plus agile, afin de basculer les architectures SIC de temps de paix en mode “temps de guerre” plus rapidement.