Guerre numérique : l'armée suisse pour modèle

L'essor de l'intelligence artificielle est une révolution et une guerre. Pour remédier aux limites et faiblesses de l'Etat, levons une « cyber-réserve » de citoyens, propose Gilles Babinet.

Il y a plus d'un siècle, Max Weber observait que la technique éloignait les êtres humains du sens du monde et créait un désenchantement de nature à créer un malaise dans la civilisation. Un thème que Freud, puis Jung, reprendront abondamment par la suite.

En allant un peu plus loin, on pourrait postuler du fait que les techniques d'intelligence artificielle (IA) créent un schisme beaucoup plus intense entre leurs usagers et ceux qui les ont conçues, entre les autorités diverses - dont les Etats - et leurs citoyens. Et à long terme, à moins de changements profonds, les Etats devront faire face à des enjeux qui pourraient les affaiblir, au moins sur quatre plans.

Désinformation

Le premier est celui de l'explication des algorithmes. Il ne fait aucun doute que les IA vont être utilisées largement. Ne serait-ce que parce que l'Etat ne parvient plus à remplir ses missions élémentaires et qu'il a impérativement besoin de retrouver des gains de productivité. Néanmoins cet usage pourrait bien ne pas aller forcément de soi : innombrables pourront être ceux qui s'estimeraient injustement discriminés par ces algorithmes et qui en développeraient une vraie amertume, susceptible de devenir un enjeu politique. Parcoursup ou l'algorithme de la CAF nous le rappellent régulièrement...

Le second concerne les tentatives de désinformation, qu'elles soient organisées depuis l'extérieur ou le simple fait d'un influenceur inconséquent. On voit déjà le risque que cela induit : du Brexit aux punaises de lit (une rumeur dont l'origine semble provenir d'une agence russe ), en passant par la déstabilisation de la France en Afrique de l'Ouest et les attaques contre les vaccins, ces « vérités alternatives » s'imposent dans le débat et, reconnaissons-le, les institutions de l'Etat sont mal placées pour les désamorcer de façon crédible.

Le troisième concerne les enjeux de défense du territoire : qu'il s'agisse justement de lutter contre les tentatives de déstabilisation liées à une opération offensive militaire, de faire du renseignement, du contre-espionnage, des opérations cyberdéfensives ou offensives, l'exemple de l'Ukraine montre que le rôle des « cybervolontaires » a été essentiel à la défense du pays.

Résilience et souveraineté numériques

Le quatrième concerne tout simplement le fait d'avoir une « résilience numérique et IA » propre à notre nation. C'est-à-dire d'être capable d'un certain degré d'autonomie, même en cas de conflit latent ou ouvert avec un pays important des solutions numériques en France. Le fait d'avoir une communauté la plus large possible, qui partagerait des principes techniques et de gouvernance pour développer en open source des socles logiciels, participerait de façon essentielle à cette résilience. C'est également ce que démontre de façon dramatique la situation ukrainienne. Il est probable que Taïwan et les pays baltes soient également, à des degrés différents, dans une telle dynamique.

Tout cela amène l'idée qu'il pourrait à long terme être opportun de créer une force de « cyber-réserve » d'acteurs qui ne seraient ni tout à fait des agents de la fonction publique, ni tout à fait des citoyens lambda mais qui, situés entre les deux, auraient la capacité de créer une dynamique nouvelle, s'assurant que les IA utilisées dans les services publics ne possèdent pas de biais, faisant remonter des propositions d'améliorations et potentiellement les mettant en oeuvre, participant à la création de nouveaux services numériques.

Cette cyberforce pourrait également être mise à contribution pour lutter contre les influences extérieures, contre les infox, et cela sans être accusée de biais partisan, comme cela peut être le cas lorsque ce travail est fourni par une institution publique. Nul n'est besoin d'insister sur la précieuse contribution que pourrait avoir une telle force cas de conflit ouvert ou larvé avec une entité étrangère.

Cela repose évidemment sur un immense travail consistant à créer une culture commune de l'intelligence artificielle (l'initiative Café IA du Conseil national du numérique y participe), puis à constituer cette force de réservistes, qui pourraient, à l'instar de ce qui se pratique dans l'armée en Suisse, y consacrer quelques semaines tous les deux ans.