Quand l'IA prendra les manettes des services publics

L'intelligence artificielle est vouée à prendre un poids considérable dans les institutions publiques. Elle y sera source de progrès mais nécessitera de la transparence et des mécanismes de réserve citoyenne.

Ne nous leurrons, tôt ou tard, la puissance de l'intelligence artificielle (IA) s'immiscera profondément dans le fonctionnement des institutions publiques. Ne serait-ce que parce qu'elles sont désargentées, qu'elles peinent à assumer des missions de plus en plus nombreuses et exigeantes et que l'IA y sera souvent perçue comme une solution pragmatique.

Tout indique également que l'IA ne s'y manifestera pas longtemps comme un simple outil « améliorant » le fonctionnement de ces services , comme la machine à écrire a pu le faire à l'époque de l'administration de Courteline. On peut même envisager que d'ici quelques années, les conséquences de l'IA nous amènent à faire profondément évoluer nos institutions, voire à remanier notre droit constitutionnel.

Technocratie brutalisante

Dès aujourd'hui, nous savons que le manque structurel d'explicabilité des algorithmes est un défi pour l'action publique : pourquoi n'ai-je pas droit aux APL alors que ma voisine les a obtenues ? Pourquoi mon fils n'a-t-il pas intégré l'université qu'il visait ? Cela n'est qu'un avant-goût des questions qui se poseront avec l'IA.

Une première réponse pour éviter une technocratie brutalisante consistera à instituer une transparence forte des algorithmes et services logiciels, institutionnalisée au travers d'une participation citoyenne. Cela s'appliquerait non seulement à l'Etat, mais également aux grandes plateformes numériques. Cette force aura la capacité de s'assurer que les biais des modèles soient identifiés, que les « dark-pattern » appelés à nous voler notre attention soient neutralisés.

On pourrait même envisager que cette force citoyenne puisse codévelopper certains services publics. Rien de nouveau en réalité, Il s'agit de transposer la réserve citoyenne que les Suisses ont instituée à l'égard de la défense de leur territoire au champ des algorithmes. Je sais combien cette affirmation peut sembler théorique, voire utopique, mais je ne vois à moyen terme aucun autre mécanisme capable de s'y substituer de façon satisfaisante. Pour ce faire, il faudra évidemment repenser notre Constitution, dans la mesure où un droit « mou » pourra être édicté par les citoyens, de façon souple et quantitative.

Les IA, juges en devenir

Concrètement, qu'est-ce que cela veut dire ? Qu'il ne fait par exemple que peu de doute que les décisions de justice soient à terme prises par des IA . D'abord des contentieux mineurs, puis peu à peu des jugements aux conséquences plus lourdes. Ce qui sous-tend cette affirmation se trouve dans le fait qu'il existe un très vaste corpus de documents judiciaires, offrant une grande opportunité d'apprentissage d'IA fortes en droit. Il en va de même des processus d'enquête dans la police, des commissions d'attribution de droits, de la gestion des permis de construire, etc.

Dans la santé, différents travaux de recherche rappellent inlassablement qu'au moins 30 % du temps des praticiens est occupé par des traitements administratifs. Non seulement c'est une destruction nette de productivité, mais de surcroît, c'est aussi une source importante d'erreurs médicales. A long terme, dans l'éducation, cela peut être un moyen d'apporter du mentorat individualisé.

Déni de droit

Bien entendu, certains pourraient facilement dénoncer ces propos comme étant excessivement techno-solutionnistes, ne tenant pas compte de la subtilité du juge, de l'agent administratif, etc. On peut aisément leur répondre que ce n'est probablement pas eux qui sont victimes du déni de droit, du non-accès aux aides dont certains ont légitimement droit, de la complexité kafkaïenne de cette bureaucratie que Bourdieu dénonçait comme un facteur premier d'inégalité sociale.

D'autres moqueront des scénarios de science-fiction et affirmeront que leur réalité n'est pas pour demain. Tout porte à croire qu'ils se trompent largement : une nation moderne devrait au contraire commencer dès à présent à réfléchir à la nature de ses institutions à l'heure de l'IA, d'autant plus lorsque cette nation est encombrée par la complexité et la verticalisation de ses arcanes de décision.

Gilles Babinet est entrepreneur, spécialiste des enjeux numériques et auteur de « Comment les hippies, Dieu et la science ont inventé Internet » (Odile Jacob)