Pour que l’IA ne se transforme pas en guirlandes dans l’administration publique

Les systèmes dits d’intelligence artificielle sont les armes prétendument miraculeuses de nombreux fournisseurs informatiques. Bien entendu, ils doivent également être utilisés pour révolutionner l’administration publique: en sélectionnant le meilleur personnel et en l’encourageant de manière optimale, en rendant les processus administratifs plus efficaces et les services à la population plus simples - et en faisant d’importantes économies au passage.

À y regarder de plus près, on constate qu’il s’agit bien souvent de poudre aux yeux, de produits très intéressants sur le papier, qui prétendent purement et simplement pouvoir réaliser des performances jusqu’ici inaccessibles, mais qui sont en réalité parfois plus dangereux qu’utiles. La liste est longue: logiciel de ressources humaines censé établir des profils de personnalité à partir d’analyses vidéo et reconnaître les qualités de leadership, mais qui évalue ensuite la même personne de manière complètement différente si elle porte un foulard sur ces cheveux. Un système d’assistance vocale qui suggère aux enfants de faire des expériences potentiellement mortelles avec des prises électriques. Et des photomatons pour les passeports dont la technologie biométrique qui ne reconnaît pas les personnes à la peau foncée.

L’objectif doit être que l’utilisation des systèmes augmente les avantages pour l’homme et la société. Angela Müller

Des systèmes algorithmiques complexes peuvent apporter une aide utile aux administrations. Mais cela ne sera possible que si, d’une part, les clients - les administrations et les autorités - ont les compétences nécessaires pour décrypter les arguments marketing des fournisseurs et comprendre à quelles fins les systèmes sont réellement utiles, ce qu’ils peuvent faire concrètement et où se situent leurs limites. Et d’autre part, les conséquences d’une intervention doivent être évaluées afin d’éviter des erreurs telles que celles mentionnées. Les principes de base sont d’éviter les dommages tout en garantissant l’autonomie des personnes concernées, la justice et l’équité. L’objectif doit être que l’utilisation des systèmes augmente réellement les avantages pour l’homme et la société - c’est-à-dire pour nous tous, et pas seulement pour quelques-uns. Cela peut sembler être des objectifs nobles et abstraits qui ont tendance à faire obstacle aux idées innovantes. C’est en réalité tout le contraire. Les spécialistes de l’informatique savent qu’il est souvent beaucoup plus coûteux de corriger un système défaillant que d’investir dès le départ dans une bonne planification. Des outils pragmatiques d’évaluation de l’impact aident à identifier et à éviter les risques et les sources d’erreur à un stade précoce. Cela protège les droits de la population, améliore les procédures et, en fin de compte, économise les ressources du grand public et des usagers. L’administration contribue ainsi à plusieurs égards à renforcer sa réputation et à assurer sa crédibilité à l’avenir. Un investissement qui porte ses fruits.

Tribune libre dans le magazine Abraxas

Le magazine Abraxas invite des auteur-e-s invité-e-s à prendre position de manière pointue sur des aspects de la numérisation. Les textes reflètent les points de vue et les opinions des auteur-e-s et peuvent différer de la position d’Abraxas.

A propos Angela Müller

Angela Müller est la directrice d’Algorithm-Watch Suisse. Cette organisation à but non lucratif met en lumière l’impact des systèmes algorithmiques sur les personnes et la société et veille à ce qu’ils respectent les droits fondamentaux et protègent le bien commun. Angela Müller a étudié la philosophie politique et rédigé une thèse de droit à l’Université de Zurich sur le thème des droits de l’homme dans le contexte de la mondialisation et des nouvelles technologies.