Notre gouvernement ne devrait pas utiliser le secteur public comme cobaye pour l’IA

Dans une récente tribune, l'experte en intelligence artificielle (IA) Aiha Nguyen met en garde contre l'utilisation du secteur public comme terrain d'essai pour la technologie de l'IA. Nguyen, directrice de programme du programme Futurs du travail à Data & Society, cite le chatbot à intelligence artificielle de la ville de New York comme un exemple à méditer.

Le chatbot, développé par Microsoft, a été lancé en octobre dans le cadre du plan d'action en matière d'intelligence artificielle de la ville de New York. Il est conçu pour fournir aux propriétaires d'entreprises un accès facile à des informations fiables provenant de sources officielles de la ville. Cependant, une enquête menée par The Markup a révélé que le chatbot diffusait des informations incorrectes, encourageant les propriétaires de petites entreprises à enfreindre les lois et à violer les protections des travailleurs et des locataires.

Face aux critiques, le maire de New York, Eric Adams, a défendu l'utilisation du chatbot, en déclarant qu'« il faut toujours mettre la technologie dans un environnement réel pour éliminer les problèmes ». Cependant, Nguyen estime que la philosophie « avancer vite et casser les choses », couramment associée à la Silicon Valley, n'est pas un bon guide pour le secteur public.

Les gouvernements sont responsables des conséquences des pannes technologiques, et l'adoption prématurée de nouvelles technologies, en particulier l'IA, peut créer des coûts pour les gouvernements et le public qui dépassent de loin les avantages. Dans le cas du chatbot de New York, la diffusion d'informations erronées sur les protections des travailleurs pourrait dissuader les travailleurs de déposer des plaintes et rendre plus difficile pour les employeurs de répondre des vols de salaires.

Nguyen insiste sur l'importance de faire participer le public aux décisions concernant l'introduction de nouvelles technologies dans l'administration publique. Elle estime qu'il est peu probable que le public fasse confiance aux institutions qui protègent leurs droits si elles ne connaissent pas leurs droits.

Alors que les gouvernements continuent d'adopter de nouvelles technologies, il est crucial que ces outils soient soigneusement évalués et testés avant leur mise en œuvre. L'IA a le potentiel d'améliorer considérablement de nombreux processus gouvernementaux et de fournir de meilleurs services. Cependant, si les technologies sont mal conçues et intégrées dans la société sans une attention suffisante, elles peuvent modifier les relations de pouvoir et encore plus éroder la confiance dans les institutions publiques.

Sources : <https://thehill.com/opinion/technology/4624114-ai-chatbot-government-public-sector-silicon-valley-new-york-city/>