Aller au contenu principal
Interpellations

25.161

Pour une gouvernance éthique de l’intelligence artificielle dans les services publics

Auteur-e ou premier-ère signataire
Joëlle Eymann

Transcription des débats

JE
Joëlle Eymann S 3 mars 2026 PV, p. 64 (PDF de la séance sur ne.ch, s’ouvre dans un nouvel onglet)

L’intelligence artificielle (IA) n’est plus une technologie du futur. Elle est déjà là, dans nos administrations, nos processus décisionnels, nos services publics. Elle promet efficacité, mais elle peut aussi introduire des risques majeurs : opacité, biais discriminatoires, atteinte aux droits fondamentaux. À Neuchâtel, nous avons inscrit dans notre Constitution le droit à l’intégrité numérique. C’est un signal fort, mais ce droit reste aujourd’hui théorique, sans mécanisme concret pour le rendre effectif. Au niveau fédéral, le Conseil fédéral a adopté, en mars 2025, une stratégie pour l’utilisation de l’IA dans l’administration et a publié, en février 2025, une communication sur la réglementation de l’IA. Deux Commissions fédérales ont récemment alerté sur les biais sexistes et racistes des algorithmes, appelant à une loi générale pour garantir l’égalité dans l’usage de l’IA. Cette interpellation vise à poser les bases d’une gouvernance éthique et transparente de l’IA dans nos services publics. Elle propose des mesures claires, un registre public des systèmes algorithmiques et une analyse des risques, des garanties pour les citoyen-ne-s, une approche participative. D’autres cantons, comme le canton de Vaud, ont déjà engagé cette réflexion. Neuchâtel ne peut pas rester en retrait, il en va de notre responsabilité démocratique. L’intelligence artificielle n’est pas un simple outil technique, elle transforme nos manières de décider, d’administrer et d’interagir avec les citoyen-ne-s. Si nous ne l’encadrons pas dès maintenant, nous risquons de laisser les algorithmes décider sans contrôle, sans transparence et parfois sans justice. Le droit à l’intégrité numérique inscrit dans notre Constitution ne doit pas rester lettre morte, il doit devenir une réalité concrète portée à des mécanismes clairs, des garanties solides et une gouvernance démocratique. Cette interpellation est une invitation à anticiper, à protéger et à construire une digitalisation qui reste profondément humaine. Nous espérons que le Conseil d’État saura répondre avec ambition et responsabilité.

FM
Frédéric Mairy Département de la santé, de la jeunesse et des sports 24 mars 2026 PV, p. 90 (PDF de la séance sur ne.ch, s’ouvre dans un nouvel onglet)

Avant de répondre aux cinq questions précises qui ont été posées, on peut rappeler qu’une cellule Science des données et intelligence artificielle (SD&IA) a été créée au sein de l’État en octobre de l’année dernière. Elle est rattachée au service de statistique (STAT) et travaille en étroite collaboration avec le service informatique de l’Entité neuchâteloise (SIEN). Elle est composée à ce jour de deux collaborateurs : la déléguée cantonale à l’intelligence artificielle (IA) et un deuxième collaborateur qui l’a rejointe en début d’année. Nous reprenons les cinq questions dans l’ordre. Première question : il n’existe pas à ce jour de registre dans ce domaine, mais néanmoins plusieurs utilisations de l’IA ont déjà été recensées au sein des différents services. Parmi ceux-ci, pour donner quelques exemples concrets, nous pouvons citer le STAT, qui réalise des analyses prédictives sur des données historiques : simulation, projection, analyse temporelle, etc. Il s’agit d’une suite logique des analyses statistiques plus traditionnelles, menées dans ce service depuis des années. Du côté du service cantonal des automobiles et de la navigation (SCAN), on peut citer le traitement de demandes avec des réponses générées par l’IA et revues par une collaboratrice ou un collaborateur du service, la mise en place d’un chatbot sur le site internet pour améliorer les recherches ou encore la correction de photographie, pour les permis notamment, avec un outil de cadrage. Autre service encore, le système d’information du territoire neuchâtelois (SITN), qui a utilisé des algorithmes pour modéliser les essences d’arbres du canton. Un projet de cartographie des routes est également prévu, en collaboration avec le service des ponts et chaussées (SPCH). Des réflexions sont par ailleurs en cours quant au recours à un outil commun à l’entier des services pour l’aide à la rédaction de rapports, de synthèse, de recommandations, etc. Un tel outil est destiné à aider les collaboratrices et les collaborateurs de l’administration, qui garderont toute leur autonomie de jugement et de prise de décision. Cet outil doit répondre à de rigoureux critères en matière de protection des données, de souveraineté et de développement durable. Quant aux outils d’IA génératives librement accessibles, donc des outils commerciaux, la cellule Science des données et IA vient de terminer un travail d’analyse, et des recommandations seront prochainement transmises au service. Question n°2, quant aux garanties données en matière de transparence, traçabilité, relecture humaine des décisions influencées par les algorithmes. À ce stade, les principes suivants ont été posés. Pour la transparence, chaque modèle d’outil utilisé sera accompagné d’une partie descriptive, décrivant son objectif, ses données d’entrée, ses performances et ses limites. En matière de traçabilité, il est prévu que chaque modèle soit suivi – on parle de versioning – et mis à jour en utilisant une plateforme collaborative. Enfin et surtout, aucune décision ne pourra être prise automatiquement. Un contrôle humain obligatoire doit intervenir avant la validation finale, avec un dispositif de revue où la collaboratrice ou le collaborateur doit accepter ou rejeter la recommandation algorithmique. Cette combinaison de documentation ouverte, de suivi technique rigoureux et de validation humaine assure que l’IA reste un outil d’appui, sous contrôle démocratique et responsable. Question n°3 relative à l’article 10 de la Constitution neuchâteloise. Dans tous les traitements statistiques actuels et les analyses IA futures, coordonnés par la cellule Science des données et IA, l’intégrité numérique est constamment garantie. Elle est considérée avec la même importance que la protection des données et le secret statistique. La cellule Science des données et IA étant rattachée au service de statistique, elle est ainsi également soumise à la loi sur la statistique cantonale (LStat), qui régit de façon claire la problématique de la protection des données dans ses articles 7 et 8. Un travail de réflexion est en cours sur tous les aspects légaux et réglementaires qui sont liés à l’IA, en étroite collaboration avec le service juridique (SJEN). Ces éléments seront, eux aussi, prochainement transmis aux services de l’administration cantonale. Question n°4 quant à des domaines sensibles où l’usage de l’IA serait strictement encadré, voire interdit. Par domaines sensibles, on peut penser notamment à la santé, la justice, l’emploi, la fiscalité, la sécurité sociale. Ils sont déjà encadrés de façon stricte et l’arrivée de l’IA ne modifie pas ce cadre. Les mêmes exigences de protection et de responsabilité continuent de s’appliquer. La vraie question porte avant tout sur les données. Les biais ne naissent pas des algorithmes eux-mêmes, mais des jeux de données qui les nourrissent. Il ne s’agit donc pas d’interdire l’IA, mais de garantir que chaque système apporte une véritable plus-value, par exemple un outil d’assistance qui renforce la qualité des décisions humaines, mais sans les supplanter. Ainsi, la priorité est placée sur la qualité et la provenance des données, car ce sont elles qui conditionnent l’équité des algorithmes. Enfin, dernière question relative à la gouvernance participative, en lien avec l’usage de l’IA. Le canton, comme rappelé tout à l’heure, a donc institué une cellule Science des données et IA, chargée de coordonner l’ensemble des questions liées à l’intelligence artificielle dans les services publics cantonaux. Cette unité travaille en étroite collaboration avec d’autres collectivités publiques, notamment la Confédération, ainsi qu’avec des partenaires académiques, afin d’assurer une expertise technique solide et une harmonisation des pratiques. La cellule bénéficie d’un large éventail d’experts internes – juristes, ingénieurs, spécialistes de la formation, analystes… –, couvrant ainsi les aspects juridiques, techniques, éthiques et pédagogiques indispensables à la mise en œuvre responsable de l’IA. Ces compétences internes permettent ainsi à l’administration cantonale de répondre à de nombreux besoins, sans devoir faire appel à ce stade à des ressources externes.

JE
Joëlle Eymann S 24 mars 2026 PV, p. 92 (PDF de la séance sur ne.ch, s’ouvre dans un nouvel onglet)

Nous tenons tout d’abord à remercier le Conseil d’État pour sa réponse, qui montre une réelle prise de conscience des enjeux liés à l’intelligence artificielle dans nos services publics. Nous saluons la volonté affichée d’avancer vers une utilisation plus transparente, plus responsable et plus respectueuse des droits fondamentaux. Nous sommes satisfaits de voir que le Conseil d’État partage la nécessité d’un cadre clair et d’une gouvernance solide. C’est un signal important, à la hauteur des attentes de notre population et de l’inscription dans notre Constitution du droit à l’intégrité numérique. Mais cette réponse nous rappelle aussi que le chantier est vaste, les défis sont réels, l’intelligence artificielle évolue vite. Notre responsabilité politique est d’aller au même rythme, avec lucidité et ambition.