Nantes Métropole s’est positionnée dès 2019 sur les enjeux de l’intelligence artificielle (IA), « dont elle reconnaît les bénéfices indéniables, mais aussi les risques potentiels. » La collectivité propose aujourd’hui une doctrine « afin d’encadrer le développement de projets intégrant ces nouveaux outils, pour qu’ils profitent à l’intérêt général. » Au cours de l’année 2024, elle soumet les critères de cette nouvelle « boussole » à l’expérimentation de nouveaux projets. Et au débat avec les acteurs économiques, académiques, de la médiation numérique et le grand public. Ces travaux permettront la révision fin 2024 de la charte métropolitaine, qui deviendra la « charte métropolitaine de la donnée et de l’IA ».
Développer une IA au service de l’intérêt général
Depuis plusieurs années, en particulier depuis le lancement public de ChatGPT fin 2022, l’intelligence artificielle est l’objet de toutes les attentions et parfois source d’inquiétudes, notamment dans l’opinion et le débat public. « Utilisée au service de l’intérêt général, les bénéfices attendus de l’IA sont réels », souligne Nantes Métropole. Elle peut par exemple être une aide aux professionnels de santé en matière de diagnostic, aux analyses des météorologues, à la réalisation d’économies d’énergie à grande échelle ou encore à la détection de fuites d’eau.
« Mais son usage pose aussi de nombreuses questions qui nécessitent une vigilance particulière », affirme la collectivité. D’abord l’enjeu écologique, car l’impact environnemental de systèmes informatiques bien souvent gourmands en ressources, est rarement mesuré. Ensuite, l’intelligence artificielle, en particulier l’IA générative, peut impacter une large gamme de métiers, avec des conséquences pour l’emploi. Enfin, les enjeux démocratiques sont de plus en plus prégnants, «alors que ces systèmes “intelligents” sont en grande partie portés par des acteurs privés, avec peu ou pas de transparence sur les algorithmes et données et des conséquences comme la multiplication potentielle de fausses informations », explique Nantes Métropole.
Pour le moment, il n’existe pas de cadre juridique sur l’IA en dehors de certains usages très spécifiques. Récemment, l’Union européenne a été l’une des premières institutions au monde à proposer un cadre protecteur pour les citoyens avec l’IA Act, qui devrait entrer en vigueur en 2025. Nantes Métropole souhaite travailler à son échelle à “l’élaboration d’intelligences artificielles publiques territoriales de confiance”.
Une « boussole » pour fixer un cadre d’usage
Dès 2019, Nantes Métropole a posé un principe fort sur l’IA dans sa « charte métropolitaine de la donnée » : « Dans l’avenir, il est possible que des outils d’intelligence artificielle accompagnent les acteurs publics dans leurs missions. Dans ce cadre, la collectivité anticipe et fixe des principes éthiques et protecteurs. Elle régule les expérimentations en imposant le respect de règles rigoureuses et responsables partagées avec les acteurs nantais du collectif NaonedIA en faveur d’une intelligence artificielle responsable. La collectivité s’interdit et interdit aux acteurs publics et privés agissant pour son compte, toute utilisation de l’intelligence artificielle pour des décisions individuelles concernant les usagers des services publics. »
En 2024, Nantes Métropole souhaite actualiser la charte de la donnée en y intégrant les éléments de doctrine actuellement travaillés sur l’IA. Cette doctrine prévoit que l’utilisation de l’IA ne pourra se faire que dans un cadre prédéfini, évaluant à travers une « boussole », la contribution réelle à l’amélioration du service public et aux conditions de travail des agents, la sobriété environnementale, ou encore les exigences de transparence.
La « boussole » propose sept critères à l’aune desquels sera instruit tout projet numérique intégrant de l’intelligence artificielle :
- Absence d’identification biométrique et absence de collecte de données sensibles qui pourraient caractériser un ou des individus susceptibles de générer des biais discriminatoires (notamment caractérisation physique, comportementale, vestimentaire…)
- Conformité au cadre juridique (absence de risque juridique) et à la politique de cybersécurité
- Contribution à l’amélioration du service public
- Contribution à l'amélioration des conditions de travail des agents publics
- Respect des engagements en matière de sobriété énergétique
- Exigence de transparence et redevabilité
- Évaluation du bénéfice par rapport à une solution alternative sans Intelligence Artificielle
Une doctrine testée en 2024
La doctrine a vocation à s’appliquer aux champs de compétences de la collectivité, vise aussi à rallier les acteurs du territoire. Nantes Métropole testera cette doctrine tout au long de l’année 2024, dans le cadre d’expérimentations de cas d’usages appliqués à des métiers et besoins de politiques publiques diverses.
Elle souhaite aussi tester cette boussole au regard de l’état des pratiques et attentes du territoire. De février à septembre 2024, elle profitera de différents rendez-vous pour mener des échanges sur ce sujet avec les acteurs économiques et académique, les acteurs de la médiation numérique et le grand public lors du « Nantes Débat de l’IA ». L’ensemble de ces travaux feront l’objet d’une restitution dans le cadre d’un Forum de la société civile sur l’IA organisé le 18 septembre 2024 en marge du Salon de la Data et de la Nantes Digital Week. Cette démarche, qui permettra d’ajuster les critères de la boussole, aboutira à la révision courant 2025 de la charte métropolitaine, devenant la « charte métropolitaine donnée et de l’IA ».
Une forte mobilisation en interne
Au cours de l’année 2024, des agents seront mobilisés pour tester les critères et instruire les projets d’expérimentations au regard de la doctrine proposée aujourd’hui par la collectivité. Mais Nantes Métropole mobilise aussi plus largement en interne sur le sujet de l’intelligence artificielle : elle prévoit dans les prochains mois des actions de sensibilisation et la formation des élus, des encadrants et des agents.
De plus, la collectivité associe étroitement les organisations syndicales aux travaux autour de l’IA, notamment pour questionner l’impact potentiel de ces nouveaux outils sur les conditions de travail de ses agents et sur les métiers.
En savoir plus.
Restauration scolaire : l’IA aide à prévoir la fréquentation des cantines
À ce jour, peu de projets menés par la collectivité intègrent de l’intelligence artificielle. La doctrine actuellement travaillée a vocation à encadrer le développement futur de projets intégrant de l’IA. On peut néanmoins citer l’exemple de la restauration scolaire. À Nantes, la Métropole a choisi d’investir la question de la fréquentation des cantines scolaires. « Il s’agit, explique Francky Trichet, vice-président en charge notamment de l’innovation et du numérique, d’améliorer grâce à l’IA, la prédiction du nombre d’enfants qui vont y manger. » Anticiper au plus juste permet d’adapter la production des repas, ce qui implique moins de logistique en amont et moins d’impact sur la planète aussi », fait-il valoir. « Neuf ans de données ont été entrées dans l’IA, et croisées avec une série de paramètres (menu, pandémie, fêtes, etc). Nous avons ensuite comparé prédictions avec les données de la dernière année test. » Résultat : « Un gain de neuf points environ, soit environ 200 000€ par an. » La métropole planche actuellement sur la généralisation de cet « outil d’aide à la décision », qui vient « compléter le diagnostic des agents des cuisines centrale », et non les remplacer. « On s’interdit aujourd’hui une prise de décisions automatique dans laquelle il n’y aurait plus d’intervention humaine dans la chaîne », affirme Francky Trichet.