Depuis quelque temps, l’IA s’invite dans les entreprises, mais qu’en est-il des collectivités et institutions publiques ? Si les promesses peuvent sembler floues et lointaines, certains cas d’usages commencent à émerger. Face à des défis de plus en plus nombreux, de nouvelles solutions émergent, y compris des solutions souveraines qui ont tout leur intérêt pour ces structures.

Les collectivités, des entités qui font face à de nombreux défis

Ces dernières années, les services publics et collectivités font face à des enjeux de plus en plus nombreux, qu’ils soient sociaux, environnementaux ou économiques. Que ce soit pour soutenir leurs citoyens, leurs agents ou gérer leurs ressources, elles doivent redoubler d’efforts pour relever des défis toujours plus conséquents dans un cadre contraint voir restreint, avec un objectif : Faire mieux avec moins. 

Le besoin de nouveaux outils pour répondre à ces nouvelles problématiques

Face à ces nouveaux défis, la technologie et en particulier l’intelligence artificielle ont leur rôle à jouer. Cette dernière n’est d’ailleurs pas encore utilisée avec toutes ses performances et son plein potentiel. En effet, si l’intelligence artificielle est souvent utilisée pour l’élaboration des discours, son usage sur d’autres tâches reste limité, car ses promesses paraissent souvent lointaines ou trop floues.

Cependant, elle peut rendre service à de nombreuses institutions et transformer leurs process sans pour autant les dénaturer. 

Une IA bien pensée, la clé pour la réussite du projet 

L'enjeu pour ces structures est donc d’intégrer l’IA dans un cadre clair, au sein d’un outil bien pensé qui répond à de réels besoins. Notamment sur des tâches chronophages, répétitives et à faible valeur ajoutée : 

• Le traitement de certains dossiers 
• Les réponses à des questions fréquentes 
• L’analyse de données (notamment pour orienter les politiques publiques)

Bien loin des fonctions “gadget” ou d’un simple effet de mode, les solutions IA peuvent réellement venir en aide aux personnes sur le terrain et alléger leur charge de travail. 

Les agents peuvent donc se concentrer sur des missions plus stimulantes et proches de la population comme par exemple la relation humaine et l’accompagnement de proximité. 

Une IA accessible pour faciliter son adoption

L’intelligence artificielle doit se généraliser et ne pas se limiter à quelques géants ou au monde de la recherche. Elle se doit d’être : 

• Accessible, avec une interface claire et utilisable par toute une équipe
• Utile, répondre à une réelle problématique 
• Sécurisée, notamment pour la préservation des données 
• Contrôlée, avec des décisions explicables 

Les agents IA se doivent donc d’être personnalisés. De la grande entreprise industrielle au service public en région, chaque entité peut avoir accès à une solution adaptée à ses besoins et contrôler tout le cycle de vie de l’IA.

Au-delà de la simple performance technique, l’IA se doit d’être explicable (chacune de ses décisions peut être expliquée et auditée) mais aussi frugale (optimiser les ressources permet d’économiser de l’énergie et de facto réduire les coûts). 

L’importance d’une IA souveraine 

Une IA souveraine est la clé d’une innovation durable. En effet, dépendre de solutions étrangères signifie placer les données des citoyens en dehors de la France, voir de l’Europe. Mais les IA étrangères peuvent également influencer certaines décisions. La souveraineté numérique est donc essentielle pour garantir des solutions qui respectent les valeurs du service public : Transparence, équité, responsabilité.

Un cas d’usage concret : Un conseil départemental

L’objectif d’un de nos clients (un conseil départemental) était de soutenir leurs agents dans les tâches répétitives. Pour cela, nous avons développé un agent IA d’outil d’aide à la décision. Les effets positifs sont nombreux : 

• Les agents se sentent valorisés et sont libérés de certaines tâches 
• Le département renforce son image de modernité et d'innovation 
• La productivité fut décuplée grâce au gain de temps

Le tout en seulement quelques semaines et sans bousculer toute l’architecture des moyens déjà mis en place. 

Il ne s’agit pas d’innover pour innover, mais bien de repenser un service public afin de le rendre plus humain grâce à la technologie. L’IA ne remplace pas, elle accompagne, elle ne décide pas à notre place, elle éclaire nos décisions. 

Le défi est de taille, mais les outils et surtout les compétences sont là, y compris dans nos équipes.

Vous aussi, vous êtes un service public ou une collectivité et souhaitez implémenter l’IA dans vos procédures ? Contactez-nous dès maintenant pour établir vos besoins avec nos experts !

‍

Le cas particulier des GPAI (Modèles d'IA à usage général) : Les grands modèles de langage (LLM) comme Mistral AI, OpenAI ou Claude entrent dans un régime propre. Soumis à une application progressive, ils nécessitent des analyses d'impact approfondies pour évaluer les risques selon s’ils sont utilisés bruts, fine-tunés ou intégrés via API.

‍

3. La Méthode "RADAR" pour Auditer ses Cas d'Usage

Développée par Xavier Trigano, la méthode RADAR permet à toute organisation de piloter sa mise en conformité de manière itérative :

• R – Recenser : Cartographier exhaustivement tous les cas d'usage de l'entreprise (outils internes pour les collaborateurs et solutions commercialisées).
• A – Attribuer les rôles : Identifier si l'organisation agit en tant que Fournisseur de modèle, Fournisseur de système d'IA, Intégrateur ou Déployeur (utilisateur final). Une même entreprise peut cumuler plusieurs rôles.
• D – Déterminer le risque : Qualifier le niveau de risque selon le type de cas d’usage et sa finalité (Inacceptable ? Haut risque ? Limité ? Faible ?).
• A – Appliquer les mesures : Mettre en œuvre les actions techniques et organisationnelles requises par le niveau de risque identifié.
• R – Rédiger la documentation : Constituer le registre et les preuves de conformité (similaire à la logique de l'accountability du RGPD).

Focus "AI by Design" - L'exemple du tri automatique de CV : Un outil RH qui exclut ou accepte des candidats de manière 100 % autonome est classé "Haut Risque", avec un coût de conformité très lourd. La méthode RADAR recommande plutôt une approche by design : modifier les fonctionnalités de l'outil pour en faire un simple système d'aide à la décision (qui extrait les compétences clés du CV mais laisse la validation finale à un recruteur humain). L'outil apporte la même valeur métier, mais bascule en risque limité, allégeant drastiquement les contraintes légales.

‍

4. FAQ : Shadow IT, RGPD et Souveraineté

Comment lutter contre le Shadow AI en entreprise ?

L'interdiction pure et simple ne fonctionne pas. Pour maîtriser l'usage des LLM par les collaborateurs, la réponse doit être transverse :

• Définir un catalogue d'usages autorisés sur la base d'outils sécurisés mis à disposition.
• Utiliser des solutions technologiques de DLP (Data Loss Prevention) pour bloquer le chargement de données sensibles vers des LLM tiers.
• Mettre à jour la charte informatique et le règlement intérieur.

L'usage des LLM (ChatGPT, Claude...) viole-t-il le RGPD ?

Ce n'est pas l'outil qui caractérise la violation, mais la finalité de l'usage. Reformuler une campagne marketing sur Claude ne présente aucun risque RGPD. En revanche, y injecter l'intégralité du fichier RH de la pyramide des âges de l'entreprise sans précaution constitue un manquement grave.

Des alternatives souveraines (hébergées on-premise ou sur des clouds français/européens) permettent de pallier les risques liés au Cloud Act américain tout en garantissant une efficacité équivalente.

Comment encadrer mes équipes dans leur utilisation de l’IA ?

L'IA Act impose une obligation de formation pour tous les utilisateurs au sein de l'organisation. L'IA pouvant se tromper ou halluciner, seul l'esprit critique de l'humain formé permet de couvrir ce risque résiduel et d'assurer un contrôle qualité efficace.

‍

5. Conclusion : L'IA Act, un levier de confiance et de compétitivité

L'IA Act ne doit pas être perçu comme un frein à l’innovation, mais comme un cadre de confiance.

En intégrant la conformité dès la conception des projets, l'IA devient un levier pérenne de performance économique, d'acceptabilité sociale et de souveraineté.

‍

Envie de développer votre agent IA sur-mesure conforme à la réglementation AI Act ? Contactez nos équipes.

‍

‍

Et accédez au replay de ce webinaire dès maintenant !