Les collectivités et acteurs publics font aujourd’hui face à de nouveaux défis : optimisation des ressources, besoin d’efficacité, d’accessibilité… pour les résoudre, ceux-ci se tournent désormais vers des solutions digitales, voire l’intelligence artificielle ! 

‍

Des projets de plus en plus nombreux 

75 % des régions et 62 % des métropoles ont déjà engagé des projets IA en 2024. Un chiffre qui traduit une véritable volonté d’inclure cette technologie dans le quotidien des agents de ces structures (ils sont d’ailleurs 47% d’entre eux à déclarer avoir « régulièrement une charge de travail trop élevée »). 

Cependant, bon nombre de ces projets resteront au stade de pilote ou de test sur un effectif réduit et ne passeront jamais à l’échelle… 

‍

De nombreuses difficultés rencontrées 

Pourquoi les projets d’IA dans le secteur public ont-ils autant de mal à se déployer ? Les causes citées sont nombreuses : Manque de budget, d’infrastructures, de connaissances, public réticent…  Et si bon nombre de ces barrières pouvaient être levées par une gouvernance solide et structurée ?  

‍

Une bonne gouvernance, la clé de la réussite ? 

La gouvernance ou l’art de dresser une “feuille de route” pour le développement de son projet, depuis la conception jusqu’à l’usage opérationnel via l’identification des besoins, s’avère souvent être la pièce manquante du puzzle dans le lancement de projets IA. 

Dans ce livre blanc, vous verrez comment l’adoption d’une gouvernance claire et pensée dès le début du projet peut maximiser les chances de réussite de ce dernier. 

‍

Notre livre blanc, un indispensable pour comprendre le sujet, simplement 

Le cadre dans lequel évoluent les acteurs publics et la définition de la gouvernance peuvent sembler complexes au premier abord. Notre livre blanc offre une analyse complète du sujet ainsi que différents témoignages de professionnels et les bonnes pratiques à retenir pour lancer son projet d’agent IA avec succès ! 

‍

Téléchargez notre livre blanc, disponible dès maintenant. 

Le cas particulier des GPAI (Modèles d'IA à usage général) : Les grands modèles de langage (LLM) comme Mistral AI, OpenAI ou Claude entrent dans un régime propre. Soumis à une application progressive, ils nécessitent des analyses d'impact approfondies pour évaluer les risques selon s’ils sont utilisés bruts, fine-tunés ou intégrés via API.

‍

3. La Méthode "RADAR" pour Auditer ses Cas d'Usage

Développée par Xavier Trigano, la méthode RADAR permet à toute organisation de piloter sa mise en conformité de manière itérative :

• R – Recenser : Cartographier exhaustivement tous les cas d'usage de l'entreprise (outils internes pour les collaborateurs et solutions commercialisées).
• A – Attribuer les rôles : Identifier si l'organisation agit en tant que Fournisseur de modèle, Fournisseur de système d'IA, Intégrateur ou Déployeur (utilisateur final). Une même entreprise peut cumuler plusieurs rôles.
• D – Déterminer le risque : Qualifier le niveau de risque selon le type de cas d’usage et sa finalité (Inacceptable ? Haut risque ? Limité ? Faible ?).
• A – Appliquer les mesures : Mettre en œuvre les actions techniques et organisationnelles requises par le niveau de risque identifié.
• R – Rédiger la documentation : Constituer le registre et les preuves de conformité (similaire à la logique de l'accountability du RGPD).

Focus "AI by Design" - L'exemple du tri automatique de CV : Un outil RH qui exclut ou accepte des candidats de manière 100 % autonome est classé "Haut Risque", avec un coût de conformité très lourd. La méthode RADAR recommande plutôt une approche by design : modifier les fonctionnalités de l'outil pour en faire un simple système d'aide à la décision (qui extrait les compétences clés du CV mais laisse la validation finale à un recruteur humain). L'outil apporte la même valeur métier, mais bascule en risque limité, allégeant drastiquement les contraintes légales.

‍

4. FAQ : Shadow IT, RGPD et Souveraineté

Comment lutter contre le Shadow AI en entreprise ?

L'interdiction pure et simple ne fonctionne pas. Pour maîtriser l'usage des LLM par les collaborateurs, la réponse doit être transverse :

• Définir un catalogue d'usages autorisés sur la base d'outils sécurisés mis à disposition.
• Utiliser des solutions technologiques de DLP (Data Loss Prevention) pour bloquer le chargement de données sensibles vers des LLM tiers.
• Mettre à jour la charte informatique et le règlement intérieur.

L'usage des LLM (ChatGPT, Claude...) viole-t-il le RGPD ?

Ce n'est pas l'outil qui caractérise la violation, mais la finalité de l'usage. Reformuler une campagne marketing sur Claude ne présente aucun risque RGPD. En revanche, y injecter l'intégralité du fichier RH de la pyramide des âges de l'entreprise sans précaution constitue un manquement grave.

Des alternatives souveraines (hébergées on-premise ou sur des clouds français/européens) permettent de pallier les risques liés au Cloud Act américain tout en garantissant une efficacité équivalente.

Comment encadrer mes équipes dans leur utilisation de l’IA ?

L'IA Act impose une obligation de formation pour tous les utilisateurs au sein de l'organisation. L'IA pouvant se tromper ou halluciner, seul l'esprit critique de l'humain formé permet de couvrir ce risque résiduel et d'assurer un contrôle qualité efficace.

‍

5. Conclusion : L'IA Act, un levier de confiance et de compétitivité

L'IA Act ne doit pas être perçu comme un frein à l’innovation, mais comme un cadre de confiance.

En intégrant la conformité dès la conception des projets, l'IA devient un levier pérenne de performance économique, d'acceptabilité sociale et de souveraineté.

‍

Envie de développer votre agent IA sur-mesure conforme à la réglementation AI Act ? Contactez nos équipes.

‍

‍

Et accédez au replay de ce webinaire dès maintenant !