L’utilisation de l’IA se généralise de plus en plus, que ce soit dans la sphère personnelle, mais aussi professionnelle. 

Mais pour qu’elle soit réellement utile dans ce cadre, il est crucial de pouvoir faire confiance aux informations données et d’avoir des réponses claires, vérifiables et précises.  

‍

Les conséquences d’un agent non fiable

Une seule mauvaise réponse peut suffire à ébranler la confiance dans un outil d’IA et tous les modèles ne se valent pas. Certains peuvent produire des réponses erronées ou incohérentes, un phénomène souvent appelé “hallucination”. Ce qui, dans un contexte professionnel, peut mener à des situations complexes qui peuvent avoir une mauvaise influence sur la crédibilité et la réputation d’une entreprise. 

Et les impacts ne sont pas anecdotiques : un conseil financier erroné peut coûter des milliers d’euros, un rapport rempli de fausses données peut fausser une mauvaise prise de décision stratégique, un article comportant des faits inexacts peut ruiner la crédibilité d’une marque…

Autant d’erreurs qui mettent à mal la réputation d’une entreprise, engendrant une perte de temps et compromettant la fiabilité des outils utilisés par les collaborateurs.

Les agents IA utilisés dans un cadre professionnel se doivent d’être fiables et vérifiables afin de se prémunir de ces failles qui peuvent faire vaciller toute une organisation. 

‍

Le RAG pour des données fiables 

Traditionnellement, un agent conversationnel IA génère ses réponses à partir des connaissances qu’il a acquises lors de son entraînement. Cependant, ces données peuvent être obsolètes ou inexactes. 

La meilleure solution pour que l’agent se base sur des données exactes est de les lui fournir nous-même ! 

C’est ce que l’on appelle la méthode RAG (Retrieval Augmented Generation), on fournit à l’IA une base de données issue de documents internes, mais pas seulement. Elle peut également s’appuyer sur des sources externes fiables (open data, publications officielles, API…) afin de fournir des réponses à la fois précises et à jour. L’enjeu est de maîtriser les sources que l’IA est autorisée à interroger.

L’IA ne s’appuie plus uniquement sur ses connaissances, mais interroge une base de données ou un ensemble de documents de référence fournis par l’entreprise. Résultat : au lieu d’inventer des informations, l’IA se base sur des sources réelles, ce qui réduit le risque d’erreurs ou “hallucinations”. 

‍

En plus de permettre à l’IA de fournir des informations fiables, la méthode RAG présente d’autres avantages : 

• Une mise à jour facile, mais également beaucoup moins coûteuse des informations (sans avoir besoin d'entraîner à nouveau le LLM)
• Une meilleure explicabilité (on peut renvoyer explicitement les passages/documents sources pour vérifier la réponse)
• Un contrôle accru : l’IA reste dans un périmètre de confiance et n’utilise pas de données externes non vérifiées.

‍

Une IA qui sait dire “je ne sais pas” 

L’une des causes des mauvaises informations données par les agents IA est leur “obligation” de toujours fournir une réponse (même si celle-ci est fausse). En résumé, l’IA ne sait pas dire “je ne sais pas” ou “je ne suis pas sûre”. Avec la méthode RAG, cette limite peut être contournée.

Puisque l’agent cherche ses réponses dans une base documentaire définie, il peut reconnaître lorsque aucune source pertinente n’existe et, dans ce cas, refuser de répondre ou indiquer qu’il ne trouve pas l’information. Un agent en capacité de “refuser” de donner une réponse s’avère donc beaucoup plus fiable. 

‍

Les clés pour un agent IA de confiance 

Chez Craft AI, nous pensons que les agents IA doivent répondre à quatre critères : 

• La Fiabilité : Les informations données par l’IA se doivent d’être exactes (d’où l’intérêt d’utiliser la méthode RAG)
• L’Explicabilité : On doit pouvoir expliquer pourquoi l’IA a donné cette réponse, sur quels éléments elle s’est basée 
• La Sécurité : Les données doivent rester confidentielles et l’utilisation de l’IA doit se faire dans un cadre défini avec une gouvernance claire 
• La Frugalité : La solution doit être adaptée aux besoins de l’entreprise et être la plus efficiente possible.

‍

Envie de déployer un agent IA auquel vous pouvez faire confiance ? Contactez nos experts

‍

Le cas particulier des GPAI (Modèles d'IA à usage général) : Les grands modèles de langage (LLM) comme Mistral AI, OpenAI ou Claude entrent dans un régime propre. Soumis à une application progressive, ils nécessitent des analyses d'impact approfondies pour évaluer les risques selon s’ils sont utilisés bruts, fine-tunés ou intégrés via API.

‍

3. La Méthode "RADAR" pour Auditer ses Cas d'Usage

Développée par Xavier Trigano, la méthode RADAR permet à toute organisation de piloter sa mise en conformité de manière itérative :

• R – Recenser : Cartographier exhaustivement tous les cas d'usage de l'entreprise (outils internes pour les collaborateurs et solutions commercialisées).
• A – Attribuer les rôles : Identifier si l'organisation agit en tant que Fournisseur de modèle, Fournisseur de système d'IA, Intégrateur ou Déployeur (utilisateur final). Une même entreprise peut cumuler plusieurs rôles.
• D – Déterminer le risque : Qualifier le niveau de risque selon le type de cas d’usage et sa finalité (Inacceptable ? Haut risque ? Limité ? Faible ?).
• A – Appliquer les mesures : Mettre en œuvre les actions techniques et organisationnelles requises par le niveau de risque identifié.
• R – Rédiger la documentation : Constituer le registre et les preuves de conformité (similaire à la logique de l'accountability du RGPD).

Focus "AI by Design" - L'exemple du tri automatique de CV : Un outil RH qui exclut ou accepte des candidats de manière 100 % autonome est classé "Haut Risque", avec un coût de conformité très lourd. La méthode RADAR recommande plutôt une approche by design : modifier les fonctionnalités de l'outil pour en faire un simple système d'aide à la décision (qui extrait les compétences clés du CV mais laisse la validation finale à un recruteur humain). L'outil apporte la même valeur métier, mais bascule en risque limité, allégeant drastiquement les contraintes légales.

‍

4. FAQ : Shadow IT, RGPD et Souveraineté

Comment lutter contre le Shadow AI en entreprise ?

L'interdiction pure et simple ne fonctionne pas. Pour maîtriser l'usage des LLM par les collaborateurs, la réponse doit être transverse :

• Définir un catalogue d'usages autorisés sur la base d'outils sécurisés mis à disposition.
• Utiliser des solutions technologiques de DLP (Data Loss Prevention) pour bloquer le chargement de données sensibles vers des LLM tiers.
• Mettre à jour la charte informatique et le règlement intérieur.

L'usage des LLM (ChatGPT, Claude...) viole-t-il le RGPD ?

Ce n'est pas l'outil qui caractérise la violation, mais la finalité de l'usage. Reformuler une campagne marketing sur Claude ne présente aucun risque RGPD. En revanche, y injecter l'intégralité du fichier RH de la pyramide des âges de l'entreprise sans précaution constitue un manquement grave.

Des alternatives souveraines (hébergées on-premise ou sur des clouds français/européens) permettent de pallier les risques liés au Cloud Act américain tout en garantissant une efficacité équivalente.

Comment encadrer mes équipes dans leur utilisation de l’IA ?

L'IA Act impose une obligation de formation pour tous les utilisateurs au sein de l'organisation. L'IA pouvant se tromper ou halluciner, seul l'esprit critique de l'humain formé permet de couvrir ce risque résiduel et d'assurer un contrôle qualité efficace.

‍

5. Conclusion : L'IA Act, un levier de confiance et de compétitivité

L'IA Act ne doit pas être perçu comme un frein à l’innovation, mais comme un cadre de confiance.

En intégrant la conformité dès la conception des projets, l'IA devient un levier pérenne de performance économique, d'acceptabilité sociale et de souveraineté.

‍

Envie de développer votre agent IA sur-mesure conforme à la réglementation AI Act ? Contactez nos équipes.

‍

‍

Et accédez au replay de ce webinaire dès maintenant !