Il y a peu, le gouvernement a annoncé former les enseignants à l’intelligence artificielle. Si, dans le futur, l’IA sera intégrée à leur formation initiale, les professeurs désireux de se former peuvent d’ores et déjà le faire sur la plateforme PixIA.  Des mesures nécessaires et encourageantes, mais insuffisantes, selon Homéric de Sarthe, CEO de Craft AI.

Pourquoi est-il urgent selon vous de former les professeurs à l’intelligence artificielle ?

L’adoption à grande vitesse de ChatGPT s’explique par deux facteurs :  

• La dimension “révolutionnaire” de l’intelligence artificielle
• La simplicité de prise en main de l’outil 

Cet agent conversationnel est pourtant très problématique puisqu’il est programmé de façon à toujours donner une réponse à son interlocuteur. Globalement il ne sait pas dire “je ne sais pas”. Un cas tragique a rappelé les dangers que peuvent présenter son utilisation : Un adolescent de 16 ans en Californie s’est suicidé après plusieurs mois d’échanges avec ChatGPT, qui selon ses parents l’aurait conforté dans son geste. Ce drame illustre les biais possibles des modèles d’IA. Mais aussi l’urgence de former les enseignants pour qu’ils aident les élèves à se repérer et à encadrer leurs usages, sans pour autant en faire des experts de cette technologie.

Quel type de formation et d’outils ? 

Il pourrait s’agir d’outils dont les sujets de réponse sont limités. Par exemple, on sait que les IA génératives chinoises sont incapables de générer certains contenus (en lien par exemple avec la drogue ou la pornographie) en raison de restrictions réglementaires.

Dans la même idée, il existe des outils d’EdTech qui développent des solutions spécialisées ou limitées, conçues pour des usages pédagogiques, par exemple des modèles entraînés sur des contenus académiques (français, maths, etc.). Ces outils peuvent donner des réponses ou des exercices adaptés au niveau de l’élève, sans sortir du cadre pédagogique. On parle alors de 

« Small Language Models ». Par exemple, notre collaboration avec le groupe Omnes Education nous a permis de créer un véritable assistant pour les étudiants capable d’aller chercher de l’information dans l’ERP et le LMS de l’établissement. Ainsi, la solution propose des réponses et exercices uniquement basés sur les ressources pédagogiques en s’adaptant aux méthodes, au niveau et aux centres d’intérêt de l’apprenant. 

L’objectif de cet outil est de faire vivre à l’étudiant une expérience personnalisée selon la conversation pour ainsi le faire progresser dans son parcours pédagogique. Par conséquent, si on demande à cet agent une recette de crêpes, il ne répondra pas. 

L’usage hors classe 

Il est donc essentiel de mettre à disposition des élèves, des outils dédiés à un usage pédagogique et validé par le système scolaire.  

Cependant, il serait contre-productif d’interdire les outils “classiques” puisqu’ils feront partie intégrante du quotidien de ces jeunes, qui devront apprendre à s’en servir et à comprendre leur mode de fonctionnement. 

Une des solutions pour se prémunir des méfaits du shadow AI (utilisation de l’IA en dehors du cadre pédagogique) serait la prévention. Du côté des professeurs, les points de vue divergent sur les aspects positifs de l’IA. Ainsi, il faudrait définir un cadre de formation qui soit le plus factuel possible sur les risques et les aspects positifs de l’IA. En effet, les enseignants qui seraient mal formés seraient susceptibles de transmettre leurs opinions négatives ou leurs fausses idées aux élèves, ce qui pourrait nuire à leur compréhension de cette technologie.

Une bonne formation à l’IA serait dédiée à mettre en lumière tous ses aspects (ses opportunités comme ses failles), à développer un regard critique, mais aussi à maîtriser le prompting (l’art de faire les bonnes demandes à l’agent IA). 

L’objectif est de faire de l’IA un véritable partenaire, sans la prendre pour le mal absolu ou bien la détentrice de la vérité. Il se dessine donc un enjeu autour de la neutralité du corps enseignant.

Regard sur l’étranger : Devons-nous nous inspirer des autres pays ? 

Oui. Certains pays, comme la Chine ont déjà mis en place des programmes de formation pragmatiques et encadrés. Les apprenants sont formés à faire de la technologie une alliée, le tout dans un cadre bien défini de façon à limiter les risques. 

Les enseignants, eux, sont encouragés à poser un cadre, afin de permettre aux élèves d’expérimenter cette technologie dans un environnement sécurisé. Qui sait ? Cela pourrait éveiller des vocations au sein des métiers de la tech et de leurs nouveaux enjeux. 

Ce pays a pris la décision de mettre à disposition du public des modèles de LLM open source de grande qualité (DeepSeek, par exemple). Ce qui n’est pas le cas aux États-Unis, car leurs modèles ouverts sont souvent perçus comme moins performants. 

‍

Chez Craft Ai, nous pensons qu’une implémentation de l’IA réussie passe par la formation, mais aussi par un bon diagnostic de départ, réalisez le vôtre ici. 

Le cas particulier des GPAI (Modèles d'IA à usage général) : Les grands modèles de langage (LLM) comme Mistral AI, OpenAI ou Claude entrent dans un régime propre. Soumis à une application progressive, ils nécessitent des analyses d'impact approfondies pour évaluer les risques selon s’ils sont utilisés bruts, fine-tunés ou intégrés via API.

‍

3. La Méthode "RADAR" pour Auditer ses Cas d'Usage

Développée par Xavier Trigano, la méthode RADAR permet à toute organisation de piloter sa mise en conformité de manière itérative :

• R – Recenser : Cartographier exhaustivement tous les cas d'usage de l'entreprise (outils internes pour les collaborateurs et solutions commercialisées).
• A – Attribuer les rôles : Identifier si l'organisation agit en tant que Fournisseur de modèle, Fournisseur de système d'IA, Intégrateur ou Déployeur (utilisateur final). Une même entreprise peut cumuler plusieurs rôles.
• D – Déterminer le risque : Qualifier le niveau de risque selon le type de cas d’usage et sa finalité (Inacceptable ? Haut risque ? Limité ? Faible ?).
• A – Appliquer les mesures : Mettre en œuvre les actions techniques et organisationnelles requises par le niveau de risque identifié.
• R – Rédiger la documentation : Constituer le registre et les preuves de conformité (similaire à la logique de l'accountability du RGPD).

Focus "AI by Design" - L'exemple du tri automatique de CV : Un outil RH qui exclut ou accepte des candidats de manière 100 % autonome est classé "Haut Risque", avec un coût de conformité très lourd. La méthode RADAR recommande plutôt une approche by design : modifier les fonctionnalités de l'outil pour en faire un simple système d'aide à la décision (qui extrait les compétences clés du CV mais laisse la validation finale à un recruteur humain). L'outil apporte la même valeur métier, mais bascule en risque limité, allégeant drastiquement les contraintes légales.

‍

4. FAQ : Shadow IT, RGPD et Souveraineté

Comment lutter contre le Shadow AI en entreprise ?

L'interdiction pure et simple ne fonctionne pas. Pour maîtriser l'usage des LLM par les collaborateurs, la réponse doit être transverse :

• Définir un catalogue d'usages autorisés sur la base d'outils sécurisés mis à disposition.
• Utiliser des solutions technologiques de DLP (Data Loss Prevention) pour bloquer le chargement de données sensibles vers des LLM tiers.
• Mettre à jour la charte informatique et le règlement intérieur.

L'usage des LLM (ChatGPT, Claude...) viole-t-il le RGPD ?

Ce n'est pas l'outil qui caractérise la violation, mais la finalité de l'usage. Reformuler une campagne marketing sur Claude ne présente aucun risque RGPD. En revanche, y injecter l'intégralité du fichier RH de la pyramide des âges de l'entreprise sans précaution constitue un manquement grave.

Des alternatives souveraines (hébergées on-premise ou sur des clouds français/européens) permettent de pallier les risques liés au Cloud Act américain tout en garantissant une efficacité équivalente.

Comment encadrer mes équipes dans leur utilisation de l’IA ?

L'IA Act impose une obligation de formation pour tous les utilisateurs au sein de l'organisation. L'IA pouvant se tromper ou halluciner, seul l'esprit critique de l'humain formé permet de couvrir ce risque résiduel et d'assurer un contrôle qualité efficace.

‍

5. Conclusion : L'IA Act, un levier de confiance et de compétitivité

L'IA Act ne doit pas être perçu comme un frein à l’innovation, mais comme un cadre de confiance.

En intégrant la conformité dès la conception des projets, l'IA devient un levier pérenne de performance économique, d'acceptabilité sociale et de souveraineté.

‍

Envie de développer votre agent IA sur-mesure conforme à la réglementation AI Act ? Contactez nos équipes.

‍

‍

Et accédez au replay de ce webinaire dès maintenant !