Autoriser l'IA sans exposer votre organisation
-
Cartographier
204 facteurs de risque IA en 12 domaines, retenus selon vos usages réels.
- Inventaire des usages, y compris non déclarés
- Qualification AI Act
- Risques priorisés
-
Encadrer
Un dispositif proportionné et défendable.
- Politiques et comité IA
- Responsabilités claires sur tout le cycle de vie
- Contrôle humain réel
-
Valider
Des cas d'usage autorisés en quelques semaines.
- Tests des modèles génératifs
- Contrôles en production
- Plan de surveillance
Ce que nous proposons
-
01
Diagnostic flash IA
En 3 semaines : inventaire des usages, qualification AI Act, revue des 12 domaines de risque et feuille de route à 6 mois.
- AI Act
- Inventaire
- Feuille de route
-
02
Cartographie et plan de maîtrise
En 6 à 8 semaines : registre des risques évalué, scénarios cotés, contrôles clés, matrice réglementaire sourcée et plan d'action.
- Registre
- RACI
- AI Act
- RGPD
- DORA
-
03
Validation de l'IA générative
Par cas d'usage : solidité du modèle, hallucinations, robustesse, contrôles d'usage et conditions d'autorisation.
- Risque de modèle
- Tests
- Contrôle humain
-
04
Pilotage continu
Abonnement trimestriel : revue du registre, veille réglementaire, audit de l'IA et formation à la maîtrise de l'IA.
- Veille
- Audit IA
- Formation
-
05
Tester l'IA générative
Une IA générative ne donne pas toujours la même réponse : un test unique réussi ne prouve rien. Nous mesurons les hallucinations, répétons les tests sur des échantillons, simulons des attaques (red teaming) et validons aussi le modèle utilisé comme évaluateur.
- Tests adversariaux
- Hallucinations
- Red teaming
-
06
Résilience des agents
Détection des dérives, coupe-circuit, limites de volume, droits minimaux, mode dégradé avec équipe formée, remédiation des clients touchés.
- Coupe-circuit
- Continuité
- Remédiation
Le niveau de contrôle suit les conséquences, pas la technologie
Un agent simple autorisé à déclencher un paiement peut être plus risqué qu'un modèle sophistiqué qui aide à rédiger une note interne. Nous classons chaque cas d'usage selon sept facteurs.
| Facteur | Question posée |
|---|---|
| Conséquence | Le système éclaire une décision humaine, décide, ou agit directement (paiement, fiche client) ? |
| Réversibilité | Une erreur peut-elle être rattrapée avant le dommage ? |
| Impact client et financier | Une opération isolée ou un portefeuille, un petit ou un gros montant ? |
| Autonomie | Validation humaine avant chaque action, supervision avec droit d'arrêt, ou aucune ? |
| Sensibilité des données | Données réglementées, confidentielles ou personnelles ? |
| Explicabilité | Peut-on justifier le résultat auprès d'un client ou d'un régulateur ? |
| Provenance | Développé en interne, adapté d'un modèle tiers, ou service externe ? |
| Niveau | Profil | Exemples | Contrôles proposés par ODIT |
|---|---|---|---|
| 1. Critique | Action directe, peu réversible, fort impact, autonome | Agent de paiement, décision de crédit en temps réel, levée de blocage fraude | Validation indépendante, revue humaine avant action, coupe-circuit, tests adversariaux, revue d'audit renforcée |
| 2. Élevé | Action directe ou aide à la décision déterminante, supervision humaine, impact moyen à fort | Souscription assistée, messages clients générés par un agent, traitement d'alertes LCB-FT | Supervision active avec droit d'arrêt, suivi des dérogations, échantillonnage en production |
| 3. Modéré | Aide à la décision avec validation humaine obligatoire, réversible | Synthèse de dossiers de crédit, recherche assistée | Validation humaine documentée, contrôle qualité par échantillon |
| 4. Faible | Pas de données client ou financières, aucune action directe | Outils de productivité, questions internes | Charte d'usage, inventaire, revue annuelle |
Évaluer avant le déploiement ne suffit pas, il faut surveiller en continu
La gouvernance fixe les règles ; la surveillance continue prouve qu'elles fonctionnent. Un modèle dérive, un fournisseur change sa version, un agent appelle un outil qu'il ne devrait pas : ces risques apparaissent après la mise en production.
- Évaluer et prioriser les risques
- Contrôler par des garde-fous et des politiques
- Surveiller, détecter et mesurer
- Corriger et adapter
- Réévaluer
puis on recommence
| Capacité | Ce que nous mettons en place |
|---|---|
| Surveillance continue | Suivi de la performance, des anomalies, de la dérive des modèles et du comportement des agents |
| Traçabilité et auditabilité | Journalisation des requêtes, appels d'outils, décisions, actions et validations, pour reconstituer chaque exécution |
| Cotation et alerte précoce | Indicateurs clés de risque avec seuils d'alerte et limites de tolérance fixés par la direction |
| Efficacité des contrôles | Suivi des violations de politique, des dépassements de droits d'accès et de la performance des garde-fous |
| Gestion des incidents | Escalade, intervention humaine et actions correctives |
Exemples d'indicateurs du tableau de bord IA (à calibrer pour chaque client) : taux de violations de politique, appels d'outils anormaux, taux de dérogations humaines, délai de traitement des incidents. Pour chacun, un seuil d'alerte et une limite de tolérance.
Références réglementaires : AI Act, article 12 (journalisation automatique) et article 72 (surveillance après commercialisation par le fournisseur), pour les systèmes à haut risque, applicables au 2 décembre 2027 pour l'annexe III selon le calendrier modifié par le règlement 2026/1744 ; NIST AI RMF, fonctions Measure et Manage (référentiel volontaire).
Notre démarche
-
Inventorier et qualifier
Recenser les usages et les qualifier au regard de l'AI Act (interdit, haut risque, transparence) et de votre rôle de fournisseur ou de déployeur.
-
Cartographier
Ateliers par domaine avec métiers, DSI, risques, conformité et DPO pour retenir les facteurs qui vous concernent.
-
Évaluer la maîtrise
Exposition et qualité des contrôles par facteur, puis cotation des scénarios en probabilité et impact.
-
Organiser les responsabilités
Comité IA, matrice RACI sur le cycle de vie, rôle des trois lignes de maîtrise.
-
Traiter et piloter
Plan d'action, intégration au contrôle permanent et reporting à la direction.
Conformité & cadre légal
-
AI Act
Règlement (UE) 2024/1689 modifié par le règlement 2026/1744 : maîtrise de l'IA et pratiques interdites depuis février 2025, transparence depuis août 2026, systèmes à haut risque (crédit, assurance vie et santé) au 2 décembre 2027.
-
DORA et RGPD
Fournisseurs d'IA dans le registre des prestataires TIC, analyses d'impact, droit de contester une décision automatisée.
-
Un contrôle humain qui n'est pas un tampon
Valider 100 % des propositions n'est pas superviser. Validateur nommé avec pouvoir de refus, décisions tracées, erreurs injectées pour tester les validateurs (article 14 de l'AI Act).
- Compétence et autorité : le valideur peut refuser, modifier, suspendre ou arrêter.
- Revue réelle : des déclencheurs et des preuves définis, pas un clic ; les gros volumes et la validation en masse créent la fatigue d'alerte.
- Capacité : combien d'agents, d'alertes ou d'actions une personne peut-elle vraiment suivre ?
- Traçabilité : chaque dérogation est motivée, journalisée et analysée.
- Indépendance : le valideur est distinct de l'équipe qui a construit le système, quand c'est pertinent.
Les six questions qu'un superviseur posera
| Question | Ce que nous livrons |
|---|---|
| Finalité : que l'agent a-t-il le droit de faire ? | Fiche de finalité testable : ce qu'il fait, ce qu'il ne fait pas, qui peut le solliciter, données et actions autorisées, cas d'escalade. Un usage hors périmètre est traité comme une défaillance de contrôle, même si le résultat paraît correct. |
| Risque : que se passe-t-il s'il se trompe ? | Classement par niveau, revu à chaque changement important |
| Contrôle : qu'est-ce qui empêche une action non autorisée ? | Contrôles humains, données, confidentialité, cybersécurité |
| Supervision : qui surveille et qui répond ? | Propriétaires nommés, droits de décision par étape du cycle de vie, tableau de bord COMEX |
| Résilience : saurez-vous détecter, contenir, reprendre ? | Plan de continuité : un agent peut rester disponible tout en agissant mal |
| Assurance : comment prouver que les contrôles fonctionnent ? | Tests, documentation, revue des fournisseurs, audit interne |
Pourquoi choisir ODIT Gouvernance ?
-
01
Regard du contrôle interne
quinze ans d'audit, de risques et de conformité en banque et assurance.
-
02
Références vérifiées
chaque exigence rattachée à son article et à sa date d'application.
-
03
Du conseil au paramétrage
nous déployons et formons, pas seulement nous recommandons.
-
04
Livrables exploitables
un registre que vos équipes reprennent dès le lendemain.
-
05
Expertise IT intégrée
nos experts techniques testent les modèles et les systèmes.
-
06
Approche proportionnée
des contrôles ciblés qui n'empêchent pas d'innover.
Savez-vous où l'IA est utilisée dans votre organisation ?
Parlons-en