Autoriser l'IA sans exposer votre organisation

  • Cartographier

    204 facteurs de risque IA en 12 domaines, retenus selon vos usages réels.

    • Inventaire des usages, y compris non déclarés
    • Qualification AI Act
    • Risques priorisés
  • Encadrer

    Un dispositif proportionné et défendable.

    • Politiques et comité IA
    • Responsabilités claires sur tout le cycle de vie
    • Contrôle humain réel
  • Valider

    Des cas d'usage autorisés en quelques semaines.

    • Tests des modèles génératifs
    • Contrôles en production
    • Plan de surveillance

Ce que nous proposons

  • 01

    Diagnostic flash IA

    En 3 semaines : inventaire des usages, qualification AI Act, revue des 12 domaines de risque et feuille de route à 6 mois.

    • AI Act
    • Inventaire
    • Feuille de route
  • 02

    Cartographie et plan de maîtrise

    En 6 à 8 semaines : registre des risques évalué, scénarios cotés, contrôles clés, matrice réglementaire sourcée et plan d'action.

    • Registre
    • RACI
    • AI Act
    • RGPD
    • DORA
  • 03

    Validation de l'IA générative

    Par cas d'usage : solidité du modèle, hallucinations, robustesse, contrôles d'usage et conditions d'autorisation.

    • Risque de modèle
    • Tests
    • Contrôle humain
  • 04

    Pilotage continu

    Abonnement trimestriel : revue du registre, veille réglementaire, audit de l'IA et formation à la maîtrise de l'IA.

    • Veille
    • Audit IA
    • Formation
  • 05

    Tester l'IA générative

    Une IA générative ne donne pas toujours la même réponse : un test unique réussi ne prouve rien. Nous mesurons les hallucinations, répétons les tests sur des échantillons, simulons des attaques (red teaming) et validons aussi le modèle utilisé comme évaluateur.

    • Tests adversariaux
    • Hallucinations
    • Red teaming
  • 06

    Résilience des agents

    Détection des dérives, coupe-circuit, limites de volume, droits minimaux, mode dégradé avec équipe formée, remédiation des clients touchés.

    • Coupe-circuit
    • Continuité
    • Remédiation

Le niveau de contrôle suit les conséquences, pas la technologie

Un agent simple autorisé à déclencher un paiement peut être plus risqué qu'un modèle sophistiqué qui aide à rédiger une note interne. Nous classons chaque cas d'usage selon sept facteurs.

Facteur Question posée
Conséquence Le système éclaire une décision humaine, décide, ou agit directement (paiement, fiche client) ?
Réversibilité Une erreur peut-elle être rattrapée avant le dommage ?
Impact client et financier Une opération isolée ou un portefeuille, un petit ou un gros montant ?
Autonomie Validation humaine avant chaque action, supervision avec droit d'arrêt, ou aucune ?
Sensibilité des données Données réglementées, confidentielles ou personnelles ?
Explicabilité Peut-on justifier le résultat auprès d'un client ou d'un régulateur ?
Provenance Développé en interne, adapté d'un modèle tiers, ou service externe ?
Niveau Profil Exemples Contrôles proposés par ODIT
1. Critique Action directe, peu réversible, fort impact, autonome Agent de paiement, décision de crédit en temps réel, levée de blocage fraude Validation indépendante, revue humaine avant action, coupe-circuit, tests adversariaux, revue d'audit renforcée
2. Élevé Action directe ou aide à la décision déterminante, supervision humaine, impact moyen à fort Souscription assistée, messages clients générés par un agent, traitement d'alertes LCB-FT Supervision active avec droit d'arrêt, suivi des dérogations, échantillonnage en production
3. Modéré Aide à la décision avec validation humaine obligatoire, réversible Synthèse de dossiers de crédit, recherche assistée Validation humaine documentée, contrôle qualité par échantillon
4. Faible Pas de données client ou financières, aucune action directe Outils de productivité, questions internes Charte d'usage, inventaire, revue annuelle

Évaluer avant le déploiement ne suffit pas, il faut surveiller en continu

La gouvernance fixe les règles ; la surveillance continue prouve qu'elles fonctionnent. Un modèle dérive, un fournisseur change sa version, un agent appelle un outil qu'il ne devrait pas : ces risques apparaissent après la mise en production.

  1. Évaluer et prioriser les risques
  2. Contrôler par des garde-fous et des politiques
  3. Surveiller, détecter et mesurer
  4. Corriger et adapter
  5. Réévaluer
Capacité Ce que nous mettons en place
Surveillance continue Suivi de la performance, des anomalies, de la dérive des modèles et du comportement des agents
Traçabilité et auditabilité Journalisation des requêtes, appels d'outils, décisions, actions et validations, pour reconstituer chaque exécution
Cotation et alerte précoce Indicateurs clés de risque avec seuils d'alerte et limites de tolérance fixés par la direction
Efficacité des contrôles Suivi des violations de politique, des dépassements de droits d'accès et de la performance des garde-fous
Gestion des incidents Escalade, intervention humaine et actions correctives

Exemples d'indicateurs du tableau de bord IA (à calibrer pour chaque client) : taux de violations de politique, appels d'outils anormaux, taux de dérogations humaines, délai de traitement des incidents. Pour chacun, un seuil d'alerte et une limite de tolérance.

Références réglementaires : AI Act, article 12 (journalisation automatique) et article 72 (surveillance après commercialisation par le fournisseur), pour les systèmes à haut risque, applicables au 2 décembre 2027 pour l'annexe III selon le calendrier modifié par le règlement 2026/1744 ; NIST AI RMF, fonctions Measure et Manage (référentiel volontaire).

Notre démarche

  1. Inventorier et qualifier

    Recenser les usages et les qualifier au regard de l'AI Act (interdit, haut risque, transparence) et de votre rôle de fournisseur ou de déployeur.

  2. Cartographier

    Ateliers par domaine avec métiers, DSI, risques, conformité et DPO pour retenir les facteurs qui vous concernent.

  3. Évaluer la maîtrise

    Exposition et qualité des contrôles par facteur, puis cotation des scénarios en probabilité et impact.

  4. Organiser les responsabilités

    Comité IA, matrice RACI sur le cycle de vie, rôle des trois lignes de maîtrise.

  5. Traiter et piloter

    Plan d'action, intégration au contrôle permanent et reporting à la direction.

Conformité & cadre légal

  • AI Act

    Règlement (UE) 2024/1689 modifié par le règlement 2026/1744 : maîtrise de l'IA et pratiques interdites depuis février 2025, transparence depuis août 2026, systèmes à haut risque (crédit, assurance vie et santé) au 2 décembre 2027.

  • DORA et RGPD

    Fournisseurs d'IA dans le registre des prestataires TIC, analyses d'impact, droit de contester une décision automatisée.

  • Un contrôle humain qui n'est pas un tampon

    Valider 100 % des propositions n'est pas superviser. Validateur nommé avec pouvoir de refus, décisions tracées, erreurs injectées pour tester les validateurs (article 14 de l'AI Act).

  1. Compétence et autorité : le valideur peut refuser, modifier, suspendre ou arrêter.
  2. Revue réelle : des déclencheurs et des preuves définis, pas un clic ; les gros volumes et la validation en masse créent la fatigue d'alerte.
  3. Capacité : combien d'agents, d'alertes ou d'actions une personne peut-elle vraiment suivre ?
  4. Traçabilité : chaque dérogation est motivée, journalisée et analysée.
  5. Indépendance : le valideur est distinct de l'équipe qui a construit le système, quand c'est pertinent.

Les six questions qu'un superviseur posera

Question Ce que nous livrons
Finalité : que l'agent a-t-il le droit de faire ? Fiche de finalité testable : ce qu'il fait, ce qu'il ne fait pas, qui peut le solliciter, données et actions autorisées, cas d'escalade. Un usage hors périmètre est traité comme une défaillance de contrôle, même si le résultat paraît correct.
Risque : que se passe-t-il s'il se trompe ? Classement par niveau, revu à chaque changement important
Contrôle : qu'est-ce qui empêche une action non autorisée ? Contrôles humains, données, confidentialité, cybersécurité
Supervision : qui surveille et qui répond ? Propriétaires nommés, droits de décision par étape du cycle de vie, tableau de bord COMEX
Résilience : saurez-vous détecter, contenir, reprendre ? Plan de continuité : un agent peut rester disponible tout en agissant mal
Assurance : comment prouver que les contrôles fonctionnent ? Tests, documentation, revue des fournisseurs, audit interne

Pourquoi choisir ODIT Gouvernance ?

  • 01

    Regard du contrôle interne

    quinze ans d'audit, de risques et de conformité en banque et assurance.

  • 02

    Références vérifiées

    chaque exigence rattachée à son article et à sa date d'application.

  • 03

    Du conseil au paramétrage

    nous déployons et formons, pas seulement nous recommandons.

  • 04

    Livrables exploitables

    un registre que vos équipes reprennent dès le lendemain.

  • 05

    Expertise IT intégrée

    nos experts techniques testent les modèles et les systèmes.

  • 06

    Approche proportionnée

    des contrôles ciblés qui n'empêchent pas d'innover.

Savez-vous où l'IA est utilisée dans votre organisation ?

Parlons-en