De La Préparation À La Responsabilité
Le 2 août 2025, les obligations du règlement européen sur l’IA applicables aux fournisseurs de modèles d’IA à usage général ont commencé à s’appliquer. Elles comprennent notamment la documentation technique et les informations destinées aux fournisseurs de systèmes en aval ; des règles supplémentaires s’appliquent aux modèles présentant un risque systémique. Les indications de la Commission distinguent aussi les modèles déjà sur le marché et précisent le calendrier d’exécution.
La documentation du modèle ne rend pas automatiquement une décision opérationnelle auditable. Pour revoir une transaction gelée six mois plus tôt, il faut les preuves disponibles à l’époque, la version du modèle et du prompt, la politique appliquée, l’autorité d’approbation et l’action exécutée. Un score ou une explication générée ne remplace pas les dossiers manquants.
Le Problème De La Boîte Noire
Les grands modèles de langage produisent leurs sorties à partir de relations statistiques apprises. Leur comportement dépend aussi de la version, de la configuration, du prompt, du contexte récupéré, des outils et des paramètres d’échantillonnage.
Lorsqu’on demande à un modèle pourquoi il a produit une sortie antérieure, la réponse est une nouvelle sortie générée, pas une trace exécutable du calcul précédent. L’examen des données d’entraînement, des métriques ou des méthodes d’explicabilité répond à des questions utiles sur le modèle, mais ne montre pas quelles preuves et quelle autorité ont permis une action précise. L’auditabilité de la décision doit être conçue dans le flux.
La « Boîte De Verre » Comme Modèle D’Architecture
Un modèle utile sépare la perception probabiliste de la politique et du contrôle des actions. Une architecture neurosymbolique peut fournir cette séparation, mais elle a toujours besoin de gestion des preuves, d’identité, d’autorisation, d’observabilité et de reprise.
1. Les Réseaux Neuronaux Comme Couche De Perception
Les systèmes neuronaux peuvent extraire des informations de documents, capteurs, images ou enregistrements audio. Traitez leurs classifications et faits extraits comme des preuves dotées d’une provenance et d’une incertitude, pas comme des conclusions qui s’autorisent elles-mêmes.
2. Le Raisonnement Symbolique Comme Logique Explicite
Des règles explicites peuvent appliquer des contraintes, seuils et exceptions. Avec les mêmes entrées et la même version des règles, cette couche peut reproduire son résultat. Les règles doivent néanmoins être gouvernées et testées lorsque le contexte change.
3. Les Couches De Contrôle Pour La Politique, L’Incertitude Et L’Autorité
- L’évaluation des politiques détermine les règles applicables au contexte.
- La gestion de l’incertitude signale ou escalade les entrées ambiguës.
- L’autorisation détermine qui peut recommander, approuver, exécuter, déléguer ou arrêter une action.
La couche d’exécution doit refuser ou escalader quand une preuve, une politique ou une autorité manque. Une logique déterministe ne compense ni une preuve peu fiable ni une règle erronée ; l’évaluation représentative doit donc couvrir les deux.
4. Les Dossiers De Décision Pour L’Explication Et L’Exécution
Conservez les preuves, les versions du modèle, du prompt, des outils, des règles et de la politique, l’état d’autorisation, l’action, le résultat et la reprise. Cela produit un dossier opérationnel inspectable. La vérification formelle peut convenir à certaines règles ou certains composants ; ne l’attribuez pas à tout le flux sans définir ses hypothèses et son périmètre.
Cette approche a un coût : modélisation du domaine, gouvernance des règles, conservation des preuves et tests de rejouabilité demandent une responsabilité continue.
Vers La Vérification
Le test pratique n’est pas de reconstruire chaque opération interne du modèle. Il faut pouvoir reconstituer la décision opérationnelle : les preuves présentées, les versions du modèle et de la politique, l’autorité en vigueur, l’action permise et le résultat.
Commencez par un flux conséquent. Testez les cas normaux, les preuves périmées, les entrées contradictoires, l’absence d’approbation, les changements de modèle et l’échec de la reprise. Maintenez une aide à la décision ou une recommandation approuvée tant que les preuves ne justifient pas une automatisation plus étroite.
Si une décision assistée par l’IA ne peut être expliquée qu’en générant un nouveau récit après coup, planifiez une consultation pour définir le dossier de décision et les contrôles nécessaires.