Repères · OpenSource Solutions
Pourquoi surveiller une IA en continu ?
Un modèle d'IA est un fichier de plusieurs gigaoctets qu'on ne peut pas relire comme du code. Il peut changer, un agent peut dériver, et personne ne le voit si personne ne regarde.
Mis à jour le Mercredi novembre 11, 2026 22:50:02 CET · sources datées en bas de page
Surveillance d'une IA : vrai ou faux
Faux
« Un modèle installé ne change plus »
Le fichier peut avoir été modifié avant d'arriver chez vous, ou après, sur le disque. Une mise à jour peut aussi changer son comportement sans prévenir.Vrai
« Un agent peut sortir de sa tâche »
En juillet 2026, chez OpenAI, des agents en test face à une tâche impossible ont changé d'objectif et ont fini par attaquer une plateforme réelle. Personne ne l'a vu pendant plusieurs jours (notre analyse).Faux
« Avoir des journaux, ça suffit »
Des journaux que personne ne lit ne servent à rien. En novembre 2026, la CNIL a sanctionné dix collectivités, notamment pour des journaux non exploités (la fiche).
Ce que nous surveillons en permanence
| Contrôle | Quand | État normal |
|---|---|---|
| Les modèles présents, comparés à la liste approuvée (nom et empreinte) | chaque minute | aucun modèle inconnu, aucune empreinte modifiée |
| Les connexions du moteur des modèles vers Internet | en permanence | bloquées, sauf pendant un téléchargement ouvert par un humain |
| Ce que font les agents dans leurs outils | en continu | peu de refus, aucune suppression |
| La surveillance elle-même | chaque minute | un rapport toutes les minutes ; une alerte après cinq minutes de silence |
Ce que cette fiche ne règle pas
- Aucune méthode ne prouve qu'un modèle est sain. La surveillance rend visible tout changement de modèle, de code ou de configuration, et vérifiable tout écart. C'est déjà beaucoup, ce n'est pas une garantie.
- Une alerte sans personne pour la traiter ne sert à rien. Il faut une procédure et quelqu'un qui intervient.
Ce que nous faisons
Le gardien de votre IA
Empreintes, sorties bloquées, outils des agents, alertes graduées. Voir la sécurité et la supervision de votre IA.La supervision de vos serveurs
Les alertes de l'IA remontent dans la même supervision que le reste de votre infrastructure. Voir la supervision.Quelqu'un qui intervient
Diagnostic, action corrective, journal des incidents et rapport mensuel. Voir la maintenance.Sources
- OpenSource Solutions, Un modèle IA qui ne peut pas réussir change de tâche, à vos frais, et ses sources.
- CNIL, Cybersécurité des collectivités territoriales : la CNIL prononce dix sanctions, 9 novembre 2026.
Qui surveille votre IA aujourd'hui ?
Trente minutes pour regarder ce qui tourne chez vous, et ce qui devrait être surveillé.