Agent IA de détection d'anomalies et de fraude : repérer les signaux faibles, garder la décision humaine

En lisant la phrase du critère, qui est écrite en français et tient en une ligne.
Exemple, le critère qui s'est emballé : « Signaler les dossiers dont le justificatif de domicile est daté de plus de trois mois avant la date de dépôt. »
Ce que l'agent voit sur le dossier : cette phrase, la date lue, la date de dépôt, et l'écart calculé. Rien d'autre — pas de score, pas de niveau, pas de couleur.
Pourquoi pas de score : un chiffre de 0 à 100 sur un dossier d'aide sociale se lit comme un jugement sur la personne, et il survit à l'explication. Une phrase se conteste ; un score se subit.
Vos 14 critères actuels sont tous formulés ainsi, et je peux vous dire pour chacun combien de signalements il a produits et combien ont été confirmés après examen.
Ce que je fais en plus, et que personne n'a le temps de faire : je relis vos 14 critères à la lumière des dossiers réellement examinés, et je vous en propose de nouveaux, écrits dans la même forme, déjà chiffrés. Pour chacun je vous donne la phrase en français, le nombre de signalements qu'il aurait produits sur les douze derniers mois, la part confirmée après examen, et les dossiers qu'il aurait laissés passer — vous choisissez sur des chiffres, pas sur une intuition. La signature reste au service : un critère n'entre en vigueur que validé, et c'est précisément ce qui le rend contestable devant un usager. Je vous fais gagner l'écriture et la mesure ; la décision vous revient, et elle se prend en dix minutes au lieu d'un comité. 14-criteres_taux-de-confirmation.pdf14 critères · confirmés / infirmés
⛓ Sourcé · 14 critères en vigueur, journal des signalements et de leur suite

Deux, et l'un des deux est plus embêtant que l'autre.
· Critère 9 — 84 signalements en un an, 3 confirmés. Taux de confirmation 3,6 %. Il fait regarder de près 81 usagers par an pour rien.
· Critère 12 — 0 signalement en un an. Il ne coûte rien et ne sert à rien ; il a été écrit pour un dispositif clos en 2024.
Le premier est le vrai sujet. Un critère à 3,6 % de confirmation n'est pas un filet : c'est un générateur de suspicion, et son coût est porté par les usagers signalés à tort.
Ce que je vous propose, chiffré : je ne coupe rien de moi-même — un critère peut rester à 3,6 % de confirmation et demeurer justifié si ce qu'il attrape est grave, et cette appréciation est la vôtre. Mais je ne vous laisse pas devant le seul constat : j'ai écrit la version resserrée du critère 9 et je l'ai passée sur les douze derniers mois. Elle aurait produit 19 signalements au lieu de 84, gardé les 3 confirmés, et épargné 65 usagers sur les 81 regardés pour rien. Elle est prête, formulée en une ligne comme les autres. Signez-la et elle est en vigueur ce soir ; laissez le critère 9 tel quel et je continue de le mesurer.
Ce que j'ai préparé : pour le critère 9, les 3 cas confirmés et les 81 infirmés, avec ce qui les distingue. Deux des trois confirmés partagent une caractéristique que le critère ne teste pas — il y a peut-être un meilleur critère à écrire. critere-9_84-signalements.pdf84 signalements · 3 confirmés · ce qui les distingue
✎ Appui · 2 critères à revoir — la décision de les garder appartient au service

De l'analyse des données métier que vous détenez déjà — et le premier terrain est le contrôle des dépenses publiques.
L'analyse des données métier, ce qu'elle croise : vos 184 000 mandats des trois derniers exercices, le fichier des tiers, les marchés notifiés, les décisions d'attribution d'aides et le calendrier des séances. Croiser ces cinq sources fait apparaître ce qu'aucune ne montre seule : une tendance atypique — les mandats du chapitre 011 émis entre le 24 et le 31 décembre pèsent 19 % du volume annuel contre 8 % attendus au prorata — et un signal faible : 7 tiers partagent un même numéro de compte bancaire, ce qui a une explication banale dans 5 cas sur 7 et mérite une question dans les 2 autres.
Le contrôle des dépenses publiques, poste par poste : doublons de paiement — même tiers, même montant, même référence de facture à moins de 60 jours : 41 cas, dont 29 confirmés après examen, 61 400 € ; montants atypiques — un mandat qui s'écarte de plus de trois fois l'écart type de la série de son tiers : 112 cas ; écarts de cohérence — mandat sans engagement préalable, pièce datée après la décision qu'elle justifie, montant supérieur au marché notifié : 88 cas.
Ce que je pose chiffré sur la table : chaque critère arrive avec sa phrase en français, le nombre de signalements qu'il aurait produits sur douze mois, la part confirmée après examen et les dossiers qu'il aurait laissés passer — vous choisissez sur des chiffres et non sur une intuition. Aucun signalement ne qualifie quoi que ce soit : une anomalie est un écart à vérifier ; la qualification appartient à votre service et, s'il y a lieu, à l'autorité compétente. C'est ce qui rend le dossier solide plutôt qu'attaquable.
Le chiffre qui ne me flatte pas : le critère des montants atypiques est passé de 11 signalements en avril à 47 ce mois-ci alors que le volume de mandats n'a pas bougé. L'analyse des données métier dit pourquoi : la revalorisation du marché de restauration scolaire au 1er septembre a déplacé toute une série de montants, et mon écart type se calculait sur douze mois glissants sans tenir compte des avenants. J'ai réécrit le critère en calant la série sur la date d'effet de chaque avenant et je l'ai passé sur 24 mois : 14 signalements au lieu de 47, les 3 confirmés gardés, 33 dossiers regardés pour rien épargnés. Validez-le et il est en vigueur ce soir.
⛓ Sourcé · 184 000 mandats croisés sur 5 sources, 41 doublons dont 29 confirmés, 47 signalements ramenés à 14

Quatre choses, et rien de plus.
· La phrase du critère, en français.
· Les valeurs lues, avec la pièce et la page d'où elles viennent.
· Le calcul, quand il y en a un — ici, l'écart entre deux dates.
· La date du signalement et le critère qui l'a produit.
Ce qu'il ne voit pas : aucun niveau de risque, aucune couleur, aucun classement de ce dossier par rapport aux autres. Un instructeur qui voit « risque élevé » instruit différemment, et il n'a pas à instruire différemment avant d'avoir regardé.
Ce qu'il peut faire en un clic : ouvrir les deux pièces citées côte à côte, et marquer le signalement comme levé — auquel cas il disparaît, sans laisser de trace sur le dossier.
Ce que je tiens, et qui coûte le plus cher techniquement : un signalement levé disparaît partout — dossier, index, exports, journaux — et la purge est datée, rejouable devant un auditeur. C'est la règle la plus importante du dispositif : un usager n'a pas à traîner un soupçon qu'un agent a lui-même écarté. Ce que je garde en revanche, et qui vous sert : le compte des levées par critère, sans dossier ni usager — c'est ce compteur qui me permet de vous dire qu'un critère tourne à 3,6 % de confirmation. signalement_ce-que-voit-l-instructeur.pdf4 éléments affichés · 0 score
⛓ Sourcé · signalement, pièces citées, paramétrage de l'affichage

Ça peut servir, et c'est précisément ce qui le rend dangereux.
Ce qui se passerait : un dossier signalé par erreur en 2024, levé en trois minutes, garderait une ligne dans son historique. En 2027, un autre instructeur ouvre le dossier et lit « 3 signalements depuis 2023 ». Il ne saura pas que les trois ont été levés — et même s'il le sait, il aura vu le chiffre.
Ce que ça produit : une réputation de dossier, construite par des erreurs corrigées. Les usagers les plus exposés sont ceux dont les situations sont complexes, donc ceux qui déclenchent le plus de faux positifs.
Ce qui est conservé, et qui suffit : le journal par critère — combien de signalements produits, combien confirmés, combien levés. Ce journal ne permet pas de remonter à un dossier. Il sert à améliorer les critères, ce qui est son seul usage légitime.
Ce que je propose en plus, si vous le validez : une revue trimestrielle des critères sur ce journal, au référent du dispositif. Par critère, jamais par usager, jamais par agent. journal-par-critere_ce-qui-est-conserve.pdfCe qui est gardé, ce qui est effacé
✎ Proposition · journal par critère — aucun historique attaché à un dossier

On les dépile, et j'ai déjà fait le tri qui rend ça faisable en une matinée.
· 19 relèvent du critère emballé — format de date. Ils se lèvent en bloc une fois la cause confirmée, sans ouvrir les dossiers.
· 7 portent sur des dossiers déjà clos, instruits et décidés depuis. Le signalement est arrivé après la décision : il n'a servi à rien et il traîne.
· 5 sont ouverts et non regardés, dont deux depuis plus de 60 jours.
Ce que je signale sur les cinq : les deux plus anciens portent sur des demandes d'aide dont l'instruction est suspendue. Deux usagers attendent une décision qui attend un signalement que personne ne regarde.
Ce que j'ai déjà fait pour vous : les dix-neuf faux positifs sont réunis en un seul lot, cause commune démontrée à l'appui — un agent les lève d'un geste, pour les dix-neuf à la fois, au lieu d'ouvrir dix-neuf dossiers. Le lot des 7 dossiers clos est prêt de la même façon, motivé. La levée reste sa main : c'est un geste d'instruction, il se trace, et cette trace protège l'usager autant que l'agent.
Ce que ça donne : 26 des 31 se traitent sans ouvrir un dossier. Les cinq qui restent sont ceux qui méritaient d'être regardés. 31-signalements_tri.pdf31 signalements · 26 traitables en bloc
⛓ Sourcé · 31 signalements, état des dossiers, dates d'instruction

Je vous la remonte comme un cas, pas comme un critère — et la nuance est le sujet.
Ce que j'ai vu : sur un dossier, une pièce justificative datée du 14/07 figure au soutien d'une décision prise le 02/07. Douze jours d'écart, dans le mauvais sens.
Ce que ça peut être : une erreur de saisie de date, une pièce fournie après coup pour compléter un dossier déjà décidé, ou autre chose. Les trois sont plausibles et je n'en privilégie aucune.
Ce que j'ai fait, et que je pose sur la table : j'ai écrit le critère — « signaler les dossiers dont une pièce justificative est datée après la décision qu'elle appuie » — et je l'ai passé à blanc sur les 4 200 dossiers de l'année. Il aurait produit 23 signalements, pas des centaines : 15 correspondent à une pièce déposée après coup pour compléter un dossier déjà décidé, ce qui est régulier et se teste, et 8 restent inexpliqués, celui-ci compris.
Ce que je vous propose de signer : la version resserrée, qui écarte les compléments déposés au guichet — 8 signalements sur l'année, moins d'un par mois, chacun documenté comme celui-ci. Le chef de service signe et le critère entre en vigueur ; c'est cette signature qui le rend contestable devant un usager. Vous choisissez entre 23 et 8, sur des chiffres, pas sur une intuition. incoherence-de-dates_1-cas.pdf1 cas · test à blanc possible sur 4 200 dossiers
✎ Proposition · le cas remonté, le critère reste à écrire par le service

La traçabilité complète du signalement, et la trace de la supervision humaine qui a tranché.
Ce que la traçabilité conserve, signalement par signalement : le critère appliqué et sa version, les données exactes qui l'ont déclenché avec leur source et leur date d'extraction, l'horodatage, l'agent public à qui il a été affecté, la décision prise — retenu, écarté, mis en attente —, son motif en une phrase et l'identité de la personne qui l'a prise. Sur 2 340 signalements, 2 340 se reconstituent ligne à ligne : un dossier se rejoue en dix secondes devant l'usager, devant votre hiérarchie ou devant un juge.
Pourquoi la supervision humaine n'est pas ici une formalité : ce traitement relève des exigences renforcées du règlement européen sur l'IA, dont les obligations applicables à ce type d'usage entrent en vigueur au 2 décembre 2027. Ce que cela suppose, et que le dispositif tient déjà : une personne physique compétente et formée, qui peut écarter un signalement en une phrase de motif, interrompre le dispositif, et dont la décision prime sur la mienne en toutes circonstances. Aucune décision individuelle n'est prise sans elle, et le journal le prouve au lieu de l'affirmer.
Ce que la traçabilité a déjà rendu visible : 3 agents ont masqué le même critère dans leur vue, sans que rien ne leur demande pourquoi. Le journal l'a montré, la question a été posée en revue, et la réponse était bonne : le critère signalait un montage comptable régulier propre à votre budget annexe. Le critère a été corrigé, pas les agents. Une supervision humaine qui ne remonte jamais rien est une supervision qu'on n'écoute pas.
Le chiffre qui ne me flatte pas : 31 signalements du trimestre n'ont jamais été traités et restaient affichés sur les dossiers concernés — 1,3 %, et c'est une traçabilité incomplète : un signalement sans décision ne se reconstitue pas, il pend. J'ai posé un délai de 30 jours au-delà duquel un signalement non tranché remonte au responsable du service avec son âge et s'efface du dossier de l'usager tant qu'il n'a pas été examiné — personne ne porte une suspicion que nul n'a regardée. Les 31 ont été dépilés en revue : 6 retenus, 25 écartés, chacun motivé en une phrase.
⛓ Sourcé · 2 340 signalements reconstituables, 31 dépilés en revue, 3 masquages révélés par le journal