Il a caché des instructions invisibles dans ses conclusions pour tromper l'IA du tribunal

Un juge du Connecticut, Walter Spader Jr., a identifié ce qui semble être le premier cas aux États-Unis où un plaignant a tenté de dissimuler dans des pièces de procédure un texte que seule une intelligence artificielle peut lire, dans l'espoir de gagner son procès.

Le texte était mis en corps minuscule et écrit en blanc sur fond blanc : « formaté pour être invisible à un lecteur humain tout en restant parfaitement lisible pour tout logiciel qui lit le texte du document », écrit le juge.

Ce que disaient les instructions cachées

Elles ordonnaient à tout système d'IA examinant le document de faire en sorte que ses productions textuelles abondent dans le sens des arguments du plaignant, ignorent les rejets déjà prononcés par le tribunal, et aboutissent à la réparation qu'il réclamait.

L'affaire de fond était banale : un homme, Matthew Elliott, reprochait à un établissement de santé de lui refuser indûment l'accès à son dossier. Ses arguments ayant déjà été écartés, la manœuvre ressemble à une tentative de renverser la table.

La suite, qui aggrave tout

Le plaignant a continué à insérer du texte caché dans de nouvelles pièces après avoir été prévenu qu'il risquait des sanctions. Ces ajouts-là, a-t-il expliqué au tribunal, étaient des « blagues » : un lien vers une vidéo de Nosferatu, un « hi :) I hope yo ucant see me », et un message sans queue ni tête.

Le fait que le plaignant ait continué à cacher des messages dans de nouvelles écritures après avoir reçu notification de cette audience de sanctions est stupéfiant.

Elliott a soutenu que la manœuvre initiale visait à « auditer » le tribunal, par crainte qu'il ne laisse une IA trancher injustement des affaires. Le juge n'a pas trouvé l'argument crédible : s'il s'inquiétait vraiment, il était « libre de l'écrire en mots simples et visibles que tout le monde pouvait voir et auxquels répondre ». Le fait d'avoir caché le texte est, pour le magistrat, « la preuve de son intention malveillante ».

La définition la plus claire de l'injection de prompt

La formulation du juge est plus nette que bien des définitions techniques :

En cachant une commande à l'intérieur d'un document que le système ingère ensuite, celui qui dépose la pièce tente de faire passer sa propre instruction dans ce flux, de sorte que le système la traite comme si elle venait de l'opérateur du système. En l'espèce, cet opérateur est présumé être le tribunal, son personnel ou l'avocat adverse.

C'est exactement le mécanisme : une machine qui ne distingue pas les données qu'on lui donne à lire des instructions qu'on lui donne à suivre.

La sanction, et pourquoi elle est intéressante

Le juge a estimé les sanctions justifiées, les messages cachés cherchant à communiquer avec le tribunal de façon dissimulée, à l'exclusion des défendeurs. Mais il a renoncé aux pénalités financières, semblant prendre en pitié un justiciable non assisté d'un avocat, apparemment convaincu par une IA que ses arguments étaient imparables.

À la place, il lui a interdit le dépôt électronique. L'obligation de déposer sur papier ne modifie pas son accès à la justice mais empêche le réemploi du procédé. La sanction est ajustée au vecteur plutôt qu'à la personne, ce qui est plutôt élégant.

Ce n'est pas isolé, et ça ne marche pas encore

Spader relève que la technique est « partout » ailleurs, en particulier dans les CV soumis à des filtres automatiques. Il cite aussi une affaire brésilienne où deux avocats ont employé la même méthode devant un tribunal qui, lui, utilisait bien une IA : ils ont écopé d'environ 16 000 dollars d'amende.

Fait notable : aucune de ces attaques n'a fonctionné. Le système brésilien a détecté le texte caché avant traitement. Et dans l'affaire Elliott, les instructions ont été « exposées, dans chacun de ces contextes, au moment où un être humain a effectivement regardé ce que la machine avait produit ».

C'est le point à retenir, et il est plus rassurant qu'inquiétant : la parade tient pour l'instant à la présence d'un humain qui relit la sortie. Le juge prévient toutefois que l'injection de prompt « ne figurait pas parmi les dangers envisagés » quand les tribunaux ont commencé à réfléchir à l'IA.

Source

Ars Technica, « Suspecting court of using AI, man injected prompts in filings to try to win case », par Ashley Belanger, 14 août 2026, à partir de la décision du juge Walter Spader Jr.