L'actrice IA Tilly Norwood scannait le visage de chaque appelant avant de fermer sa hotline

La société britannique Xicoia, créatrice de l'actrice générée par intelligence artificielle Tilly Norwood, imposait depuis septembre 2026 à quiconque appelait sa hotline vidéo « Talking Tilly » un scan facial de vérification d'âge et une analyse continue de ses émotions, impossibles à refuser, avant l'annonce de la fermeture définitive du service au 27 septembre 2026, selon une enquête de BleepingComputer publiée le 19 septembre 2026, également reprise par Clubic.

Un scan facial obligatoire pour tous les appelants

Fondée par Eline van der Velden, Xicoia fait analyser chaque selfie vidéo par le prestataire espagnol Didit pour estimer l'âge de l'appelant, sans possibilité de contourner cette étape, où que se trouve la personne dans le monde. Une fois la conversation lancée, un second système, que Xicoia ne permet pas de désactiver, analyse en continu l'image de la caméra et le ton de la voix pour en déduire l'état émotionnel de l'appelant.

Que deviennent les données de l'appel ?

Les appels sont transcrits et traités par des prestataires américains, notamment via le modèle Gemini de Google, et conservés jusqu'à huit semaines selon BleepingComputer. Le média rapporte aussi qu'un enregistrement de test a été signalé à tort comme contenant un « langage haineux ou abusif », avant d'être supprimé sous 24 heures — un faux positif que le système ne semble pas capable d'expliquer à l'utilisateur concerné. Sur le plan légal, Xicoia s'appuie sur la notion d'« intérêt légitime » plutôt que sur le consentement explicite pour justifier la vérification d'âge et l'analyse des émotions, un choix effectué en septembre 2026.

Un service payant qui ferme avant d'avoir fait ses preuves

L'accès est gratuit les cinq premières minutes, puis facturé de 0,99 à 22 livres sterling pour un maximum de 35 minutes achetées, la totalité des minutes non utilisées devenant caduque à la fermeture du service le 27 septembre 2026. Ce calendrier serré intervient alors que le Royaume-Uni impose depuis juillet 2025, au titre de l'Online Safety Act, des vérifications d'identité sur les sites pour adultes, et prépare une interdiction des réseaux sociaux aux moins de 16 ans prévue pour le printemps 2027 — un contexte réglementaire qui pousse certains éditeurs à généraliser ce type de contrôle, parfois au prix d'une collecte de données biométriques et émotionnelles plus large que nécessaire.

Sources

D'après BleepingComputer (article original en anglais) et Clubic, 19 septembre 2026.