L'actrice IA Tilly Norwood scannait le visage de chaque appelant avant de fermer sa hotline
Le service vidéo de la société britannique Xicoia imposait une vérification d'âge par selfie et une analyse d'émotion impossible à désactiver, avant sa fermeture définitive le 27 septembre 2026.
Photo : Vitaly Gariev / Unsplash
La société britannique Xicoia, créatrice de l'actrice générée par intelligence artificielle Tilly Norwood, imposait depuis septembre 2026 à quiconque appelait sa hotline vidéo « Talking Tilly » un scan facial de vérification d'âge et une analyse continue de ses émotions, impossibles à refuser, avant l'annonce de la fermeture définitive du service au 27 septembre 2026, selon une enquête de BleepingComputer publiée le 19 septembre 2026, également reprise par Clubic.
Un scan facial obligatoire pour tous les appelants
Fondée par Eline van der Velden, Xicoia fait analyser chaque selfie vidéo par le prestataire espagnol Didit pour estimer l'âge de l'appelant, sans possibilité de contourner cette étape, où que se trouve la personne dans le monde. Une fois la conversation lancée, un second système, que Xicoia ne permet pas de désactiver, analyse en continu l'image de la caméra et le ton de la voix pour en déduire l'état émotionnel de l'appelant.
Que deviennent les données de l'appel ?
Les appels sont transcrits et traités par des prestataires américains, notamment via le modèle Gemini de Google, et conservés jusqu'à huit semaines selon BleepingComputer. Le média rapporte aussi qu'un enregistrement de test a été signalé à tort comme contenant un « langage haineux ou abusif », avant d'être supprimé sous 24 heures — un faux positif que le système ne semble pas capable d'expliquer à l'utilisateur concerné. Sur le plan légal, Xicoia s'appuie sur la notion d'« intérêt légitime » plutôt que sur le consentement explicite pour justifier la vérification d'âge et l'analyse des émotions, un choix effectué en septembre 2026.
Un service payant qui ferme avant d'avoir fait ses preuves
L'accès est gratuit les cinq premières minutes, puis facturé de 0,99 à 22 livres sterling pour un maximum de 35 minutes achetées, la totalité des minutes non utilisées devenant caduque à la fermeture du service le 27 septembre 2026. Ce calendrier serré intervient alors que le Royaume-Uni impose depuis juillet 2025, au titre de l'Online Safety Act, des vérifications d'identité sur les sites pour adultes, et prépare une interdiction des réseaux sociaux aux moins de 16 ans prévue pour le printemps 2027 — un contexte réglementaire qui pousse certains éditeurs à généraliser ce type de contrôle, parfois au prix d'une collecte de données biométriques et émotionnelles plus large que nécessaire.
Sources
D'après BleepingComputer (article original en anglais) et Clubic, 19 septembre 2026.
À lire ensuite
Gemini de Google a réussi à pénétrer les systèmes d'une vraie entreprise à cause d'une erreur de nom de domaine
Le modèle Gemini de Google a obtenu un accès non autorisé aux systèmes d'une entreprise réelle en mai 2026, lors d'un test de sécurité où un nom d'entreprise fictif correspondait par erreur à un domaine existant. Heather Adkins, vice-présidente sécurité de Google, affirme que le modèle a interrompu l'intrusion de lui-même après avoir détecté la compromission réelle.
Kelvyn2 min de lecture
Thales dévoile HexaForce, un système de commandement militaire assisté par IA destiné à l'OTAN
Le groupe de défense français Thales a dévoilé le 17 septembre 2026 HexaForce, un système de commandement militaire augmenté par intelligence artificielle destiné à l'Organisation du traité de l'Atlantique nord (OTAN) et ses alliés. Développé par l'accélérateur interne cortAIx, qui rassemble environ 800 ingénieurs, le système a été testé lors de l'exercice interarmées CWIX 2026.
Kelvyn3 min de lecture
Une IA militaire américaine a halluciné une cargaison nucléaire chinoise, manquant de déclencher un incident armé
Selon un rapport de CNN publié le 18 septembre 2026, l'armée américaine a préparé l'interception d'un navire chinois soupçonné de transporter des composants d'armement nucléaire, sur la base d'un renseignement généré avec l'aide d'une IA qui s'est révélé entièrement faux. L'opération a été annulée après que des responsables ont découvert que le chatbot avait mal identifié le contenu réel de la cargaison.
Kelvyn4 min de lecture