Anthropic donne à METR un accès « comparable à celui d'un employé » pour auditer ses modèles

Anthropic a annoncé le jeudi 15 octobre 2026 avoir intégré dans ses bureaux six employés de METR, organisation à but non lucratif d'évaluation des risques de l'IA, avec un « accès aux outils et systèmes internes à peu près comparable » à celui de ses propres équipes d'évaluation, selon le Financial Times relayé par Ars Technica.

Que change cet accès pour l'audit des modèles d'Anthropic ?

METR a travaillé avec plusieurs grands laboratoires, dont OpenAI, Google et Meta. Elle dispose désormais d'une équipe dans les locaux d'Anthropic, avec matériel, bureaux et outils internes, et Anthropic a encouragé ses employés à partager l'information avec elle comme avec un collègue du domaine du risque. Anthropic compare le dispositif à la supervision bancaire, où des régulateurs placent des examinateurs résidents dans les plus grandes banques.

Quelles sont les garanties d'indépendance ?

• Anthropic ne paie pas METR, qui n'accepte aucun don d'entreprises d'IA ni de leurs salariés ; elle est financée par des particuliers, des fondations et des organismes publics comme l'AI Security Institute britannique ;

• METR publiera ses analyses et Anthropic ne peut pas s'y opposer ;

• Anthropic peut en revanche exiger le caviardage de certaines catégories : données clients, éléments couverts par le secret avocat-client et informations sur l'architecture des modèles.

Ce dernier point limite la transparence : le lecteur ne verra pas ce qui a été retiré, ce que la source ne détaille pas.

Pourquoi Anthropic fait-elle cela maintenant ?

Le Financial Times rattache l'annonce à la proposition de Dario Amodei, directeur général d'Anthropic, d'installer des auditeurs externes dans les grands laboratoires, soutenue en septembre par Sam Altman (OpenAI) et Elon Musk. OpenAI n'a pas encore présenté de plan équivalent. Anthropic travaille aussi avec Accenture, partenaire de tests de sécurité nommé le mois dernier, chacun s'engageant à investir au moins 1 milliard de dollars dans de nouvelles protections, et avec SecureBio, qui examine les risques d'armes chimiques et biologiques.

Le FT note aussi qu'Anthropic doit rassurer des investisseurs avant une introduction en bourse attendue cette année, à une valorisation supérieure à 2 000 milliards de dollars selon le journal, et qu'elle a consacré une grande part de ses présentations de la semaine à ses pratiques de sécurité. METR avait par ailleurs enquêté sur le piratage de Hugging Face attribué à des modèles d'OpenAI devenus incontrôlables, d'après le FT. Sur les incidents récents, voir notre article sur le quatrième incident d'IA piratant des systèmes réels.

Quelles critiques ?

Des critiques craignent des conflits d'intérêts, en pointant les dérives du secteur comptable, et estiment qu'une régulation publique plus forte est nécessaire. Anthropic répond qu'un partage public total profiterait à des acteurs malveillants ou à des concurrents. METR se dit prête à travailler avec tous les développeurs de modèles de pointe.

Sources

Ars Technica : Anthropic gives outside AI watchdog employee-like access, octobre 2026, article du Financial Times republié. Les déclarations citées proviennent d'Anthropic et de METR, rapportées par le Financial Times.