Anthropic accorde à METR un accès interne de niveau employé pour auditer ses modèles frontières

Un précédent dans la gouvernance de l'IA

Anthropic a annoncé l'octroi de permissions internes à six membres de METR (Model Evaluation and Threat Research), une organisation indépendante à but non lucratif. Cette mesure, décrite comme un accès de « niveau employé », permet aux évaluateurs externes d'opérer au sein des systèmes de l'entreprise avec une autonomie sans précédent dans l'industrie.

L'objectif déclaré est de combler le fossé entre la compréhension interne des systèmes d'IA et la capacité des auditeurs à les vérifier. En intégrant ces évaluateurs dans le quotidien, l'entreprise cherche à garantir que les conclusions sur les risques, les incidents et les pratiques opérationnelles reposent sur une observation directe et non sur des rapports filtrés ou limités par l'entreprise elle-même.

Ce que signifie l'« accès de niveau employé »

Concrètement, cet accès se traduit par la fourniture de matériel informatique d'entreprise, d'un espace physique dans les bureaux d'Anthropic et de credentials pour utiliser les outils internes d'évaluation des risques. Les chercheurs de METR peuvent interagir avec les modèles et les systèmes de surveillance des agents de la même manière qu'un technicien interne de l'équipe de sécurité.

Cependant, cet accès n'est pas total. Les données des clients, les informations protégées par le secret professionnel et l'architecture technique détaillée des modèles sont explicitement exclues. Cette distinction est cruciale pour équilibrer la transparence avec la protection de la propriété intellectuelle et la confidentialité des utilisateurs.

Le cadre à trois niveaux d'audit

Anthropic conçoit un système d'accès échelonné pour d'autres évaluateurs. Le premier niveau, où se trouve actuellement SecureBio, implique des recherches à portée très limitée et nécessite une autorisation préalable pour publier. Le deuxième niveau accorde plus d'informations et permet de publier sans approbation préalable, sous réserve de suppressions spécifiques que l'auditeur peut contester publiquement.

METR opère au troisième niveau, le plus avancé. Ce niveau combine un accès technique complet (similaire à celui d'un employé) avec des droits de publication analogues au deuxième niveau. L'entreprise a indiqué qu'elle était en pourparlers avec d'autres entités, comme Hugging Face et Faculty (filiale d'Accenture), pour les intégrer à ce schéma, bien que leurs droits actuels soient plus restreints.

Indépendance et controverses

Bien que METR se définisse comme indépendante et ne reçoive pas de financement direct des laboratoires qu'elle évalue, des critiques existent quant à son autonomie. L'organisation compte des chercheurs issus d'Anthropic, d'OpenAI et de DeepMind, et son financement provient en grande partie de fondations liées au mouvement de l'altruisme efficace, avec lequel Dario Amodei, PDG d'Anthropic, entretient des liens familiaux et professionnels.

Des critiques comme David Sacks ont souligné que cette proximité pourrait compromettre l'objectivité des audits. Néanmoins, METR a insisté sur le fait que sa méthodologie repose sur l'évaluation scientifique des capacités autonomes et que son travail, comme la révision des systèmes de surveillance des agents d'Anthropic, a identifié des vulnérabilités réelles que l'entreprise a corrigées.

Implications pour l'industrie et la régulation

Cette initiative s'inscrit dans la proposition de Dario Amodei de « modérer l'avancement de la frontière » de l'IA. En établissant un standard de transparence vérifiable, Anthropic cherche à influencer la régulation future, en arguant que les laboratoires doivent assumer la responsabilité de démontrer la sécurité de leurs modèles avant que les gouvernements n'imposent des restrictions coercitives.

Pour le reste de l'industrie, ce mouvement pose un dilemme : adopter un niveau de transparence similaire pour maintenir la compétitivité réglementaire ou conserver le contrôle sur l'information technique. La capacité de METR à contester publiquement les censures imposées par Anthropic ajoute une couche de reddition de comptes qui pourrait devenir une exigence standard pour les modèles frontières dans les années à venir.

Poursuivre l’exploration

Corrections et transparence

Si vous repérez une information incorrecte ou obsolète, envoyez-nous la page et la source à vérifier.