Anthropic et METR : une évaluation indépendante des risques IA
Anthropic a annoncé le 15 octobre 2026 avoir accordé à six membres de l’organisation METR un accès comparable à celui de ses équipes internes chargées des risques. L’accord veut rapprocher l’évaluation indépendante du lieu où les modèles sont développés, sans attendre que toutes les informations deviennent publiques.
Un accès proche de celui des équipes internes
Les six évaluateurs de METR disposent de matériel fourni par Anthropic, d’un espace de travail et d’un accès à des outils et systèmes internes. Les salariés d’Anthropic sont encouragés à échanger avec eux comme avec des collègues travaillant sur les risques d’alignement. L’objectif est de leur permettre d’observer les méthodes, les incidents et les décisions avec davantage de contexte qu’un audit réalisé uniquement de l’extérieur.
Cet accès comporte des exclusions. Les données concernant les clients, les informations protégées par le secret juridique et certains éléments de l’architecture des modèles restent hors périmètre. L’équipe concernée est isolée du reste de METR et travaille dans le cadre d’accords contraignants. L’accès est donc étendu, mais il n’est ni illimité ni ouvert à toute l’organisation.
Une liberté de publication encadrée
METR doit pouvoir publier ses analyses sur les niveaux de risque, les incidents ou les pratiques observées. Anthropic affirme ne pas disposer d’un droit de veto général. L’entreprise peut toutefois demander la suppression d’informations appartenant à quelques catégories prédéfinies. METR pourra indiquer publiquement qu’une rédaction a été demandée et dire si elle la juge justifiée, sans révéler le contenu retiré.
Ce mécanisme cherche à résoudre une tension classique. Un évaluateur a besoin d’informations précises pour comprendre un risque, tandis qu’un laboratoire veut protéger ses secrets industriels, ses obligations juridiques et les données de ses clients. L’indépendance ne dépend donc pas seulement de l’accès, mais aussi de la capacité à choisir les questions, publier les conclusions et expliquer les limites rencontrées.
Un modèle d’évaluation encore en construction
Anthropic décrit trois niveaux de collaboration. Le premier concerne des investigations ciblées dont la publication dépend de l’accord de l’entreprise. Le deuxième offre davantage d’informations et une publication sans autorisation préalable, avec des possibilités de rédaction. Le troisième correspond à l’accès accordé à METR, plus proche d’une présence intégrée au sein du laboratoire.
D’autres collaborations sont engagées avec SecureBio et Faculty, l’activité d’intelligence artificielle d’Accenture. Elles se trouvent encore à des stades moins avancés. Anthropic indique également discuter avec d’autres organisations, dont Hugging Face. Ces partenariats ne doivent pas être confondus avec des audits achevés ou des certifications de sécurité.
Ce que les entreprises doivent retenir
Pour un client professionnel, l’annonce rappelle qu’une déclaration de sécurité du fournisseur ne remplace pas une évaluation indépendante. Il faut examiner l’identité de l’évaluateur, son financement, son périmètre, ses droits de publication et les restrictions imposées. Il faut aussi vérifier si les conclusions concernent le modèle utilisé, sa version exacte et les conditions concrètes de déploiement.
Aucun résultat final de cette nouvelle évaluation n’était encore publié au moment de l’annonce. L’intérêt de l’accord dépendra donc de la qualité des travaux, de leur transparence et de la réponse d’Anthropic aux problèmes éventuellement identifiés. L’ouverture d’un accès constitue une étape ; elle ne vaut pas encore preuve d’un niveau de sécurité.
Sources consultées
Annonce d’Anthropic sur le travail avec les évaluateurs indépendants — 15 octobre 2026.
Reuters sur l’accès accordé à METR et les enjeux d’indépendance — 15 octobre 2026.
Comprendre l’innovation. Mesurer son impact. Agir avec discernement.
Challenge Impact News décrypte les évolutions de l’intelligence artificielle et des nouvelles technologies, ainsi que leurs conséquences concrètes sur les entreprises, les métiers et notre société.
Sous la direction éditoriale de Cyril Darmon
Fondateur d’UMANIA, consultant, formateur et conférencier spécialisé en intelligence artificielle et en transformation des entreprises.
UMANIA — L’IA au cœur de l’humain. Un partenaire éditorial à l’origine de Challenge Impact News.
Commentaires