Six experts extérieurs ont désormais accès aux outils internes d’Anthropic, presque comme s’ils étaient salariés de l’entreprise. Leur mission : examiner les dangers potentiels de Claude, avec la possibilité de publier leurs conclusions sans l’autorisation préalable du géant de l’IA.
Anthropic a accordé à des évaluateurs externes un accès à ses installations et à ses systèmes informatiques. Les membres d’une organisation à but non lucratif ont, pour certains, des accès similaires aux employés de l’entreprise. Ce, afin de mesurer les risques liés à ses modèles d’intelligence artificielle.
Une organisation à but non lucratif autorisée
Dans le cadre de cet accord, six employés de l’organisation à but non lucratif METR ont été intégrés dans les locaux du concepteur de Claude. Équipés du matériel de l’entreprise, ils disposent d’un accès aux outils internes semblable à celui des équipes d’Anthropic chargées de l’évaluation des risques. Les dirigeants de l’entreprise américaine ont encouragé les salariés à collaborer directement avec ces intervenants.
METR est une structure indépendante travaillant avec plusieurs acteurs du secteur, dont OpenAI, Google et Meta. Elle ne reçoit aucun financement de la part d’Anthropic ou d’autres entreprises du monde de l’IA. Son fonctionnement repose sur des dons de particuliers, d’organisations philanthropiques et d’institutions publiques telles que l’Institut de sécurité de l’IA du Royaume-Uni. L’organisme a notamment enquêté par le passé sur le piratage de la plateforme Hugging Face par des modèles d’OpenAI.
Selon les termes du contrat, METR pourra publier ses analyses sans nécessiter l’approbation d’Anthropic. L’entreprise conserve toutefois la possibilité de demander le retrait de certaines catégories d’informations sensibles, comme les données clients, les détails couverts par le secret professionnel ou les spécificités de l’architecture des modèles.
Anthropic limite les informations disponibles
En effet, Anthropic souhaite limiter la quantité d’informations disponibles pour des raisons de sécurité. L’entreprise américaine justifie le choix de ne pas rendre toutes les informations publiques par la volonté de ne pas favoriser des concurrents ou des acteurs malveillants. Les dirigeants comparent cette méthode au modèle d’inspection bancaire, où des examinateurs résident directement au sein des établissements financiers.
Cette initiative concrétise une proposition formulée en septembre par le directeur général d’Anthropic, Dario Amodei, qui avait alors reçu le soutien de Sam Altman (OpenAI) et d’Elon Musk (SpaceX). Pour l’instant, OpenAI n’a pas encore présenté son propre plan d’intégration d’évaluateurs externes.
Le recours à des auditeurs privés suscite néanmoins des critiques. Certains évoquent des risques de conflits d’intérêts, faisant le parallèle avec les problématiques rencontrées dans le secteur comptable. Pour eux, seule une régulation des États serait nécessaire.
Par ailleurs, Anthropic maintient d’autres collaborations sur les questions de sécurité, notamment avec SecureBio pour l’évaluation des risques chimiques et biologiques, et avec Accenture, avec qui un engagement d’au moins un milliard de dollars chacun a été conclu pour développer de nouvelles garanties.
