La start-up de cybersécurité Cathedral affirme avoir identifié, en moins de 12 heures, des failles dans des logiciels tiers utilisés par Anthropic, l’éditeur du modèle Claude. Anthropic confirme un accès limité à certains systèmes internes, mais indique que les conversations des utilisateurs et les composants de ses modèles n’ont pas été consultés.
Selon un rapport préliminaire de Cathedral, cette jeune société de cybersécurité a trouvé des voies d’accès à plusieurs systèmes internes de l’entreprise en moins de 12 heures. Consulté par le Washington Post, le document évoque des informations potentiellement accessibles, notamment des comptes rendus de réunions, des données salariales et des échanges sur Slack liés aux modèles d’IA avancés d’Anthropic.
Selon Anthropic, les chercheurs avaient passé plusieurs jours à tenter, sans succès, de pénétrer directement ses logiciels. Ils se sont alors tournés vers des applications professionnelles tierces vulnérables. Les « moins de 12 heures » correspondent donc à la phase de recherche fructueuse, et non à l’ensemble des tentatives.
L’accès n’aurait pas été obtenu en attaquant directement Claude ou son infrastructure d’entraînement. Cathedral aurait exploité des vulnérabilités dans des logiciels tiers utilisés par Anthropic pour ses activités commerciales et administratives. Les éditeurs concernés n’ont pas été identifiés publiquement.
Une recherche de vulnérabilités accélérée par l’IA
Fondée par d’anciens membres du Department of Government Efficiency (DOGE), l’organisme de l’administration Trump chargé de réduire les dépenses publiques, Cathedral développe des capacités de cybersécurité reposant sur l’IA, notamment pour des usages gouvernementaux. La société affirme avoir mené ses recherches dans le cadre du programme de divulgation de vulnérabilités d’Anthropic, qui autorise des chercheurs externes à tester certaines protections et à signaler les failles découvertes. Elle indique avoir communiqué ses résultats à l’éditeur et aux fournisseurs concernés.
Les agents IA ont servi à automatiser la recherche de chemins d’accès dans les applications connectées aux systèmes internes. D’après le rapport préliminaire, les données visées comprenaient des transcriptions de réunions, des informations sur les rémunérations et les offres d’embauche, ainsi que des discussions internes sur les modèles avancés de l’entreprise. Des agents capables d’enchaîner plusieurs tâches peuvent réduire le temps nécessaire pour explorer des systèmes complexes et repérer des configurations vulnérables. Cette automatisation ne supprime pas pour autant la nécessité de disposer de failles exploitables ni de droits permettant de progresser dans les systèmes.
Anthropic conteste l’ampleur des accès
Anthropic reconnaît que les chercheurs ont atteint un périmètre limité de ses systèmes commerciaux, de ressources humaines et informatiques. L’entreprise indique que certaines coordonnées professionnelles de clients et de partenaires, ainsi que des informations élémentaires sur des comptes utilisateurs, étaient accessibles. Elle affirme en revanche que les conversations avec Claude, les réponses du modèle, le code source et les paramètres entraînés des modèles n’ont pas été consultés.
Anthropic précise également que ses mécanismes de surveillance avaient détecté une partie de l’activité de Cathedral avant le signalement des chercheurs. L’entreprise indique avoir coupé les accès le jour même et désactivé les logiciels concernés, dans l’attente de corrections par leurs fournisseurs. Elle affirme par ailleurs ne disposer d’aucun élément montrant que d’autres acteurs ont exploité les mêmes vulnérabilités.
Les deux sociétés divergent sur l’interprétation de l’incident. Cathedral présente ses résultats comme un avertissement sur les capacités offensives émergentes de l’IA. Anthropic estime pour sa part que la start-up a exagéré les implications de ses découvertes pour la sécurité nationale, et lui reproche de ne pas avoir déclaré l’ensemble de ses activités conformément aux règles du programme de recherche. À ce stade, les informations publiées ne permettent pas de conclure à une compromission des modèles d’Anthropic. Elles montrent néanmoins qu’un accès limité à des applications professionnelles peut exposer des informations sensibles.
Product offers are temporarily unavailable.
