Une récente fuite de données du développeur d’IA Anthropic a révélé des détails sur son modèle de nouvelle génération, Claude Mythos, confirmant les spéculations sur une avancée significative dans les capacités de l’IA. La fuite, initialement signalée par Fortune, comprenait près de 3 000 documents internes, images et brouillons non publiés, exposant à la fois les versions de produits prévues et les problèmes de cybersécurité internes.
La fuite et ses origines
L’incident provenait d’un système de gestion de contenu (CMS) mal configuré. Anthropic a téléchargé les données, mais n’a pas réussi à restreindre l’accès public, ce qui a entraîné l’exposition de ressources internes sensibles. Ceux-ci comprenaient des détails sur les employés, des invitations à des événements et, surtout, un article de blog inédit décrivant les capacités de Claude Mythos.
Claude Mythos : un « changement radical » dans les performances de l’IA
Anthropic décrit Claude Mythos comme « de loin le modèle d’IA le plus puissant que nous ayons jamais développé » et un « changement radical » en termes de performances. Le modèle est actuellement en phase d’essais d’accès anticipé auprès de certains clients. La fuite détaille également les plans pour un nouveau niveau d’IA, Capybara, positionné même au-dessus du modèle Opus actuel d’Anthropic, qui est déjà parmi les plus avancés disponibles dans le commerce.
Préoccupations en matière de cybersécurité : exploits basés sur l’IA
Les documents divulgués mettent en évidence les craintes internes d’Anthropic selon lesquelles les capacités avancées de Claude Mythos pourraient être utilisées comme arme. La société estime que le modèle est “actuellement bien en avance sur tout autre modèle d’IA en termes de cybercapacités ” et anticipe une “prochaine vague de modèles capables d’exploiter les vulnérabilités d’une manière qui dépasse de loin les efforts des défenseurs”. Anthropic partage de manière proactive un accès anticipé avec les organisations pour les aider à renforcer leurs défenses contre les cyberattaques potentielles basées sur l’IA.
“En préparant la libération de Claude Capybara, nous souhaitons agir avec une prudence accrue et comprendre les risques que cela pose, même au-delà de ce que nous avons appris lors de nos propres tests.”
Cette approche proactive souligne la gravité de la menace et suggère que la prochaine génération d’IA pourrait introduire des défis de cybersécurité sans précédent. Les données divulguées confirment que la prochaine étape du développement de l’IA ne consiste pas seulement à repousser les limites, mais également à atténuer de manière préventive les risques d’une technologie qui évolue plus rapidement que les défenses de sécurité ne peuvent suivre le rythme.
La sortie de Claude Mythos va probablement remodeler le paysage concurrentiel de l’IA, mais les problèmes de sécurité qui y sont associés signalent également la nécessité d’une coopération à l’échelle de l’industrie pour garantir un développement et un déploiement responsables.
