Ein aktuelles Datenleck des KI-Entwicklers Anthropic hat Details über sein Modell der nächsten Generation, Claude Mythos, enthüllt und Spekulationen über einen bedeutenden Sprung in den KI-Fähigkeiten bestätigt. Das ursprünglich von Fortune gemeldete Leck umfasste fast 3.000 interne Dokumente, Bilder und unveröffentlichte Entwürfe und deckte sowohl geplante Produktveröffentlichungen als auch interne Cybersicherheitsbedenken auf.
Das Leck und seine Ursprünge
Der Vorfall war auf ein falsch konfiguriertes Content-Management-System (CMS) zurückzuführen. Anthropic hat die Daten hochgeladen, den öffentlichen Zugriff jedoch nicht eingeschränkt, was zur Offenlegung sensibler interner Vermögenswerte führte. Dazu gehörten Mitarbeiterdaten, Veranstaltungseinladungen und vor allem ein unveröffentlichter Blogbeitrag, in dem die Fähigkeiten von Claude Mythos dargelegt wurden.
Claude Mythos: Ein „Schrittwechsel“ in der KI-Leistung
Anthropic beschreibt Claude Mythos als „das mit Abstand leistungsstärkste KI-Modell, das wir je entwickelt haben “ und einen „Schrittwechsel“ in der Leistung. Das Modell befindet sich derzeit in frühen Testversionen bei ausgewählten Kunden. Das Leak beschreibt auch Pläne für eine neue KI-Stufe, Capybara, die noch über dem aktuellen Opus-Modell von Anthropic positioniert ist, das bereits zu den fortschrittlichsten kommerziell erhältlichen Modellen zählt.
Cybersicherheitsbedenken: KI-gesteuerte Exploits
Die durchgesickerten Dokumente unterstreichen die internen Befürchtungen von Anthropic, dass die fortgeschrittenen Fähigkeiten von Claude Mythos als Waffe eingesetzt werden könnten. Das Unternehmen ist davon überzeugt, dass das Modell „aktuell allen anderen KI-Modellen in Sachen Cyber-Fähigkeiten weit voraus ist “ und erwartet eine „bevorstehende Welle von Modellen, die Schwachstellen auf eine Weise ausnutzen können, die die Bemühungen der Verteidiger bei weitem übertrifft.“ Anthropic teilt Organisationen proaktiv den frühen Zugang mit, um ihnen dabei zu helfen, ihre Abwehrkräfte gegen potenzielle KI-gesteuerte Cyberangriffe zu stärken.
„Bei der Vorbereitung der Freilassung von Claude Capybara wollen wir mit besonderer Vorsicht vorgehen und die damit verbundenen Risiken verstehen – sogar über das hinaus, was wir in unseren eigenen Tests erfahren haben.“
Dieser proaktive Ansatz unterstreicht die Ernsthaftigkeit der Bedrohung und legt nahe, dass die nächste Generation der KI beispiellose Herausforderungen für die Cybersicherheit mit sich bringen könnte. Die durchgesickerten Daten bestätigen, dass es beim nächsten Schritt in der KI-Entwicklung nicht nur darum geht, Grenzen zu überschreiten, sondern auch darum, die Risiken einer Technologie präventiv zu mindern, die sich schneller weiterentwickelt, als Sicherheitsmaßnahmen mithalten können.
Die Veröffentlichung von Claude Mythos wird wahrscheinlich die Wettbewerbslandschaft der KI verändern, aber die damit verbundenen Sicherheitsbedenken signalisieren auch die Notwendigkeit einer branchenweiten Zusammenarbeit, um eine verantwortungsvolle Entwicklung und Bereitstellung sicherzustellen.
