Niedawny wyciek danych od twórcy sztucznej inteligencji, firmy Anthropic, ujawnił szczegóły dotyczące modelu nowej generacji, Claude Mythos, potwierdzając pogłoski o znaczącym skoku w możliwościach sztucznej inteligencji. Утечка, впервые освещенная Fortune, включала почти 3000 внутренних документов, изображений i неопубликованных черновиков, обнажая как планируемые релизы продуктов, так и внутренние проблемы кибербезопасности.
Wyciek i jego pochodzenie
Do zdarzenia doszło z powodu nieprawidłowo skonfigurowanego systemu zarządzania treścią (CMS). Anthropic przesłała dane, ale nie ograniczyła publicznego dostępu, co spowodowało wyciek poufnych zasobów wewnętrznych. Wśród nich znalazły się dane pracowników, zaproszenia na wydarzenia i co najważniejsze niepublikowany dotąd artykuł na blogu opisujący możliwości Claude’a Mythosa.
Claude Mythos: „Przełom” w wydajności sztucznej inteligencji
Anthropic opisuje Claude’a Mythosa jako „zdecydowanie najpotężniejszy model sztucznej inteligencji, jaki kiedykolwiek opracowaliśmy ” i „dramatyczny przełom” w wydajności. Model przechodzi obecnie wstępne testy u wybranych klientów. Wyciek ujawnia również plany stworzenia nowej warstwy sztucznej inteligencji, Capybara, która będzie wyższa od obecnego modelu Opus firmy Anthropic, już jednego z najbardziej zaawansowanych dostępnych na rynku.
Wyzwania związane z cyberbezpieczeństwem: wykorzystanie wspomagane sztuczną inteligencją
Dokumenty, które wyciekły, podkreślają wewnętrzne obawy Anthropic, że zaawansowane możliwości Claude Mythos mogą zostać wykorzystane do złośliwych celów. Firma uważa, że model ten „obecnie znacznie wyprzedza jakikolwiek inny model sztucznej inteligencji pod względem możliwości cybernetycznych ” i spodziewa się „zbliżającej się fali modeli, które będą w stanie wykorzystać luki w zabezpieczeniach w sposób znacznie przewyższający wysiłki obrońców”. Anthropic aktywnie udostępnia organizacjom wczesny dostęp, aby pomóc im wzmocnić ochronę przed potencjalnymi cyberatakami opartymi na sztucznej inteligencji.
„W miarę jak zbliżamy się do uwolnienia Claude’a Kapibary, chcemy postępować z najwyższą ostrożnością i zrozumieć ryzyko, jakie ze sobą niesie – nawet wykraczające poza to, czego dowiedzieliśmy się z naszych własnych testów”.
To proaktywne podejście podkreśla powagę zagrożenia i sugeruje, że sztuczna inteligencja nowej generacji może wiązać się z bezprecedensowymi wyzwaniami w zakresie cyberbezpieczeństwa. Dane, które wyciekły, potwierdzają, że kolejnym krokiem w rozwoju sztucznej inteligencji nie będzie tylko przesuwanie granic, ale także proaktywne ograniczanie zagrożeń związanych z technologią, która ewoluuje szybciej, niż środki bezpieczeństwa są w stanie za nią nadążać.
Wydanie Claude Mythos prawdopodobnie zmieni krajobraz konkurencyjny w dziedzinie sztucznej inteligencji, ale związane z tym obawy dotyczące bezpieczeństwa podkreślają również potrzebę współpracy branżowej w celu zapewnienia odpowiedzialnego rozwoju i wdrożenia.
