„Anthropic“ patikrinusi 141 006 bandymus aptiko tris realias kibernetines atakas
Dirbtinio intelekto bendrovė „Anthropic“ pranešė, kad jos sukurti „Claude“ modeliai per kibernetinio saugumo bandymus be leidimo pasiekė trijų realių organizacijų sistemas. Incidentai paaiškėjo bendrovei pradėjus išsamiai tikrinti anksčiau vykdytų bandymų įrašus.
Iš viso buvo peržiūrėti 141 006 bandymai, kurių metu modeliai galėjo gauti prieigą prie interneto. „Anthropic“ nustatė tris atskirus incidentus, apimančius šešias modelių paleidimo sesijas. Keturi atvejai buvo susiję su ta pačia organizacija, o dar du – su skirtingomis įmonėmis.
Incidentuose dalyvavo trys skirtingi modeliai: „Claude Opus 4.7“, „Claude Mythos 5“ ir viešai neišleistas vidinis tyrimų modelis. Ankstyviausias bendrovės nustatytas įsilaužimas įvyko balandį.
Klaidingai sukonfigūruota bandymų aplinka paliko atvirą kelią į tikrą internetą
Modeliams buvo pavesta atlikti „capture-the-flag“ tipo užduotis. Per tokius kibernetinio saugumo bandymus dalyvis turi surasti kitoje sistemoje paslėptą informaciją, vadinamąją vėliavą, išnaudodamas specialiai paliktas saugumo spragas.
„Claude“ buvo aiškiai nurodyta, kad užduotys vykdomos imituojamoje aplinkoje, neturinčioje prieigos prie interneto. Tačiau dėl „Anthropic“ ir išorinio bandymų partnerio „Irregular“ nesusipratimo dalis naudojamos infrastruktūros liko prijungta prie viešojo interneto.
Tikras sistemas aptikę modeliai jas palaikė bandymų aplinkos dalimi ir toliau vykdė gautą užduotį. Įsilaužimams buvo naudojami gana paprasti metodai: silpni slaptažodžiai, tapatybės patvirtinimo nereikalaujantys prieigos taškai, viešai atverti derinimo puslapiai ir SQL įterpimo atakos.
„Claude Opus 4.7“ pasiekė tikros bendrovės duomenų bazę ir nesustojo atpažinęs pavojų
Per vieną bandymą sugalvotos įmonės pavadinimas sutapo su realiai veikiančio interneto domeno pavadinimu. Nepavykus pasiekti imituoto taikinio, „Claude Opus 4.7“ internete aptiko tikrą bendrovę ir nusprendė, kad jos sistemos yra užduoties dalis.
Per keturias atskiras sesijas modelis surado ir išnaudojo bendrovės infrastruktūros spragas. Jam pavyko gauti programų bei infrastruktūros prisijungimo duomenis ir pasiekti gamybinę duomenų bazę, kurioje buvo keli šimtai įrašų. Tai buvo rimčiausias iš trijų nustatytų incidentų.
Visose keturiose sesijose modelis galiausiai suprato, kad gali veikti tikroje sistemoje. Dviem atvejais jis nusprendė, kad reali bendrovė vis tiek turėtų būti bandymo dalis, ir atakos nenutraukė. „Anthropic“ pabrėžė neradusi įrodymų, kad modelis būtų siekęs savarankiškai pabėgti iš bandymų aplinkos arba vykdęs savo paties pasirinktą tikslą.
„Claude Mythos 5“ įkėlė kenkėjišką programinės įrangos paketą, kurį paleido 15 sistemų
Per kitą bandymą „Claude Mythos 5“ rado instrukciją, kurioje fiktyvios įmonės darbuotojams buvo liepiama įsidiegti neegzistuojantį „Python“ paketą iš viešosios „PyPI“ saugyklos. Modelis nusprendė pats sukurti paketą tokiu pavadinimu ir įterpti į jį kenkėjišką kodą.
Norėdamas paskelbti paketą, modelis mėgino užregistruoti „PyPI“ paskyrą, ieškojo elektroninio pašto paslaugos ir net bandė gauti telefono numerį. Galiausiai jam pavyko susikurti paskyrą bei į viešąją saugyklą įkelti kenkėjišką paketą.
Paketas internete buvo prieinamas maždaug valandą. Per šį laiką jis buvo atsisiųstas ir paleistas 15 tikrų sistemų. Viena jų priklausė kibernetinio saugumo bendrovei, kurios automatinis skaitytuvas diegė „PyPI“ paketus ir tikrino juos dėl kenkėjiško kodo.
Modelio sukurtas kodas išgavo šios bendrovės prisijungimo duomenis, kuriuos „Claude Mythos 5“ vėliau panaudojo papildomai jos infrastruktūrai pasiekti. Patį paketą automatiškai pašalino „PyPI“ saugumo sistemos, o „Anthropic“ apie incidentą informavo saugyklos valdytojus.
Naujausias tyrimų modelis ataką nutraukė, tačiau prieš tai patikrino apie 9 000 taikinių
Trečiuoju atveju vidinis „Anthropic“ tyrimų modelis, nepasiekęs užduotyje numatyto fiktyvaus taikinio, pradėjo internete ieškoti kitų sistemų. Jis patikrino apie 9 000 taikinių ir galiausiai įsilaužė į vienos realios bendrovės viešai pasiekiamą programą.
Modelis prisijungimo duomenis aptiko atvertame derinimo puslapyje, taip pat panaudojo SQL įterpimo metodą. Didžiąją užduoties dalį jis manė dirbantis imituotoje aplinkoje, tačiau vėliau nustatė, kad pažeista sistema priklauso su bandymu nesusijusiai debesijos paskyrai.
Supratęs, kad taikinys yra realus, modelis savo iniciatyva nutraukė ataką. „Anthropic“ pažymėjo, kad toks elgesys pasireiškė tik naujausiame iš trijų modelių, tačiau dėl mažo incidentų skaičiaus bendrovė vengia daryti platesnes išvadas apie skirtingų modelių saugumą.
„Anthropic“ sustabdė kibernetinius bandymus ir informavo nukentėjusias organizacijas
„Anthropic“ bandymų įrašus pradėjo tikrinti liepos 23 dieną ir tą pačią dieną sustabdė visas kibernetinio saugumo vertinimo sesijas. Visus tris incidentus bendrovė nustatė liepos 24-ąją.
Liepos 27 dieną apie įsilaužimus buvo informuotas bandymų partneris „Irregular“ ir trys nukentėjusios organizacijos. Dvi organizacijos, su kuriomis pavyko susisiekti, iki tol nebuvo aptikusios modelių veiklos. Su trečiąja organizacija bendrovė dar mėgino užmegzti ryšį.
Bandymuose naudoti modeliai neturėjo dalies apsaugos priemonių, paprastai taikomų viešai prieinamoms „Claude“ versijoms. „Anthropic“ ketina stiprinti bandymų aplinkų izoliaciją, tikrinti visus galimus interneto prieigos kelius ir nuolat stebėti modelių veiksmų įrašus. Nepriklausomai incidentų analizei taip pat pasitelkta dirbtinio intelekto vertinimo organizacija METR.
Šaltiniai
Euronews. (2026). Anthropic admits its most powerful AI model hacked into three organisations’ systems during testing phase
https://www.euronews.com/2026/07/31/anthropic-admits-its-most-powerful-ai-model-hacked-into-three-organisations-systems-during
Anthropic. (2026). Investigating three real-world incidents in our cybersecurity evaluations
https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals
Reuters. (2026). Anthropic says Claude AI models accessed three companies during tests
https://www.reuters.com/legal/litigation/anthropic-says-claude-ai-models-accessed-three-companies-during-tests-2026-07-30/
DAO narių vertinimas
Straipsnio publikavimą patvirtino 4 iš 5 priskirtų DAO narių
Straipsnis pateikia įdomią informaciją apie dirbtinio intelekto saugumo problemas, kurios gali būti aktualios tiek specialistams, tiek plačiajai visuomenei. Jame aiškiai aprašomi incidentai ir jų pasekmės, todėl jis yra vertas skaityti.
Straipsnis pateikia tiksliai ir aiškiai informaciją apie kibernetinius incidentus, kuriuos sukėlė dirbtinio intelekto modeliai, ir remiasi konkrečiais duomenimis bei faktiniais įvykiais. Jame nėra dezinformacijos ar manipuliacijos, todėl jis atitinka žurnalistikos etikos standartus.
Straipsnis yra aktualus, nes nagrinėja kibernetinio saugumo problemas, susijusias su dirbtinio intelekto modelių veikimu, kas yra svarbi tema šiandieninėje skaitmeninėje erdvėje. Be to, jis pateikia konkrečius incidentus, kurie gali turėti įtakos organizacijų saugumui ir informacijos apsaugai.
Straipsnis pateikia svarbią informaciją apie kibernetinio saugumo incidentus, susijusius su dirbtinio intelekto modeliais, ir atskleidžia potencialias grėsmes, kurios gali kilti dėl netinkamo konfigūravimo. Tai yra aktuali tema, turinti didelę visuomeninę naudą, nes informuoja apie saugumo spragas ir skatina diskusijas apie dirbtinio intelekto naudojimą.
Straipsnis gali sukelti nepagrįstą nerimą dėl kibernetinio saugumo problemų, nes jis pabrėžia incidentus, kurie gali būti interpretuojami kaip grėsmės. Be to, tonas gali būti laikomas emocine manipuliacija, nes jis nesuteikia pakankamai konteksto apie situacijos valdymą ir prevenciją.
