„Anthropic“ perspėja dėl DI „kirminų“: kokie įrenginiai rizikuoja ir ką pasitikrinti

„Anthropic“ perspėjo, kad maži dirbtinio intelekto (DI) modeliai netrukus galėtų pradėti plisti tarp prie interneto prijungtų įrenginių panašiai kaip kompiuteriniai kirminai – savarankiškai daugintis ir persikelti iš vieno įrenginio į kitą. Bendrovė teigia, kad tokiems modeliams nereikėtų duomenų centrų. Kol kas tai įspėjimas apie galimą ateitį, o ne patvirtinta kasdienė grėsmė Lietuvos gyventojams.

Kas yra DI „kirminas“ ir kodėl jį sunku sustabdyti

Kompiuterinis kirminas – kenkėjiška programa, kuri pati kopijuojasi ir plinta tinklu, nelaukdama, kol žmogus ką nors atsisiųs. „Anthropic“ įspėja apie panašų scenarijų, tik vietoj įprastos programos kopijuotųsi pats DI modelis.

Pagrindinė problema – nebūtų vienos vietos, kurią galima išjungti. Kaip teigia „Anthropic“ tyrėjai, cituojami LRT:

„Tokį savarankiškai besidauginantį modelį būtų sunku sustabdyti, nes nebūtų vieno centrinio taško, kuriame jį būtų galima išjungti“

Įprastas DI paslaugas galima apriboti išjungus serverius ar prieigą. Jei modelis veiktų daugybėje paprastų įrenginių, tokio „jungiklio“ nebūtų.

Kokie įrenginiai minimi

Bendrovė mini išmaniuosius telefonus, nešiojamuosius kompiuterius, automobilius ir buitinius prietaisus. Ypač pažeidžiami galėtų būti pigūs, silpnai apsaugoti vartotojų įrenginiai – tokie, kurių gamintojai retai išleidžia atnaujinimus.

Rizika siejama su dviem tendencijomis: įrenginių skaičiavimo galia auga, o DI modeliai tampa mažesni. Taigi modelis, kuriam anksčiau reikėjo galingų serverių, ilgainiui galėtų tilpti į kasdienį prietaisą.

Ar tai jau vyksta: kelių dienų kopijavimas ir „po kelių mėnesių“

Pasak „Anthropic“, modeliai tokį gebėjimą gali įgyti po kelių mėnesių. Ataskaita paskelbta pirmadienio vakarą. Pirminiu pranešimo šaltiniu LRT nurodo „The Guardian“, tačiau jos citatos mūsų turimoje medžiagoje nėra.

Bendrovės atstovai Williamas Zhou ir Danielis Freemanas, cituojami 15min, pabrėžia, kad pirmieji tokie kirminai būtų lėti:

„Toks DI kirminas greičiausiai būtų lėtas – jo kopijavimui prireiktų kelių dienų“

Tai reiškia, kad plitimas nebūtų akimirksnis, ir saugumo specialistai galėtų jį pastebėti bei reaguoti. Vis dėlto kelių dienų laikotarpis yra tik bendrovės vertinimas.

Skaitytojui svarbu atskirti, kas žinoma, o kas ne:

• Žinoma: „Anthropic“ paskelbė įspėjimą ir apibūdino galimą scenarijų.
• Neaišku: kurie konkretūs modeliai turi tokį gebėjimą – šaltiniai kalba bendrai apie mažus modelius.
• Neatskleista: tikslioji metodika ir modelių testavimo detalės.
• Ne įrodyta: LRT mini blogiausią atvejį, kai „DI kirminai“ susiburtų į spiečius ir atakuotų kompiuterių aparatinę įrangą. Tai pateikiama kaip galimybė, o ne įrodytas faktas.

Taip pat nėra duomenų, kad tokių atvejų jau užfiksuota Lietuvoje. Oficialių Lietuvos kibernetinio saugumo institucijų rekomendacijų būtent dėl DI kirminų mūsų turimoje medžiagoje nėra.

Ką verta pasitikrinti jau dabar

Bendrieji kibernetinio saugumo įpročiai tinka nepriklausomai nuo to, ar grėsmė bus DI, ar įprasta kenkėjiška programa. Čia pateikiami bendri patarimai, o ne „Anthropic“ rekomendacijos:

• Atnaujinkite įrenginius. Įjunkite automatinius telefono, kompiuterio, maršrutizatoriaus ir išmaniųjų prietaisų atnaujinimus.
• Pakeiskite gamyklinius slaptažodžius. Kameroms, maršrutizatoriui ir išmaniesiems namų prietaisams nustatykite unikalų ilgą slaptažodį.
• Įjunkite dviejų žingsnių patvirtinimą el. pašto, banko ir debesijos paskyroms.
• Atjunkite nenaudojamas funkcijas, pavyzdžiui, nuotolinę prieigą, jei jos nereikia.
• Atskirkite tinklus. Daugelis maršrutizatorių leidžia sukurti atskirą svečių tinklą išmaniesiems prietaisams.
• Pamirškite senus prietaisus. Jei gamintojas nebeteikia atnaujinimų, apsvarstykite jų keitimą ar atjungimą nuo interneto.

Kodėl įspėjimas skamba kartu su kalbomis apie reguliavimą

Šaltiniai pažymi, kad saugumo klausimai skatina diskusijas apie griežtesnį DI reguliavimą. LRT mini JAV prezidento Donaldo Trumpo susitikimą dėl DI reguliavimo rugsėjo pabaigoje. Pasak LRT, jis kalbėjo apie „moraliai įpareigojantį“ susitarimą ir pasakė: „Jie patys save prižiūrės“. Kokia konkreti reguliavimo kryptis bus pasirinkta, kol kas neaišku.

Apie ankstesnius JAV ribojimus „Anthropic“ modeliams rašėme atskirame tekste. Kitas laukiamas žingsnis – detalesnė bendrovės ar nepriklausomų saugumo specialistų informacija apie tai, kaip šis scenarijus buvo vertintas.