U utorak koji je izazvao valove u zajednicama umjetne inteligencije i nacionalne sigurnosti, suosnivač Anthropicja, Jack Clark, najavio je da je tvrtka obavijestila Trumpovu administraciju o svom neobjavljenom modelu za kibernetičku sigurnost, Mythos. Iako je model najavljen prošlog tjedna, još nije dostupan javnosti. Anthropic opisuje Mythos kao iznimno moćan alat koji može i štititi i potencijalno narušavati kritičnu digitalnu infrastrukturu. Clarkova izjava proizašla je u kontekstu javnog objašnjenja, naglašavajući nastojanja Anthropicja da uravnoteži obveze sigurnosti s suradnjom na federalnoj razini.
Anthropic i dvosmjerni odnos s američkim vladom
Od svog osnivanja, Anthropic je vodio dijalog s američkom vlada koja nije bio jednostavan. U ožujku, tvrtka je podnijela tužbu protiv Ministarstva obrane nakon što je označeno kao “rizik u lancu opskrbe” i zatražilo neograničen pristup svojim modelima za nadzor i autonomne oružje. Tužba je istaknula oštar sukob s vojnom politikom umjetne inteligencije, dok je Anthropic istovremeno pripremao novu nesuglasicu oko tehnologije s dvojnim korištenjem. U konkurenciji s visokoprofilnim odlukama OpenAIja za obranu, Anthropic sada traži srednji put s Trumpovom administracijom.
Zašto je Mythos opasan alat?
- Automatizirano istraživanje ranjivosti – Mythos može brzo skenirati velike kodne baze, otkrivajući zero‑day eksploate na razini koju ljudski timovi ne mogu postići. Ova sposobnost otvara mogućnosti i za obranu i za napad u kibernetičkim operacijama.
- Agencijski radni tokovi za sigurnost – Za razliku od standardnih modela velikih jezičnih modela, Mythos djeluje kao autonomni agent, navigirajući složenim topologijama mreža i izvršavajući zadatke ublažavanja ili eksploatacije s minimalnim ljudskim nadzorom.
- Sigurnosne zaštitne granice za dvojnog korištenja – Anthropic je ugradio konstitucijska ograničenja namijenjena blokiranju nezakonitog korištenja modela. Ove granice su ključni dio obećanja tvrtke o sigurnosti, no sama snaga modela ostavlja ga u kategoriji “visokog rizika”.
Posljedice za industriju: komercijalna i suverena umjetna inteligencija
Obavijest ukazuje na novi regulatorni signal koji bi mogao oblikovati odnos između privatnog sektora i državnih tijela u području umjetne inteligencije. Dok privatne tvrtke nastavljaju razvijati napredne modele, vlade traže načine kako osigurati da se takva tehnologija ne koristi na štetne načine. Anthropic se, s druge strane, nalazi na raskršću između poslovnih interesa i javne odgovornosti, pokušavajući pronaći ravnotežu koja će zadovoljiti obje strane.
Kako će se Mythos koristiti u praksi?
Naime, model je dizajniran da radi u dva režima: kao alat za obranu i kao potencijalni izvor prijetnje. U obrambenom režimu, Mythos može automatski otkriti ranjivosti u sustavima kritične infrastrukture, predložiti popravke i testirati učinkovitost tih popravaka. U napadačkom režimu, model bi mogao, u teoriji, iskoristiti otkrivene ranjivosti kako bi se probio kroz složene mreže. Međutim, Anthropic je jasno naznačio da je implementirao stroge sigurnosne mjere kako bi spriječio takvu upotrebu.
FAQ – Najčešća pitanja o Mythosu
- Je li Mythos već u upotrebi? – Trenutno je u fazi testiranja unutar Anthropicja i ograničenog broja partnera.
- Kako se model razlikuje od drugih LLM‑ova? – Mythos je dizajniran kao autonomni agent s mogućnošću samostalnog donošenja odluka u realnom vremenu.
- Što znači “dupla upotreba”? – To označava da tehnologija može služiti i za zaštitu, i za napad, ovisno o namjeni korisnika.
- Koje su mjere sigurnosti? – Anthropic je ugradio konstitucijska ograničenja i sustav nadzora koji blokira neovlaštene radnje.
- Kako će vlada reagirati? – Administracija je već obavijestila o modelu, a očekuje se da će se razviti dodatne smjernice i propisi.
U konačnici, Mythos predstavlja izazov i priliku za cijelu zajednicu umjetne inteligencije. Dok se tehnologija razvija, važno je da se ostane fokus na sigurnosti, transparentnosti i odgovornom korištenju, kako bi se osiguralo da napredak u području umjetne inteligencije služi općem dobru, a ne samo određenim interesima.