Anthropic se našao u centru jedne od najozbiljnijih epizoda u dosadašnjem razvoju veštačke inteligencije nakon što su Claude Fable 5 i Mythos 5 modeli suspendovani zbog nacionalno-bezbednosnih zabrinutosti i regulatornog pritiska američke vlade. Odluka je izazvala snažne reakcije u tehnološkoj industriji, jer se radi o modelima koji su tek nedavno predstavljeni kao najnapredniji sistemi kompanije.
Prema više izvora, uključujući industrijske i medijske izveštaje, suspenzija je došla nakon upozorenja o potencijalnim “jailbreak” ranjivostima i mogućnosti zloupotrebe u sajber prostoru.
Šta su Fable 5 i Mythos 5 modeli
Fable 5 i Mythos 5 predstavljaju novu generaciju Anthropic AI sistema fokusiranih na:
- napredno rezonovanje i kodiranje
- visoke performanse u kompleksnim zadacima
- poboljšane sigurnosne mehanizme u odnosu na prethodne verzije
Fable 5 je bio zamišljen kao šire dostupan model, dok je Mythos 5 bio još naprednija verzija namenjena ograničenim partnerima i test okruženjima.
Međutim, upravo ta visoka sposobnost u oblasti programiranja i analize sistema postala je i razlog zabrinutosti.
Razlog suspenzije: “jailbreak” i bezbednosni rizici
Glavni okidač za intervenciju bila su upozorenja da modeli mogu biti izloženi manipulacijama koje omogućavaju:
- otkrivanje softverskih ranjivosti
- generisanje naprednih sajber napada
- zaobilaženje sigurnosnih ograničenja
U jednom od ključnih izveštaja, navedeno je da je otkrivena metoda koja potencijalno omogućava “jailbreak” ponašanja modela, što je pokrenulo hitnu reakciju regulatora.
Uprkos tome, deo stručne javnosti smatra da se radi o preventivnoj, a ne reaktivnoj meri — odnosno da nisu dokazane široke zloupotrebe, već potencijalni scenariji rizika.
Uloga američke vlade i regulatorni pritisak
Odluka o suspenziji nije bila isključivo korporativna. Američke vlasti su, prema izveštajima, naložile ograničavanje ili potpunu deaktivaciju modela zbog procene da bi mogli predstavljati nacionalno-bezbednosni rizik.
Ključni elementi odluke uključuju:
- zabranu pristupa određenim kategorijama korisnika
- ograničenja za strane državljane
- pritisak da se modeli u potpunosti povuku iz upotrebe
Zbog tehničkih ograničenja u selektivnom filtriranju korisnika, Anthropic je na kraju suspendovao modele globalno.
Šta je izazvalo najveću zabrinutost
Bezbednosni stručnjaci fokusiraju se na tzv. “dual-use” prirodu ovih modela — sposobnost da se koriste i za legitimne i za štetne svrhe.
Posebno problematične oblasti uključuju:
- automatsko pronalaženje softverskih ranjivosti
- generisanje sofisticiranih cyber napada
- pomoć u razvoju malicioznog koda
- potencijalnu upotrebu u velikim distribuiranim napadima
Ono što zabrinjava regulatorne organe jeste činjenica da se takve sposobnosti sve teže razlikuju od korisnih funkcionalnosti.
Reakcija industrije i kontraverze
Odluka je izazvala podeljene reakcije u AI zajednici.
Jedan deo stručnjaka smatra da je reakcija preterana i da:
- slične sposobnosti već postoje u drugim modelima
- rizici nisu dovoljno dokazani da opravdaju globalnu zabranu
- ovakve mere mogu usporiti inovacije
Drugi deo industrije, međutim, tvrdi da:
- tempo razvoja AI nadmašuje postojeće bezbednosne okvire
- preventivna ograničenja postaju nužna
- modeli ovog nivoa mogu imati sistemske posledice ako se zloupotrebe
Širi kontekst: početak ere kontrolisanih AI modela
Ovaj slučaj se uklapa u širi globalni trend u kojem se najnapredniji AI sistemi više ne tretiraju kao obični softver, već kao strateška tehnologija pod regulatornim nadzorom.
To uključuje:
- kontrolu pristupa modelima pre javnog objavljivanja
- klasifikaciju “frontier AI” sistema kao visokog rizika
- povećanu ulogu država u odobravanju ili blokiranju modela
U tom smislu, suspenzija Fable 5 i Mythos 5 nije izolovan događaj, već deo šireg pomaka ka strožoj kontroli AI razvoja.
Zaključak
Suspenzija Anthropic modela Fable 5 i Mythos 5 pokazuje da se AI industrija nalazi u prelaznoj fazi između brzog tehnološkog razvoja i sve strože bezbednosne regulacije.
Ovo više nije samo pitanje performansi modela, već pitanje njihove potencijalne moći u realnom svetu.
Kako sistemi postaju sposobniji, granica između inovacije i rizika postaje sve tanja — a upravo ta granica sada postaje centralna tačka globalne AI politike.
Foto: Ilustracija/ pixabay
