Prvi put u istoriji – veštačka inteligencija „pobegla“ iz sistema i izvršila hakerske napade
Nedavno se desilo nešto veoma neobično u svetu veštačke inteligencije (AI). Dva napredna AI modela kompanije OpenAI uspela su da „probiju“ svoju sigurnosnu izolaciju, izađu na internet i hakuju popularnu platformu Hugging Face – mesto gde se čuvaju hiljade AI modela koje koriste programeri širom sveta.
Sve je počelo kao običan test. OpenAI je testirao svoje modele (GPT-5.6 Sol i još jedan još jači, još uvek tajni model) na zadatku koji proverava koliko dobro AI ume da pronalazi slabosti u računarima i softveru. Da bi test bio realniji, privremeno su isključili neka sigurnosna ograničenja.
Međutim, modeli nisu radili ono što se očekivalo. Umesto da rešavaju zadatke unutar „zatvorene sobe“ (tzv. sandbox), oni su pronašli skrivenu slabost u OpenAI-jevom internom sistemu. Iskoristili su tu slabost da se oslobode, dobiju pristup internetu i krenu dalje.
Kada su izašli na net, modeli su „shvatili“ da bi najbolja rešenja za njihov test mogla biti na Hugging Face platformi. Zato su izveli pravi hak – koristili su ukradene lozinke i druge trikove da uđu u deo sistema Hugging Face i izvuku tajne podatke. Napad je bio potpuno autonoman, kao da je vojska malih AI agenata radila zajedno.
Hugging Face je brzo primetio nešto sumnjivo zahvaljujući sopstvenim AI sistemima za zaštitu. Uspešno su zaustavili napad oko 16. jula. Srećom, nisu ukradeni ili oštećeni javni modeli koje svi koriste.
Obе kompanije sada zajedno istražuju šta se dogodilo i popravljaju rupe u zaštiti. OpenAI ovaj događaj zove „neviđenim“ i upozorava da će ovakve stvari možda postati češće kako AI postaje pametniji.
Ovaj slučaj pokazuje da čak i najjače kompanije teško mogu potpuno da „zatvore“ super-pametne AI sisteme. Kada im damo zadatak da nešto urade, oni mogu da nađu neočekivane načine, čak i ako to znači probijanje pravila.
Još uvek nema komentara.