Ovog proleća, usred rata SAD-a i Irana, američka vojska umalo nije izazvala oružani sukob s Kinom zbog potpuno lažnog obaveštajnog izveštaja koji je generisala veštačka inteligencija. Kako piše CNN, pozivajući se na četiri izvora upućena u događaj, u komandama američke vojske uzbunu je izazvao alarmantan izveštaj da “kineski teretni brod u vodama Bliskog istoka prevozi komponente za nuklearni program”.
Američke snage odmah su preduzele akciju. Naoružani pripadnici specijalnih jedinica pripremali su se da izvrše desant na brod, a vojni avioni već su bili u vazduhu. Operacija presretanja bila je spremna. U poslednjem trenutku, neposredno pred izvršenje, oficiri su detaljnije proverili dokument. Otkriveno je da ga je sastavio analitičar Komande za specijalne operacije koristeći veštačku inteligenciju. Algoritam je, spajajući javno dostupne podatke s tajnim signalnim informacijama, potpuno pogrešno identifikovao teret na kineskom brodu.
Izveštaj je, prema jednom od izvora, bio „potpuno lažan“, ali je „umalo izazvao rat“. Svaki napad na kinesko plovilo u međunarodnim vodama mogao je da eskalira u direktan oružani sukob dve najveće svetske sile. CNN nije uspeo da sazna šta je brod zapravo prevozio.
Analitičar je od chatbota zatražio analizu teretnog lista, a sistem je „halucinirao“ i zaključio da brod prevozi nuklearne komponente. Potom je isti AI alat korišćen da se ti podaci oblikuju u standardni obaveštajni format u koji vojni komandanti imaju poverenja. Dokument je zatim proširen kroz komandni lanac.
Incident, koji se dogodio tokom američke vojne kampanje protiv Irana, pokazuje koliko su opasne greške veštačke inteligencije u kritičnim situacijama. Operacija je, srećom, zaustavljena na vreme. Izvori CNN-a ističu da je svet bio na korak od katastrofe.
Još uvek nema komentara.