Eksperti upozoravaju: Veštačka inteligencija može da uništi svet
Veštačku inteligenciju su mnogi videli kao najsnažniju tehnološku revoluciju u istoriji čovečanstva. Čovek neće morati da radi, sve poslove će umesto njega obavljati roboti. A on će, u blagostanju, moći da doseže sopstvene kreativne visine. Tako su pioniri AI prezentovali pre skoro dve decenije “vizije blagostanja” koje donosi veštačka inteligencija, civilizacijska prekretnica i najmoćniji alat koji će se “sjediniti” sa čovekom i izgraditi raj na Zemlji. Ali, to je moć koja može da stigne u pogrešne ruke, a još gore, da mašine počnu “da misle” i preuzmu sve poluge moći na nesavršenoj planeti.
Da li tehnologija koju svakodnevno koristimo za pretragu, prevođenje i zabavu može da postane uzrok milionskih žrtava ili urušavanja demokratije? Nažalost, vodeći svetski stručnjaci za oblast veštačke inteligencije se ne dvoume kada daju potvrdan odgovor na ovo pitanje.
AI može da izazove katastrofalne posledice
Nedavno objavljena studija MIT-a (Vodeći istraživački privatni univerzitet Kembridža u Masačusetsu) i Univerziteta u Kvinslendu donosi precizne i zabrinjavajuće odgovore.
Istraživači su anketirali 272 stručnjaka iz 37 zemalja, eksperte iz industrije, sa univerziteta, iz vlada i civilnog sektora. Tražili su da navedu 24 različite opasnosti od veštačke inteligencije i da procene da li postoji opasnost od katastrofalnih posledica do 2030. godine.
Opasnosti su: sajber napadi hemijskim i biološkim i nuklearnim oružjem pod kontrolom AI; gubitak ljudske inteligencije i autonomije; centralizacija moći; ekološka šteta; nejednako postupanje prema pojedincima; izlaganje štetnim, uvredljivim i nasilnim sadržajima; generisanje netačnih informacija; curenje osetljivih ličnih podataka; napadi na sisteme koje kontroliše AI; zagađenje informacionog prostora…
Katastrofa je u ovoj anketi definisana kao “više od milion mrtvih, šteta veća od 100 milijardi dolara ili ozbiljno narušavanje demokratije i građanskih prava”.
Rezultat je uznemirujuć. Ako se ništa radikalno ne preduzme, 18 od 24 rizika ima najmanje 10 odsto šanse da dovede do takvog ishoda. Čak i uz razumne mere zaštite, pet opasnosti i dalje ostaje iznad te granice.
Opasne sposobnosti veštačke inteligencije
Najveće pretnje, kako navode eksperti, jesu opasne sposobnosti AI sistema (samostalno učenje, autonomija i moć ubeđivanja), trka u razvoju između kompanija i država, oružje i sajber-napadi (uključujući hemijsko, biološko ili nuklearno), koncentracija moći u rukama malog broja igrača i sofisticirane lažne informacije.
Najranjiviji su obični građani. Najveću odgovornost stručnjaci stavljaju na kompanije koje razvijaju napredne sisteme i na države koje moraju da uvedu pravila.
U Srbiji se već vide posledice lažnih vesti
Za Srbiju ovo nije daleka priča. Lažne vesti već utiču na izbore i poverenje, sajber-napadi pogađaju banke i institucije, a koncentracija tehnologije može da produbi nejednakost. Veštačka inteligencija više nije samo alat za brže pisanje poruka. Ona postaje sistem koji menja moć, bezbednost i ekonomiju.
Isti ton čuju se i kod vodećih svetskih teoretičara. Juval Noa Harari upozorava da je veštačka intelighencija prva tehnologija koja nije pasivni alat, već agent koji samostalno donosi odluke i „hakuje“ jezik, birokratiju i poverenje. Džefri Hinton, jedan od „očeva“ AI, procenjuje rizik od uništenja čovečanstva na 10 do 20 odsto. Nasuprot njima, Rej Kurcvajl ostaje optimista: koristi mogu biti ogromne, ali i on priznaje ozbiljne opasnosti.
Konsenzus je jasan. Katastrofa nije neizbežna, ali rizik je dovoljno velik da zahteva hitnu globalnu reakciju, regulaciju, istraživanje bezbednosti i međunarodne sporazume. Vreme za ozbiljan razgovor i uvođenje zdrave kontrole je , možda, već prošlo.
Još uvek nema komentara.