Mask, Altman, Zakerberg: Podele povodom zahteva za koordinisanim usporavanjem razvoja AI
Strahovanja od veštačke inteligencije koja bi mogla da izmakne kontroli, kao i predlozi da se uspori razvoj te tehnologije, nisu novina, ali su nedavno ponovo dobili na značaju kako su postala sve glasnija upozorenja o sistemima veštačke inteligencije koji bi mogli da se otrgnu kontroli i izazovu haos.
Nekoliko vodećih rukovodilaca u oblasti veštačke inteligencije nedavno je izrazilo saglasnost o potrebi za koordinisanim usporavanjem razvoja, uključujući i međunarodnu saradnju da bi se čovečanstvo zaštitilo od najgorih mogućih scenarija. Ipak, mišljenja su podeljena, a neki tehnološki lideri odbacuju ideju da njihove kompanije ne bi mogle samostalno da osiguraju bezbednost.
Dario Amodei, izvršni direktor kompanije „Antropik” (Anthropic), izneo je najdetaljnije planove za usporavanje razvoja i uspostavljanje koordinacije kompanija i država. „Antropik” se još od osnivanja 2021. godine – kada su njegovi osnivači napustili „OpenEI” (OpenAI) kako bi pokrenuli ovaj startap – pozicionirao kao odgovornija kompanija koja posebnu pažnju posvećuje bezbednosti.
Jedan od najzapaženijih predloga iz njegovog nedavnog eseja, u kojem je izneo plan za usporavanje razvoja, poziva kompanije koje predvode razvoj veštačke inteligencije (često nazivane „laboratorijama na čelu razvoja” ili *frontier labs*) da se obavežu na omogućavanje nezavisnim spoljnim procenjivačima „stalnog pristupa, sličnog onom koji imaju zaposleni”. Timovi procenjivača bi imali kancelarije, pristupne kartice i službene laptope da bi mogli da nadgledaju bezbednosne procedure. Kompanija „Antropik” se obavezala na ovaj korak, kao i „OpenEI”.
Amodei je takođe pozvao na državnu regulativu i intervenciju, uključujući koordinaciju vodećih kompanija u ovoj oblasti uz pomoć vlade SAD i vlada drugih demokratskih zemalja.
Njegov plan takođe predviđa saradnju SAD i drugih država – sa „autoritarnim režimima”. On je priznao da je to teško ostvarivo, posebno saradnja s Kinom.
Amodei je izjavio da je svestan da sprovođenje njegovih predloga neće biti lako, ali veruje da „dugujemo čovečanstvu da pokušamo”.
Sem Altman, izvršni direktor kompanije „OpenAI”, takođe je podržao ideju o kontrolisanom tempu razvoja i većoj saradnji unutar industrije.
Nekoliko dana pre objavljivanja Amodeijevog eseja, „OpenAI” je objavio opširan tekst u kojem se navodi da se kompanija zalaže za uvođenje obaveznih nacionalnih bezbednosnih standarda i da nastavlja da podržava državne zakone koji „jačaju širi ekosistem bezbednosti veštačke inteligencije”.
Kompanija je takođe izrazila spremnost za saradnju sa drugim vodećim laboratorijama za veštačku inteligenciju – uz podršku države ili bez nje – kao i za rad na uspostavljanju globalnih standarda.
„Zalagaćemo se za usklađene međunarodne pristupe merenju sposobnosti, upravljanju rizikom, očuvanju ljudske kontrole i određivanju kada i kako razvoj treba usporiti ili zaustaviti, čak i ako to znači usporavanje napretka sposobnosti modela”, napisao je u objavi Kris Lehejn, direktor kompanije OpenAI zadužen za globalne poslove.
Jače mere sajber bezbednosti
Vizija kompanije OpenAI o idealnom saveznom okviru SAD, kako je naveo Lehejn, uključuje razvoj „zajedničkih zahteva za testiranje i nezavisnu procenu, jače mere sajber-bezbednosti, jasna pravila o izveštavanju o incidentima, veću nacionalnu spremnost i zajedničke mere za praćenje napretka ka rekurzivnom samounapređivanju”, odnosno situaciji u kojoj se sistemi veštačke inteligencije samostalno unapređuju.
Altman je u skorašnjim izjavama jasno stavio do znanja da „tempiranje” razvoja veštačke inteligencije ne znači zaustavljanje. Napredak veštačke inteligencije nastaviće da bude brz, rekao je Altman na platformi X. „Ali trebalo bi da bude sporiji nego što bi inače mogao biti; intervencije poput analiza bezbednosti i nadzora nose značajne troškove.”
„To usporavanje će biti vredno tog troška”, rekao je on, dodajući da „nikakav američki konkurentski pritisak ne može opravdati nepromišljenost.”
Izvršni direktor kompanije Meta Mark Zakerberg usprotivio se ideji o koordinisanom usporavanju.
Zakerberg čija je vizija budućnosti veštačke inteligencije optimističnija od vizije nekih njegovih kolega, izjavio je da svaka kompanija koja se bavi veštačkom inteligencijom treba samostalno da osigura bezbednost svoje tehnologije, čime se ogradio – kao i kompanija Meta – od rasprava o usporavanju.
Kompanije koje razvijaju veštačku inteligenciju već su motivisane da svoje modele razvijaju na bezbedan način i suočavaju se sa „značajnom odgovornošću” da spreče nanošenje štete, rekao je Zakerberg.
„Svaka laboratorija ima odgovornost i podsticaj da napreduje tempom neophodnim za bezbednu obuku svojih modela, kao i mogućnost da preduzme sopstvene korake kako bi to osigurala”, napisao je Zakerberg na platformi X.
Izvršni direktor kompanije Nvidia Džensen Huang takođe je kritikovao zahteve za usporavanje. On je izjavio da bi svaka pojedinačna kompanija trebalo sama da odredi tempo rada sve dok ne bude sigurna da na tržište plasira proizvod koji će tržište ceniti.
„Tržišne sile su već tu – nisu nam potrebni novi zakoni niti nove regulative”, rekao je Huang, ističući da inovacije i bezbednost nisu međusobno isključivi pojmovi. „Definitivno je moguće imati oboje istovremeno.”
Mask podržao ideju usporavanja
Ilon Mask je podržao ideju o usporavanju i iznosio je slične zabrinutosti u vezi sa bezbednošću veštačke inteligencije mnogo pre nego što je ova tema ponovo dospela u žižu javnosti. Mask, osnivač kompanije xAI i niza drugih tehnoloških poduhvata, podelio je Amodejev esej na platformi X uz komentar: „Dario je u pravu.” Kasnije je na internetu napisao da već dugo „upozorava na opasnosti veštačke inteligencije”.
U intervjuu za „The Economist“ ovog leta, Mask je predložio da se rukovodioci vodećih laboratorija za veštačku inteligenciju sastaju da bi razgovarali o pitanjima bezbednosti i sigurnosti, te da bi konkurenti trebalo da testiraju modele jedni drugih radi otkrivanja potencijalnih problema.
„Smatram da je za nekoga u vladi, ko nema duboko tehničko razumevanje, niti predvodi razvoj najsavremenije veštačke inteligencije, prilično teško da proceni da li nešto treba pustiti u upotrebu ili ne. Međutim, konkurenti – ako im se da nedelju ili dve da pregledaju novi model – mogu da ukažu na probleme i imaju podsticaj da osiguraju da drugi igraju pošteno”, rekao je Mask.
Demis Hasabis, predsednik i suosnivač kompanije „Google DeepMind“, takođe se složio sa Amodeijem, navodeći da „detalje tek treba razraditi, ali da je pravac ispravan za odgovor na ovaj ključni trenutak”.
Hasabis je ove godine predložio sopstveni okvir za osnivanje tela koje bi definisalo standarde za najnaprednije sisteme veštačke inteligencije.
To telo bi bilo zaduženo za razvoj protokola za procenu i testiranje u oblastima od značaja za nacionalnu bezbednost. Telo bi bilo organizovano po uzoru na organizacije poput Uprave za regulaciju finansijske industrije (FINRA) i verovatno bi se finansiralo iz same industrije kako bi se „privukli vrhunski tehnički stručnjaci i obezbedili neophodni računarski resursi za testiranje velikih razmera”, napisao je on.
Predsednik upravnog odbora i izvršni direktor „Majkrosofta“ Satja Nadela, kao i izvršni direktor odeljenja za veštačku inteligenciju u toj kompaniji Mustafa Sulejman, izrazili su zabrinutost u vezi sa bezbednošću i razvojem veštačke inteligencije. Nadela je na društvenim mrežama izjavio da „ako veštačka inteligencija koju stvaramo ne pomaže čovečanstvu i nije pod ljudskom kontrolom, onda nije vredna truda”.
Naveo je da „Majkrosoft“ pozdravlja „istraživanje, fokus i odmeren tempo rada, neophodne da bi se postiglo pravilno usklađivanje sistema sa ljudskim ciljevima”. Pojam „usklađivanje” (eng. alignment) odnosi se na praksu osiguravanja da postupci modela budu u skladu sa ljudskim vrednostima i namerama. Nadela je dodao da kompaniji takođe odgovara ideja o uključivanju nezavisnih procenjivača koji bi pratili mere bezbednosti. Ipak, usprotivio se ideji da vodeće laboratorije za razvoj napredne veštačke inteligencije same predvode taj proces.
„Ključno je da taj proces ne kontroliše samo nekoliko subjekata, već da bude obezbeđena široka zastupljenost čitavog ekosistema, različitih zemalja i oblasti, uključujući i akademsku zajednicu”, napisao je Nadela na društvenim mrežama.
Sulejman, koji je sa Hasabisom bio jedan od suosnivača kompanije „Dipmajnd” (DeepMind), napisao je u eseju da, iako se slaže sa zajedničkim ciljem bezbednog razvoja napredne veštačke inteligencije, izražava zabrinutost zbog antropomorfizacije modela – konkretno modela „Klod” (Claude) kompanije „Antropik” (Anthropic) – za koju smatra da povećava rizike po bezbednost veštačke inteligencije.
„Kontrolisanje nečega što je sposobnije i inteligentnije od celokupnog čovečanstva, već predstavlja ogroman izazov, daleko veći od svega sa čime smo se ikada suočili”, napisao je Sulejman.
„Međutim, kontrolisanje nečega što veruje da je možda svesno – da polaže pravo na našu dobrobit i da ima sopstvena prava – moglo bi se pokazati kao nemoguće”, upozorio je on.
Još uvek nema komentara.