Meta nije rešila problem povlačenjem AI funkcije: Vaše Instagram fotografije i dalje mogu biti zloupotrebljene
Meta je uklonila funkciju koja je omogućavala da se javni Instagram profili koriste kao vizuelne reference za pravljenje AI slika. Ipak, time nije uklonjena tehnologija koja može da menja nečije lice, telo i okruženje, niti je nestala mogućnost da fotografije sa društvenih mreža završe u deepfake sadržaju, prevarama, ucenama i drugim oblicima digitalnog nasilja.
Povučena je samo jedna opcija unutar alata Muse Image: mogućnost da se označi javni Instagram nalog punoletne osobe i da se njen lik automatski uključi u novu AI kreaciju. Sam Muse Image ostaje aktivan. Meta ga već nudi u aplikaciji Meta AI, na svom sajtu, u Instagram pričama u Sjedinjenim Američkim Državama i u aplikaciji WhatsApp u pojedinim zemljama, dok najavljuje i njegovo uvođenje na Facebook.
Kako je Meta koristila javne Instagram profile za AI slike
Meta je Muse Image predstavila 7. jula kao svoj najnapredniji model za generisanje i uređivanje slika. Među njegovim mogućnostima našla se i opcija koja je korisnicima dozvoljavala da označe bilo koji javni Instagram profil punoletne osobe i njen lik koriste u AI generisanoj slici.
Vlasnik profila nije morao prethodno da odobri konkretnu upotrebu svojih fotografija. Nije dobijao obaveštenje kada bi neko napravio AI sliku sa njegovim likom, a javni nalozi su morali sami da isključe ovu mogućnost ukoliko nisu želeli da njihov sadržaj bude korišćen.
Meta je, dakle, saglasnost pretpostavila unapred. Korisnicima je ostavila mogućnost da naknadno kažu „ne“, pod uslovom da uopšte saznaju da je opcija uključena i pronađu odgovarajuće podešavanje.
To je suštinska razlika između pristanka i odustajanja. Pristanak znači da kompanija prvo pita osobu da li dozvoljava upotrebu svog lika. Model odustajanja znači da kompanija dozvolu već podrazumeva, sve dok se korisnik ne pobuni.
Javna fotografija nije dozvola da AI pravi nove verzije vašeg lica
Objavljivanjem fotografije na javnom Instagram profilu korisnik pristaje da je drugi ljudi vide. To ne znači da pristaje da njegovo lice bude izdvojeno iz originalnog konteksta, spojeno sa drugim telom ili okruženjem i prikazano u situaciji koja se nikada nije dogodila.
Upravo na to su upozorile organizacije za zaštitu privatnosti, umetnici i predstavnici filmske industrije. Organizacija Public Citizen nazvala je Metinu funkciju „teškim zadiranjem u privatnost.
„Ljudi ne bi smeli da se probude i otkriju da je njihovo lice postalo sirovina za tuđi AI eksperiment“, poručio je predstavnik organizacije Džej Bi Branč.
Agencija „Creative Artists Agency“ zatražila je da se nečije ime, lik, glas ili kreativni rad ne koriste bez jasne i dokumentovane saglasnosti. Sindikat glumaca SAG-AFTRA pozvao je svoje članove, ali i druge korisnike Instagrama, da isključe mogućnost ponovne upotrebe fotografija kako bi zaštitili svoj lik.
Meta je povukla jednu funkciju, ali Muse Image ostaje
Posle talasa kritika Meta je 10. jula uklonila mogućnost označavanja javnih Instagram profila. Funkcija, predstavljena samo tri dana ranije, nije preživela ni nedelju.
„Čuli smo kritike, ova funkcija promašila je cilj i više nije dostupna“, saopštila je Meta.
Važno je, međutim, precizno reći šta je povučeno. Meta nije ugasila Muse Image. Nije odustala od generisanja slika, menjanja postojećih fotografija niti kombinovanja više vizuelnih referenci.
Prema opisu same kompanije, Muse Image može da kombinuje ljude, predmete, odeću, stilove i okruženja iz više unetih referentnih slika. Model može i da precizno menja postojeću fotografiju kroz niz korisničkih instrukcija.
To samo po sebi ne znači da je svaka upotreba štetna. Isti alati mogu da se koriste za ilustracije, dizajn, reklame ili kreativno uređivanje sopstvenih fotografija. Problem nastaje kada se tuđe lice koristi bez znanja i pristanka osobe kojoj pripada.
Deepfake rizik ne nestaje gašenjem jedne opcije
Deepfake je sintetički ili značajno izmenjen sadržaj koji prepoznatljivu osobu prikazuje kako govori, radi ili doživljava nešto što se u stvarnosti nije dogodilo.
Za njegovu izradu više nije uvek potrebno napredno tehničko znanje. Dovoljno kvalitetne fotografije mogu se pronaći na društvenim mrežama, preuzeti i uneti u neki od brojnih sistema za generisanje ili menjanje slika.
Takav sadržaj može da posluži za lažno predstavljanje, otvaranje lažnih profila, prevare, izmišljena svedočenja, političku propagandu, vršnjačko nasilje, ucene ili ponižavanje.
Nekada je cilj da javnost poveruje da je fotografija autentična. U drugim slučajevima dovoljno je da se žrtvi zapreti da će falsifikat biti poslat njenoj porodici, školi, kolegama ili partneru.
Žene nisu slučajne mete AI zloupotreba
Kada se govori o deepfake sadržaju, nije tačno da su svi korisnici podjednako ugroženi.
Istraživači sa Univerziteta Oksford analizirali su gotovo 35.000 javno dostupnih modela napravljenih za generisanje deepfake slika. Ti modeli su preuzeti gotovo 15 miliona puta, a 96 odsto njih bilo je usmereno na žene.
Deepfake sadržaj može da bude korišćen za seksualizovano ponižavanje, pretnje, ucenu, uznemiravanje ili narušavanje ugleda. Činjenica da je slika veštački napravljena ne znači da je šteta izmišljena. Osoba je i dalje prepoznatljiva, njeno ime može biti povezano sa sadržajem, a fotografija poslata ljudima koji je poznaju.
Fotografije dece mogu postati materijal za digitalno nasilje
Poseban rizik predstavljaju i fotografije dece. One se ne nalaze samo na profilima tinejdžera, već i na javnim nalozima roditelja, članova porodice, škola, vrtića, sportskih klubova i drugih organizacija.
Savremeni AI sistemi sve češće se zloupotrebljavaju za pravljenje sintetičkog materijala seksualnog zlostavljanja dece, kao i za menjanje fotografija stvarne dece. Istraživači upozoravaju da generativna veštačka inteligencija smanjuje tehničke prepreke za ovu vrstu zloupotrebe i zahteva nove pristupe zaštiti dece.
Britanska organizacija Internet Watch Foundation zabeležila je gotovo petostruki rast prijava AI generisanog materijala seksualnog zlostavljanja dece. Britanske vlasti su zbog širenja problema najavile posebno kažnjavanje posedovanja, pravljenja i distribucije takvog sadržaja.
Sintetička fotografija može se koristiti i za vršnjačko maltretiranje i seksualnu ucenu. Dete može biti ucenjeno pretnjom da će lažna slika biti poslata njegovim prijateljima, roditeljima ili školi, čak i kada nikada nije napravilo niti poslalo takvu fotografiju.
Posledice nisu manje zato što je sadržaj lažan. Stid, strah, izolacija, nasilje među vršnjacima i gubitak kontrole nad sopstvenim identitetom ostaju stvarni.
Ugrađene zabrane ne rešavaju pitanje pristanka
Meta tvrdi da Muse Image ima zaštitne mehanizme koji treba da spreče pravljenje nasilnog, seksualnog, klevetničkog i drugog sadržaja kojim se krše pravila platforme.
Takvi mehanizmi jesu važni, ali nisu nepogrešivi. Ni najstroža pravila jednog sistema ne sprečavaju korisnika da fotografiju preuzme i odnese u drugi alat sa slabijim ograničenjima.
Zaštitni filteri takođe ne odgovaraju na osnovno pitanje: da li osoba uopšte želi da njen lik bude korišćen za generisanje nove slike?
Sadržaj ne mora da bude seksualan, nasilan ili klevetnički da bi predstavljao zloupotrebu. Dovoljno je da neko bez dozvole koristi tuđe lice za reklamu, lažnu političku poruku, izmišljenu preporuku proizvoda, romantičnu prevaru ili nalog kojim se predstavlja kao druga osoba.
Ni nevidljivi vodeni žig ne sprečava zloupotrebu
Meta je u Muse Image ugradila sistem Content Seal, nevidljivi vodeni žig namenjen proveri da li je slika napravljena pomoću Meta AI. Kompanija tvrdi da bi signal trebalo da ostane prepoznatljiv i nakon isecanja, kompresovanja, promene veličine ili pravljenja snimka ekrana.
Takva oznaka može da pomogne pri utvrđivanju porekla slike. Ne može, međutim, da zameni saglasnost osobe čije se lice na njoj nalazi.
Vodeni žig ne sprečava nastanak falsifikata. On eventualno pomaže da se naknadno utvrdi kojim sistemom je napravljen. Takođe ne obuhvata sadržaj proizveden drugim AI alatima niti garantuje da će svaka platforma, redakcija ili korisnik proveravati poreklo fotografije pre nego što je podeli.
Tehnološko rešenje za proveru autentičnosti zato nije isto što i zaštita privatnosti.
Šta korisnici sada mogu da urade
Povlačenje sporne funkcije znači da javni Instagram profil više ne bi trebalo da bude dostupan Muse Image sistemu samo unošenjem korisničkog imena. Ipak, fotografije koje su već javno objavljene i dalje mogu biti preuzete ručno.
Ograničavanje vidljivosti profila može da smanji rizik, ali ga ne uklanja potpuno. Korisnici mogu da pregledaju stare javne objave, ograniče krug ljudi koji ih prati i obrate pažnju na fotografije koje otkrivaju školu, lokaciju, svakodnevne navike ili identitet deteta.
Roditelji bi posebno trebalo da razmisle o količini fotografija dece koje objavljuju javno i o tome da li dete, u skladu sa uzrastom, pristaje da te fotografije trajno ostanu na internetu.
Ako se pojavi lažna ili zloupotrebljena fotografija, važno je sačuvati dokaze: snimke ekrana, adresu objave, naziv naloga i vreme kada je sadržaj pronađen pre nego što se zatraži njegovo uklanjanje. U slučajevima pretnji, ucene ili sadržaja koji uključuje dete, problem ne bi trebalo rešavati samostalnim pregovaranjem sa osobom koja ga širi, već prijavom platformi i nadležnim institucijama.
Ipak, glavna odgovornost ne može biti na korisniku. Nije realno očekivati da svaka osoba neprestano prati nove AI funkcije, čita složena pravila i predviđa svaki način na koji bi njena fotografija mogla biti iskorišćena.
Problem nije rešen, samo je jedan put zatvoren
Meta nastavlja da razvija generativnu veštačku inteligenciju. Muse Image ostaje aktivan, integriše se sa Instagramom i WhatsAppom, a kompanija priprema i Muse Video, model koji će generisati video-sadržaj sa zvukom.
Meta je ovog puta povukla opciju tek nakon pritiska javnosti. Korisnici su morali prvo da otkriju da su njihovi profili uključeni, zatim da upozoravaju jedni druge i na kraju da zahtevaju promenu.
Povučen je mehanizam koji je omogućavao da javni Instagram profil bude direktno pozvan u AI alat. Nije povučena ideja da su fotografije sa interneta potencijalni materijal za generisanje novog sadržaja.
Dok kompanije ne počnu da traže jasnu i prethodnu saglasnost, umesto da je pretpostavljaju, korisnici će ostati u poziciji da tek naknadno saznaju gde je njihovo lice završilo i šta je veštačka inteligencija od njega napravila.
Još uvek nema komentara.