Pod pritiskom Evrope i senkom tragedija – TikTok uvodi nadzor godina dok se suočava sa optužbama za „smrtonosne algoritme“
Gigant društvenih mreža pokreće novi sistem veštačke inteligencije za identifikaciju maloletnika u Evropi, u trenutku kada se u američkoj sudnici vodi bitka oko odgovornosti platforme za smrt petoro dece.
Piše: Naš portal / Reuters
Dok advokati kompanije ByteDance, vlasnika TikToka, u petak izlaze pred sudiju u američkoj državi Delaver kako bi osporili tužbu roditelja čija su deca preminula izvodeći opasne izazove, kompanija na drugom kraju Atlantika povlači potez koji bi mogao redefinisati digitalnu privatnost mladih.
U odgovoru na sve čvršći regulatorni obruč Evropske unije, TikTok je za agenciju Rojters potvrdio da u narednim nedeljama širom kontinenta počinje sa uvođenjem nove tehnologije za detekciju starosti. Cilj je jasan, ali tehnološki složen: identifikovati i ukloniti sa platforme decu mlađu od 13 godina, populaciju koja, prema pravilima kompanije, tamo nikada nije ni smela da bude.
Ovaj potez, opisan kao „nevidljivi zaštitni zid“, dolazi nakon jednogodišnjeg pilot programa u Velikoj Britaniji, koji je rezultirao uklanjanjem hiljada naloga. No, tajming objave otkriva dublju krizu sa kojom se suočava najbrže rastuća društvena mreža na svetu – krizu poverenja.
Algoritam kao detektiv
Sistem koji TikTok uvodi predstavlja suptilnu promenu paradigme. Umesto jednostavnog pitanja „koliko imaš godina“, koje deca lako zaobilaze, nova tehnologija koristiće analizu „bihejvioralnih signala“. Algoritam će skenirati informacije sa profila, postavljene video snimke i obrasce ponašanja kako bi predvideo da li je korisnik zapravo dete.
U pokušaju da izbalansira efikasnost sa preciznošću, TikTok je najavio da mašina neće imati poslednju reč. Nalozi koje tehnologija označi kao sumnjive neće biti automatski obrisani; umesto toga, oni će biti prosleđeni timu specijalizovanih moderatora na ljudsku reviziju.
„Ova tehnologija je izgrađena specifično za Evropu, u skladu sa strogim regulatornim zahtevima regiona,“ saopštili su iz kompanije, naglašavajući saradnju sa irskom Komisijom za zaštitu podataka, glavnim čuvarom privatnosti u EU.
„Blackout izazov“ i cena viralnosti
Dok Evropa pokušava da problem reši birokratijom i algoritmima, u Sjedinjenim Državama se vodi bitka za pravdu. Saslušanje u Delaveru, zakazano za petak, fokusira se na tužbu koju su podneli roditelji petoro britanske dece.
U srcu optužnice leži mračna strana viralnosti: takozvani „Blackout challenge“ (izazov gušenja). Tužitelji tvrde da TikTok nije bio samo pasivni posmatrač, već da su njegovi algoritmi aktivno promovisali ovaj smrtonosni sadržaj ranjivoj publici.
„ByteDance je naneo štetu ovoj deci iako je rukovodstvo znalo da njihove programske odluke dovode do slučajnih smrti,“ navodi se u tužbi podnetoj Višem sudu u Delaveru. Neke od žrtava bile su mlađe od 13 godina – upravo ona demografska grupa koju novi evropski sistem sada pokušava da detektuje.
TikTok je na ove optužbe odgovorio izrazima saučešća, ali i pravnom odbranom, tvrdeći da „strogo zabranjuje sadržaj koji promoviše opasno ponašanje“. Kompanija je 2022. godine već uspela da izdejstvuje odbacivanje slične tužbe povodom smrti desetogodišnje devojčice.
Globalna „digitalna gvozdena zavesa“
Potez TikToka nije izolovan incident, već deo šireg globalnog trenda u kojem države pokušavaju da povrate kontrolu nad digitalnim prostorom.
Australija je prošle godine šokirala tehnološki svet uvevši prvu zabranu društvenih mreža za mlađe od 16 godina. Danska razmatra sličnu zabranu za mlađe od 15, dok Evropski parlament vrši pritisak za strože starosne granice.
Međutim, tehnički izazov ostaje: kako potvrditi godine korisnika a da se pritom ne naruši njihova privatnost? TikTok priznaje da ne postoji globalno usaglašen standard. Kao rešenje za korisnike koji žele da dokažu da su punoletni, platforma će, slično kao i Metin Fejsbuk, koristiti usluge kompanije Yoti za procenu starosti lica, uz mogućnost provere kreditnim karticama i dokumentima.
Za milione evropskih tinejdžera, ovo znači da će se pravila igre uskoro promeniti. Za roditelje u sudnici u Delaveru, to je promena koja je stigla prekasno.
Još uvek nema komentara.