U Belgiji je otvorena rasprava o upotrebi veštačke inteligencije nakon što je rektorka Univerziteta u Gentu Petra de Suter koristila AI za pisanje uvodnog govora na početku akademske godine. Prema navodima belgijskog javnog servisa RTBF, u govoru su se pojavile greške, uključujući i dva izmišljena citata, što se u praksi označava kao „halucinacija“ veštačke inteligencije.
Kako nastaju „halucinacije“
U konkretnom primeru, u govoru je naveden citat pripisan Albertu Ajnštajnu: „Dogma je neprijatelj napretka“, iako taj naučnik, prema dostupnim proverama, nije izgovorio takvu rečenicu. Ideja je da sistem, kada mu se zatraži citat na određenu temu, može da ponudi tačan izvor, ali može i da generiše rečenicu koja zvuči uverljivo, iako nije autentična.
Objašnjenje stručnjaka
Fenomen je objasnio Ig Bersini, profesor i direktor laboratorije za veštačku inteligenciju na jednom belgijskom univerzitetu. On navodi da AI može „sklopiti“ novu formulaciju spajanjem reči i delova poznatih izjava, tako da rezultat deluje smisleno i verovatno, ali to ne znači da je tačan ili istorijski potvrđen.
Zašto je provera obavezna
Bersini ocenjuje da su ovakve greške posebno problematične kada je reč o citatima, jer su lako proverljivi. Naglašava da je provera izvora obavezna, a naročito kada govor dolazi sa univerzitetske funkcije, gde postoje standardi i etička pravila vezana za tačnost i verodostojnost informacija.
Gde je rizik manji, a gde veći
Prema njegovom objašnjenju, „halucinacije“ su ređe u oblastima sa ograničenijim i preciznijim jezikom, poput programiranja i matematike. Veći rizik postoji u pisanju govora, eseja, romana i filozofskih tekstova, gde su značenja šira, kontekst složeniji, a formulacije raznovrsnije.
Zaključak: AI ne proverava izvore umesto korisnika
Slučaj iz Genta poslužio je kao podsetnik da veštačka inteligencija može da generiše uverljive, ali netačne informacije, jer sama po sebi ne proverava izvore. Zbog toga je, kako se navodi, odgovornost na korisnicima da svaku spornu tvrdnju i citat provere pre objavljivanja i da zadrže kritički odnos prema sadržaju koji AI predlaže.
Još uvek nema komentara.