Skandal u Australiji: Zabrana društvenih mreža za mlađe od 16 zasnovana na izmišljenim podacima

Zvanični izveštaj na osnovu kog je Australija uvela istorijsku zabranu društvenih mreža za mlađe od 16 godina sadrži izmišljene naučne citate generisane pomoću ChatGPT-a. Istraga je otkrila da je organizacija angažovana od strane vlade koristila veštačku inteligenciju za pisanje ključne tehničke dokumentacije.

Organizacija Age Check Certification Scheme dobila je 3,48 miliona australijskih dolara za izradu ove studije. Pored toga što su u početku negirali upotrebu veštačke inteligencije, naknadno su priznali prisustvo generisanog teksta nakon što su otkriveni lažni akademski izvori.

Preporučujemo

Izmišljeni izvori u zvaničnom dokumentu vlade

Istraga medijske kuće Guardian Australia otkrila je najmanje šest nepostojećih citata u dokumentu koji dokazuje tehničku izvodljivost zabrane. Veliki jezički modeli često stvaraju lažne reference koje na prvi pogled deluju potpuno uverljivo i stručno.

Profesor Kristijan Dauni sa Australskog nacionalnog univerziteta upozorava da ovakvi propusti direktno ruše poverenje javnosti u državne odluke. On navodi da bi država morala uvesti stroge finansijske penale za sve izvođače koji predaju neprovereni AI sadržaj.

Zahtevi za povraćaj novca i reakcija javnosti

Nezavisna senatorka Fatima Pajman zatražila je da organizacija hitno vrati dobijeni novac i uputi javno izvinjenje. Ovaj skandal izbio je u trenutku kada parlament raspravlja o novom zakonu koji drastično povećava kazne za nepoštovanje zabrane.

Stručnjaci podsećaju da ChatGPT ne proverava činjenice, već sklapa tekst na osnovu statističkih obrazaca. Zbog toga se u zvaničnim dokumentima sve češće pojavljuju halucinirani podaci koje je teško uočiti bez detaljne provere.

(Telegraf.rs)