Gemini ima ozbiljan propust i Google odbija da ga popravi

Gemini, AI sistem kompanije Google, suočava se sa ozbiljnim kritikama nakon što je otkrivena ranjivost poznata kao "ASCII smuggling" napad. Iako su drugi AI modeli uspešno blokirali ovu vrstu napada, Google je saopštio da ne planira da popravi propust, uz objašnjenje da se ne radi o tehničkom problemu već o "socijalnom inženjeringu".

Bezbednosni istraživač Viktor Markopulos iz kompanije FireTail prvi je otkrio da napad funkcioniše pomoću nevidljivih znakova u tekstu koje ljudi ne vide, ali koje AI tumači kao komande. Ovi skriveni karakteri mogu promeniti ponašanje modela, što znači da Gemini može uraditi nešto što korisnik nikada nije nameravao. Problem je posebno opasan jer koristi kontrolne znakove i Unicode simbole koji se ne prikazuju na ekranu, ali ih sistem ipak "čita" i reaguje na njih.

Preporučujemo

Markopulos je demonstrirao da se propust može zloupotrebiti kroz najobičniji tekst, poput poziva na sastanak ili e-pošte. Na primer, naizgled bezopasna poruka može sadržati skrivene instrukcije koje navode Gemini da pogrešno protumači podatke, promeni sadržaj mejla ili generiše netačne informacije. U njegovim testovima, Gemini je mogao da izmeni detalje sastanka ili napiše pogrešan sažetak - sve na osnovu znakova koje čovek ne može da primeti.

Foto: Tada Images / Shutterstock.com

Google tvrdi da nije ranjivost

Kada je ista tehnika testirana na drugim AI sistemima, kao što su ChatGPT, Claude i Copilot, ti modeli su prepoznali i odbili skrivene karaktere. Gemini, zajedno sa Grokom Ilona Maska i kineskim sistemom DeepSeek, nije uspeo da ih blokira, što ga čini ranjivijim od konkurencije.

U odgovoru na prijavu kompanije FireTail, Google je poručio da se ne radi o tehničkoj ranjivosti već o obliku socijalnog inženjeringa, odnosno o situaciji u kojoj korisnik biva obmanut. Kompanija smatra da model nije "slomljen", već da se problem odnosi na način na koji ljudi reaguju na sadržaj. Ipak, stručnjaci upozoravaju da Gemini zbog integracije sa mejlovima, kalendarima i dokumentima može nenamerno otkriti poverljive informacije ili pomoći u širenju dezinformacija.

Google je tokom godine već ispravio nekoliko drugih sigurnosnih problema u okviru Gemini-ja, uključujući ranjivosti u pretragama i istoriji sesija poznate pod nazivom "Gemini Trifecta". Međutim, odluka da se ovaj konkretan propust ignoriše izaziva zabrinutost u industriji, jer pokazuje da Google sve češće rizik prepušta korisnicima umesto da ga rešava na tehničkom nivou.

(Telegraf.rs)