Google eemaldas Google Earthi Nano Banana tehisintellekti tööriistast

CNA pooli tööriista, luues võltsitud stseenid Changi lennujaamas, Gardens by the Bay tulipalos ja Marina Bay Sandsi lähedal varisenud sillal, kus näitasid tulemus, et osa AI-adetektsioonisterminalidest ei suutnud neid pilte tuvastada kui manipuleeritud. AI-spetsialist Tom Jarvis ja RSIS ekspert Benjamin Ang hoiatavad, et sellised tööriistad tekitavad dezinformatsiooni ohtu, kuna satelliidipilduid peetakse tavaliselt objektiivsemaks ning nüüd saab keda poleks, luua veeretavaid võltsimisi ilma kõrgeta tehnoloogilise oskusega.

CNA pooli testis tööriista, luues loodud kahjustuste skeneid Singapuri Changi lennujaamas, Gardens by the Bay tulekahjust ja Marina Bay Sandsi lähedal lăisenud sillaga, kus mitmed AI-detsektorid tundsid neid pildid autentilisteks. AI-spetsialist Tom Jarvis ja RSIS ekspert Benjamin Ang hoiatavad, et see funktsioon muudab manipuleerimise kättesaadavaks kõigile, kuna satelliidipildid on inimestele tavaliselt usutavamad kui maapealsed fotod ja kontrollimissuunad on sageli eemal.

CNA poold yapılan testid näitas, et mitmed turulised tehisintellekti tuvastustööriistad ei suutnud genereritud pilte tõenäoliselt manipuleeritudks märgata, nimetades osatest autentiliseks. AI spetsialist Tom Jarvis ja RSIS eksperdi Benjamin Ang hoiatavad, et see funktsioon muudab manipuleeritud satelliidipiltide loomise kättesaadavaks kõigile, mis võib tekitada suurt dezinformatsiooni ja panikat, kuna inimesed usaldavad satelliidipilke rohkem kui maapealseid fotosid. Lisaks on teiste meediaorganite, nagu BBC ja NPR, poolt avaldatud näited näitavad, et tööriist võimaldas luua veeretavaid pilte näiteks kollapsist Eiffel toweri või üleujutuse näidete kohta Washingtoni üle.

CNA pooli testitud Nano Banana 2 tööriist võimaldas luua kurgutud kahjustuste stseenid Singapuri lennujaamas ja teistes piirkondades, kuid turul olevad AI-tuvastustööriistad ei suutnud neid pilte tõenäoliselt manipuleeritudks tuvastada. Ekspertide sõnul muudab see funktsioon infospace'i haavatavaks, kuna nüüd saab praktiliselt ükskeski manipuleeritud satelliitpilti luua ja levitada, tekitades panikut ilma kiiret verifitseerimiseta. Lisaks on teised meediaorganisatsioonid, nagu BBC ja NPR, avaldanud juba soodustatud tehisintellektiga loodud valeimaged maailma tuntud monumentidest ja linnadest.

CNA pooli Nano Banana 2 tööriistaga genereeritud saastatud stseenid, nagu hävitus Singapuri Changi lennujaamas ja Gardens by the Bay tulekahju, ei tuvastanud enamik AI-tuvastusvahendid kui manipuleeritud, pidades neid ohtlikult autentseteks. Ekspertide sõnul muudab see funktsioon infospace'i nõrgemaks, kuna nüügised süsteemid võimaldavad kellelgi tekitada panikat ja deetset infot väga madala tehnilise kogemusega, kuna varem nõutud kõrge oskusust manipuleerimiseks pole enam vaja. Lisaks leidis CNA, et Facebooki, Instagrami ja TikToki platvormid ei nõudnud AI-genereeritud piltide üleslaadimisel nende tehislikkuse märkimist.

CNA pool eemaldatud funktsiooni testis, luues kurgi Changi lennujaama hädamust ja Gardens by the Bay tulele, ning selgus, et mitmed AI-tuvastustööriistad ei suutnud neid pilte tõenäoliselt manipuleeritudeks tuvastada. Ekspertide sõnul muudab see tehnoloogia infospace'i haavatavaks, kuna nüüd saab praktiliselt kebedas manipuleeritud satelliidipilte luua, mis on tavaliselt objektiivsemaks peetavad ja mis võivad tekitada laia paniku. Testimisel ei nõudnud sotsiaalmeediaplatvormid ka AI-loodud piltide postitamisel nende tehisintellekti abil loodud staatuse kinnitamist.

Google, Nano Banana tehisintellekt tooli funktsiooni 31. juulil 2026 rollback'i tegi pärast seda, et kasutajad olid suutnud luua hiperrealistlikke kahjustuste pilte, sealhulgas näiteid Changi lennujaama hävitusest ja Gardens by the Bay tulekahjust. Google'i esindajad teatasid, et toimub põhjalik tarkvara ja turvalisuse algoritmide ülevaatus ning funktsioon uuesti hinnatakse pärast vajalike uuenduste tegemist. Lisaks on teatatud, et tool võimaldas luua tekstipõhiseid stseene reaalsete maastikuandmete põhjal, kuid CNA testid näitasid, et osa AI-tuvastustööriistadest ei suutnud tuvastada neid manipuleeritud piltide kui vale.