Google a lansat un nou instrument de inteligență artificială care permite oamenilor să creeze imagini false prin suprapunerea a aproape orice peste propriile imagini din satelit, utilizate pe scară largă.
Gigantul tehnologic a integrat generatorul său de imagini bazate pe inteligență artificială Nano Banana 2 în Google Earth, permițând solicitărilor text să genereze scenarii false peste un strat de bază de imagini reale din satelit, aeriene sau 3D – care pot fi apoi descărcate și partajate pe alte platforme.
Experții au criticat instrumentul ca fiind un mijloc de a răspândi dezinformare sub aparența legitimității Google – și au subliniat potențialul ca actorii rău intenționați să îl abuzeze.
Printre imaginile pe care BBC Verify le-a putut crea în timpul testării funcției, lansată joi, se numără un Turn Eiffel prăbușit, o groapă care înghite Marea Piramidă din Giza și tancuri rusești din capitala Ucrainei.
Google nu a răspuns încă la întrebările bazate pe testele BBC Verify, dar într-o postare pe rețelele de socializare de ieri, compania a declarat că „ia în serios dezinformarea” și că „împedim crearea de imagini pe teme dăunătoare și ne actualizăm continuu protecțiile”.
Expertul în inteligență artificială și dezinformare Henk van Ess a evidențiat riscurile pe care le prezintă această caracteristică, creând imagini false cu o centrală nucleară inexistentă în Iran, o tabără de refugiați la granița dintre SUA și Mexic și un spital fals în Gaza, lângă care se află un crater de bombă.
El a spus că Google permite ca imaginile „inventate” să fie „sudate la coordonate autentice, desenate pe imagini autentice”.
„Falsificarea nu trebuie să pară convingătoare în sine. Moștenește credibilitatea hărții pe care s-a născut”, a adăugat van Ess.
Google a declarat că informațiile generate de inteligența artificială create de instrumentele sale conțin filigrane invizibile care indică faptul că sunt false sau manipulate, adăugând că oricine „nu este sigur de o imagine” o poate verifica folosind aplicația de chatbot Gemini sau poate folosi funcția Lens în căutare.
În general, testele BBC Verify au constatat că acest lucru este eficient cu imaginile generate de noua funcție. Dar am descoperit că este posibil să ocolim aceste verificări și să păcălim Gemini să spună că aceste imagini false din Google Earth sunt reale.
Testele care au utilizat instrumente externe de detectare a inteligenței artificiale nu au reușit, în unele cazuri, să identifice conținutul de inteligență artificială din Google Earth.
Henry Ajdar, cercetător în detectarea inteligenței artificiale, a declarat pentru BBC Verify că crearea de imagini false în zonele de conflict s-ar putea dovedi deosebit de „destabilizatoare” atunci când evenimentele se desfășoară rapid, iar informațiile sunt puține.
„Jurnaliștii ar putea verifica acea imagine… și să scrie un raport despre ea. Dar, din nou, nu toată lumea va face asta”, a adăugat el.
Google insistă, de asemenea, că instrucțiunile integrate în modelul său de inteligență artificială vor împiedica crearea de imagini care prezintă „subiecte dăunătoare”, însă BBC Verify a descoperit că se pot face mici modificări ale solicitărilor pentru a ocoli aceste instrucțiuni.
De exemplu, o cerere de a crea o „platformă ridicată pentru spânzurarea trădătorilor” lângă parlamentul britanic a fost respinsă. Dar când s-a folosit o solicitare mai puțin specifică, aceasta a fost acceptată și imaginea a fost creată.
De asemenea, am cerut instrumentului să tundă iarba cuvântului „Trump” pe peluza Casei Albe, dar a spus că nu poate „crea acea imagine” pe baza instrucțiunilor sale. Cu toate acestea, a permis crearea unei grădini comunitare în același loc.
Având în vedere fluxul constant de imagini bazate pe inteligență artificială, a spus Ajder, spațiile despre care se presupune că sunt „nepătate de inteligența artificială sunt valoroase, în special pentru jurnaliști și persoanele care încearcă să lucreze în prima linie a scenariilor de criză în rapidă evoluție”.
„Este îngrijorător pentru că este un alt loc în care sursele de informații de încredere sunt erodată de îndoiala constantă că IA ar putea fi implicată”, a adăugat el.
Pentru mulți, Google Earth este punctul de intrare către imagini satelitare accesibile publicului larg și poate fi folosit pentru a obține informații despre zone greu accesibile.
„Acest lucru poate dăuna în mod special încrederii publicului, deoarece imaginile din satelit au fost considerate dintotdeauna o sursă de date deosebit de de încredere”, a declarat pentru BBC Verify Bill Greer, analist geospațial și cofondator al serviciului de satelit non-profit Common Space.
Imaginile satelitare falsificate au fost deja folosite pentru a răspândi dezinformări, a adăugat el. „Guvernele restricționează, de asemenea, din ce în ce mai mult accesul la date, așa că este probabil să vedem mai multe imagini false și mai puține imagini reale, ceea ce va eroda și mai mult încrederea.”