În timp ce China se confruntă cu consecințele taifunului Noul care a lovit uscatul în weekend, oficialii vor fi dureros de conștienți că probabil vor avea o provocare suplimentară de gestionat: videoclipuri periculos de înșelătoare create cu inteligență artificială (IA).
Furtunile puternice și inundațiile din ultimele luni au inundat platformele de socializare cu videoclipuri false – acestea includ imagini cu cadavre plutind în apele inundațiilor, descrieri false ale inundațiilor severe în zone care nu au fost afectate și altele cu detalii evident false despre eforturile de răspuns la situații de urgență.
În unele zone, videoclipurile care conțineau informații false despre pene de curent i-au determinat pe locuitori să intre în panică și să cumpere provizii de urgență.
Alte videoclipuri valorifică incidente din viața reală.
Inundațiile din orașul Hengzhou, Guangxi, de la începutul lunii iulie au cauzat evadarea a sute de șerpi dintr-o fermă de reproducere. Apoi au fost publicate și imagini false care arată crocodili eliberați într-un râu.
Într-o situație deja tensionată și periculoasă, care implică evacuări în masă și operațiuni complexe de salvare, autoritățile vor să evite panica. Acum se tem că tehnologia inteligenței artificiale – în care China investește miliarde de dolari – oferă instrumente simple și accesibile, care pot fi folosite pentru a păcăli publicul.
„Mulți dintre acești creatori de conținut folosesc știrile despre dezastre pentru a încerca să câștige urmăritori, știind că un conținut mai senzațional sau exagerat va aduna mai multe aprecieri și mai multe vizualizări. Ei fabrică în mod deliberat informații pentru a atrage atenția oamenilor”, a declarat Huang Zhihua, adjunctul șefului responsabil cu securitatea publică online din cadrul Departamentului de Poliție din Zhejiang, pentru mass-media de stat chineză.
În ultimele săptămâni, au avut loc arestări și pedepse – de la detenție în așteptarea urmăririi penale până la amenzi – pentru crearea de rapoarte și conținut video fals.
Însă experții avertizează că ar putea fi iminentă o criză fără precedent de dezinformare.
Rețele socialeÎntr-un articol publicat de ziarul Școlii Centrale de Partid a Partidului Comunist, profesorul Chen Bin a declarat: „IA reduce dramatic barierele tehnice în calea producerii de informații false. Indivizii nu mai au nevoie de abilități tehnice sofisticate. Prin simpla activare a instrumentelor de IA, aceștia pot genera rapid text, imagini, audio și video convingătoare… care este un conținut extrem de realist, dar complet fabricat, produs la scară largă.”
Profesorul Gao Fuping, de la Universitatea de Științe Politice și Drept din China de Est, a declarat pentru BBC că motivația publicării unui astfel de conținut fals variază de la cei care o fac „pentru a crea ceva amuzant fără să se gândească la consecințe”, până la cei care vor să „genereze trafic în scop personal” sau cei care doresc să „provoace în mod deliberat panică sau tulburări sociale”.
„Unii utilizatori cred că lumea online este anonimă și nereglementată sau că nu pot fi urmăriți”, a spus el.
Au existat solicitări ca tot conținutul generat de inteligența artificială să fie ștampilat în mod clar, dar ceilalți utilizatori pot apoi pur și simplu să reediteze materialul, eliminând marcajele.
Profesorul Xu Xiaoke de la Universitatea Normală din Beijing a declarat pentru BBC că sunt necesare eforturi mai mari și pentru verificarea locațiilor geografice cu ajutorul timestamp-urilor și a surselor imaginilor.
„Acestea fiind spuse, aș sublinia, de asemenea, că tehnologia de detectare este încă în urma tehnologiei de generare. Suntem într-un joc constant de-a șoarecele și pisica. Așadar, nu ar trebui să presupunem că tehnologia singură poate identifica conținutul generat de inteligența artificială printr-un simplu clic”, a avertizat el.
Rețele socialeGuvernul chinez adoptă inteligența artificială în încercarea sa de a deveni superputerea tehnologică principală.
În 2017, a anunțat că inteligența artificială va fi „principala forță motrice” a progresului țării.
Sume uriașe de bani se revarsă în companiile de inteligență artificială care caută mai mult capital, alimentând concurența internă. Agenția de presă controlată de stat Xinhua relatează că țara are peste 6.000 de „companii de inteligență artificială”.
În acest climat, profesorul Xu consideră că China trebuie să construiască o „infrastructură informațională de încredere”. Aceasta ar putea include sisteme oficiale de avertizare timpurie ale guvernului și interfețe în caz de dezastru la care organizațiile de știri să poată avea acces.
Însă au existat cazuri în care surse oficiale, inclusiv mass-media controlată de guvern, au minimalizat în mod deliberat dezastrele, ceea ce a dus la o oarecare neîncredere publică în acest domeniu.
La începutul lunii iulie, jurnaliștilor locali li s-a cerut să-și „îndulcească” limbajul pentru a descrie o breșă majoră în zidul barajului Liulan de lângă Naning drept o „deschidere” sau „lacune”.
Oficialii păreau să încerce să facă ruptura să pară mai puțin alarmantă, dar consecințele au fost mortale. Apa care a izbucnit prin barajul spart a dus la cel puțin 26 de decese în aval.
Inundațiile fatale ale taifunului Maysak au dărâmat zidul barajului din China
Și acesta nu este un incident izolat.
În 2021, oficialii locali au fost arestați, acuzați de ascunderea sau subraportarea a 139 de decese în provincia Henan.
Incidente de acest gen au dus la un vid de încredere care a facilitat mult răspândirea de conținut fals de către actorii răi.
Însă poliția imploră oamenii să aibă încredere în surse acreditate în timpul situațiilor de urgență.
„Când întâlniți informații legate de dezastre dintr-o sursă necunoscută, abordați-le cu scepticism și bazați-vă pe anunțurile oficiale”, a declarat Gao Kai de la Biroul de Securitate Publică din Ningbo.
De asemenea, el a încercat să asigure publicul că creatorii de informații false vor fi prinși, spunând că „internetul nu este o zonă fără lege. Autoritățile de securitate publică vor continua să intensifice eforturile pentru a combate activitatea ilegală online”.
„Am creat un grup de lucru specializat pentru a monitoriza îndeaproape rețelele de socializare, în special platformele de videoclipuri scurte. Aceștia vor investiga și vor gestiona aceste cazuri rapid, luând măsuri foarte stricte.”
Pedeapsa ar putea varia de la o amendă până la șapte ani de închisoare dacă consecințele dezinformării sunt suficient de grave.
Pe 23 iulie, Administrația Spațiului Cibernetic din China a anunțat, de asemenea, o represiune la nivel național împotriva conținutului fals de pe internet legat de inundații și alte dezastre, ordonând filialelor sale locale să se concentreze pe depistarea datelor fabricate, a editărilor rău intenționate, a scenelor înscenate, a evenimentelor istorice atribuite greșit și a celor care se dau drept oficiali. În plus, a cerut platformelor de socializare să intensifice revizuirea conținutului pe care îl publică.
Profesorul Gao consideră că „răspunsul este educația publică combinată cu aplicarea legii”, spunând că există „nevoia de a face publice cazurile reale în care oamenii au fost pedepsiți”.
El a adăugat că „prejudiciul cauzat de conținutul fals generat de inteligența artificială este, în cele din urmă, rezultatul modului în care oamenii aleg să utilizeze tehnologia – nu tehnologia în sine”, adăugând că legile existente sunt suficiente pentru a combate acest lucru.
Cu toate acestea, alții nu sunt atât de încrezători. Profesorul Chen a subliniat că „tehnologia IA continuă să evolueze mult mai rapid decât cadrele juridice. Pe măsură ce apar noi întrebări juridice, dezinformarea privind IA rămâne o provocare considerabilă.”
Avocatul Peter Pang, cu sediul la Shanghai și Washington, spune că avocații din întreaga lume observă o explozie a numărului de cazuri care se ocupă de aceste probleme.
El consideră că firmele care creează aplicații de inteligență artificială și platformele folosite pentru publicarea videoclipurilor false și a altor materiale trebuie să fie trase la răspundere legală, alături de persoanele care creează dezinformare.
„Prima linie ar fi platformele, pentru că ele sunt cele care facilitează acest lucru. Ele sunt cele care permit ca acest lucru să se producă”, a declarat el pentru BBC.
El a folosit un exemplu ipotetic al unei persoane care calcă un pieton în urma panicii induse de o postare falsă pe rețelele de socializare.
„Creatorul videoclipului ar putea spune «ai călcat pe cineva. E problema ta. Nu eu am făcut-o». Dar hai să ne gândim bine. Tu ai creat fundația de la care oamenii au reacționat. Dacă tu ai creat acea panică, trebuie să-ți asumi responsabilitatea pentru consecințele care apar.”
Iar profesorul Xu avertizează că „dezinformarea generată de inteligența artificială va crește probabil nu doar ca volum, ci și ca viteză de răspândire”.
„Privind în perspectivă, alegerile politice, urgențele de sănătate publică, conflictele armate, dezastrele naturale și problemele care afectează mijloacele de trai ale oamenilor sunt toate susceptibile de a deveni zone cu risc ridicat pentru dezinformarea generată de inteligența artificială.”
„În loc să aștepte ca informațiile false să devină virale înainte de a încerca să le limiteze, guvernele și platformele ar trebui acum să se pregătească din timp.”