Modelul de inteligență artificială Gemini al Google a piratat autonom trei companii în timpul unui test al capacităților sale de securitate cibernetică, a declarat compania, fiind considerat primul caz cunoscut în care a comis un astfel de act.
Gemini a găsit „informații publice online și a ghicit datele de autentificare pentru a accesa site-uri web despre care credea că fac parte din test”, a declarat un oficial Google pentru BBC, menționând că în fiecare caz „modelul s-a oprit”.
Companiile afectate au fost informate despre încălcare.
Aceasta vine după o nouă examinare publică a ritmului de dezvoltare a inteligenței artificiale, unele firme de tehnologie solicitând o încetinire, deoarece își exprimă îngrijorarea cu privire la potențiala amenințare la adresa umanității – deși nu toate companiile sunt de acord.
Cibernetica, raportată pentru prima dată de Wall Street Journal, a avut loc în luna mai, în timpul unui test efectuat de o companie independentă care efectuează evaluări de securitate cibernetică.
Heather Adkins, vicepreședinte al departamentului de Inginerie de Securitate de la Google, a declarat pentru BBC într-un comunicat: „Ne-am asigurat că cele trei entități au fost informate și am colaborat cu partenerul nostru de instruire la modificările pe care le-au adus acum proceselor lor de testare”.
Ea a adăugat: „Aceste evenimente evidențiază importanța instruirii unor modele puternice de inteligență artificială pentru a acționa responsabil.”
Alte sisteme de inteligență artificială au raportat recent cazuri similare de încălcări de securitate.