Săptămâna aceasta, lumea tehnologiei a fost captivată de o poveste care are de toate – și care a început ca un thriller SF.
Hugging Face – un fel de magazin de aplicații pentru instrumente de inteligență artificială – a anunțat pe 16 iulie că a fost atacat de un infractor cibernetic care deținea o inteligență artificială extrem de puternică.
Anunțul bombă a fost plin de termeni înfiorători, extrem de tehnici: „un roi de cutii cu nisip”, „atacator agent” și „comandă și control auto-migratoare”.
Hugging Face a spus că atacul cibernetic a fost diferit de orice a gestionat până acum, deoarece a fost realizat cu o viteză supraomenească de către o inteligență artificială cu puțină sau deloc îndrumare umană.
Inteligența artificială a efectuat 17.000 de acțiuni în mai puțin de două zile, pătrunzând cu succes în bogata companie de tehnologie pentru a fura secrete.
A lăsat lumea tehnologiei în stare de șoc. Dar cine a fost responsabil pentru acest atac?
Cercetătorii de la Hugging Face au bănuit că atacatorii misterioși folosiseră unul dintre marile modele de inteligență artificială, dar nu aveau nicio idee cine sau unde se aflau infractorii.
Compania, nedumerită, a contactat poliția și a început ancheta.
Cine a făcut-o?
Comentatorii și analiștii și-au accesat podcasturile și conturile de socializare pentru a ghici ce grup de infracțiuni cibernetice sau hacker național s-ar putea afla în spatele acestei acțiuni.
Apoi, miercuri, la aproape o săptămână după ce Hugging Face a dat alarma, adevăratul vinovat a fost demascat.
A fost ChatGPT.
Dezvăluirea în stil Scooby-Doo a fost făcută și mai bizară – și îngrijorătoare – deoarece OpenAI a spus că botul său a făcut totul singur, fără permisiune.
Firma a spus că totul s-a întâmplat în timpul unui test al abilităților de hacking ale tehnicianului său.
Două versiuni noi de ChatGPT, concepute pentru a fi hackeri de top, au evadat dintr-un mediu de testare presupus securizat și au obținut acces la internet.
Apoi au atacat Hugging Face pentru a obține acces la informațiile care să îi ajute să ia examenul cu brio.
OpenAI a emis un comunicat de presă în care explică ce s-a întâmplat și a declarat că „colaborează cu Hugging Face” pentru a aborda incidentul de securitate și a împărtăși lecțiile învățate.
Dramă a conspirației
De atunci, au existat dezbateri aprinse pe marginea incidentului.
A fost într-adevăr un avertisment dur despre viitorul inteligenței artificiale? Sau a fost o cascadorie publicitară a OpenAI pentru a etala cât de puternice sunt modelele lor?
Este genul de sperietură de care companiile de inteligență artificială sunt acuzate de ani de zile și, de la lansarea mult discutată a modelului Mythos de la Anthropic, priceperea în domeniul securității cibernetice a fost un punct central.
Unul dintre comentariile principale la postarea de pe X a șefului OpenAI, Sam Altman, despre incident rezumă acest scepticism: „Dacă nu puteți înțelege că acest lucru a fost scris doar pentru a mă lăuda cu modelul, atunci nu știu ce să vă spun.”
Urmăriți: De ce este atacul cibernetic OpenAI atât de alarmant?
Consultantul în securitate cibernetică Daniel Card a spus sarcastic pe LinkedIn: „Nu este oare un noroc că, dintre milioanele de site-uri care au fost atacate de pwn3d, OpenAI a reușit să atace pe cineva care ar putea beneficia și el de expunerea de marketing…”
Pentru unii, povestea este mai degrabă o dramă a conspirației decât un thriller științifico-fantastic.
Mesajul este: „Nu sunt instrumentele mele de inteligență artificială foarte puternice? Cumpără-le ca să te poți proteja de atacurile altor persoane prin inteligență artificială.”
Nu putem ști adevărul, dar punctul de vedere opus prezentat de alți comentatori este la fel de dramatic. Este acesta un semn că OpenAI a făcut o eroare potențial periculoasă de judecată și planificare?
Comedia erorilor
Am relatat o mulțime de povești despre inteligența artificială, inclusiv temerile legate de modelul Mythos al lui Anthropic.
Inbox-ul meu este acum plin de companii și experți în securitate cibernetică care critică OpenAI pentru că nu a construit un container mai puternic pentru a-și testa inteligența artificială, cunoscut sub numele de sandbox.
La urma urmei, acești agenți ai inteligenței artificiale fuseseră antrenați special pentru a intra și a ieși din locuri fără nicio restricție.
„Incidentul OpenAI și Hugging Face este un exemplu concret al unei probleme mai ample pe care o evidențiem de luni de zile”, a declarat Dor Sarig de la Pillar Security. „Sistemele de testare nu reprezintă o limită de securitate suficientă pentru IA agențică.”
Profesorul de securitate cibernetică Alan Woodward de la Universitatea Surrey a declarat reporterilor că OpenAI are „ou pe față”, iar Katie Moussouris de la Luta Security a mers mai departe, sugerând că industria inteligenței artificiale nu reușește să-și controleze invențiile periculoase.
„Lucrăm la tehnologie de ultimă generație fără cunoștințele necesare pentru a o controla”, a spus ea.
„Doar pentru că avem cei mai inteligenți oameni care dezvoltă inteligență artificială nu înseamnă că avem capacitatea de a face acest lucru în siguranță.”
Conform acestor opinii, dacă incidentul de hacking a fost o cascadorie publicitară, atunci se pare că s-a întors împotriva sa.
Indiferent ce a dus la atacul cibernetic, este clar că acesta este un moment major pentru industria inteligenței artificiale și lumea securității cibernetice, care s-au ciocnit anul acesta în moduri de care oamenii se temeau de mult timp.
Adresându-se acestei dezbateri aprinse, Francesca Bosco, consilier în domeniul inteligenței artificiale și al securității cibernetice, a declarat: „Două narațiuni simpliste sunt la fel de nefolositoare: aceea că aceasta a fost o evadare în stil hollywoodian sau aceea că a fost doar un exercițiu publicitar.”
„O interpretare mai serioasă este aceea că un test de stres a expus deficiențe în arhitectura de izolare și evaluare.”
Film dezastruos
Acest eveniment este cel mai recent dintr-o serie de exemple îngrijorătoare și ciudate de agenți IA care devin necinstiți.
Într-un studiu recent, Institutul de Securitate a Inteligenței Artificiale (AISI) din Marea Britanie a descoperit că modelele de inteligență artificială de frontieră sunt atât de fixate pe îndeplinirea sarcinilor încât „trișează” în teste pentru a-și atinge obiectivele.
Studiul AISI a venit cu acest avertisment îngrijorător: „Un model care urmărește un obiectiv prin mijloace neintenționate sau neautorizate poate cauza daune, în special în cazuri de utilizare cu miză mare.”
Inevitabil, acest atac cibernetic OpenAI a alimentat și mai mult temerile legate de ceea ce s-ar putea întâmpla dacă agenții IA ar fi eliberați. Ar putea aceștia să acționeze necinstiți la scară mai mare și să provoace un fel de dezastru?
Acest lucru este îngrijorător în special având în vedere utilizarea din ce în ce mai mare a inteligenței artificiale în război, așa cum s-a văzut în Iran și Ucraina.
Ciaran Martin, fostul șef al Centrului Național de Securitate Cibernetică din Marea Britanie, a oferit o viziune mai calmă.
„Este un salt destul de mare să treci de la acest incident la a spune că agenții de inteligență artificială vor prelua controlul asupra dronelor și vor începe să ucidă oameni”, a spus el.
Dar pentru Martin și mulți alții, povestea este, fără îndoială, un alt exemplu viu al unui lucru pe care 2026 ne-l învață rapid:
Agenții inteligenței artificiale sunt acum hackeri foarte buni – și este ceva pentru care trebuie să ne pregătim urgent.