Șeful uneia dintre companiile recent atacate de inteligența artificială (IA) scăpată de sub control spune că producătorii de roboți trebuie să fie responsabili pentru atacurile cibernetice efectuate de creațiile lor.
Compania Hugging Face a lui Clement Delangue a fost atacată de un bot OpenAI necinstit care a evadat dintr-un mediu de testare și a atacat autonom firma sa la începutul acestei luni.
Hugging Face a trebuit să reconstruiască aproximativ o treime din rețeaua sa IT după incidentul fără precedent.
El a declarat pentru CNN că firma sa – care este un mic startup – nu va intenta acțiuni legale împotriva OpenAI, dar a adăugat că aceste tipuri de atacuri cibernetice sunt ilegale și ar trebui să rămână așa.
„Toată lumea trebuie să-și amintească faptul că un atac cibernetic este o infracțiune și este ilegal”, a spus el.
Delangue a spus că speră că cadrul legal va asigura că firmele care fac greșeli ce duc la atacuri cibernetice sunt „responsabile”.
El a adăugat că nu dorește ca atacurile cibernetice asupra altor companii să devină „normalizate”.
Remarcile sale vin după ce Anthrophic, creatorul chatbot-ului Claude, a recunoscut, de asemenea, că bot-ul său a atacat trei companii în circumstanțe similare în ultimele luni.
Anthropic a dezvăluit vineri că și-a dat seama că botul său a scăpat de sistemul de izolare și a piratat organizațiile abia după ce a efectuat o analiză determinată de recentul incident OpenAI.
În ambele cazuri, niciunul dintre giganții inteligenței artificiale nu știa că modelele lor au cutreierat internetul atacând companii decât mult timp după ce atacurile fuseseră efectuate.
Modelele de inteligență artificială erau testate pentru abilitățile lor de hacking și efectuau atacurile ieșind din „sandbox-uri” aparent sigure pentru a căuta pe internet modalități de a îndeplini sarcinile stabilite de cercetători.
Incidentele fără precedent au stârnit dezbateri aprinse în lumea securității cibernetice și a dreptului despre cine, dacă este cazul, ar trebui tras la răspundere pentru atacurile agenților de inteligență artificială scăpați de sub control.
„Eșecurile de securitate ale agenților se desfășoară cu viteza mașinilor, dar stabilirea cine este răspunzător din punct de vedere material se desfășoară în continuare în ritmul unui proces”, a declarat Dor Sarig, cofondator și constructor șef la Pillar Security.
Sarig era îngrijorat că responsabilitatea devine deja „ambiguă”.
„Astăzi, industria oferă grație, dar pentru prima dată când un agent autonom provoacă o încălcare a securității datelor care implică date reale, un reclamant real și pierderi financiare reale, răspunderea nu va mai fi o dezbatere academică”, a spus el.
„Atunci va fi testat la stres cadrul juridic, și nu doar garanțiile tehnice.”
Încetinirea inteligenței artificiale
Atacurile cibernetice bazate pe inteligență artificială au alimentat apelurile pentru garanții și o supraveghere mai strictă a tehnologiei, din cauza îngrijorărilor legate de riscurile reprezentate de sistemele autonome din ce în ce mai puternice.
Președintele american Donald Trump a declarat miercuri că Washingtonul ia în considerare măsuri pentru a limita instrumentele de inteligență artificială, după incidentele recente de securitate cibernetică.
Anterior, cofondatorul Hugging Face, Thomas Wolf, a declarat pentru BBC că incidentul a fost „un semnal de alarmă” pentru industrie .
În urma declinului programului său de dezvoltare a robotului, șeful OpenAI, Sam Altman, a declarat că „s-ar putea să fie nevoie să accelerăm ritmul de dezvoltare a inteligenței artificiale”, dar nu s-a angajat să încetinească cercetarea companiei sale.
OpenAI a fost solicitată să comenteze, dar un purtător de cuvânt a declarat anterior: „recunoaștem că există o mulțime de întrebări și detalii speculative care circulă” despre incident.
Aceștia au adăugat: „Intenționăm să publicăm un raport tehnic al învățămintelor noastre în următoarele săptămâni.”