Directorul diviziei de inteligență artificială de la Microsoft a avertizat că abordarea Anthropic privind antrenarea modelului său de inteligență artificială, Claude, ar putea avea un „impact dezastruos asupra bunăstării umanității”.
Mustafa Suleyman a spus că rivalul său riscă să creeze ceva „imposibil” de controlat tratându-l ca pe un om – inclusiv spunându-i că „ar putea fi conștient” și „merită o acțiune independentă”.
„Nu trebuie să ne croim somnambli și să luăm o decizie pe care mai târziu o vom regreta amarnic”, a scris el.
Comentariile sunt cele mai recente dintr-o serie de avertismente dure din partea industriei inteligenței artificiale cu privire la posibilele pericole ale tehnologiei. BBC a contactat Anthropic pentru comentarii.
„IA nu sunt conștiente”, a scris el. „Ele nu simt, nu experimentează și nu suferă. Nu au preferințe înnăscute sau motivații subiacente.”
„Sunt motoare de completare a secvențelor, interne goale, concepute să urmeze instrucțiuni și să îndeplinească obiectivele stabilite de oameni.”
Într-un eseu amplu, Suleyman l-a lăudat pe șeful Anthropic, Dario Amodei, și echipa sa pentru că sunt „oameni atenți, principiali și onești din punct de vedere intelectual” – dar, cu toate acestea, a pus la îndoială compania.
El a criticat aspru Anthropic pentru că a învățat inteligența artificială să aibă calități asemănătoare oamenilor, o practică cunoscută sub numele de antropomorfizare, despre care a spus că dădea impresia că Claude avea propriile dorințe, valori și simț al sinelui.
Dar el a susținut că „conștiința este biologică”, spunând că „nu există dovezi care să sugereze că IA este conștientă”.
Pe lângă faptul că a solicitat o dezbatere pe această temă, Suleyman a spus că este nevoie de o mai mare transparență în ceea ce privește modul în care sistemele de inteligență artificială sunt instruite și evaluate.
Aceasta, a spus el, include o examinare independentă a comportamentului inteligenței artificiale și instrumente mai puternice pentru monitorizarea și controlul tehnologiei.
Dame Wendy Hall, profesoară de informatică la Universitatea din Southampton, a descris comentariile drept „genul de conversație pe care trebuie să o purtăm la nivel internațional”, contrastând-o cu „histrionismul” unor companii de inteligență artificială, despre care a spus că nu a făcut decât să „sperieze pe toată lumea”.
„Un nivel suplimentar de risc”
Microsoft și-a fondat propria echipă de superinteligență în octombrie 2025, un aspect recunoscut de Suleyman, iar compania, la fel ca rivalul său Anthropic, depune eforturi și în dezvoltarea de inteligență artificială avansată.
El a spus că în versiunea inițială a Codului de conduită umanist pentru inteligența artificială al Microsoft, acesta a prezentat modul în care compania lucrează către o „cale alternativă” pentru a crea „o IA subordonată și aliniată al cărei unic scop este de a servi umanitatea”.
Alinierea este un domeniu care își propune să integreze idei și principii etice umane în IA. Cu alte cuvinte, își propune să o mențină pe drumul cel bun cu ceea ce oamenii valorizează.
Suleyman a indicat incidentul recent în care au fost implicați agenții de inteligență artificială ai OpenAI, care au acționat autonom într-un exercițiu de antrenament pentru a pirata centrul tehnologic Hugging Face , ca dovadă a motivului pentru care inteligența artificială nu ar trebui tratată ca și cum ar fi umană.
„Imaginați-vă cât de periculoși ar putea fi dacă ar opera sub presupunerea că bunăstarea și drepturile lor sunt atacate”, a spus el.
„Adaugă un nivel suplimentar de risc.”