De-a lungul anilor, nu au lipsit avertismentele din partea șefilor de top ai inteligenței artificiale cu privire la amenințările existențiale.
Am participat la primul summit mondial privind siguranța IA, care a avut loc în Bletchley Park în noiembrie 2023, unde accentul s-a pus pe cele mai grave amenințări imaginabile, reprezentate de cele mai puternice modele de IA.
La vremea respectivă, mulți credeau că acest lucru ținea de domeniul science-fiction-ului, iar adevăratele amenințări erau, comparativ, mult mai banale: pierderea locurilor de muncă, copierea la examene. Trei ani mai târziu, multe dintre aceleași voci nu mai par să fie atât de sigure.
Sâmbătă, Dario Amodei, directorul companiei de inteligență artificială Anthropic, a cerut încetinirea ritmului de dezvoltare – șefii a două firme rivale de inteligență artificială, Sam Altman de la OpenAI și Elon Musk, au declarat că sunt de acord cu el.
Între timp, cercetătorul în inteligență artificială Jacob Coxon – care a părăsit Anthropic – a declarat duminică pentru BBC că personalul care dezvolta sistemele era „cu adevărat speriat” pentru viitorul umanității.
Toate se adună într-un cor de voci serioase care îndeamnă la o încetinire, dar, deși ar putea suna ca o soluție rapidă, este departe de a fi o soluție ușoară.
Se înțelege pe scară largă că America este îngrozită să piardă cursa pentru construirea celei mai puternice inteligențe artificiale în fața Chinei.
Duminică, președintele Trump și-a exprimat clar opiniile, susținând că SUA sunt în fața Chinei în cursa inteligenței artificiale și declarând: „Oricine câștigă IA, câștigă”.
China nu este renumită pentru dorința de a fi pe locul doi. Toți cei cu care vorbesc spun că, chiar dacă firma lor ia o pauză, altele nu o vor face și vor fi pur și simplu lăsați în urmă. Îmi amintește de apogeul campaniei pentru dezarmare nucleară. Problema era și atunci că nimeni nu voia să fie primul.
Există, de asemenea, întrebarea cum s-ar putea impune o încetinire. Cine ar controla-o? Ne-am baza oare pe companiile de inteligență artificială să fie transparente cu privire la ceea ce fac și, mai important, la ceea ce aleg să nu facă? Acest lucru ar necesita un nivel epic de încredere, pe care, probabil, sectorul tehnologic nu l-a câștigat niciodată.
Deși Amodei a propus în postarea sa un plan în trei puncte care includea monitorizarea independentă a modelelor de inteligență artificială pe măsură ce acestea sunt dezvoltate, reglementarea la nivel de industrie și reglementarea globală, unii observatori se întreabă cum ar funcționa acest lucru în practică.
„Nimeni nu a oferit o explicație substanțială a ceea ce înseamnă «încetinire»”, a declarat Ed Zitron, directorul executiv al EZ Primary Research.
„Să pui o fabrică de la METR, unde a plecat unul dintre tipii care au părăsit Anthropic, în fiecare companie de inteligență artificială? O «coordonare» democratică și globală? Nu înseamnă nimic pentru mine.”
Zitron a spus că oprirea antrenării modelelor de inteligență artificială i-ar face vulnerabili în fața rivalilor chinezi.
„Marjele lor s-ar putea îmbunătăți, dar produsele lor vor fi capturate în chihlimbar și distilate de laboratoare chinezești. S-ar putea să fie nevoiți să modifice prețurile. Chiar nu știu cum funcționează totul.”
„Asta ar putea sparge bula. Dar în acest moment nu prea înțelegem ce înseamnă o «încetinire».”