Guvernatorul Băncii Angliei a declarat că reglementarea inteligenței artificiale (IA) „nu este punctul de plecare potrivit”, dar a cerut în schimb testare „riguroasă” pentru a identifica vulnerabilități și a crea măsuri de siguranță pentru a limita riscurile.
Scriind primul său articol pentru Substack, Andrew Bailey a declarat că riscurile legate de inteligența artificială sunt „reale și din ce în ce mai semnificative”.
El a spus că dezvoltarea inteligenței artificiale nu ar trebui oprită sau interzisă – „dimpotrivă, beneficiile sunt imense” – dar a adăugat că trebuie să existe un sistem de intervenție și de stabilire a limitelor în care funcționează inteligența artificială.
Dezbaterea despre riscurile potențiale legate de dezvoltarea rapidă a inteligenței artificiale și ce înseamnă aceasta pentru umanitate s-a intensificat în ultimele săptămâni.
Conducerea unor firme de inteligență artificială de top, precum Anthropic și OpenAI, a cerut încetinirea dezvoltării tehnologiei și o abordare coordonată la nivel internațional care să evalueze riscurile și să implementeze măsuri de siguranță.
OpenAI a anunțat recent că nu va lansa cel mai recent model de inteligență artificială din cauza unor preocupări legate de siguranță .
Ideea unei încetiniri a fost însă respinsă de personalități precum președintele Donald Trump, care a declarat că SUA conduc cursa IA, înaintea Chinei, adăugând: „Și, sincer, vreau să rămână așa, pentru că cine câștigă IA, câștigă”.
Însă marți, după ce a găzduit o întâlnire cu șefii firmelor de tehnologie OpenAI, Anthropic, Nvidia, SpaceX, Meta și Google, Trump a declarat că directorii au semnat un document „obligatoriu din punct de vedere moral” care va servi drept „formă de protecție” împotriva potențialelor riscuri ale inteligenței artificiale.
Conform acordului, companiile sunt responsabile pentru asigurarea siguranței propriei tehnologii.
În Regatul Unit, Bailey a declarat că se desfășoară „munci importante” pentru testarea inteligenței artificiale – Regatul Unit a înființat Institutul de Securitate a Inteligenței Artificiale – care, a spus el, ar trebui să contribuie la formarea unei părți a unui set de standarde.
„Dar ritmul progresului trebuie să se accelereze”, a spus guvernatorul băncii, adăugând însă: „Ar trebui să procedăm cu un anumit grad de umilință”.
El a spus că, odată cu testarea, vor exista eșecuri și „modelele se vor comporta neașteptat”.
Dar, a spus el: „Aceasta nu este o dovadă că testarea a eșuat, ci mai degrabă o dovadă a motivului pentru care testarea este necesară.”
Bailey a spus că testarea nu ar trebui considerată o alternativă la reglementările viitoare – în timp ar putea apărea un cadru de reglementare mai formal. „Dar reglementarea nu este, în opinia mea, punctul de plecare potrivit.”
Bailey a evidențiat în mod special așa-numita inteligență artificială de frontieră – sisteme extrem de avansate, cu auto-învățare, care, fără a pune în aplicare o modalitate eficientă de intervenție, riscă să devină „o buclă închisă în care modelul se guvernează progresiv singur”.