Cercetătorii avertizează că poliția care folosește inteligența artificială riscă să agraveze discriminarea

În eseul său premiat, tânărul scriitor științific britanic Adrian Dredge a scris despre potențialele capcane ale inteligenței artificiale și ale activității polițienești.

Eseul a câștigat Premiul pentru Tânărul Scriitor Științific din 2026 , ales anual de Asociația Scriitorilor Științifici Britanici. Iată o versiune editată a articolului.

Cercetătorii au avertizat că utilizarea tot mai mare a inteligenței artificiale în activitățile de poliție riscă să crească discriminarea împotriva grupurilor minoritare.

Studiile sugerează că predicțiile privind viitoarele focare de criminalitate se pot baza pe date părtinitoare, care pot amplifica prejudecățile existente și pot crea o buclă de feedback periculoasă.

Experții solicită o revizuire a utilizării inteligenței artificiale în activitatea poliției, cu o supraveghere umană mai strictă.

Aceasta ar implica verificarea datelor pe care forțele le folosesc pentru a găsi și elimina orice prejudecată, potrivit Dr. Carolyn McKay, profesor asociat și cercetător în justiție digitală la Facultatea de Drept a Universității din Sydney.

„Funcțiile publice ale poliției de stat ar trebui să fie supuse supravegherii și controlului uman”, spune ea.

Problema, potrivit lui McKay, este că sistemele de inteligență artificială sunt antrenate pe date care conțin deja prejudecăți umane, iar acest lucru poate duce la profeții autoîmplinite.

Gândește-te la inteligența artificială ca la un cartograf căruia i se cere să deseneze harta unui oraș pe care nu l-a vizitat niciodată. Este încuiat într-o cameră fără ferestre și nu poate ieși afară. Tot ce are sunt hărți vechi de 50 de ani.

Oricine ar urma noua hartă s-ar opri la ziduri dărâmate cu ani în urmă și ar căuta drumuri care nu mai există. Cartograful nu a creat nimic nou. A copiat doar vechile hărți.

Rocque Pine Tinney

Acum, să presupunem că cartografului i se înmânează o listă cu infracțiunile din trecut și locurile în care au avut loc acestea și i se cere să marcheze zonele în care este probabil să se întâmple următoarele. Poliția patrulează apoi zonele întunecate.

Mai multe infracțiuni sunt înregistrate acolo pur și simplu pentru că sunt mai mulți ofițeri acolo pentru a le verifica. Zonele din afara zonei umbrite par să aibă mai puține infracțiuni, deoarece mai puțini oameni se uită. Când este desenată următoarea hartă, aceleași zone sunt umbrite și mai întunecate.

Așadar, cifrele privind criminalitatea nu reprezintă o listă completă a infracțiunilor. Ele reprezintă parțial o evidență a locurilor alese de poliție pentru a investiga.

Problema este la fel de veche ca și activitatea poliției, dar inteligența artificială ar putea să o accelereze.

Sarah Brayne, sociolog la Universitatea din Texas, Austin, a petrecut o perioadă în cadrul Departamentului de Poliție din Los Angeles, studiind modul în care acesta utilizează big data. În lucrarea sa de cercetare, publicată în American Sociological Review, ea a descoperit că forțele de ordine folosesc din ce în ce mai mult datele pentru a prezice criminalitatea, mai degrabă decât doar pentru a reacționa la aceasta.

De asemenea, ea a constatat că datele introduse în aceste sisteme erau distorsionate. Infracțiunile din locurile publice erau mai predispuse să fie văzute și înregistrate, iar poliția se concentra în mod disproporționat asupra cartierelor de culoare. Odată ce aceste date intră în sistem, scrie ea, „predicțiile par imparțiale”.

Modelele, spune ea, creează „o buclă de feedback în care nu numai că prezic evenimente precum infracțiuni sau contactul cu poliția, dar contribuie și la apariția lor viitoare”.

Însă aceasta este o opinie contestată de Dr. Dimitrios Kollias, profesor asociat de inteligență artificială multimodală la Universitatea Queen Mary din Londra (QMUL). El spune că tehnologia a evoluat pentru a lua în considerare prejudecățile datelor istorice.

„Analogia cu harta veche este utilă pentru a explica modul în care prejudecățile istorice pot fi moștenite, dar are limitele sale”, a declarat el pentru BBC News.

„Sistemele moderne de inteligență artificială nu se mulțumesc să recupereze sau să copieze exemplele de antrenament; ele pot combina informațiile învățate în moduri noi și pot genera rezultate și soluții care nu erau prezente explicit în acele exemple.”

Însă aceste noi descoperiri prezintă un risc separat, adaugă Kollias.

„Pe măsură ce sistemele de inteligență artificială devin mai capabile să genereze decizii noi și să acționeze cu o autonomie mai mare, trebuie să ne asigurăm că comportamentul lor rămâne sigur, fiabil și sub un control uman semnificativ”, a spus el.

De exemplu, un studiu din 2019 publicat în revista Science a analizat un sistem de inteligență artificială utilizat în sistemul de sănătate din SUA pentru a ajuta la deciderea pacienților care ar trebui să beneficieze de sprijin suplimentar. Acesta a făcut acest lucru prin prezicerea cui îngrijire ar costa cel mai mult. Dar exista o prejudecată inerentă în datele din care a extras informații. Se cheltuiau deja mai puțini bani pentru pacienții de culoare decât pentru pacienții albi la fel de bolnavi, parțial din cauza accesului mai redus la îngrijire. Tratând costurile mai mari ca un semn al unei nevoi mai mari, sistemul a favorizat în mod nedrept pacienții albi.

Getty Images

Era ca și cum cartografului i s-ar fi spus să marcheze zonele cele mai bolnave ale orașului, dar ar fi marcat în schimb locurile unde se cheltuiau cei mai mulți bani. Când cercetătorii au modificat sistemul pentru a prezice cât de bolnavi erau pacienții, mai degrabă decât cât le-ar costa îngrijirea, această prejudecată a dispărut în mare măsură. Proporția pacienților de culoare aleși pentru ajutor suplimentar ar fi crescut de la aproximativ 18% la 47%.

Kollias recunoaște că părtinirea inteligenței artificiale provenită din datele neclare este „o preocupare importantă”.

„Dar asta nu înseamnă că prejudecățile sunt inevitabile”, spune el.

„Putem testa sistemele pentru rezultate nedrepte, putem îmbunătăți datele și obiectivele pe care le utilizează și putem introduce măsuri de siguranță pentru a reduce aceste efecte.”

O îmbunătățire ar fi furnizarea de date suplimentare care să ofere context. Ce s-ar întâmpla dacă cartografului i s-ar oferi mai mult decât o listă de infracțiuni? I s-ar putea arăta și care zone au fost neglijate – locuri cu iluminat stradal defect, finanțare insuficientă și servicii publice absente. Acest lucru ar putea arăta dacă mediul local joacă un rol. În loc să trimită mașini de poliție în zonele umbrite, consiliile ar putea trimite bani pentru a repara iluminatul, a sprijini comunitatea și a repara zona în sine.

Totuși, chiar și acest lucru s-ar putea să nu fie suficient, potrivit lui McKay.

„Mediile vizate sunt încă strâns legate de locuitorii lor”, spune ea. „Ar putea (continua) să fie supravegheate excesiv și marginalizate.”

Ea indică sistemele care au fost concepute să utilizeze informații despre locuri, mai degrabă decât despre oameni. Chiar și așa, criticii și-au exprimat îngrijorarea că acestea încă duc la o supra-supraveghere a poliției.

E ca și cum cartograful ar fi promis că nu va mai scrie numele oamenilor pe hartă și că va marca doar străzile și clădirile. Dar acele străzi erau umbrite din cauza anilor de neglijență și a unor controale polițienești intense, așa că ștergerea numelor schimbă foarte puțin.

IA nu are convingeri sau personalitate proprie. La fel ca și cartograful dintr-o cameră fără ferestre, știe doar ce i se spune. Dacă persoana care descrie orașul poartă ranchiună față de un anumit cartier, acea ranchiună ajunge pe hartă.

Însă, în cele din urmă, problema este prejudecățile umane care au alimentat inteligența artificială. Oamenii decid cum arată o persoană suspectă pe camerele de supraveghere sau ce se consideră un împrumut riscant și își aduc cu ei propriile prejudecăți culturale, educaționale și politice. Așadar, poate că inteligența artificială poate fi o parte a soluției, mai degrabă decât un amplificator al problemei, spune Kollias.

„Un sistem de inteligență artificială proiectat cu atenție și evaluat independent poate face ca unele dintre aceste tipare să fie mai măsurabile și mai vizibile, oferindu-ne oportunitatea de a le identifica și reduce.”

Dar și oamenii trebuie să-și joace rolul. Studiul din domeniul sănătății arată că aceste alegeri pot fi verificate și schimbate. De aceea, cercetătorii susțin că oamenii trebuie să rămână la curent. Altfel, asemenea unui cartograf care trece cu tușul peste linii vechi de creion, IA riscă să ne lase pe toți într-o cameră fără ferestre, prinși permanent în greșelile de ieri.