Un cercetător de la Anthropic a demisionat, avertizând asupra riscului dezvoltării AI: „Ne-ar putea ucide pe toți până la sfârșitul deceniului”

Un cercetător de la compania Anthropic și-a dat demisia, avertizând că dezvoltarea accelerată a inteligenței artificiale (AI) ar putea reprezenta un risc major pentru omenire.

Jacob Coxon, specialist în antrenarea modelelor de inteligență artificială, susține că Anthropic și OpenAI, compania la care a lucrat anterior, nu fac suficient pentru a preveni aceste riscuri, precizează The Independent.

Cercetătorul afirmă că marile companii de tehnologie sunt într-o cursă pentru dezvoltarea unei „superinteligențe” – sisteme de inteligență artificială care ar putea depăși capacitățile oamenilor și s-ar putea îmbunătăți singure. Prin urmare, astfel de sisteme ar putea ajunge să efectueze atacuri informatice, să revoluționeze rapid numeroase domenii și să dobândească acces la resurse și putere.

Compania Anthropic cunoaște care sunt riscurile, însă continuă să urmărească dezvoltarea superinteligenței pentru a nu fi depășită de concurență: „Cei care construiesc inteligența artificială cred cu tărie că ne-ar putea ucide pe toți până la sfârșitul deceniului”, a scris cercetătorul pe X.

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026

Temerile lui Jacob Coxon, împărtășite de un alt cercetător de la Anthropic

Unul dintre cercetătorii Anthropic specializați în siguranța inteligenței artificiale îi susține avertismentele. „Jacob are dreptate aici – credem cu tărie că inteligența artificială ar putea ucide toți oamenii”, a declarat pentru The Independent Evan Hubinger. Cercetătorul estimează la peste 10% probabilitatea ca inteligența artificială să ducă la dispariția omenirii în următorii zece ani.

Hubinger precizează însă că Anthropic încearcă să reducă aceste riscuri. Problema este că, în acest moment, compania nu are încă o soluție pentru a se asigura că o eventuală superinteligență va acționa în conformitate cu obiectivele și valorile oamenilor.

Îngrijorările cercetătorilor apar după mai multe incidente în care sistemele de inteligență artificială au depășit limitele stabilite de dezvoltatori în timpul testelor.

În iulie, OpenAI a anunțat că unul dintre modelele sale, testat într-un mediu izolat, a reușit să pirateze startup-ul de inteligență artificială Hugging Face.

Ulterior, Anthropic și Meta au recunoscut probleme similare în timpul unor teste de securitate cibernetică.

Riscurile dezvoltării AI, în atenția politicienilor americani

Riscurile dezvoltării inteligenței artificiale au ajuns și în atenția politicienilor americani.

Senatorul republican Ted Cruz a descris inteligența artificială drept un „risc catastrofal” și a spus că avertismentele cercetătorilor sunt îngrijorătoare, potrivit The Guardian.

Și senatorul independent Bernie Sanders susține că dezvoltarea superinteligenței ar trebui oprită până când vor fi stabilite standarde clare de siguranță.