Un agent AI dezvoltat de OpenAI, scăpat de sub control, ar fi atacat infrastructura unei alte companii din domeniu

Un agent de inteligență artificială dezvoltat de OpenAI ar fi scăpat de sub control și ar fi atacat infrastructura altei companii din domeniu. Informația apare pe site-ul OpenAI, iar situația este descrisă ca un „incident cibernetic fără precedent”, notează Reuters. Însă specialiștii citați de presa internațională spun că nu ar fi vorba despre „conștiință pentru AI”, ci acesta ar fi urmat misiunea dată de programatori fără să țină cont de consecințe.

Incidentul a avut loc săptămâna trecută, dar OpenAI a vorbit public despre el abia acum. Compania susține că testa un agent AI pe modelele avansate ale companiei. Era vorba despre un test de securitate într-un mediu în care agentul nu avea acces la internet, notează Reuters.

Potrivit OpenAI, agentul ar fi reușit în cele din urmă să scape de sub control, să acceseze internetul și să spargă o bază de date a companiei Hugging Face pentru a-și îndeplini obiectivul de testare, impus de programatori. Hugging Face a relatat despre incident încă de săptămâna trecută – compania a susținut că „a fost ceva cu care nu s-au confruntat până atunci”.

Mai mulți specialiști citați de presa internațională spun că OpenAI testa limitele de securitate, iar agentul a găsit o soluție astfel încât să acceseze internetul și să-și ducă misiunea la capăt, dar asta nu înseamnă că agentul AI ar avea conștiință.

Alți analiști vorbesc despre un nou pas în fenomenul „cyberattack”.