La ce trebuie să fim atenți când folosim instrumente cu AI generativ. Director tehnic ApTI: „Aceste programe nu sunt deterministe și nu pot fi constrânse să facă un singur lucru” | AUDIO
Sursa foto: Shutterstock
Trebuie să fim sceptici și vigilenți când folosim instrumente cu AI generativ, atrage atenția Asociația pentru Internet (ApTI). Trebuie să fim atenți la ce drepturi și ce comenzi dăm agenților AI, a explicat la Europa FM Alexandra Ștefănescu, director tehnic ApTI. Explicațiile vin în contextul în care OpenAI – care a creat ChatGPT – a anunțat într-un comunicat că un agent AI dezvoltat de companie ar fi fost scăpat de sub control și a atacat infrastructura altei companii.
Alexandra Ștefănescu, director tehnic ApTI: „Agenții AI sunt algoritmi care execută comenzi”
„Cei care lucrează ca programatori și folosesc inteligență artificială generativă trebuie să fie foarte circumspecți atunci când rulează aceste programe pe calculatoarele proprii, oferindu-le foarte multe privilegii de a accesa resurse pe calculatorul lor, pentru că aceste programe nu sunt deterministe și nu pot fi constrânse să facă un singur lucru și doar acel lucru. Agenții AI sunt algoritmi care execută comenzi. Este foarte important de spus că doar atunci când noi pornim un astfel de program software, el începe să execute acțiuni. El nu le execută de capul lui și poate cel mai simplu este să ne gândim la faptul că, în momentul în care scoatem calculatorul din priză, aceste programe nu mai execută nimic. Ele nu mai există dincolo de bariera lipsei de electricitate”, a explicat Alexandra Ștefănescu, director tehnic ApTI.
Cum ar trebui să Alexandra Ștefănescu, director tehnic ApTI:
În plus, trebuie să fim atenți și la context și la interesele comerciale.
„Pentru noi, cel mai important este să citim aceste comunicate de presă cu conștientizarea în minte că ascultăm o companie vorbind despre propriul produs, un produs pe care vrea să-l vândă pe o scară cât mai largă. Și atunci este în interesul lor să folosească un limbaj care să ne facă pe noi să simțim că doar produsul lor este răspunsul la problemele pe care le întâlnește astăzi societatea”, a adăugat Alexandra Ștefănescu, director tehnic ApTI.
Experta în securitate cibernetică, Alexandra Ștefănescu, director tehnic al Asociației pentru Internet.
