DNSC a lansat ghidul de „igienă digitală și gândire critică”. Experții în securitate cibernetică le arată utilizatorilor cum să-și protejeze datele și să recunoască conținuturile false generate cu AI

Într-o eră digitală dominată de conținut online generat de inteligența artificială, experții în securitate cibernetică, educație digitală și prevenirea criminalității informatice au lansat un ghid pentru folosirea în mod responsabil a inteligenței artificiale, anunță Directoratul Național de Securitate Cibernetică (DNSC). Intitulat „Inteligența artificială & manipularea percepției umane”, ghidul explică, printre altele, cum pot fi identificate tentative de manipulare și conținutul fals generat cu ajutorul AI (deepfake). De asemenea, ghidul îi învață pe utilizatori cum să recunoască riscurile prezentate de algoritmi, să verifice informațiile și să își dezvolte gândirea critică.

Siguranța online începe cu informare, verificare și responsabilitate, transmite DNSC, care propune un ghid de „igienă digitală și gândire critică”, care să transforme „utilizatorul pasiv într-un actor conștient al propriei realități”.

În ghidul publicat joi, 12 februarie, specialiștii în securitate cibernetică atrag atenția că „algoritmii moderni pot identifica punctele slabe emoționale, tiparele comportamentale și preferințele psihologice ale utilizatorilor cu o acuratețe uluitoare”. Odată colectate aceste date, algoritmii pot să genereze „conținut personalizat care activează emoții puternice și decizii impulsive – fără ca victima să conștientizeze acest proces”, subliniază experții în ghid.

Ce sunt sistemele de recomandare și predicție comportamentală – le vedem pe Youtube, pe site-urile de cumpărături ori pe rețelele de socializare

Sistemele de recomandare și predicție comportamentală există în majoritatea interacțiunilor noastre digitale, spun specialiștii. De la videoclipuri pe YouTube, până la produse ce apar în feed-ul de cumpărături sau postări de pe rețelele sociale. Aceste sisteme folosesc AI și machine learning pentru a analiza comportamentul online și a construi un model predictiv despre utilizator. Scopul declarat este de a îmbunătăți experiența digitală, dar, potrivit ghidului, în practică, situația este cu totul alta.

„Aceste sisteme pot fi deturnate pentru a influența, manipula și controla deciziile, emoțiile și convingerile utilizatorilor, fără ca aceștia să conștientizeze și să-și exprime acordul explicit”, subliniază experții în securitate cibernetică.

Ce fel de date colectează platformele online despre utilizatori și cum le folosesc, conform ghidului „Inteligența artificială & manipularea percepției umane”

Mai exact, sistemele de recomandare ale platformelor online colectează informații despre utilizatori, precum: istoricul de căutare și navigare, durata de vizualizare a unui conținut, click-uri, like-uri, comentarii, partajări, ritmul de derulare, pauzele și revenirea pe conținut, locația, ora din zi, dispozitivul folosit și comportamente repetitive.

Aceste date sunt procesate pentru a crea un profil comportamental și, ulterior, un set de previziuni personalizate. Acest lucru înseamnă că site-urile și aplicațiile de social media vor ști ce îl interesează pe utilizator, ce îl atrage, ce îl neliniștește, ce tip de reacție este cel mai probabil să aibă la vederea unei anumite postări etc.

Spre exemplu, o adolescentă care urmărește conținut legat de greutatea corporală îi vor fi recomandate materiale care promovează idealuri toxice de frumusețe sau comportamente alimentare riscante, atrag atenția experții în siguranța online. Sau unei persoane care comentează un articol de natură politică îi vor apărea în feed postări „din ce în ce mai partizane, care întăresc doar propria viziune sau o deturnează”, adaugă experții.

Riscuri majore pentru sănătatea psihică a utilizatorilor – de la dependență digitală până la polarizare socioală și politică

În astfel de situații există mai multe riscuri majore, se arată în ghid: de la manipulare invizibilă a convingerilor – utilizatorul ajunge să creadă că ideile și deciziile sale îi aparțin în totalitate, când de fapt sunt induse prin expunere algoritmică repetitivă, până la polarizare socială și ideologică – când oamenilor le apar doar cu opinii similare, diferențele de viziune devin extreme, de neînțeles și de neacceptat și dependență digitală – sistemele optimizează pentru atenție, nu pentru echilibru. „Astfel, oferă conținut stimulant și creator de dependență, nu util și sănătos”, mai precizează experții care au realizat ghidul.

Cum ne protejăm în lumea digitală. Recomandările experților în securitate cibernetică și educație digitală 

Specialiștii în securitate cibernetică recomandă utilizatorilor să folosească platformele în mod conștient, nu în regim pasiv, adică să nu deruleze automat și să nu consume excesiv conținut online. De asemenea, este utilă setarea unor limite de timp și opțiuni de personalizare unde este posibil. Utilizatorii sunt sfătuiți să caute activ surse și conținut alternativ, nu doar ce li se oferă în feed, dar și să-și antreneze simțul critic prin întrebări: „Cine a ales să văd asta? Eu sau un algoritm?”, mai recomandă specialiștii DNSC.

Ghidul „Inteligența artificială & manipularea percepției umane” a fost realizat de experți ai DNSC, alături de Poliția Română, Centrul Național Cyberint din cadrul Serviciului Român de Informații și Asociația de Securitate Cibernetică pentru Cloud. Ghidul poate fi accesat în limbile română și engleză aici.