Fenomenul „deepfake” în România. „Nu suntem pregătiți pentru impactul și consecințele unor astfel de tehnologii folosite cu rea intenție”

La o lună de la izbucnirea războiului din Ucraina, pe rețelele sociale apare un video cu imaginea lui Volodimir Zelenski, prelucrată de inteligența artificială. În materialul video, președintele ucrainean ține un (fals) discurs, prin care își îndeamnă soldații să „pună armele jos” și să se predea armatei ruse. Videoclipul este realizat cu tehnologia deepfake, printr-o suprapunere de imagine și voce, făcută de inteligența artificială și care prezintă informații false, create în mod intenționat așa.

Videoul a creat îngrijorări cu privire la acuratețea mesajului președintelui la acel moment, deși calitatea tehnică era una slabă, iar imaginile aveau erori de motricitate la nivelul feței.

Astăzi, tehnologia deepfake a ajuns deja mai subtilă și s-a răspândit pe tot globul, uneori sub formă de satiră, alteori cu o miză serioasă. Recent, în Slovacia a apărut un video care fura imaginea președintei unui partid politic progresist, într-o discuție cu o jurnalistă despre fraudarea alegerilor, înainte cu două zile de deschiderea urnelor de votare. În Slovacia, partidul oponent de extremă dreaptă a ieșit câștigător. 

Tot în contextul alegerilor a fost creat un deepfake și cu Maia Sandu care își anunță demisia în contextul alegerilor locale din Republica Moldova de anul acesta, încurajând populația să voteze cu partidul pro-rus. 

Nici România nu a fost izolată de fenomen. Țintele practicii deepfake din spațiul public au fost Klaus Iohannis, care „iniția” o lege care ar fi interzis femeilor să ceară socoteală bărbaților, dar și ministrul educației, Ligia Deca, care „prezenta” la o conferință de presă introducerea unei noi materii, prin care elevii urmau să fie învățați să joace jocuri de noroc în mod responsabil. 

PressOne a stat de vorbă cu specialiști în trei domenii: consultanță politică, IT și sociologie, pentru a explica care sunt implicațiile profunde ale fenomenului deepfake în societate și cum aceste tehnologii pot influența opinia publică, rezultatele electorale și stabilitatea democrației, în lipsa unei strategii de informare. 

Parlamentul și internetul. Reacție tardivă la fenomenul Deepfake

În context, Parlamentul României a propus un proiect de Lege „privind interzicerea utilizării maliţioase a tehnologiei şi limitarea fenomenului Deepfake ( Falsul Sever)”, în vara anului 2023. Proiectul a fost validat de Senat, urmează avizul din partea Camerei Deputaților, în calitate de for decizional. 

„Distribuirea pe internet și/sau difuzarea în mass-media de conținut tip deepfake sunt interzise dacă nu sunt însoțite de un avertisment redat pe cel puțin 10% din suprafața expunerii și pe toată durata difuzării respectivului conținut vizual sau de un mesaj sonor la începutul și la finalul conținutului audio: Acest material conține ipostaze imaginare”, se arată în inițiativa legislativă. 

Nerespectarea condiției de marcare îl vizează pe cel ce distribuie/difuzează videoul și atrage amenzi cuprinse între 10.000 și 100.000 de lei, iar suma ar putea fi dublă dacă acțiunea se repetă în cel puțin două materiale distincte. Organul legislativ care este în măsură să monitorizeze fenomenul este Consiliul Național al Audiovizualului (CNA).

Normele Uniunii Europene 

Reglementarea deepfake este și pe agenda Parlamentului European. Legislativul comunitar urmează să propună până la finalul anului norme care vizează „cerințe minime de transparență care să permită utilizatorilor să ia decizii în cunoștință de cauză.”

„După ce a interacționat cu aplicațiile, utilizatorul poate decide dacă dorește să le folosească în continuare. Utilizatorii trebuie să fie informați atunci când interacționează cu IA. Această cerință include sisteme IA care generează sau manipulează imagini, conținut audio sau video, de exemplu deepfakes”. 

Miza tehnologiei deepfake nu se oprește însă la defăimarea unei personalități publice, ea este periculoasă deoarece poate fi instrumentalizată mai ales pentru fraudă. 

„Până acum, cea mai extinsă utilizare a materialelor de tip deepfake cu impact în industria de securitate informatică o regăsim în fraudele din domeniul criptomonedelor. Imaginea unor persoane celebre, precum Elon Musk, a fost folosită extensiv pentru a convinge utilizatorii să trimită bani, să deschidă linkuri periculoase sau că trebuie să investească într-un timp scurt  într-o monedă necunoscută”, afirmă Silviu Strahie, specialist în securitate informatică la Bitdefender. 

În 2023, proporția de deepfake-uri înregistrate în Nordul Americii s-a dublat față de ultimul an, arată un raport realizat de o platformă de verificare a identității online. 

Cum stau lucrurile acum: legislația avansează lent, tehnologia se dezvoltă repede

În prezent nu există o legislație care să reglementeze tehnologia deepfake nici la nivel de țară, nici la nivelul Uniunii Europene, dar este în dezbatere implementarea unui sistem, tot prin intermediul inteligenței artificiale, care să detecteze materialele fabricate și să atenționeze utilizatorul, spune Silviu Stahie, specialist în securitate informatică.

„Tehnologia de tip deepfake are la bază instrumente AI (artificial intelligence), care la rândul său este în proces de reglementare, cel puțin în cadrul Uniunii Europene. Într-o primă fază, platformele care oferă suport pentru fișiere audio-video să detecteze atunci când este vorba despre un deepfake și să informeze utilizatorii. De asemenea, aceste platforme vor trebui să-i înștiințeze  pe cei care încarcă materiale audio-video de necesitatea respectării legii și să marcheze orice material deepfake ca atare”, afirmă specialistul. 

Inovația fenomenului nereglementat încă este aceea că acum are implicații și la nivel audio, de reproducere a unei voci familiare, la telefon, care devine imposibil de diferențiat de cea originală și creează presiuni de reacție asupra victimei. 

„Există însă un alt pericol care nu este la fel de evident, dar care poate avea un impact substanțial, și anume tipul de atac numit vishing (voice phishing). Într-un scenariu de acest fel, victima este sunată de către un atacator care  imită pe cineva cunoscut, o rudă sau chiar un președinte de companie. ”

„Au fost asemenea atacuri reușite în trecut, fără ajutorul tehnologiei deepfake. Utilizarea unei voci modificate prin tehnologia deepfake va face mult mai dificilă detecția și ar putea duce la un număr mai mare de atacuri la nivel de companii”, spune Strahie. 

Valul folosirii inteligenței artificiale pentru crearea de deepfakes este originară zonelor vestice și estice, iar principalii actori geopolitici care o folosesc sunt „Rusia și China, dar și alți indivizi sau grupări din interiorul statelor democratice”, afirmă Radu Magdin, analist global. „Pentru noi, cu siguranță, riscul mai mare vine de la actorii externi ce vor să interfereze cu interesele țării, în special din spațiul estic, dar dezinformarea cu origini fie din vest, fie din interiorul țării, se întâmplă și presupune riscuri”, adaugă analistul.

Politica de zero-încredere

Metodele tehnice de protecție asupra tehnologiei deepfake nu există, dar o soluție pentru a combate amploarea ei ar fi însă informarea populației cu privire la acest subiect, spune Strahie. Mesajele cu puternic impact emoțional ar trebui privite cu o doză de scepticism și verificate din mai multe surse, mai ales în pragul unui an electoral. 

„Dacă un mesaj video oferă oportunități extraordinare de câștig, invocă vreun sentiment de urgență sau conține un mesaj socio-politic ieșit din tipar, atunci ar trebui să verificăm și din alte surse dacă este adevărat sau nu. Aplicarea unei politici de zero-încredere va fi foarte utilă până la implementarea unor sisteme automatizate de detecție”. 

De impulsul emoțional care stă la baza acestor materiale vorbește și Gelu Duminică, sociolog și profesor la Facultatea de Sociologie și Asistență Socială în cadrul Universității București.

„În practică ni se arată că aceste tipuri de manipulări grosolane, minciuni, nu sunt promovate în general de oamenii slab educați. Sunt preluate de ei pentru că adresează temeri, frici, angoase, emoții, care se găsesc în anumite pături ale societății”. 

Fără cadru legislativ și campanii de informare publică „societatea românească, în general, nu este pregătită pentru impactul și consecințele unor astfel de tehnologii folosite cu rea intenție”, este de părere Magdin, iar pe acest fond, partidele de dreapta extremă câștigă teren. 

„Se folosesc în special de subiecte sensibile care produc emoție în rândul publicului țintă, și manipulează informația astfel încât să producă reacțiile pe care le doresc. De asemenea, exploatează adeseori ideea trecutului glorios și găsesc vinovați precum guvernanții sau Uniunea Europeană, statele vestice, pentru nemulțumirile și neajunsurile românilor. Deepfakes cu discursuri susținute de diverși lideri, care transmit o idee considerată în defavoarea intereselor țării noastre, pot pune bazele sau consolida asemenea opinii, adaugă Magdin. 

Instrumentalizarea deepfake în politică 

Anul 2024 este un an cu patru rânduri de alegeri: prezidențiale, parlamentare, europarlamentare și locale. Radu Magdin, analist global, atrage atenția că dezinformarea și propaganda specifică unui context electoral vor cuprinde mai ales spațiul online.

„Așa cum am putut observa în cazul altor alegeri din Europa, tehnologia deepfake are capacitatea de a fi utilizată pentru a influența rezultatele campaniilor electorale. Desigur că în România există același risc, mai ales în contextul anului viitor, și de aceea preocupările și dezbaterile pentru reglementarea acestor tehnologii sunt mai mult decât necesare în momentul de față. Pe lângă reglementare, populația ar trebui atenționată și educată în acest sens, pentru că există o șansă mare ca la un moment dat să se întâlnească cu o astfel de manipulare”. 

Deepfakes sunt la îndemâna oricui, foarte ușor de creat și de distribuit, acesta fiind și cea mai periculoasă particularitate, crede Radu Magdin. Într-un context mai larg, respectiv o campanie electorală, „ne putem aștepta atât de la politicieni, de la oameni cu diverse interese care vor să manipuleze rezultatele într-o anumită direcție, cât și de la entități statale și non-statale străine, să apeleze la asemenea metode.”

Manipulările politice amintite anterior prin tehnologia deepfake urmăresc „a denigra, a compromite imaginea candidaților sau a schimba percepții asupra unor subiecte controversate folosind chipurile unor persoane pe care publicul țintă le consideră de încredere și care ar influența felul în care acesta votează”, spune Radu Magdin.

Tehnologia deepfake – o nouă normalitate

Dezvoltarea tehnologiei în zona inteligenței artificiale va perfecționa crearea de materiale deepfake, dar în prezent este greu de imaginat până unde va ajunge, spun specialiștii. Cu toate acestea, omul va învăța să se adapteze noilor schimbări, la fel cum și generațiile trecute au făcut față, spune sociologul Gelu Duminică. 

„Ai noștri copii vor trăi într-o societate în care inteligența artificială va fi mult mai prezentă decât în momentul de față, cu mult mai multe provocări pe care noi nici nu le bănuim, la fel cum și eu trăiesc într-o societate pe care nici măcar nu mi-o imaginam acum 30 de ani când eram copil. 

Soluția pentru contrabalansarea materialelor de tip deepfake ar fi „legea și educația”, afirmă sociologul, iar din perspectiva lui, în zona educației stăm rău. 

„Societatea noastră din punct de vedere educațional arată într-un fel. Și cred că asta ar trebui să ne îngrijoreze pentru că testele astea PISA și tot ce vedem noi la evaluarea sistemului, nu ne arată doar capacitatea umană, resursa umană pe care o vom avea pe viitor și care va fi una destul de slabă, ci ne arată și tipul de cetățean pe care îl vom avea pe viitor, care este unul ușor manipulabil, ușor de antagonizat, predispus, în mai mare măsură la conflicte.”, spune Gelu Duminică 

O altă soluție ar fi mobilizarea societății în a trage la răspundere pe autori, alături de informarea în masă, este de părere Radu Magdin. 

„Sancționarea celor ce folosesc asemenea instrumente cu scopul de a induce publicul în eroare, dar și sancționarea lor morală de către societate.”

„Noi nu trebuie să tolerăm astfel de fenomene și putem folosi presiunea opiniei publice, dreptul nostru de a vota, pentru a descuraja astfel de comportamente. De asemenea, educația digitală trebuie îmbunătățită la nivelul întregii societăți, dar și a politicienilor, pentru a fi conștienți de riscuri, de impactul acestor tehnologii. Nu în ultimul rând, comunicarea strategică joacă un rol foarte important pentru a putea contracara informații false care apar în spațiul public”, atrage atenția Radu Magdin.

Legea deepfake a trecut de Senat și urmează să ajungă la votul final în Camera Deputaților. Ministrul Digitalizării a vorbit recent despre urgența și importanța legii: 2024 va fi un anul în care România va trece prin toate tipurile de alegeri.