Alegerile din 2024, amenințate de deepfake-uri și dezinformare. „Anul acesta s-ar putea să vedem niște noutăți”

Ultimele luni au scos la iveală mai multe cazuri în care impostorii au păcălit mai mulți oameni prin înșelătorii online ce foloseau imagini sau chiar înregistrări modificate cu personalități politice sau media. Chiar dacă rudimentare, acestea par să fie suficient de eficiente pentru ca unii oameni să cadă în capcană. Aceleași instrumente pot fi folosite însă și în lupta electorală, deja celebrele deepfake-uri, ce îngrijorează autoritățile din Statele Unite, care caută să reglementeze utilizarea lor. Înaintea alegerilor din 2024, există temerea ca aceste fake-uri să-și facă apariția și în campaniile electorale de la noi, cu atât mai mult cu cât alegerile recente din unele țări vecine României arată că ele pot fi eficiente.

Deepfake-uri și dezinformare

La mijlocul lunii noiembrie, Departamentul Național de Securitate Cibernetică au emis o avertizare privind înșelătoriile din mediul online, atacuri de tipul deepfake în care sunt folosite imaginile unor personalități publice sau politicieni. Alerta DNSC venea după un caz în care escrocii au folosit un clip cu premierul Marcel Ciolacu, modificat cu ajutorul IA, promițând câștiguri uriașe celor dispuși să-și investească banii.

La nici două săptămâni în mediul online a circulat un alt clip deepfake, ce combina imagini de la Antena3 cu cele ale omului de afaceri Ion Țiriac, în care era anunțată o oportunitate unice de afaceri. „Noul proiect al lui Ion Țiriac a șocat Guvernul și marile bănci”, începea anunțul din clipul fals. „Social media este drogul secolului și îl consumăm cu zâmbetul pe buze”, spunea expertul de securitate George Drăgușin într-o conferință organizată la începutul lunii decembrie de către DNSC împreună cu mai multe bănci prin care încercau să atragă atenția asupra pericolului reprezentat de aceste fraude.

Au urmat apoi clipuri similare, generate cu IA, cu ministra educației Ligia Deca, anunțând închiderea școlilor din cauza creșterii numărului de tinere gravide, sau cu președintele Iohannis, anunțând și el închiderea școlilor din cauza cazurilor de Covid. Dacă aceste clipuri par a fi mai mult sau mai puțin doar niște glume, această tehnologie și-a făcut apariția și în lupta politică.

Digi24.ro

O femeie de 60 de ani, cu un aspect uluitor de tânăr, a câștigat un concurs de frumusețe și s-a calificat pentru Miss Argentina

Spre finalul lunii noiembrie, candidatul PSD la primăria orașului Câmpina, Irina Nistor, a acuzat un atac din partea adversarilor politici prin publicarea pe rețelele de socializare a unor clipuri cu conținut fals, modificate cu ajutorul inteligenței artificiale. „A început campania murdară la adresa mea! Plecând de la poza mea și a soțului meu, cineva a folosit un program DEEPFAKE pentru a crea filmulețele de mai jos, crezând că astfel îmi face rău”, a scris aceasta pe pagina ei de Facebook, distribuind atât filmulețele cât și conturile care le-au publicat.

Pericole pentru alegerile din 2024

Chiar dacă aceste clipuri sunt încă rudimentare în ceea ce privește calitatea, existând dubii cu privire la eficiența acestora, faptul că ele sunt încă produse arată, cel puțin, că autorii acestora cred în eficiența lor. Mai mult însă, când vine vorba de campanii electorale, acolo unde vorbim de milioane de alegători ce pot fi influențați de genul acesta de mesaje, riscurile sunt clare.

Recent, echipa de campanie pentru 2024 a președintelui Biden a creat o echipă specializată, formată din avocați și experți în tehnologie, pentru a putea răspunde la informațiile false generate cu ajutorul IA în condițiile în care Congresul SUA e încă departe de a finaliza o legislație care să răspundă acestei amenințări.

Autoritățile din România erau, la mijlocul lunii decembrie, în proces de a finaliza o legislație în ceea ce privește conținutul deepfake. O lege prin care autorii acestui tip de materiale sunt obligați să precizeze pe cel puțin 10% din suprafața clipului pe care îl vor posta faptul că este un conținut video imaginar fusese deja votată de Senat.

Digisport.ro

Un fotbalist celebru și soția sa, filmați în duș. Imaginile au făcut înconjurul lumii

Îngrijorarea autorităților nu este doar teoretică. Alegerile recente, care au avut loc în Polonia, dar mai ales în Slovacia, au arătat modul în care aceste unele pot fi folosite pentru a influența scrutinele electorale. În ambele cazuri s-a vorbit de o ingerință a guvernului de la Budapesta, care a plătit mesaje electorale, în cazul Slovaciei se poate vorbi de o primă utilizare a unui conținut deepfake.

În zilele de dinaintea alegerilor din octombrie 2023 din Slovacia, înregistrări audio deepfake care păreau să îl înfățișeze pe Michal Šimečka, liderul partidului pro-occidental Slovacia Progresistă, vorbind despre fraudarea alegerilor și dublarea prețului berii, au devenit virale pe rețelele de socializare.

Alte înregistrări audio deepfake care au făcut înconjurul lumii chiar înainte de alegeri au inclus avertismente care arătau că au fost generate de inteligența artificială, însă acestea nu au apărut decât după 15 secunde din clipurile de 20 de secunde. Cel puțin un cercetător a susținut că această sincronizare a fost o încercare deliberată de a înșela ascultătorii. Partidul lui Šimečka a sfârșit prin a pierde alegerile la limită în fața opoziției pro-Kremlin, iar unii comentatori au speculat că aceste deepfakes care au circulat târziu au afectat votul final.

La începutul lunii decembrie, experții din cadrul think-tank-ului EFOR au dat publicității un raport privind carențele din legislația electorală pentru alegerile europarlamentare din vară. Experții EFOR subliniază că în România avem probleme cu sancționarea neregulilor clasice, iar în cazul conținutului deepfake, e o problemă până și a reglementa astfel de conținut.

„Din păcate, legislația nu e adaptată nici măcar pentru metodele clasice de campanie. E o lege foarte veche și foarte proastă. E un subiect destul de sensibil acesta, pentru că e destul de greu să reglementezi așa ceva. În Statele Unite e o mare problemă cu deepfake-urile, unele fiind inclusiv asumate. Adică vorbim de înregistrări care promovează niște teme care în mod clar nu sunt adevărate, dar sunt cu sigla candidatului respectiv. E foarte greu să reglementezi așa ceva. Dacă intră în zona de discurs de ură, care încalcă legislația clasică și care ar putea fi sancționat astfel, vedem cum de multe ori e greu să găsești sursa, pentru că nu întotdeauna sunt asumate.

Dacă ne uităm la exemplul recent din Slovacia, și acolo a durat câteva zile, inclusiv până când au reușit să-l dea jos, pentru că a rulat și pe tot felul de rețele sociale. E destul de complicat. Mai intră în vigoare și noua directivă europeană care ar trebui să aducă niște mecanisme mai eficiente de soluționare a plângerilor online, și la noi ONCOM-ul va fi instituția de soluționare a acestora. Dar, cred că e o linie foarte subțire pentru a aduce astfel de cazuri în fața legii penale. Birourile electorale nu au tehnica să facă așa ceva, iar în campaniile electorale ele sunt cele care trebuie să rezolve astfel de probleme”, a declarat, pentru FANATIK, Septimus Pârvu, expert în cadrul EFOR.

În opinia acestuia există o limită până unde legislația poate ajuta în astfel de situații. În cazuri în care autorii unor astfel de materiale pur și simplu nu se află pe teritoriul țării noastre, ceea ce limitează orice acțiune a autorităților.

„Nu e neapărat o problemă de legislație, iar legislația poate fi modificată, dar e și o problemă de a vedea sursa, de a investiga, de a opri. Asta nu ține neapărat doar de autoritățile naționale, pentru că nu întotdeauna autorii se află pe teritoriul sub jurisdicția autorităților. E o chestiune ce ține mai degrabă de capacitate. Legea, într-o formă sau alta, îți oferă elemente de care să te legi pentru investigare”, a mai declarat, pentru FANATIK, expertul EFOR.

Cât de pregătită e societatea românească

Dacă autoritățile sunt limitate în ceea ce pot face efectiv pentru a limita răspândirea acestor materiale, un rol important îl vor juca chiar partidele politice, presa și chiar cetățenii obișnuiți care întâlnesc aceste mesaje pe rețelele de socializare.

Nici la acest capitol nu stăm foarte bine, este de părere expertul în legislație electorală, Septimius Pârvu. Anul 2023 a arătat, spre exemplu, capacitatea politicienilor de la AUR de a manipula un fake-news până la organizarea unui protest la Palatul Parlamentului, protest ce s-a soldat cu violențe și arestări. Același partid populist își dezvoltă acum propriile site-uri de știri, care nu sunt marcate ca publicații de țin de partidul AUR.

„Pe lângă faptul că sunt tot felul de site-uri mici, de exemplu AUR și-a dezvoltat tot felul de site-uri, dar nici măcar nu trebuie să ai un site. Să ne uităm la kompromatul legat de Emilia Șercan, faci un wordpress gratuit, pui un film și-l împrăști apoi. Metodele sunt atât de rudimentare, nici nu ai nevoie de ceva sofisticat. În Slovacia a durat un pic până au reușit să facă fact-checking.

Problema este că intraseră în perioada legală de interzicere a publicității electorale, practic, presa nu a mai putut să publice nici că înregistrarea respectivă a fost un fakenews. Ajungi în alte probleme, și oricum, ziua asta de dinaintea alegerilor, când nu ai voie să faci reclamă e o chestie de secol XIX. Dinamica e acum cu totul alta. Pe rețelele de socializare poți să faci practic orice, pentru că e greu să te mai oprească cineva. Miza este să oprești sursa și să dezvolți niște mecanisme de investigație. Dar, după cum s-a văzut și în Slovacia, nu este așa ușor”, a mai declarat, pentru FANATIK, Septimius Pârvu.

Expertul EFOR este sceptic că în acest moment instituțiile statului, formale și informale, sunt atât de robuste pentru a răspunde eficient acestui gen de dezinformări. Acesta spune că aproape sigur, în cele patru rânduri de alegeri din anul 2024 vor apărea și pe piața românească astfel de mesaje.

„După ce s-a văzut în celelalte țări, nu cred că e foarte ușor să combați astfel de mesaje. Cred că ar cam prinde acest gen de reclamă/ de mecanism de promovare (în România n.red.), iar instituțional, sincer, nu văd ce am putea face. Birourile electorale se luptă încă cu campania offline și chestiile acestea care sunt greu de controlat, ce să mai vorbim de online.

Noi nu am avut niște criza majore pe zona asta, sigur, au fost niște plângeri, așa cum se întâmplă, însă cred că anul acesta s-ar putea să vedem niște noutăți. Nu știu cât de bine vom răspunde unui astfel de episod, dar am reținerile mele că avem capacitatea de a opri genul acesta de reclamă”, a mai declarat Septimius Pârvu, pentru FANATIK.