_ Deepfake-urile sunt încă noi, dar 2024 ar putea fie anul în care au impact asupra alegerilor

Dezinformarea i-a surprins pe mulți oameni în timpul referendumului Brexit din 2016 și a alegerilor prezidențiale din SUA. De atunci, s-a dezvoltat o mini-industrie care să o analizeze și să o contracareze.

Cu toate acestea, am intrat în 2024 – un an cu peste 40 de alegeri în întreaga lume – mai temători ca niciodată de dezinformare. În multe privințe, problema este mai provocatoare decât a fost în 2016.

Progresele tehnologice de atunci sunt un motiv pentru aceasta, în special dezvoltarea care a avut loc cu mediile sintetice, cunoscute altfel sub denumirea de deepfakes. Este din ce în ce mai dificil să știm dacă media a fost fabricată de un computer sau se bazează pe ceva care s-a întâmplat cu adevărat.

Încă nu înțelegem cu adevărat cât de mare ar putea avea deepfakes-urile asupra alegerilor. Dar o serie de exemple arată calea către modul în care pot fi utilizate. Acesta poate fi anul în care se fac o mulțime de greșeli și se învață lecții.

De la dezinformarea propagată în jurul voturilor din 2016, cercetătorii au produs nenumărate cărți și lucrări, jurnaliștii s-au recalificat ca experți în verificarea și verificarea faptelor, guvernele au participat la „mari comitete” și centre de excelență.

În plus, bibliotecile au devenit centrul strategiilor de consolidare a rezilienței și au apărut o serie de noi organisme care oferă analiză, instruire și resurse.

Această activitate nu a fost fără rezultat. Acum avem o înțelegere mai nuanțată a dezinformarii ca fenomen social, psihologic, politic și tehnologic. Eforturile de a sprijini jurnalismul de interes public și cultivarea gândirii critice prin educație sunt, de asemenea, promițătoare. În special, marile companii tehnologice nu mai pretind a fi platforme neutre.

Între timp, factorii de decizie și-au redescoperit datoria de a reglementa tehnologia în interesul public.

Discuțiile privind reglementarea au adăugat o urgență. acum că instrumentele AI pentru a crea medii sintetice – medii generate parțial sau integral de computere – au devenit curente. Aceste deepfake-uri pot fi folosite pentru a imita vocea și aspectul unor oameni reali. Media deepfake este impresionant de realiste și nu necesită prea multe abilități sau resurse.

Acesta este punctul culminant al revoluției digitale mai ample prin care tehnologiile succesive au făcut ca producția de conținut de înaltă calitate să fie accesibilă aproape oricui. În schimb, structurile de reglementare și standardele instituționale pentru mass-media au fost concepute în mare parte într-o epocă în care doar o minoritate de profesioniști avea acces la producție.

Deepfake-urile politice pot lua diferite forme. Recentele alegeri indoneziene au văzut un videoclip fals care l-a „înviat” pe regretatul președinte Suharto. Acest lucru a fost aparent pentru a încuraja oamenii să voteze, dar a fost acuzat de propagandă pentru că este produs de partidul politic pe care îl conducea.

Poate că o utilizare mai evidentă a deepfakes este să răspândească minciuni despre candidații politici. De exemplu, audio fals generat de inteligență artificială, lansat cu câteva zile înainte de alegerile parlamentare din Slovacia din septembrie 2023, a încercat să-l înfățișeze pe liderul Slovaciei Progresiste, Michal Šimečka, ca a discutat cu un jurnalist cum să fraudeze votul.

În afară de efortul evident de a submina un partid politic, merită remarcat modul în care acest deepfake, a cărui origine nu era clară, exemplifică eforturile mai ample de a țap ispășitor minorităților și de a demoniza jurnalismul de masă.

Din fericire, în acest caz, audio nu a fost de înaltă calitate, ceea ce a făcut ca verificatorii de fapt să confirme mai rapid și mai ușor neautenticitatea acestuia. Cu toate acestea, integritatea alegerilor democratice nu se poate baza pe ineptiduitatea falsificatorilor.

Tehnologia audio Deepfake este la un nivel de sofisticare care face dificilă detectarea. Videoclipurile deepfake încă se luptă cu anumite trăsături umane, cum ar fi reprezentarea mâinilor, dar tehnologia este încă tânără.

De asemenea, este important de menționat că videoclipul slovac a fost lansat în ultimele zile ale campaniei electorale. Acesta este un moment propice pentru a lansa atacuri de dezinformare și manipulare, deoarece țintele și jurnaliștii independenți au mâinile pline și, prin urmare, au puțin timp să răspundă.

Dacă este, de asemenea, costisitoare, consumatoare de timp și dificil de investigat. falsuri profunde, atunci nu este clar cum ar trebui să răspundă comisiile electorale, candidații politici, mass-media sau, într-adevăr, electoratul atunci când apar potențiale cazuri. La urma urmei, o acuzație falsă din partea unui deepfake poate fi la fel de tulburătoare ca și deepfake-ul real.

Un alt mod în care deepfake-urile ar putea fi folosite pentru a afecta alegerile poate fi văzut în modul în care sunt deja folosite pe scară largă pentru a hărțui și a abuza femeile. si fetele. Acest tip de hărțuire sexuală se potrivește unui model existent de abuz care limitează participarea femeilor la politică.

Dificultatea este că încă nu este clar ce impact ar putea avea deepfakes asupra alegerilor. Este foarte posibil să vedem și alte utilizări similare ale deepfake-urilor la viitoarele alegeri din acest an. Și am putea vedea chiar și deepfake-urile folosite în moduri care nu au fost încă concepute.

Dar merită să ne amintim că nu toată dezinformarea este high-tech. Există și alte moduri de a ataca democrația. Zvonurile și teoriile conspirației despre integritatea procesului electoral sunt o tendință insidioasă. Frauda electorală este o preocupare globală, având în vedere că multe țări sunt doar democrații în nume.

În mod clar, platformele de social media permit și conduc dezinformarea în multe feluri, dar este o greșeală să presupunem că problema începe și se termină online. O modalitate de a ne gândi la provocarea dezinformarii în timpul viitoarelor alegeri este să ne gândim la puterea sistemelor care ar trebui să susțină democrația.

Există un sistem media independent capabil să ofere publicului investigații de înaltă calitate. interes? Există administratori și organisme electorale independente? Există instanțe independente care să judece dacă este necesar?

Și există un angajament suficient față de valorile democratice în detrimentul interesului propriu în rândul politicienilor și al partidelor politice? În acest an de alegeri, s-ar putea să aflăm răspunsul la aceste întrebări.

Acest articol este republicat din The Conversation sub o licență Creative Commons. Citiți articolul original.

(Fluierul)