_ Întrebări și răspunsuri: Cum se răspândesc dezinformarea și dezinformarea, rolul de AI și cum ne putem proteja împotriva lor

Înotăm într-o mare de informații, construită pe un ciclu de conținut 24/7 produs pentru consumul nostru nesfârșit. Americanii obișnuiți se uită la smartphone-urile lor timp de trei ore și jumătate pe zi – și se absorb totul.

Dar cât de mult este adevărat? Este greu de spus, dar un lucru este clar, există o mulțime de dezinformare și dezinformare acolo, iar AI face mai ușor ca niciodată crearea de conținut din aer.

Care sunt aceste tipuri diferite de non-informații. -informații veridice și răspândirea lor este în creștere? Și cum o combatem?

Kelly M. Greenhill, profesor asociat de științe politice, este expert în domeniu. Autoarea cărții „Arme ale migrației în masă: deplasare forțată, constrângere și politică externă”, ea termină în prezent o carte care explorează influența zvonurilor, teoriilor conspirației, propagandei, miturile și alte forme de informații extra-factuale asupra politicii internaționale.

Greenhill, care face parte și la facultatea Tisch College of Civic Life, a vorbit recent cu Tufts Now, explicând varietatea a ceea ce ea numește informații extra-factuale și vorbind despre influența lor asupra politicii americane și despre ceea ce noi ca consumatorii de informații pot face pentru a menține lucrurile în ordine.

Dezinformarea este informații false sau înșelătoare care sunt create sau răspândite în mod eronat, în timp ce dezinformarea este informații false sau înșelătoare, care sunt răspândite cu bună știință și intenționat pentru a provoca prejudicii.

În munca mea, mă concentrez adesea pe ceea ce mă refer la informații extra-factuale, care includ atât dezinformare, cât și dezinformare, împreună cu alte forme de informații neverificate și neverificabile.

Cred că asta este important să analizăm în mod colectiv aceste forme disparate de informații din câteva motive.

Unul, ele sunt omniprezente în ecosistemul informațional de astăzi. În al doilea rând, ele sunt adesea interconectate; de exemplu, un zvon bazat pe dezinformare poate da naștere unei teorii a conspirației bazate pe dezinformare, bazată pe mituri neverificabile despre anumite persoane sau grupuri dintr-o societate. În al treilea rând, creierul nostru nu procesează în mod diferit aceste tipuri diferite de informații. Și patru, cu cât auzim mai multe informații, cu atât se simte mai „adevărată” pentru creierul nostru.

Așadar, dacă examinăm doar unul sau altul tip de informație izolat, pierdem multe despre ceea ce este de fapt se desfășoară, atât la nivel micro din interiorul capului indivizilor, cât și la nivel macro, în ceea ce privește rezultatele observabile în cadrul societăților și chiar la nivel transnațional.

Există mai multă dezinformare în politica de pe tot globul, în general. parte pentru că trăim într-o eră în care mai mulți politicieni sunt nerușinați să mintă fără rușine și/sau să disemineze informații extra-factuale înșelătoare.

Normele privind promulgarea informațiilor disimulate și false s-au relaxat, din păcate, în ultimii ani. Mulți politicieni care se angajează în acest comportament nu sunt pedepsiți.

Într-adevăr, ei sunt răsplătiți de susținătorii care preferă mesajele „adevărate” – cunoștințe care „se simt” adevărate și care provin din intestin, mai degrabă decât de la un raționament superior – peste alternative mai puțin acceptabile bazate pe fapte. Comportamentul extraordinar al lui Donald Trump în această privință în timpul campaniei prezidențiale din 2016 și ulterior a servit drept model imitat de mulți alții.

Ca și alte tehnologii de comunicații revoluționare dinaintea sa, internetul — și platformele de social media cărora le-a oferit. creștere — cu siguranță facilitează răspândirea a tot felul de informații mai rapid și mai larg decât era cazul anterior. Iar algoritmii de pe platformele de social media sunt proiectați în mod explicit pentru a oferi clienților mai mult din ceea ce pare că vor să vadă pentru a-i menține pe site-uri, oferind companiilor de tehnologie mai multe date valoroase despre utilizatori și venituri.

Totuși, ceea ce contează în mod fundamental – așa cum a fost întotdeauna – este conținutul mesajului (proeminenta lui pentru audiență), autoritatea percepută a sursei (mesagerul) și cât de des este primit mesajul. (repetiţie). Această combinație cheie a unui mesager credibil, care transmite un mesaj proeminent și aparent plauzibil și care face acest lucru în mod repetat, nu este nouă sau unică pentru internetul sau era rețelelor sociale. Tehnologia s-a schimbat, dar modul în care creierul nostru procesează intrările și ceea ce considerăm convingător și de ce, nu s-a schimbat.

Da, aceste temeri sunt ele însele destul de răspândite. Sunt și sunet. Există motive reale de îngrijorare. Pe de altă parte, există tehnologii promițătoare, cum ar fi filigranul AI, care sunt dezvoltate pentru a ajuta atât mesagerii, cât și publicul să facă distincția între conținutul real și cel generat de AI. Dar se pare că, cel puțin pe baza a ceea ce se poate culege din date open source/neclasificate, avem un drum lung de parcurs.

În același timp, din moment ce oamenii știu că generat de AI conținutul va fi acolo, ei ar trebui, cel puțin în teorie, să fie pregătiți să fie mai sceptici față de conținutul pe care îl întâlnesc și să trateze mai puțin din el ca în mod evident adevărat sau plauzibil adevărat. Pe de altă parte, totuși, indiferent de sursă – autentică, falsă sau undeva între ele – dacă o idee sau o informație pare adevărată pentru un individ atunci când o aude, este mai puțin probabil să interogheze sau să pună la îndoială veridicitatea acesteia.

Din păcate, nu putem fi siguri în cea mai mare parte a timpului. Ceea ce putem face, totuși, este să ne punem câteva întrebări atunci când întâlnim informații. Acestea includ: De unde au venit informațiile? Este sursa credibilă și de ce credem așa? Care este motivația sursei în împărtășirea informațiilor? Dacă credem imediat că informația „se simte” adevărată, ce dovezi, dacă există, ne-ar răzgândi?

Cu alte cuvinte, dacă vrem să credem că este adevărată, de ce și dacă nu, de ce nu ? Pe scurt, deși nu este un glonț de argint, a fi conștienți de răspunsurile noastre la informații noi ne poate ajuta să navigăm într-un peisaj informațional complicat.

Daniel Dennett, profesor emerit de filozofie la Tufts, a spus că se teme de această încredere. între oameni în ansamblu va fi distrus de IA reală — că nu vom putea ști în cine să avem încredere. Ce părere aveți despre asta?

În mare parte a lumii, și în special în multe democrații liberale occidentale, am suferit o criză de scădere a încrederii, în special a încrederii în instituții, cum ar fi guvernele și mass-media și încredere în experți și expertiză, de ceva vreme. Această criză a atins acum niveluri critice în multe locuri.

AI nu este nici rădăcina problemei, nici cauza acesteia. Dar AI poate avea efecte exacerbatoare importante, poate chiar critice, având în vedere criza de încredere subiacentă. Identitatea grupului „tribal” – și ceea ce spun colegii membrilor grupului despre cine trebuie să ai încredere și în ce ar trebui să crezi – poate și adesea face atuuri asupra faptelor.

AI, la fel ca multe tehnologii, este o roabă. mai degrabă decât stăpânul. S-ar putea schimba asta în viitor? Absolut. Dar cred că avem probleme de încredere mai acute și mai importante din punct de vedere existențial de confruntat și de combatet în prezent.

(Fluierul)