Scris de Johann Eddebo prin Off-Guardian.org,

Îți amintești cum "Consiliul de guvernare a dezinformației” neconstituțional, autoritar și total nebun – cu cosplaying-ul lui Mary Poppins, nivelul Monty Python de șef de departament auto-satirizant neintenționat – a fost lansat acum doi ani ca o jumătate de glumă, jumătate de test beta a unei versiuni a Ministerului Adevărului din 1984?

>

Ei bine, copii, nu aș numi acest lucru șah 4D sau altceva, dar desigur a fost doar o momeală. Această parodie și retragerea ei rapidă ne asigură că nimic de acest fel nu ar putea dura.loc, în același timp, semănând un șablon vizibil, care arată cum ar trebui să ne așteptăm să arate eforturi de propagandă deschise, cu mâini grele, în zilele noastre.

Între timp, există în prezent eforturi masive în fundal și sub suprafață, pe tot terenul de joc, în direcția implementării tehnologiei big data și AI nu numai în scopurile propagandei clasice, din ce în ce mai învechite, sau al unei simple supravegheri.Nu, de data aceasta, explorăm metode cu totul noi de modificare a comportamentului și control narativ, menite să ieși înaintea cristalizării discursurilor și chiar a formării de identități și viziuni asupra lumii.

Ei doresc să controleze formarea și reproducerea "imaginariilor sociale”.

Deci, ideea este să folosiți colectarea masivă de date și recunoașterea modelelor AI pentru a perturba preventiv formarea narațiunilor, discursurilor sau modelelor de informații semnificative din punct de vedere comportamental.

Cu aceste instrumente de "diagnosticare timpurie” a informațiilor care ar putea perturba structura puterii și obiectivele acesteia, atunci devine posibil să o ciupiți din răsputeri incredibil de devreme, cu mult înainte ca astfel de informații să se înglobeze în ceva asemănător unor narațiuni coerente.sau modele semnificative pentru explicații sau concluzii ulterioare precare.

În ultimele două decenii, angajamentul Departamentului Apărării al SUA DoD față de ceea ce  Edwards 1996 a analizat ca o "lume închisă” de izolare și dominație militară a căpătat o nouă viață.Trecerea din anii 1990 de la un cadru de conflict de superputeri la așa-numitul război neregulat al operațiunilor de contrainsurgență și contraterorism s-a aliniat bine cu construirea din infrastructuri în rețea.Cu toate acestea, revoluția asociată în afacerile militare a dus mai puțin la dizolvarea "ceții de război” persistente, decât la intensificarea acesteia.Citite ca o lipsă de integrare a informațiilor, tulburările intransigente ale luptei susțin investiții din ce în ce mai mari în ceea ce voi susține că este o fantezie rezistentă de comandă și control cuprinzător bazat pe date.Construirea unor sisteme de senzori, procesare a semnalului, stocare și transmisie a datelor s-a dovedit mai simplă decât traducerea datelor în ceea ce în termeni militari se numește "inteligență acționabilă”.Întrucât excesul de date amenință acum să destabilizați imaginarul tehnopolitic al informațiilor just-in-time, inteligența artificială AI este avansată ca soluție promițătoare pentru automatizarea analizei datelor și reînchiderea lumii.

Suchman, L.2022."Imaginari ale omniscienței: automatizarea informațiilor în Departamentul Apărării al SUA.”.Social Studies of Science Vol.53, Issue 5, pp.761–786.Publicații SAGE.

Întregul proces ar funcționa cam așa.

AI cercetează cantitățile masive de date colectate în timp real din rețelele de socializare și rețelele de comunicații digitale, inclusiv totul, de la transcrieri pentru telefoane mobile la aplicații de mesagerie instantanee de ce crezi că WhatsApp acum deținut de Meta, cunoscut anterior ca Facebook vă permite să sunați gratuit pe toată lumea din lume?.

Apoi ați antrenat algoritmii pentru a identifica modele "disruptive” în comunicații care preced diferitele tipuri de evoluții pe care doriți să le evitați, cum ar fi ca o anumită informație să devină virală, dar ați dori, de asemenea, să identificați grupuri de informații potențial robuste care nu vor deveni neapărat virale rapid, dar care au capacitatea de a genera cadre narative puternice și durabile care, în timp, ar putea amenința status quo-ul.Aceasta ar include fenomene atât de complexe, cum ar fi mișcările de reformă religioasă și politică, abordări inovatoare contra-culturale sau chiar eforturi artistice care ar putea avea un impact asupra creării de sens a oamenilor.

Alegeți apoi "influenți” cheie, și anume noduri sau noduri potențiale din tiparele de comunicare și adăugarea crucială și total ocrotită la abordările comune, cum ar fi interzicerea în umbră sau alte tipuri de cenzură blândă, care este nou în această etapă a propagandei digitale, este însămânțarea proactivă a contra-narațiunilor care pot fi făcute în acest moment.

Așadar, "împingeți” cu blândețe și atenție indivizii potențial perturbatori în direcția preferată, pentru a modela și modela fluxurile de informații asupra cărora au influență, cu scopul final de a modela sau bloca în mod activ cristalizarea oricăror formațiuni virale sau narațiuni potențial robuste sau noi "imaginare sociale”.

Dominanță narativă cu spectru complet.

După cum a raportat Lee Fang, o companie care a apărut recent și care își propune să "țină sub control” conversațiile online și să folosească în mod activ "contramăsuri” la cererea marilor corporații și a guvernelor occidentale, poartă numele de "Logically.AI”.

Compania experimentează chiar și modele de limbaj natural, conform unei dezvăluiri corporative , "pentru a genera rezultate eficiente contra discursului care pot fi valorificate pentru a oferi soluții noi pentru moderarea conținutului și verificarea faptelor”.Cu alte cuvinte, roboți bazați pe inteligență artificială care produc, în timp real, argumente originale pentru a contesta conținutul etichetat drept dezinformare.

Lee Fang."În mod logic.AI din Marea Britanie și extinderea acoperirii globale a cenzurii”.RealClear Wire

În mod logic.AI este la fel de înfricoșător pe cât de înfățișat, cu sediul central din SUA în Arlington, VA, adică lângă Pentagon și DARPA, și ar fi fost fondată la vârsta fragedă de 22 de ani de către această fantomă ciudat de imposibil de urmărit cu numele neplauzibil de "Lyric Jain”.

Sunt foarte confortabili cu principalii jucători din Silicon Valley, inclusiv Microsoft, Google și TikTok, în timp ce Facebook "Meta” îi folosește pentru "verificarea faptelor” și pentru a evalua postările și mesajele pentru suprimare și declinare în toate fluxurile lor de social media.De asemenea, lucrează îndeaproape cu guvernele occidentale și cu partenerii aliniați din întreaga lume, cu un rol recunoscut în războiul psihologic pentru a contracara influența în special a Rusiei și a Chinei, precum și pentru a proteja "integritatea electorală” a statelor occidentale în fața narațiunilor nedorite..

În mod logic.AI este, de asemenea, micuța iubită a mass-mediei, fiind adorată de toți suspecții obișnuiți, cum ar fi The Guardian, Washington Post, BBC  etc.și a încheiat parteneriate oficiale cu instituții academice din întreaga lume.

Toate acestea ne oferă o imagine a acoperirii lor generale și a expansiunii rapide incredibile, care în sine ridică multe întrebări, care servește la ilustrarea potențialului uimitor de influență pe care o operațiune de acest fel îl poate avea.

Putem vedea apoi cum parteneriatul strâns dintre statul și actorii corporativi furnizează intențiile și obiectivele pentru utilizarea acestor instrumente, precum și accesul la enormele bănci de date digitale și platforme online pentru discurs, acoperirea, precizia și impactul străin este amplificat de asocierea cu serviciile de informații, iarmedia moștenită oferă multiplicatori de forță strategică pentru narațiunile semnificative din punct de vedere comportamental pe care doriți să le promovați și să le reproduceți.

Și o completare foarte bună la setul de instrumente digitalizat de supraveghere în masă-cenzură și inginerie socială contemporană, care este, de asemenea, luată în considerare aici este noțiunea de "informație defectuoasă”, adică informații veridice sau faptice, dar care favorizează narațiuni nedorite.Cu alte cuvinte, doar lucruri care sunt adevărate la care ei nu vor să le cunoști sau la care să te gândești.Acest tip de renunță la tot jocul.Nu este vorba despre adevăr sau fapte, desigur, ci despre controlul narațiunilor semnificative din punct de vedere social și nimic altceva.

Ar putea fi demn de subliniat faptul că contracararea unei astfel de "malformații” prin tulburarea apelor sau alcătuirea unor narațiuni contrare, prin definiție, echivalează cu însăși definiția "dezinformarii” la care subscriu aceste entități de poliție a gândirii.Desigur, nu este o problemă când proprietarii noștri o fac.

>

Oricum, cum ar arăta modul general de operare?

Imaginați-vă că dvs.sau eu exprimăm o anumită unitate de "informație defectuoasă” în interacțiunile noastre online, care este preluată de unul dintre acești algoritmi de recunoaștere a modelelor antrenați să detecteze informații care pot perturba.Să spunem că această afirmație, în întregime veridică, este etichetată cu riscul moderat de a susține un set de concluzii care ar putea avea un impact negativ asupra uneia dintre mărcile farmaceutice majore cu legături strânse cu structura de putere între stat și corporație.Exemplu total aleatoriu.

Ceea ce face acest ingenios sistem de propagandă AI este să îndepărteze automat această declarație prin shadowbanning, downranking și alte forme de ascundere în fluxurile de informații. De asemenea, ne etichetează ca fiind un agent potențial perturbator., sporind controlul asupra activităților noastre on-line și offline.Desigur, puteți separa efectiv "agenții perturbatori” unul de celălalt, retrogradând automat postările lor în fluxurile celorlalți, indiferent de conținut, și ridicând tot felul de obstacole pentru interacțiunea lor online.Dar acestea sunt strategii vechi.

Ceea ce se adaugă pe deasupra este însămânțarea de contra-narațiuni, iar cele două moduri evidente în care acest lucru poate fi realizat este prin situarea afirmației relevante într-un context de informații contrastante sau discordante, astfel încât atât "agentul perturbator” cât și ceilalți destinatari ai informațiilor primesc un mesaj clar că această informație este atât contestată, cât și o perspectivă minoritară nepotrivită, potrivită pentru ostracizarea socială.

Acest lucru poate fi susținut și mai mult prin promovarea contraintuitivă a postării de pe Facebook sau a mesajului de pe forum în fluxurile de rețele de utilizatori evidențiați care au fost identificați ca susținători "loialişti” ai opiniilor preferate corpul de poliție a crezut voluntarii astfel încât să le provoace critica și respingerea mesajului.

Un alt aspect potențial al acestei semănări proactive de contra-narațiuni este angajarea de roboți.Utilizatori fictivi, care, prin modele de limbaj generativ, oferă răspunsuri direcționate la informații potențial perturbatoare.O altă posibilitate interesantă este să generați mesaje false și scurte de către utilizatorii reali din rețeaua dvs.socială pentru a produce aceste răspunsuri direcționate-mesaje care nu pot fi văzute de la sine și, prin urmare, nu vor genera interacțiune și care le imită stilul și tenorul.

Știi, așa cum fac deja cu utilizatorii Facebook decedați, antrenează AI cu privire la istoricul postărilor anterioare pentru a genera altele noi, care sună plauzibil.Există și un Black Mirror episod pe această temă.

>

Așadar, pentru a rezuma, avem aceste organizații extrem de conectate, cu tentacule atât în ​​​​moștenirea, cât și în media digitală, strâns asociate cu guvernele și informațiile militare, care acum proclamă cu mândrie aplicarea AI către un tip complet nou de generativ, propagandă receptivă și predictivă.

Aceste operațiuni nu numai că vor fi capabile să folosească astfel de tehnici vechi de shadowbanning, cartografiere și supraveghere cu o eficiență incredibilă prin conexiunile sinergice cu big data.

De asemenea, ei promit să controleze însăși geneza narațiunilor umane.Embrionii tiparelor noastre de gândire colective, perturbând etapele lor pe jumătate formate înainte de a fi capabili să se cristalizeze în cadre coerente pe care tu și cu mine le-am putea folosi în mod independent pentru a naviga și a da un sens lumii.

Și lucrul genial este că majoritatea oamenilor nu vor putea conecta punctele.Dacă aceste sisteme funcționează conform intenției, acele tipuri de activități raționale de ordin superior potențial subversive nu vor găsi niciodată un teren stabil pe care să se construiască.

În plus, aceste forme mai avansate de control comportamental și manipulare narativă și psihologică nu sunt cenzură în sine.Chiar dacă acele structuri și garanții nu au fost capturate, această nouă formă de propagandă predictivă nu poate fi vizată de regimurile noastre juridice tradiționale și nu este prinsă în rețeaua mecanismului nostru constituțional actual sau a legislației privind drepturile.Ei navighează chiar prin asta.

>

Ființele umane.Abia ieșim din copaci.Cum luptăm tu și cu mine împotriva așa ceva?

Un prieten mi-a scris un e-mail despre cum să ne organizăm, politic, social, în situația noastră actuală.Încă mă gândesc cum să răspund la asta.

Un lucru este sigur.Modelele vechi nu funcționează.Ei sunt fie recuperați, fie nepotriviți pentru noua situație.Secolul al XIX-lea nu s-a confruntat cu un regim global de modificare a comportamentului perpetuat de o alianță a întregii mass-media corporative globale, a serviciilor de informații, a industriei de publicitate, a majorității legislaturii și a guvernului regional și național, a instituțiilor de guvernare supranaționale și, nu în ultimul rând, chiar structurile tehnologice în sine.

Dar mișcările de revoluție și reformă care au apărut în urmă cu aproximativ două secole au fost la fel de izolate.De asemenea, s-au confruntat cu o ordine globală compactă care a refuzat cu violență să-și recunoască nevoile și interesele legitime.

Trebuiau să găsească modalități de a rezolva asta, la fel și noi.

*  *  *

Johan Eddebo este un filozof și cercetător cu sediul în Suedia, puteți citi mai multe despre munca sa prin Substiva.