_ „Însoțitorii” AI promit să combată singurătatea , dar istoria arată pericolele relațiilor unidirecționale

Statele Unite ale Americii se află în strânsoarea unei epidemii de singurătate: Din 2018, aproximativ jumătate din populație a raportat că a experimentat singurătate. Singurătatea poate fi la fel de periculoasă pentru sănătatea ta ca și fumatul a 15 țigări pe zi, potrivit unui raport al chirurgului general din 2023.

Nu doar viețile individuale sunt în pericol. Democrația necesită capacitatea de a se simți conectat cu alți cetățeni pentru a lucra spre soluții colective.

În fața acestei crize, companiile de tehnologie oferă un remediu tehnologic: chatbot-uri inteligenți emoțional. Acești prieteni digitali, spun ei, pot ajuta la atenuarea singurătății care amenință sănătatea individuală și națională.

Dar așa cum a arătat pandemia, tehnologia singură nu este suficientă pentru a aborda complexitățile sănătății publice. Știința poate produce vaccinuri miraculoase, dar dacă oamenii sunt implicați în narațiuni culturale și istorice care îi împiedică să ia medicamentul care salvează vieți, leacul se află pe rafturi și vieți sunt pierdute. Științele umaniste, cu experiența lor în cultura umană, istorie și literatură, pot juca un rol cheie în pregătirea societății pentru modurile în care AI ar putea ajuta – sau dăuna – capacității de conexiune umană semnificativă.

Puterea poveștile care să prezică și să influențeze comportamentul uman au fost validate de multă vreme de cercetarea științifică. Numeroase studii demonstrează că poveștile pe care oamenii le îmbrățișează influențează în mare măsură alegerile pe care le fac, de la vacanțele pe care le plănuiesc, la modul în care oamenii abordează schimbările climatice și la alegerile pe care le fac experții în securitate în programarea computerelor.

Există două povești care abordează comportamentele probabile ale oamenilor în fața teritoriului necunoscut al dependenței de AI pentru susținerea emoțională: unul care promite dragoste și conexiune și al doilea care avertizează asupra subjugării dezumanizante.

Prima poveste, de obicei spusă de designerii de software. și companiile AI, îndeamnă oamenii să spună „Da” AI și să îmbrățișeze prietenia personalizată programată în numele tău. Compania de inteligență artificială Replika, de exemplu, promite că poate oferi tuturor un „însoțitor căruia îi pasă. Întotdeauna aici pentru a asculta și a vorbi. Întotdeauna de partea ta.”

Există un apetit global pentru o astfel de companie digitală. Chatbot-ul digital Microsoft Xiaoice are o bază globală de fani de peste 660 de milioane de oameni, dintre care mulți consideră chatbot-ul „un prieten drag”, chiar și o confidentă de încredere.

În cultura populară, filme precum „Her” prezintă oameni singuri care devin profund atașați de asistenții lor digitali. Pentru mulți, a avea un „prieten drag” programat pentru a evita întrebările și cerințele dificile pare o îmbunătățire uriașă față de munca dezordonată, provocatoare și vulnerabilă de a se angaja cu un partener uman, mai ales dacă luați în considerare preferința misogină pentru tovarășii supuși și adulatori.

Desigur, imaginarea unei relații prietenoase cu un chatbot oferă un set mai însorit de posibilități decât narațiunile apocaliptice despre sclavie și subjugare care au dominat povestirea despre un posibil viitor printre roboții sociali. Filmele de succes precum „The Matrix” și „The Terminator” au înfățișat peisaje infernale în care oamenii sunt înrobiți de IA sensibilă. Alte narațiuni prezentate în filme precum „The Creator” și „Blade Runner” își imaginează rolurile inversate și invită spectatorii să simpatizeze cu ființele AI care sunt oprimate de oameni.

Ați putea fi iertat să credeți că aceste două povești, una despre prietenie, cealaltă despre sclavie, reprezintă pur și simplu două extreme ale naturii umane. Din această perspectivă, pare un lucru bun că mesajele de marketing despre inteligența artificială îi îndrumă pe oameni spre partea însorită a străzii futuriste. Dar dacă luați în considerare munca savanților care au studiat sclavia în S.U.A., devine înfricoșător de clar că aceste două povești – una despre prietenie cumpărată și una despre înrobire și exploatare – nu sunt atât de îndepărtate una pe cât ți-ai putea imagina.

Sclavia Chattel în SUA a fost un sistem brutal conceput pentru a extrage forță de muncă prin mijloace violente și dezumanizante. Pentru a susține sistemul, totuși, a fost conceput un peisaj emoțional complicat pentru a-i menține pe sclavi mulțumiți de ei înșiși. „Gone with the Wind” este poate cea mai faimoasă descriere a modului în care sclavii s-au văzut ca pe ei înșiși patriarhi binevoitori și au forțat oamenii înrobiți să întărească această ficțiune prin profesii vesele de dragoste.

În autobiografia sa din 1845, Frederick Douglass a descris un ocazie tragică când un sclav, întrebat despre situația lui, a răspuns sincer că a fost maltratat. Proprietarul plantației, confruntat cu mărturia despre răul pe care îl provoca, l-a vândut pe care spunea adevărul pe râu. O astfel de cruzime, a insistat Douglass, a fost pedeapsa necesară pentru cineva care a comis păcatul „de a spune adevărul simplu” unui bărbat a cărui calibrare emoțională necesita o asigurare constantă.

Pentru a fi clar, nu evoc emoționalul. constrângerea pe care o necesita sclavia pentru a-i combina pe bătrâni singuratici cu proprietarii răi de plantații sau, mai rău, pentru a echivala codul computerizat cu ființele umane înrobite. Există puțin pericol ca tovarășii AI să ne spună cu curaj adevăruri pe care preferăm să nu le auzim. Tocmai asta este problema. Îngrijorarea mea nu este că oamenii vor face rău roboților sensibili. Mă tem că oamenii vor fi afectați de vidul moral creat atunci când contactele lor sociale primare sunt concepute exclusiv pentru a servi nevoilor emoționale ale „utilizatorului”.

Într-un moment în care științe umaniste pot ajuta la ghidarea societății în epoca emergentă a IA, este suprimată și devalorizată. Diminuarea științelor umaniste riscă să le interzică oamenilor accesul la propria lor istorie. Această ignoranță îi face pe oameni să nu fie pregătiți pentru a rezista asigurărilor marketerilor că nu există niciun rău în cumpărarea de „prieteni”. Oamenii sunt tăiați de înțelepciunea care iese la suprafață în poveștile care avertizează asupra putregaiului moral care însoțește puterea necontrolată.

Dacă scapi de vulnerabilitatea născută din a ajunge la un alt om al cărui răspuns nu-l poți controla, pierde capacitatea de a avea grijă pe deplin de altul și de a te cunoaște pe tine însuți. Pe măsură ce navigăm în apele neexplorate ale inteligenței artificiale și a rolului său în viețile noastre, este important să nu uităm poezia, filosofia și povestirile care ne amintesc că conexiunea umană ar trebui să necesite ceva din partea noastră și că merită efortul.

Acest articol este republicat din The Conversation sub o licență Creative Commons. Citiți articolul original.

(Fluierul)