_ Adolescenții văd algoritmii rețelelor sociale ca reflectări precise ale lor înșiși, studiul constată

Aplicațiile de rețele sociale le prezintă în mod regulat adolescenților conținut selectat algoritmic adesea descris drept „pentru tine”, sugerând, implicit, că conținutul organizat nu este doar „pentru tine”, ci și „despre tine”—o oglindă care reflectă semnale importante despre persoana care ești.

Toți utilizatorii rețelelor sociale sunt expuși acestor semnale, dar cercetătorii înțeleg că adolescenții se află într-un stadiu deosebit de maleabil în formarea personalului identitate. Oamenii de știință au început să demonstreze că tehnologia are efecte de modelare a generațiilor, nu doar în modul în care influențează perspectiva culturală, comportamentul și intimitatea, ci și în modul în care poate modela personalitatea celor crescuți pe rețelele sociale.

Prevalența mesajului „pentru tine” ridică întrebări importante cu privire la impactul acestor algoritmi asupra modului în care adolescenții se percep pe ei înșiși și văd lumea și despre erodarea subtilă a intimității lor, pe care o acceptă în schimbul acestui punct de vedere.

Inspirați de aceste întrebări, eu și colegii mei John Seberger și Afsaneh Razi de la Universitatea Drexel am întrebat: Cum navighează adolescenții în acest mediu generat algoritmic și cum se recunosc în oglinda pe care o prezintă?

În studiul nostru de interviu calitativ al adolescenților 13-17, am descoperit că conținutul algoritmic personalizat pare să prezinte ceea ce adolescenții interpretează ca o imagine în oglindă fiabilă a lor înșiși și că le place foarte mult experiența de a vedea acea reflectare a rețelei sociale.

Adolescenții cu care am vorbit spun că preferă o rețea de socializare complet personalizată pentru ei, care să descrie cu ce sunt de acord, ce vor să vadă și, prin urmare, cine sunt.

„Dacă mă uit să creeze ceva care este important pentru mine, care va apărea ca una dintre cele mai importante postări [și] va arăta, cum ar fi, oameni [ca mine] care poartă o discuție frumoasă.”

Se pare că că adolescenții pe care i-am intervievat cred că algoritmii de social media precum TikToks au devenit atât de buni încât își văd reflectările lor în rețelele sociale ca fiind destul de precise. Atât de mult încât adolescenții se grăbesc să atribuie inconsecvențele de conținut cu imaginea lor de sine drept anomalii – de exemplu, rezultatul implicării involuntare cu conținutul din trecut sau doar o eroare.

„La un moment dat, am văzut ceva despre acea emisiune, poate pe TikTok, și am interacționat cu ea fără să-mi dau seama.”

Când conținutul personalizat nu este agreabil sau în concordanță cu imaginea lor de sine, adolescenții pe care i-am intervievat spun că derulează peste el, în speranța să nu-l mai văd niciodată. Chiar și atunci când aceste anomalii percepute iau forma unui conținut extrem de hipermasculin sau „urât”, adolescenții nu atribuie acest lucru în mod specific la nimic despre ei înșiși și nici nu pretind că caută o explicație în propriile lor comportamente. Potrivit adolescenților din interviurile noastre, oglinda rețelelor sociale nu îi face mai auto-reflexivi sau nu le provoacă sentimentul de sine.

Un lucru care ne-a surprins a fost că, în timp ce adolescenții erau conștienți de faptul că ceea ce văd în ei Feed-ul „pentru tine” este produsul obiceiurilor lor de defilare pe platformele de social media, ei nu sunt în mare parte conștienți sau nu sunt preocupați de faptul că acele date capturate în aplicații contribuie la această imagine de sine. Indiferent, ei nu văd hrana lor „pentru tine” ca o provocare la adresa sentimentului lor de sine, cu atât mai puțin un risc pentru identitatea lor de sine – și nici, de altfel, nici un motiv de îngrijorare.

Când Goffman și-a propus pentru prima dată teoria, nu a existat nicio interfață de socializare disponibilă pentru a ține o oglindă la îndemână a sinelui, așa cum este experimentat de alții. Oamenii erau obligați să-și creeze propria imagine mozaic, derivată din multiple surse, întâlniri și impresii. În ultimii ani, algoritmii de recomandare a rețelelor sociale s-au introdus în ceea ce este acum o negociere trilaterală între sine, public și algoritmul rețelelor sociale.

Ofertele „Pentru tine” creează un spațiu public-privat prin care adolescenții pot accesa ceea ce simt că este un test în mare măsură exact al imaginii lor de sine. În același timp, ei spun că o pot ignora cu ușurință dacă pare să nu fie de acord cu acea imagine de sine.

Pactul pe care adolescenții îl fac cu rețelele sociale, schimbând date personale și renunțând la confidențialitate pentru a securiza accesul la acel algoritm. oglindă, li se pare un chilipir bun. Ei se prezintă ca fiind capabili să dezactiveze sau să deruleze peste conținutul recomandat care pare să contrazică sentimentul lor de sine, dar cercetările arată contrariul.

Ei s-au dovedit, de fapt, extrem de vulnerabili la denaturarea imaginii de sine. și alte probleme de sănătate mintală bazate pe algoritmi de rețele sociale concepute în mod explicit pentru a crea și recompensa hipersensibilități, fixații și dismorfie — o tulburare de sănătate mintală în care oamenii se fixează pe aspectul lor.

Având în vedere ceea ce știu cercetătorii despre creierul adolescentului și că stadiul dezvoltării sociale – și având în vedere ceea ce se poate presupune în mod rezonabil despre maleabilitatea imaginii de sine bazate pe feedback-ul social – adolescenții greșesc când cred că pot trece peste riscurile de auto-identitate ale algoritmilor.

Parte. remediu ar putea fi construirea de noi instrumente folosind inteligența artificială pentru a detecta interacțiunile nesigure, protejând în același timp confidențialitatea. O altă abordare este de a ajuta adolescenții să reflecte asupra acestor „duble de date” pe care le-au construit.

Colegii mei și cu mine acum explorăm mai profund modul în care adolescenții experimentează conținutul algoritmic și ce tipuri de intervenții îi pot ajuta să reflecte asupra acestuia. . Încurajăm cercetătorii din domeniul nostru să conceapă modalități de a contesta acuratețea algoritmilor și de a le expune ca reflectând comportamentul și nefiind.

O altă parte a remediului poate implica înarmarea adolescenților cu instrumente pentru a restricționa accesul la datele lor, inclusiv limitarea cookie-urilor, a avea profiluri de căutare diferite și dezactivarea locației atunci când utilizați anumite aplicații.

Credem că aceștia sunt toți pași care pot reduce acuratețea algoritmilor, creând o fricțiune atât de necesară între algoritm și sine. , chiar dacă adolescenții nu sunt neapărat mulțumiți de rezultate.

Recent, eu și colegii mei am desfășurat un atelier de generație Z cu tineri de la Encode Justice, o organizație globală a studenților de liceu și de colegiu care pledează pentru siguranța și IA echitabilă. Scopul a fost să înțeleagă mai bine cum se gândesc la viețile lor în baza algoritmilor și AI.

Gen. Zer spun că sunt îngrijorați, dar și dornici să fie implicați în modelarea viitorului lor, inclusiv în atenuarea daunelor algoritmului. O parte a obiectivului atelierului nostru a fost să atragem atenția și să promovăm nevoia de investigații conduse de adolescenți asupra algoritmilor și a efectelor acestora.

De asemenea, cercetătorii se confruntă cu faptul că nu știm de fapt ce înseamnă să ai în mod constant negociați identitatea cu un algoritm. Mulți dintre noi care studiem adolescenții sunt prea bătrâni pentru a fi crescut într-o lume moderată din punct de vedere algoritmic. Pentru adolescenții pe care îi studiem, nu există „înainte de AI”.

Cred că este periculos să ignorăm ce fac algoritmii. Viitorul pentru adolescenți poate fi unul în care societatea recunoaște relația unică dintre adolescenți și rețelele sociale. Aceasta înseamnă implicarea lor în soluții, oferind în același timp îndrumări.

Acest articol este republicat din The Conversation sub o licență Creative Commons. Citiți articolul original.

(Fluierul)