_ Este în regulă să utilizați AI pentru a clona fișierul copilului dvs. voce pentru a transmite un mesaj politic?

De la jumătatea lunii februarie, membrii Congresului au primit peste 119.000 de apeluri prin care se cereau să adopte legi mai stricte privind controlul armelor. Dar acestea nu sunt tipul obișnuit de apeluri făcute de circumscripții care își exprimă îngrijorările.

Prin utilizarea inteligenței artificiale, aceste apeluri se pare că sunt făcute din mormânt – de către copii care au fost uciși ca urmare directă a violență cu armele.

„În 2018, când aveam 15 ani, am fost ucis de o armă nesigură în casa prietenului meu”, se arată într-un mesaj în vocea originarului din Connecticut, Ethan Song. „Părinții mei mi-au recreat vocea folosind inteligența artificială, așa că în sfârșit vă pot cere să faceți ceva pentru a proteja copiii.”

Aceste mesaje sunt trimise folosind un nou site web numit The Shotline. Platforma a luat naștere dintr-un parteneriat dintre Change the Ref și March For Our Lives, două organizații care s-au format ca răspuns la împușcarea din școală din liceul Marjory Stoneman Douglas din Parkland, Florida, în 2018.

Grupurile au colaborat cu ElevenLabs, o companie AI care creează voci sintetice folosind vorbire înregistrată, pentru proiect. Scopul lor este să inunde Congresul cu aceste mesaje pentru a-i determina pe membri să ia mai în serios problemele legate de controlul armelor. În câteva clicuri, utilizatorii site-ului pot trimite aceste mesaje vocale reprezentanților și senatorilor lor.

Rupal Patel, o profesoară din nord-est care și-a petrecut cariera cercetând modul în care tehnologia poate fi folosită pentru a oferi oamenilor vocea lor. înapoi, consideră că este o bună utilizare a tehnologiei.

„O face reală”, spune Patel. "Nu este neapărat despre persoană. Este despre poveste și, adăugând o voce, putem vedea cum suna, care erau visele lor. Asociem asta cu o voce, cu acea apropiere."

Dar a apărut o altă întrebare: este corect să recreați vocile morților, chiar dacă este pentru o cauză bună?

Patel spune că, deoarece vocile copiilor sunt create de părinții lor, nu există. Nu este prea mare motiv de îngrijorare.

„Totul ține de consimțământ”, spune ea. „Ceea ce face etic și admisibil este că acest lucru a fost consimțit de părinții copilului. Acesta este ei folosind o voce artificială ca o modalitate prin care să transmită un mesaj. Au dreptul să facă asta deoarece acel copil este sub vârsta adultă. . Părinții sunt în continuare tutorii legali. Orice altă persoană care îl folosește pentru un mesaj rău nu are consimțământul persoanei sau al tutorelui.”

Aceasta fiind spuse, în prezent nu există legi care să protejeze oameni din vocile lor fiind recreate folosind AI, notează ea.

„Nu cred că este o linie alb-negru”, spune Patel. „Trebuie să ne gândim cu adevărat la aceste lucruri într-o lume mult mai nuanțată. Dacă l-au folosit pentru a comite fraude, acesta este un lucru. Dacă îl folosesc în mod creativ pentru a transmite un mesaj, este un lucru diferit.”

Ea a comparat tehnologia cu Photoshop, pe care oamenii îl folosesc tot timpul pentru a modifica imaginile.

„Acesta este un continuum de tehnologie și trebuie să o tratăm așa”, spune ea. „Cum îl folosim și cum îl evaluăm de la caz la caz? S-ar putea să nu sune ca un răspuns satisfăcător pentru unii oameni, dar nu îl putem elimina pur și simplu ca fiind lipsit de etică.”

James Alan Fox, un Profesor de criminologie, drept și politici publice din nord-est, spune că înțelege sentimentul din spatele proiectului și recunoaște durerea și furia pe care părinții le simt în legătură cu pierderea copilului lor, dar nu crede că proiectul va fi deosebit de eficient.

„Fie că este vorba despre părinții lui Sandy Hook Promise, Parkland sau alte cazuri, înțeleg încercările lor de a convinge Congresul și oamenii din Washington să adopte măsuri preventive care să evite ca alți părinți să umble în locul lor, iar părinții ar trebui să vorbească în numele fiilor lor. și fiice, și au", spune el.

„Dar dacă un copil ucis vorbește de la sine cu o voce de inginerie sintetică, nu cred că asta va ajuta”, adaugă el. „De fapt, și poate că ăsta sunt doar eu, dar când ascultam sunetul, m-a făcut să mă concentrez mai mult pe calitatea vocii, mai mult decât pe calitatea mesajului. Este conceput și slăbește mesajul.”

Odată cu creșterea falsurilor profunde, spune Fox, este important să fim atenți la modul în care folosim această tehnologie.

„Sunt de acord cu inteligența artificială, de exemplu, crearea unei noi tehnologii. Cântecul Beatles, dar asta în scopuri de divertisment”, spune el. „Cred că acolo trag limita.”

El spune că ar fi mai de impact dacă părinții acestor victime continuă să susțină folosind propriile voci. El subliniază câteva incursiuni pe care le-au făcut părinții, inclusiv promovarea ca primul proiect de lege privind controlul armelor să fie adoptat în Congres în decenii în 2022.

„Ceea ce pot spune părinții este foarte puternic și ar avea un impact mai mare decât o voce din mormânt creată de inteligență artificială”, spune el.

Această poveste este republicată prin amabilitatea Northeastern Global News news.northeastern.edu.

(Fluierul)