_ 80% dintre australieni cred că riscul AI este o prioritate globală – guvernul trebuie să intensifice, spun cercetătorii

Un nou sondaj reprezentativ la nivel național a dezvăluit că australienii sunt profund îngrijorați de riscurile prezentate de inteligența artificială (AI). Ei doresc ca guvernul să ia măsuri mai puternice pentru a asigura dezvoltarea și utilizarea în siguranță a acestuia.

Am efectuat sondajul la începutul anului 2024 și am constatat că 80% dintre australieni cred că prevenirea riscurilor catastrofale din sistemele avansate de inteligență artificială ar trebui să fie o prioritate globală pentru la fel cu pandemiile și războiul nuclear.

Pe măsură ce sistemele AI devin mai capabile, deciziile cu privire la modul în care dezvoltăm, implementăm și folosim AI sunt acum esențiale. Promisiunea unei tehnologii puternice poate tenta companiile – și țările – să alerge înainte fără a ține seama de riscuri.

Descoperirile noastre dezvăluie, de asemenea, un decalaj între riscurile AI asupra cărora mass-media și guvernul tind să se concentreze și riscurile australienilor. cred că sunt cele mai importante.

Dezvoltarea și utilizarea IA din ce în ce mai puternică este încă în creștere. Lansările recente, cum ar fi Gemini de la Google și Claude 3 de la Anthropic, au capacități aparent aproape umane în domeniile profesional, medical și juridic.

Dar hype-ul a fost temperat de nivelurile tot mai mari de îngrijorare a publicului și a experților. Anul trecut, peste 500 de persoane și organizații au făcut trimiteri la documentul de discuție AI sigur și responsabil al guvernului australian.

Ei au descris riscuri legate de IA, cum ar fi luarea deciziilor părtinitoare, erodarea încrederii în instituțiile democratice prin dezinformare. , și creșterea inegalității din cauza șomajului cauzat de IA.

Unii sunt chiar îngrijorați de o IA deosebit de puternică care provoacă o catastrofă globală sau dispariția umană. Deși această idee este puternic contestată, într-o serie de trei sondaje mari, majoritatea cercetătorilor AI au considerat că există o șansă de cel puțin 5% ca IA supraomenească să fie „extrem de rea (de exemplu, dispariția umană)”.

Beneficiile potențiale ale AI sunt considerabile. AI duce deja la descoperiri în biologie și medicină și este folosită pentru a controla reactoarele de fuziune, care ar putea într-o zi să furnizeze energie cu zero carbon. Inteligența artificială generativă îmbunătățește productivitatea, în special pentru cursanți și studenți.

Cu toate acestea, viteza progresului dă semnale de alarmă. Oamenii se îngrijorează că nu suntem pregătiți să gestionăm sisteme AI puternice care ar putea fi utilizate greșit sau se pot comporta în moduri neintenționate și dăunătoare.

Ca răspuns la astfel de preocupări, guvernele lumii încearcă să reglementeze. Uniunea Europeană a aprobat un proiect de lege privind inteligența artificială, Regatul Unit a înființat un institut pentru siguranța inteligenței artificiale, în timp ce președintele american Joe Biden a semnat recent un ordin executiv pentru a promova dezvoltarea și guvernarea mai sigure a inteligenței artificiale avansate.

Pentru a înțelege cum Australienii simt despre riscurile AI și modalitățile de a le aborda, am chestionat un eșantion reprezentativ la nivel național de 1.141 de australieni în ianuarie și februarie 2024.

Am descoperit că australienii au clasificat prevenirea „rezultatelor periculoase și catastrofale din IA” drept prioritatea numărul unu pentru acțiunile guvernamentale.

Australienii sunt cel mai preocupați de sistemele AI care sunt nesigure, demne de încredere și nealiniate cu valorile umane.

Alte preocupări majore includ utilizarea AI în atacuri cibernetice și arme autonome, șomaj legat de inteligența artificială și eșecuri ale inteligenței artificiale care cauzează daune infrastructurii critice.

Australienii se așteaptă ca guvernul să ia măsuri decisive în numele lor. O majoritate covârșitoare (86%) își dorește un nou organism guvernamental dedicat reglementării și guvernării AI, asemănător cu Administrația pentru produse terapeutice pentru medicamente.

Nouă din zece australieni consideră, de asemenea, că țara ar trebui să joace un rol de lider în domeniul internațional. eforturile de a reglementa dezvoltarea AI.

Poate cel mai surprinzător, două treimi dintre australieni ar sprijini oprirea dezvoltării AI timp de șase luni pentru a permite autorităților de reglementare să ajungă din urmă.

În ianuarie 2024, guvernul australian a publicat un plan interimar pentru abordarea riscurilor AI. Include consolidarea legilor existente privind confidențialitatea, siguranța online și dezinformarea. De asemenea, recunoaște că cadrele noastre de reglementare în prezent nu sunt suficiente.

Planul interimar subliniază dezvoltarea unor standarde voluntare de siguranță AI, etichete voluntare pe materialele AI și înființarea unui organism consultativ.

Este o provocare să încurajăm inovația, prevenind în același timp accidentele sau utilizarea abuzivă. Dar australienii ar prefera ca guvernul să acorde prioritate prevenirii rezultatelor periculoase și catastrofale decât „aducerea beneficiilor inteligenței artificiale tuturor”.

Unele modalități de a face acest lucru includ:

Descoperirea modului de a guverna eficient. AI este una dintre marile provocări ale umanității. Australienii sunt foarte conștienți de riscurile eșecului și doresc ca guvernul nostru să abordeze această provocare fără întârziere.

Acest articol este republicat din The Conversation sub o licență Creative Commons. Citiți articolul original.

(Fluierul)