_ Faceți mai mult, dar învățați mai puțin: Abordarea riscurilor AI în cercetare

Inteligenta artificială (IA) este cunoscută pe scară largă pentru potențialul său de a spori productivitatea în cercetarea științifică. Dar odată cu această promisiune vin și riscuri care ar putea reduce capacitatea oamenilor de știință de a înțelege mai bine lumea, potrivit unei noi lucrări scrise în colaborare cu un antropolog de la Yale.

Unele abordări viitoare ale inteligenței artificiale, susțin autorii, ar putea restrânge întrebările pe care le pun cercetătorii, experimentele pe care le efectuează și perspectivele care se referă la datele și teoriile științifice.

În toate acestea, acești factori ar putea lăsa oamenii vulnerabili la „iluziile de înțelegere” în care cred că le înțeleg. lumea mai bine decât ei.

Articolul Perspective este publicat în Nature.

„Există riscul ca oamenii de știință să folosească AI pentru a produce mai mult, în timp ce înțeleg mai puțin”, a spus co- autoarea Lisa Messeri, antropolog la Facultatea de Arte și Științe din Yale. „Nu susținem că oamenii de știință nu ar trebui să folosească instrumente AI, dar pledăm pentru o conversație despre modul în care oamenii de știință le vor folosi și sugerăm că nu ar trebui să presupunem automat că toate utilizările tehnologiei sau utilizarea omniprezentă a aceasta, va aduce beneficii științei.”

Lucrul, în colaborare cu cercetătorul cognitiv de la Princeton, M. J. Crockett, stabilește un cadru pentru discutarea riscurilor implicate în utilizarea instrumentelor AI pe parcursul procesului de cercetare științifică, de la proiectarea studiului până la colegi. revizuire.

„Sperăm că această lucrare oferă un vocabular pentru a vorbi despre potențialele riscuri epistemice ale IA”, a spus Messeri.

A adăugat Crockett: „Pentru a înțelege aceste riscuri, oamenii de știință pot beneficia de muncă. în științe umaniste și științe sociale calitative.”

Messeri și Crockett au clasificat viziunile propuse despre IA care acoperă procesul științific, care creează în prezent zgomot printre cercetători în patru arhetipuri:

Autorii avertizează împotriva tratarea aplicațiilor AI din aceste patru arhetipuri ca parteneri de încredere, mai degrabă decât simple instrumente, în producerea cunoștințelor științifice. Acest lucru, spun ei, i-ar putea face pe oamenii de știință susceptibili la iluzii de înțelegere, ceea ce le poate strânge perspectivele și îi poate convinge că știu mai multe decât știu.

Eficiența și cunoștințele pe care le promit instrumentele AI pot slăbi producția. a cunoștințelor științifice prin crearea de „monoculturi ale cunoașterii”, în care cercetătorii acordă prioritate întrebărilor și metodelor cele mai potrivite pentru IA față de alte moduri de investigare, afirmă Messeri și Crockett. Un astfel de mediu savant îi lasă pe cercetători vulnerabili la ceea ce ei numesc „iluzii de amploare exploratorie”, unde oamenii de știință cred în mod greșit că explorează toate ipotezele testabile, atunci când examinează doar o gamă mai restrânsă de întrebări care pot fi testate prin intermediul AI.

De exemplu, instrumentele AI „surogat” care par să imită cu exactitate răspunsurile la sondajul uman ar putea face experimentele care necesită măsurători ale comportamentului fizic sau interacțiuni față în față din ce în ce mai nepopulare, deoarece sunt mai lente și mai costisitoare de efectuat. a spus Crockett.

Autorii descriu, de asemenea, posibilitatea ca instrumentele AI să devină privite ca fiind mai obiective și mai fiabile decât oamenii de știință, creând o „monocultură a cunoscătorilor” în care sistemele AI sunt tratate ca un sistem singular, autoritar și cunoscător obiectiv în locul unei comunități științifice diverse de oameni de știință cu medii, pregătire și expertiză variate. O monocultură, spun ei, invită „iluzii de obiectivitate” în care oamenii de știință cred în mod fals că instrumentele AI nu au nicio perspectivă sau reprezintă toate perspectivele când, în adevăr, reprezintă punctele de vedere ale informaticienilor care le-au dezvoltat și instruit.

„Există credința în jurul științei că observatorul obiectiv este creatorul ideal de cunoștințe despre lume”, a spus Messeri. „Dar acesta este un mit. Nu a existat niciodată un „cunoscător” obiectiv, nu poate exista niciodată, iar continuarea urmăririi acestui mit nu face decât să slăbească știința.”

Există dovezi substanțiale că diversitatea umană face știința. mai robuste și creative, adaugă autorii.

„Recunoașterea faptului că știința este o practică socială care beneficiază de includerea diverselor puncte de vedere ne va ajuta să-și realizăm întregul potențial”, a spus Crockett. „Înlocuirea diverselor puncte de vedere cu instrumente AI va da înapoi progresul pe care l-am făcut în ceea ce privește includerea mai multor perspective în activitatea științifică.”

Este important să ne amintim implicațiile sociale ale AI, care se extind cu mult dincolo de laboratoare. unde este folosit în cercetare, a spus Messeri.

„Pregătim oamenii de știință să se gândească la aspectele tehnice ale noii tehnologii”, a spus ea. „Nu îi instruim prea bine pentru a lua în considerare aspectele sociale, care este vitală pentru munca viitoare în acest domeniu.”

(Fluierul)