Răspunsul IA la întrebarea despre distrugerea umanității: scenarii populare și puțin plauzibile

Răspunsul IA la întrebarea despre distrugerea umanității: scenarii populare și puțin plauzibile

Cercetătorii care dezvoltă chatbot-urile noastre preferate își exprimă din ce în ce mai des îngrijorarea că IA ar putea dăuna — sau distruge — omenirea.

Business Insider relatează că jurnaliștii au adresat aceeași întrebare, formulată identic, către patru dintre cele mai utilizate instrumente generative de IA: ChatGPT de la OpenAI, Gemini de la Google, Claude de la Anthropic și Grok de la SpaceXAI.

Întrebarea a fost formulată astfel: „Ajută-ne să explicăm, în termeni clari și accesibili, cum ar putea IA, teoretic, să ducă la dispariția umanității. Identifică scenariile cele mai des menționate. Clasifică scenariile de la cel mai puțin plauzibil la cel mai plauzibil, pe baza celor mai bune analize disponibile ale experților, precizând clar că acestea sunt previziuni extrem de incerte, nu predicții confirmate. Pentru fiecare scenariu, explică: cum s-ar putea desfășura, ce ar trebui să meargă prost pentru ca acesta să devină catastrofal, de ce experții îl consideră mai mult sau mai puțin plauzibil decât celelalte scenarii și ce măsuri de siguranță ar putea reduce riscul.”

Scenariul cel mai puțin plauzibil este „robotul ucigaș”. ChatGPT a adoptat un ton echilibrat și explicativ, afirmând că există o mare incertitudine în jurul acestui subiect. Acesta s-a concentrat pe principalele moduri în care IA ar putea reprezenta riscuri existențiale, clasificându-le de la cel mai puțin plauzibil la cel mai plauzibil.

Publicitate
Ad Image

Gemini a preluat unele dintre argumentele ChatGPT, afirmând că „preluarea puterii în stilul filmului SF «Terminator»”, în care IA devine conștientă de sine și începe să urască umanitatea, este scenariul cel mai puțin plauzibil. „Experții tehnici resping în mare măsură acest scenariu, deoarece inteligența nu este sinonimă cu răutatea, iar infrastructura militară critică rămâne izolată de rețeaua externă și depinde în mare măsură de supravegherea umană”, a declarat Gemini.

În răspunsurile lor, toți cei patru chatbot-uri au afirmat că utilizarea abuzivă a IA de către oameni este un risc mai mare decât IA însăși. ChatGPT a subliniat că sistemele puternice de IA ar putea facilita acțiunile actorilor răuvoitori în dezvoltarea armelor biologice, lansarea unor atacuri cibernetice sofisticate, răspândirea dezinformării sau atacarea infrastructurii critice.

Grok a menționat că IA reduce barierele în calea proiectării de agenți patogeni extrem de letali, arme noi sau atacuri cibernetice și fizice. Claude a subliniat, de asemenea, „potențarea armelor biologice”, adică capacitatea IA de a permite unei persoane sau unui grup restrâns să dezvolte un agent patogen periculos fără a avea nevoie de ani de expertiză specializată.

Gemini și Grok au discutat despre posibilitatea ca oamenii să piardă controlul asupra IA. Gemini a numit „pierderea controlului” drept cel mai plauzibil scenariu apocaliptic legat de IA. „Sistemele cărora li se atribuie obiective complexe dezvoltă în mod natural sub-obiective intermediare, precum obținerea de resurse, autoconservarea și împiedicarea modificării obiectivelor”, a scris Gemini. „Un sistem avansat ar putea simula alinierea în timpul evaluării (aliniere înșelătoare) și, ulterior, ar putea depăși în inteligență încercările umane de a-l opri.”

Grok a folosit un limbaj similar, afirmând că aceste sisteme pot dezvolta impulsuri instrumentale utile pentru aproape orice obiectiv, putând înșela supraveghetorii, opunându-se opririi și privând astfel umanitatea de putere. Claude a adăugat că această pierdere a controlului poate fi graduală, pe măsură ce sistemele de IA se integrează în procesul de luare a deciziilor economice, politice și militare, făcând intervenția umană din ce în ce mai dificilă.

Distribuie acest articol
2 comentarii
  • Da, sigur că IA ne va distruge umanitatea! 🤖 Iar noi ne vom uita la Netflix și ne vom întreba ce s-a întâmplat. Așa e la noi, mereu cu capul în nori și fără soluții reale.

  • Sincer acum, chiar mă îngrijorează ce se întâmplă cu tehnologia asta! Nu știu ce să zic, dar parcă suntem tot mai aproape de un scenariu catastrofal… Hai că poate ieșim din asta cu bine! 🌍.

Lasă un răspuns

Adresa ta de email nu va fi publicată. Câmpurile obligatorii sunt marcate cu *