Deepfake-urile și „1984”: cum schimbă inteligența artificială verificarea realității
Romanul „1984” de George Orwell, publicat în 1949, descrie un sistem care rescrie documentele și controlează informațiile publice. Astăzi, instrumentele de inteligență artificială pot genera imagini, videoclipuri și voci false, ceea ce face mai dificilă verificarea unor materiale, fără ca acestea să modifice automat documentele originale sau să șteargă trecutul din toate arhivele.
Rescrierea trecutului în „1984”
Promovat în colecția „Cărți Fundamentale” a Editurii Litera, romanul urmărește experiența lui Winston Smith și prezintă una dintre cele mai cunoscute reprezentări literare ale manipulării informației. Povestea sa oferă un cadru pentru a înțelege riscurile fabricării unor dovezi aparent autentice și ale influențării felului în care oamenii percep realitatea.
Winston lucrează la Ministerul Adevărului, instituția care modifică documentele istorice și informațiile publice. Când Partidul face o predicție greșită, arhivele sunt corectate pentru a păstra aparența infailibilității autorităților. Dacă cineva devine indezirabil, numele și imaginea persoanei pot dispărea din documente.
Ziarele sunt rescrise, fotografiile sunt modificate, iar versiunile anterioare sunt distruse. Miza nu este doar ascunderea informațiilor incomode, ci impunerea unei realități oficiale în care Partidul are întotdeauna dreptate.
În lumea lui Orwell, falsificarea trecutului se sprijină pe o infrastructură birocratică amplă, pe angajați specializați și pe controlul aproape complet al arhivelor. În prezent, unele manipulări vizuale și sonore pot fi realizate cu instrumente digitale accesibile publicului. Un deepfake poate introduce în spațiul public o versiune falsă a unui eveniment și poate crea confuzie înainte ca informația să fie verificată, dar nu modifică automat documentele originale și nu șterge trecutul din toate arhivele.
Colecția „Cărți Fundamentale” a Editurii Litera reunește opere care au influențat înțelegerea societății moderne. „1984” rămâne relevant pentru cititorii interesați de tehnologie prin felul în care explorează consecințele modificării sistematice a informațiilor și ale pierderii încrederii în propriile observații.
Imagini și voci generate cu inteligență artificială
Termenul deepfake este folosit pentru materiale audio, video sau vizuale manipulate ori generate cu ajutorul inteligenței artificiale, astfel încât să prezinte convingător persoane, acțiuni sau declarații care nu au existat în forma respectivă. Primele aplicații populare înlocuiau frecvent chipul unei persoane într-o înregistrare, folosind tehnici de învățare profundă. Modelele generative pot crea acum imagini și secvențe video pornind de la descrieri text, fotografii sau alte materiale de referință.
Sistemele de inteligență artificială învață din exemple tipare statistice legate de trăsăturile feței, expresii, mișcări, iluminare și caracteristicile vocii. Într-un videoclip, tehnologia poate genera cadre noi sau modifica elemente ale unei înregistrări existente. Pentru fotografii, modelele de difuzie și alte arhitecturi generative pot produce scene fotorealiste care nu au fost surprinse de o cameră.
Calitatea rezultatelor diferă în funcție de model, de materialele de referință și de complexitatea scenei. Unele materiale au erori de sincronizare, mișcări nefirești sau detalii incoerente. Altele pot fi suficient de convingătoare pentru a induce în eroare inclusiv persoane familiarizate cu tehnologia. Prin urmare, observarea feței sau a mișcării buzelor nu mai este o metodă sigură de identificare a unui fals.
Tehnologia poate reproduce timbrul, ritmul și intonația vocii unei persoane. În anumite condiții, modelele moderne de sinteză vocală au nevoie de mostre audio relativ scurte pentru a genera o înregistrare în care o voce familiară rostește cuvinte pe care persoana reală nu le-a spus. Clonarea vocii are utilizări legitime în accesibilitate, producție audiovizuală și asistență digitală, dar poate fi folosită și în fraude.
Într-un scenariu de fraudă, apelantul poate imita vocea unui membru al familiei și poate pretinde că se află într-o situație de urgență, solicitând transferul rapid al unei sume de bani. Atacatorii pot reproduce și vocea unui director pentru a convinge un angajat să autorizeze o plată. Reușita înșelătoriei depinde nu doar de calitatea sunetului, ci și de presiunea emoțională, de urgența artificială și de încrederea acordată unei voci cunoscute.
Autoritățile de protecție a consumatorilor recomandă verificarea solicitărilor financiare printr-un canal independent. Dacă o persoană pretinde că este o rudă și cere bani, apelarea numărului cunoscut al acesteia poate clarifica situația. O voce familiară nu mai este, singură, o dovadă suficientă a identității.
Abonamentul la colecția „Cărți Fundamentale” a Editurii Litera include volume esențiale ale literaturii universale, printre care „1984” de George Orwell. Oferta comunicată pornește de la 49,99 lei pentru primele două volume și continuă cu două volume lunar la 99,98 lei, cu posibilitatea întreruperii abonamentului. Romanul pune în discuție importanța adevărului într-o societate în care tehnologia poate fi folosită atât pentru informare, cât și pentru manipulare.
Evenimente fabricate și videoclipuri false
Instrumentele generative pot produce fotografii cu evenimente care nu au avut loc: explozii, manifestații, întâlniri între personalități publice sau catastrofe naturale. Spre deosebire de manipularea fotografică tradițională, care modifică un material existent, aceste sisteme pot crea o scenă credibilă de la zero.
În mai 2023, o imagine falsă care părea să arate o explozie în apropierea Pentagonului a circulat pe platformele sociale. Autoritățile au confirmat că incidentul nu avusese loc. Cazul a arătat cât de repede se poate răspândi o informație vizuală falsă atunci când este distribuită fără verificarea originii.
Imaginile generate pot imita și stilul arhivelor istorice, inclusiv prin folosirea unor personaje, uniforme și clădiri din alte epoci. Dacă sunt prezentate fără explicații, ele pot fi confundate cu documente autentice. Comparația cu Ministerul Adevărului este relevantă deoarece o imagine falsă poate influența memoria publică asupra unui eveniment, chiar dacă documentele istorice originale continuă să existe.
Videoclipurile manipulate pot atribui unei persoane declarații false, pot crea impresia că aceasta a participat la un eveniment sau pot fabrica situații compromițătoare. Unele tehnici schimbă doar chipul ori vocea într-o înregistrare autentică, iar altele generează întreaga scenă. Pe măsură ce modelele se îmbunătățesc, diferențierea dintre un videoclip real și unul fabricat poate necesita verificări suplimentare.
În martie 2022, a circulat un videoclip fals în care Volodimir Zelenski părea să le ceară militarilor să depună armele. Materialul a fost identificat drept fals, iar autoritățile ucrainene au respins mesajul. Episodul a ilustrat modul în care deepfake-urile pot crea confuzie într-un context de conflict armat.
Există și riscul opus: o persoană surprinsă într-o înregistrare autentică poate susține că materialul a fost generat artificial. Cercetătorii în dezinformare numesc fenomenul liar’s dividend, ad


