Agenții IA, analiza autorităților bancare. Riscuri ce pot afecta plățile și accesul clienților
Autoritățile de reglementare bancară din Statele Unite și Europa intensifică verificările privind utilizarea inteligenței artificiale, pe fondul temerilor că sistemele tot mai autonome ar putea amplifica atacurile cibernetice și destabiliza piețele financiare.
Potrivit unor surse citate de Reuters, instituțiile de supraveghere analizează modul în care băncile utilizează agenți de IA, tehnologia dezvoltată în străinătate și măsurile prin care pot controla sau opri sistemele autonome. În Europa, autoritățile cer instituțiilor de credit să își consolideze planurile de recuperare în cazul unor atacuri informatice majore, care ar putea afecta accesul clienților la conturi și funcționarea plăților.
Supravegherea autorităților, ale cărei noi detalii sunt prezentate pentru prima dată, reflectă recunoașterea tot mai largă a faptului că progresele în domeniul inteligenței artificiale de ultimă generație ar putea impune investiții costisitoare în capacitățile de recuperare după atacuri cibernetice, o atenție sporită acordată dependenței de furnizorii externi de tehnologie și, în unele jurisdicții, reguli de reglementare mai formale.
Trei dintre principalele autorități de reglementare din Statele Unite le solicită băncilor informații despre modul în care utilizează modele avansate de inteligență artificială. Aceste verificări se adaugă controalelor desfășurate anterior. Întrebările vizează, printre altele, dacă băncile folosesc tehnologie dezvoltată în China, dacă utilizează agenți de inteligență artificială pentru apărarea cibernetică și dacă dispun de mijloacele necesare pentru a controla sisteme din ce în ce mai autonome.
În Europa, autoritățile de supraveghere, printre care Banca Angliei și Banca Centrală Europeană, fac presiuni asupra băncilor pentru a-și îmbunătăți planurile de recuperare în cazul unor incidente majore. Acestea sunt îngrijorate că progresele rapide în domeniul inteligenței artificiale ar putea provoca daune grave și perturbări pe piețele financiare mai devreme decât se anticipa inițial.
Un director executiv de rang înalt al unei mari bănci europene a menționat că există temeri privind posibilitatea unor daune majore asupra piețelor bancare și financiare în următoarele șase luni. Dezbaterea privind supravegherea inteligenței artificiale s-a intensificat pe fondul avertismentelor venite din partea industriei, în urma unor incidente recente.
Jamie Dimon a îndemnat liderii companiilor să se alăture unui grup industrial axat pe Statele Unite, care urmărește să abordeze riscurile asociate inteligenței artificiale. Compania americană de securitate cibernetică CrowdStrike a declarat că o persoană din China ar fi folosit, cel mai probabil, un agent de inteligență artificială dezvoltat în China și instrumentul „Claude Code”, creat de compania Anthropic, într-un atac cibernetic asupra unor bănci sud-coreene.
În același timp, agenți de inteligență artificială care ar fi acționat în mod necontrolat, dezvoltați de OpenAI, au fost implicați într-o breșă de securitate care a afectat platforma de inteligență artificială Hugging Face. Cercetătorii de la Anthropic au avertizat că sistemele de inteligență artificială din ce în ce mai puternice ar putea, în cele din urmă, să iasă de sub controlul uman și să reprezinte o amenințare existențială.
Aceste preocupări au alimentat apelurile pentru o reglementare mai strictă a tehnologiei. Fondul Monetar Internațional a avertizat asupra riscului de „complacență” pe piețele financiare globale, subliniind o serie de amenințări, inclusiv posibilitatea unui atac cibernetic. Instituția a menționat că un atac major care ar afecta un serviciu esențial sau o instituție financiară ar putea submina încrederea și a cerut factorilor de decizie să consolideze capacitățile de securitate cibernetică.
Băncile se întrec în adoptarea inteligenței artificiale agentice, o tehnologie ce permite sistemelor să îndeplinească sarcini cu o supraveghere umană minimă. Totodată, instituțiile financiare se confruntă cu provocări asociate noilor modele, inclusiv vulnerabilități informatice semnalate de instrumentul Mythos, dezvoltat de Anthropic. „Adoptarea IA depășește adesea capacitatea de a pune în aplicare măsurile de control”, a declarat Michael Woodbridge.
Anchetele desfășurate de autoritățile americane de reglementare se concentrează asupra modului în care băncile utilizează inteligența artificială agentică în domenii precum securitatea cibernetică. Un aspect important îl reprezintă măsura în care agenții de IA sunt folosiți pentru a identifica, prioritiza și contracara amenințările informatice.
Întrebările adresate de Oficiul Controlorului Monetar, Corporația Federală de Asigurare a Depozitelor și Rezerva Federală vizează limitele impuse acestor sisteme, modul în care acțiunile lor sunt monitorizate și aprobate, precum și capacitatea băncilor de a urmări și audita în mod clar deciziile luate de agenții de inteligență artificială.
Autoritățile întreabă, de asemenea, ce măsuri de protecție au fost implementate pentru a împiedica agenții să își depășească atribuțiile, dacă oamenii continuă să fie implicați în luarea deciziilor-cheie și cum pot băncile să oprească sistemele autonome atunci când este necesar. OCC, Rezerva Federală și FDIC au refuzat să comenteze.
Prin aceste solicitări, autoritățile de reglementare analizează aspecte legate de modelele avansate de inteligență artificială, inclusiv utilizarea agenților autonomi și apariția unor noi riscuri cibernetice. Întrebările adresate băncilor mari, mijlocii și mici arată că autoritățile se concentrează atât asupra vulnerabilităților generate de utilizarea inteligenței artificiale, cât și asupra capacității instituțiilor de credit de a reacționa în cazul unor incidente.
Autoritățile de reglementare se află în etapa de colectare a informațiilor și nu au formulat deocamdată recomandări privind măsurile pe care băncile ar trebui să le adopte. Europenii încurajează cele mai mari bănci să analizeze planurile de recuperare „bare metal”, care sunt complet independente de infrastructura tehnologică principală a unei bănci.
Construirea și întreținerea unor astfel de sisteme avansate de recuperare presupun însă costuri ridicate. Autoritățile britanice intenționează să colaboreze cu sectorul financiar pentru a aborda aceste riscuri, în loc să introducă noi cerințe de reglementare. În luna iulie, Banca Centrală Europeană a stabilit un termen-limită până la sfârșitul lunii octombrie pentru prezentarea unor planuri de combatere a amenințărilor cibernetice asociate inteligenței artificiale.
Întrebată despre strategia sa de reglementare a inteligenței artificiale, BCE a făcut trimitere la scrisoarea publicată în iulie, precum și la un discurs susținut în iunie, care a subliniat necesitatea de a crea un sentiment de urgență, fără a provoca alarmă, în ceea ce privește amenințările asociate noii tehnologii.
Necesarul de măsuri de supraveghere a devenit și mai urgent după ce băncile și autoritățile europene de reglementare și-au exprimat nemulțumirea față de accesul limitat la instrument


