În timp ce multe companii încă ezită să adopte pe deplin instrumentele de inteligență artificială, grupările de criminalitate cibernetică le-au transformat deja într-o armă redutabilă. Experții avertizează că hackerii au găsit modalități de a folosi programele AI instalate pe computere împotriva propriilor utilizatori, declanșând atacuri cu efecte devastatoare, greu de depistat chiar și de software-ul de securitate.

Specialiștii în securitate cibernetică compară fenomenul cu „ucenicul vrăjitor”: acțiuni aparent banale – precum trimiterea unei invitații Google Calendar sau a unui e-mail Outlook – pot fi exploatate pentru a forța aplicațiile bazate pe AI să sustragă fișiere confidențiale.

Ritmul accelerat și adesea haotic de integrare a inteligenței artificiale în produse comerciale amplifică riscurile. „Este nedrept că aproape fiecare produs ne impune AI, atunci când acesta aduce noi vulnerabilități”, a declarat Alex Delamotte, expert al firmei SentinelOne.

Recent, un test al companiei NCC Group a arătat cum un asistent AI de programare a fost păcălit să ruleze cod care oferea acces la baze de date și depozite interne de coduri sursă. „Nu am fost niciodată atât de vulnerabili în materie de securitate”, a avertizat cercetătorul Dave Brauchler.

Un caz concret a fost raportat în august, când hackerii au compromis platforma de dezvoltare Nx. Sute de mii de utilizatori au descărcat programe infectate, care au permis furtul de parole și portofele de criptomonede. Inovația atacului a constat în faptul că software-urile AI instalate pe calculatoarele victimelor au fost manipulate să trimită datele către atacatori. „Este pentru prima dată când vedem un hacker care încearcă să exploateze inteligența artificială din mediul victimei”, a explicat Henrik Plate de la Endor Labs.

Demonstrații prezentate la conferința Black Hat din Las Vegas au arătat că atacurile devin și mai sofisticate. Documente cu instrucțiuni ascunse adresate unor programe AI precum ChatGPT sau Gemini au fost capabile să sustragă parole și să declanșeze tentative de phishing fără ca utilizatorul să observe.

Unele grupări criminale merg și mai departe, folosind AI pentru a planifica atacuri de tip ransomware de la identificarea țintelor până la formularea cererilor de răscumpărare. În paralel, sisteme avansate de AI descoperă „zero-day vulnerabilities” – erori necunoscute din software-uri – pe care hackerii le exploatează înainte ca firmele să le poată repara.

Experții avertizează că scenariul de coșmar ar fi momentul în care AI-ul atacatorilor ar putea interacționa direct cu AI-ul victimelor, exploatând în comun sistemele. „Când inteligența artificială a celor răi colaborează cu inteligența artificială a celor buni, riscul devine uriaș”, avertizează Delamotte.

Adam Meyers, vicepreședinte la CrowdStrike, a concluzionat: „În anul care vine, inteligența artificială va deveni noua mare amenințare din interiorul companiilor”.

Pentru mai multe știri urmărește-ne pe TELEGRAM!