Compania americană de securitate cibernetică Mandiant, deținută de Google, a declarat joi că a observat o utilizare tot mai mare a inteligenței artificiale (AI) pentru a desfășura campanii de informare manipulatoare în mediul online, în ultimii ani, deși utilizarea tehnologiei în alte intruziuni digitale a fost limitată până acum.
Cercetătorii de la compania cu sediul în Virginia au descoperit “numeroase cazuri” din 2019 în care conținutul generat de AI, cum ar fi fotografiile de profil fabricate, au fost folosite în campanii de influență online motivate politic.
Acestea au inclus campanii ale grupurilor aliniate cu guvernele din Rusia, China, Iranu, Etiopia, Indonezia, Cuba, Argentina, Mexic, Ecuador și El Salvador, se arată în raport.
Aceasta vine pe fondul unui boom recent al modelelor AI generative, cum ar fi ChatGPT, care fac mult mai ușoară crearea de videoclipuri, imagini, text și cod de computer false, dar convingătoare. Oficialii din domeniul securității au avertizat că astfel de modele sunt folosite de infractorii cibernetici.
Inteligența artificială generativă ar permite grupurilor cu resurse limitate să producă conținut cu o calitate superioară pentru campanii de influență la scară largă, au spus cercetătorii Mandiant.
O campanie de informare pro-China numită Dragonbridge, de exemplu, s-a extins “exponențial” pe 30 de platforme sociale, în 10 limbi diferite, de când a început prin atacarea protestatarilor pro-democrație din Hong Kong în 2019, a declarat Sandra Joyce, vicepreședinte la Mandiant Intelligence.
Cu toate acestea, impactul unor astfel de campanii a fost limitat. “Din punct de vedere al eficacității, nu există prea multe victorii acolo”, a spus ea. “Chiar nu au schimbat încă cursul peisajului amenințărilor”.
China a negat în trecut acuzațiile SUA de implicare în astfel de campanii de influență.
Mandiant, care ajută organizațiile publice și private să răspundă la breșele digitale, a declarat că nu a văzut încă inteligența artificială jucând un rol-cheie în amenințările din Rusia, Iran, China sau Coreea de Nord. Utilizarea IA pentru intruziuni digitale este de așteptat să rămână scăzută pe termen scurt, au spus cercetătorii.
“Până acum, nu am văzut niciun răspuns la un incident în care AI să fi jucat un rol”, a spus Joyce. “Nu au fost aduse cu adevărat în niciun fel de utilizare practică care să depășească ceea ce s-ar putea face cu uneltele normale pe care le-am văzut”.
Dar ea a adăugat: “Putem fi foarte încrezători că aceasta va fi o problemă care va deveni din ce în ce mai mare, odată cu trecerea timpului”.
Sursa: Reuters