La fel ca mulți alții, am citit recent raportul Anthropic privind utilizarea abuzivă și reportajul ulterior al Reuters. Ambele confirmă un lucru pe care liderii din domeniul securității l-au anticipat, dar au sperat că nu se va întâmpla atât de curând: atacatorii introduc în prezent programe malware în cadrele AI pentru a le îmbunătăți.
Și nu o fac prin încărcarea de fișiere executabile brute. Platformele de inteligență artificială le blochează deja. În schimb, ei încorporează programe malware în aceleași fișiere de productivitate zilnice pe care sistemele de inteligență artificială le acceptă pentru activități legitime, cum ar fi:
- PDF-uri
- Documente Word
- Foi de calcul
- Jurnale
- Arhive ZIP
- Fișiere de cod sursă
- Imagini cu metadate
În viitoarea mea carte, Cybersecurity Upside Down, discut despre motivul pentru care aceste formate au fost întotdeauna cei mai de încredere purtători de programe malware. Acest lucru nu s-a schimbat. Ceea ce s-a schimbat este faptul că acum cadrele de inteligență artificială înghit direct aceste fișiere, le interpretează ca fiind conținut și încearcă în mod critic să ajute. Atacatorii solicită pur și simplu modelului să repare erorile, să ajusteze logica sau să genereze noi variante. Inteligența artificială devine un asistent involuntar pentru dezvoltarea de programe malware.
Exemple publice neutre privind modul în care tipuri de fișiere obișnuite și de încredere furnizează în mod obișnuit programe malware:
- PDF-uri malițioase cu JavaScript încorporat (CISA)
- Malware stratificat în interiorul arhivelor ZIP (NCSC)
Odată ce un fișier trece de filtrele de încărcare de bază, inteligența artificială citește conținutul mai degrabă ca pe un text decât ca pe o amenințare. Cadrele AI au încredere în formatul fișierului. Atacatorii exploatează această încredere. Iar acest lucru face ca această cale de atac să fie atât subtilă, cât și eficientă.
Acesta este exact momentul în care Deep Content Disarm and Reconstruction Deep CDR) devine nu doar util, ci complet necesar.
Ce face de fapt Deep CDR
DEEP CDR este fundamental diferit de tehnologiile tradiționale de detectare. Nu se bazează pe semnături, euristică sau analiză comportamentală. Nu încearcă să inspecteze fișiere pentru a decide dacă un fișier ar putea fi sigur.
În schimb, Deep CDR pornește de la o presupunere simplă: orice fișier poate fi rău intenționat.
Puterea sa provine dintr-un proces în trei etape:
- Identificarea adevăratului tip de fișier
Deep CDR inspectează structura internă a fișierului. Dacă fișierul este deghizat în altceva, Deep CDR identifică ce este cu adevărat și îl blochează sau îl procesează în mod corespunzător. - Despachetați fișierul complet
Deep CDR deschide fișierul... apoi deschide orice obiecte încorporate în acesta... apoi despachetează arhivele din interiorul acestora... continuând până când fiecare strat este expus. Nimic nu rămâne ascuns. - Regenerarea unei versiuni curate și sigure a fișierului
Aceasta este partea importantă. Deep CDR nu "curăță" fișierul original. Acesta construiește un PDF, un document Word, o foaie de calcul sau o imagine nou-nouț utilizând numai conținutul sigur și valid - eliminând scripturile, macro-urile, logica încorporată și orice componente ascunse.
Rezultatul arată la fel pentru utilizator, dar codul periculos nu ajunge niciodată la sistemul AI în primul rând.
De ce fiecare flux de lucru AI are nevoie DEEP CDR
Orice sistem AI care acceptă fișiere încărcate de utilizator este expus amenințărilor bazate pe fișiere. Fișierele de productivitate rămân în continuare principalul vector de malware, iar acest lucru nu se va schimba. Adoptarea inteligenței artificiale a crescut dramatic volumul de fișiere prelucrate. Această amploare amplifică riscul.
Modelele AI sunt construite pentru a citi și a interpreta conținutul, nu pentru a analiza structura fișierului în căutarea unui comportament rău intenționat. Ele nu inspectează codul încorporat sau componentele ascunse. Ele procesează pur și simplu ceea ce se află în interior.
Deep CDR acoperă această lacună. Aceasta garantează că, înainte ca AI să proceseze un fișier, acesta a fost deja reconstruit complet într-o versiune sigură și de încredere. Aceasta protejează sistemul AI, utilizatorul și organizația care îl implementează.
Descoperiți cum funcționează Deep CDR aici.
