MetaDefender Aether™ analizează modelele de IA pentru a identifica amenințările ascunse, în conformitate cu noul standard de testare a IA al AMTSO

Principalele concluzii

• MetaDefender Soluția „ Adaptive ” de la AetherSandbox detectează amenințările de tip „zero-day” prin detonare comportamentală, nu prin compararea semnăturilor, și integrează aceste informații în fluxul de procesare a amenințărilor pe cinci niveluri
• Pe 4 septembrie 2026, AMTSO a aprobat în mod oficial actualizările axate pe IA ale Cadrului său de evaluare a „ Sandbox ” și noile Linii directoare pentru testarea produselor de securitate de tip „agent”.
• În cadrul testului realizat de Venak Security în 2026, conform standardului AMTSO, Adaptive Sandbox a detectat 95% din probele de malware generate de IA, acesta fiind cel mai bun rezultat dintre cele patru sandbox-uri testate
• Scanarea modelelor de IA extinde fluxul de lucru al Aether de la MetaDefender la șapte formate de modele de IA generativă, utilizând peste 30 de indicatori de amenințare pentru analiza statică și prompturi adversariale corelate cu lista OWASP LLM Top 10 pentru analiza dinamică
• Rezultatele sunt corelate cu MITRE ATLAS și integrate în fluxul de procesare existent al Aether de la MetaDefender , alături de amenințările convenționale din fișiere

Detectarea comportamentală bazată pe un standard de testare a inteligenței artificiale

MetaDefender Aether™ Adaptive Sandbox are rolul de a detecta amenințări pe care nimeni nu le-a mai văzut până acum. În loc să compare fișierele cu semnături cunoscute, le execută într-un mediu emulat și observă ce fac acestea în realitate; astfel detectează malware-ul de tip „zero-day” care, altfel, ar trece neobservat de sistemele de apărare bazate pe reputație.

MetaDefender Aether este stratul de coordonare din jurul acelui motor. Acesta alimentează Adaptive Sandbox cu informații privind amenințările, astfel încât verdictele să fie emise mai rapid și cu mai multă precizie, și integrează rezultatele fiecărui strat într-un singur flux unificat de procesare a amenințărilor, format din cinci straturi, care acoperă reputația amenințărilor, analiza predictivă, detonarea dinamică, evaluarea amenințărilor și identificarea amenințărilor.

La 4 septembrie 2026, Organizația pentru Standarde de Testare Anti-Malware (AMTSO) a confirmat că a aprobat în mod oficial o actualizare axată pe inteligența artificială a Sandbox Cadrului de evaluare, alături de noile Linii directoare pentru testarea produselor de securitate de tip agent. Niciunul dintre aceste documente nu are caracter obligatoriu. Ambele reprezintă actualizări ale unui standard de testare voluntar, dar constituie cel mai clar semnal de până acum că testarea în medii de tip sandbox se aliniază la ceea ce pot face în prezent modelele de IA.

De ce securitatea modelelor de IA a devenit brusc o problemă

Infrastructura critică se află în centrul unei dezbateri politice care evoluează rapid pe două fronturi: înăsprirea cadrelor de reglementare din SUA în ceea ce privește inteligența artificială de ultimă generație și eforturile paralele ale Chinei în domeniul modelelor LLM open-source și al capacității de calcul. Niciuna dintre aceste tendințe nu încetinește ritmul cu care modelele LLM preantrenate sunt implementate în mediile corporative.

Acest volum, și nu noile tehnici de atac, reprezintă problema principală. Inteligența artificială nu a inventat noi modalități de a compromite un fișier. Ea a făcut ca fișierele compromise și modelele LLM compromise să devină mult mai frecvente și mai rapide de produs, aceeași presiune generată de volum care a stat la baza tehnologiei OPSWATtehnologia Deep CDR™ în ceea ce privește amenințările bazate pe fișiere.

Acum câteva săptămâni, NVIDIA a convenit să achiziționeze Hugging Face, principalul centru de distribuție pentru modelele LLM cu greutăți deschise, pentru suma de 12,93 miliarde de dolari. Prin această achiziție, cel mai mare depozit de modele LLM din industrie ajunge sub același acoperiș cu principalul său furnizor de servicii de calcul.

Anthropic s-a alăturat celor peste o sută de companii, printre care OpenAI, Google și Microsoft, în semnarea unei scrisoare deschisă prin care se solicită o apărare cibernetică coordonată pe măsură ce atacurile bazate pe IA iau amploare. Raportul Anthropic din septembrie 2026 privind informațiile despre amenințări a documentat faptul că atacatorii tratează lanțul de aprovizionare al IA atât ca țintă, cât și ca resursă, inclusiv operațiuni concepute special pentru a sustrage cheile de API are ale IA și datele de autentificare din mediul de producție.

OpenAI „Path to Astra” , publicat pe 1 septembrie 2026, a ridicat și mai mult ștacheta. Astra este primul model OpenAI care a depășit pragul „critic” de securitate cibernetică prevăzut în Cadrului de pregătireal companiei, fiind capabil să identifice și să exploateze vulnerabilități de tip zero-day în mare măsură pe cont propriu. Această capacitate este exact ceea ce noile linii directoare de testare agentică ale AMTSO sunt concepute să evalueze. Standardele de testare se dezvoltă rapid pentru a ține pasul cu ceea ce modelele LLM de ultimă generație pot face acum fără supraveghere.

Ce acoperă de fapt cadrul actualizat de evaluare „ Sandbox ” al AMTSO

Grupul de lucru „ Sandbox ” al AMTSO a adăugat un nou set de criterii axate pe IA la cadrul de evaluare existent „ Sandbox ”, oferind testerilor o metodă structurată de a evalua modul în care mediile de testare tratează modelele de IA ca obiecte de analiză, și nu doar ca instrumente. Actualizarea a fost supusă unei consultări publice pe parcursul verii, înainte de a fi aprobată oficial de membri la începutul lunii septembrie.

Grupul de lucru „ Sandbox ” al AMTSO monitorizează în prezent adoptarea cadrului actualizat și elaborează o structură de raportare, astfel încât testerii să poată evalua în mod consecvent performanța mediilor de testare (sandbox) în raport cu noile criterii de IA. Aceste pregătiri sunt importante deoarece oferă furnizorilor un etalon comun, în locul afirmațiilor bazate pe autoevaluare.

MetaDefender Rezultatele obținute de Aether în cadrul sistemului AMTSO

Înainte de a introduce o nouă funcționalitate, este util să știm cum se comportă cea existentă în urma unei evaluări independente. În cadrul testului de tip „sandbox” al Venak Security, testul de tip sandbox din 2026, aliniat la standardul AMTSOOPSWATefectuat de Venak Security, Adaptive ’s Sandbox a detectat 19 din 20 de mostre de malware generate de IA, o rată de detectare de 95% și cel mai bun rezultat dintre cele patru sandbox-uri testate. Venak a creat mostrele de testare cu ajutorul simulatorului său de malware bazat pe IA, adaptat tehnicilor MITRE ATT&CK special pentru a eluda detectarea tradițională.

OPSWAT Adaptive Sandbox a obținut un scor de 95% (19 din 20) într-un test recent care a utilizat douăzeci de eșantioane din cinci categorii de amenințări, create cu ajutorul simulatorului de malware bazat pe IA al Venak și corelate cu tehnicile MITRE ATT&CK.

Analiza statică și dinamică pentru modelele LLM preantrenate

Scanarea modelelor de IA reprezintă funcționalitatea care extinde fluxul de lucru multistrat al Aether d MetaDefender , la modelele de IA preantrenate. Două tipuri distincte de analiză reflectă abordarea statică și comportamentală aplicată și în cazul malware-ului convențional.

Analiza statică examinează fișierele modelelor LLM în șapte formate – Pickle, PyTorch, TensorFlow, Keras, SafeTensors, GGUF și ONNX – fără a le executa. Aceasta utilizează peste 30 de indicatori de amenințare specifici pentru a detecta încărcături utile încorporate, importuri periculoase și backdoor-uri specifice metodei de serializare a fiecărui format.

Analiza dinamică adoptă o abordare opusă: aceasta testează un punct final al unui model LLM în funcțiune cu solicitări adversariale corelate cu Top 10 OWASP pentru aplicațiile LLM, evaluând răspunsurile efective ale modelului LLM în ceea ce privește injectarea de solicitări, divulgarea datelor sensibile și riscurile asociate în timpul rulării. Rezultatele obținute în ambele etape sunt corelate cu MITRE ATLAS, baza de cunoștințe adversarială dedicată învățării automate, și sunt integrate în fluxul unificat de evaluare al MetaDefender Aether, alături de constatările convenționale privind amenințările.

Cât de rapid se extind amenințările legate de modelele de IA

În mai 2026, un depozit fals care se dădea drept o versiune OpenAI, Open-OSS/privacy-filter, a urcat pe primul loc în topul tendințelor de pe Hugging Face în mai puțin de 18 ore și a înregistrat peste 244.000 de descărcări înainte de a fi retras, conținând un script de încărcare care instala în secret un program de furt de informații pe computerele Windows pe care era rulat.

În iulie 2026, OpenAI a dezvăluit că propriile sale modele LLM au exploatat vulnerabilități din infrastructura de cercetare comună și au compromis anumite părți ale platformei Hugging Face în timpul evaluărilor interne de securitate cibernetică, subliniind faptul că lanțul de aprovizionare al modelelor LLM este acum o țintă activă pentru actori sofisticați, nu doar pentru cei oportunisti.

Ce înseamnă securitatea modelelor de IA pentru cinci sectoare de activitate

Finanțe
Modelele LLM de detectare a fraudelor și de evaluare a riscurilor accesează din ce în ce mai direct datele tranzacțiilor, în contextul în care autoritățile de reglementare impun existența unor controale documentate. Un model LLM manipulat în acest context generează simultan atât un incident de securitate, cât și o constatare de audit.

Energie și utilități
Inteligența artificială își extinde domeniul de aplicare către previziuni și gestionarea rețelelor electrice, medii în care sistemele IT și OT sunt deja integrate. Un model LLM cu comportament ascuns sau declanșabil riscă, în acest context, să provoace perturbări fizice, nu doar o breșă de securitate a datelor.

Agențiile guvernamentale și de apărare
se confruntă cu cele mai stricte cerințe în ceea ce privește asigurarea lanțului de aprovizionare, adesea în medii izolate sau clasificate. Un model LLM compromis are consecințe asupra securității naționale care depășesc cu mult pierderea obișnuită de date.

În domeniul producției
, modelele LLM pentru controlul calității și întreținerea predictivă sunt adesea preluate din depozite publice pentru a accelera procesul. Un model LLM compromis care ajunge pe o linie de producție poate afecta în mod direct timpul de funcționare și calitatea produsului.

Sănătate
Suportul și documentația pentru diagnosticare: modelele LLM prelucrează date sensibile ale pacienților în conformitate cu obligațiile existente în materie de confidențialitate. Un model LLM care divulgă informații prin injectarea de prompturi pune în pericol în mod direct confidențialitatea pacienților, nu doar ipotetic.

Care va fi viitorul standardelor de testare a modelelor de IA

Grupul de lucru „ Sandbox ” al AMTSO monitorizează în prezent adoptarea cadrului actualizat de către furnizorii de soluții de tip „sandbox” și elaborează structura de raportare care va permite organizațiilor să compare performanțele testării IA în același mod în care compară deja ratele de detectare convenționale. Pentru MetaDefender Aether, scanarea modelelor de IA este prima funcționalitate dezvoltată și validată în conformitate cu acest standard emergent încă din prima zi.

Citiți descrierea tehnică completă a procesului de scanare a modelelor de IA în postarea privind versiunea v3.3.0.