Explozia volumului de fișiere generată de IA remodelează securitatea serviciilor financiare

Să luăm ca exemplu o instrucțiune de transfer bancar care ajunge sub forma unui fișier PDF „curat”. Fără cod incorect formatat, fără semnături cunoscute ca fiind false, cu un expeditor plauzibil, cu metadate care trec cu bine de toate verificările automate — și totuși este în întregime falsificat, generat de un model pentru câțiva cenți, astfel încât să arate exact ca originalul. Nimic din originea sa nu îl trădează, deoarece nu a avut niciodată un autor uman. Aflați mai multe despre tehnica de concatenare a fișierelor PDF

Majoritatea măsurilor de securitate a fișierelor utilizate în prezent se bazează pe o presupunere moștenită: aceea că fișierele sunt create de oameni. Această presupunere determină ritmul de apariție, rata de acumulare și definiția termenului „normal”, pe baza căreia sunt evaluate anomaliile. Ea a fost valabilă timp de decenii, deoarece costul pe fișier era legat de efortul uman, iar limita maximă a volumului era stabilită în funcție de numărul de angajați.

IA generativă a eliminat această limită. Sfera globală a datelor a crescut de la 45 de zettabytes în 2019 la o valoare estimată de 175 până în 2025 (o creștere de 289%) și se preconizează că va ajunge la 527 până în 2029 (IDC). Însă volumul reprezintă doar jumătatea mai puțin importantă a poveștii. Schimbarea cu adevărat semnificativă ține de sursă: se estimează că 40–50% dintre noile fișiere ale întreprinderilor sunt acum generate de mașini, adesea fără niciun indiciu fiabil care să indice că ar fi fost create de oameni.

Rata de creștere confirmă aceeași tendință. Crearea de fișiere la nivel de întreprindere a crescut cu aproximativ 20–23% pe an în perioada anterioară apariției IA. Pentru organizațiile care au standardizat fluxurile de lucru bazate pe IA, creșterea totală a volumului de fișiere este estimată acum la 55–68% pe an. Adoptarea IA generative la nivel de întreprindere aproape s-a dublat într-un singur an, de la 33% la 71% (Stanford HAI), iar două treimi dintre organizații raportează creșteri măsurabile ale productivității (Deloitte). Crearea de fișiere s-a detașat pentru prima dată de dimensiunea forței de muncă, iar decalajul tot mai mare dintre aceste două curbe reprezintă exact locul în care se află noua vulnerabilitate de securitate.

Sectorul serviciilor financiare a înregistrat o explozie a volumului de fișiere mai devreme decât orice alt sector, deoarece dispune de trei surse generatoare de fișiere de care majoritatea industriilor nu dispun, iar inteligența artificială generativă le-a accelerat pe toate trei simultan.

Primul este reprezentat de datele sintetice, cel mai important factor, dar și cel mai puțin vizibil. Antrenarea modelelor de combatere a fraudei, de combatere a spălării banilor (AML) și de creditare necesită date la o scară limitată de reglementările privind confidențialitatea; IA generativă rezolvă această constrângere prin producerea de înregistrări sintetice realiste din punct de vedere statistic, care ating o echivalență de utilitate de 96–99% față de datele de producție pentru testarea AML. O singură instituție poate genera miliarde de înregistrări pe ciclu de antrenare, iar fiecare dintre acestea este un artefact stocat, gestionat și securizat.

Al doilea aspect îl reprezintă documentația KYC, cea mai ușor de cuantificat categorie, deoarece este obligatorie. Inteligența artificială a crescut randamentul pe analist și a introdus tipuri de documente cu totul noi: descrieri ale riscurilor generate automat, rezumate ale știrilor negative din presă, hărți ale structurii de proprietate. Se estimează că cheltuielile globale pentru sistemele KYC/KYB vor crește cu aproximativ 40%, ajungând la 30,5 miliarde de dolari până în 2030 (Juniper Research), iar numărul verificărilor de identitate efectuate la nivel mondial a crescut de la 75 de miliarde în 2024 la 86 de miliarde în 2025, fiecare reprezentând un document care trebuie capturat, stocat și analizat.

Al treilea aspect îl reprezintă utilizarea directă a modelelor LLM în toate departamentele (vânzări, marketing, juridic, resurse umane, gestionarea riscurilor) care nu au generat niciodată un volum mare de conținut. Productivitatea pe departament a crescut, conform estimărilor, de trei până la cinci ori, iar organizațiile raportează o creștere de 54% de la un an la altul a conținutului pe care trebuie să îl producă (Deloitte). Trei sferturi dintre firmele financiare din Marea Britanie utilizează deja IA (Banca Angliei / FCA), iar ponderea celor care raportează creșteri de productivitate aproape s-a dublat, ajungând la 59% într-un an. Instituțiile care generează cele mai multe fișiere sunt tocmai cele care investesc cel mai agresiv în tehnologia care le generează.

Acesta este punctul de cotitură în care o poveste despre productivitate se transformă într-una despre securitate. Instrumentul folosit pentru elaborarea unui pitchbook este identic cu cel folosit pentru elaborarea unui payload.

Atacurile de phishing asistate de IA au crescut de peste zece ori (+1.265%) de când IA generativă a devenit o tehnologie de largă utilizare, peste 82% dintre e-mailurile de phishing detectate conținând acum conținut generat de IA. Falsificarea documentelor digitale a crescut cu 244% de la un an la altul în 2024. Kaspersky înregistrează aproximativ 500.000 de fișiere malicioase pe zi. Iar ponderea firmelor care au raportat tentative de fraudă de identitate prin deepfake a crescut de la 37% la 49% în doi ani. Amenințările transmise prin fișiere cresc în același ritm cu fișierele legitime, deoarece aceeași tehnologie le produce pe ambele.

Vocabularul pe care îl folosim pentru a descrie fișierele nu mai corespunde cu ceea ce au devenit acestea. Un fișier nu mai este un container pasiv care rămâne inactiv până când cineva îl deschide. Acesta devine din ce în ce mai mult un „IntelligentFILE”: orice fișier care conține inteligență încorporată (inclusiv date, instrucțiuni, identitate sau cod) și care declanșează o acțiune corespunzătoare atunci când este procesat, deschis sau transmis.

Trăsătura definitorie a IntelligentFILE este natura sa duală. Același obiect poate fi o forță în favoarea afacerilor, a conformității și a încrederii — sau o armă. Un pachet KYC are valoare juridică și consecințe ulterioare pentru fiecare decizie luată pe baza acestuia. Un set de date sintetice AML devine sursa de referință pentru un model care gestionează milioane de tranzacții. Un raport de conformitate generat de IA este legitim dacă este gestionat corespunzător și un vector de atac dacă nu este. Un fișier PDF care conține malware este conceput să treacă de inspecția superficială și să se execute odată ce a pătruns în sistem. O instrucțiune de transfer bancar generată de IA este corectă din punct de vedere contextual, corespunde contrapartidei și este, din punct de vedere structural, imposibil de distins de una reală.

Diferența dintre versiunea cooperantă și cea ostilă este rareori vizibilă la suprafață, iar aceasta este problema principală.

Majoritatea mecanismelor de control utilizate în prezent deduc riscul pe baza unei proprietăți pe care fișierul generat automat nu o mai prezintă în mod fiabil. Motoarele anti-malware bazate pe semnături presupun că amenințarea a mai fost întâlnită anterior, însă modelele generative produc încărcături utile noi, fără nicio semnătură cunoscută. Gateway-urile de e-mail presupun că fișierul periculos ajunge prin e-mail, dar fișierele intră acum prin încărcări în cloud, API-uri, formulare web, portaluri și instrumente de colaborare. Clasificarea presupune că fișierele conțin semnale de autor și metadate curate, dar fișierele generate automat nu le au, iar datele sintetice imită înregistrările reale ale clienților.

Proveniența presupune că originea garantează siguranța, dar originea reprezintă din ce în ce mai mult un model situat în afara perimetrului instituției.

Aceasta este „lacună de protecție”: nu e vorba de eșecul unui singur instrument, ci de o neconcordanță la nivel de arhitectură între măsurile de control concepute pentru fișiere create și gestionate de oameni, la ritmul uman, și un ansamblu de fișiere care nu corespunde acestor caracteristici.

Dacă nu mai putem avea încredere în sursă, punctul de control trebuie adaptat. Securitatea trebuie să treacă de la detectarea amenințărilor după ce un fișier intră în mediu la inspectarea și curățarea fiecărui fișier în momentul preluării, indiferent de sursa declarată și indiferent dacă vreun motor de detectare îl semnalează. Proveniența trece de la ceva ce se deduce la ceva ce se impune.

În practică, aceasta înseamnă: prevenirea înaintea detectării; tratarea fiecărui canal ca pe un punct de intrare; neutralizarea fișierelor prin refacerea acestora pentru a elimina conținutul activ, în loc să se detecteze doar fișierele cunoscute ca fiind dăunătoare; evitarea dependenței de un singur motor de detectare; și tratarea datelor generate automat și a celor sintetice ca pe o clasă de date reglementată de sine stătătoare.

Piața se reorientează deja în această direcție — 96% dintre responsabilii cu securitatea consideră acum că inteligența artificială (IA) este esențială pentru apărarea lor cibernetică (EY), în contextul în care costul mediu al unei breșe de securitate se ridică la aproape 4,4 milioane de dolari (IBM).

Măsurile de securitate adaptate nu trebuie să încetinească activitatea pe care IA a accelerat-o. Însă verificările perimetrale asigură că explozia volumului de fișiere sporește productivitatea fără a extinde în aceeași măsură suprafața vulnerabilă la amenințări.