Cosa sono gli attacchi informatici basati su intelligenza artificiale?

Gli attacchi AI-driven rappresentano un’evoluzione accelerata del cybercrime: l’intelligenza artificiale, tra LLM, modelli generativi e agenti autonomi, rende più rapido, personalizzato e scalabile ciò che già funzionava, dal phishing alle frodi BEC, dalla creazione e mutazione di malware fino alla scoperta e allo sfruttamento di vulnerabilità.

Cosa sono gli attacchi AI-driven?

Negli ultimi anni gli attacchi informatici hanno iniziato a cambiare ritmo. Non perché il cybercrime abbia improvvisamente “inventato” qualcosa di completamente nuovo, ma perché l’intelligenza artificiale ha reso molto più rapido, personalizzato e scalabile ciò che già funzionava: il phishing, le frodi BEC, la creazione e mutazione di malware, fino alla scoperta e allo sfruttamento di vulnerabilità.

Quando parliamo di attacchi AI-driven, in realtà, non è tanto importante “quale tool” stia usando l’attaccante. Il punto vero è capire in quali punti della kill chain l’AI riesce ad assistere o automatizzare le decisioni.

È un’accelerazione che, nella pratica quotidiana di un SOC e nelle scelte di un CISO, pesa più della singola tecnica: accorcia i tempi, aumenta il volume, riduce i segnali banali e costringe le difese a spostarsi da una logica “a firma” a una logica più comportamentale.

In quali fasi della kill chain l’AI aumenta il rischio?

L’AI interviene nella ricognizione, quando l’OSINT diventa più veloce e precisa e la mappatura dei bersagli, incluse supply chain e relazioni tra aziende, si fa più sistematica. Interviene nel social engineering, dove i pretest diventano credibili perché coerenti con ruoli, linguaggi interni, fornitori reali, scadenze amministrative e piccole abitudini aziendali.

L’AI interviene anche nell’accesso iniziale, dove aumentano le probabilità di rubare credenziali, ottenere consensi OAuth o rendere efficace un malvertising mirato; nel movimento laterale, quando l’attaccante sceglie più in fretta “il prossimo passo” in base all’ambiente che trova; e infine nell’esfiltrazione e nell’impatto, dove tempi e canali possono essere selezionati per essere più silenziosi o più efficaci dal punto di vista psicologico.

Perché gli attacchi AI-driven mettono in crisi le difese tradizionali?

Le difese classiche basate su firme e indicatori statici faticano a stare al passo, perché l’AI aumenta la capacità dell’avversario di cambiare forma continuamente: domini che ruotano, testi che variano, allegati che mutano, URL che cambiano e payload che si riconfezionano.

È il fenomeno dell’IOC churn, e il risultato è che il puro approccio basato su blocklist e firme diventa reattivo e spesso arriva tardi.

A quel punto servono correlazione multi-sorgente, rilevazione di anomalie e contenimento rapido, perché i dettagli cambiano ma le sequenze di comportamento, per quanto sofisticate, tendono a lasciare tracce più stabili.

‹ ›

Qual è la differenza rispetto al cybercrime tradizionale?

La differenza rispetto al cybercrime per come l’abbiamo sempre conosciuto non si riduce alla capacità di scrivere email senza errori. La vera discontinuità è la combinazione di autonomia, adattività e scalabilità.

L’autonomia abilita iterazioni rapide: l’attaccante può provare, misurare, correggere e riprovare cambiando tono, oggetto, tempi e canali, dall’email a Teams o WhatsApp, fino alla telefonata. Questo mette sotto pressione gli analisti, perché aumenta la quantità di varianti e di casi borderline.

L’adattività rende l’attacco context-aware: non solo credibile, ma contestuale, capace di usare dettagli amministrativi e contabili che in Italia sono spesso il cuore operativo delle frodi.

La scalabilità, infine, fa sì che i tentativi aumentino e il rumore cresca: più triage, più alert da normalizzare e deduplicare, più necessità di regole di correlazione ben curate e più automazione, ma governata, con soglie, audit e controllo.

Perché la finestra tra patch e sfruttamento si sta accorciando?

A tutto questo si aggiunge una dinamica che per i team di sicurezza è diventata quasi una corsa: la finestra tra patch e sfruttamento si accorcia. Quando la patch-to-pwn diventa più corta, cresce il valore della prevenzione e della disciplina.

L’hardening e l’exposure management smettono di essere attività accessorie e diventano essenziali; la prioritizzazione delle patch deve mettere al centro asset internet-facing e identità; e quando la patch non è immediata, la capacità di applicare compensazioni, mitigazioni, WAF, virtual patching e controlli temporanei diventa ciò che compra tempo.

Tempo che oggi vale più di prima.

Come cambia il phishing con l’intelligenza artificiale?

Nel frattempo il phishing cambia volto. Non si tratta di un nuovo tipo di phishing, ma diventa più simile a una conversazione reale, spesso multi-step e multicanale.

Un LLM permette all’attaccante di raccogliere indizi da LinkedIn, comunicati, siti aziendali, documenti pubblici, gare e bilanci, e poi di tradurre quell’insieme di segnali in un messaggio che sembra appartenere davvero a quel contesto.

Il salto non è solo nella prima email: è nella gestione del dialogo, nei follow-up, nella capacità di rispondere alle obiezioni e nella pressione calibrata. Quando la lingua è impeccabile, i training basati sui refusi perdono efficacia.

I segnali da osservare devono spostarsi su due livelli:

• segnali di processo: pagamenti fuori procedura, cambi IBAN improvvisi, urgenze anomale, richieste di segretezza;
• segnali tecnici: nuovi device, geolocalizzazioni insolite, tentativi falliti seguiti da login riuscito, regole inbox sospette, consensi OAuth anomali, download massivi da SharePoint o OneDrive.

Perché il contesto italiano è particolarmente esposto?

In Italia questo è particolarmente critico perché una quota rilevante delle frodi ruota attorno a fatture, fornitori, pagamenti, PEC, urgenze di fine mese e dinamiche amministrative.

Lo scenario tipico è fin troppo realistico: ricognizione su buyer e fornitore, email con una “fattura aggiornata” o un cambio di coordinate bancarie, landing page di login che imita M365, Google o un portale fornitore, magari accompagnata da una richiesta di consenso OAuth, e infine il colpo di grazia con un messaggio su Teams o LinkedIn che spinge sull’urgenza.

Qui le contromisure efficaci funzionano quando sono solide e coerenti: una postura email ben configurata con DMARC, SPF e DKIM, la protezione dai domini look-alike, la detection comportamentale su identità e sessioni e soprattutto un processo “verify then trust” sui punti critici, pagamenti e reset.

Come stanno evolvendo le frodi BEC con deepfake e voice cloning?

La frode BEC sta vivendo un’evoluzione ancora più delicata: il passaggio dal testo credibile alla presenza credibile. Deepfake e voice cloning permettono di impersonare figure ad alta autorità, CEO, CFO, HR o IT manager, e ottenere bonifici urgenti, reset MFA, condivisione di documenti o aggiunta di beneficiari.

Il rischio esplode quando i processi autorizzativi sono informali, quando la cultura aziendale rende difficile contraddire un superiore e quando i canali di contatto non sono verificati e quindi facilmente falsificabili.

La difesa più efficace non è soltanto tecnica. È soprattutto organizzativa:

• callback obbligatorio su numeri già presenti in rubrica, non su quelli indicati nel messaggio;
• doppia approvazione per cambio IBAN, nuovi beneficiari e pagamenti fuori procedura;
• change-control per richieste finanziarie o amministrative ad alto impatto;
• runbook specifici per Finance, HR e IT;
• simulazioni che includano urgenza, pressione emotiva e autorità.

Come cambiano malware, exploit e analisi SOC?

Sul fronte malware ed exploit, l’AI non rende automaticamente tutti gli attaccanti geni, ma aumenta la capacità di produrre varianti, offuscare pattern, adattare comandi all’ambiente e costruire catene end-to-end più coerenti.

Per la DFIR e per l’analisi del SOC questo significa che l’analisi statica perde forza quando hash e stringhe cambiano spesso, e diventano più importanti i segnali di catena:

• process tree anomali;
• comandi rari per quello specifico server;
• persistenze inconsuete;
• beaconing sospetto;
• uso living-off-the-land di strumenti legittimi come PowerShell, WMI e LOLBins.

La domanda, sempre più spesso, non è “questo file è noto?”, ma “questo comportamento è normale per quell’utente e per quell’host?”.

Come proteggere LLM, RAG e agenti AI aziendali?

Se l’azienda introduce LLM, RAG o agenti, nasce un livello applicativo nuovo con vulnerabilità proprie. La sicurezza non riguarda solo “difendersi dall’AI”, ma anche mettere in sicurezza l’AI che si porta dentro casa.

I rischi includono prompt injection, data poisoning, jailbreak e abuso dei tool chiamati dall’agente.

Le misure principali sono:

• sanitizzazione degli input;
• policy enforcement;
• retrieval con ACL e segmentazione dei contenuti;
• monitoring runtime su prompt, output e tool call;
• logging utile per incident response;
• controllo della supply chain dei dataset;
• tracciabilità delle decisioni e delle azioni automatizzate.

Vanno quindi trattati come sistemi critici: senza governance, l’AI diventa un moltiplicatore di rischio interno.

Quali dati aiutano a leggere il fenomeno?

Gli attacchi AI-driven vanno letti dentro un quadro più ampio: crescita del cybercrime, aumento della pressione sulle identità digitali, maggiore sofisticazione delle frodi e necessità di ridurre i tempi di rilevazione e contenimento.

Nei dati e nelle analisi di Cyberoo, la centralità delle identità, della telemetria continua e del monitoraggio gestito emerge come uno degli elementi più importanti per intercettare attacchi che cambiano rapidamente forma. L’approccio basato su MDR, SOC, Threat Intelligence e correlazione multi-sorgente permette di superare una logica puramente reattiva e di leggere i segnali deboli prima che diventino incidenti conclamati (Osservatorio Cyberoo 2026).

Quali KPI deve misurare un SOC contro gli attacchi AI-driven?

Per orientare le priorità nel contesto italiano, i numeri contano, ma vanno letti con attenzione. Il numero di attacchi è una metrica ambigua, perché può indicare un tentativo su honeypot o un incidente confermato.

In un SOC, spesso, è più utile tradurre i trend in KPI interni che misurano capacità reale, come MTTD, MTTC, MTTR, coverage sulle tecniche MITRE ATT&CK e dwell time stimato.

Perché la sfida, in fondo, è ridurre tempo e incertezza lungo tutto il ciclo.

Perché non basta “comprare AI per difendersi”?

Quando si parla di un approccio “AI vs AI”, la tentazione è pensare che basti comprare un nuovo prodotto che fa uso di intelligenza artificiale per risolvere. In realtà il cuore del discorso è un altro: è necessario costruire una detection moderna che si adatti dinamicamente, perché gli indicatori cambiano di continuo mentre i pattern di comportamento sono più stabili.

La behavioral detection diventa un lavoro metodico su identità, endpoint, cloud ed email. Significa riconoscere segnali come impossible travel, nuovi device, nuovi token e MFA fatigue; osservare processi parent/child anomali e script rari; identificare download massivi o condivisioni esterne improvvise; intercettare regole inbox, forwarding e allegati inconsueti.

E soprattutto significa rendere il tutto verificabile, partendo da casi d’uso concreti, ad esempio un BEC su M365, mappando i log realmente disponibili e ricostruendo sequenze riproducibili come phish, login, OAuth consent, download e inbox rule. È questa riproducibilità che trasforma un sospetto in una decisione operativa difendibile. 

Quale ruolo hanno MDR, SOC e Cyber Security Suite?

Contro attacchi che evolvono rapidamente, la difesa deve combinare visibilità continua, correlazione multi-sorgente, analisi comportamentale e capacità di risposta tempestiva.

Una soluzione MDR supportata da un I-SOC evoluto consente di correlare eventi provenienti da identità, endpoint, email, rete, cloud e fonti di Cyber Threat Intelligence, individuando anche segnali deboli che, presi singolarmente, potrebbero passare inosservati. In questo contesto, la Cyber Security Suite di Cyberoo integra monitoraggio continuo, rilevamento delle minacce, correlazione degli eventi e processi di Incident Response, supportando gli analisti nell'identificazione, nella prioritizzazione e nel contenimento degli incidenti.

Gli attacchi AI-driven non si contrastano inseguendo ogni nuova variante, ma riducendo il tempo tra rilevamento, analisi e risposta.

Quali automazioni SOAR sono utili contro gli attacchi AI-driven?

Sul piano della risposta, l’automazione è inevitabile, perché il volume cresce e il tempo si accorcia. Ma l’automazione funziona solo se è governata.

Il SOAR dà risultati quando automatizza azioni ripetibili a basso rischio, o azioni ad alto impatto ma con confidenza alta. Isolare un endpoint può essere potentissimo ma va dosato con soglie ed eccezioni per server critici; revocare token e forzare reset può essere decisivo quando ci sono indicatori forti sull’identità; bloccare domini look-alike è utile ma richiede validazioni per evitare di colpire domini business-critical.

Per capire se la macchina sta davvero aiutando, servono KPI che parlano di risultati: riduzione dell’MTTC, percentuale di automazione con audit e tracciabilità e riduzione del blast radius misurando quanti host o account vengono impattati prima del contenimento.

Come può aiutare l’AI nella DFIR senza aumentare il rischio?

Anche l’AI può aiutare nell’analisi forense e nell’incident response. Può essere utile per raggruppare alert simili, sintetizzare timeline da log complessi, supportare query e arricchimenti su IOC e pattern di comandi.

Però serve cautela nelle decisioni finali senza prove riproducibili e nelle conclusioni non verificabili: il rischio di allucinazioni esiste. Nella DFIR bisogna poter dimostrare come si è arrivati a una conclusione, con evidenze e passaggi chiari.

Il rischio di allucinazioni, interpretazioni non verificabili o ricostruzioni incomplete deve essere gestito con controllo umano e tracciabilità.

Perché deception e honey-asset sono utili?

C’è infine una categoria di difese che tende a funzionare bene contro attaccanti, team di agenti e team di cybercriminali: la deception. Honeypot, honey-cred e canary aumentano il costo decisionale dell’attaccante e dell’agente.

Queste tecniche generano segnali ad alta confidenza, perché chi tocca un honeypot raramente è legittimo, e producono TTP aggiornate che aiutano a rafforzare la detection reale.

Quali best practice adottare subito?

Se si vuole tradurre tutto questo in best practice operative, il punto di partenza non è una checklist universale, ma una valutazione onesta della postura attuale, idealmente con attività di Red o Purple Team mirate ai nuovi scenari: phishing generativo, BEC con voce e video, abuso di token OAuth o SSO, compromissione di caselle e regole inbox.

Da lì si passa alla prioritizzazione dello stack, perché non tutto si può rafforzare insieme: identità prima di tutto, poi email security, ancora vettore principale in molti contesti, poi capacità di telemetria, correlazione e automazione governata attraverso una suite efficace, la Cyber Security Suite.

Sopra la tecnologia restano decisivi i processi “verify then trust”, come callback, doppia approvazione, procedure per reset MFA e pagamenti. A completare il quadro servono governance dell’AI contro la Shadow AI, inventario di modelli, dataset, agent e tool collegati, resilienza con backup air-gapped e disaster recovery testato, collaborazione con ACN/CSIRT Italia e misurazione continua attraverso MTTD, MTTC, MTTR, coverage delle TTP, automazione con audit, riduzione del blast radius e tempi di patch sugli asset esposti.

Una strategia resiliente contro gli attacchi AI-driven

Alla fine, gli attacchi AI-driven non sono una bacchetta magica per il cybercrime: sono un amplificatore. Rendono più veloce ciò che già funzionava, più credibile ciò che già ingannava e più scalabile ciò che già portava profitto.

Per un’azienda, la sfida non è inseguire ogni nuova variante o ogni nuovo indicatore, ma costruire una capacità stabile di ridurre la latenza lungo tutto il ciclo: prevenire con hardening, exposure management e patching prioritizzato; rilevare con correlazione e segnali comportamentali; contenere con playbook e automazioni governate.

Nel contesto italiano, dove frodi su pagamenti, supply chain e compromissione di identità restano centrali, la differenza la fanno due leve: una tecnica, basata su telemetria completa e detection behavior-first su identità, email, cloud ed endpoint, e una organizzativa, fatta di processi di verifica che non cedono sotto pressione.

Se l’azienda decide di adottare LLM, RAG o agenti, l’AI va governata come un sistema critico,  progettata con ACL sul retrieval, policy enforcement, logging e osservabilità, e mitigazioni contro prompt injection e tool abuse. L’obiettivo non è “comprare AI per difendersi”, ma costruire una postura misurabile e sostenibile che aumenti la resilienza quando l’avversario diventa più rapido e più adattivo, trasformando la sicurezza da reazione a capacità operativa continua.

Luca Bonora Luca Bonora

Cybersecurity Evangelist, CYBEROO

LinkedIn