Perch\u00e9 \u00e8 cos\u00ec preoccupante?<\/strong> L'intelligenza artificiale \u00e8 in grado di produrre istantaneamente contenuti raffinati e consapevoli del contesto che ingannano persino gli utenti esperti. Pu\u00f2 impersonare voci e volti con una precisione spaventosa e persino generare codice maligno che si trasforma per eludere il rilevamento. Di conseguenza, gli attacchi informatici sono diventati pi\u00f9 difficili da individuare e pi\u00f9 facili da eseguire. Il Forum economico mondiale<\/em> avverte che il 72% delle organizzazioni ha riscontrato un aumento dei rischi informatici, in particolare per quanto riguarda l'ingegneria sociale e le frodi, a causa delle crescenti capacit\u00e0 dell'IA generativa.[3]<\/a>. Lo dimostrano gli incidenti del mondo reale: All'inizio del 2024, i criminali hanno utilizzato un'intelligenza artificiale videochiamata deepfake<\/em> per spacciarsi per il direttore finanziario di un'azienda e ingannare un dipendente per fargli trasferire $25,6 milioni<\/strong> ai truffatori[4]<\/a>. E in un altro caso, gli hacker nordcoreani hanno utilizzato Documenti d'identit\u00e0 falsi generati dall'intelligenza artificiale<\/strong> per eludere i controlli di sicurezza in una campagna di phishing difensivo.[5]<\/a>. Questi esempi evidenziano la posta in gioco: l'intelligenza artificiale generativa sta dando vita a truffe che eludono i controlli umani e tecnici.<\/p>\n\n\n\n Tuttavia, anche l'intelligenza artificiale fa parte della soluzione. Gli strumenti di rilevamento avanzati (come quelli di TruthScan) utilizzano l'intelligenza artificiale. contro<\/em> AI - analisi dei contenuti per individuare le firme pi\u00f9 sottili della generazione di macchine. In questo whitepaper esamineremo le principali minacce informatiche guidate dall'IA del 2025 e come le organizzazioni possono mitigarle. Da Phishing generato dall'intelligenza artificiale<\/strong> a frode deepfake CEO<\/strong>, Malware creato dall'intelligenza artificiale<\/strong>, identit\u00e0 sintetiche<\/strong>e altro ancora, esploreremo il modo in cui l'intelligenza artificiale generativa sta ridisegnando gli attacchi. Discuteremo inoltre di misure difensive concrete, tra cui Rilevamento dei contenuti AI<\/strong>Le tecnologie di deepfake forensics e di verifica dell'identit\u00e0 che possono aiutare i team di sicurezza a riprendere il sopravvento. L'obiettivo \u00e8 quello di illustrare come le aziende, gli MSSP, i CISO e gli investigatori di frodi possono integrare gli strumenti di rilevamento dell'intelligenza artificiale nel proprio stack di cybersecurity<\/strong> per contrastare questa ondata di minacce basate sull'intelligenza artificiale.<\/p>\n\n\n\n Uno degli impatti pi\u00f9 evidenti dell'IA generativa \u00e8 stato quello sul phishing e sul compromissione della posta elettronica aziendale (BEC)<\/strong> schemi. I modelli linguistici dell'intelligenza artificiale sono in grado di redigere in pochi secondi e-mail fluenti e contestualizzate, eliminando gli errori grammaticali e le frasi maldestre che un tempo facevano pensare al phishing. Il risultato \u00e8 una marea di e-mail e testi truffaldini estremamente convincenti. Entro aprile 2025, oltre la met\u00e0 delle e-mail di spam (51%) \u00e8 stata scritta dall'intelligenza artificiale.<\/strong>rispetto a due anni prima[6]<\/a>. Ancora pi\u00f9 allarmante, i ricercatori hanno scoperto che circa 14% delle e-mail di attacco BEC sono state generate dall'intelligenza artificiale.<\/strong> entro il 2025[7]<\/a> - una cifra destinata a salire con l'adozione da parte dei criminali di strumenti come ChatGPT. Alcuni studi stimano oltre 80%<\/em> di e-mail di phishing potrebbe ora essere assistito dall'intelligenza artificiale per la loro creazione.[8]<\/a>.<\/p>\n\n\n\n Il volume di queste esche generate dall'intelligenza artificiale \u00e8 esploso. Le analisi di sicurezza mostrano che gli attacchi di phishing legati all'IA generativa sono aumentati del 1,265%<\/strong> in un breve lasso di tempo[9]<\/a>. In un periodo, le segnalazioni di incidenti di phishing sono aumentate 466% in un solo trimestre<\/strong>in gran parte a causa dei kit di phishing automatizzati e dei bot che pompano esche personalizzate.[9]<\/a>[10]<\/a>. Perch\u00e9 questo picco? Perch\u00e9 l'intelligenza artificiale permette agli aggressori scala<\/strong> le loro operazioni in modo drammatico. Un singolo criminale pu\u00f2 utilizzare un chatbot di intelligenza artificiale per generare migliaia<\/em> di e-mail truffaldine personalizzate rivolte a diversi dipendenti o clienti, il tutto nel tempo necessario per crearne una. Questa automazione di massa ha portato l'FBI ad avvertire che le perdite di BEC (che nel 2022 erano gi\u00e0 pari a $2,7 miliardi) non potranno che accelerare, poich\u00e9 l'intelligenza artificiale \"minaccia di spingere tali perdite ancora pi\u00f9 in alto\".[11]<\/a>[12]<\/a>.<\/p>\n\n\n\n Non solo le e-mail di phishing sono pi\u00f9 numerose, ma sono anche pi\u00f9 efficace<\/strong>. Le vittime sono ingannate a tassi pi\u00f9 elevati dal linguaggio raffinato e dai dettagli contestuali che l'intelligenza artificiale pu\u00f2 incorporare. Nei test di laboratorio, le e-mail di phishing scritte dall'intelligenza artificiale hanno raggiunto un 54% tasso di click-through<\/strong> - di gran lunga superiore ai ~12% per i tentativi di phishing tradizionali.[13]<\/a>. Questi messaggi sembrano lo stile di un vero CEO o fanno riferimento a eventi aziendali reali, abbassando la guardia dei destinatari. Gli aggressori utilizzano persino l'intelligenza artificiale per testare A\/B diverse frasi e iterare gli agganci di maggior successo.[14]<\/a>. Inoltre, a differenza degli esseri umani, l'intelligenza artificiale non commette errori di battitura e non si stanca: pu\u00f2 produrre infinite varianti finch\u00e9 una non supera i filtri e inganna qualcuno.<\/p>\n\n\n\n Un esempio su tutti:<\/strong> A met\u00e0 del 2025, un Reuters<\/em> L'indagine ha rivelato come i truffatori del sud-est asiatico abbiano sfruttato ChatGPT per automatizzare le comunicazioni di frode.[15]<\/a>. Hanno generato in massa e-mail bancarie convincenti e testi del servizio clienti, aumentando notevolmente la portata dei loro schemi. La polizia europea ha riferito di kit di phishing guidati dall'intelligenza artificiale venduti sul dark web per meno di $20, consentendo ad attori poco qualificati di lanciare campagne sofisticate.[16]<\/a>[17]<\/a>. La barriera all'ingresso per BEC e phishing \u00e8 essenzialmente evaporata.<\/p>\n\n\n\n Misure difensive - Fermare l'AI Phish:<\/strong> Di fronte a questo assalto, le organizzazioni devono rafforzare i propri canali di posta elettronica e di messaggistica. \u00c8 qui che Rilevamento dei contenuti AI<\/strong> pu\u00f2 essere d'aiuto. Strumenti come Rilevatore di testo AI di TruthScan<\/em> e specializzati scanner per e-mail<\/strong> pu\u00f2 analizzare i messaggi in arrivo per individuare i marcatori statistici del testo generato dall'intelligenza artificiale. Ad esempio, il Rilevatore di truffe via e-mail TruthScan<\/strong><\/a> utilizza l'analisi del linguaggio naturale per segnalare le e-mail che probabilmente provengono da un'intelligenza artificiale, anche se sembrano legittime.[18]<\/a>. Questi rilevatori esaminano aspetti come la grammatica perfettamente curata, la complessit\u00e0 delle frasi e i modelli stilistici insoliti per gli scrittori umani. Con scansione in tempo reale<\/strong>Le e-mail sospette possono essere messe in quarantena o segnalate per la revisione prima che raggiungano gli utenti. I team di sicurezza aziendali stanno iniziando a implementare questi filtri basati sull'intelligenza artificiale nei gateway di posta elettronica e nelle piattaforme di messaggistica. In pratica, questo aggiunge un nuovo livello di difesa ai filtri antispam tradizionali, esplicitamente tarato per catturare i contenuti scritti dall'intelligenza artificiale. A partire dal 2025, le aziende leader stanno integrando soluzioni come TruthScan tramite API nei loro gateway di posta elettronica sicuri e nelle suite di collaborazione in-the-cloud, creando un punto di controllo automatizzato per i messaggi di posta elettronica. Phishing generato dall'intelligenza artificiale<\/strong> contenuto.<\/p>\n\n\n\n Forse la minaccia pi\u00f9 viscerale legata all'Intelligenza Artificiale nel 2025 \u00e8 l'ascesa del attacchi vocali e video deepfake<\/strong>. Utilizzando modelli di intelligenza artificiale, i criminali possono clonare la voce di una persona a partire da pochi secondi di audio o generare un video realistico del volto di qualcuno a partire da una manciata di foto. Questi deepfakes vengono utilizzati per truffe di impersonificazione ad alto rischio, dalle frodi agli amministratori delegati (chiamate di \"falsi amministratori delegati\") alle false videoconferenze e altro ancora. Un recente rapporto di settore ha rivelato 47% delle organizzazioni hanno subito attacchi deepfake<\/strong> di qualche tipo[19]<\/a>. E non \u00e8 solo teorico: diversi furti nel 2023-2025 hanno dimostrato che i deepfake possono sconfiggere l'autenticazione definitiva: i nostri occhi e le nostre orecchie.<\/p>\n\n\n\n Un caso tristemente noto riguardava un trasferimento bancario internazionale di $25 milioni<\/strong> dopo che un dipendente \u00e8 stato ingannato da una videoconferenza \"deepfake\". Gli aggressori hanno utilizzato l'intelligenza artificiale per sintetizzare le sembianze del direttore finanziario dell'azienda durante una chiamata Zoom, con tanto di voce e modi di fare, istruendo il dipendente a trasferire i fondi.[4]<\/a>[20]<\/a>. In un altro incidente in Australia, un governo locale perso $2,3 milioni<\/strong> quando i truffatori hanno falsificato la voce e il video dei funzionari comunali per approvare i pagamenti fraudolenti.[21]<\/a>. E, cosa inquietante, i criminali stanno usando voci clonate dall'intelligenza artificiale per le \"truffe dei nonni\", chiamando gli anziani e spacciandoli per parenti in difficolt\u00e0. Il FBI<\/em> e FinCEN<\/em> ha lanciato un allarme alla fine del 2024 su un'impennata di frodi che utilizzano Media \"deepfake\" generati dall'intelligenza artificiale<\/strong>compresi i falsi agenti del servizio clienti e le identit\u00e0 sintetiche per eludere le verifiche KYC.[22]<\/a>.<\/p>\n\n\n\n La frequenza dei crimini basati su deepfake \u00e8 in rapida ascesa. Entro la fine del 2024, un'analisi ha mostrato che ogni cinque minuti si verificava una nuova truffa deepfake.<\/strong> in media[23]<\/a>. Solo nel primo trimestre del 2025, gli incidenti di deepfake segnalati sono aumentati di 19% rispetto al primo trimestre del 2025. tutti<\/em> del 2024[24]<\/a>[25]<\/a>. I deepfakes rappresentano oggi una stima 6,5% di tutti gli attacchi di frode<\/strong>, a 2.137% aumento dal 2022<\/strong>[26]<\/a>[27]<\/a>. La tecnologia necessaria \u00e8 diventata facilmente accessibile e spesso richiede solo un minimo di 30 secondi di audio<\/strong> per clonare una voce, o meno di un'ora di filmati campione per modellare il volto di una persona in modo convincente[20]<\/a>. In poche parole, non \u00e8 mai stato cos\u00ec facile \"falsificare\" l'identit\u00e0 di una persona fidata<\/strong> e ingannare le vittime per farsi consegnare denaro o informazioni.<\/p>\n\n\n\n Misure difensive - Autenticare la realt\u00e0:<\/strong> Per contrastare le minacce di deepfake, le organizzazioni si stanno rivolgendo a rilevamento dei supporti sintetici<\/strong> strumenti. Ad esempio, Rilevatore vocale AI di TruthScan<\/strong><\/a> e TruthScan Deepfake Detector<\/strong><\/a> utilizzano l'intelligenza artificiale per analizzare audio e video alla ricerca di segni di manipolazione. Questi sistemi eseguono un'analisi fotogramma per fotogramma e della forma d'onda per individuare artefatti come movimenti facciali innaturali, problemi di sincronizzazione labiale o irregolarit\u00e0 dello spettro audio che tradiscono un clip generato dall'intelligenza artificiale. Nei test, gli algoritmi di TruthScan hanno raggiunto i seguenti risultati 99%+ precisione nell'identificazione delle voci generate dall'intelligenza artificiale<\/strong> e ha rilevato i fotogrammi video manipolati in tempo reale[28]<\/a>[29]<\/a>. Infatti, i ricercatori del Genians Security Center hanno recentemente utilizzato l'analisi forense delle immagini di TruthScan per analizzare una carta d'identit\u00e0 falsa utilizzata dagli hacker nordcoreani: il rilevatore di immagini deepfake di TruthScan ha segnalato il documento come non autentico. 98% fiducia<\/em>sventando il tentativo di spear-phishing[5]<\/a>[30]<\/a>.<\/p>\n\n\n\n Per la difesa pratica, le aziende stanno implementando queste capacit\u00e0 di rilevamento in punti nevralgici. Verifica vocale<\/strong> Quando, ad esempio, un \"cliente\" richiede un trasferimento di grandi dimensioni per telefono, l'audio pu\u00f2 essere sottoposto a un rilevatore di deepfake per verificare che si tratti davvero di lui (e non di un'imitazione dell'intelligenza artificiale). Allo stesso modo, piattaforme di videoconferenza<\/strong> possono integrare la scansione deepfake in diretta dei flussi video dei partecipanti, per individuare eventuali volti sintetici. La suite di rilevamento deepfake di TruthScan, ad esempio, offre analisi delle videochiamate in tempo reale e autenticazione facciale<\/strong> che pu\u00f2 collegarsi a Zoom o WebEx tramite API[31]<\/a>[29]<\/a>. Ci\u00f2 significa che se qualcuno tenta di partecipare a una riunione utilizzando un video creato dall'intelligenza artificiale del vostro CEO, il sistema pu\u00f2 segnalare un \"possibile deepfake\" prima che il danno sia fatto. Inoltre, le transazioni importanti includono spesso una fase di verifica (fuori banda o a pi\u00f9 fattori) che pu\u00f2 sfruttare l'autenticazione dei contenuti, ad esempio richiedendo una breve conferma vocale che viene poi controllata da un rilevatore vocale AI per verificarne l'autenticit\u00e0. Grazie alla stratificazione di questi strumenti, le aziende creano una rete di sicurezza: anche se i dipendenti vedere<\/em> o sentire<\/em> Se la minaccia \u00e8 plausibile, un'analisi forense dell'IA dietro le quinte ne metter\u00e0 in dubbio la realt\u00e0. In un panorama di minacce permeato di IA, \"Non fidatevi, verificate\".<\/strong> diventa il mantra per qualsiasi comunicazione vocale o video che coinvolga denaro o accessi sensibili.<\/p>\n\n\n\n L'influenza dell'intelligenza artificiale non si limita all'ingegneria sociale, ma sta anche cambiando le carte in tavola nello sviluppo di malware e codici di attacco evasivi. Nel 2025, il Threat Intelligence Group di Google ha scoperto la I primi ceppi di malware che utilizzano l'intelligenza artificiale <\/strong>durante<\/em><\/strong> esecuzione per alterare il loro comportamento<\/strong>[32]<\/a>[33]<\/a>. Un esempio, soprannominato PROMPTFLUX<\/strong>Si trattava di uno script dannoso che in realt\u00e0 richiamava un'API di intelligenza artificiale (il modello Gemini di Google) per riscrivere il proprio codice al volo<\/strong>producendo nuove varianti offuscate per eludere il rilevamento antivirus.[34]<\/a>[35]<\/a>. Questa evoluzione dell'intelligenza artificiale \"just-in-time\" segna un salto verso un malware autonomo e polimorfico. Un altro esempio, PROMOTORE<\/strong>ha utilizzato un assistente di codifica AI per generare comandi Windows di una sola riga per il furto di dati, esternalizzando essenzialmente parti della sua logica a un motore AI in tempo reale.[36]<\/a>[37]<\/a>. Queste innovazioni lasciano presagire un futuro in cui il malware potr\u00e0 modificarsi continuamente, proprio come farebbe un pen-tester umano, per sconfiggere le difese.<\/p>\n\n\n\n Anche senza l'IA on-the-fly, gli aggressori utilizzano l'IA durante lo sviluppo per creare codice maligno pi\u00f9 potente. L'intelligenza artificiale generativa pu\u00f2 produrre malware che altamente offuscato<\/strong>contenente strati di logica confusa che ostacolano il reverse engineering. Secondo i rapporti di intelligence sulle minacce, oltre 70% delle principali violazioni nel 2025 hanno coinvolto una qualche forma di malware polimorfico<\/strong> che modifica la propria firma o il proprio comportamento per evitare il rilevamento[38]<\/a>. Inoltre, 76% di campagne di phishing<\/strong> ora impiegano tattiche polimorfiche come gli URL dinamici o i payload riscritti dall'intelligenza artificiale.[38]<\/a>. Strumenti come le offerte di dark-web VermeGPT<\/em> e FrodeGPT<\/em> (cloni illimitati di ChatGPT) permettono anche ai non esperti di generare dropper malware, keylogger o codice ransomware semplicemente descrivendo ci\u00f2 che vogliono[39]<\/a>. Il risultato \u00e8 un'abbondanza di nuove varianti di malware. Ad esempio, nel 2024, un furto di informazioni chiamato BlackMamba<\/strong> \u00e8 emerso che era interamente generato dall'intelligenza artificiale<\/em>utilizzando ChatGPT per scrivere il suo codice in segmenti: ogni esecuzione produce un binario leggermente diverso, confondendo i tradizionali antivirus basati sulle firme.[38]<\/a>. I ricercatori di sicurezza hanno anche dimostrato che i proof-of-concept polimorfici generati dall'IA sono in grado di eludere molte protezioni per gli endpoint.[40]<\/a>.<\/p>\n\n\n\n Inoltre, gli aggressori stanno sfruttando l'intelligenza artificiale per perfezionare i loro consegna<\/em> di malware. L'intelligenza artificiale \u00e8 in grado di scrivere in modo intelligente le e-mail di phishing (come gi\u00e0 detto) che contengono link a malware. Pu\u00f2 anche aiutare nello sviluppo di exploit, ad esempio utilizzando l'IA per trovare nuove vulnerabilit\u00e0 o ottimizzare lo shellcode. Secondo quanto riferito, gli attori degli Stati nazionali hanno utilizzato modelli avanzati di IA per scoprire exploit zero-day e sviluppare malware su misura per gli obiettivi.[41]<\/a>. Tutte queste tendenze fanno s\u00ec che il malware nel 2025 sia pi\u00f9 furtivo e adattivo. Spesso \"co-creato\" con l'IA<\/strong>rendendo pi\u00f9 difficile il rilevamento con le regole convenzionali.<\/p>\n\n\n\n Misure difensive - AI contro AI nella difesa da malware:<\/strong> Per difendersi dalle minacce informatiche create dall'intelligenza artificiale \u00e8 necessaria una combinazione di rilevamento avanzato e di analisi alimentata dall'intelligenza artificiale sul lato difensivo. Molte organizzazioni stanno aumentando le loro protezione degli endpoint e EDR (Endpoint Detection & Response)<\/strong> con modelli AI\/ML che cercano gli schemi comportamentali del codice generato dall'AI. Ad esempio, trasformazioni improvvise del codice on-host o modelli insoliti di chiamate API potrebbero indicare che PROMPTFLUX si sta rigenerando. Allo stesso modo, il monitoraggio della rete pu\u00f2 rilevare anomalie come il malware che si rivolge ai servizi di IA (cosa non \"normale\" per le applicazioni degli utenti). I venditori stanno addestrando i rilevatori basati su ML sulla famiglie<\/em> di malware assistiti dall'intelligenza artificiale identificati finora, migliorando il riconoscimento di queste nuove minacce.<\/p>\n\n\n\n Una soluzione emergente \u00e8 scansione integrata dei contenuti dell'intelligenza artificiale nelle pipeline di sviluppo e di creazione<\/strong>. Ci\u00f2 significa utilizzare rilevatori guidati dall'intelligenza artificiale per analizzare script, build del software o persino modifiche della configurazione alla ricerca di contenuti dannosi o generati dall'intelligenza artificiale. Ad esempio, Rilevatore in tempo reale di TruthScan<\/strong><\/a> pu\u00f2 essere impiegata al di l\u00e0 del semplice testo: la sua analisi multimodale pu\u00f2 potenzialmente segnalare codice o file di configurazione sospetti riconoscendo se sono stati generati dalla macchina con modelli di offuscamento.[42]<\/a>[43]<\/a>. I team di sviluppo e gli MSSP stanno iniziando a scansionare gli script infrastructure-as-code, i log PowerShell e altri artefatti alla ricerca di segni di segmenti scritti dall'AI che potrebbero indicare la mano di un attaccante. Sebbene si tratti di un'area nascente, si tratta di un'attivit\u00e0 promettente: in un caso, un team di sicurezza ha utilizzato un rilevatore di intelligenza artificiale per individuare un file di kit di phishing offuscato che \"sembrava\" generato dall'intelligenza artificiale e in realt\u00e0 faceva parte di un attacco.[44]<\/a>. Il codice del file era eccessivamente complesso e prolisso (caratteristiche della generazione di IA) e una scansione del contenuto dell'IA ha confermato un'alta probabilit\u00e0 che non sia stato scritto da un essere umano.[40]<\/a>.<\/p>\n\n\n\n Infine, la condivisione di informazioni sulle minacce incentrate sull'IA \u00e8 fondamentale. Quando il GTIG di Google pubblica dettagli sulle minacce informatiche basate su Prompt o quando i ricercatori segnalano nuove tecniche di evasione dell'IA, le organizzazioni dovrebbero inserirle nella loro ingegneria di rilevamento. Analisi comportamentale<\/strong> - alla ricerca di azioni come la creazione di uno script da parte di un processo che riscrive il codice di quello stesso processo, possono individuare le anomalie che il malware assistito dall'intelligenza artificiale presenta. In breve, i difensori devono combattere il fuoco con il fuoco: distribuire Strumenti di sicurezza basati sull'intelligenza artificiale<\/strong> in grado di adattarsi con la stessa rapidit\u00e0 delle minacce informatiche. Questo include tutto, dagli antivirus potenziati dall'intelligenza artificiale all'analisi del comportamento dell'utente che pu\u00f2 identificare quando un account o un sistema inizia a comportarsi in modo \"non del tutto umano\". Adottando l'intelligenza artificiale per la difesa, i team di sicurezza possono contrastare i vantaggi di velocit\u00e0 e di scala che l'intelligenza artificiale offre agli aggressori.<\/p>\n\n\n\n Passare dal malware al mondo delle frodi: frode di identit\u00e0 sintetica<\/strong> \u00e8 esplosa con l'aiuto dell'intelligenza artificiale generativa. La frode di identit\u00e0 sintetica consiste nel creare personaggi fittizi combinando dati reali e falsi (ad esempio, SSN reale + nome e documenti falsi). Queste identit\u00e0 \"Frankenstein\" vengono poi utilizzate per aprire conti bancari, richiedere credito o superare i controlli KYC, finendo per causare prestiti non pagati o riciclaggio di denaro. Era gi\u00e0 uno dei tipi di frode in pi\u00f9 rapida crescita, e l'intelligenza artificiale ha ora gettato benzina sul fuoco. Perdite da frodi di identit\u00e0 sintetiche attraversato $35 miliardi nel 2023<\/strong>[45]<\/a>e all'inizio del 2025 alcune stime indicavano quasi 25% di tutte le perdite da frode bancaria<\/strong> erano dovuti a identit\u00e0 sintetiche[46]<\/a>. Gli analisti di Experian hanno rilevato che oltre 80% di frodi su nuovi conti<\/strong> in alcuni mercati \u00e8 ora collegato a ID sintetici[19]<\/a> - una statistica sconcertante che sottolinea quanto sia diventata pervasiva questa truffa.<\/p>\n\n\n\n L'IA generativa amplifica le frodi sintetiche in diversi modi. In primo luogo, l'IA rende banale la produzione di frodi sintetiche. \"documenti dell'allevatore\"<\/em> e le impronte digitali necessarie per vendere un'identit\u00e0 falsa. In passato, un truffatore poteva creare un documento d'identit\u00e0 con Photoshop o creare manualmente bollette false. Oggi esistono strumenti per generare foto profilo, documenti d'identit\u00e0, passaporti, estratti conto bancari e persino profili di social media dall'aspetto autentico.<\/strong> utilizzando generatori di immagini AI e modelli linguistici[47]<\/a>[48]<\/a>. Ad esempio, si pu\u00f2 usare l'intelligenza artificiale per creare una foto realistica di una persona che non esiste (impedendo cos\u00ec facili ricerche di immagini inverse) e generare una patente di guida falsa con quella foto. L'IA pu\u00f2 anche simulare i \"segni vitali\" di un'identit\u00e0, ad esempio creando un'immagine di una persona che non esiste. registrazioni di genitori sintetici, indirizzi o post sui social media<\/strong> per dare corpo a una storia di fondo[49]<\/a>. La Fed di Boston ha osservato che la Gen AI pu\u00f2 addirittura produrre deepfake audio e video di una persona falsa<\/strong> - Per esempio, un utente sintetico potrebbe \"apparire\" in un video di verifica di un selfie, completo di volto e voce unici, tutti generati dall'intelligenza artificiale.[50]<\/a>.<\/p>\n\n\n\n In secondo luogo, l'intelligenza artificiale aiuta i truffatori scalare<\/strong> le loro operazioni. Invece di falsificare una o due identit\u00e0 alla volta, possono generare in modo programmatico centinaia o migliaia di pacchetti di identit\u00e0 completi e compilare automaticamente in massa le richieste di nuovi account.[51]<\/a>[52]<\/a>. Alcuni servizi del dark web offrono effettivamente \"Identit\u00e0 sintetiche come servizio\"<\/em>utilizzando l'automazione per sfornare account verificati da vendere. Durante i programmi di soccorso per la pandemia COVID-19, ad esempio, i criminali hanno utilizzato bot con identit\u00e0 generate dall'intelligenza artificiale per richiedere in massa prestiti e sussidi, sommergendo il sistema di falsi richiedenti. Secondo le proiezioni di Juniper Research, il costo globale delle frodi di identit\u00e0 digitale (alimentate da queste tattiche) \u00e8 destinato a aumento 153% entro il 2030<\/strong> rispetto al 2025[53]<\/a>.<\/p>\n\n\n\n Misure difensive - Verifica dell'identit\u00e0 in un mondo di intelligenza artificiale:<\/strong> I metodi tradizionali di verifica dell'identit\u00e0 si scontrano con i falsi creati dall'intelligenza artificiale. Per adattarsi, le organizzazioni stanno adottando verifica dell'identit\u00e0 e del comportamento a pi\u00f9 livelli<\/strong> rafforzato dall'intelligenza artificiale. Un livello chiave \u00e8 costituito da un'avanzata la forensica dei documenti e delle immagini<\/strong>. Ad esempio, Rilevatore di immagini AI di TruthScan<\/strong><\/a> e Rilevatore di documenti falsi<\/strong><\/a> forniscono la possibilit\u00e0 di analizzare i documenti d'identit\u00e0, i selfie o i documenti caricati alla ricerca di segni di sintesi o di manomissione. Questi strumenti esaminano gli artefatti a livello di pixel, le incongruenze di illuminazione e i metadati per determinare se un'immagine \u00e8 generata dall'intelligenza artificiale o manipolata. Sono in grado di cogliere indizi impercettibili, come modelli di sfondo identici di foto generate da GAN, o caratteri e spaziatura di un documento d'identit\u00e0 che non corrispondono a nessun modello governativo noto. Impiegando tali rilevatori all'atto dell'iscrizione, le banche possono segnalare automaticamente la patente di guida o il selfie di un richiedente se \u00e8 probabile che sia stato generato dall'intelligenza artificiale (ad esempio, il sistema di TruthScan avrebbe segnalato il falso documento militare utilizzato nel caso di phishing dell'APT Kimsuky).[5]<\/a>). Secondo un comunicato stampa di TruthScan, la sua piattaforma \u00e8 stata utilizzata da istituzioni finanziarie per convalidare l'autenticit\u00e0 dei documenti su scala, identificando i falsi profondi con un'accuratezza estremamente elevata.[54]<\/a>.<\/p>\n\n\n\n Un altro strato \u00e8 analisi comportamentale<\/strong> e controlli incrociati. Le identit\u00e0 reali hanno una profondit\u00e0: anni di storia, registri pubblici, attivit\u00e0 sui social media, ecc. Le identit\u00e0 generate dall'IA, per quanto raffinate, spesso non hanno queste radici profonde. Banche e istituti di credito utilizzano ora l'intelligenza artificiale per incrociare i dati delle domande con quelli pubblici e proprietari: Il numero di telefono e l'e-mail di questa persona mostrano una cronologia di utilizzo? La geolocalizzazione del dispositivo o dell'IP ha senso? Sta digitando i dati nei moduli in modo umano o facendo copia-incolla (come fanno i bot)? I modelli di intelligenza artificiale possono essere addestrati per distinguere il comportamento autentico dei clienti dai modelli sintetici. La Federal Reserve ha osservato che \"Le identit\u00e0 sintetiche sono superficiali e l'intelligenza artificiale se ne accorge\".<\/em> - La verifica basata sull'intelligenza artificiale \u00e8 in grado di ricercare rapidamente l'impronta digitale di un'identit\u00e0 e di lanciare un allarme se non ne viene trovata nessuna.[55]<\/a>. In pratica, i servizi di verifica dell'identit\u00e0 ora impiegano l'intelligenza artificiale che controlla se il selfie di un utente corrisponde a foto passate (per rilevare scambi di volti) e persino richiede agli utenti azioni randomizzate (come pose o frasi specifiche) durante i controlli di vivacit\u00e0, rendendo pi\u00f9 difficile per i deepfake rispondere correttamente.[56]<\/a>[57]<\/a>.<\/p>\n\n\n\n Infine, monitoraggio continuo<\/strong> Il monitoraggio del comportamento del conto dopo l'inserimento aiuta a individuare i conti sintetici che sono sfuggiti al controllo. Poich\u00e9 questi conti non sono legati a una persona reale, i loro modelli di utilizzo spesso si distinguono (ad esempio, effettuano transazioni perfettamente tempestive per accumulare credito e poi lo esauriscono). Il monitoraggio delle frodi basato sull'intelligenza artificiale (come le piattaforme di Sift o Feedzai) pu\u00f2 identificare le anomalie nel modo in cui vengono utilizzati i conti, segnalando potenziali conti sintetici da esaminare. In sintesi, per combattere le frodi d'identit\u00e0 basate sull'intelligenza artificiale occorre Prova d'identit\u00e0 abilitata dall'intelligenza artificiale<\/strong> - che combina la forensica dei documenti, i controlli biometrici, la correlazione dei dati e l'analisi comportamentale. La buona notizia \u00e8 che gli stessi progressi dell'intelligenza artificiale che permettono di individuare le frodi vengono utilizzati anche per rilevarle. TruthScan, ad esempio, offre un sistema di suite di verifica dell'identit\u00e0<\/strong> che integra l'analisi del testo, delle immagini e della voce per controllare i nuovi utenti. Sfruttando questi strumenti, una grande banca ha notato un calo significativo delle aperture di conti sintetici, anche se le medie del settore erano in aumento. La corsa agli armamenti continua, ma i difensori stanno imparando a individuare le deboli \"tracce digitali\" di un sintetico, per quanto l'intelligenza artificiale cerchi di coprire le proprie tracce.<\/p>\n\n\n\n Abbiamo esplorato diverse aree di minaccia distinte - phishing, deepfakes, malware, frodi sintetiche - tutte potenziate dall'intelligenza artificiale. \u00c8 chiaro che nessun singolo strumento o soluzione unica<\/strong> risolver\u00e0 la sfida. Le imprese hanno invece bisogno di una strategia completa per incorporare il rilevamento e la verifica basati sull'intelligenza artificiale a ogni livello<\/strong> del loro stack di cybersecurity. L'approccio deve rispecchiare la superficie di attacco, coprendo e-mail, web, voce, documenti, identit\u00e0 e altro. Il diagramma seguente illustra come le organizzazioni possono integrare gli strumenti di rilevamento dell'intelligenza artificiale di TruthScan (e soluzioni simili) nei livelli di sicurezza aziendali comuni:<\/p>\n\n\n\n Integrazione di strumenti di rilevamento dell'intelligenza artificiale a pi\u00f9 livelli dello stack di sicurezza, dai gateway e-mail e call center alla verifica degli utenti e alla protezione degli endpoint. Il rilevamento dei contenuti AI (centro) analizza testo, immagini, audio e video in tempo reale, alimentando i punti di applicazione che proteggono le risorse e gli utenti.<\/em><\/p>\n\n\n\n In questo modello, i rilevatori multimodali di intelligenza artificiale agiscono come un cervello centrale<\/strong> che si interfaccia con vari controlli di sicurezza:<\/p>\n\n\n\n Il beneficio chiave<\/strong> di questo approccio integrato \u00e8 velocit\u00e0 e coerenza<\/strong>. Gli attacchi di intelligenza artificiale si muovono rapidamente: e-mail di phishing, voci false e dati sintetici possono colpire molti canali contemporaneamente. Strumentando tutti questi canali con il rilevamento dell'intelligenza artificiale, un'organizzazione ottiene visibilit\u00e0 in tempo reale e difesa in profondit\u00e0. Un team ha descritto questa soluzione come la creazione di un \"sistema immunitario AI\" per la propria azienda: ogni volta che viene comunicato qualcosa (che si tratti di un'e-mail, del caricamento di un documento, di una chiamata vocale e cos\u00ec via), il sistema immunitario AI lo \"sniffa\" alla ricerca di firme estranee (generate dall'AI) e lo neutralizza se lo trova dannoso.<\/p>\n\n\n\n La suite aziendale di TruthScan ne \u00e8 un esempio, in quanto offre un servizio di piattaforma unificata<\/strong> che copre il rilevamento dell'intelligenza artificiale di testi, immagini, audio e video e che pu\u00f2 essere implementato in modo modulare o completo.[63]<\/a>[64]<\/a>. Molte aziende iniziano con l'implementazione di una o due funzionalit\u00e0 (ad esempio, il rilevamento del testo nelle e-mail e il rilevamento delle immagini nell'onboarding) e poi si espandono ad altre quando ne vedono il valore. L'integrazione \u00e8 resa pi\u00f9 semplice per gli sviluppatori<\/strong> - TruthScan e servizi simili forniscono API e SDK in modo che i team di sicurezza possano agganciare il rilevamento ai sistemi esistenti senza dover ricorrere a una massiccia reingegnerizzazione. Che si tratti di un SIEM, di un gateway di posta elettronica, di un'applicazione bancaria personalizzata o di un sistema CRM, il rilevamento pu\u00f2 essere eseguito dietro le quinte e alimentare avvisi o azioni automatizzate. Ad esempio, una grande piattaforma di social media ha integrato le API di moderazione dei contenuti per eliminare automaticamente i video deepfake entro pochi minuti dal caricamento.[65]<\/a>[66]<\/a>impedendo la diffusione della disinformazione generata dall'intelligenza artificiale.<\/p>\n\n\n\n La rapida proliferazione delle minacce guidate dall'intelligenza artificiale nel 2025 ha sfidato le organizzazioni in modi nuovi. Gli aggressori hanno trovato i mezzi per sfruttare la fiducia umana su larga scala: impersonando voci e identit\u00e0, automatizzando l'ingegneria sociale, eludendo le difese attraverso il codice adattivo e creando intere false realt\u00e0. \u00c8 una prospettiva scoraggiante per i difensori, ma non senza speranza. Cos\u00ec come i criminali stanno sfruttando l'IA, anche noi possiamo arruolare l'IA dalla parte della sicurezza. L'emergere di Rilevamento di contenuti AI, deepfake forensics e scanner di identit\u00e0 sintetiche<\/strong> ci offre potenti contromisure a queste nuove minacce. L'impiego di questi strumenti e integrandoli in tutti i livelli<\/strong> di difesa, le aziende possono ridurre drasticamente il rischio che gli attacchi basati sull'intelligenza artificiale possano sfuggire. I primi utilizzatori hanno gi\u00e0 sventato tentativi di frode multimilionari cogliendo sul fatto i deepfake.[26]<\/a>o di prevenire i disastri del phishing filtrando le e-mail create dall'intelligenza artificiale.<\/p>\n\n\n\n Oltre alla tecnologia, le organizzazioni dovrebbero coltivare una cultura del \"fidarsi ma verificare\". I dipendenti devono essere consapevoli del fatto che, nell'era dell'intelligenza artificiale, vedere (o sentire) non \u00e8 sempre credere: un sano scetticismo unito a flussi di lavoro di verifica pu\u00f2 fermare molti stratagemmi di social engineering. La formazione e la consapevolezza, combinate con strumenti di verifica automatica come TruthScan<\/strong>formano una difesa formidabile. In un certo senso, dobbiamo alzare il livello di autenticazione e convalida delle informazioni. Le comunicazioni e i documenti digitali non possono pi\u00f9 essere presi al valore nominale; la loro provenienza deve essere verificata, sia a livello di macchina che di processo.<\/p>\n\n\n\n Nel frattempo, ci aspettiamo che gli aggressori perfezionino ulteriormente le loro tattiche di IA, ma anche che continuino a innovare l'IA difensiva. La dinamica del gatto e del topo persister\u00e0. Il successo dei difensori dipender\u00e0 da agilit\u00e0 e condivisione dell'intelligence<\/strong>. Coloro che incorporano rapidamente nuove informazioni sulle minacce (ad esempio, nuove tecniche di rilevamento di deepfake o firme aggiornate di modelli di IA) saranno in vantaggio rispetto agli aggressori che sfruttano i pi\u00f9 recenti strumenti di IA. Anche la collaborazione tra industria, universit\u00e0 e governo sar\u00e0 fondamentale in questa lotta, come dimostrano gli avvisi e i quadri che emergono da agenzie come l'AI Risk Management Framework del NIST e le collaborazioni interbancarie sul rilevamento delle frodi da parte dell'IA.<\/p>\n\n\n\n Per concludere, il settore della sicurezza informatica si trova nel mezzo di un cambiamento di paradigma guidato dall'intelligenza artificiale. Le minacce sono diverse da quelle di un decennio fa, ma le stiamo affrontando con difese altrettanto inedite. Grazie a una combinazione di tecnologie di rilevamento avanzate e di una solida strategia di sicurezza, possiamo pu\u00f2<\/strong> mitigare i rischi dell'IA generativa e persino trasformarla a nostro vantaggio. Strumenti come la suite di rilevamento dell'IA di TruthScan ci permettono di ripristinare la fiducia in un mondo a fiducia zero<\/em> - per garantire che la persona all'altro capo del filo sia reale, che il documento nella nostra casella di posta elettronica sia autentico e che il codice in esecuzione nella nostra rete non sia stato manomesso da un'IA maligna. Investendo in queste capacit\u00e0 ora, le organizzazioni non solo si proteggeranno dagli attacchi odierni basati sull'intelligenza artificiale, ma creeranno anche una capacit\u00e0 di resistenza contro le minacce in evoluzione di domani. Il risultato \u00e8 chiaro: L'Intelligenza Artificiale pu\u00f2 potenziare gli attacchi informatici, ma con il giusto approccio pu\u00f2 anche potenziare le nostre difese.<\/strong><\/p>\n\n\n\n Fonti:<\/strong> I dati e gli esempi pertinenti sono stati tratti da 2025 rapporti di intelligence sulle minacce e da esperti, tra cui Cyber Incident Trends di Mayer Brown.[1]<\/a>[67]<\/a>La rassegna delle minacce di Fortinet per il 2025[2]<\/a>[19]<\/a>, ricerca Barracuda sugli attacchi email AI[6]<\/a>[7]<\/a>, Rapporto sulle minacce dell'intelligenza artificiale di Google GTIG[34]<\/a>, approfondimenti della Federal Reserve di Boston sulle frodi sintetiche[45]<\/a>[50]<\/a>e i casi di studio e i comunicati stampa pubblicati da TruthScan.[30]<\/a>[26]<\/a>, tra gli altri. Queste illustrano la portata delle minacce guidate dall'intelligenza artificiale e l'efficacia delle contromisure incentrate sull'intelligenza artificiale in scenari reali. Imparando da questa intelligenza e impiegando strumenti all'avanguardia, possiamo navigare con fiducia nell'era del rischio informatico potenziato dall'intelligenza artificiale.<\/p>\n\n\n\n [1]<\/a> [67]<\/a> 2025 Tendenze degli incidenti informatici: cosa deve sapere la vostra azienda | Approfondimenti | Mayer Brown<\/p>\n\n\n\n https:\/\/www.mayerbrown.com\/en\/insights\/publications\/2025\/10\/2025-cyber-incident-trends-what-your-business-needs-to-know<\/a><\/p>\n\n\n\n [2]<\/a> [3]<\/a> [19]<\/a> Statistiche sulla sicurezza informatica: Fatti, statistiche e violazioni per il 2025<\/p>\n\n\n\n https:\/\/www.fortinet.com\/resources\/cyberglossary\/cybersecurity-statistics<\/a><\/p>\n\n\n\n [4]<\/a> [11]<\/a> [12]<\/a> [16]<\/a> [17]<\/a> [20]<\/a> [22]<\/a> [47]<\/a> [48]<\/a> [52]<\/a> Frodi guidate dall'intelligenza artificiale nei servizi finanziari: Tendenze e soluzioni recenti | TruthScan<\/p>\n\n\n\n https:\/\/truthscan.com\/blog\/ai-driven-fraud-in-financial-services-recent-trends-and-solutions<\/a><\/p>\n\n\n\n [5]<\/a> [26]<\/a> [30]<\/a> [54]<\/a> TruthScan rileva un attacco Deepfake della Corea del Nord contro funzionari della Difesa - Bryan County Magazine<\/p>\n\n\n\n https:\/\/lifestyle.bryancountymagazine.com\/story\/80224\/truthscan-detects-north-korean-deepfake-attack-on-defense-officials<\/a><\/p>\n\n\n\n [6]<\/a> [7]<\/a> [14]<\/a> Met\u00e0 dello spam nella vostra casella di posta \u00e8 generato dall'intelligenza artificiale: il suo utilizzo negli attacchi avanzati \u00e8 in fase iniziale | Blog di Barracuda Networks<\/p>\n\n\n\n https:\/\/blog.barracuda.com\/2025\/06\/18\/half-spam-inbox-ai-generated<\/a><\/p>\n\n\n\n [8]<\/a> [10]<\/a> Indice di fiducia digitale Q2 2025: Dati e approfondimenti sulle frodi dell'intelligenza artificiale<\/p>\n\n\n\n https:\/\/sift.com\/index-reports-ai-fraud-q2-2025<\/a><\/p>\n\n\n\n [9]<\/a> [13]<\/a> [24]<\/a> [25]<\/a> [38]<\/a> [39]<\/a> Minacce di sicurezza informatica AI 2025: $25.6M Deepfake<\/p>\n\n\n\n![\"\"](\"https:\/\/blog.truthscan.com\/wp-content\/uploads\/2025\/11\/ai_cyber_threat_distribution_2025-1024x614.png\" "\\"\\"")
<\/figure>\n\n\n\nPhishing e BEC generati dall'intelligenza artificiale: truffe su scala senza precedenti<\/h2>\n\n\n\n
Deepfake: imitazione di voce e video: La truffa del \"vedere per ingannare\"<\/h2>\n\n\n\n
Malware creato dall'intelligenza artificiale e codice offuscato: Minacce in evoluzione nel codice<\/h2>\n\n\n\n
Identit\u00e0 sintetiche e schemi di frode alimentati dall'IA<\/h2>\n\n\n\n
Integrazione del rilevamento dell'intelligenza artificiale in tutto lo stack di sicurezza<\/h2>\n\n\n\n
![\"\"](\"https:\/\/blog.truthscan.com\/wp-content\/uploads\/2025\/11\/image-3-1024x648.png\" "\\"\\"")
<\/figure>\n\n\n\n\n
Conclusioni: Rimanere all'avanguardia<\/h2>\n\n\n\n
\n\n\n\n