Trend Micro ferma i deepfake e gli attacchi informatici basati sull'intelligenza artificiale

Milano, 4 settembre 2024 – Trend Micro annuncia innovazioni importanti per la protezione dagli attacchi e dalle frodi basati su AI in costante aumento. Le nuove funzioni mettono al sicuro tutti gli ambienti e sono disponibili all’interno della piattaforma di sicurezza di fascia enterprise e dei prodotti consumer.

Secondo una ricerca Trend Micro, i cybercriminali stanno approfittando della crescita straordinaria  dell’AI in azienda, con un conseguente  incremento di strumenti basati su AI nell’underground criminale. Questi tool sono sempre più economici e accessibili, consentendo agli hacker, indipendentemente dal livello di competenza, di lanciare in modo facile attacchi su vasta scala per ingannare le vittime a fini di estorsione, furto di identità, frode o disinformazione.

"La nostra analisi più recente ha rivelato strumenti deepfake di nuova generazione che consentono a qualsiasi cybercriminale di orchestrare truffe sofisticate e attacchi di ingegneria sociale, eludendo i sistemi di sicurezza più avanzati. Siamo in prima linea nella lotta contro queste minacce e, grazie alle nostre nuove funzionalità per il rilevamento dei deepfake e altre frodi basate sull'AI, permettiamo ai nostri clienti di rimanere sempre al sicuro", dichiara Alessio Agnello, Direttore Tecnico di Trend Micro Italia. "Come abbiamo sempre fatto, monitoriamo attentamente le evoluzioni nel panorama delle minacce e del mondo IT. Oggi, ci siamo impegnati a proteggere l'intelligenza artificiale e abbiamo dimostrato di essere all'altezza della sfida."

Il 71% delle persone intervistate da Trend Micro considera in modo negativo i deepfake e ritiene che vengano utilizzati principalmente per compiere frodi: rilevare e sconfiggere queste minacce basate su AI è fondamentale, per gestire al meglio i rischi legati alla superficie di attacco delle aziende e ridurre i pericoli online per i consumatori.

La nuova tecnologia di rilevamento dei deepfake sarà disponibile a breve nella piattaforma Trend Vision One™ e utilizzerà una varietà di tecniche avanzate per individuare i contenuti generati dall'intelligenza artificiale. Questa innovazione è già disponibile nella versione consumer in Trend Micro Deepfake Inspector.

La piattaforma Trend Micro supera le tradizionali tecniche di analisi del rumore dell’immagine e del rilevamento del colore e analizza anche gli elementi comportamentali degli utenti, fornendo un approccio molto più efficace per rilevare e fermare i deepfake. Una volta rilevata la minaccia, Trend avvisa subito i team di sicurezza enterprise, consentendo loro di apprendere, istruire e adottare misure proattive per prevenire attacchi futuri.

Trend Micro Deepfake Inspector aiuta a verificare se una delle parti coinvolte in una conversazione video in diretta utilizza la tecnologia deepfake e avvisa gli utenti che la persona o le persone con cui stanno conversando potrebbero non essere chi sembrano.

Secondo l’analista di Gartner[1] Dan Ayoub “Le applicazioni GenAI di qualità elevata e disponibili su larga scala sono in grado di creare contenuti video realistici che possono ingannare o fuorviare il pubblico. Date la facilità di utilizzo di questi strumenti e la loro sofisticazione, è necessario sviluppare un approccio metodologico per rilevare i contenuti deepfake basati su GenAI”.

I deepfake sono oggi un rischio significativo per le imprese e gli individui. Un deepfake non rilevato può portare a crisi di tipo finanziario, perdita di posti di lavoro, cause legali, danni alla reputazione, furto di identità e potenziali danni alla salute mentale o fisica. Secondo uno studio di Trend Micro, il 36% dei consumatori ha riferito di aver subito un tentativo di truffa che utilizzava un deepfake. L’FBI ha parlato dell’utilizzo della tecnologia deepfake nelle videochiamate, per effettuare attacchi di compromissione della email aziendale o inviare candidature fraudolente a posizioni di lavoro da remoto.

Questa tecnologia non viene utilizzata solo per aggirare verifiche umane ma anche per superare misure di sicurezza biometriche come il riconoscimento facciale. La ricerca Trend Micro ha rivelato una preferenza crescente per lo sfruttamento di modelli LLM esistenti attraverso tecniche innovative di jailbreak rispetto allo sviluppo di strumenti di intelligenza artificiale criminale su misura.

Il lancio di queste nuove soluzioni fa parte della missione di Trend di proteggere i propri clienti nella loro adozione della AI. In linea con la strategia Zero Trust, Trend ha rilasciato anche nuove funzionalità in Trend Vision One, progettate per:

• centralizzare la gestione dell'accesso e dell'utilizzo di GenAI da parte dei dipendenti
• ispezionare le richieste per prevenire fughe di dati e iniezioni dannose
• filtrare i contenuti GenAI per soddisfare i requisiti di conformità
• difendersi dagli attacchi LLM (Large Language Model).

Trend Micro Deepfake Inspector è una soluzione gratuita progettata per avvisare gli utenti in caso di potenziali deepfake durante una videochiamata. L'analisi avviene in tempo reale e localmente sul dispositivo utilizzato, garantendo il rispetto dei dati e della privacy dell’utente.

Una demo di come funzionano le nuove capacità di rilevamento deepfake Trend Micro è disponibile a questo link

 

[1] Gartner, Emerging Tech: Combating Deepfakes, Deception and Disinformation in Multimedia Content, Dan Ayoub, 17 April 2024