L’intelligenza artificiale sta cambiando il modo in cui lavoriamo, comunichiamo e utilizziamo i servizi digitali. Ma accanto alle opportunità cresce anche l’uso dell’AI da parte della criminalità informatica. Tra le minacce più insidiose ci sono i deepfake, contenuti audio e video capaci di imitare in modo realistico voce, volto ed espressioni di una persona.

Oggi bastano pochi secondi di registrazione per clonare una voce e utilizzarla in una truffa. È un rischio concreto soprattutto per banche e istituti finanziari, dove i criminali possono contattare call center fingendosi clienti e tentare di superare le procedure di identificazione, anche quelle basate sul riconoscimento vocale.

Il problema non riguarda solo l’audio. I video deepfake permettono di impersonare dirigenti aziendali, rappresentanti istituzionali o clienti, inducendo dipendenti e collaboratori a eseguire bonifici, condividere informazioni riservate o autorizzare operazioni fraudolente. È una minaccia che colpisce anche assicurazioni, e-commerce, media e piattaforme social, dove immagini e contenuti falsi possono danneggiare reputazioni, manipolare l’opinione pubblica o generare disinformazione.

Un caso emblematico è quello della voce clonata del Ministro della Difesa Guido Crosetto, utilizzata per contattare imprenditori italiani e chiedere somme di denaro. Il fatto che la truffa abbia ingannato anche persone che conoscevano personalmente il ministro dimostra quanto queste tecnologie siano ormai credibili.

Secondo il Global Risks Report 2026 del World Economic Forum, la disinformazione alimentata dall’intelligenza artificiale sarà una delle principali minacce globali dei prossimi anni. La barriera d’ingresso per i criminali è sempre più bassa: creare deepfake costa poco, richiede competenze limitate e può produrre danni economici, reputazionali e sociali molto elevati.

In questo scenario, la sola attenzione umana non basta più. Aziende e pubbliche amministrazioni dovranno investire in strumenti capaci di rilevare contenuti manipolati in tempo reale, affiancando tecnologia, formazione e procedure di verifica.

La partita sarà sempre più quella dell’AI contro AI: algoritmi usati per creare falsi sempre più credibili e algoritmi chiamati a riconoscerli prima che producano danni. La vera difesa, però, resterà nella combinazione tra strumenti tecnologici, cultura della sicurezza e prudenza nel fidarsi di ciò che vediamo o ascoltiamo online.