Nell’Italia dell’intelligenza artificiale i contenuti falsi si sono in pochi anni moltiplicati. Vengono compromessi i dati degli utenti con foto e video modificati, oltre ad essere manipolate informazioni e scelte d’acquisto. I rischi maggiori si concentrano sulle piattaforme digitali che gestiscono flussi finanziari: dai portafogli elettronici ai siti di intrattenimento e scommesse, dove il furto di identità tramite AI viene usato per aggirare i blocchi legali.
Per questo già nel 2024 l’Europa con l’AI Act ha aggiornato la normativa che regolamenta il fenomeno dei deepfake, introducendo divieti stringenti per i software che ledono la dignità umana. Si è aggiunto poi l’obbligo tassativo per le imprese di etichettare ogni contenuto generato o manipolato artificialmente. Nonostante questi progressi, la sfida rimane ancora aperta, poiché oggi è sempre più facile anche raggirare sistemi di sicurezza sofisticati.
Ecco che il primo sforzo è quello di intercettare i contenuti falsi e contrassegnarli come tali, mentre il secondo è bloccarne la circolazione in partenza. A tal proposito è imprescindibile occuparsi anche della certificazione di contenuti, dati e documenti attuando una validazione di essi a monte.
In particolare, per far fronte al rischio di frode identitaria è necessario più che mai avvalersi di soluzioni di identità digitale certificate. Di fatto fino a qualche tempo fa anche per sottoscrivere un servizio in rete eravamo obbligati a scattarci una foto o ad inviare una scansione del documento personale. Oggi, con il regolamento europeo eIDAS2, l’identificazione avviene attraverso la verifica di un certificato crittografico firmato direttamente dallo Stato.
Questi certificati crittografici diventano vere e proprie chiavi di sicurezza statali, capaci di rendere molto più complessa anche la modifica dei documenti PDF. Questo significa mettere un freno a certificati di laurea o ricette mediche fittizie.
La supervisione statale avviene anche in altri modi, perché per alcuni servizi in rete l’accesso degli utenti avviene solo quando i dati mostrati sono conformi a quelli autenticati dallo Stato. Si pensi alle piattaforme bancarie o assicurative, dove la sottoscrizione di un contratto o l'accensione di un mutuo online non si basa più sulla fiducia di una firma scansionata, replicabile dall'AI, ma sulla convalida dello Stato.
Oggi la sfida non è solo intercettare il falso, ma proteggere i mercati regolamentati. Un esempio lampante è il settore del gioco pubblico. I concessionari che gestiscono le piattaforme di casinò e slot autorizzati devono rispettare per legge severi protocolli di KYC (Know Your Customer) imposti dall'Agenzia delle Dogane e dei Monopoli. In questo scenario, l'introduzione di eIDAS2 non è solo un aggiornamento tecnologico, ma uno scudo normativo necessario per verificare che dietro ogni conto di gioco ci sia un cittadino reale e non un'identità fittizia creata da un software.
Dunque, il primo passo per smascherare contenuti falsi in rete è dare ulteriore valore a quelli autentici, certificandoli alla fonte con il sigillo dello Stato.
