Le Università di Trento e di Firenze contro il deep fake, cioè la manipolazione di video e di immagini tramite tecniche avanzate di intelligenza artificiale, usati soprattutto per creare falsi di persone molto note, che possono dare luogo a truffe, casi di revenge porn, cyberbullismo o altri crimini informatici. Il progetto si chiama Unchained (Uncovering media manipulation chains through container and content detectable traces) e ha l’obiettivo di rilevare in rete contenuti multimediali manipolati e potenzialmente diffamatori e la loro tracciabilità.
È stato finanziato dalla Darpa, agenzia governativa del Dipartimento della Difesa degli Stati Uniti incaricata dello sviluppo di nuove tecnologie, in un bando sull’utilizzo dell’intelligenza artificiale nel contrasto ai raggiri (AI Explorations Reverse Engineering Deceptions). Trento porta soprattutto le competenze maturate nell’analisi del viso umano e del segnale e si concentra quindi sul contenuto, mentre l’Università di Firenze dà il proprio contributo con l’analisi del formato.
Cos’è il deep-fake. Nella lotta al falso, dopo il fotomontaggio e le fake news, la nuova frontiera si chiama deepfake. Consiste nella creazione altamente realistica di video e di immagini tramite tecniche avanzate di intelligenza artificiale. Una manipolazione sofisticata e profonda, subdola e pervasiva, capace di trarre in inganno perfino il cervello umano, che a volte non riesce a distinguere tra artificiale e naturale.
Uno dei casi più noti di deepfake, all’inizio preso per vero e diventato virale, è il video falsificato di Mark Zuckerberg che nell’estate 2019 venne pubblicato su Instagram suscitando grande clamore. L’immagine dell’amministratore delegato di Facebook era stata manipolata per fargli pronunciare, con una voce creata al computer, parole che nella realtà non aveva mai detto sul controllo del futuro. Un esempio di manipolazione video più leggera (un semplice rallentamento introdotto nella sequenza), ma molto dannosa dal punto di vista della reputazione, era stato nella primavera 2019 quello che induceva a pensare a uno stato di ubriachezza della presidente della Camera dei rappresentanti statunitense Nancy Pelosi. Il video, pubblicato su Facebook e condiviso su Twitter, anche questa volta era diventato subito virale.
