L'arte del camuffamento: come ingannare gli algoritmi di riconoscimento facciale

La società nella quale viviamo è purtroppo diventata anche una società del controllo e della sorveglianza. Per proteggere la nostra privacy è opportuno adottare un modello di autodifesa digitale (privacy threat model) adeguato al nostro profilo di rischio. Se sei arrivato su questa pagina e stai leggendo questo blog allora hai già fatto il primo passo: puoi far parte anche tu del nostro gruppo di #gentesicura. Per sviluppare un modello di autodifesa digitale occorre farsi alcune domande: che tipo di informazioni voglio proteggere? Da chi le voglio nascondere? Quale sarebbe l'impatto sulla mia vita se queste informazioni venissero scoperte?

Oggi una delle minacce più gravi è certamente rappresentata dai sistemi di videosorveglianza e dai loro algoritmi di riconoscimento facciale. Probabilmente in qualche banca dati digitale è già presente una vostra foto collegata al vostro nome e cognome. Anche se non è detto che questo database sia pubblico, è sempre buona norma fare una ricerca su Google per il proprio nome e cognome e scorrere i risultati per farvi un'idea della vostra presenza online e valutare il vostro profilo di rischio privacy.

Nel corso degli ultimi anni molti artisti e designer sensibili alle tematiche della privacy e della sorveglianza hanno cominciato a sviluppare opere e concept allo scopo di ingannare i sistemi di riconoscimento facciale. Il designer Jing-cai Liu ha creato un proiettore facciale indossabile presentato al Salone Internazionale del Mobile di Milano del 2017 che sembra sia stato utilizzato durante le manifestazioni di protesta di Hong Kong del 2019-2020 un vero laboratorio per testare i sistemi di riconoscimento facciale.

Adam Harvey, un artista e ricercatore americano che vive a Berlino, ha realizzato HyperFace, un tessuto stampato disegnato per il collettivo femminile Hyphen Labs - NeuroSpeculative AfroFeminism pensato per confondere gli algoritmi di riconoscimento facciale e presentato al Sundance Film Festival del 2017.

L'idea su cui si basa HyperFace è quella di ingannare gli algoritmi di riconoscimento facciale come quelli basati sulle librerie OpenCV allo scopo di alterare l'area circostante al volto da camuffare, minimizzando la differenza tra la figura e lo sfondo e reindirizzando il riconoscitore facciale verso i falsi volti impressi sulla stampa tessile.

Se HyperFace si focalizza sul contorno CV Dazzle si concentra invece sul volto della persona fornendo una serie di soluzioni di camuffamento attraverso l'uso di make-up e acconciature per ostacolare i programmi di riconoscimento facciale. Il nome è un tributo al sistema di camuffamento utilizzato dalla Royal Navy durante la prima guerra mondiale inventato dall'artista britannico Norman Wilkinson (1878-1971). In effetti oggi è sempre più difficile tentare di ingannare questi software che sono sempre più avanzati e quindi è normale che alcune delle soluzioni di make-up proposte negli anni scorsi oggi non siano più sufficienti ma quello che conta è il processo di reverse-engineering alla base del concept proposto dall'artista che resta ancora valido.

Il Dazzle Club è un gruppo di artisti e attivisti che fa base a Londra che con mezzo milione di telecamere è una delle città più videosorvegliate del mondo. Il gruppo organizza workshop e camminate negli spazi pubblici allo scopo di mettere alla prova i sistemi di riconoscimento facciale. Durante i workshop è possibile confrontarsi sulle tematiche della sorveglianza e del controllo e creare con il supporto degli artisti il proprio make-up basato sul concept CV Dazzle facepaint design. Il gruppo ha anche un profilo su Instagram.

Un altro progetto è DFACE una web app open-source sviluppata da VFRAME.io per l'oscuramento dei volti nelle foto (facial redaction), una tecnica di computer vision (CV) che dà all'utente la possibilità di sfocare o nascondere i volti in un'immagine o in un video. L'applicazione utilizza il framework di rilevamento oggetti della rete neurale YOLOV5, senza che il file lasci il device dell'utente. Può processare fino a 1000 volti per immagine della dimensione di almeno10x10 pixel oscurandoli con vari effetti (riempimento a tinta unita, sfocatura o emoji), supporta anche l'elaborazione batch di più file contemporaneamente. L'applicazione è pensata per attivisti e utenti di social media per oscurare rapidamente e privatamente i volti nelle immagini prima di pubblicarle sui social media, utilizza solo 13 Mb di banda ed è open-source con una licenza MIT scaricabile all'indirizzo https://github.com/vframeio/dface.