Passa ai contenuti principali

L'arte del camuffamento: come ingannare gli algoritmi di riconoscimento facciale

La società nella quale viviamo è purtroppo diventata anche una società del controllo e della sorveglianza. Per proteggere la nostra privacy è opportuno adottare un modello di autodifesa digitale (privacy threat model) adeguato al nostro profilo di rischio. Se sei arrivato su questa pagina e stai leggendo questo blog allora hai già fatto il primo passo: puoi far parte anche tu del nostro gruppo di #gentesicura. Per sviluppare un modello di autodifesa digitale occorre farsi alcune domande: che tipo di informazioni voglio proteggere? Da chi le voglio nascondere? Quale sarebbe l'impatto sulla mia vita se queste informazioni venissero scoperte?

Oggi una delle minacce più gravi è certamente rappresentata dai sistemi di videosorveglianza e dai loro algoritmi di riconoscimento facciale. Probabilmente in qualche banca dati digitale è già presente una vostra foto collegata al vostro nome e cognome. Anche se non è detto che questo database sia pubblico, è sempre buona norma fare una ricerca su Google per il proprio nome e cognome e scorrere i risultati per farvi un'idea della vostra presenza online e valutare il vostro profilo di rischio privacy.

Nel corso degli ultimi anni molti artisti e designer sensibili alle tematiche della privacy e della sorveglianza hanno cominciato a sviluppare opere e concept allo scopo di ingannare i sistemi di riconoscimento facciale. Il designer Jing-cai Liu ha creato un proiettore facciale indossabile presentato al Salone Internazionale del Mobile di Milano del 2017 che sembra sia stato utilizzato durante le manifestazioni di protesta di Hong Kong del 2019-2020 un vero laboratorio per testare i sistemi di riconoscimento facciale.

Adam Harvey, un artista e ricercatore americano che vive a Berlino, ha realizzato HyperFace, un tessuto stampato disegnato per il collettivo femminile Hyphen Labs - NeuroSpeculative AfroFeminism pensato per confondere gli algoritmi di riconoscimento facciale e presentato al Sundance Film Festival del 2017.

L'idea su cui si basa HyperFace è quella di ingannare gli algoritmi di riconoscimento facciale come quelli basati sulle librerie OpenCV allo scopo di alterare l'area circostante al volto da camuffare, minimizzando la differenza tra la figura e lo sfondo e reindirizzando il riconoscitore facciale verso i falsi volti impressi sulla stampa tessile.

Se HyperFace si focalizza sul contorno CV Dazzle si concentra invece sul volto della persona fornendo una serie di soluzioni di camuffamento attraverso l'uso di make-up e acconciature per ostacolare i programmi di riconoscimento facciale. Il nome è un tributo al sistema di camuffamento utilizzato dalla Royal Navy durante la prima guerra mondiale inventato dall'artista britannico Norman Wilkinson (1878-1971). In effetti oggi è sempre più difficile tentare di ingannare questi software che sono sempre più avanzati e quindi è normale che alcune delle soluzioni di make-up proposte negli anni scorsi oggi non siano più sufficienti ma quello che conta è il processo di reverse-engineering alla base del concept proposto dall'artista che resta ancora valido.

Il Dazzle Club è un gruppo di artisti e attivisti che fa base a Londra che con mezzo milione di telecamere è una delle città più videosorvegliate del mondo. Il gruppo organizza workshop e camminate negli spazi pubblici allo scopo di mettere alla prova i sistemi di riconoscimento facciale. Durante i workshop è possibile confrontarsi sulle tematiche della sorveglianza e del controllo e creare con il supporto degli artisti il proprio make-up basato sul concept CV Dazzle facepaint design. Il gruppo ha anche un profilo su Instagram.

Un altro progetto è DFACE una web app open-source sviluppata da VFRAME.io per l'oscuramento dei volti nelle foto (facial redaction), una tecnica di computer vision (CV) che dà all'utente la possibilità di sfocare o nascondere i volti in un'immagine o in un video. L'applicazione utilizza il framework di rilevamento oggetti della rete neurale YOLOV5, senza che il file lasci il device dell'utente. Può processare fino a 1000 volti per immagine della dimensione di almeno10x10 pixel oscurandoli con vari effetti (riempimento a tinta unita, sfocatura o emoji), supporta anche l'elaborazione batch di più file contemporaneamente. L'applicazione è pensata per attivisti e utenti di social media per oscurare rapidamente e privatamente i volti nelle immagini prima di pubblicarle sui social media, utilizza solo 13 Mb di banda ed è open-source con una licenza MIT scaricabile all'indirizzo https://github.com/vframeio/dface.



Commenti

Post popolari in questo blog

Whistleblower: storia e quadro giuridico di riferimento

Disegno tutorial di Edward Snowden È uscita in queste settimane l'autobiografia di Chelsea Manning dal titolo README.txt , il nome che l'analista junior dell'intelligence dell'esercito americano aveva dato al file di testo che accompagnava il materiale di quello che diventerà il più grande leak nella storia degli Stati Uniti. Per chi non conoscesse i suo caso giudiziario, Chelsea Manning è stata la più grande whistleblower della storia, durante il suo servizio in Iraq rilasciò attraverso la piattaforma  WikiLeaks circa 750.000 documenti classificati contribuendo ad influenzare in maniera determinante la percezione dell'opinione pubblica sull'andamento della guerra in Iraq. Per questo atto Chelsea fu condannata a 35 anni di reclusione essendo stata ritenuta colpevole di reati connessi alla diffusione di notizie coperte da segreto e al possesso di software non autorizzati, pena poi commutata dal presidente Obama alla fine del suo mandato. In quattrocento pagine

Cancellazione sicura: la sanificazione dei dati informatici

La sanificazione è un punto importante del ciclo di vita del dato: quando il dato giunge al termine del suo ciclo vitale ovvero quando è diventato inutile, obsoleto o ridondante è essenziale poterlo dismettere in modo sicuro facendo in modo che non sia possibile per nessuno poterlo ricostruire in alcun modo. Formattare i dischi da smaltire non basta, è come buttare nel cassonetto un libro strappando solo la pagina dell'indice, il primo che passa potrebbe recuperarlo e leggerlo. I vostri dati sono tutti al loro posto pronti per essere ripristinati. Secondo un'indagine condotta da uno dei maggiori produttori mondiali di HD sulla vendita online di supporti di memorizzazione usati è stato possibile recuperare integralmente il contenuto di questi hard disk ben 7 volte su 10. Molti dati personali vengono recuperati da supporti digitali smaltiti in modo superficiale. In cosa consiste la sanificazione dei dati? Si definisce sanificazione dei dati quel processo attraverso il qua

Chiamate vocali a prova di intercettazione con Signal

Di tanto in tanto mi capita di scorrere la lista di coloro tra  miei contatti che sono iscritti a Signal, l'applicazione voip gratuita e open source basata sulla crittografia end-to-end lanciata nel 2014 dall'organizzazione no profit Open Whisper Systems, e mi dolgo davvero di quanto pochi essi siano soprattutto se paragonati con quelli iscritti alla più popolare app di messagistica di Meta, ovvero la maggior parte di loro. Anarchico, hacker, crittografo, maestro d'ascia, skipper, Moxie Marlinspike, il fondatore del servizio Signal, è convinto che il progresso tecnologico debba andare di pari passo con la sicurezza degli utenti. Così intorno alla sua "creatura" è nata una community di persone che mettono la privacy al primo posto. Tra questi anche Edward Snowden il whistleblower ex consulente dell'NSA, l'agenzia per la sicurezza nazionale degli Stati Uniti, che nella primavera del 2013 divulgò una serie di informazioni classificate sui piani di sorveglian