Riconoscimento facciale: iPhone X è l’alba di una rischiosa normalizzazione?

dott. Marco Massimini – Amministratore e consulente di Privacy.it

Pubblicato in data 15-09-2017

Il riconoscimento facciale si presenta al grande pubblico. Ponendo fine ad un’attesa spasmodica e ad una ridda incontrollata di presunte anticipazioni, Apple ha effettuato il lancio iPhone X, lo smartphone che celebra il decennale della nascita del “melafonino”. Sarà pre-ordinabile dal 27 ottobre prossimo e disponibile negli store statunitensi dal 1 novembre. Il prezzo base sarà importante: 999 USD. In Italia, al solito, costerà di più: si parte da 1.159 euro per arrivare ai 1.359 del modello da 256 GB.

Sono molte le innovazioni introdotte da Cupertino: tra le tante, un processore neurale – ossia dotato di intelligenza artificiale – che permetterà al device di imparare (strada facendo) le abitudini del suo padrone, di riconoscere persone e luoghi frequentati, etc. In tal modo, la learning machine eleverà progressivamente la qualità dell’interazione con il suo padrone velocizzando operazioni desiderate, semplificandogli la vita. In futuro, riserveremo attenzione alle potenzialità dell’intelligenza artificiale del melafonino e ad eventuali ricadute sui temi qui usualmente trattati.

La new feature cui sia Apple che i media hanno dato maggiore rilevanza è, tuttavia, l’avanzato sistema di riconoscimento facciale denominato Face ID. Addio, dunque, all’accesso tramite impronta digitale che non si era rivelato particolarmente impenetrabile: in molti avevano dimostrato come fosse by-passabile tramite contraffazione del fingerprint (vedi qui una demo di The Verge) o raggirando l’assistente vocale Siri (vedi qui una demo su Computerworld). Per rimpiazzarlo, l’azienda di Tim Cook non ha preso in considerazione sistemi di scansione dell’iride, quali quelli montati – ad esempio – sul rivale Samsung 8 (sistema che ha, a sua volta, dimostrato un’alta vulnerabilità), ma ha deciso di puntare su una tecnologia più complessa.

Face ID si compone di una luce invisibile che illumina il volto, di un microproiettore che irradia e traccia 30.000 punti invisibili sul viso e di una fotocamera a raggi infrarossi per il riconoscimento. Aspetto di non poco conto, il template del volto del proprietario sarà custodito soltanto all’interno del telefono, nessun dato sarà trasmesso ai server di Apple.

Apple garantisce che la tecnologia 3D utilizzata non permetterà ad alcuno di ingannare il processo di autenticazione semplicemente sottoponendo ai sensori video o fotografie che ritraggono il volto del legittimo intestatario. Oltre a ciò, il sistema machine learning non creerà problemi se il nostro viso non si presenta identico a quello inizialmente registrato nel template, lui saprà capire ed adattarsi: potremo farci crescere barba o capelli, mettere gli occhiali o indossare un cappello senza temere che il nostro cellulare ci neghi l’accesso (domanda: sarà lo stesso se prendiamo una botta in faccia e ci presentiamo davanti al sensore con labbra, zigomi e arcate sopraccigliari trasfigurate da lacerazioni ed ecchimosi?).

Cio detto, un brivido profondo deve esser corso lungo la schiena degli sviluppatori Apple (ma anche degli azionisti e degli altri stake holder) quando – durante la “sacrale” presentazione in diretta streaming del 12 settembre scorso – l’executive Craig Federighi non è riuscito a loggarsi al primo colpo tramite Face ID dovendo ricorrere ad un telefono di riserva. Pare – stando a successive dichiarazioni di Apple riportate dal Guardian – che il problema non fosse legato ad un difetto di sistema ma, piuttosto, al fatto che nel backstage in troppi, tra il personale di staff, avevano maneggiato il telefono destinato alla demo costringendolo a continui tentativi di riconoscimento (falliti) tanto che il device – una volta sul palco – ha chiesto al “povero” Federighi di essere sbloccato con codice.

Incidente da palcoscenico a parte, il ricorso a siffatta facial scanning technology dovrebbe senz’altro rappresentare un passo avanti in termini di affidabilità ed autenticità del riconoscimento utente. Vedremo se questo assunto reggerà ai diversi test di intrusione che milioni di “smanettoni” sparsi in ogni angolo del pianeta proveranno a mettere in atto nelle prossime settimane.

Il presunto upgrade sembra, tuttavia, comportare il downgrade di un elemento di sicurezza indirettamente correlato: ottenere con il sopruso l’accesso all’altrui telefono sarà, almeno in apparenza, più semplice. Poniamo l’ipotesi che un malvivente abbia appena sottratto il telefono alla vittima, estorcergli il passcode o costringere il suo dito sul sensore sono atti che richiedono una certa dose di violenza (cui non tutti i ladri sono inclini) e che comportano un qualche coinvolgimento del malcapitato ancora sotto choc. Diversamente, sfilare un telefono dalla tasca e “piazzarlo” davanti al volto del proprietario per poi fuggire, sembra impresa più facile (perché atto meno invasivo e, per questo, perpetrabile anche da delinquenti meno spregiudicati).

Sempre in riferimento a questo aspetto, in alcuni blog americani già serpeggiano preoccupazioni: la polizia, con un “piccolo” e veloce sopruso in sede di arresto (un agente tiene fermo il soggetto, l’altro gli inquadra il volto), potrebbe accedere ad eventuali prove contenute nel telefono del sospetto senza dover affrontare le “noie” di un nuovo “caso San Bernardino“.

C’è un ulteriore remora che vogliamo qui rappresentare riguardo Face ID, ed è di ordine generale. iPhone è lo smartphone più famoso al mondo (venduti in media 50 milioni di dispositivi a trimestre), un device che ha dettato trend ad ogni latitudine e che, in qualche modo, ha rivoluzionato linguaggio e regole della società globale, digitale ed interconnessa. Le funzionalità introdotte in ogni nuovo modello di iPhone possono cambiare alcuni dei benchmark cui siamo abituati: quello che ieri l’altro sembrava fuori portata diventa dapprima feature rivoluzionaria accessibile a tutti, e – poco dopo – quotidianità che ci lascia quasi indifferenti. Il tutto in men che non si dica. Un esempio? La tecnologia fingerprint degli ultimi modelli fu presentata come rivoluzione definitiva. Ebbene, da oggi è “roba vecchia”. Ma nel frattempo – tra login a pc e telefoni – in molti si sono abituati a rilasciare la propria impronta biometrica (pochi anni fa rilasciare un’impronta significava essere in una situazione fuori dall’ordinario: essere in questura con un imputazione a carico o, nella migliore delle ipotesi, essere al varco dell’immigration statunitense).

Il sistema di riconoscimento facciale installato su quella che è una vera e propria icona globale cambierà, ancora una volta, le regole del gioco. E, nel solco dei precedenti, crediamo si possa preconizzare che – quando iPhone X avrà invaso il mercato – gli individui incominceranno a percepire i sistemi di riconoscimento facciale come la normalità. E’ ineluttabile.

Si potrà produrre, in altre parole, una rapida assuefazione nel pubblico. Questo, sia per l’effetto traino che sarà prodotto dal nuovo iPhone, sia perché il riconoscimento facciale pare una tecnologia destinata a diffondersi su larga scala e per molteplici impieghi; anche perché il suo costo di produzione e commercializzazione è in costante ribasso. Il mercato è già pronto ed alcuni player si sono già mossi con decisione. Portiamo solo un paio di esempi:

  • riferendoci al nostro mercato, abbiamo una significativa proposta di impiego per finalità di controllo accessi e sicurezza sul lavoro. Zucchetti ha lanciato la suite XFacela soluzione che riconosce i volti delle persone per determinare in modo automatico l’apertura di varchi o la gestione di segnalazioni e allarmi per una sicurezza ai massimi livelli“. Il sistema di riconoscimento è integrato con le anagrafiche di Zucchetti Axess: “La biometria facciale viene utilizzata per identificare un utente da liste di controllo precedentemente caricate e di verificare la sua identità al momento del passaggio del varco di ingresso o della timbratura della presenza. I dispositivi agiscono in piena autonomia, senza l’intervento umano, ottimizzando anche i costi e i processi dell’azienda. Le riprese non vengono conservate in qualche database, bensì eliminate dopo il riconoscimento del volto; in pratica ‘nascono e muoiono’ nello stesso momento, tutelando i dati sensibili dell’utente“;
  • riferendoci ad un mercato più ampio, Alipay (piattaforma di pagamento del colosso cinese dell’e-commerce Alibaba) ha appena lanciato la prima applicazione sul campo di una propria soluzione di e-payement con face detection. Con Smile to Pay si potrà mangiare in una nota catena di fast food senza dover tirar fuori il portafoglio: basterà avvicinarsi al menu digitale e, terminato l’ordine, sorridere in camera e digitare sul tabellone il proprio numero di telefono (riferimento indispensabile al prelievo dal digital wallet dell’utente). Alibaba ha già fatto sapere che intende estendere Smile to Pay in tutti i settori possibili del retail; considerato che Alibaba punta verso i 2 miliardi di utenti iscritti, siamo innanzi ad un’altro driver assoluto della prossima diffusione globale dei sistemi di face scan. Nota molto interessante per le considerazioni che stiamo qui svolgendo, Alipay garantisce ai propri utenti copertura totale in caso di furto di identità (ciò significa che il provider ammette, nemmeno tanto implicitamente, l’esistenza del rischio).

Gli esempi portati bastano a definire quanto il riconoscimento facciale sia, dopo anni di warm-up, la nuova frontiera dell’autenticazione. Ci abitueremo presto ad allungare il collo verso un sensore per farci riconoscere da qualcosa ogni 5/10 minuti.

Ma il passo successivo potrebbe essere che ci risparmieranno questo fastidioso gesto proattivo, saranno gli ambienti (e i loro sensori) a loggarci non appena entriamo nel loro raggio d’azione. Noi non ci accorgeremo di niente, e sarà quello il momento in cui il processo di assuefazione sarà completato. Infatti, pare di poter dire che – almeno in teoria – le funzionalità di interazione con l’utente potranno essere ancor più semplificate fin al punto di annullarsi del tutto. Molti sistemi di videosorveglianza urbana (vedi qui un caso recente tra tanti) sono integrati con il database dei sospettati e sono, dunque, in grado di identificare specifici individui in semplice transito e a loro insaputa. Quest’ultima caratteristica, se adeguatamente sviluppata (ossia se qualsiasi riconoscimento sarà sicuro anche se eseguito a distanza senza partecipazione attiva dell’utente), renderà lo strumento potenzialmente impiegabile per una miriade di soluzioni di tipo organizzative o commerciali.

Riassumendo: costo accessibile, velocità di esecuzione, flessibilità di impiego, identificazione a distanza. Tutti elementi che favoriscono la diffusione di una tecnologia che potrebbe rivoluzionare il nostro modo di vivere. Ma lo scenario presenta almeno un paio di ombre.

In riferimento allo stato dell’arte attuale, la prima preoccupazione concerne la sicurezza specifica dei sistemi di riconoscimento di volta in volta utilizzati. Molti sistemi sono davvero basici e facilmente by-passabili. E hackerando il template di un volto, il malfattore potrebbe (e ancor più, potrà) accedere a dispositivi personali, servizi di pubblica utilità, strumenti di pagamento, etc. ad esso legati che siano altrettanto elementari o che non siano provvisti di un sistema di autenticazione multistrato (a più chiavi, ad es.; face scan + pin / face scan + pin + fingerprint);

La seconda è più un’ipotesi di fantasia (ma ne abbiamo viste tante trasformarsi in realtà negli ultimi anni) a metà strada tra Orwell, Snowden, e Asimov. Poniamo che il facial scan divenga il sistema di autenticazione più diffuso, che qualsiasi device e servizio elettronico sia destinato a funzionare tramite questo sistema di riconoscimento. Il mondo digitale sarebbe, a quel punto, disseminato di template corrispondenti ai volti di miliardi di persone reali e qualche scenario oscuro e sequenziale potrebbe essere immaginato:

  • cosa succederebbe se un’organizzazione criminale (o un dittatore pazzo, o un’agenzia governativa fuori controllo) riuscisse a coordinare le risorse del deep web per rastrellare e centralizzare tutti i template in un solo database? Senza dubbio, con un simile potere informativo si potrebbero eseguire miliardi di frodi, accedere a dati riservati, eseguire operazioni finanziarie, ed – in sintesi – compiere ogni sorta di cyber-crimine del domani;
  • e se diamo per scontato che, a breve, saranno miliardi i sistemi di videosorveglianza intelligente con riconoscimento facciale che (tra smart camera di pubblica sicurezza integrata e video-sensori delle IoT domestiche) vigileranno su ogni istante della nostra vita, cosa potrebbe accadere se la medesima fantomatica organizzazione si impossessasse (magari diffondendo un malware silente) di gran parte delle telecamere del pianeta? Tutte le video apparecchiature potrebbero costantemente identificarci e far sapere al sistema dove siamo e cosa stiamo facendo;
  • e se la suddetta organizzazione desse in pasto tutto il sistema integrato ad un’intelligenza artificiale? E se, successivamente, la rete neurale del mega sistema si sviluppasse in modo ipertrofico al punto da prendere decisioni autonome ignorando i comandi dell’organizzazione?

E’ indubbiamente esagerato concepire questi scenari partendo da un singolo iPhone sfortunato che fa cilecca in fase di presentazione (abbiamo preso il lancio di iPhone X come pretesto di discussione, perchè siamo convinti che potrebbe contribuire alla “normalizzazione” presso il pubblico dei sistemi di face scan). Ma il senso della provocazione è facile da cogliere. Una società democratica consapevole dovrebbe:

  • sempre valutare con attenzione, competenza e tempestività quello che la tecnologia propone;
  • sistematicamente applicarsi nell’esercizio di prevedere gli effetti di medio termine riguardo la possibile diffusione su larga scala di tecnologie potenzialmente invasive.

Tutto questo, non tanto per condizionare il libero mercato e l’evoluzione naturale delle cose (non sia mai), ma, piuttosto, per contemperare i rischi riconnessi alle accelerazioni tecnologiche, ad esempio:

  • anticipando quanto più possibile la regolamentazione del contesto;
  • stimolando da subito la consapevolezza della cittadinanza sui rischi riconnessi alle nuove opportunità.

Se il lancio dell’iPhone X rappresenterà davvero l’alba della diffusione globale di tecnologie eterogenee basate sul riconoscimento facciale, ci sarà bisogno di molte attenzioni…. almeno fino a quando una nuova tecnologia biometrica non dichiarerà ridicolmente obsoleta la Face ID.

Post Scriptum. Non più tardi di mercoledì scorso il Biometrics Commissioner (una sorta di Garante) del Regno Unito ha pubblicato il proprio report annuale. Nel documento, il “cane da guardia” dei trattamenti biometrici ha sottolineato come il riconoscimento facciale sia una tecnologia che presenta maggiori problematiche rispetto all’identificazione tramite impronte o DNA perché può operare senza la collaborazione e – peggio ancora – la consapevolezza degli interessati. Ciò considerato, il Commissioner si è detto molto preoccupato del numero di immagini facciali che la polizia detiene e può richiamare nei propri database. Sono 20 milioni i volti registrati e sottoponibili al matching con filmati provenienti dagli innumerevoli sistemi di videosorveglianza presenti sul territorio: vale a dire, che quasi la metà della popolazione adulta britannica è identificabile mentre cammina per le strade d’oltremanica. Una situazione che – ad avviso del watchdog – deve essere regolamentata e, soprattutto, limitata. Anche perché il quadro delineato è in palese in contrasto con la posizione assunta nel 2012 dalla High Court che sanciva l’illegittimità della conservazione indiscriminata da parte della polizia delle immagini facciali relative a soggetti estranei a qualsiasi investigazione o procedura giudiziaria. Per saperne di più, leggi qui il recentissimo articolo del Guardian.