Home>News>Artificial Intelligence, Biometria, Hot topics, P.A., Sorveglianza Governativa>Garante europeo, ok Regolamento AI ma più rigore contro la sorveglianza biometrica di massa

Garante europeo, ok Regolamento AI ma più rigore contro la sorveglianza biometrica di massa

La proposta legislativa della Commissione europea per la regolamentazione dell’intelligenza artificiale (AI) annunciata il 21 aprile 2021 è la prima iniziativa, a livello mondiale, che punta a costituire un legal framework in materia. Così come fatto con il GDPR, la Commissione intende introdurre regole direttamente applicabili negli Stati Membri dettando regole e divieti (con sanzioni per le imprese fino al 6% del fatturato globale) per l’utilizzo dell’AI, quell’intelligenza digitale che anima – e vieppiù animerà – i programmi, le macchine e gli artefatti su cui poggia crescentemente il funzionamento della nostra società.

Come in materia di protezione dati, la UE si propone dunque come precursore in tema di regolamentazione organica dell’AI. E sulla scorta del successo dell’approccio GDPR, vuole che le regole abbiano un impatto globale costringendo i player extra UE a rispettarle quando impiegano tecnologie intelligenti sui cittadini europei. In altre parole, in un mondo che si è fatto “datacentrico”, la UE vuole assumere la leadership mondiale sulla regulation dei diritti digitali della persona settando standard che non possono essere ignorati: questa strategia impone di affiancare al GDPR un set di principi in base ai quali le soluzioni AI dovranno essere modellate secondo i valori e i principi giuridici europei.

L’AI – il cui sviluppo e applicazione sono fortemente supportati dalla UE con ingenti investimenti per accrescere il ruolo del vecchio continente nella competizione globale dell’era digitale – offre non solo infinite opportunità per l’iniziativa privata ma anche nuove allettanti soluzioni che possono rivoluzionare il modus operandi del comparto pubblico. Il Garante europeo per la protezione dei dati (EDPS), tra i cui compiti c’è quello di fornire pareri e raccomandazioni ai legislatori comunitari, fungerà da supervisor sull’impiego dell’AI nella pubblica amministrazione UE; è, dunque, rilevante la sua opinione sul quadro legale proposto dalla Commissione.

L’EDPS in carica Wojciech Wiewiórowski ha dichiarato: “Sono orgoglioso di questa iniziativa e accolgo con particolare favore l’approccio orizzontale in un regolamento, nonché l’ampio campo di applicazione che include in modo importante le istituzioni, gli organismi, gli uffici e le agenzie dell’Unione europea. Il GEPD è pronto a svolgere il suo nuovo ruolo di regolatore di AI per la pubblica amministrazione dell’UE. Riconosco anche i meriti dell’approccio basato sul rischio. Infatti, ci sono numerose applicazioni di Intelligenza Artificiale che presentano una minaccia limitata per i diritti fondamentali alla protezione dei dati e alla privacy, mentre danno all’umanità uno strumento potenzialmente potente per combattere i problemi di oggi”.

Wiewiórowski si è tuttavia rammaricato di vedere ignorati i precedenti appelli che il suo ufficio aveva inoltrato alla Commissione affinché la regolamentazione prevedesse un rigido divieto dell’uso di sistemi di identificazione biometrica a distanza – compreso il riconoscimento facciale – in spazi accessibili al pubblico.

La proposta legislativa della Commissione include un divieto parziale sull’uso da parte delle forze dell’ordine di tecnologie di sorveglianza biometrica da remoto nei luoghi pubblici. Ma il testo include eccezioni ad ampio raggio che secondo molti possono portare ad una drastica erosione dei diritti fondamentali dei cittadini europei. Tra questi c’è dunque l’EDPS, le cui preoccupazioni sul punto si sommano alle proteste di associazioni per la tutela dei diritti digitali e a quelle di un gruppo trasversale di eurodeputati ha esortato la Commissione a mettere fuori legge la tecnologia ostile alle libertà individuali.

L’EPDS intende spingere con forza la Commissione a rivedere la proposta normativa: continuerà a sostenere un approccio più rigoroso al riconoscimento automatico negli spazi pubblici delle caratteristiche umane – come i volti, ma anche l’andatura, le impronte digitali, il DNA, la voce, la digitazione e altri segnali biometrici o comportamentali – sia che vengano utilizzati in un contesto commerciale o amministrativo, sia che vengano utilizzati per finalità di pubblica sicurezza. Un approccio più rigoroso è necessario dato che l’identificazione biometrica a distanza, in cui l’IA può contribuire a sviluppi senza precedenti, presenta rischi estremamente elevati di intrusione profonda e non democratica nella vita privata delle persone.

La posizione dell’EDPS ha ragion d’essere perché il problema di un utilizzo governativo incauto di simili tecnologie è attuale. Il Garante Privacy italiano ha recentemente bocciato il sistema Sari Real Time proposto dal Ministero dell’Interno che consentirebbe attraverso una serie di telecamere installate in una determinata area geografica, di analizzare in tempo reale i volti dei soggetti ripresi, confrontandoli con una banca dati predefinita (denominata “watch-list”), che può contenere fino a 10.000 volti. Il sistema, progettato e sviluppato come soluzione mobile, realizzerebbe un trattamento automatizzato su larga scala che può riguardare anche persone presenti a manifestazioni politiche e sociali, che non sono oggetto di “attenzione” da parte delle forze di Polizia. L’identificazione di una persona sarebbe realizzata attraverso il trattamento dei dati biometrici di tutti coloro che sono presenti nello spazio monitorato, allo scopo di generare modelli confrontabili con quelli dei soggetti inclusi nella “watch-list”. Si determinerebbe così una evoluzione della natura stessa dell’attività di sorveglianza, che segnerebbe un passaggio dalla sorveglianza mirata di alcuni individui alla possibilità di sorveglianza universale. È proprio a causa della loro forte interferenza con la vita privata delle persone che la normativa in materia di privacy stabilisce rigorose cautele per i trattamenti di dati biometrici e per particolari categorie di dati (ad esempio, quelli idonei a rivelare opinioni politiche, sindacali, religiose, orientamenti sessuali), i quali devono trovare giustificazione in una adeguata base normativa. Base normativa che non è stata rinvenuta nella documentazione fornita dal Ministero dell’interno.

Secondo il Garante una base normativa adeguata dovrebbe tener conto di tutti i diritti e le libertà coinvolte e definire le situazioni in cui è possibile l’uso di tali sistemi, senza lasciare una discrezionalità ampia a chi lo utilizza. Ciò vale anche per aspetti fondamentali dell’impiego della tecnica di riconoscimento facciale, come i criteri di individuazione dei soggetti che possono essere inseriti nella watchlist, le conseguenze in caso di falsi positivi o la piena adeguatezza del sistema nei confronti di persone appartenenti a minoranze etniche.

L’invito dell’EDPS ad un rafforzamento della portata del divieto contenuto nella proposta di regolamentazione dell’AI è – proprio come l’intervento del Garante su uno specifico progetto del nostro esecutivo – mirato ad impedire che agli apparati di law enforcement sia lasciato un margine di discrezionalità nell’uso degli strumenti biometrici di controllo di massa basati sull’AI. In un mondo spaventato e sempre più esposto ad istanze sovraniste, è importante mantenere il punto affinché agli strumenti di sorveglianza governativa non sia concesso di travalicare i diritti e le libertà individuali.

2021-04-24T11:04:04+00:00 24 aprile 2021|Artificial Intelligence, Biometria, Hot topics, P.A., Sorveglianza Governativa|