“Nonostante gli annunci fatti all’epoca dai funzionari europei, l’Artificial Intelligence Act non vieterà la maggior parte delle pratiche pericolose della sorveglianza biometrica di massa (BMS). Al contrario, per la prima volta nell’UE, introdurrà condizioni sulle modalità di utilizzo di questi sistemi” [1].
L’allarme è stato lanciato dalla coalizione Reclaim Your Face, che da tempo sostiene che “le pratiche BMS non hanno posto in una società democratica“.
Nel 2021 la coalizione ha lanciato una petizione alla Commissione Europea (“European Cittidini Initiative” – ICE) per imporre un “divieto di pratiche di sorveglianza di massa biometrica“. Tuttavia, l’iniziativa degli attivisti aveva ottenuto solo 78.092 firme su un milione richiesto.
Secondo le varie ONG che compongono la coalizione, “la polizia e le autorità hanno già tante informazioni su ognuno di noi a portata di mano; Non hanno bisogno di essere in grado di identificarci e profilarci tutto il tempo“. Sotto la pressione dei rappresentanti delle forze dell’ordine, il Parlamento è stato costretto ad accettare solo deboli limitazioni alle pratiche invasive del BMS.
Gli attivisti per i diritti alla privacy lamentano che “l’Artificial Intelligence Act è destinato a essere un’occasione mancata per proteggere le libertà civili” se, nella primavera del 2024, i membri del Parlamento europeo (MEP) e i ministri degli Stati membri dell’UE voteranno per accettare l’accordo senza fine.
Non si può escludere che, dopo l’adozione dell’AI Act, sarà obbligatorio sostituire le password per i servizi digitali con l’utilizzo di dati biometrici.
La democrazia, o la sua apparenza formale, è minacciata: “I nostri diritti di partecipare a una protesta, di avere accesso all’assistenza sanitaria riproduttiva o persino di sederci su una panchina potrebbero essere minacciati da una sorveglianza biometrica diffusa“.
La legge sull’IA consentirà anche – avverte la coalizione Reclaim Your Face – “molte forme di riconoscimento delle emozioni – come l’uso da parte della polizia di sistemi di intelligenza artificiale per prevedere chi sta o non sta dicendo la verità – anche se questi sistemi non hanno alcuna base scientifica credibile“.
Come sempre, sono le “emergenze”, reali e artificiali, a sostenere lo sviluppo di processi sempre meno libertari: “Alla vigilia dei Giochi Olimpici e Paralimpici di quest’anno a Parigi, la Francia ha lottato per preservare o estendere i poteri dello Stato per sradicare il nostro anonimato negli spazi pubblici“.
(*) Tratto da Pressenza. Traduzione di Alexik.
Note:
[1] Reclaim your face, 18 gennaio 2024, “EU AI regulation will not ban mass biometric monitoring”.
Premessa della Bottega: questo articolo, tratto nella versione inglese da Reclaim your face, è stato pubblicato per la prima volta nella versione francese da La Quadrature du Net il 23 marzo 2023. Il 12 giugno 2023 il Senato francese ha approvato una proposta di legge per una sperimentazione di tre anni del riconoscimento facciale come tecnica di sorveglianza.
La Francia diventa il primo paese europeo a legalizzare la sorveglianza biometrica
di Valentina (*)
Per tre anni, la rete European Digital Rights (EDRi) si è mobilitata contro le pratiche di sorveglianza di massa biometrica attraverso la nostra campagna di lunga data Reclaim Your Face.
Composto da circa ottanta gruppi della società civile e da quasi 100.000 cittadini e residenti europei, il nostro movimento ha rifiutato il costante tracciamento dei nostri volti e dei nostri corpi attraverso il tempo e lo spazio da parte di algoritmi discriminatori. Abbiamo chiesto ai legislatori di proteggerci dall’essere trattati come codici a barre ambulanti, e il Parlamento europeo è ora pronto a votare per vietare almeno alcune forme di sorveglianza biometrica di massa a livello dell’UE.
Al contrario La Quadrature du Net (LQDN), il membro dell’EDRi e partner di Reclaim Your Face, traccia la mossa agghiacciante della Francia per minare i progressi in materia di diritti umani introducendo una sorveglianza algoritmica di massa, che con una mossa scioccante è stata autorizzata dai parlamentari nazionali.
_______
L’articolo 7 della legge sull’organizzazione dei Giochi Olimpici è stato adottato dal parlamento nazionale, “Assemblée Nationale”, formalizzando l’introduzione della videosorveglianza algoritmica nella legge francese, fino a dicembre 2024.
A causa del clamore suscitato dalla riforma delle pensioni e a seguito di un processo accelerato come al solito, il governo francese è riuscito a rendere accettabile una delle tecnologie più pericolose mai impiegate.
Usando menzogne e false narrazioni, il governo è sfuggito alle conseguenze tecniche, politiche e giudiziarie in termini di sorveglianza di massa. Sostenuta dai parlamentari della maggioranza di governo e dai partiti di estrema destra, la videosorveglianza algoritmica è stata legalizzata sostenuta da menzogne, minando sempre di più il gioco democratico.
- La menzogna della biometria: il governo ha ripetuto e scritto nella legge che la videosorveglianza algoritmica non è correlata alla biometria.
Questo è del tutto falso. Questa tecnologia identifica, analizza, classifica costantemente i corpi, gli attributi fisici, i gesti, le forme del corpo, l’andatura, che sono indiscutibilmente dati biometrici.
LQDN lo ha spiegato (vedi nota o video), ha detto instancabilmente ai relatori del Sénat e dell’Assemblée Nationale, ai rappresentanti, insieme ad altre 38 organizzazioni internazionali e a più di 40 eurodeputati (membri del Parlamento europeo) che hanno recentemente chiamato in causa il governo francese. Ciononostante, il governo francese è rimasto fedele alle sue menzogne, sia per quanto riguarda gli aspetti tecnici che quelli giuridici. La Francia viola ancora una volta il diritto dell’UE, consacrando il suo titolo di campione europeo della sorveglianza. - La menzogna dell’utilità: Il governo ha usato i giochi olimpici come pretesto per realizzare più rapidamente un programma a lungo termine di legalizzazione di queste tecnologie.
In realtà, questa scelta si attiene a una “tradizione” ampiamente osservata di Stati che approfittano dei mega-eventi internazionali per approvare leggi eccezionali. Il governo convince la gente della necessità di “individuare i pacchi sospetti” o di “prevenire massicci movimenti di folla”.
Questi eventi sono diventati improvvisamente la nuova priorità del Ministero dell’Interno e dei deputati zelanti, che non hanno smesso di collegare la sicurezza delle Olimpiadi a queste situazioni, raramente identificate come prioritarie in tempi normali.
Inoltre, questi problemi possono anche essere risolti dalla competenza umana invece che da queste tecnologie, come LQDN ha dimostrato in questo articolo. L’accettazione della videosorveglianza algoritmica si basa su un mito ben radicato secondo il quale la tecnologia garantirebbe magicamente la sicurezza. In questo modo, queste tecnologie opache sono ritenute utili senza alcuna valutazione o dimostrazione onesta.
- La menzogna tecnica: L’applicazione principale della videosorveglianza algoritmica è quella di identificare i comportamenti, predefiniti come “sospetti” dalle forze dell’ordine.
Arbitrari e pericolosi per definizione, il modo in cui funzionano questi algoritmi non è mai stato spiegato dal governo: perché non è compreso dalla maggior parte di coloro che decidono se per imperdonabile incompetenza o per presunto diversivo, alla fine il livello del dibattito parlamentare è stato estremamente basso, e non certo quello che ci si aspettava viste le drammatiche questioni sollevate da queste tecnologie biometriche.
Con l’aiuto di Guillaume Vuillemet e Sacha Houlié, entrambi del partito di governo e di altri parlamentari, ciò che ha dominato il dibattito parlamentare è stata una retorica di minimizzazione direttamente ispirata alle narrazioni di marketing delle società di sorveglianza, insieme a bugie e sciocchezze tecniche. Ciò dimostra chiaramente l’incapacità del Parlamento di discutere le questioni tecniche.
Inoltre, la società dovrebbe legittimamente temere il futuro, considerando come i rappresentanti parlamentari non siano in grado di cogliere le minacce delle tecnologie emergenti.
Mentre la brutalità della polizia travolge gli schermi delle persone, e mentre la polizia, armata di bastoni, assicura al servizio post-vendita le riforme più impopolari, la crescente sorveglianza della polizia fa parte di una strategia globale per soffocare qualsiasi contestazione.
Tali tattiche che consentono allo Stato di trasformare la realtà delle sue prerogative di sorveglianza devono essere denunciate.
Soprattutto in un contesto in cui il significato delle parole viene deliberatamente distorto per far credere che “la sorveglianza è protezione”, “la sicurezza è libertà”, “la democrazia significa costringerli a passare”.
E’ necessario smascherare e contrastare questo falso gioco democratico, e mettere in discussione gli straordinari poteri conferiti alla polizia francese.
Non c’è bisogno di parlare di una distopia “cinese” per rendersi conto dell’altezza della posta in gioco. Si può guardare alla storia della Francia e al clima politico attuale per prendere le misure e capire la deriva ventennale della sicurezza: più telecamere, sorveglianza e banche dati, mentre si depoliticizzano la posta in gioco sociale, e una perdita di senso tra i politici in carica. Di conseguenza, i dibattiti sulla legge delle Olimpiadi hanno messo in luce il disorientamento politico dei decisori, incapaci di mettere in discussione queste questioni di sicurezza.
Questa prima legalizzazione della videosorveglianza automatizzata è un passo vincente per l’industria francese della sicurezza.
Chi chiedeva da anni di testare i propri algoritmi sulle persone, di migliorarli e di vendere le tecnologie in tutto il mondo, ora è soddisfatto. Presto, Thales, XXII, Two-I e Neuroo, saranno autorizzati a vendere software biometrici ad altri stati, come Idemia ha venduto il suo software di riconoscimento facciale alla Cina. La startup XXII non ha potuto nemmeno aspettare che venisse votata la legge per annunciare a gran voce di aver raccolto 22 milioni di euro per diventare, secondo le sue stesse parole, “il leader europeo” della videosorveglianza algoritmica.
Le istituzioni preposte alla tutela delle libertà, come la Commission nationale de l’informatique et des libertés (CNIL), stanno fallendo totalmente.
Creato nel 1978 e dotato di reali ed efficienti poteri di contrasto per documentare le ambizioni di sorveglianza governativa, è ora il servizio post-vendita delle normative governative e aiuta attentamente le aziende a implementare una “buona” sorveglianza, al fine di preservare gli interessi economici dell’industria, senza alcuna considerazione per i diritti e le libertà collettive.
Questa prima autorizzazione legale crea un precedente e apre le porte a ogni altra tecnologia di sorveglianza biometrica: audiosorveglianza algoritmica, riconoscimento facciale, tracciamento biometrico e altro ancora.
LQDN non rinuncerà alla lotta e continuerà a denunciare tutte le menzogne del governo. Saranno presenti non appena inizieranno le prime sperimentazioni e documenteranno gli inevitabili abusi a cui queste tecnologie portano. Troveranno il modo di contestarli nei tribunali e si batteranno affinché questi esperimenti rimangano temporanei. E continueranno a rifiutare queste tecnologie e la tecnopolizia che incorporano, lottando a livello europeo per ottenere la loro interdizione.
I legislatori francesi di sinistra stanno pianificando di contestare l’adozione di questo disegno di legge presso la massima corte costituzionale del paese.
***
