Det europæiske borgerforslag (ECI), der samler underskrifter mod elektronisk ansigtsgenkendelse (Reclaim your Face) har udsendt et nyhedsbrev om ny lovgivning i EU, der PRØVER, men slet ikke kommer i mål. Her er det på dansk:
I dagens forslag fra Europa-Kommissionen til en Forordning om kunstig intelligens (AI) fremhæves den yderst risikable biometriske masseovervågning, og der foreslås en ny regel, der forbyder statens myndigheder at anvende nogle af disse metoder – et skridt i den rigtige retning.
Vi er især lettede over at se, at Kommissionen anerkender, at biometriske masseovervågningsmetoder har en alvorligt indgribende indvirkning på folks rettigheder og frihedsrettigheder, samt at brugen af disse teknologier kan “påvirke en stor del af befolkningens privatliv og fremkalde en følelse af konstant overvågning (…)”. Disse trusler er præcis det, som Reclaim Your Face-koalitionen har kæmpet for at forbyde gennem hele vores kampagne, og det viser, at vores argumenter har ramt plet.
Vi er dog skuffede over, at dagens forslag ikke er vidtgående nok til at beskytte folk mod den brede vifte af biometriske masseovervågningsmetoder, som vi allerede ser i brug i hele Europa. Som følge heraf modsiger forslaget sig selv ved at tillade visse former for biometrisk masseovervågning, som det allerede har anerkendt er uforenelige med vores grundlæggende rettigheder og frihedsrettigheder i EU!
Forslaget forbyder navnlig “realtids” “fjernbetjent biometrisk identificering” til ordenshåndhævelse.
Nogle af de største problemer vi ser med forslaget er dog følgende:
- Ordlyden er ofte meget vag, og den indeholder en række begreber, som er dårligt defineret, hvilket giver et stort spillerum for fortolkning og skøn. Netop det genskaber mange af de problemer i de eksisterende databeskyttelseslove, som fik os til at opfordre til et nyt forbud, og det underminerer også retssikkerheden for alle;
- Forbuddet gælder kun inden for ordenshåndhævelse og forbyder ikke lige så invasive og farlige anvendelser fra andre offentlige myndigheder og private virksomheders side, som ikke desto mindre også indebærer biometrisk masseovervågning;
- Forbuddet mod anvendelse inden for ordenshåndhævelse har mange undtagelser, som er defineret for bredt, hvilket i alvorlig grad kan underminere formålet med forbuddet. Dette giver plads til fortsat biometrisk masseovervågning af det offentlige rum af de ordenshåndhævende myndigheder;
- Kun “realtids”-identificering til ordenshåndhævelse bliver forbudt. Det betyder, at det stadigt kan være muligt at identificere folk, efter at dataene er blevet indsamlet (“post” / efter begivenheden) – hvilket fx betyder, at det ikke vil være forbudt for politiet at bruge de berygtede ClearviewAI-databaser;
- Alle andre former for ‘biometriske identificeringsmetoder’ samt den ofte pseudovidenskabelige og stærkt diskriminerende praksis med biometrisk ‘kategorisering’ er alle tilladte i henhold til forslaget, som siger, at de ikke er forbudt.
Reclaim Your Face-koalitionen, som nu består af 60 (digitale) menneskerettigheds- og socialrettighedsgrupper, der arbejder i hele Europa, gik sammen i oktober 2020 for at bekæmpe biometrisk masseovervågning i Europa. Koalitionen har påpeget, at denne praksis er påtvunget, diskriminerende og udemokratisk.
Fra ansigtsgenkendelse i parker og skoler til “smart” biometri, der bruges målrettet mod demonstranter, og til den systemiske og undertrykkende overvågning af marginaliserede grupper, ser vi ingen plads i vores samfund til biometriske teknologier brugt på måder, der behandler os alle som mistænkte. Vores beviser har afsløret, at det nuværende misbrug er omfattende og systematisk, og vores analyse har vist, at den eneste måde at beskytte menneskers rettigheder i Europa på er at forbyde denne praksis. Vi skal ikke være nødt til at kigge os over skulderen, hvor vi går.
SKRIV UNDER: EU skal FORBYDE BIOMETRISK MASSEOVERVÅGNING
Læs EDRi-netværkets første analyse af de grundlæggende rettigheder i det bredere forslag – herunder de alvorlige bekymringer om eksempler på anvendelser, der burde have været forbudt, men ikke blev det, og bestemmelser, der giver AI-udviklere mulighed for at ‘give deres eget hjemmearbejde karakter’.
Hvad siger civilsamfundet i hele Europa om biometrisk masseovervågning?
Biometrisk masseovervågning reducerer vores krop til omvandrende stregkoder med henblik på at bedømme forbindelserne mellem vores data, vores fysiske udseende og vores hensigter. Vi bør beskytte disse følsomme data, fordi vi kun har ét ansigt, som vi ikke kan bytte eller lade blive derhjemme. Når vi giver afkald på de data, vil vi have mistet al kontrol.
Lotte Houwing – Bits of Freedom (the Netherlands)
Ikke al teknologisk udvikling er forenelig med sociale fremskridt. Udviklingen inden for kunstig intelligens (også kaldet maskinlæring) har ikke gjort masseovervågning mindre skadelig, den har blot gjort den billigere og lettere at indføre. Uanset om det er tusindvis af politibetjente eller ét AI-system, er masseovervågning uforenelig med menneskerettighederne, og AI-applikationer, der muliggør og tilskynder til det, skal forbydes.
Daniel Leufer – Access Now (Global)
Det græske politi er i færd med at udvide sin teknologiske kapacitet betydeligt, herunder ved at anvende ansigtsgenkendelse og andre biometriske behandlingsteknologier i det offentlige rum. Risikoen for øget autoritær samfundskontrol er reel. Vi kræver offentlige rum, hvor alle kan udtrykke sig frit og uden frygt. Det er det EU, som vi forestiller os.
Eleftherios Chelioudakis – Homo Digitalis (Greece)
Hvis Europa ikke vil blokere for biometrisk overvågning, vil risikoen for masseovervågning i vores byer være yderst reel. Teknologien må ikke få magt til at definere, hvem vi er, og heller ikke til at kontrollere os. Privatliv er magt. At genvinde besiddelsen af byen og de offentlige rum er det første skridt til at få vores ansigt tilbage.
Laura Carrer – Hermes Center for Transparency and Digital Rights (Italy)
Et af de største paradokser er, at de politikere, som proklamerer, at de respekterer mangfoldighed og fortællingen om at “udtrykke sit sande jeg” og “omfavne sin individualitet”, støtter biometrisk overvågningsteknologi, der er oplært til at opdage og advare om enhver afvigelse fra standardudseende eller -adfærd. Hvordan kan vi være os selv, hvis det automatisk kan gøre os til mistænkte?
Maria Wróblewska – Fundacja Panoptykon (Poland)
Biometrisk masseovervågning er ikke en dystopisk fantasi, men en realitet i dag: Lyssky firmaer som Clearview AI og pimeyes opbygger allerede ulovlige ansigtsdatabaser og opbygger netværksbaserede, centraliserede og altomfattende optagelser af vores hverdag. Så længe regeringer og virksomheder i hele Europa bruger disse ulovlige værktøjer, lever vi under big brother. Et reelt forbud mod biometrisk masseovervågning burde have været indført for længe siden.
Matthias Marx – Chaos Computer Club (Germany)
Brugen af biometrisk overvågning (BMS) er farlig og medfører begrænsninger af friheden for os alle. Det er ikke længere en velbevaret hemmelighed, at BMS har stærke skævheder (se hudfarve, køn) og høje fejlfrekvenser. Filtrering af mennesker ved hjælp af metadata, som uundgåeligt er knyttet til biometriske kendetegn, fører til raceprofilering og kan ikke accepteres i et samfund som vores, der respekterer menneskerettighederne. Sådanne invasive metoder og systemer hører ikke hjemme i et EU, der stræber efter alles velbefindende.
Nina Spurny – epicenter.works (Austria)
Og May Day kan tilføje: Kendetegnet på demokrati er statens gennemsigtighed og borgernes uigennemsigtighed. Kendetegnet på diktatur er, at staten er lukket og uigennemsigtig, og borgerne er gennemsigtige.
Further reading:
- EDRi’s press release on the AI legislation: https://edri.org/our-work/eus-ai-proposal-must-go-further-to-prevent-surveillance-and-discrimination/
- EDRi’s Ban Biometric Mass Surveillance position paper: https://edri.org/wp-content/uploads/2020/05/Paper-Ban-Biometric-Mass-Surveillance.pdf
- Letter to Commissioner Reynders from 56 civil society organisations to ban biometric mass surveillance: https://reclaimyourface.eu/letter-commission-justice-biometrics-ai/
- Statement from the European Data Protection Supervisor (EDPS) confirming that biometric identification can single out one individual amongst many, “even when commonly used identifiers are not available”: https://edps.europa.eu/sites/edp/files/publication/13-03-15_comments_dp_package_en.pdf
- Letter from 62 civil society organisations for red lines: https://edri.org/our-work/civil-society-call-for-ai-red-lines-in-the-european-unions-artificial-intelligence-proposal/
- Letter from 116 MEPs calling for fundamental rights: https://edri.org/our-work/meps-agree-we-need-ai-red-lines-to-put-people-over-profit/
- Evidence – Biometric mass surveillance across Europe: https://reclaimyourface.eu/evidence-in-eu-countries/
Oversat og redigeret af May Day maj 2021
Skriv et svar