Wanneer je gezicht een open boek is dat de politie (niet) kan lezen
Wat/wet na Zaventem?
Live facial recognition (LFR) is de technologie die op basis van bewegende camerabeelden onze gezichten kan identificeren. Ze wordt ontwikkeld door private bedrijven en verkocht aan particulieren en publieke overheden. Na een interventie van het Controleorgaan op de Politionele Informatie (COC) op de luchthaven van Zaventem, waar de technologie na de aanslagen van 2016 werd ingezet om over de veiligheid te waken mag de politie LFR niet gebruiken wegens een gebrek aan een juridische rechtsgrond hiervoor.
Zowel op nationaal als op Europees niveau zijn er momenteel wetsvoorstellen voor een rechtsgrond, die LFR verbiedt, dan wel toestaat. Op basis van een onderzoek van de federale politie naar de technologie wil Minister Verlinden wetgeving opstellen die het gebruik van de technologie uitbreidt “naar alle kritieke infrastructuren”.
Deze thesis bespreekt de argumenten in de discussie rond wenselijkheid van de technologie en onderzoekt de mogelijkheden om een wettelijk kader op te stellen dat mensenrechtenschendingen vermijdt.
Enkele mensenrechtelijke risico’s
Stel je voor: je loopt in je pyjama even naar de nachtwinkel voor een zakje chips om een avondlijke sneukelcraving te voldoen. Op weg daarnaartoe word je door verschillende camera’s gefilmd en je gezicht wordt geanalyseerd. Worden hierdoor jouw mensenrechten en die van andere nachtelijke voorbijgangers geschonden?
In eerste instantie lijkt het mensenrecht op privacy en gegevensbescherming in het gedrang te komen. LFR analyseert immers op elk moment de gezichten van alle voorbijgangers, zonder dat die personen per se worden verdacht van een misdrijf. Bovendien herkent LFR nog erg veel mensen verkeerd, waardoor onschuldigen verdacht worden en schuldigen niet worden opgemerkt.
Ten tweede komen door een inperking op privacy ook andere mensenrechten in het gedrang. Zo vormt de massale verwerking van persoonsgegevens met LFR mogelijk een inbreuk op het recht op een eerlijk proces. Ieders gezicht wordt immers systematisch geanalyseerd en zo wordt men steeds als verdachte beschouwd, wat ingaat tegen het vermoeden van onschuld. Omdat burgers steeds transparanter worden voor de overheid, maar diens algoritmes ontransparant blijven, wordt het voor de betrokkene moeilijk om diens onschuld te bewijzen.
Naast het recht op een eerlijk proces bestaat er ook een risico op een inbreuk op het recht op vrijheid van meningsuiting. Doordat personen schrik hebben voor negatieve consequenties gekoppeld aan een positieve match van hun gezicht met een database van de politie zijn ze waarschijnlijk geneigd minder snel op straat te komen om bijvoorbeeld te protesteren.
Een laatste risico bestaat voor het recht op non-discriminatie: niet alleen staat LFR nog niet op punt waardoor zwarte vrouwen bijvoorbeeld erg slecht worden herkend, ook het gebruik van de technologie vormt mogelijke risico’s voor discriminatie. Zo wordt LFR in Europese buurlanden voornamelijk gebruikt bij grenscontroles op luchthavens om personen die onwettig de grens oversteken te viseren.
Proportioneel gebruik van LFR?
Het blijkt een moeilijke klus te beoordelen of de inbreuk op je mensenrechten tijdens je nachtelijke wandeling wordt gerechtvaardigd door hogere belangen, zoals maatschappelijke veiligheid. In het kader van mijn masterproef was het dan ook geenszins de bedoeling zomaar een oplossing op te dringen. Op basis van literatuuronderzoek en interviews met een erg heterogene groep experten trachtte ik een overzicht te bieden van de huidige problematieken die de creatie van een proportioneel wetgevend kader voor LFR belemmeren en formuleerde ik enkele vraagstukken die richting kunnen geven aan het ruimere debat.
Ten eerste wordt “privacy” beschermd door verschillende rechtsinstrumenten. Zo willen zowel het recht op eerbiediging van ons privéleven als het recht op de bescherming van persoonsgegevens onze privacy beschermen, maar wordt elk recht geregeld door verschillende rechtspraak, verordeningen en wetten (zoals de inmiddels befaamde “GDPR” of General Data Protection Regulation). Op deze manier ontstaat verwarring over de inhoud van “privacy”: traditioneel kent dit een individuele invulling, maar door nieuwe technologieën die massaal persoonsgegevens verzamelen, ontstaat een risico van “massa surveillance” dat een collectieve invulling van privacy lijkt te vereisen. Door deze verschillende interpretaties van privacy is erg onduidelijk hoe een inperking ervan best wordt beoordeeld. De vraag is hoe men een begrip van privacy formuleert dat alle risico’s van LFR omvat.
Ten tweede blijkt het zowel juridisch als wetenschappelijk erg moeilijk om de precieze proportionaliteit van een inbreuk te meten. Zo moet men beslissen welke misdrijven “zwaar” genoeg zijn om op te wegen tegen mensenrechteninbreuken. Hier bestaat een risico op function creep: als de technologie reeds wordt toegepast in éen situatie, wordt het al snel ook in andere situaties gebruikt, die niet noodzakelijk bij wet voorzien en proportioneel zijn. Ook blijkt het moeilijk te bewijzen dat de toepassing van LFR effectief zou leiden tot een veiligere samenleving: hoe beoordeelt men immers “veiligheid”? Dit begrip heeft verschillende invullingen en de methode om de “effectiviteit” van bewakingscamera’s te meten is erg betwist. Voor bestaande camera’s, zoals de “gewone” CCTV en ANPR (nummerplaatherkenning) bestaat geen bewijs dat ze effectief zijn om criminaliteit te voorkomen. Het lijkt bijgevolg belangrijk om een omvattende proportionaliteitstoets op te stellen die het mogelijk maakt de potentiële voor- en nadelen van LFR af te wegen.
Ten derde rijst de vraag of en hoe een proportionaliteitsbeoordeling de ontwikkeling van LFR door private bedrijven hierbij in rekening moet nemen. Momenteel valt de ontwikkelaar immers buiten het bestaande privacykader en moet deze dus juridisch niet voldoen aan privacygaranties. In de ontwikkelingsfase gebeuren echter reeds inperkingen op privacy, die gevolgen kunnen hebben voor het uiteindelijke gebruik van de technologie. Zo wordt het algoritme van LFR vaak getraind op basis van een database van gezichten van personen die daar niet van op de hoogte zijn. Een gebrek aan diversiteit in zo’n dataset heeft dan weer gevolgen voor de (on)nauwkeurigheid waarmee LFR gezichten analyseert. Het lijkt dan ook aangewezen om private ontwikkelaars die LFR ontwikkelen juridisch verantwoordelijk te houden voor inbreuken op privacy, de vraag is alleen hoe precies.
Enkel wanneer men deze vraagstukken beantwoordt, lijkt het mogelijk om een proportionaliteitsbeoordeling te maken van het gebruik van LFR. Dat lijkt nodig om te bepalen of en welk concreet gebruik van LFR wenselijk is in een democratische samenleving.
Bibliografie
- Wetgeving
1.1. Internationaal
- Harde wetgeving
RVE, Verdrag van 4 november 1950 tot bescherming van de rechten van de mens en de fundamentele vrijheden, BS, 19 augustus 1955.
RVE, ETS. no 108 Convention of 28th of January 1981 for the Protection of Individuals with regard to Automatic Processing of Personal Data.
EG, Verordening nr. 45/2001 van het Europees Parlement en de Raad van 18 december 2000 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens door de communautaire instellingen en organen en betreffende het vrije verkeer van die gegevens, Pb. L. 12 januari 2001, afl. 8.
EG, Richtlijn 2002/58/EG van het Europees Parlement en de Raad van 12 juli 2002 betreffende de verwerking van persoonsgegevens en de bescherming van de persoonlijke levenssfeer in de sector elektronische communicatie (richtlijn betreffende privacy en elektronische communicatie), Pb.L 31 juli 2002, afl. L 201.
EU, Verdrag betreffende de werking van de Europese Unie (geconsolideerde versie), C 326/49, Publicatieblad van de Europese Unie, 26 oktober 2012.
EU, Handvest van de grondrechten van de Europese Unie van 26 oktober 2012, Pb.L C326.
Verordening (EU) 2016/679 van het Europees parlement en de raad van 27 april 2016 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens en betreffende het vrije verkeer van die gegevens en tot intrekking van Richtlijn 95/46/EG (algemene verordening gegevensbescherming), Pb. L. 4 mei 2016, afl. 119.
Richtlijn (EU) 2016/680 van het Europees Parlement en de Raad van 27 april 2016 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens door bevoegde autoriteiten met het oog op de voorkoming, het onderzoek, de opsporing en de vervolging van strafbare feiten of de tenuitvoerlegging van straffen, en betreffende het vrije verkeer van die gegevens en tot intrekking van Kaderbesluit 2008/977/JBZ van de Raad, Pb.L. 4 mei 2016, afl. 119.
RVE, Convention of 18th of May 2018 for the protection of individuals with regard to the processing of personal data.
EUROPEES PARLEMENT, RAAD, Richtlijn (EU) 2019, 790 van het Europees Parlement en de Raad van 17 april 2019 inzake auteursrechten en naburige rechten in de digitale eengemaakte markt en tot wijziging van Richtlijnen 96/9/EG en 2001/29/EG.
- Zachte wetgeving
Europees
EC, “Tool #28. Fundamental Rights & Human Rights” (datum niet vermeld).
WP29, “Opinion 04/2007 on the concept of personal data”, 2007.
WP29, “Opinion 02/2012 on facial recognition in online and mobile services”, 2012.
WP29, “Opinion 03/2012 on developments in biometric technologies”, 2012.
WP29, “Opinion 01/2014 on the application of necessity and proportionality concepts and data protection within the law enforcement sector”, 2014.
EDPS, Opinion 7/2015, “Meeting the challenges of big data, a call for transparency, user control, data protection by design and accountability”, 2015.
RVE, “Fundamental Rights Compatibility- Guidelines for Council preparatory bodies”, Publications Office European Union, 2015.
WP29, “Guidelines on Data Protection Impact Assessment (DPIA) and determining whether processing is “likely to result in a high risk” for the purposes of Regulation 2016/679”, 2017.
WP29, Guidelines on consent under Regulation 2016/679, 2018.
FRA, “Applying the Charter of Fundamental Rights of the European Union in law and policymaking at national level-Guidance”, 2018.
AI HLEG, “Ethics Guidelines for Trustworthy AI”, AI HLEG, 2018.
EDPS, “Guidelines on assessing the proportionality of measures that limit the fundamental rights to privacy and to the protection of personal data”, EDPS 2019.
RvE, COMMISSARIS VOOR MENSENRECHTEN, “Unboxing Artificial Intelligence: 10 steps to protect Human Rights”, 2019.
EC, “White Paper-On Artificial Intelligence-A European approach to excellence and trust, 2020.
EDPS, “A preliminary opinion on data protection and scientific research”, 2020.
EDPB, “EDPB response to MEPs Sophie in ‘t Veld, Moritz Körner, Michal Šimečka, Fabiene Keller, Jan-Christoph Oetjen, Anna Donáth, Maite Pagazaurtundúa, Olivier Chastel, concerning the facial recognition app developed by Clearview AI.”, 2020.
RvE, “Recommendation CM/Rec(2020)1 of the Committee of Ministers to member States on the human rights impacts of algorithmic systems”, 2020.
CONSULTATIVE COMMITTEE OF THE CONVENTION FOR THE PROTECTION OF INDIVIDUALS WITH REGARD TO AUTOMATIC PROCESSING OF PERSONAL DATA- CONVENTION 108-“Guidelines on Facial Recognition”, Directorate General of Human Rights and Rule of Law, 2021.
EC, “Proposal for a Regulation of the European Parliament and of the Council laying down harmonized rules on artificial intelligence (Artificial Intelligence Act) and amending certain union legislative acts”, nr. 2021/0106 (COD), EU, 2021.
EC, “Annexes accompanying the Proposal for a Regulation of the European Parliament and of the Council”, nr. SWD (2021) 84 final, 2021.
Andere landen
CNIL, facial recognition, for a debate living up to the challenges, CNIL, 2019.
UK Surveillance Camera Commissioner, “Facing the Camera, Good Practice and Guidance for the Police Use of Overt Surveillance Camera Systems Incorporating Facial Recognition Technology to Locate Persons on a Watchlist in Public Places in England & Wales”, 2020.
1.2. Nationaal
- Harde wetgeving
Wetboek van 17 november 1808 van strafvordering, BS 27 november 1808.
Wet van 5 augustus 1992 op het Politieambt, BS 22 december 1992.
Nieuwe Gemeentewet van 24 juni 1988, BS 3 september 1988.
Wet van 7 december 1998 tot organisatie van een geïntegreerde politiedienst, gestructureerd op twee niveaus, BS 5 januari 1999.
Gemeenschappelijke richtlijn MFO-3 van 14 juni 2002 van de Ministers van Justitie en van Binnenlandse Zaken betreffende het informatiebeheer inzake gerechtelijke en bestuurlijke politie, BS 18 juni 2002.
Wet van 6 januari 2003 betreffende de bijzondere opsporingsmethoden en enige andere onderzoeksmethoden, BS 12 mei 2003.
Wet van 10 juli 2006 betreffende de analyse van de dreiging, BS 20 juli 2006.
KB van 14 november 2006 betreffende de organisatie en de bevoegdheden van de federale politie, BS 23 november 2006.
Wet van 21 maart 2007 tot regeling van de plaatsing en het gebruik van bewakingscamera’s, BS 31 mei 2007.
Wet van 7 mei 2014 inzake experimenten op de menselijke persoon, BS, 18 mei 2014.
Wet van 3 december 2017 tot oprichting van de Gegevensbeschermingsautoriteit, BS 10 januari 2018.
Wet van 30 juli 2018 betreffende de bescherming van natuurlijke personen met betrekking tot de verwerking van persoonsgegevens, BS 5 september 2018.
KB van 22 december 2017 inzake de federaal gecentraliseerde overheidsopdrachten in het kader van het federaal aankoopbeleid, BS, 16 januari 2018.
KB van 28 mei 2018 tot wijziging van het koninklijk besluit van 10 februari 2008 tot vaststelling van de wijze waarop wordt aangegeven dat er camerabewaking plaatsvindt, BS 1 juni 2018.
KB van 6 december 2018 tot vaststelling van de plaatsen waar de verwerkingsverantwoordelijke zijn bewakingscamera’s kan richten op de perimeter rechtstreeks rond de plaats, de beelden van de bewakingscamera’s gedurende drie maanden kan bewaren en toegang in real time tot de beelden kan geven aan de politiediensten, BS 18 december 2018.
- Zachte wetgeving
COC, “Aanbeveling nr. 06/2011 van 6 juli 2011 betreffende installatie en gebruik van bewakingscamera’s in opsluitingsplaatsen (cellen en arrestantenlokalen) en andere plaatsen van het commissariaat (CO-AR-2010-04)”, Aanbevelingen COC, 12/13.
COC, “TUSSENTIJDS RAPPORT MET CORRIGERENDE MAATREGEL BETREFFENDE DE VISITATIE BIJ DE FEDERALE POLITIE VAN DE LUCHTHAVEN ZAVENTEM DOOR HET CONTROLEORGAAN OP DE POLITIONELE INFORMATIE MET BETREKKING TOT HET GEBRUIK VAN GEZICHTSHERKENNING OP DE NATIONALE LUCHTHAVEN VAN ZAVENTEM, Visitatie-toezichtrapport, executive summary publieke versie, betreft”, DIO19005, 2020.
COC, “Advies van 22 september 2020 nr.DA200008 betreffende een Gemeenschappelijke richtlijn van de Ministers van Justitie en van Binnenlandse Zaken met betrekking tot de toegangsregels van de leden van de politiediensten tot de algemene nationale gegevensbank en de basis-, bijzondere en technische gegevensbank (richtlijn toegangsregels)”, Adviezen COC, 2020.
COC, “Advies nr. DD200026 van 11 februari 2021 uit eigen beweging mbt de vraag wie de verwerkingsverantwoordelijke is voor gegevensverwerkingen door de politiediensten in het kader van de uitvoering van politionele opdrachten enerzijds en voor gegevensverwerkingen onder de AVG anderzijds”, Advies COC, 2021.
1.3. Deelstatelijk
Decreet van 18 juli 2008 betreffende het elektronische bestuurlijke gegevensverkeer, BS 29 oktober 2008.
Decreet houdende de aanpassing van de decreten aan de verordening (EU) 2016/679 van het Europees Parlement en de Raad van 27 april 2016 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens en betreffende het vrije verkeer van die gegevens en tot intrekking van richtlijn 95/46/EG (algemene verordening gegevensbescherming.), BS 26 juni 2018.
- Voorbereidende werken en parlementaire stukken
Wetsontwerp op het Politieambt van 4 juni 1991, nr. 1637/1.
Wetsontwerp van 12 maart 2002 betreffende de bijzondere opsporingsmethoden en enige andere onderzoeksmethoden, Parl.St. Kamer, 2001-02, nr. 1688/1.
Toelichtingen van 14 december 2007 bij het Handvest van de Grondrechten, Pb.L 14 december 2007, afl. C 303/02.
Parl. St. DOC 54, n° 2855/003 van 2 maart 2018.
Voorstel van Resolutie DOC 55/1349/001 van 16 juni 2020 over een driejarig moratorium op het gebruik van gezichtsherkenningssoftware en- algoritmen in vaste of mobiele beveiligingscamera’s in openbare en privéplaatsen.
Wetsontwerp van 10 december 2020 houdende de Algemene uitgavenbegroting voor het begrotingsjaar 2021, DOC 55 1578/023.
- Rechtspraak
3.1. Europees
EHRM, 6 september 1978, nr. 5029/71, Klass en anderen.
EHRM, 6 december 1988, nr. 10590/83, Barberà, Messegué en Jabardo/ Spanje.
EHRM, 20 maart 2001, nr. 33501/96, Telfner/Oostenrijk.
EHRM, 25 december 2001, P. G. en J. H./ Verenigd Koninkrijk.
HvJ, 17 juni 2010, nr.C-92/02, C-93/02, Volker und Markus Schecke GbR/Land Hessen.
HvJ, 17 oktober 2013, nr. C-291/12, Schwarz/Stadt Bochum, ECLI:EU:C:2013:670.
HvJ 8 april 2014, nrs.C‑293/12 en C‑594/12, Digital Rights Ireland Ltd./ Minister for Communications, Marine and Natural Resources en anderen en Kärntner Landesregierung en anderen, ECLI:EU:C:2014.
HvJ, 13 mei 2014, nr. C-131/12, Google Inc/AEPD, ECLI:EU:2014:317.
HvJ Schrems, 6 oktober 2015, C-362/14, Schrems/Data Protection Commissioner, ECLI: EU: C:2015:650.
EHRM, 12 januari 2016, nr. 37138/14, Szabó en Vissy/Hongarije.
HvJ 19 oktober 2016, nr. C-582/14, Patrick Breyer/Bundesrepublik Deutschland, ECLI:EU:C:2016:779.
HvJ, 21 december 2016, Tele2Sverige/Secretary of State for the Home Department, ECLI:EU:C:2016:970.
EHRM, 24 januari 2019, nr. 43514/15, Catt/Verenigd Koninkrijk.
EHRM, 4 februari 2019, nrs. 58170/13, 62322/14, 24960/15, Big Brother Watch e.a./Verenigd Koninkrijk.
HvJ, 6 oktober 2020, nrs. C-511/18, C-512/18 en C-520/18, Quadrature du Net, ECLI: ECLI:EU:C:2020:791.
3.2. Belgisch
Grondwettelijk Hof, 20 februari 2020, nr. 27/2020.
3.3. Buitenlands
High Court of Justice, 04/09/2019, nr. CO/4085/2018, The Queen Bridges/Chief Constable of South Wales Police and others.
Royal Court of Justice, Court of appeal (civil division), 11 augustus 2020, nr. C1/2019/2670, R/The Chief Constable of South Wales Police.
Bundesverfassungsgericht, 15 december 1983, nr. BvR 209/83, Volkszählungsurteil.
- Rechtsleer
4.1. Boeken
FRA, Handbook on European data protection law, Luxemburg, Imprimerie Centrale in Luxembourg 2018, 402.
GUTWIRTH, G., POULLET, Y., DE HERT, P., e.a. (eds.), Reinventing Data Protection?, Springer, 2009, 371.
GOOSSENS, F., (ed.), Dragers van de politiefunctie- een dwarsdoorsnede van de reguliere politie, de Veiligheid van de staat, de bijzondere politiediensten en de private politie, Kluwer Belgium, Mechelen 2012, 358.
LEENS, R., VAN BRAKEL, R., GUTWIRTH, S., DE HERT, P., Data Protection and Privacythe age of intelligent machines, HART Publishing, Bloomsbury Publishing Plc., Oxford, 2017.
MEESE, J.,“Onrechtmatig verkregen bewijs in strafzaken” in J. MEESE, Bewijsnood na het vernieuwde bewijsrecht, Mortsel, Intersentia, 2020, X+176.
TAYLOR, L., FLORIDI, L., VAN DER SLOOT, B., Group Privacynew challenges of Data Technologies, Springer International Publishing, 2017, XIII, 237.
WARNEZ, B., De lokale bestuurlijke ordehandhaving in Vlaanderen. Een kritische analyse van de actoren en hun bevoegdheden, Brugge, die Keure/la Charte, 2020; 336.
4. 2. Artikels
AERTS, A., “Onderzoek over gebruik dna-analyse in strafonderzoeken legt pijnpunten bloot”, De Juristenkrant, 2018.
BRKAN, M., “The Concept of Essence of Fundamental Rights in the EU Legal Order: Peeling the Onion to its Core”, European Constitutional Law Review, 2018.
BRKAN, M., “The essence of the Fundamental Rights to Privacy and Data Protection: Finding the Way Through the Maze of the CJEU’s Constitutional Reasoning”, German Law Journal, Special issue 6: Interrogating the Essence of EU Fundamental Rights, 2019.
BRKAN, M., “Do algorithms rule the world? Algorithmic decision-making and data protection in the framework of the GDPR and beyond”, International Journal of Law and Information Technology, 2019.
CEYHAN, A., “Analyser la sécurité: Dillon, Waever, Williams et les autres”, Cultures & Conflits, 1998.
EDWARDS, L., VEALE, M., “Slave to the algorithm? Why a “right to an explanation” is probably not the remedy you are looking for”, 16 Duke Law & Technology Review 18, 2017.
DE SCHEPPER,T., DE HERT, P., “Versoepeling Camerawet grondwettelijk getoetst. De doelgroepen kunnen rustig werken, terwijl camera’s draaien, rijden, vliegen en gelinkt worden met politiedatabanken.”, NjW 2020, afl. 669 e.v.
DE SCHEPPER, T., “Welke regels gelden voor de verwerking van ANPR-data?”, Politeia Uitgeverij, 2020.
DWARDS, L., VEALE, M., “Slave to the algorithm? Why a “right to an explanation” is probably not the remedy you are looking for”, 16 Duke Law & Technology Review 18, 2017.
FRANTZIOU, E., “The Horizontal Effect of the Charter of Fundamental Rights of the EU: Rediscovering the Reasons for Horizontality”, European Law Journal, 2015.
HENDERSON, S., E., “Expectations of Privacy in Social Media”, Mississippi College Law Review, 2012.
KAMMOURIEH, L., BAAR, T., BERENS, J., e.a., “Group Privacy in the Age of Big Data”, Philosophical Studies Series, 2016.
MAES, E., PANZAVOLTA, M., “Op zoek naar normatief principe voor uitsluiting van onrechtmatig verkregen bewijs in tijdperk van “mass data gathering””, de Juristenkrant, 2021.
MELGAÇO, L., “Meer camera’s, meer veiligheid? Een analyse over de doeltreffendheid van videosurveillance”, Orde van de Dag, 2015.
MITTELSTADT, B., “From individual to group privacy in Big Data Analytics”, Philosophy & Technology, 2017.
MOREHAM, N., A., “Privacy in Public Places”, The Cambridge Law Journal, 2006.
NISSENBAUM, H., “Privacy as Contextual Integrity”, Washington Law Review 2004.
RISACK, L., “Mogen Belgische politieagenten een bodycam dragen?”, Rechtenkrant, 12 februari 2020
SAJFERT, J., QUINTEL, T., “Data Protection Directive (EU) 2016/680 for Police and Criminal Justice Authorities”, Edward Elgar Publishing, 2019.
SOLOVE, D., J., ““I’ve got nothing to hide” and Other Misunderstandings of Privacy”, San Diego Law Review 2007.
VAN BRAKEL, R., “Een reflectie over het huidige toezicht van het gebruik van surveillancetechnologie door de lokale politie in België”, Cahiers Politiestudies, 2020.
VERMEULEN, G., “Non-Paper-Workshop ‘Targeted surveillance and selective data retention’”, International Intelligence Oversight Forum (IIOF2017) ‘The Road Ahead. Dilemmas and Best Practices in Democratic Intelligence Oversight’ Brussels, 2017.
WARNEZ, B., “Het beginsel van kenbaarheid en de lokale bestuurlijke ordehandhaving”, Tijdschrift voor Wetgeving, 2019.
4.3. Rapporten en grijze literatuur
CDEI, “Snapshot Series: Facial Recognition Technology”, CDEI, 2020.
DATATILSYNET, (Noorse GBA), “Report on Artificial intelligence and privacy”, 2018.
DIRECTIE ONDERZOEK EN DOCUMENTATIE, “Themafiche Bescherming van persoonsgegevens”, HVJ, 2020.
FRA, “Facial recognition technology: fundamental rights considerations in the context of law enforcement”, FRA Focus 2019.
GALLE, J., WITTERS, S., “Template Risico-Analyse DPIA”, Postgraduaat DPO Howest, 2021.
KENNISCENTRUM DATA EN MAATSCHAPPIJ, “Rapport over bevoegdheden in het delen van gegevens-automatische kentekenplaatherkenning (ANPR) als toepassingsgeval”, Kenniscentrum Data en Maatschappij, 2021.
LIGA VOOR MENSENREHTEN, “Mensenrechten-Een kennismaking”, Liga voor Mensenrechten, 2009.
RvE, Guide on article 8 of the European Convention of Human Rights.
4.4. Blogs
GATTA, F. L., “Social media and applications to the ECtHR: connecting people in the name of human rights?”, Strasbourg Observers, 2020.
VOGIATZOGLOU, P., “Mass Surveillance and the European Courts”, KULeuven CiTiP, 2017.
X, “Big brother may continue watching you”, Strasbourg Observers, 2018.
- Wetenschappelijke literatuur
5.1. Boeken
CARAYANNIS, E., G., CAMPBELL, D.F., J, Mode 3 Knowledge Production in Quadruple Helix Innovation Systems, 21st-Century Democracy, Innovation, and Entrepeneurship for Development, Springer, New York, 2012, VI, 63.
CALDER, A., “Implementing Information Security based on ISO 27001/ISO 27002”, Van Haren, 2011.
CHUN, W.H.K., Programmed Visions: Software and Memory, Cambridge, MA: MIT Press, 2011, 239p.
COHN, A., G., THOMAS, J., R., Artificial Intelligence and Its Applications, John Wiley and Sons, Warwich University, 1986, 306p.
GATES, K. A., Our Biometric Future- Facial Recognition Technology and the Culture of Surveillance, New York University Press, 2011, 274p.
GITELMAN, L., Raw Data is an oxymoron, Cambridge, Massachusetts, MIT Press, 2013, 192p.
PASQUALE, F., The Black Box Society, The Secret Algorithms that control money and information, Harvard University Press, Cambridge Massachusetts, 2015, 320p.
KUBITSCHKO, S.A., KAUN, A., Innovative Methods in Media and Communication Research, London: Palgrave Macmillan, 2017, 82. 330p.
LI, S., Z., JAIN, A., K., Handbook of Face Recognition, Springer, New York, 2005, 714p.
RODENHUIS, W., Basisboek Integrale Veiligheid, Boom Uitgevers, Den Haag, 2011, 545p.
STALLINGS, W., Information Privacy Engineering and Privacy by Design: Understanding Privacy Threats, Technology, and Regulations Based on Standards and Best Practices, Addison-Wesley Professional, 2019, 70, 528.
SUDMANN, A., (ed.), The Democratization of Artificial lntelligence Net Policies in the Era of Learning Algorithms, Transcript Verlag, Bielefeld, 2019, 331p.
VON SILVIA-TARUCA LARSEN, B, Setting the Watch: Privacy and the Ethics of CCTV Surveillance, London: Hart Publishing, 2011, 226p.
ZUBOFF, S., The Age of Surveillance Capitalism, Public Affairs New York, 2019, 704p.
5.2. Rapporten
BUOLAMWINI, J., GEBRU, T., “Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification”, Proceedings of Machine Learning Research, 2018.
DAVIES, B., DAWSON, A., INNES, M., “An evaluation of South Wales Police’s Use of Automated Facial Recognition”, Universities’ Police Science Institute, Crime & Security Research Institute Cardiff University, September 2018.
FUSSEY, P., MURRAY, D., “Independent Report on the London Metropolitan Police Service’s Trial of Live Facial Technology”, The Human Rights, Big Data and Technology Project, 2019.
GARVIE, C., BEDOYA, A., FRANKLE, J., “The perpetual line-up: unregulated police face recognition in America”, Georgetown Law- Center on Law and Technology, 2016.
GARVIE, C., “Garbage in, garbage out, face recognition on flawed data”, Georgetown Law Center on Privacy & Technology, 2019.
HOMBURG, G., SCHREIJENBERG, A., VAN DEN TILLAART, H., BLEEKER, Y., “ANPR: Toepassingen en ontwikkelingen”, Wetenschappelijk Onderzoeks-en Documentatiecentrum (WODC), 2016, 1, 11.
INTRONA, L., D., NISSENBAUM, H., “Facial Recognition Technology-A Survey of Policy and Implementation Issues”, New York University, CCPR- Center for Catastrophic preparedness and response, 2009.
LONDON POLICING ETHICS PANEL, “Final Report on Live Facial Recognition”, in opdracht van de Mayor of London, 2019.
ODSC-Open Data Science, “The impact of racial bias in facial recognition software”, ODSC, 2018.
UNIVERSITEIT VAN TILBURG, “Op het eerste gezicht: een verkenning van gezichtsherkenning en privacyrisico’s in horizontale relaties”, WODC, 2020.
WEST, S., M., WHITTAKER, M., CRAWFORD, K., “Discriminating systems, Gender, Race, and Power in AI”, AI Now Institute, 2019.
5.3. Artikels
BALLANTYNE, M., BOYER, R.S., HINES, L., “Woody Bledsoe His Life and Legacy”, AI Magazine, 1996.
CAVALLINI, S., SOLDI, R., e.a., “Using the Quadruple Helix Approach to Accelerate the Transfer of Research and Innovation Results to Regional Growth”, EU 2016.
DISTERER, G., “ISO/IEC 27000, 27001 and 27002 for Information Security Management”, Journal of Information Security, 2013.
GÜRSES, S., TRONCOSE, C., DIAZ, C., “Engineering Privacy by Design”, KULeuven, gepresenteerd op Conference on Computers, Privacy & Data Protection, 2011.
HICKOK, M.,” Lessons learned from AI ethics principles for future actions”, AI and Ethics 2020.
HURST, A., C., E., “Facial recognition software in clinical dysmorphology”, Current Opinion in Pediatrics, 2018.
INTRONA, L., D., WOOD, D., “Picturing Algorithmic Surveillance: The Politics of Facial Recognition Systems”, Surveillance & Society, 2004.
ISAAC, J., HANNA, M., J., “User Data Privacy: Facebook, Cambridge Analytica, and Privacy Protection”, IEEE, 2018.
KOSILEK, R., P., FROHNER, R., WÜRTZ, R., P., “Diagnostic use of facial image analysis software in endocrine and genetic disorders: review, current results and future perspectives”, European Journal of Endocrinology, 2015.
MARTINEZ-MARTIN, N., “What are important ethical implications of using facial recognition technology in health care?”, AMA Journal of Ethics, 2019.
RABIA, S.-H., SCHNEIDER, H., NAVARRO, E., e.a., “Automatic recognition of the XLHED phenotype from facial images”, American Journal of Medical Genetics, 2017.
RAJI, I.D., FRIED, G., “About Face: a survey of Facial Recognition Evaluation”, Research Gate, 2021.
RADTKE, T.,“The concept of joint control under the data protection law enforcement directive 2016/680 in contrast to the GDPR.”, Journal of Intellectual Property, Information Technology and Electronic Commerce Law, 2020.
SHARIF, M., NAZ, F., “Face Recognition: A Survey”, Journal of Engineering Science and Technology Review 2017.
RAI, A., “Explainable AI: from black box to glass box”, Journal of the Academy of Marketing Science, 2020.
RAIJI, I., D., GEBRU, T., MITCHELL, M., BUOLAMWINI, J., e.a., “Saving Face: Investigating the Ethical Concerns of Facial Recognition Auditing”, AIES’ 2020: Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society, 2020.
WELSH, B., C., D. FARRINGTON, P., “Crime prevention effects of closed-circuit television: a systematic review”, Home Office Research, 2002.
ZIMMER, M., ““But the data is already public”: on the ethics of research in Facebook”, Ethics and Information Technology, 2010.
- Nieuwsartikels
BREWSTER, S., “How Google’s new photos app can tell cats from dogs”, Wired, 6 maart 2015.
BREWSTER, “Drones with Facial Recognition Are Primed to Fly-But The World Isn’t Ready Yet”, Forbes, 2021.
BURGESS, M., “Facial Recognition Tech used by UK police is making a ton of mistakes”, Wired, 2018.
CLERIX, K.,“Knack onderzoekt: “Het ANPR-cameraschild riskeert zich tegen de politie te keren”, Knack, 18 maart 2020.
COOSEMANS, D., “Vanaf morgen mag de politie u filmen met dashcams en bodycams”, Gazet van Antwerpen, 24 mei 2018.
DEARDEN, L., “Police stop people for covering their faces from facial recognition camera then fine man £90 after he protested”, Independent, 31 januari 2019.
DEARDEN, “L., Facial Recognition wrongly identifies public as potential criminals 96% of time, figure reveals”, Independent, 7 mei 2019.
DOBBELAERE-WELVAERT, “Slimme camera’s gericht op de voorkant van wagens? Weg naar China is geplaveid met naïeve bedoelingen”, Knack, 28 november 2019.
ESPINOZA, J., “EU backs away from call for blanket ban on facial recognition tech”, Irish Times, 12 februari 2020.
HILL, K., “The secretive company that might end privacy as we know it”, The New York Times, 2020.
HSU, H.-J., CHEN, K.-T., “Face Recognition on drones”, Conference: the first workshop, 2015; T.
KAV, “Aantal camera’s in België vervijfvoudigt: op ruim 47 000 plaatsen wordt u gefilmd”, De Morgen, 12 augustus 2017
MARR, B., “Facial Recognition Technology: Here are the Important Pros and Cons”, Forbes, 2019
NAAFS, S., “Gezichtsherkenning rukt op: kunnen we weldra niet meer anoniem over straat?”, Knack, 21 augustus 2019.
POKHARNA, H., “For Dummies-The Introduction to Neural Networks we all need! (Part 1)”, Medium, 2016.
PORTER J., “Facebook and Linkedin are latest to demand Clearview stop scraping images for facial recognition tech”, The Verge, 2020.
PTI, “Delhi: Facial recognition system helps trace 3000 missing children in 4 days”, Times of India, 22 april 2018.
SCHUERMANS, F.,“Een vernieuwde speler in het politielandschap”, Blue Trends, 2019.
STRUYS, B., “2 jaar na invoering laat De Crem gebruik bodycams door politie onderzoeken: “Er moet een kader komen””, De Morgen, 4 juli 2020.
VANHECKE, N., “Éen stap van gezichtsherkenning verwijderd: Kortrijk vindt in geen tijd de man in de rode trui”, De Standaard, 24 mei 2019.
VANMELDERT, D., “Steeds meer camera’s in het straatbeeld: “Ze voorkomen criminaliteit niet, de samenleving wordt er niet beter van”, Vrt Nws, 25 maart 2021.
VANRENTERGHEM, A.,“U wordt gefilmd: nieuwe camerawet maakt onder meer bodycams, drones en een slim cameraschild mogelijk”, Vrt Nws, 13 maart 2018.
WARD, J., SOTTILE, C., “A facial recognition company wants to help with contact tracing. A senator has questions.”, NBC News, 1 mei 2020.
- Websites[1]
https://www.linkedin.com/company/european-digital-rights/.
https://www.europarl.europa.eu/infographic/legislative-procedure/index_nl.html.
https://docs.aws.amazon.com/rekognition/latest/dg/faces-sqs-video.html.
https://www.avigilon.com/products/video-infrastructure/ai-nvr.
https://www.avigilon.com/products/cameras-sensors/h5a-cr.
https://www.politieantwerpen.be/jaarboek/anpr.
https://www.politie.be/5998/nl/over-ons/geintegreerde-politie/voorstelling.
https://www.politie-oostende.be/lokaal-informatiekruispunt-lik.
https://www.politie.be/5998/nl/over-ons/federale-politie.
https://www.politie.be/5998/nl/over-ons/bestuurlijke-politie/luchtvaartpolitie.
https://www.amazon.com/Recognition-Temperature-Measurement-Detection-Comparison/dp/B087NQXND2.
https://www.controleorgaan.be/nl/politiediensten/camerawetgeving#.
https://www.comiteri.be/index.php/nl/vast-comite-i.
https://www.comiteri.be/index.php/nl/vast-comite-i/acht-taken-mainmenu-61.
https://www.controleorgaan.be/nl/controleorgaan/samenstelling-van-de-organisatie.
https://comitep.be/wie-controleren-wij.html.
https://www.europarl.europa.eu/doceo/document/E-8-2018-005624_EN.html.
https://www.briefcam.com/who-we-serve/law-enforcement/.
https://cs231n.github.io/convolutional-networks/#overview.
https://developer.twitter.com/en/developer-terms/more-on-restricted-use-cases.
https://www.iso.org/about-us.html#2.
https://www.27000.org/background.html.
https://www.iso.org/standard/42103.html.
https://ec.europa.eu/digital-single-market/en/innovation-procurement.
https://ec.europa.eu/eurostat/cache/infographs/ict/bloc-4.html.
https://ec.europa.eu/digital-single-market/en/public-procurement-innovative-solutions.
https://ec.europa.eu/digital-single-market/en/open-innovation-20.
https://police-hackathon.be/nl/.
https://speed.wazoku.com/#/community/b6e9b42e2627478ba8cc9b5a17357428/home-page.
https://news.belgium.be/nl/gemeenschappelijke-gegevensbank-terrorist-fighters.
https://www.enisa.europa.eu/news/enisa-news/what-is-state-of-the-art-in-it-security.
https://www.politieantwerpen.be/privacyverklaring.
https://www.avigilon.com/solutions/covid-19-resources/no-face-mask-detection.
https://www.danners.com/security/covid-19-security-solutions/.
- Blogs
C. BURT, “Dermalog and Pensees roll out computer vision temperature check systems for access control”, Biometric Update.com, 2020; https://www.biometricupdate.com/202004/dermalog-and-pensees-roll-out-computer-vision-temperature-check-systems-for-access-control.
R. MERKLEY, “Use and Fair Use: Statement on shared images in facial recognition AI”, Creative Commons, 2019; https://creativecommons.org/2019/03/13/statement-on-shared-images-in-facial-recognition-ai/.
SMITH, J. R., “IBM Research releases ‘Diversity in Faces’ Dataset to Advance Study of Fairness in Facial Recognition Systems”, IBM, 2019.
https://www.ibm.com/blogs/research/2019/01/diversity-in-faces/.`
- Andere
DORMAELS , A., (VIAS INSTITUTE), “Presentatie ‘Belangrijkste bevindingen uit omgevingsanalyse en knelpuntennota’”, gepresenteerd op 19 november 2020 tijdens de ‘Webinar ANPR-camera’s: slimmer dan gedacht’
FEDERALE POLITIE, “Jaarverslag 2015”, https://www.politie.be/5998/nl/jaarverslag-2015, 8.
VERHEYDEN, T., “Privacy & Ik”, Vrt, 2021.
Presentatie Willem Debeuckelaere, “Gegevensbescherming in België na de GDPR/AVG”, 3 maart 2020, binnen het vak “Gegevensbeschermingsrecht” UGent.
[1] Allen een laatste keer geraadpleegd op 16 mei 2021.
