Computer says yes: worden overheidsbeslissingen in de toekomst genomen door artificieel intelligente systemen?
Artificiële intelligentie: een basisnotie
Heden ten dage zijn de termen big data, datamining en -matching, algoritmen en artificiële intelligentie niet meer weg te denken uit de media. Dit is terecht gezien het feit dat de wetenschap op dit terrein met rasse schrede vooruitgang boekt waardoor deze technologieën meer en meer hun toepassing vinden in de meest ondenkbare en uiteenlopende domeinen van de private sector. Een klassiek voorbeeld hiervan is het algoritme van Facebook dat op basis van eerder surfgedrag en opgeslagen cookies beslist welke artikels je op je nieuwsoverzicht te zien krijgt. Hiermee zijn we er nog niet. Ook in de gezondheidszorg tast men de inherent verbonden voordelen en grenzen van deze technologie af. Zo laat AI op heden toe aan iemands ogen te zien hoe groot de kans op een hartaanval is en faciliteert ze de vroegtijdige opsporing van borstkanker.
Artificiële intelligentie in de publieke sector
De gediversifieerde toepassing en de inherent verbonden voordelen van deze technologie in de private sector ontgaan ook de uitvoerende macht niet. Met toenemende mate en verschillende intensiteit zet tegenwoordig ook zij in op het gebruik van geavanceerde technologieën zoals datamining, datamatching en algoritmen om de complexe bestuurswerkelijkheid te vatten en te transponeren naar objectiverende absolute waarden.
Prima facie lijkt dit hand in hand te gaan met een efficiëntere en objectievere besluitvorming. Het behoeft geen betoog dat algoritmen administratieve (backoffice) taken van een overheidsdienst kunnen ondersteunen zoals het automatisch doorsturen van binnengekomen documenten en het gebruik van chatbots in de directe dienstverlening naar de burgers. Niettemin worden algoritmen meer en meer ingezet in (of ter ondersteuning van) het bestuurlijke besluitvormingsproces waarbij besluiten geheel of gedeeltelijk gebaseerd worden op de output van die algoritmen. Zo faciliteren ze fraudeopsporing en, naarmate de technologie verder evolueert, ook het nemen van individuele beslissingen zonder menselijke tussenkomst. Deze algoritmen zijn echter zowel voor burgers, voor ambtenaren en rechters niet inzichtelijk en worden vaak omschreven als een ‘black-box’. Zo is de burger vaak niet op de hoogte van het feit dat men gebruik maakt van algoritmische systemen en heeft men weinig inzicht in de manier van werking en ontwikkeling van het systeem door de eraan inherent verbonden techniciteit, het zelflerende karakter of de uitbesteding aan private ontwikkelaars. Daarenboven is vaak niet inzichtelijk hoe de gebruikte gegevens verzameld werden en of ze wel juist zijn.
Aandacht voor transparantie?
Dit gebrek aan transparantie wordt zowel op supranationaal als op nationaal niveau onderstreept. Zo ontwikkelde de Nederlandse Algemene Rekenkamer een toetsingskader voor algoritmen met als uitgangspunt te komen tot een efficiëntere overheid. Algoritmen zijn hierin een middel en geen doel hetgeen ertoe moet nopen het gebruik ervan zo transparant mogelijk in te richten. Dit is vereist opdat burgers op de hoogte zijn van het gebruik van dergelijke systemen en inzichtelijk is hoe een overheidsbesluit tot stand komt en waarop het is gebaseerd. Hier knelt potentieel het schoentje. Gezien het feit dat dergelijke systemen vaak ondersteunend gebruikt worden en er een stilzwijgen heerst omtrent het gebruik ervan, opereren deze systemen vaak geheel in de schaduw van onze rechtstaat. Hier komt bij dat de informatie die daadwerkelijk tot inzichtelijkheid en transparantie moet leiden eenvoudigweg niet bestaat of wel bestaat maar niet in handen is van de overheid die het systeem gebruikt.
Het is een onmiskenbare waarheid dat onze democratische rechtstaat er alle belang bij heeft het gebruik van algoritmische systemen door de overheid te reguleren. De meest voor de hand liggende conclusie van een onderzoek naar de aanwending van algoritmische systemen in de overheidsbesluitvorming lijkt dat ook dat ons huidig arsenaal aan – nogal technologisch conservatieve, op zijn minst weinig evolutieve – rechtsregels niet afdoende waarborgen biedt teneinde een transparante aanwending van algoritmische systemen in de overheidsbesluitvorming te faciliteren. Dit moet genuanceerd worden. Daargelaten dat we ons nog maar aan het prille begin van deze technologische mogelijkheden bevinden en verbetering vanuit wetenschappelijke hoek hoogstwaarschijnlijk op komst is, is het in tussentijd wel aangewezen een en ander te herbekijken opdat situaties zoals de eenieder welbekende Toeslagenaffaire in Nederland vermeden kunnen worden.
Regulering op komst?
De lege lata lijkt dergelijke regulering mogelijk binnen het contentieux van de openbaarheid van bestuur. De openbaarheid van bestuur noopt immers de administratieve overheid tot openheid, transparantie en duidelijke communicatie naar de rechtsonderhorige, zij het actief (uit eigen initiatief van de overheid), zij het op verzoek van die rechtsonderhorige.
Dit lijkt de Belgische wetgever niet te zijn ontgaan. In navolging van het wetgevend initiatief in Frankrijk ligt er reeds sedert 2021 een – overigens sterk op dat Franse initiatief gelijkend – wetsvoorstel op tafel waarmee de wetgever tracht de technologische ontwikkelingen bij te benen. Hoe zeer men ook wil laten zien dat men ermee bezig is zou men er goed aan doen op een aantal vlakken duiding te brengen. Hierbij lijkt de te bewandelen weg een multidisciplinair overleg tussen software ontwikkelaars, ethici, beleidsmakers en juristen gezien het feit dat dergelijke systemen zich niet makkelijk laten definiëren en vatten in een afgedicht wettelijk kader.
Een eerste stap in de juiste richting is hierbij het lanceren van een – naar analogie met het in Nederland gelanceerde - gecentraliseerd online algoritmeregister. Dit is een website die de burger op de hoogte stelt van het feit dat algoritmische systemen in de besluitvorming gebruikt worden, welke systemen gebruikt worden en die de burgers toelaten een uitleg te verkrijgen omtrent hun algemene werking. In afwachting van technologieneutrale wetgeving inzake artificiële intelligentie zou dergelijk online register in combinatie met een nationale ethische code met ethische principes en richtlijnen niet alleen een tussentijdse bescherming voor de rechtsonderhorige waarborgen, maar ook de overheid die dergelijke systemen gebruikt een houvast kunnen bieden. Op heden is het immers zo dat de inherente risico’s die verbonden zijn aan algoritmische systemen de nagestreefde voordelen bij het gebruik ervan lijken in te halen.
Bibliografie
BIBLIOGRAFIE
- Wetgeving
Europese wetgeving
Verordening (EU) nr. 2016/679 van het Europees Parlement en de Raad van 27 april 2016 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens en betreffende het vrije verkeer van die gegevens en tot intrekking van Richtlijn 95/46/EG, Pb.L. 4 mei 2016, afl. 119, 1.
Richtlijn 92/43/EEG van de Raad, 21 mei 1992 inzake de instandhouding van de natuurlijke habitats en de wilde flora en fauna, Pb.L. 22 juli 1992, afl. 206, 7-50.
Richtlijn 2009/24/EG van het Europees Parlement en de Raad, 23 april 2009 betreffende de rechtsbescherming van computerprogramma’s, Pb.L. 5 mei 2009, 16-22.
Richtlijn 2014/24/EU, 26 februari 2014 betreffende het plaatsen van overheidsopdrachten en tot intrekking van Richtlijn 2004/18/EG, Pb.L. 28 maart 2014, 65-242.
Richtlijn 2019/790 van het Europees Parlement en de Raad van 17 april 2019 inzake auteursrechten en naburige rechten in de digitale eengemaakte markt, Pb.L. 17 mei 2019, 92-125.
Belgische wetgeving
De gecoördineerde Grondwet van 17 februari 1994, BS 17 februari 1994, 4054. Gecoördineerde wetten op de Raad van State van 12 januari 1973, BS 21 maart 1973,
3461.
Wet van 15 januari 1990 houdende de oprichting en organisatie van een Kruispuntbank van de sociale zekerheid, BS 22 februari 1990, 3288.
Wet van 29 juli 1991 betreffende de uitdrukkelijke motivering van de bestuurshandelingen,
BS 12 september 1991, 19976.
Wet van 11 april 1994 betreffende de openbaarheid van bestuur, BS 30 juni 1994, 17662.
Wet van 17 juli 2001 betreffende de machtiging voor de Federale Overheidsdiensten om zich te verenigen met het oog op de uitvoering van werkzaamheden inzake informatiebeheer en informatieveiligheid, BS 21 juli 2001.
Programmawet van 29 maart 2012, BS 6 april 2012, 22143.
Wet van 3 augustus 2012 betreffende de verwerking van persoonsgegevens door de Federale Overheidsdienst Financiën in het kader van zijn opdrachten, BS 24 augustus 2012, 50670.
Wetboek van economisch recht van 28 februari 2013, BS 29 maart 2013, 19975.
Wet van 4 mei 2016 betreffende het hergebruik van overheidsinformatie, BS 3 juni 2016, 34149.
Wet van 17 juni 2016 inzake overheidsopdrachten, BS 14 juli 2016.
Wet van 3 december 2017 tot oprichting van de Gegevensbeschermingsautoriteit, BS 10 januari 2018, 989.
Wet van 30 juli 2018 betreffende de bescherming van natuurlijke personen met betrekking tot de verwerking van persoonsgegevens, BS 5 september 2018, 68616.
Wet van 5 september 2018 tot oprichting van het informatieveiligheidscomité en tot wijziging van diverse wetten betreffende de uitvoering van verordening (EU) 2016/679 van 27 april 2016 van het Europees Parlement en de Raad betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens en betreffende het vrije verkeer van die gegevens en tot intrekking van richtlijn 95/46/EG, BS 10 september 2018, 69589.
Buitenlandse wetgeving
Nederland
Wet van 29 november 2001 (NL) houdende regels tot vaststelling van een structuur voor de uitvoering van taken met betrekking tot de arbeidsvoorziening en socialeverzekeringswetten, Nederlands Staatsblad 18 december 2001, 624.
Besluit van 20 december 2001 (NL) tot vaststelling van een algemene maatregel van bestuur ter uitvoering van de Wet structuur uitvoeringsorganisatie werk en inkomen, en in verband daarmee van enige andere socialezekerheidswetten, Nederlands Staatsblad 28 december 2001, 688.
Besluit van 1 september 2014 (NL) tot wijziging van het Besluit Suwi in verband met regels voor fraudeaanpak door gegevensuitwisseling en het effectief gebruik van binnen de overheid bekend zijnde gegevens met inzet van Syri, Nederlands Staatsblad 11 september 2014, 320.
Frankrijk
Loi n° 2016-1321 du 7 Octobre 2016 (FR) pour une république numérique, JORF 8 Octobre 2016, www.legifrance.gouv.fr.
Décret n° 2017-330 du 14 mars 2017 (FR) relatif aux droits des personnes faisant l’objet de décisions individuelles prises sur le fondement d’un traitement algorithmique, JORF 16 Mars 2017, www.legifrance.gouv.fr.
- Voorbereidende documenten, rapporten en adviezen Internationale documenten
COUNCIL OF EUROPE, Declaration by the Committee of Ministers on the risks of computer- assisted or artificial-intelligence-enabled decision making in the field of the social safety net, 17 maart 2021, Decl(17/03/2021)2.
Europese documenten
Voorstel (Comm.) van verordening van het Europees Parlement en de Raad tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie en tot wijziging van bepaalde wetgevingshandelingen van de Unie, 21 april 2021, COM(2021)206 def – 2021/0106 (COD).
EUROPEAN COMMISSION FOR THE EFFICIENCY OF JUSTICE, European Ethical Charter on the Use of Artficial Intelligence in Judicial Systems and their environment, 3 december 2018, CEPEJ(2018)14, https://rm.coe.int/090000168096f74b.
Nationale documenten
Voorstel van de Regering tot invoeging van een artikel 24ter in de Grondwet betreffende de openbaarheid van bestuur, Parl.St. Kamer 1992-93, nr. 839/1.
Wetsontwerp betreffende de openbaarheid van bestuur, Parl.St. Kamer 1992-93, nr. 1112/1.
Adv.RvS. bij het voorontwerp van wet betreffende de openbaarheid van bestuur, Parl.St.
Kamer 1992-93, nr. 1112/1.
Verslag namens de Commissie voor de Binnenlandse zaken, de algemene zaken en het openbaar ambt, Parl.St. Kamer 1993-94, nr. 1112/13.
TOEZICHTSCOMITE BIJ DE KRUISPUNTBANK SOCIALE ZEKERHEID, Beraadslaging
betreffende en aanvraag van het Federaal Ministerie van Sociale Zaken, Volksgezondheid en Leefmilieu voor de oprichting en het beheer van de OASIS-databank met het oog op de bestrijding van sociale fraude in de sectoren van de bouw, de metaalbouw, de
elektriciteit en de parken en tuinen, 6 maart 2001, nr. 01/06, https://ksz- bcss.fgov.be/sites/default/files/assets/gegevensbescherming/beraadslagingen/01_06_n 00.pdf.
Vr. en Antw. Kamer 2004-05, 28 februari 2005, 10823. (Vr. nr. 608 T. PIETERS).
Hand. Comm. voor sociale zaken 2004-05, 22 maart 2005, nr. 51-541.
COMMISSION D’ACCES AUX ET DE REUTILISATION DES DOCUMENTS ADMINISTRATIFS,
Avis sur le refus de donner accès à des documents qui ont été utilisés par le Comité sectoriel de la sécurité sociale et de la santé pour prendre une décision, 10 octobre 2011, nr. 2011-309.
COMMISSIE VOOR DE TOEGANG TOT EN HET HERGEBRUIK VAN BESTUURSDOCUMENTEN,
27 juli 2015, advies nr. 2015-54.
Voorstel van wet tot wijziging van de wet van 11 april 1994 betreffende de openbaarheid van bestuur, om meer transparantie te verschaffen over het gebruik van algoritmen door de overheid, Parl.St. Kamer 2020-21, nr. 1904/001.
COMMISSIE VOOR DE TOEGANG TOT EN HET HERGEBRUIK VAN BESTUURSDOCUMENTEN
(CTB), Advies over het wetsvoorstel tot wijziging van de wet van 11 april 1994 om meer transparantie te verschaffen over het gebruik van algoritmen door de overheid, 31 augustus 2021, nr. 2021/114,, https://www.ibz.rrn.fgov.be/fileadmin/user_upload/fr/com/publicate/avis/2021/ADVIES
-CTB-2021-114.pdf.
GEGEVENSBESCHERMINGSAUTORITEIT (GBA), Advies over het wetsvoorstel tot wijziging van de wet van 11 april 1994 betreffende de openbaarheid van bestuur om meer transparantie te verschaffen over het gebruik van algoritmen door de overheid, 20 oktober 2021, nr. 157/2021, Parl.St. 2021-22, nr. 1904/002.
Nederlandse documenten
TWEEDE KAMER DER STATEN-GENERAAL (NL), Wijziging van de Wet structuur uitvoeringsorganisatie werk en inkomen en enige andere wetten in verband met fraudeaanpak door gegevensuitwisselingen en het effectief gebruik van binnen de overheid bekende zijnde gegevens, 18 maart 2013, Kamerstukken II 2012-13, 33579,
nr. 3.
RAAD VAN STATE AFDELING ADVISERING (NL), Ontwerpbesluit houdende regels voor fraudeaanpak door gegevensuitwisselingen en het effectief gebruik van binnen de overheid bekend zijnde gegevens (Besluit SyRI), Staatscourant 22 september 2014, nr. 26306.
Kamerstukken II 2017-18, 32761, nr. 118, https://zoek.officielebekendmakingen.nl/kst- 32761-118.html.
Kamerstukken II 2017-18, 32761, nr. 122, https://zoek.officielebekendmakingen.nl/kst- 32761-122.html.
RAAD VAN STATE (NL), Ongevraagd advies over de effecten van de digitalisering voor de rechtstatelijke verhoudingen, 31 augustus 2018, Kamerstukken II 2017-18, 26643, nr.
557.
MINISTERIE VAN JUSTITIE EN VEILIGHEID (NL), Richtlijnen voor het toepassen van algoritmen door overheden en publieksvoorlichting over data-analyses, https://www.rijksoverheid.nl/documenten/richtlijnen/2021/09/24/richtlijnen-voor-het- toepassen-van-algoritmen-door-overheden-en-publieksvoorlichting-over-data-analyses.
BRIEF VAN DE MINISTERS VAN BINNENLANDSE ZAKEN EN KONINKRIJKSRELATIES EN VOOR RECHTSBESCHERMING EN VAN DE STAATSSECRETARISSEN VAN BINNENLANDSE ZAKEN EN KONINKRIJKSRELATIES EN VAN ECONOMISCHE ZAKEN EN KLIMAAT,
voortgang algoritmen en artificiële intelligentie, 10 juni 2021, nr. 26643, https://www.tweedekamer.nl/kamerstukken/brieven_regering/detail?id=2021Z10411& did=2021D22770.
- Rechtspraak België
GwH 29 november 2018, nr. 167/2018.
Cass. 6 september 2002, AR C.01.0382.N.
Cass. 6 september 2002, AR C.02.0177.N.
RvS 14 oktober 1996, nr. 62.547, NV Electrification Du Rail. RvS 2 oktober 1997, nr. 68.609, BVBA BA-WA.
RvS 9 februari 1998, nr. 8, Brussels Airport Terminal Company NV. RvS 16 maart 2001, nr. 94.082, Louis.
RvS 21 mei 2001, nr. 95.677.
RvS 7 november 2003, nr. 125.226.
RvS 3 oktober 2011, nr. 215.506, Baumwald.
RvS 21 oktober 2013, nr. 225.162, Gemeente Schaarbeek.
RvS 7 december 2018, nr. 243.181, Dobbelaere.
RvS 20 november 2020, nr. 248.991.
Nederland
ABRvS (NL) 17 mei 2017, ECLI:NL:RVS:2017:1259.
ABRvS (NL) 18 juli 2018, ECLI:NL:RVS:2018:2454.;
Rechtbank Den Haag (NL) 5 februari 2020, ECLI:NL:RBDHA:2020:865.
Frankrijk
Décision n° 2018-765 du Conseil Constitutionnel du 12 juin 2018 (Fr), https://www.conseil-constitutionnel.fr/decision/2018/2018765DC.htm.
Italië
Tribunali Amministrativi Regionali Lazio Roma (IT) 22 maart 2017, nr. 3769, https://www.dropbox.com/s/yvg8bmveqacovlt/TAR%20Lazio%20-%202.pdf?dl=0.
- Rechtsleer
Boeken, bijdragen in verzamelwerken en reeksen
BARFIELD, W., “Towards a law on artificial intelligence.”, in BARFIELD, W. en PAGALLO, U., Research handbook on the law of artificial intelligence, Edward Elgar, 2018, 2-40.
BRISON, F. en VANHEES, H., Het Belgische auteursrecht: huldeboek Jan Corbet, Intersentia, 2018, 460 p.
CAPKURT, F. en SCHUURMANS, Y. E., “Komt een fraude-opsporingssysteem bij de rechter.” in CAPKURT, F., SCHUURMANS, Y. E., VERBOEKET, L. W., VAN DEN BRINK, J. E.,
DRAHMANN, A., JACOBS, M. J. en ORTLEP, R. (eds.), Bestuursrecht in het echt: Vriendenbundel voor prof. Mr. Drs. Willemien den Ouden, Wolters Kluwer, 2021, 593- 609.
DE RAEDT, S., De draagwijdte van het recht op privéleven bij de informatie-inzameling door de fiscale administratie, Larcier, 2017, 804 p.
DE ROY, D., “L’accès aux documents administratifs dans un environnement dématérialisé.” in RENDERS, D., L’accès aux documents administratifs, Bruylant, 2008, 829-851.
DE TERWANGNE, C., “Le droit d’accès aux documents administratifs dans un contexte électronique: La publicité de l’administration et le respect de la propriété intellectuelle.” in MICHIELS, V. (eds.), La publicité de l’administration: vingt ans après, bilan et perspectives, Bruylant, 2014, 425-451.
FRYDMAN, B., “Le controle juridique des algorithmes.” in COLLARD, G., MOURLON BEERNAERT, F., SZAFRAN, D. en WILLERMAIN, D., Liber amoricum Xavier Dieux, Bruxelles, Larcier, 2022, 811-840.
HUISMAN, P. J., NEERHOF, A. R. en VAN OMMEREN, F. J., Verwant met verband: Ruimte, Recht en Wetenschap, Instituut voor bouwrecht, 596 p.
KULK, S. en VAN DEURSEN, S., Juridische aspecten van algoritmen die besluiten nemen – een verkennend onderzoek, Montaigne Centrum voor Rechtstaat en Rechtspleging, 2020, 253 p.
MAST, A., DUJARDIN, J., VAN DAMME, MS en VANDELANOTTE, J., Overzicht van het
Belgisch administratief recht, Wolters Kluwer, 2017, 1522 p.
OPDEBEEK, I. en DE SOMER, S., Algemeen Bestuursrecht, Intersentia, 2019, 782 p.
PASSCHIER, R., Artificiële intelligentie en de rechtstaat over verschuivende overheidsmacht, big tech en de noodzaak van constitutioneel onderhoud, Boomjuridisch, 2021, 150 p.
ROBBEN, F., “A model for electronic data exchange in the public sector” in DUMORTIER, J., ROBBEN, F. en TAEYMANS, M., A decade of research @ the crossroads of law and ICT, Larcier, 2001, 229-240.
UYLENBURG, R., “Rechterlijke toetsing van digitale besluiten in het omgevingsrecht.” in BARKHUYSEN, T., MARSEILLE, A. T. en DEN OUDEN, W., 25 jaar Awb in eenheid en verscheidenheid, Wolters Kluwer, 2019, 759-769.
VAN GERVEN, D., Handboek vennootschappen: algemeen deel, Larcier, 2020, 1564 p.
VETZO, M. J., GERARDS, J. H. en NEHMELMAN, R., Algoritmes en grondrechten, Boom Juridisch, 2018, 244 p.
Bijdragen in tijdschriften
BARBIER, C., “Openbaarheid van het fiscaal bestuur?”, TFR 1999/3, 171-184.
BENHADI, R., “Geautomatiseerde besluitvorming in het omgevingsrecht.”, StAB 2017, 7- 16.
BOIX-PALOP, A.,“Algorithms as regulations: considering algorithms, when used by the public administration for decision-making, as legal norms in order to guarantee the proper adoption of administrative decisions.”, European Review of Digital Administration & Law 2020, 75-99.;
BRAUNEIS, R. en GOODMAN, E. P., “Algorithmic transparency for the smart city.”, Yale J. L. & Tech 2018, vol. 20, 103-176.
CAPKURT, F., “Een pleidooi voor meer gegevensbescherming in het bestuursrecht.”,
Nederlands Tijdschrift voor Bestuursrecht 2021, afl. 3, 143-144.
CUMMINGS, M., “Automation Bias in Intelligent Time Critical Decision Support Systems.”, American Institute of Aeronautics and Astronautics 2004, https://web.archive.org/web/20141101113133/http://web.mit.edu/aeroastro/labs/hala b/papers/CummingsAIAAbias.pdf,
CUSTERS, B., DECHESNE, F., DE GRAAF, T., MEUWESE, A. en WUISMAN, I., “Waarom
(basis)kennis van AI onontbeerlijk is voor juristen.”, Ars Aequi 2021, 1136-1140.
D'HOOGHE, D., “De openbaarheid van bestuursdocumenten in de diensten en instellingen van de Vlaamse Executieve”, RW, 1993-94, 250-260.
DE POORTER, J. en GOOSSENS, J., “Effectieve rechtsbescherming bij algoritmische besluitvorming in het bestuursrecht.”, Nederlands Juristenblad 2019, 3303-3312.
DE RAEDT, S., MARTENS, D. en BRUGHMANS, D., ”Waarom krijg ik fiscale controle? Naar meer transparantie bij de geautomatiseerde besluitvorming door de fiscale overheid.”, TFR 2021, nr. 604, 607-612.
DE SOMER, S., “Het begrip administratieve overheid: stand van zaken van a never ending story.”, RW 2011-12, 1614-1639.
DEGRAVE, E., “The use of secret algorithms to combat social fraud in Belgium.”, European review of digital administration & law 2020, 167-178.
EVRARD, M., “The right to access administrative documents in the algorithmic era: analysis from a Belgian law perspective.”, Ann.dr.Louvain 2021, 471-506.
FINK, M. en FINCK, M., “Reasoned a(i)administration: explanation requirements in EU law and the automation of public administration.”, European Law Review 2022, 376-392.
GOOSSENS, J., HIRSCH BALLIN, E. en VAN VUGT, E., “Algoritmische beslisregels vanuit constitutioneel oogpunt: Tweedeling tussen algemene regels en concrete toepassing onder druk.”, Tijdschrift voor constitutioneel recht 2021, 4-19.
JONGENEELEN, I., “Openbaarheid van bestuur in de Belgische wetgeving.”, Jura Falc. 1994, 563-608.
KEEREMAN, A., “er komt een digitale tsunami op de juridische wereld af.”, Juristenkrant
2020, 8-9.
LAMMERANT, H., BLOK, P. H. en DE HERT, P., “Big data besluitvormingsprocessen en sluipwegen van discriminatie.”, Nederlands Tijdschrift voor de Mensenrechten 2018, Vol. 43, 3-24.
LEHR, D. en OHM, P., “Playing with the data: what legal scholars should learn about machine learning.”, UC Davis Law Review 2017, 653-717.
MEUWESE, A. en WOLFSWINKEL, J., “Een wet op de artificiële intelligentie? De Europese wetgever haalt de nationale in.”, Nederlands juristenblad 2022, 92-100.
NAUDTS, L., “Aanbeveling CBPL inzake de Gegevensbeschermingseffectbeoordeling.”,
Privacy en Informatie, 2018, 103-106.
OSMAN, A. S., “Data mining techniques: review.”, International Journal of Data Science Research 2019, vol. 2.
ROTH, A., “Machine Testimony”, Yale Law Journal 2017, Vol. 126 , 1990-1991.
SCHEPERS, J., DE SMEDT, L., VAN BUGGENHOUT, B. en ROBBEN, F., “De inzetbaarheid
van juridische adviessystemen in de praktijk van het sociale-zekerheidsrecht.”, RW 1992- 93, nr. 18, 585-606.
SMUHA, N. A., “Artificiële intelligentie bij de overheid: opportuniteiten en uitdagingen vanuit ethisch-juridisch perspectief.”, VTOM 2019, 43-64.
VAN ECK, M., BOVENS, M. en ZOURIDIS, S., “Algoritmische rechtstoepassing in de democratische rechtstaat.”, Nederlands Juristenblad 2018, afl. 40, 3008-3017.
VANDEVORST, C., “Algemene verordening gegevensbescherming: vijf nieuwigheden van dichterbij bekeken.”, Cahier du juriste 2016, 75-85.
WOLFSWINKEL, J., “Het algoritme van de Afdeling: de realiteit van complex bestuursrecht.”, Ars Aequi 2019, 776-785.
Doctoraatsproefschriften en masterscripties
ADRIAANSZ, C., Algoritmes en besluiten: een onderzoek naar de bestuursrechtelijke inbedding van algoritmische besluitvorming, masterscriptie rechten, Universiteit Utrecht, 2019, 69 p.
VAN ECK, M., Geautomatiseerde ketenbesluiten & rechtsbescherming: een onderzoek naar de praktijk van geautomatiseerde ketenbesluiten over een financieel belang in relatie tot rechtsbescherming, Proefschrift rechten Tilburg University, 495 p.
WOLSWINKEL, J., Willekeur of algoritme? Laveren tussen analoog en digitaal bestuursrecht, Oratie Tilburg University, 2020, 66 p.
Anderen
CORNELIS, N., Kunstmatige intelligentie binnen rekrutering: hoe ver staat het al?, https://www.recruitmenttech.be/kunstmatige-intelligentie-binnen-recruitment-hoe-ver- staat-het-al/.
DE PAUW, K., AI: de slimme rekruteerder, https://www.fokus-online.be/business/it/ai-de- slimme-rekruteerder/.
DREXL, J., HILTY, R. M., BENEKE, DESAUNETTES, L., FINCK, M., GLOBOCNIK, J., GONZALEZ OTERO, B., HOFFMANN, J., HOLLANDER, L., KIM, D., RICHTER, H.,
SCHEUERER, S., SLOWINSKI, P. R. en THONEMANN, J., Technical aspects of artificial intelligence: an understanding from an intellectual property law perspective, Max Planck Institute for Innovation and Competition Research Paper Series, 2019, 1-15.
KAMARINOU, D., MILJARD, C. en SINGH, J., Machine learning with personal data, https://ssrn.com/abstract=2865811.
KPMG, Rapportage verwerking van risicosignalen voor toezicht, https://www.eerstekamer.nl/nonav/overig/20200710/rapportage_verwerking_van/docu ment.
MERIGOUX, D., ALAUZEN, M. en SLIMANI, L., Rules, Computation and Politics: Scrutinizing unnoticed programming choices in french housing benefits, https://hal.inria.fr/hal- 03712130v2.
OLSTHOORN, P., Big data voor fraudebestrijding, Wetenschappelijke Raad voor het Regeringsbeleid, 2016,
http://szwweb.adlibhosting.com/Details/..%5CPDF%5C72887.pdf, 213 p.
SMUHA, N., Advies over het wetsvoorstel van 6 april 2021 tot wijziging van de wet van 11 april 1994 betreffende de openbaarheid van bestuur, om meer transparantie te verschaffen over het gebruik van algoritmen door de overheid, https://kuleuven.limo.libis.be/discovery/fulldisplay?docid=lirias370024… chWebhook&vid=32KUL_KUL:Lirias&lang=en&search_scope=lirias_profile&adaptor=Se archWebhook&tab=LIRIAS&query=any,contains,lirias3700249.
X, Artificiële intelligentie ziet aan je ogen hoe het met je hart gesteld is, https://datanews.knack.be/ict/nieuws/artificiele-intelligentie-ziet-aan…- met-je-hart-gesteld-is/article-normal-1828935.html.
X, Het Facebook algoritme: hoe het werkt en hoe het te verslaan,
https://www.coolermedia.nl/facebook-algoritmes-werking-verslaan/.
X, Is artificiële intelligentie de heilige graal in de strijd tegen kanker?, https://www.knack.be/nieuws/gezondheid/is-artificiele-intelligentie-de-heilige-graal-in- de-strijd-tegen-kanker/.
X, Niss INSZ, https://www.ehealth.fgov.be/nl/page/niss-insz.
