Computer says yes: worden overheidsbeslissingen in de toekomst genomen door artificieel intelligente systemen?
Artificiële intelligentie: een basisnotie
Heden ten dage zijn de termen big data, datamining en -matching, algoritmen en artificiële intelligentie niet meer weg te denken uit de media. Dit is terecht gezien het feit dat de wetenschap op dit terrein met rasse schrede vooruitgang boekt waardoor deze technologieën meer en meer hun toepassing vinden in de meest ondenkbare en uiteenlopende domeinen van de private sector. Een klassiek voorbeeld hiervan is het algoritme van Facebook dat op basis van eerder surfgedrag en opgeslagen cookies beslist welke artikels je op je nieuwsoverzicht te zien krijgt. Hiermee zijn we er nog niet. Ook in de gezondheidszorg tast men de inherent verbonden voordelen en grenzen van deze technologie af. Zo laat AI op heden toe aan iemands ogen te zien hoe groot de kans op een hartaanval is en faciliteert ze de vroegtijdige opsporing van borstkanker.
Artificiële intelligentie in de publieke sector
De gediversifieerde toepassing en de inherent verbonden voordelen van deze technologie in de private sector ontgaan ook de uitvoerende macht niet. Met toenemende mate en verschillende intensiteit zet tegenwoordig ook zij in op het gebruik van geavanceerde technologieën zoals datamining, datamatching en algoritmen om de complexe bestuurswerkelijkheid te vatten en te transponeren naar objectiverende absolute waarden.
Prima facie lijkt dit hand in hand te gaan met een efficiëntere en objectievere besluitvorming. Het behoeft geen betoog dat algoritmen administratieve (backoffice) taken van een overheidsdienst kunnen ondersteunen zoals het automatisch doorsturen van binnengekomen documenten en het gebruik van chatbots in de directe dienstverlening naar de burgers. Niettemin worden algoritmen meer en meer ingezet in (of ter ondersteuning van) het bestuurlijke besluitvormingsproces waarbij besluiten geheel of gedeeltelijk gebaseerd worden op de output van die algoritmen. Zo faciliteren ze fraudeopsporing en, naarmate de technologie verder evolueert, ook het nemen van individuele beslissingen zonder menselijke tussenkomst. Deze algoritmen zijn echter zowel voor burgers, voor ambtenaren en rechters niet inzichtelijk en worden vaak omschreven als een ‘black-box’. Zo is de burger vaak niet op de hoogte van het feit dat men gebruik maakt van algoritmische systemen en heeft men weinig inzicht in de manier van werking en ontwikkeling van het systeem door de eraan inherent verbonden techniciteit, het zelflerende karakter of de uitbesteding aan private ontwikkelaars. Daarenboven is vaak niet inzichtelijk hoe de gebruikte gegevens verzameld werden en of ze wel juist zijn.
Aandacht voor transparantie?
Dit gebrek aan transparantie wordt zowel op supranationaal als op nationaal niveau onderstreept. Zo ontwikkelde de Nederlandse Algemene Rekenkamer een toetsingskader voor algoritmen met als uitgangspunt te komen tot een efficiëntere overheid. Algoritmen zijn hierin een middel en geen doel hetgeen ertoe moet nopen het gebruik ervan zo transparant mogelijk in te richten. Dit is vereist opdat burgers op de hoogte zijn van het gebruik van dergelijke systemen en inzichtelijk is hoe een overheidsbesluit tot stand komt en waarop het is gebaseerd. Hier knelt potentieel het schoentje. Gezien het feit dat dergelijke systemen vaak ondersteunend gebruikt worden en er een stilzwijgen heerst omtrent het gebruik ervan, opereren deze systemen vaak geheel in de schaduw van onze rechtstaat. Hier komt bij dat de informatie die daadwerkelijk tot inzichtelijkheid en transparantie moet leiden eenvoudigweg niet bestaat of wel bestaat maar niet in handen is van de overheid die het systeem gebruikt.
Het is een onmiskenbare waarheid dat onze democratische rechtstaat er alle belang bij heeft het gebruik van algoritmische systemen door de overheid te reguleren. De meest voor de hand liggende conclusie van een onderzoek naar de aanwending van algoritmische systemen in de overheidsbesluitvorming lijkt dat ook dat ons huidig arsenaal aan – nogal technologisch conservatieve, op zijn minst weinig evolutieve – rechtsregels niet afdoende waarborgen biedt teneinde een transparante aanwending van algoritmische systemen in de overheidsbesluitvorming te faciliteren. Dit moet genuanceerd worden. Daargelaten dat we ons nog maar aan het prille begin van deze technologische mogelijkheden bevinden en verbetering vanuit wetenschappelijke hoek hoogstwaarschijnlijk op komst is, is het in tussentijd wel aangewezen een en ander te herbekijken opdat situaties zoals de eenieder welbekende Toeslagenaffaire in Nederland vermeden kunnen worden.
Regulering op komst?
De lege lata lijkt dergelijke regulering mogelijk binnen het contentieux van de openbaarheid van bestuur. De openbaarheid van bestuur noopt immers de administratieve overheid tot openheid, transparantie en duidelijke communicatie naar de rechtsonderhorige, zij het actief (uit eigen initiatief van de overheid), zij het op verzoek van die rechtsonderhorige.
Dit lijkt de Belgische wetgever niet te zijn ontgaan. In navolging van het wetgevend initiatief in Frankrijk ligt er reeds sedert 2021 een – overigens sterk op dat Franse initiatief gelijkend – wetsvoorstel op tafel waarmee de wetgever tracht de technologische ontwikkelingen bij te benen. Hoe zeer men ook wil laten zien dat men ermee bezig is zou men er goed aan doen op een aantal vlakken duiding te brengen. Hierbij lijkt de te bewandelen weg een multidisciplinair overleg tussen software ontwikkelaars, ethici, beleidsmakers en juristen gezien het feit dat dergelijke systemen zich niet makkelijk laten definiëren en vatten in een afgedicht wettelijk kader.
Een eerste stap in de juiste richting is hierbij het lanceren van een – naar analogie met het in Nederland gelanceerde - gecentraliseerd online algoritmeregister. Dit is een website die de burger op de hoogte stelt van het feit dat algoritmische systemen in de besluitvorming gebruikt worden, welke systemen gebruikt worden en die de burgers toelaten een uitleg te verkrijgen omtrent hun algemene werking. In afwachting van technologieneutrale wetgeving inzake artificiële intelligentie zou dergelijk online register in combinatie met een nationale ethische code met ethische principes en richtlijnen niet alleen een tussentijdse bescherming voor de rechtsonderhorige waarborgen, maar ook de overheid die dergelijke systemen gebruikt een houvast kunnen bieden. Op heden is het immers zo dat de inherente risico’s die verbonden zijn aan algoritmische systemen de nagestreefde voordelen bij het gebruik ervan lijken in te halen.
