ARTIFICIËLE INTELLIGENTIE (AI) EN BETEKENISVOLLE TRANSPARANTIE; Een onvermijdelijke contradictio in terminis?
Artificiële Intelligentie (AI) is vandaag de dag niet meer weg te denken uit onze huidige samenleving. Het is een onvermijdelijk gegeven dat AI een steeds prominentere rol in onze maatschappij inneemt en structureel verankerd zit in de werking ervan. Hoewel AI-systemen het potentieel bezitten om een brede waaier van maatschappelijke voordelen en economische groei te genereren, kan het gebruik van AI met haar specifieke kenmerken een aantal fundamentele in het EU-Handvest verankerde grondrechten negatief beïnvloeden, zoals het recht op bescherming van persoonsgegevens.
In het Unierecht wordt gegevensbescherming gereguleerd door de Algemene Verordening Gegevensbescherming (AVG), het huidig wetgevend kader dat de verwerking van persoonsgegevens regelt. En dit ongeacht de middelen die voor de verwerking worden gebruikt (een eenvoudig computerprogramma, een complex AI-systeem of gewoon een mens).
Transparantie versus black box
AI is een fenomeen dat de bestaande kaders in vraag doet stellen. In het bijzonder creëren het gebruik en de aard van AI, met name de ondoorzichtigheid, de complexiteit en het autonoom gedrag, juridische uitdagingen voor de toepassing van het transparantiebeginsel, een van de essentiële beginselen van de AVG. Dit beginsel stelt voorop dat persoonsgegevens ten aanzien van betrokkenen (i.e. de personen wiens persoonsgegevens worden verwerkt) op een transparante manier worden verwerkt en houdt onder meer de verplichting in voor verwerkingsverantwoordelijken om betrokkenen op gemakkelijk toegankelijke manier te informeren over hoe en welke persoonsgegevens worden verwerkt.
Hoewel de AVG reeds toepasselijk is op de verwerking van persoonsgegevens door AI-systemen, kunnen bepaalde reeds eerder vernoemde unieke eigenschappen van deze systemen voor problemen zorgen bij de toepassing van deze regelgeving. Door hun complexe en ondoorzichtige besluitvorming en zelflerend karakter, wordt het inzicht in de gegevensverwerking door deze AI-systemen beperkt. Zo bezitten deze AI-systemen het vermogen om enorme hoeveelheden data te verwerken op steeds complexere en (soms) minder transparante manieren, waardoor het transparantiebeginsel, zoals omschreven in de AVG, niet vanzelfsprekend toepasbaar is in de context van AI. Deze AI-systemen laten niet toe te achterhalen waarom het algoritme een welbepaalde beslissing heeft genomen. In dit geval is er sprake van een zwarte doos, ook wel een black box genaamd waarbij de interne operaties van het systeem niet transparant zijn waardoor het inzicht in de werking ervan wordt beperkt.
Om te vermijden dat het black box-karakter van AI-systemen een gebrek aan transparantie veroorzaakt, achtte de Raad van de Europese Unie het noodzakelijk de unieke eigenschappen van AI-systemen aan te pakken opdat deze geautomatiseerde systemen verenigbaar zouden zijn met het gegevensbeschermingsrecht. Om hieraan tegemoet te komen publiceerde de Europese Commissie op 21 april 2021 de AI-act.
Betekenisvolle transparantie
De AVG en de AI-act bevatten beiden transparantieverplichtingen. Zodoende te kunnen oordelen of de AI-act in staat is om samen met de AVG betekenisvolle transparantie te verzekeren ten aanzien van personen wiens (persoons)gegevens door AI-systemen worden verwerkt, werd een eigen ontwikkelde theoretische conceptualisering van betekenisvolle transparantie naar voor geschoven. Deze conceptualisering wordt vertaald in onderstaand transparantiekader waarin de verschillende transparantievereisten van beide rechtsinstrumenten kunnen worden ingepast.
Het concept betekenisvolle transparantie omvat op horizontaal niveau twee dimensies, met name een verklaarbaarheidsdimensie en een controledimensie. In eerste instantie dient transparantie vanuit een informerende dimensie (i.e. de dimensie verklaarbaarheid) te worden beoordeeld waarbij transparantie een belangrijk instrument is om eventuele informatieasymmetrie tussen de persoon die wordt onderworpen aan het AI-systeem en de verwerkingsverantwoordelijke te corrigeren. In deze dimensie worden bijgevolg transparantieverplichtingen (onder de vorm van informatieverplichtingen) ingepast die volgens de wetgever “inzicht” bieden in de verschillende fasen van de gegevensverwerking (input, proces en output) door het AI-systeem zodat de ontvanger van de informatie autonoom de verwerking van (persoons)gegevens door het AI-systeem kan doorzien en begrijpen. Deze dimensie omvat eveneens een belangrijk relationeel aspect dat de nadruk legt op het gegeven dat informatieverstrekking maar transparantie zal bewerkstelligen als de verstrekte informatie tegemoetkomt aan de informatiebehoeften van de ontvanger.
Betekenisvolle transparantie vereist niet alleen een verklaarbaarheidsdimensie, maar vereist eveneens een controledimensie. Controle wordt als inherent onderdeel van betekenisvolle transparantie beschouwd, aangezien transparantie maar zinvol kan zijn wanneer het onder meer doeltreffende controle over (persoons)gegevens mogelijk maakt. Gaat het over de controle-dimensie, dan gaat het over controlemechanismen die controle toelaten over de (persoons)gegevens in de inputfase, in de procesfase en in de outputfase.
Er worden twee vormen van controle geïdentificeerd, in functie van de doelstelling ervan. De eerste doelstelling is veiligheid en precisie. Deze vorm van controle benadrukt het belang van de menselijke autonomie. Controlemechanismen nemen in dit opzicht de vorm aan van menselijke tussenkomst/menselijk toezicht of een verbod op het gebruik op het gebruik van AI-systemen voor de verwerking van (persoons)gegevens. Deze vorm van controle is gelinkt aan transparantie, vermits menselijke tussenkomst/toezicht maar nuttig en doeltreffend kan zijn als de persoon door wie dit wordt uitgeoefend over voldoende informatie beschikt over de werking van het AI-systeem. Deze transparantie kan dus ook betekenisvol zijn omdat ze bijdragen aan de controle die de aan het AI-systeem onderworpen personen kunnen uitoefenen over hun (persoons)gegevens.
De tweede doelstelling van controle heeft te maken met de procedurele rechtvaardigheid en eerlijkheid. In dit opzicht is controle gelieerd aan informatie die de ontvanger van deze informatie moet toelaten de werking en de prestaties van de verwerkingsverantwoordelijke te begrijpen, en zo nodig te ageren door zijn subjectieve rechten tegenover de verwerkingsverantwoordelijke uit te oefenen.
Kortom, betekenisvolle transparantie impliceert dus enerzijds maximale reductie van de informatieasymmetrie in de verschillende fasen van de gegevensverwerking (verklaarbaarheidsdimensie) en anderzijds doeltreffende controle over (persoons)gegevens (controledimensie).
Relevantie
Dit kader vormt een analysekader aan de hand waarvan beleidsmakers visueel kunnen waarnemen in welke mate de transparantieverplichtingen in wetgevende instrumenten daadwerkelijk betekenisvolle transparantie verzekeren, alsook welke de grenzen zijn met betrekking tot de wijze waarop de transparantievereisten daarin omschreven worden. Op deze manier biedt het kader eveneens een belangrijke basis voor het in kaart brengen en remediëren van de juridische uitdagingen en pijnpunten in verband met AI en transparantie gedurende de volledige gegevensverwerkingscyclus.
