Artificiële Intelligentie: Technologie van dromen of nachtmerries?
Artificiële Intelligentie (AI) komt steeds vaker voor in de maatschappij vaak zonder dat mensen hiervan op de hoogte zijn. Hoewel deze technologie vaak met de beste bedoelingen op de markt wordt gebracht, kan het onopgemerkt ongelijkheden in de maatschappij verder versterken. Het is echter mogelijk om dit te voorkomen en zelfs kan leiden tot het verminderen van ongelijkheden. Dit kan door het doordacht ontwikkelen van deze technologieën met behulp van mensen uit verschillende vakgebieden.
Kort even zoeken levert meerdere voorbeelden op waarbij artificiële intelligentie leidde tot het discrimineren van bepaalde bevolkingsgroepen. Het simpelste voorbeeld hiervan was een recruteringstool van Amazon. Deze tool werd gebruikt om de curricula vitae van mogelijke werknemers te screenen en de beste kandidaten eruit te halen. Kort nadat de technologie in gebruik werd genomen kwam er een opvallende trend naar boven. Het was namelijk zo dat het systeem zeer duidelijk mannen verkoos boven vrouwen voor de functies zoals ingenieurs. Een ander voorbeeld is het Amerikaanse COMPAS-systeem. Dit systeem werd gebruikt om risico-scores te berekenen voor mensen in voorhechtenis opdat zij opnieuw criminele feiten zouden plegen. De makers van het systeem verdedigen dat het systeem eerlijk is, hoewel het systeem zwarte en blanke mensen lijkt verschillend te behandelen.
Vooral het laatste voorbeeld zorgde voor veel oproer zowel in de legale wereld als in de technologie wereld. Uit onderzoek blijkt dat het niet mogelijk is om een applicatie te maken dat aan elke bedenkbare vorm van gelijke behandeling kan voldoen. Het is dus aan de ontwikkelaars van de technologie om een beslissing te maken over welk gedrag gezien wordt als discriminatie en welk niet.
Nu zou u kunnen denken dat het gewoonweg beter is om artificiële intelligentie links te laten liggen want de kans bestaat dat het discrimineert. Maar het alternatief voor een AI-systeem zijn vaak menselijke actoren. Hoewel een mens in veel gevallen nog steeds wenselijker is dan een computer kan men ook toegeven dat mensen niet onfeilbaar zijn. Sterker nog veel van het oneerlijk gedrag dat we zien in artificiële intelligentie komen uit het discriminerende gedrag van mensen waarop het systeem getraind is.
Daarom kan het wenselijk zijn om een AI-systeem te gebruiken in plaats van een mens als men zeker kan zijn dat dit AI-systeem niet discrimineert. Meerdere technieken zijn reeds ontwikkeld om een AI-systeem eerlijker te maken, maar de juiste technieken kiezen vergt een nauwe samenwerking tussen de ontwikkelaars van de applicatie en mensen met een sterke kennis van het gebied waarin de applicatie gebruikt zal worden.
Ook de Europese Unie is beseft zich het gevaar en ook voordeel dat artificiële intelligentie kan brengen. Dit wordt aangetoond door het wetsvoorstel gecreëerd door de EU. Dit wetsvoorstel bevat een kader waarin applicaties die mogelijks leiden tot het schenden van mensenrechten nauw gecontroleerd worden. Deze technologieën zullen geregistreerd worden en moeten grondig geanalyseerd zijn voordat ze op de markt geplaatst kunnen worden.
Hoewel artificiële intelligentie kan leiden tot het versterken van de vooroordelen in de maatschappij, zijn er steeds meer actoren die hun schouders zetten onder het voorkomen van dat fenomeen. Sterker nog het inzetten van een goed werkend en uitgedacht AI-systeem kan net bepaalde vooroordelen uit onze maatschappij verder terugdringen terwijl het helpt met het creëren van economische groei.
