AI als zondebok: waarom burgers dat niet slikken
NIEUWSARTIKEL · BESTUURSKUNDE & AI
AI als zondebok: waarom burgers dat niet slikken
Wanneer een overheidsalgoritme burgers onterecht benadeelt, herstelt het vertrouwen in de verantwoordelijke leidinggevende aanzienlijk beter als die zelf de schuld op zich neemt. Wie naar het systeem of de leverancier wijst, blijft met een beschadigd vertrouwen zitten. Dat blijkt uit een experiment met 93 Belgen.
Door Alex Depinois – masterproef Bestuurskunde en Publiek Management, Universiteit Gent (promotor: Prof. dr. Tessa Haesevoets)
Een algoritme van de Nederlandse Belastingdienst bestempelde jarenlang tienduizenden ouders ten onrechte als fraudeur. Dit is geen geïsoleerd incident, ook elders liep geautomatiseerde besluitvorming bij overheden ernstig mis. Zulke fouten roepen niet alleen vragen op over de technologie zelf, maar ook over wat er daarna gebeurt. Hoe kan een overheid het vertrouwen herstellen wanneer een AI-systeem burgers heeft benadeeld? En maakt het uit wie daarvoor de verantwoordelijkheid opneemt?
Een fictieve gemeente, drie metingen
In het survey-experiment lazen 93 deelnemers over de fictieve gemeente Veldburg. De sociale dienst gebruikt er een AI-systeem dat aanvragen voor bijstand en premies beoordeelt. Het systeem formuleert een advies, waarna medewerkers de uiteindelijke beslissing nemen. Het experiment verliep in drie stappen.
Eerst maakten alle deelnemers kennis met de sociale dienst en directeur Delvaux, die het AI-systeem twee jaar eerder had ingevoerd. Daarna gaven ze voor het eerst aan hoeveel vertrouwen ze hadden in de dienst en de directeur.
Vervolgens lazen ze een nieuwsbericht waarin duidelijk werd dat het AI-systeem gedurende anderhalf jaar bij 340 inwoners ten onrechte een tegemoetkoming had geweigerd. Hier varieerde het type fout. De ene groep las over een technische fout, veroorzaakt door een fout in de rekenlogica en verouderde wettelijke parameters. De andere groep kreeg een scenario waarin wijken met een hogere concentratie van mensen met een migratieachtergrond systematisch werden benadeeld. Daarna werd het vertrouwen een tweede keer gemeten.
Figuur 1. Elke deelnemer las één van vier versies. Alle versies bevatten dezelfde verontschuldiging, met erkenning van de schade en de belofte van herstel.
Tot slot lazen de deelnemers een publieke verontschuldiging van directeur Delvaux. Ook die boodschap varieerde. In de ene versie nam de directeur zelf verantwoordelijkheid voor wat was misgelopen. In de andere legde hij de oorzaak bij de externe technologieleverancier en kondigde hij juridische stappen tegen het bedrijf aan. Na die verontschuldiging werd het vertrouwen voor een derde en laatste keer gemeten.
Iedereen verliest vertrouwen, maar niet iedereen wint het terug
Na het nieuwsbericht daalde het vertrouwen in alle versies met ongeveer een punt op zeven. De analyse vond dus geen statistisch significant verschil tussen beide foutenversies.
Het verschil zat in de verontschuldiging. Nam de directeur zelf de verantwoordelijkheid, dan won hij het verloren vertrouwen niet alleen terug, hij deed er zelfs een stuk bij. Wees hij naar de leverancier, dan kwam gemiddeld slechts 55 tot 68 procent terug. Het vertrouwen bleef hier na de verontschuldiging onder het beginniveau.
Figuur 2. Vertrouwen in de directeur (gemiddelde over beide faaltypes). Blauw: directeur neemt zelf verantwoordelijkheid. Rood: schuld bij de leverancier.
Dit verschil was groot en statistisch duidelijk. Het bleef ook overeind toen de onderzoeker corrigeerde voor de betrokkenheid van de deelnemers bij overheidsbeslissingen en hun vertrouwdheid met AI.
Voor de dienst is het bewijs minder duidelijk
Voor het vertrouwen in de dienst als geheel wees het patroon in dezelfde richting, maar het verschil haalde net niet de gebruikelijke grens voor statistische significantie (p = .051). Een mogelijke verklaring is dat een verontschuldiging vooral iets zegt over de persoon die haar uitspreekt. Wie openlijk verantwoordelijkheid opneemt, kan daarmee eerlijkheid en verantwoordelijkheidszin signaleren. Dat kan verklaren waarom het effect vooral zichtbaar was in het vertrouwen in de directeur.
Figuur 3. Aandeel van het verloren vertrouwen dat terugkwam. Boven 100% ligt het vertrouwen hoger dan vóór het incident.
Het algoritme als zondebok
Een algoritme lijkt een handige zondebok: niet de organisatie faalde, maar het systeem. Onderzoekers noemen dit fenomeen een “moral crumple zone” of “algorithmic scapegoating”, de neiging om verantwoordelijkheid af te schuiven naar het algoritme, dat in het verhaal een soort schuldige eigen wil krijgt toebedeeld. Voor bestuurders is dat een verleidelijke uitweg.
De resultaten suggereren dat het afschuiven van verantwoordelijkheid geen goede strategie is. Wie naar de externe technologieleverancier wees, herstelde duidelijk minder vertrouwen dan wie zelf verantwoordelijkheid opnam.
Verantwoordelijkheid nemen is niet hetzelfde als de feiten verdraaien. Het advies is niet om altijd alle schuld op je te nemen, ook als de oorzaak elders ligt. Dat zou misleiding zijn, en die kan zich bij een latere onthulling tegen je keren. Het gaat om systeemverantwoordelijkheid: erkennen dat de organisatie zelf koos voor dit systeem en instond voor het toezicht erop. Dat is ook bij een fout van de leverancier waar. Het juridische verhaal met die leverancier kan achter de schermen gewoon verder lopen.
Verrassend: het type fout deed er niet toe
Eerder onderzoek in bedrijven suggereerde dat het beste antwoord afhangt van het type fout, dat patroon werd hier niet gevonden. Eerlijk verantwoordelijkheid nemen bleek in beide gevallen de beste keuze.
Daarbij is wel enige voorzichtigheid nodig: in de scenario's met de discriminerende fout slaagde ongeveer de helft van de deelnemers niet voor de manipulatiecheck. Dat kan erop wijzen dat het onderscheid tussen beide fouttypes onvoldoende scherp werd opgepikt.
Grenzen van het onderzoek
Het gaat om een fictief scenario met een beperkte groep, geen echte crisis. Het herstel werd bovendien meteen na de verontschuldiging gemeten, dus het is onbekend of het effect blijft duren. Vervolgonderzoek moet ook uitwijzen of de boodschap even goed werkt wanneer een anonieme woordvoerder spreekt in plaats van een herkenbare leidinggevende.
Voor bestuurders die ooit met een AI-fout worden geconfronteerd, is de boodschap duidelijk: vertrouwen wordt niet hersteld door de oorzaak aan te wijzen, maar door de verantwoordelijkheid op te nemen.
Bibliografie
Alon-Barkat, S., & Busuioc, M. (2023). Human–AI interactions in public sector decision making:
“Automation bias” and “selective adherence” to algorithmic advice. Journal of Public Administration
Research and Theory, 33(1), 153–169. https://doi.org/10.1093/jopart/muac007
Alon-Barkat, S., Busuioc, M., Schwoerer, K., & Weißmüller, K. S. (2025). Algorithmic discrimination in
public service provision: Understanding citizens’ attribution of responsibility for human versus
algorithmic discriminatory outcomes. Journal of Public Administration Research and Theory, 35(4),
469–488. https://doi.org/10.1093/jopart/muaf024
Amnesty International. (2021). Xenophobic machines: Discrimination through unregulated use of algorithms
in the Dutch childcare benefits scandal. Amnesty International.
Aoki, N. (2020). An experimental study of public trust in AI chatbots in the public sector. Government
Information Quarterly, 37(4), 101490. https://doi.org/10.1016/j.giq.2020.101490
Bovens, M., & Zouridis, S. (2002). From street-level to system-level bureaucracies: How information and
communication technology is transforming administrative discretion and constitutional control.
Public Administration Review, 62(2), 174–184. https://doi.org/10.1111/0033-3352.00168
Busuioc, M. (2021). Accountable artificial intelligence: Holding algorithms to account. Public Administration
Review, 81(5), 825–836. https://doi.org/10.1111/puar.13293
Coombs, W. T. (2007). Protecting organization reputations during a crisis: The development and
application of Situational Crisis Communication Theory. Corporate Reputation Review, 10(3), 163–
176. https://doi.org/10.1057/palgrave.crr.1550049
de Bruijn, H., Warnier, M., & Janssen, M. (2022). The perils and pitfalls of explainable AI: Strategies for
explaining algorithmic decision-making. Government Information Quarterly, 39(2), 101666.
https://doi.org/10.1016/j.giq.2021.101666
Dirks, K. T., Lewicki, R. J., & Zaheer, A. (2009). Repairing relationships within and between organizations:
Building a conceptual foundation. Academy of Management Review, 34(1), 68–84.
https://doi.org/10.5465/amr.2009.35713285
Europese Commissie. (2024). Verordening (EU) 2024/1689 tot vaststelling van geharmoniseerde regels
betreffende artificiële intelligentie (AI Act). Publicatieblad van de Europese Unie.
Glikson, E., & Woolley, A. W. (2020). Human trust in artificial intelligence: Review of empirical research.
Academy of Management Annals, 14(2), 627–660. https://doi.org/10.5465/annals.2018.0057
Grimmelikhuijsen, S. (2023). Explaining why the computer says no: Algorithmic transparency affects the
perceived trustworthiness of automated decision-making. Public Administration Review, 83(2),
241–262. https://doi.org/10.1111/puar.13483
Grimmelikhuijsen, S., & Knies, E. (2017). Validating a scale for citizen trust in government organizations.
International Review of Administrative Sciences, 83(3), 583–601.
https://doi.org/10.1177/0020852315585950
Grimmelikhuijsen, S. G., Porumbescu, G., Hong, B., & Im, T. (2013). The effect of transparency on trust in
government: A cross-national comparative experiment. Public Administration Review, 73(4), 575–
586. https://doi.org/10.1111/puar.12047
Janssen, M., & van den Hoven, J. (2015). Big and open linked data (BOLD) in government: A challenge to
transparency and privacy? Government Information Quarterly, 32(4), 363–368.
https://doi.org/10.1016/j.giq.2015.11.007
Kim, P. H., Dirks, K. T., Cooper, C. D., & Ferrin, D. L. (2006). When more blame is better than less: The
implications of internal vs. external attributions for the repair of trust after a competence- vs.
integrity-based trust violation. Organizational Behavior and Human Decision Processes, 99(1), 49–
65. https://doi.org/10.1016/j.obhdp.2005.07.002
Kim, P. H., Ferrin, D. L., Cooper, C. D., & Dirks, K. T. (2004). Removing the shadow of suspicion: The
effects of apology versus denial for repairing competence- versus integrity-based trust violations.
Journal of Applied Psychology, 89(1), 104–118. https://doi.org/10.1037/0021-9010.89.1.104
Kim, T., & Song, H. (2021). How should intelligent agents apologize to restore trust? Interaction effects
between anthropomorphism and apology attribution on trust repair. Telematics and Informatics, 61,
101595. https://doi.org/10.1016/j.tele.2021.101595
Lewicki, R. J., & Bunker, B. B. (1996). Developing and maintaining trust in work relationships. In R. M.
Kramer & T. R. Tyler (Eds.), Trust in organizations: Frontiers of theory and research (pp. 114–139).
Sage.
Mayer, R. C., Davis, J. H., & Schoorman, F. D. (1995). An integrative model of organizational trust.
Academy of Management Review, 20(3), 709–734. https://doi.org/10.2307/258792
Meijer, A., & Grimmelikhuijsen, S. (2020). Responsible and accountable algorithmization: How to generate
citizen trust in governmental usage of algorithms. In M. Schuilenburg & R. Peeters (Eds.), The
algorithmic society: Technology, power, and knowledge (pp. 53–66). Routledge.
OECD. (2022). Building trust to reinforce democracy: Main findings from the 2021 OECD survey on drivers
of trust in public institutions. OECD Publishing. https://doi.org/10.1787/b407f99c-en
Pareek, S., Velloso, E., & Goncalves, J. (2024). Trust development and repair in AI-assisted decisionmaking during complementary expertise. In Proceedings of the 2024 ACM Conference on
Pareek, S., Velloso, E., & Goncalves, J. (2024). Trust development and repair in AI-assisted decisionmaking during complementary expertise. In Proceedings of the 2024 ACM Conference on
Fairness, Accountability, and Transparency (FAccT ’24). ACM.
https://doi.org/10.1145/3630106.3658924
Reeder, G. D., & Brewer, M. B. (1979). A schematic model of dispositional attribution in interpersonal
perception. Psychological Review, 86(1), 61–79. https://doi.org/10.1037/0033-295X.86.1.61
Schiff, D. S., Schiff, K. J., & Pierson, P. (2022). Assessing public value failure in government adoption of
artificial intelligence. Public Administration, 100(3), 653–673. https://doi.org/10.1111/padm.12742
Selten, F., Robeer, M., & Grimmelikhuijsen, S. (2023). ‘Just like I thought’: Street-level bureaucrats trust AI
recommendations if they confirm their professional judgment. Public Administration Review, 83(2),
263–278. https://doi.org/10.1111/puar.13602
Tomlinson, E. C., Dineen, B. R., & Lewicki, R. J. (2004). The road to reconciliation: Antecedents of victim
willingness to reconcile following a broken promise. Journal of Management, 30(2), 165–187.
https://doi.org/10.1016/j.jm.2003.01.003
van Bekkum, M., & Zuiderveen Borgesius, F. (2021). Digital welfare fraud detection and the Dutch SyRI
judgment. European Journal of Social Security, 23(4), 323–340.
https://doi.org/10.1177/13882627211031257
Van de Walle, S., & Bouckaert, G. (2003). Public service performance and trust in government: The
problem of causality. International Journal of Public Administration, 26(8–9), 891–913.
https://doi.org/10.1081/PAD-120019352
Van Thiel, S. (2021). Bestuurskundig onderzoek: Een methodologische inleiding (4e druk). Coutinho.
Weiner, B. (1986). An attributional theory of motivation and emotion. Springer. https://doi.org/10.1007/978-
1-4612-4948-1
Wirtz, B. W., Weyerer, J. C., & Geyer, C. (2019). Artificial intelligence and the public sector — Applications
and challenges. International Journal of Public Administration, 42(7), 596–615.
https://doi.org/10.1080/01900692.2018.1498103
Young, M. M., Bullock, J. B., & Lecy, J. D. (2019). Artificial discretion as a tool of governance: A framework
for understanding the impact of artificial intelligence on public administration. Perspectives on
Public Management and Governance, 2(4), 301–313. https://doi.org/10.1093/ppmgov/gvz014
