Meer toegang, minder controle: een experimenteel onderzoek naar AI-Governance in managementbeslissingen.

Elke organisatie van de grootste multinational, tot een lokaal boekhoudingskantoor voelt dezelfde druk: adopteer AI of raak achterop. De discussie is verschoven van of kunstmatige intelligentie geïntegreerd moet worden, naar hoe. Wij stelden ons de vraag of het antwoord op die vraag meer uitmaakt dan de meeste organisaties beseffen. Onze thesis suggereert van wel, en de implicaties zijn verontrustend.

Het experiment

Zevenentwintig masterstudenten en recent afgestudeerden werden verdeeld in negen

 teams van drie. Elk team speelde een rol binnen het managementteam bij E-Trax BV, een fictieve Belgische fabrikant van elektrische steps in een existentiële crisis: een terugroepactie van 12.500 voertuigen, een liquiditeitscrisis, dreigende rechtszaken en een uittocht van sleutelmedewerkers. Hun opdracht: bouw een geloofwaardig herstelplan op in 120 minuten. De case bevatte twee cruciale twists: elk teamlid beschikte over een andere set informatie, en niet elke groep had dezelfde toegang tot AI. 

Drie teams werkten zonder AI, enkel met een zoekmachine. Drie teams hadden gedeelde toegang tot één AI-terminal, als een collectieve externe consultant. Drie teams hadden onbeperkte, individuele toegang, waarbij elke deelnemer zijn eigen AI-assistent kon gebruiken.

We registreerden alles: de presentaties, de gesprekken, de AI-chatlogs en een bevraging achteraf. Vier meetinstrumenten gaven ons zowel de kwaliteit van de uiteindelijke beslissingen als het proces erachter.

Wat we ontdekten

De belangrijkste bevinding is ook de meest contra intuïtieve: meer AI-toegang leidde niet tot betere resultaten. Het leidde tot meer ongelijke resultaten.

De groep met onbeperkte individuele toegang bevatte het best presterende team van het volledige experiment, maar ook twee van de zwakste. De teams met gedeelde, beperkte toegang scoorden consistent goed op alle vijf de beoordelingsdimensies: strategische coherentie, analytische strengheid, haalbaarheid, transparantie over afwegingen en ethische overweging. Ze waren nooit de besten. Ze waren nooit de slechtsten. Ze waren consequent solide.

De teams zonder AI produceerden iets wat we niet verwachtten. Ze rapporteerden het hoogste vertrouwen in hun beslissingen. Hun presentaties waren evenwichtig en ethisch betrokken. Wat ze niet konden, was grote hoeveelheden data even effectief verwerken. Toch waren de beslissingen die ze maakten hun eigen beslissingen.

AI functioneert als een vergrootglas, niet als een gelijkmaker. Het vergroot wat teams al meebrengen. Wanneer een team het conceptuele kader heeft om AI precies aan te sturen, de outputs kritisch te bevragen en het op een juiste manier integreert in het team, levert onbeperkte toegang uitzonderlijke resultaten op. Wanneer dat kader ontbreekt, neemt de AI het stuur over van de deelnemers en wordt de output vrijwel altijd onkritisch overgenomen. 

De paradox van vertrouwen

Een van de scherpste bevindingen kwam uit de bevraging. Deelnemers met volledige AI-toegang rapporteerden het laagste strategische vertrouwen, ondanks de krachtigste analytische ondersteuning. Dat is minder vreemd dan het klinkt.

Wanneer AI de vroege fasen van probleemoplossing overneemt, zoals het filteren

 van informatie en het structureren van een antwoord, verschuift de menselijke deelnemer van het bouwen van een oplossing naar het kiezen tussen door AI gegenereerde opties. De keuze wordt gemaakt, maar de beslissing niet. Managers in de volledige AI-conditie konden niet altijd uitleggen waar hun conclusies vandaan kwamen. Dat is een probleem voor verantwoording én voor overtuigingskracht, vooral wanneer de beslissing de foute blijkt te zijn.

Gedeelde toegang vermeed deze val. Omdat het team samen één terminal moest aansturen, werden deelnemers gedwongen hun probleem eerst aan elkaar te verwoorden. De AI steunde het denken van de groep, in plaats van het te vervangen.

De ethische bevinding

Het statistisch meest robuuste resultaat betreft ethiek, en dat zou organisaties zorgen moeten baren.

In de geluidsopnames uitten de drie condities in vergelijkbare frequentie ethische bedenkingen. Maar in de uiteindelijke presentaties was er een opvallende kloof. Teams met gedeelde toegang scoorden significant hoger op ethische overweging dan beide andere condities. De conditie met volledige toegang scoorde het laagst.

De verklaring ligt in wat er gebeurde tussen de discussie en de eindoplevering. Ethische overwegingen, moeilijker te kwantificeren dan financiële doelstellingen, werden wel geopperd maar haalden de uiteindelijke presentatie niet.

Dit bleef niet bij theorie. In gedocumenteerde gevallen laadden deelnemers personeelsdossiers op in AI-systemen zonder ze zelf te lezen, ontvingen ze aanbevelingen over individuele medewerkers op basis van onvolledige informatie, en namen ze die aanbevelingen over in ingrijpende HR-beslissingen, waaronder degradaties en ontslagen, zonder kritische toetsing. Twee medewerkers werden door de AI als risicoprofielen aangemerkt. Hun lot in de simulatie werd in belangrijke mate bepaald door algoritmische aanbevelingen.

Onder de Europese AI-verordening worden tools voor personeelsbeoordeling geclassificeerd als hoog-risicosystemen. Ze vereisen menselijk toezicht en traceerbaarheid. Wat dit experiment aantoont, is dat onbeperkte AI-toegang zonder governance-structuren dat toezicht stelselmatig kan ondermijnen.

Wat dit betekent voor organisaties

Drie praktische conclusies volgen uit deze bevindingen.

Ten eerste is de architectuur van AI-toegang een governance-vraag, geen technologische vraag. Of medewerkers AI individueel of collectief gebruiken, beperkt of onbeperkt, bepaalt hoe ze denken, samenwerken en welke ethische overwegingen de eindoplevering halen. Organisaties die AI-implementatie behandelen als een kwestie van licenties en toegangsrechten missen de meest bepalende variabele.

Ten tweede is de zelfverzekerde, deliberatieve en ethisch betrokken beslisser die de no-AI-conditie blootlegt geen inefficiëntie die vervangen moet worden. Kritisch engagement, cognitief eigenaarschap en ethische waakzaamheid zijn precies de capaciteiten die AI-governance-kaders proberen te beschermen.

Ten derde zijn AI-ethiekcommissies geen luxe. Wanneer personeelsbeslissingen beïnvloed worden door AI-aanbevelingen op basis van onvolledige data, en wanneer die aanbevelingen onbetwist blijven omdat geen governance-structuur dat vereist, heeft de organisatie al een juridische en ethische aansprakelijkheid opgelopen. Ze weet het alleen nog niet.

Het grote geheel

Niet of AI organisaties helpt beslissingen te nemen, maar onder welke voorwaarden het hen helpt goede beslissingen te nemen: dat is de urgente vraag. Het antwoord, op basis van wat we observeerden, is dat beperkte, gedeelde toegang meer doet om de deliberatieve kwaliteit van ingrijpende managementbeslissingen te bewaren dan onbeperkte individuele toegang.

Dat is een ontwerpkeuze. En het is er een die de meeste organisaties nog niet bewust maken.