MoralPersona Sandbox: A Testbed for Persona-Conditioned Moral Reasoning in LLMs
Universiteit Hasselt
2026
Hoewel moderne grote taalmodellen (LLM's) moeiteloos verschillende persona's kunnen aannemen via prompting, worden ze streng begrensd door ingebouwde veiligheidsregels en ethische richtlijnen van ontwikkelaars. Wanneer dergelijke AI-systemen geconfronteerd worden met complexe, ethisch situaties, vallen ze vaak terug op een algemeen standaardantwoord. Dit onderzoek brengt deze kloof, die bekend staat als de "personality illusion" in kaart. Hiervoor werd de MoralPersona Sandbox ontwikkeld: een modulair softwareplatform dat de omgevingscontext, het psychologische profiel (gebaseerd op het Big Five OCEAN-model) en het onderliggende taalmodel strikt van elkaar isoleert. Om te valideren of dergelijke modellen daadwerkelijk menselijk gedrag weerspiegelen, werd een empirische gebruikersstudie uitgevoerd met 71 deelnemers. Deelnemers koppelden hun eigen psychologische profiel aan AI-configuraties en doorliepen 6 diverse morele dilemma's.
De resultaten tonen aan dat deelnemers de tegenovergestelde persoonlijkheidsagenten weliswaar betrouwbaar als 'minst overeenstemmend' aanduidden, maar dat er tegelijkertijd een sterke personality illusion optreedt: slechts een beperkte groep herkende hun eigen gepersonaliseerde agent als de beste match. Bovendien bleek de sturing minimaal; beslissingsomslagen vonden slechts in 2,35% van de gevallen plaats. Dit duidt erop dat hoewel LLM's uitblinken in stilistisch rollenspel, ze fundamentele moeite hebben met het spiegelen van authentieke menselijke, morele redeneerpatronen.
Meer lezen