De rechterlijke macht en AI. Een juridisch-filosofische beschouwing.

Ann-Katrien Oimann
In mijn scriptie heb ik onderzocht of er limieten zijn om artificiële intelligentie in maatschappelijke gebieden te implementeren. Dit heb ik gedaan aan de vooralsnog hypothetische casus van een artificiële rechter ter vervanging van de menselijke rechter. Daarbij heb ik voornamelijk onderzocht hoe het huidige rechtssysteem werkt, in welke mate AI een oplossing zou kunnen zijn voor problemen en wat obstakels zijn bij de implementering van een dergelijk systeem.

Wat als we de menselijke rechter zouden vervangen door een AI?

Wat als we de menselijke rechter zouden vervangen door een AI (artificiële intelligentie)?

Anno 2019 vinden we AI op de meest diverse plaatsen terug. Artificiële intelligentie is de overkoepelende term die gebruikt wordt om zelflerende systemen aan te duiden. Banken, sociale media, streamingdiensten,… ze maken er allemaal gebruik van. Het is voorlopig onduidelijk waar AI in de toekomst allemaal toe in staat zal zijn. Eén van de centrale vragen in deze masterthesis is of er gebieden zijn waar het gebruik van AI geen plaats zou mogen krijgen.

Om deze vraag te kunnen beantwoorden heb ik een concrete hypothese onderzocht: de vervanging van de menselijke rechter door een AI. Het beroep van rechter lijkt op het eerste zicht een beroep dat door een mens gedaan moet worden omdat er speciale menselijke kennis voor nodig is. De vraag is of dit inderdaad een gebied is waar wij in de toekomst altijd de mens boven de machine verkiezen.

Daarvoor heb ik eerst onderzocht hoe rechters op dit moment tot uitspraken komen en wat de belangrijkste factoren zijn die de uitspraak beïnvloeden. Verder heb ik gekeken op welke manier AI nu al in het recht gebruikt wordt en of er taken zijn waar de AI beter in is dan de mens. Tenslotte heb ik geprobeerd de grootste problemen op te lijsten indien een AI-rechter er ooit echt zou komen.

De rechter is iemand die, net zoals de rest van de bevolking, in de samenleving staat. Het is daarbij onvermijdelijk dat zijn of haar eigen overtuigingen een rol spelen op het moment dat hij of zij vonnissen velt. Dat is op zich ook geen probleem, zolang de rechter daardoor niet partijdig wordt. Meer nog, een zekere mate van beïnvloeding is soms zelfs noodzakelijk om tot een autonoom oordeel te kunnen komen. Toch zijn er ook factoren die geen rol zouden mogen spelen bij de uitspraken van een rechter, zoals het aantal pauzes en de hoeveelheid slaap.

Een AI zou op dat vlak een oplossing bieden voor dat laatste probleem omdat het systeem ongevoelig is voor tal van dergelijke factoren. Verder zijn algoritmes veel beter dan mensen in een aantal taken die belangrijk zijn voor juristen zoals het analyseren van grote hoeveelheden informatie. Op andere gebieden zijn ze dan weer slechter zoals het interpreteren van voorgaande uitspraken in het licht van de tijd. Ons recht is continue in beweging. Er zijn veel zaken die nu in onze wetten zijn opgenomen die dat vroeger niet waren: het verbod op de doodstraf, algemene stemplicht voor alle burgers, meerderjarig vanaf 18 jaar,… Om rechtvaardige rechtspraak te garanderen is het noodzakelijk dat het recht permanent in beweging blijft. Precies dit lijkt een van de grootste uitdagingen voor een mogelijke AI-rechter.

Nadenken over de implementatie van een AI-rechter kan op verschillende vlakken nuttig zijn. Enerzijds zorgt het voor een nieuwe bril waardoor we ons huidig rechtssysteem kunnen evalueren en eventueel verbeteren en anderzijds om voorbereid te zijn op problemen die kunnen ontstaan bij de verdere invoering van AI in een gebied als het recht.

Ik heb in deze thesis een analyse te gemaakt van de rechterlijke uitspraak zoals die nu gebeurt. Met de invoering van de hypothetische AI-rechter heb ik suggesties aangestipt van wat beter zou kunnen in ons huidig systeem en wat de belangrijkste pijnpunten zijn indien een volledig autonoom beslissingssysteem zou worden ingevoerd. Mijn belangrijkste conclusie daarbij is de noodzaak van een recht dat voortdurend evolueert. De vraag daarbij is of de manier waarop de mens dingen begrijpt volledig gevat kan worden in rekenregels of dat wij als mens op een andere manier betekenis geven aan de dingen.

 

Bibliografie

Acedo, Albert, Marco Painho, Sven Casteleyn and Stéphane Roche. 2018. “Place and City: Toward Urban Intelligence.” Isprs International Journal of Geo-Information 7:1-21.

Aertsen, Ivo, Robert Mackay, Christa Pelikan et al. 2004. Rebuilding community connections: mediation and restorative justice in Europe. Strasbourg: Council of Europe.

Alexander, Gregory S. 2002. “Comparing the Two Legal Realisms - American and Scandinavian.” The American Journal of Comparative Law 50:131-174.

Allemeersch, Benoit. 2007. Taakverdeling in het burgerlijk proces. Antwerpen: Intersentia. Allemeersch, Benoit, Paul Van Orshoven en Stefaan Voet. 2018. Tussen gelijk hebben en gelijk krijgen: gerechtelijk recht voor bachelors. Leuven: Acco.
Alpaydin, Ethem. 2014. Introduction to machine learning. Cambridge: MIT Press.

Barendrecht, Maurits. 2019. “De best mogelijke rechtspraak.” Justitiële Verkenningen 45:97- 114.

Beyens, Kristel. 2005. “Reflecties omtrent het hedendaagse rechtspreken.” in Strafrecht als roeping: Liber amicorum Lieven Dupont, onder red. van Frank Verbruggen, Raf Verstraeten, Dirk Van Daele en Bart Spriet. 287-301. Leuven: Universitaire Pers Leuven.

Borowiec, Steven. 2016. “AlphaGo seals 4-1 victory over Go grandmaster Lee Sedol.” The Guardian, 15 maart.

Bostrom, Nick. 2008. “Moralist, meet scientist.” Nature 453:593-594. Bringsjord, Selmer. 1992. What Robots Can and Can’t Be. Dordrecht: Kluwer.

Bringsjord, Selmer, Paul Bello and David Ferrucci. 2001. “Creativity, the Turing Test, and the (Better) Lovelace Test.” Minds and Machines 11:3-27.

Burrel, Jenna. 2016. “How the machine ‘thinks’: Understanding opacity in machine learning algorithms.” Big Data & Society 3:1-12.

Danziger, Shai, Jonathan Levav and Liora Pesso. 2011. “Extraneous factors in judicial decisions.” Proceedings of the National Academy of Sciences of the United States 108:6889- 6892.

Declercq, Raoul. 2014. Beginselen van strafrechtspleging. Mechelen: Kluwer.
Dennett, Daniel. 1988. “When Philosophers Encounter Artificial Intelligence.” Daedalus 117:283-295.

Dennett, Daniel. 1993. Het Bewustzijn Verklaard, vert. van Ton Maas en Frits Smeets, Amsterdam: Contact.

Denoyelle, Christian. 2019. “Als politici zich niet kunnen neerleggen bij beslissingen van rechters, waarom zouden burgers dat dan nog doen?” VRT Nieuws, 6 maart, 2019.https://www.vrt.be/vrtnws/nl/2019/03/06/carnaval-moet-veilig-en-plezant….

Dimitrova-Grajzl, Valentina, Peter Grajzl, Katarina Zajc en Janez Sustersic. 2012. “Judicial Incentives and Performance at Lower Courts: Evidence from Slovenian Judge-Level Data.”Review of Law & Economics 8:215-252.

Dreyfus, Hubert. 1972. What computers can't do. The limits of Artificial Intelligence. New York: Harper & Row.

Dreyfus, H.L. en S.E. Dreyfus. 1990. “Making a Mind versus modelling the Brain: Artificial Intelligence back at a Branch-Point.” in The Philosophy of Artificial Intelligence, edited by Margaret A. Boden (Oxford: Oxford University Press): 309-332.

Duinslaeger, Patrick. 2014. “Enkele bedenkingen omtrent Justitie.” Rechtskundig Weekblad 10:362-381.

Dumon, Frédéric. 1978. “De motivering van vonnissen en arresten en de bewijskracht van de akten.” Rechtskundig Weekblad: 257-326.

Dworkin, Ronald. 2003. “The Judge’s New Role: Should Personal Convictions Count?”

Journal of International Criminal Justice 1:4-12.

Dworkin, Ronald. 1977. Taking Rights Seriously. Cambridge: Harvard University Press.

Dworkin, Ronald. 1982. “The Politics of Interpretation” Critical Inquiry 9: 179-200.

Dworkin, Ronald. 1990. Law’s Empire. London: Fontana Press.

Dyevre, Arthur. 2015. The Future of Legal Theory and the Law School of the Future. Antwerpen: Intersentia.

Dyevre, Arthur. 2010. “Unifying the field of comparative judicial politics: towards a general theory of judicial behaviour.” European Political Science Review 2:297-327.

Englich, Birte, Thomas Mussweiler, and Fritz Strack. 2006. “Playing Dice With Criminal Sentences: The Influence of Irrelevant Anchors on Experts’ Judicial Decision Making.”Personality and Social Psychology Bulletin 32:188-200.

Epstein, Lee, William M. Landes and Richard Posner. 2013. The Behavior of Federal Judges: A theoretical and empirical study of rational choice. Cambridge: Harvard University Press.

Evans, Jonathan and Shira Elqayam. 2011. “Towards a descriptivist psychology of reasoning and decision making.” Behavioral and Brain Sciences 34:275-290.

Fast, Ethan and Eric Horvitz. 2016. “Long-Term Trends in the Public Perception of Artificial Intelligence.” https://arxiv.org/pdf/1609.04904.pdf.

Fleerackers, Frank. 2004. Het Vel van de Rechter. Gent: Larcier.
Ford, Martin. 2013. “Could artificial intelligence create an unemployment crisis?”

Communications of the ACM 56:37-39.
Frey, C.B. and M.A. Osborne. 2017. “The future of employment: How susceptible are jobs to computerization?” Technological Forecasting and Social Change 114:254-280.

Geyh, Charles Gardner. 2008. “Straddling the fence between truth and pretense: the role of law and preference in judicial decision making and the future of judicial independence” Notre Dame Journal of Law, Ethics & Public Policy 22:435-450.

Gijsels, Jan. 1989. “Algemene rechtsbeginselen zijn nog geen recht” Rechtskundig Weekblad:1105-1115.

Gommer, Hendrik en Marcel Meuleman. 2007. “De afhankelijke en belangeloze rechter”Recht der Werkelijkheid 1:7-25.

Grace, Katja, John Salvatier, Allan Dafoe, Baobao Zhang and Owain Evans. 2018. “When will AI Exceed Human Performance?” Journal of Artificial Intelligence Research 62:729-754.

Habermas, Jürgen. 1996. Between facts and norms: contributions to a discourse theory of law and democracy. Cambridge: Polity Press.

Hameroff, Stuart and Roger Penrose. 2014. ”Consciousness in the Universe: A Review of the ‘Orch OR’ Theory: A Review of the ‘Orch OR’ Theory." Physics of Life Reviews 11:39-78.

Hamet, Pavel and Johanne Tremblay. 2017. “Artificial intelligence in medicine” Metabolism Clinical and Experimental 69:536-540.

Hänold, Stefanie. 2018. “Profiling and Automated Decision-Making: Legal Implications and Shortcomings” in Robotics, AI and the Future of Law, edited by Marcelo Corrales, Mark Fenwick and Nikolaus Forgó, 123-155. Singapore: Springer Singapore.

Herbots, Jacques. 1971. “Cassatie wegens motiveringsgebreken” TPR 8:1-27.
Herce, Rubén. 2017. “Non-locality of the phenomenon of consciousness according to Roger

Penrose” Dialogo 3:127-134.
Huybrechts, Luc. 2012. “Strafrechtelijke motivering in de branding: Over de motiveringsverplichting i.v.m. feit en schuld” Nullum Crimen 2:108-130.
Islam, Mohammad en Guido Governatori. 2018. “RuleRS: a rule-based architecture for decision support systems” Artificial Intelligence and Law 26:315-344.

Jennings, Kyle E. 2010. “Developing Creativity: Artificial Barriers in Artificial Intelligence”Minds and Machines 20:489-501.

Jubelirer, Renee Cohn. 2013. “The Behavior of Federal Judges: the Careerist in robes”Judicature 97:98-104.

Justaert, Marjan. 2018. “Homans: Wereldvreemde uitspraak van Gentse rechter” De Standaard, 13 juli. https://www.standaard.be/cnt/dmf20180713_03611825.

Kahneman, Daniel. 2012. Thinking, Fast and Slow. London: Penguin Books. Kelsen, Hans. 1960. Reine Rechtslehre. Wenen: Franz Deuticke.

Klous, Sander and Nart Wielaard. 2016. We Are Big Data: The Future of Our Information Society. Paris: Atlantis Press.

Kortmann, C.A.J.M. 2001. “Tekenen”, Nederlands Juristenblad: 994.
Kuijer, Martin. 2004. The blindfold of Lady Justice: Judicial Independence and Impartiality in

Light of the Requirements of Article 6ECHR. Nijmegen: Wolf legal publishers.
Kuner, C., D.J.B. Svantesson, F.H. Cate, O. Lynskey and C. Millard. 2017. “Machine learning with personal data: is data protection law smart enough to meet the challenge?” IDPL: 1-2.

Larson, Jeffrey, Michael H. Johnson, Sam B. Bhayani. 2018. “Application of Surgical Safety Standards to Robotic Surgery: Five Principles of Ethics for Nonmaleficence” Journal of the Americas College of Surgeons: 218:290-293.

McQuay, Lise. 2018. “Will robots duplicate or surpass us? The impact of job automation on tasks, productivity, and work” Psychosociological Issues in Human Resource Management6:86-91. Image removed.

Michaux, Emilie, Emma Jaspaert en Geert Vervaeke. 2017. "Niets is wat het lijkt. Resultaten van empirisch onderzoek in het recht" Recht en Empirie: 79-98.

Nelissen, Bart. 2018. Van onafhankelijk magistraat tot rechter-bureaucraat: factor van rechtstatelijke (des)integratie? Brussel: Larcier.

Nilsson, Nils. 2005. “Human-level Artificial Intelligence? Be serious!” AI Magazine 26:68- 75.

Oppy, Graham, David Dowe. 2016. “The Turing Test.” In Stanford Encyclopedia of Philosophy, edited by Edward N Zalta. Stanford: Metaphysics Research Lab, Stanford University.

Pagano, M.R. 1992. “Wie beschermt ons tegen de rechter?” in De menselijke maat, onder red. van H. Moerland e.a. 219-233. Arnhem: Gouda Quint.

Palmirani, Monica. 2011. “Legislative Change Management with Akoma-Ntoso.” in Legislative XML for the Semantic Web: Principles, Models, Standards for Document Management, edited by Monica Palmirani, Giovanni Sartor, Enrico Francesconi and Maria Angela Biasiotti. Dordrecht: Springer: 101-130.

Pariser, Eli. 2011. “The Troubling Future of Internet Search.” The Futurist 45: 6-8.
Penrose, Roger. 1989. The emperor’s new mind: concerning computers, minds, and the laws of physics. New York: Oxford University Press.

Penrose, Roger. 1993. “Setting the Scene: the Claim and the Issues.” in The Similation of Human Intelligence, edited by Donald Broadbent. Oxford: Blackwell: 1-32.

Penrose, Roger. 1994. Shadows of the mind: a search for the missing science of consciousness. Oxford: Oxford University Press.

Perry, Walt L. e.a. 2013. Predictive policing: the role of crime forecasting in law enforcement operations. Santa Monica: Rand Corporation.

Pleysier, Stefaan, Lieven Pauwels en Anjuli Van Damme. 2010. “Vertrouwen als toetssteen van de democratie?” De orde van de dag 52: 3-5.

Prakken, Hendrik. 2018. “Komt de robotrechter er aan?” Nederlands Juristenblad 4:269-274. Raats, Sanne. 2011. “De motiveringsplicht als waarborg tegen rechterlijke willekeur?” Nullum Crimen: 230-242.
Raats, Sanne. 2016. Consistente straftoemeting. Mortsel: Intersentia.

Russell, Stuart and Peter Norvig. 2014. Artificial Intelligence: a modern approach. Harlow: Pearson.

Sartor, Giovanni and Antonino Rotolo. 2013. “AI and Law.” in Agreement Technologies,edited by Sascha Ossowski (Dordrecht: Springer): 199-207.

Savulescu, Julian and Hannah Maslen. 2015. “Moral Enhancement and Artificial Intelligence: Moral AI?” in Beyond Artificial Intelligence, edited by Jan Romportl and Jozef Kelemen (Zwitserland: Springer): 79-100.

Schollen, Peter. 2011. De greep van de wetgever op de rechter. Brugge: die Keure.

Searle, John Rogers. 1980. “Minds, brains, and programs.” The Behavioral and Brain Sciences 3:417-457.

Searle, John Rogers. 1990. “Is the Brain’s Mind a Computer Program.” Scientific American, 20-25.

Shapiro, Aaron. 2017. “Reform predictive policing.” Nature 541:458-460.
Storme, Marcel. 2010. Storme(n) over recht en gerecht: 60 jaar leven met justitie. Gent: Story publishers.

Storme, Marcel. 1996. “Betekenis en statuut van de rechterlijke macht als staatsmacht.” TPR:1343-1389.

Sunstein, R. Cass. 2002. “The Law of Group Polarization.” Journal of Political Philosophy10:175-195.

Surden, H. 2014. “Machine learning and law.” Washington Law Review 89:87-115. Suthaharan, S. 2016. Machine Learning Models and Algorithms for Big Data Classification:

Thinking with Examples for Effective Learning. Boston: Springer.
Tamanaha, Brian Z. 2009. “Understanding Legal Realism.” Texas Law Review 87:731-785.

Traest, Philip. 2005. “De innerlijke overtuiging van de rechter en de motiveringsverplichting.” in Strafrecht als roeping: Liber amicorum Lieven Dupont, onder red. van Frank Verbruggen, Raf Verstraeten, Dirk Van Daele en Bart Spriet (Leuven: Universitaire Pers Leuven): 553- 567.

Tumonis, Vitalius. 2012. “Legal Realism & Judicial Decision-Making.” Jurisprudencija19:1361-1382.

Tumonis, Vitalius. 2013. “Judicial decison-making from an empirical perspective.” Baltic Journal of Law & Politics 6:140-162.

Turing, Alan. 1963. “Computing Machinery and Intelligence.” in Computers and Thought, edited by E.A. Feigenbaum en J. Feldman, 11-35. New York: McGraw-Hill.

Van Dommelen, Ella. 2003. Constitutionele rechtspraak vanuit rechtsfilosofisch perspectief. Den Haag: Boom juridische uitgevers.

Van Ettekoven, Bart Jan. 2018. Vlaamse en Nederlandse bestuursrechtspraak in vergelijkend perspectief. Brugge: die Keure.

Van Gerven, Walter. 1987. Met recht en rede. Tielt: Lannoo.

Van Lonkhuyzen, Lisa. 2018. “Tienduizenden geschillen blijken opgelost door het private en geheimzinnige e-Court. Vijf vragen en antwoorden.” NRC Handelsblad.https://www.nrc.nl/nieuws/2018/01/19/zorgen-om-populaire-digitale-recht….

Van Orshoven, P. 2001. “De onafhankelijkheid van de rechter naar Belgisch Recht.” InPreadviezen: De onafhankelijkheid van de rechter, onder redactie van P. Van Orshoven, L.F.M. Verhey, K. Wagner en W. E.J. Tjeenk, 77-121. Deventer: Willink.

Vanberg, Georg. 2001. “Legislative-Judicial Relations: A Game-Theoretic Approach to Constitutional Review.” American Journal of Political Science 45:346-361.

Vancoppernolle, Thijs. 2018. “Intertemporeel recht.”. Doctoraatsthesis: KU Leuven.

Vanlerberghe, Beatrix. 2016. “Het recht op toegang tot de rechter zoals gewaarborgd door artikel 6.1 EVRM: algemene beginselen en enkele concrete toepassingen in het gerechtelijk

recht” in Recht op toegang tot de rechter, onder red. van Alois Van Oevelen, Joëlle Rozie en Stefan Rutten, 1-45. Antwerpen: Intersentia.

Vergauwen, Roger. 2010. “Will Science and Consciousness Ever Meat? Complexity, Symmetry and Qualia.” Symmetry 2:1250-1269.

Wachter, Sandra, Brent Millelstadt and L. Floridi. 2017. “Why a Right to Explanation of Automated Decision-Making Does not Exist in the General Data Protection Regulation” IDPL76:248.

Wachter, Sandra, Brent Millelstadt and Chris Russell. 2018. “Counterfactual Explanations without Opening the Black Box: Automated Decisions and the GDPR.” Harvard Journal of Law & Technology: 1-51.

Wagner, K. 2001. “De onafhankelijkheid van de rechter naar Europees Recht.” InPreadviezen: De onafhankelijkheid van de rechter, onder red. van P. Van Orshoven, L.F.M. Verhey, K. Wagner en W. E.J. Tjeenk, 1-18. Deventer: Willink.

Wijtvliet, W. 2017. “Empirie en rechterlijke rechtsvorming.” Recht en Empirie 39-78. Wintgens, Luc. 1991. “De rechtsfilosofie van Ronald Dworkin. Een kritische synthese.” Rechtskundig Weekblad: 897-910.

Wyner, Adam, Raquel Mochales-Palau, Marie-Francine Moens and David Milward. 2010. In Semantic Processing of Legal Texts: Where the Language of Law Meets the Law of Language, edited by Enrico Francesconi, Wim Peters en Daniela Tiscornia, 60-79. Heidelberg: Springer.

Universiteit of Hogeschool
Master in de Wijsbegeerte
Publicatiejaar
2019
Promotor(en)
Prof. Dr. Sylvia Wenmackers
Kernwoorden
Share this on: