Robots lijden al lang geen louter fictief bestaan meer. Ze worden steeds belangrijker in het dagelijkse leven. Voor ons recht zijn ze toch nog steeds voorwerpen. Moet daar verandering in komen? Moeten we robots tot personen verheffen? Hoewel uw eerste reactie verontwaardiging kan zijn, blijken er uit onderzoek vooral voordelen aan gekoppeld.
Robots kennen hun oorsprong in de sciencefictionliteratuur. Ongeveer honderd jaar geleden introduceerden de Tsjechische broers Capek de robot in hun toneelstuk “Rossum’s Universal Robots”. Sindsdien nam de robot een grote vlucht door grote namen in de sciencefictionwereld als Isaac Asimov en George Lucas. In 1961 vindt de transitie van sciencefiction naar de realiteit plaats. Het bedrijf Universal Automation ontwikkelt de eerste echte robot en hij doet dienst op de assemblagelijn bij General Motors. Sindsdien kent de robotindustrie een explosieve groei.
We gebruiken robots tegenwoordig voor allerhande doeleinden. In oorlogsvoering gebruiken we drones voor spionage of om bommen te werpen. Op de weg doen zelfrijdende auto’s hun intrede. In de medische sector schakelen chirurgen robots in om hen te assisteren tijdens operaties. Door de ontwikkeling van artificiële intelligentie zijn die robots tot steeds meer in staat. Ze kunnen zichzelf verder ontwikkelen zonder de hulp van mensen. Zo kan een zelfrijdende auto door vaak rond te rijden en verkeersbonden te scannen die borden beter herkennen.
Hoewel robots steeds autonomer worden, zijn ze voor het recht nog steeds niets meer dan levenloze voorwerpen. Moet daar geen verandering in komen? Moeten robots, net als mensen en bedrijven, personen worden in ons recht? Als onze wetgever dat wil, kan dat ook. Er zijn geen juridische beletselen om een robot tot actor in het rechtsverkeer te verheffen. Ook moreel gezien verdient deze denkpiste aandacht. Uit onderzoek blijkt bijvoorbeeld dat we medelijden hebben met robots die beschadigd worden. Bovendien bepaalt net onze interactie met anderen de ethiek, onafhankelijk van wie of wat die ander precies is. Als robots juridische personen worden, zouden we ze rechten kunnen geven om hun morele positie te beschermen. Dat betekent natuurlijk niet dat ze ook meteen "mensen"rechten zouden moeten krijgen.
Schadevergoeding
Als we robots tot personen zouden verheffen, gaat dat vooral gepaard met praktische voordelen. Als robots vandaag schade veroorzaken, is het moeilijk om uit te zoeken wie daarvoor aansprakelijk is. Dat is onder meer te wijten aan de toenemende complexiteit van die robots. We krijgen het steeds moeilijker om te bepalen aan wie we het gedrag van een robot moeten toerekenen. Wie is aansprakelijk voor de chirurgische robotarm als die een halve millimeter verkeerd sneed, waardoor er extra littekenweefsel ontstaat bij de patiënt? Moeten slachtoffers terecht bij de ontwikkelaars van de software, bij de producent van het mes, bij de producent van de motor in de robot, of misschien wel bij de chirurg die de robot verkeerd gebruikte? Op het slachtoffer van het schadegeval weegt een zware bewijslast. Dat robots zichzelf door artificiële intelligentie verder kunnen ontwikkelen, maakt het alleen maar moeilijker om een aansprakelijke partij te identificeren. Wie is aansprakelijk als een volledig zelfrijdende en zelflerende auto een ongeval veroorzaakt? Als robots personen zouden zijn, kunnen slachtoffers die robots zelf aanspreken voor de door hen geleden schade. We zouden het schadeverwekkende gedrag van de robot simpelweg aan de robot zelf kunnen toerekenen. Slachtoffers lopen dan minder bewijsrisico en hebben de zekerheid dat ze niet in de kou achterblijven.
Ik hoor u denken: “Met welk geld zal die robot zijn slachtoffers vergoeden?” We zouden robots kunnen betalen voor hun dienstverlening. Zo zouden we met onze betaalkaarten in een zelfrijdende taxi makkelijk aan de taxi zelf kunnen betalen. De taxi zou op die manier een vermogen kunnen opbouwen. De partijen die de robot mee ontwikkelden of bouwden, zouden de robot van een startkapitaal kunnen voorzien. Een verplichte verzekering voor robots is ook een optie. Slachtoffers zouden dan de verzekeraars van de robots kunnen aanspreken als die robots schade zouden veroorzaken.
“We zouden robots kunnen betalen voor hun dienstverlening.”
Straffen van robots
Als robots personen zijn, zouden we ze ook kunnen straffen. Denk bijvoorbeeld aan het opsluiten van een robot om te voorkomen dat hij nog meer schade veroorzaakt, of aan het herschrijven van het algoritme van een robot om toekomstig crimineel gedrag te vermijden. De strafrechtelijke veroordeling kan een effectieve manier zijn om aan de gemeenschap de afkeuring mee te delen van een bepaalde morele beslissing van een robot. Denk aan een zelfrijdende auto die tijdswinst belangrijker vindt dan het leven van een kind en daarom beslist een overstekend kind dood te rijden. Door robots te straffen kunnen we ook het emotionele leed van slachtoffers helpen verlichten. De veroordeling toont aan het slachtoffer dat de samenleving de ernst van het onrecht erkent.
“Door robots te straffen kunnen we ook het emotionele leed van slachtoffers helpen verlichten.”
Robots en auteursrecht
Een derde voordeel bevindt zich in de sfeer van het intellectueel eigendomsrecht. Dat zijn de rechten die rusten op industriële, literaire of artistieke creaties, zoals het auteursrecht. Sommige robots zijn in staat zelf artistieke werken te maken, maar de vraag rijst aan wie de auteursrechten op die werken toekomen. Aan wie komt het auteursrecht toe op het muziekstuk dat een computer zelf genereert? Vandaag is dat niet geregeld. Als robots personen zijn, zouden we die rechten aan die robots zelf kunnen toekennen.
Het is duidelijk dat het erkennen van robots als rechtssubjecten belangrijke voordelen biedt in ons recht. Natuurlijk is zo’n verheffing niet een en al rozengeur en maneschijn en zijn er alternatieven te bedenken om met de uitdagingen waar robots en artificiële intelligentie ons voor stellen, om te gaan. De vraag naar persoonlijkheid voor robots blijkt op zijn minst wel het overwegen waard. Het is bovendien een omvattende en vrij simpele oplossing voor een verscheidenheid aan uitdagingen.
Bibliografie
Literatuur
ABBOTT, R., “The Reasonable Computer: Disrupting the Paradigm of Tort Liability”, The George Washington Law Review 2018, afl. 86, nr. 1, 1-45
ALEXANDRE, F.M., The Legal Status of Artificially Intelligent Robots: Personhood, Taxation and Control, onuit. Masterproef International Business Law Tilburg University, 2017, http://arno.uvt.nl/show.cgi?fid=143848, 68 p.
ALLEN, T. en WIDDISON, T., “Can Computers Make Contracts?”, Harvard Journal of Law & Technology 1996, 26-52.
ALLGROVE, B.D., Legal Personality For Artificial Intellects: Pragmatic Solution Or Science Fiction?, onuitg. masterproef Philosophy University of Oxford, 2004, https://papers.ssrn.com/sol3/papers.cfm?abstract_id=926015, 101 p.
ASARO, P.M., “A Body to Kick, but Still No Soul to Damn: Legal Perspectives on Robotics” in LIN, P., ABNEY, K. en BEKEY, G.A. (eds.), Robot Ethics: The Ethical and Social Implications of Robotics, Cambridge, MIT Press, 2012, (169) 182-183.
ASIMOV, I., I, Robot, New York, Harper Collins Publishers, 2013, 256 p. ASIMOV, I., Robots and Empire, Londen, Harper Collins Publishers, 2018, 448 p.
ASIMOV, I., “The Machine and the Robot” in P.S. WARRICK, M.H. GREENBERG en J.D. OLANDER (eds.), Science Fiction: Contemporary Mythology, New York, Harper & Row, 1978, 244-253.
ASIMOV, I., The Rest of the Robots, New York, Garden City, 1964, 556 p.
ASIMOV, I., “1965: Horizon: Isaac Asimov”, BBC Archive (Facebook), 28 juli 2020, https://www.facebook.com/watch/?v=292304058862974, geraadpleegd op 10 augustus 2021.
AUBRY, C. en RAU, C., Cours de droit civil Français d’après la méthode de Zachariae, XI, Parijs, Marchal et Billard, 1917, 631 p.
BARBAIX, R. en CARETTE, N., Privaat (vermogens)recht, Mortsel, Intersentia, 2018, 216 p.
BEAUCHAMP, G., “The Frankenstein Complex and Asimov’s Robots”, Mosaic: An Interdisciplinary Critical Journal 1980, 83-94.
BEKEY, G.A., Autonomous robots, Cambridge, MIT Press, 2005, 594 p.
BELGA, “Elon Musk stelt mensachtige robot ‘Tesla Bot’ voor”, De Standaard, 20 augustus 2021, https://www.standaard.be/cnt/dmf20210820_94499932, geraadpleegd op 13 september 2021.
BELGA, “Virtueel personage wordt officieel inwoner van Tokio”, VRTNWS, 4 november 2017,
https://www.vrt.be/vrtnws/nl/2017/11/04/virtueel-personage-wordt-offici…- tokio/, geraadpleegd op 9 augustus 2021.
BERTOLINI, A., Artificial Intelligence and Civil Liability, Brussel, Europese Unie, 2020, https://www.europarl.europa.eu/RegData/etudes/STUD/2020/621926/IPOL_STU… 926_EN.pdf, 134 p.
BOCKEN, H., “Samenloop in het ontwerp buitencontractuele aansprakelijkheid”, TPR 2021, 151-175.
BOCKEN, H. en BOONE, I. m.m.v. KRUITHOF, M., Inleiding tot het schadevergoedingsrecht. Buitencontractueel aansprakelijkheidsrecht en andere schadevergoedingsstelsels, Brugge, Die Keure, 2014, 270 p.
BODEN, M., AI. Its nature and future, Oxford, Oxford University Press, 2016, 198 p.
BODEN, M., BRYSON, J., CALDWELL, D., DAUTENHAHN, K., EDWARDS, L., KEMBER, S., NEWMAN, P., PARRY, V., PEGMAN, G., RODDEN, T., SORRELL, T., WALLIS, M., WHITBY, B. en WINFIELD, A. “Principles of robotics: regulating robots in the real world”, Connection Science 2017, 124-129.
BOSSUYT, A., “Algemene rechtsbeginselen in de rechtspraak van het Hof van Cassatie”, TPR 2004, 1589-1662.
BRAECKMANS, H. en HOUBEN, R., Handboek vennootschapsrecht, Mortsel, Intersentia, 2021, 974 p.
BRIDY, A., “Coding Creativity: Copyright and the Artificially Intelligent Author”, Stanford Technology Law Review 2012, 1-28.
BRYSON, J.J., DIAMANTIS, M.E. en GRANT, T.D., “Of, for, and by the people: the legal lacuna of synthetic persons”, Artificial Intelligence and the law 2017, 273-291.
CALO, R., “Robotics and the Lessons of Cyberlaw”, California Law Review 2015, 513-563.
CAPEK, J., Lelio, Praag, Knihy dobrých autorů, 1917, 78 p.
CAPEK, K., “About The Word Robot”, Lidové noviny, 24 december 1933,
https://scholarsbank.uoregon.edu/xmlui/bitstream/handle/1794/22919/cape… .pdf?sequence=1, geraadpleegd op 10 augustus 2021.
CAPEK, K., R.U.R. (Rossum’s Universal Robots), New York, Penguin Group, 2004, 112 p. CASTELVECCHI, D., “The Black Box of AI”, Nature 2016, afl. 538, 20-23.
CECCARELLI, M., “A Historical Perspective of Robotics Toward the Future”, Fuji International Journal of Robotics and Mechatronics 2001, 299-313.
CHAGAL-FEFERKORN, K., “The Reasonable Algorithm”, Journal of Law, Technology & Policy 2018, 111-147
CLAEYS, I., Samenhangende overeenkomsten en aansprakelijkheid: de quasi-immuniteit van de uitvoeringsagent herbekeken, Antwerpen, Intersentia, 713 p.
CLAEYS, I. en TANGHE, T., Algemeen contractenrecht, Antwerpen, Intersentia, 2021, 872 p. CLARKE, R. “Asimov’s Laws of Robotics: Implications for Information Technology-Part 1”, IEEE Computer 1993, 53-61.
COMMISSIE VOOR HET JAARVERSLAG, “Jaarverslag van het Hof van Cassatie van België 2002- 2003”, Hof van Cassatie van België, https://justitie.belgium.be/sites/default/files/downloads/cass2002nl.pdf, geraadpleegd op 16 augustus 2021.
CRUQUENAIRE, A., DELFORGE, A., HUBIN, J.B., KNOCKAERT, M., MICHAUX, B. en TOMBAL, T., “Droit d’auteur et oeuvres générées par machine” in DE STREEL, A. en JACQUEMIN, H. (eds.), L’intelligence artificielle et le droit, Brussel, Larcier 2017, 189-240.
DAVIES, C.R., “An evolutionary step in intellectual property rights – Artificial intelligence and intellectual property” Computer Law & Security Review 2011, 601-619.
DE BRUYNE, J., VAN GOOL, E. en GILS, T., “Tort law and damage caused by AI systems” in DE BRUYNE, J. en VANLEENHOVE, C. (eds.), Artificial Intelligence and the Law, Cambridge, Intersentia, 2021, 359-403.
DE GROOTE, B., BRULOOT, D. en DE CORTE, R., Privaatrecht in hoofdlijnen volume 1, Antwerpen, Intersentia, 2020, 438 p.
DE PAGE, H. en DEKKERS, R., Introduction, théorie générale des droits et des lois, les personnes, la famille, Brussel, Bruylant, 1962, 1367 p.
DE SCHRIJVER, S. en VAN DEN HOVEN VAN GENDEREN, R., “I, robot: realiteit of fictie?”, Computerrecht 2015, 196-233.
DEKKERS, R. en WYLLEMAN, A., Handboek burgerlijk recht. Deel 1, Antwerpen, Intersentia, 2009, 420 p.
DELANOTE, J., De Vennootschap & de civiele aansprakelijkheid van haar bestuurders, Larcier, Brussel, 2019, 123 p.
DERUYCK, F. en VAN LANDEGHEM, Y., Overzicht van het Belgisch algemeen strafrecht, Brugge, die Keure, 2021, 270 p.
DHILLON, B.S., Robot Reliability and Safety, New York, Springer-Verlag, 1991, 254 p.
DREXL, J., HILTY, R.M., DESAUNETTES-BARBERO, L., GLOBOCNIK, J., OTERO, B.G., HOFFMANN, J., KIM, D., KULHARI, S., RICHTER, H., SCHEUERER, S., SLOWINSKI, P.R. en WIEDEMANN, K., Artificial Intelligence and Intellectual Property Law Position Statement of the Max Planck Institute for Innovation and Competition of 9 april 2021 on the Current Debate, https://www.ip.mpg.de/fileadmin/ipmpg/content/stellungnahmen/MPI_Positi… RN_21-10.pdf, 25 p.
DUFF, P.W., “The personality of an idol”, The Cambridge Law Journal 1927, 42-48.
MAST, A., DUJARDIN, J., VANDAMME, M. en VANDE LANOTTE, J., Overzicht Belgisch
administratief recht, Mechelen, Kluwer, 2021, 1522 p.
EXPERT GROUP ON LIABILITY AND NEW TECHNOLOGIES – NEW TECHNOLOGIES FORMATION, Liability for Artificial Intelligence and other emerging digital technologies, Brussel, Europese Unie, 2019, 65 p.
FIERENS, M., VAN GOOL, E. en DE BRUYNE, J., “De regulering van artificiële intelligentie (deel 1) – Een algemene stand van zaken en een analyse van enkele vraagstukken inzake consumentenbescherming”, RW 2020-21, 962-980.
FISHER, W., “Theories of Intellectual Property” in MUNZER, S. (ed.), New Essays in the Legal and Political Theory of Property, Cambridge, Cambridge University Press, 2001, 168-199.
FULLER, L.L., The Morality of Law, New Haven, Yale University Press, 1973, 262 p.
GANIM, N.A. en DE BRUYNE, J., “Aansprakelijkheid en sciencefiction. De wetten van Asimov
en het buitencontractueel aansprakelijkheidsrecht”, NJW 2020, (374) 377-378, nrs. 9-10. GARNELO, M. en SHANAHAN, M., “Reconciling deep learning with symbolic artificial
intelligence: representing objects and relations”, Behavioral Sciences 2019, 17-23.
GAUMOND, E., “Artificial Intelligence Act: What Is the European Apporach for AI?”, Lawfare, 4 juni 2021, https://www.lawfareblog.com/artificial-intelligence-act-what-european- approach-ai, geraadpleegd op 13 augustus 2021.
GASPARETTO, A., “Robots in History: Legends and Prototypes from Ancient Times to the Industrial Revolution” in LOPEZ-CAJUN, C. en CECCARELLI, M. (eds.), Explorations in the History of Machines and Mechanisms, Zwitserland, Springer, 2016, 39-49.
GASPARETTO, A. en SCALERA, L., “From the Unimate to the Delta robot: the early decades of Industrial Robotics” in ZHANG, B. en CECCARELLI, M. (eds.), Explorations in the History and Heritage of Machines and Mechanisms, Zwitserland, Springer, 2019, 284-294.
GRAY, J.C., The Nature and Sources of the Law (Second Edition), Gloucester, Peter Smith, 1972, 348 p.
GUNKEL, D.J, Robot Rights, Cambridge, MIT Press, 2018, 237 p.
GUNKEL, D.J., “Robot Rights – Thinking the Unthinkable” in GORDON, J.S. (ed.), Smart
Technologies and Fundamental Rights, Leiden, Brill, 2020, 48-72.
HALLEVY, G., When Robots Kill. Artificial Intelligence under Criminal Law, Boston, Northeastern
University Press, 2013, 244 p.
HARRIS, J., “The Moral Consideration of Artificial Entities: A Literature Review”, arXiv.org 2021, arXiv:2102.04215.
HEDRICK, D.F., “I “Think,” Therefore I Create: Claiming Copyright in the Outputs of Algorithms”, Journal of Intellectual Property and Entertainment Law 2019, 324-375.
HELAS, C., “Tensions autour de la notion d’agent d’exécution” (noot onder Cass. 7 februari 2020), RGAR 2020, 15719-15724.
HOCKSTEIN, N.G., GOURIN, C.G., FAUST, R.A. en TERRIS, D. J., “A history of robots: from science fiction to surgical robotics”, Journal of Robotic Surgery 2007, 113-118.
HU, Y., “Robot Criminals”, University of Michigan Journal of Law Reform 2019, 487-531. HUBBARD, F.P., “’Do Androids Dream?”: Personhood and Intelligent Artifacts”, Temple Law Review 2011, 405-474.
HUBIN, J., “La responsabilité du fait des robots: le droit de la responsabilité à l’ère de la révolution numérique” in JACQUEMIN, H., DEGUELDRE, M., PREUMONT, H. en TRUSGNACH, Z. (eds.), Responsabilités et numérique, Limal, Anthemis, 2018, 257-280.
IFTOMM COMMISSION A, “Terminology for the theory of machines and mechanisms”, Mechanism and Machine Theory 1991, 435-539.
INTERUNIVERSITAIRE COMMISSIE JURIDISCHE VERWIJZINGEN EN AFKORTINGEN, Juridische verwijzingen en afkortingen, Mechelen, Kluwer, 2015, 133 p.
ISO, “ISO 8373:201(en) Robots and robotic devices – Vocabulary”, ISO, 2012, https://www.iso.org/obp/ui/#iso:std:iso:8373:ed-2:v1:en, geraadpleegd op 11 augustus 2021.
JACOBS, A., TYTGAT, L., MAUS, M., MEEUSEN, R. en VANDERBORGHT, B. (eds.), Homo roboticus. 30 vragen en antwoorden over mens, robot & artificiële intelligentie, Brussel, VUBPRESS, 2019, 296 p.
JACQUEMIN, H. en HUBIN, J., “Aspects contractuels et de responsabilité civile en matière d’intelligence artificielle” in LARCIER (ed.), Intelligence artificielle et le droit, Brussel, Larcier, 2017, 73-141.
JANAL, R., “Extra-Contractual Liability for Wrongs Committed by Autonomous Systems” in EBERS, M. en NAVAS, S. (eds.), Algorithms and Law, Cambridge, Cambridge University Press, 2020, 174-206.
JOINT RESEARCH CENTRE, What Future for European Robotics? A Science for Policy Perspective, Luxemburg, Publications Office of the European Union, 2021, 55 p.
JONES, S.E., Against Technology. From the Luddites to Neo-Luddism, New York, Routledge, 2006, 288 p.
JORDAN, J., Robots, Cambridge, MIT Press, Londen, 2016, 272 p.
KAPLAN, J., Artificial Intelligence: What Everyone Needs to Know, New York, Oxford University
Press, 2016, 192 p.
KHAN, S., “Artificial Intelligence and inventorship: news round-up”, Potter Clarckson, 5 maart 2021, https://www.potterclarkson.com/insights/artificial-intelligence-and-inv…- news-round-up/, geraadpleegd op 7 september 2021.
KOOPS, B.J., HILDERBRANDT, M. en JAQUET-CHIFFELLE, D.O., “Bridging the Accountability Gap: Rights for New Entities in the Information Society?, Minnesota Journal of Law, Science & Technology 2010, 497-561.
KRUITHOF, M., Tort Law in Belgium, Alphen aan den Rijn, Wolters Kluwer, 2018, 170 p. KURZWEIL, R., The Age of Intelligent Machines, Cambridge, MIT Press, 1992, 580 p.
LAWSON, F.H., “The Creative Use of Legal Concepts”, New York University Law Review 1957, 907-925.
LE, Q. en ZOPH, B., “Using Machine Learning to Explore Neural Network Architecture”, Google AI Blog, 17 mei 2017, https://ai.googleblog.com/2017/05/using-machine-learning-to- explore.html, geraadpleegd op 4 december 2021.
LOCKE, J. Two Treatises of Government, https://www.yorku.ca/comninel/courses/3025pdf/Locke.pdf, 216 p.
MATTHIAS, Automaten als Träger von Rechten. Pläydoyer für eine Gesetsänderung, Berlijn, Logos, 2010, 272 p.
MCCARTHY, J., MISNKY, M.L., ROCHESTER, N. en SHANNON, C.E., “A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence”, Stanford, 31 augustus 1955, http://www-formal.stanford.edu/jmc/history/dartmouth/dartmouth.html, geraadpleegd op 12 augustus 2021.
MCCAULEY, L., “AI Armageddon and the Three Laws of Robotics”, Ethics and Information Technology 2007, 153-164.
MCLAUGHLIN, M., Computer-Generated Inventions, Working Paper, http://infojustice.org/wp-content/uploads/2018/11/Computer-Generated-In…- v2_McLaughlin.pdf, 32 p.
Mededeling (Comm.) van de Commissie aan het Europees Parlement, De Raad, De Raad, het Europees Economisch en Sociaal Comité en het Comité van de Regio’s: “Bouwen aan een Europese data-economie”, 10 januari 2017, COM(2017)9 final.
Mededeling (Comm.) van de Commissie aan het Europees Parlement, de Europese Raad, De Raad, het Europees Economisch en Sociaal Comité en het Comité van de Regio’s: Kunstmatige intelligentie voor Europa, 25 april 2018, COM(2018)237 final.
MURPHY, R.R. en WOODS, D.D., “Beyond Asimov: The Three Laws of Responsible Robotics”, IEEE Intelligent Systems 2009, 14-20.
NAFFINE, N., “Who are Law’s Persons? From Chesire Cats to Responsible Subjects”, The Modern Law Review 2003, 346-367.
NILSSON, N.J., The Quest for Artificial Intelligence: A History of Ideas and Achievements, Cambridge, Cambridge University Press, 2009, 580 p.
ORLANDO, D., “If sicence fiction inspires the law: recent examples with the EU proposal for an AI Regulation”, Centre for IT & IT law, 26 mei 2021, https://www.law.kuleuven.be/citip/blog/if-science-fiction-inspires-the-…- examples-with-the-eu-proposal-for-an-ai-regulation/, geraadpleegd op 13 augustus 2021.
OSHA, J.P., VERSCHUUR, A.M., LAAKKONEN, A., HENRY, G., NACK, R. en SHEN, L., Sumarry Report on Copyright in artificially generated works, 2019, https://aippi.soutron.net/Portal/DownloadImageFile.ashx?objectId=6877, 19 p.
PAGALLO, U., “Vital, Sophia, and CO. – The Quest for the Legal Personhood of Robots”, Information 2018, 230, 11 p.
PAPAKONSTANTINOU, V. en DE HERT, P., “Refusing to award legal personality to AI: Why the European Parliament got it wrong”, European Law Blog, 15 november 2020,
https://europeanlawblog.eu/2020/11/25/refusing-to-award-legal-personali…- european-parliament-got-it-wrong/, geraadpleegd op 20 augustus 2021.
PAPAKONSTANTINOU, V. en DE HERT, P., “Structuring modern life running on software. Recognizing (some) computer programs as new “digital persons””, Computer Law & Security Review 2018, 732-738.
POPELIER, P., Rechtszekerheid als beginsel voor behoorlijke regelgeving, Antwerpen, Intersentia Rechtswetenschappen, 1997, 663 p.
RAI, A., “Explainable AI: from black box to glass box”, Journal of the Academy of Marketing Science 2020, 137-141.
Resolutie (EP) Artificiële intelligentie in het onderwijs en in de culturele en audiovisuele sector, 19 mei 2021, 2020/2017(INI).
Resolutie (EP) Artificiële intelligentie in het strafrecht en het gebruik ervan door politiële en gerechtelijke instanties in strafzaken, 6 oktober 2021, 2020/2016(INI).
Resolutie (EP) Civielrechtelijk aansprakelijkheidsstelsel voor artificiële intelligentie, 20 oktober 2020, 2020/2014(INL).
Resolutie (EP) Intellectuele-eigendomsrechten bij de ontwikkeling van technologieën op het gebied van artificiële intelligentie, 20 oktober 2020, 2020/2015(INI).
Resolutie (EP) Kader voor ethische aspecten van artificiële intelligentie, robotica en aanverwante technologieën, 20 oktober 2020, 2020/2012(INL).
Resolutie (EP) Civielrechtelijke bepalingen over robotica, 16 februari 2017, 2015/2103(INL)), 2018/C 252/25, Pb.C. 252.
RICHARDS, N.M. en SMART, W.D., “How should the law think about robots?” in CALO, R., FROOMKIN, A.M. en KERR, I. (eds.), Robot Law, Cheltenham, Edward Elgar Publishing, 2016, 3-22.
RUSSELL, S.J. en NORVIG, P., Artificial Intelligence: A Modern Approach, Hoboken (NJ), Pearson, 2020, 1152 p.
SAGAERT, V., Goederenrecht, Mechelen, Kluwer, 2021, 785 p.
SALMOND, J.W., Jurisprudence (fifth edition), Londen, Steven and Haynes Law Publishers, 1916, 512 p.
SCHOLLAERT, V., “Is de inbreuk op een recht absoluut of relatief onrechtmatig?”, NJW 2021, 514-527.
SCHRÖDER, W.M., “Robots and Rights: Reviewing Recent Positions in Legal Philosophy and Ethics” in BRAUN, J., ARCHER, M.S., REICHBERG, G.M. en SORONDO, M.S. (eds.), Robotics, AI and Humanity, Cham, Springer, 2021, 191-203.
SEARLE, J.R., Minds, Brains and Science, Cambridge, Harvard University Press, 1984, 112 p. SHELLEY, M., Frankenstein, or The Modern Prometheus, Londen, Lackington, Hughes, Harding,
Mavor & Jones, 1818, 280 p.
SICILIANO, B., SCIAVICCO, L., VILLANI L., en ORIOLO, G., Robotics. Modelling, Planning and
Control, Londen, Springer, 2009, 632 p.
SMITH, B., “Legal Personality”, Yale Law Journal 1928, 283-299.
SLORS, M., “Philosphy of mind” in BUSKES, C. en SIMISSEN, H. (eds.), Analytische filosofie: een inleiding, Nijmegen, Uitgeverij Vantilt, 2014, 171-199.
SOLAIMAN, S.M., “Legal personality of robots, corporations, idols and chimpanzees: a quest for legitimacy”, Artificial Intelligence and Law 2017, 155-179.
SOLUM, L.B., “Legal Personhood for Artificial Intelligences”, North Carolina Law Review 1992, 1231-1287.
SPONG M.W., HUTCHINSON, S. en VIDYASAGAR, M., Robot Modeling And Control, Hoboken (NJ), John Wiley & Sons, 2020, 608 p.
STEELS, L., BERENDT, B., PIZURICA, A., VAN DYCK, D. en VANDEWALLE, J., “Artificiële intelligentie. Naar een vierde industriële revolutie?”, Koninklijke Vlaamse Academie van België voor Wetenschappen en Kunsten 2017, 1-43.
STEINER, H., “Moral Rights” in COPP, D. (ed.), The Oxford Handbook of Ethical Theory, New York, Oxford University Press, 2006, 665 p.
STONE, C.D., “Should Trees Have Standing? – Towards Legal Rights for Natural Objects”, Southern California Law Review 1972, 450-501
SWENNEN, F., Het personen- en familierecht, Mortsel, Intersentia, 2021, 626 p.
SWINNEN, K., “De inpassing van digitale producten in het Belgisch privaatrecht”, TPR 2018, 1021-1100.
TAEKEMA, S. en VAN KLINK, B., “Dwarsverbanden. Interdisciplinair onderzoek in de rechtswetenschap”, NJB 2009, 2259-2566.
TANGHE, J. en DE BRUYNE, J., “Software aan het stuur: aansprakelijkheid voor schade veroorzaakt door autonome motorrijtuigen” in VANSWEEVELT, T. en WEYTS, B. (eds.), Nieuwe risico’s in het aansprakelijkheids- en verzekeringsrecht, Antwerpen, Intersentia, 2018, 1-75.
TASIOULAS, J., “First Steps Towards an Ethics of Robots and Artificial Intelligence”, Journal of Practical Ethics 2019, 49-83.
TAUB, B., “An Algorithm Has Created Every Possible Musical Melody So No One Can Ever Sue For Copyright Infringement”, IFLScience, 2 maart 2020, https://www.iflscience.com/technology/algorith-created-every-possible-m…- one-can-ever-sue-copyright- infringement/?fbclid=IwAR3UnWJYqtqUVhhYuF7JE_nq3srCMfP2u62ZmLZgrI8yfl0WPN_NXal ddi4, geraadpleegd op 7 september 2021.
TORFS, M., “Primeur: robot Sophia krijgt status van staatsburger in Saudi-Arabië”, VRTNWS, 27 oktober 2017, https://www.vrt.be/vrtnws/nl/2017/10/27/robot-krijgt-staatsburgerschap- in-saudi-arabie/, geraadpleegd op 9 augustus 2021.
TURING, A.M., “Computing Machinery and Intelligence”, Mind: A Quarterly Review of Pscyhology and Philosophy 1950, 433-460.
TURNER, J., Robot rules. Regulating artificial intelligence, Londen, Palgrave, 2019, 377 p.
UNESCO, “Report of COMEST on Robotics Ethics”, UNESCO, 14 september 2017,
https://unescoblob.blob.core.windows.net/pdf/UploadCKEditor/REPORT%20OF… %20ON%20ROBOTICS%20ETHICS%2014.09.17.pdf, geraadpleegd op 13 augustus 2021.
VAN DE VOORDE, J., “Dieren als quasi-goederen. Beschouwingen over de juridisch-technische wenselijkheid van een bijzonder statuut voor dieren tussen goederen en rechtssubjecten”, RW 2016-17, 203-219.
VAN DEN HOVEN VAN GENDEREN, R., “AI-systemen en Robot als rechtspersoon, juridische noodzaak of begin van het einde?”, Memorad 2017, 26-32.
VAN DEN HOVEN VAN GENDEREN, R., “Does Future Society Need Legal Personhood for Robots and AI?” in RANSCHAERT, E.R., MOROZOV, S. en ALGRA, P.R. (eds.), Artificial Intelligence in Medical Imaging, Cham, Springer, 2019, 257-290.
VAN DEN WYNGAERT, C., VANDROMME, S. en TRAEST, P., Strafrecht en strafprocesrecht, Oud- Turnhout, Gompel&Svacina, 2019, 1510 p.
VAN GERVEN, W., Algemeen deel, Brussel, Story-Scientia, 1987, 519 p.
VAN GERVEN, W. en VAN OEVELEN, A., Verbintenissenrecht, Leuven, Acco, 2015, 728 p.
VAN GOOL, E., FIERENS, M. en DE BRUYNE, J., “De regulering van artificiële intelligentie (deel 2) – Een analyse van buitencontractuele aansprakelijkheid”, RW 2020-21, 1003-1024.
VAN GYSEL, A-C., Précis de droit des personnes et de la famille, Limal, Anthemis, 2013, 609 p. VANDE LANOTTE, J., GOEDERTIER, G., HAECK, Y., GOOSSENS, J. en DE PELSMAEKER, T.,
Belgisch Publiekrecht, Brugge, die Keure, 2015, 1594 p.
VANDERHEIDEN, K., “Straffen” in Post Memorialis, 2020, S 160, 219-269.
VANHEES, Handboek intellectuele rechten, Mortsel, Intersentia, 2020, 818 p.
VANHERPE, J., “AI and IP: a Tale of Two Acronyms” in J. DE BRUYNE en C. VANLEENHOVE (eds.), Artificial Intelligence and the Law, Mortsel, Intersentia, 2021, 207-240.
VANSWEEVELT, T. en WEYTS, B., “De contractuele aansprakelijkheid” in VANSWEEVELT, T. en WEYTS, B. (eds.), Handboek Verbintenissenrecht, Antwerpen, Intersentia, 2019, 343-401.
VANSWEEVELT, T. en WEYTS, B., Handboek buitencontractueel aansprakelijkheidsrecht, Antwerpen, Intersentia, 2009, 935 p.
VERHEYEN, T., Eenzijdige beheersing van het aansprakelijkheidsrisico, Antwerpen, Intersentia, 722 p.
Verslag (EP) met aanbeveling aan de Commissie over civielrechtelijke regels inzake robotica, 24 januari 2017, A8-0005/2017.
VICK, D.W., “Interdisciplinarity and the Discipline of Law”, Journal of law and society 2004, 163-193.
Voorstel (Comm.) voor een verordening van het Europees Parlement en de Raad tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie (wet op de artificiële intelligentie) en tot wijziging van bepaalde wetgevingshandelingen van de Unie, 21 april 2021, COM(2021)206 final – 2021/0106 (COD).
WAGNER, G., “Robot, Inc.: Personhood for Autonomous Systems?”, Fordham Law Review 2019, 591-612.
WALLEN, J., The history of the industrial robot, Linköping, Linköping University Electronic Press, 2008, 18 p.
Witboek (Comm.) over kunstmatige intelligentie – een Europese benadering op basis van excellentie en vertrouwen”, 19 februari 2020, COM(2020)65 final.
WITTGENSTEIN, L., Philosophische Untersuchungen, Frankfurt a.M., Suhrkamp, 1953, 268 p. WILLOUGHBY, W.W., The Fundamental Concepts of Public Law, New York, The Macmillan
Company, 1924, 499 p.
WYFFELS, F., “Van motorvoertuig tot autonome robot” in DE BRUYNE, J. (ed.), Autonome
motorvoertuigen, Brugge, Vanden Broele, 2021, 23-39.
ZAMALLOA, I., KOJCEV, R., HERNANDEZ, A., MUGURUZA, I., USATEGUI, L., BILBAO, A., MAYORAL, V., “Dissecting Robotics – historical overview and future perspectives”, arXiv.org 2017, arXiv:1704.08617.
Wetgeving
Burgerlijk Wetboek
Strafwetboek
Wetboek van economisch recht
Benelux-Verdrag inzake de Intellectuele Eigendom (BVIE)
Verordening Uniemerk
Chipsrichtlijn
Wetsvoorstel tot invoering van de strafrechtelijke aansprakelijkheid van rechtspersonen, Parl.St. Senaat 1998-99, nr. 1217/1, 9.
Wet 4 mei 1999 tot invoering van de strafrechtelijke verantwoordelijkheid van rechtspersonen, BS 22 juni 1999, 23.411.
Rechtspraak
Belgische rechtspraak
Arbitragehof 5 juli 1990, nr. 25/90.
Arbitragehof 22 november 1990, nr. 36/90. Arbitragehof 11 februari 1993, nr. 10/93. Arbitragehof 15 juli 1993, nr. 59/93
Arbitragehof 30 april 1996, nr. 28/96.
GwH 18 januari 2018, nr. 7/2018.
GwH 8 mei 2019, nr. 61/2019.
GwH 1 juli 2021, nr. 97/2021.
Cass. 14 juli 1924, Pas. 1924, I, 473.
Cass. 13 mei 1982, Pas. 1982, I, 1056, concl. J. VELU. Cass. 3 juni 2002, AR F.01.0044.F.
Cass. 27 februari 2003, AR C.01.0457.F
Cass. 14 januari 2004, AR P.03.1185.F.
Cass. 29 september 2006, AR C.03.0502.N.
Cass. 1 maart 2010, AR C.09.0390.N.
Cass. 15 februari 2013, AR F.11.0150.N.
Cass. 10 juni 2014, AR P.14.0280.N.
Cass. 24 maart 2016, AR C.14.0329.N.
Cass. 7 april 2016, AR F.14.0209.N.
Cass. 13 december 2016, AR P.15.1117.N.
Cass. 24 mei 2018, AR C.17.0504.N.
Cass. 7 februari 2020, AR C.19.0308.F.
Cass. 12 maart 2020, AR C.19.0408.N.
Europese rechtspraak
HvJ 13 november 2018, zaak C-310/17.
HvJ 16 juli 2009, zaak C-5/08.
Buitenlandse rechtspraak
Appellate Division of the Supreme Court of New York Third Department, 4 december 2014, 124 A.D.3d 148.
Supreme Court New York County, 29 juli 2015, NY Sip Op 31419(U). Thaler v Commissioner of Patents [2021] FCA 879.