Asimov in de auto en in de huisrobot

Anand Debusschere
Robotica brengt een ethische component met zich mee. De scriptie “Asimov in de auto en in de huisrobot” gaat over deze problematiek, en hoe je deze ethische problemen duidelijk maakt aan jongeren in het secundair onderwijs.

De robots komen ons redden… maar niet altijd

Stel je voor dat je met een paar vrienden naar een concert aan het rijden bent. De muziek staat luid, je vrienden zingen luid mee, maar jij houdt je rustig en je concentreert je op de baan. Je neemt een bocht naar links en plots staat er een groep kinderen op het wegdek. Je gaat te snel om enkel te remmen, dus je moet uitwijken. In je rechterooghoek zie je een paar mensen op het voetpad. Je draait je stuur naar links om niemand omver te rijden en je rijdt recht op een vrachtwagen. Iedereen in de auto is morsdood. Een onvermijdelijk accident. Links, rechts of rechtdoor, er gingen bij elke keuze doden vallen.

Elke dag gebeuren er dodelijke accidenten. In 2013 stierven er 1,25 miljoen mensen in autoaccidenten. Autofabrikanten komen ieder jaar uit met nieuwe snufjes om hun auto’s veiliger te maken. De sterftecijfers gaan ieder jaar achteruit, maar nooit spectaculair. De beste manier onze wegen veiliger te maken? Vervang de mens achter het stuur door een robot. Deze wordt niet moe, raakt niet afgeleid en drinkt geen druppel alcohol.

Maar hoe zou deze zelfrijdende auto reageren in een onoverkomelijk accident?  Moet de auto een keuze maken tussen de mensen op het voetpad, de kinderen op de rijbaan of de inzittenden? Maakt de auto een vlugge berekening om het minst aantal slachtoffers te maken? Houdt de auto rekening met de leeftijd van de mogelijke slachtoffers? Moet deze auto de inzittenden altijd beschermen?

Het programmeren van zelfrijdende auto’s (en andere robots) brengt dus een ethische component met zich mee. De scriptie “Asimov in de auto en in de huisrobot” gaat over deze problematiek, en hoe je deze ethische problemen duidelijk maakt aan jongeren in het secundair onderwijs.

Een futuristisch lessenpakket

Binnen het secundair onderwijs streeft men ernaar om jongeren voor te bereiden voor de toekomst. Vooral binnen het vak niet-confessionele zedenleer leren jongeren denken over de morele dimensies van het leven en de toekomst. Ze leren dat veel keuzes die we vandaag maken een grote invloed hebben op de toekomstige generaties. We moeten hen dus leren om zorg te dragen voor mensen die er op dit moment nog niet zijn. Het doel van deze scriptie was om jongeren te doen nadenken over de morele keuzes die we maken met betrekking tot robotica, een sector die steeds meer ons leven zal bepalen.

Om te beginnen is het interessant om na de denken over zelfrijdende auto’s. Welke regelgeving is wenselijk? Welke mogelijke scenario’s kunnen we bedenken waarbij een zelfrijdende auto voor een moreel dilemma staat? Maar het gaat nog veel verder dan dat. Het uiteindelijke lessenpakket was ontworpen om jongeren te doen denken over zelfrijdende auto’s, huishoudrobots, gezelschapsrobots, robots met een menselijke intelligentie, robots met een bovenmenselijke intelligentie en uiteindelijk zelfs robotrechten. Elk van deze onderwerpen zet de jongeren aan om te filosoferen over de mogelijkheden en gevaren van onze technologische ontwikkeling.

Driften voor een leven

De lessen bleken grotendeels een succes bij de leerlingen. Vooral de les over zelfrijdende auto’s viel in goede aarde. Deze les maakte gebruik van een cockpit om het dilemma van het onvermijdelijk ongeluk duidelijk te maken. De leerlingen kregen als passagier een reeks morele dilemma’s voorgeschoteld. Wat moet de auto beslissen als deze moet kiezen tussen een oudere man of een jong kind? Moet de auto altijd uitwijken in de richting van degene die de wet overtreedt? Mag de auto de beslissing nemen om 2 mensen te redden ten koste van 1?

De leerlingen moesten hun keuze maken en hun redenering uitleggen aan de klas. De cockpit leverde enkele heel levendige discussies op. Sommige leerlingen zochten naar creatieve oplossingen om toch geen slachtoffers te maken; “wat als de auto supergoed kan driften?” of “En als de auto nu over mensen heen kon springen?”. Andere leerlingen wisten heel goed wat ze moesten zeggen om in te spelen op emoties: “Wat als die oude vrouw jouw oma was?”.

Sciencefiction en de realiteit

Om in de huid te kruipen van iemand uit de toekomst, is het soms ook nodig om je fantasie te gebruiken. Als robots ooit even intelligent worden als mensen, moeten we hen dan rechten toekennen? Wat doen we met machines die onze intelligentie overstijgen? Is het wenselijk om autonome wapens te bouwen? Hoe ver mag deze autonomie dan reiken? De link naar sciencefictionverhalen is snel gemaakt, maar we mogen niet vergeten dat de realiteit soms nóg vreemder kan zijn dan fictie. Als we de toekomstvoorspellingen van vooraanstaande computerwetenschappers mogen geloven, zullen er nog vóór het jaar 2100 machines uitgevonden worden die onze intelligentie overstijgen.

Het programmeren van robots, het bepalen van de richtlijnen en regelgeving voor robots en het ontwerp van deze nieuwe technologieën zal allemaal ooit in de handen liggen van de jongeren die we vandaag grootbrengen. Het is dan vooral belangrijk dat we hen hierop voorbereiden met lessen die handelen over alle mogelijke toekomstscenario’s.

Bibliografie

ACKERMAN, E. (2016, 05 24). Researchers Teaching Robots to Feel and React to Pain. IEEE Spectrum. Opgehaald van http://spectrum.ieee.org/automaton/robotics/robotics-software/researche…

ADMONI, H. (2016). Nonverbal Communication for Human-Robot Interaction. New Haven: Yale University.

AI IMPACTS. (2015). Brain performance in TEPS. Future of Life Institute. Opgehaald van http://aiimpacts.org/brain-performance-in-teps/

ARISTOTELES, JOWETT B., DAVIS H. (1920). Aristotle's Politics. Oxford.

ARMSTRONG, S. (2014). Smarter Than Us: The Rise of Machine Intelligence. Machine Intelligence Research Institute.

ASARO, P. M. (2006). What should we want from a robot ethic? International Review of Information Ethics.

BAKER, S. (2011). Final Jeopardy: Man vs. Machine and the Quest to Know Everything. Boston, New York: Houghton Mifflin Harcourt.

BARATT, J. (2013). Our Final Invention: Artificial Intelligence and the End of the Human Era. New York: Thomas Dunne Books.

BAUM S., GOERTZEL B., GOERTZEL T. . (2011). How Long Until Human-Level AI? Results from an Expert Assessment. Technological and Forecasting Change Vol. 78. No. 1 (January), 185-195.

BOESVELD, S. (2009, augustus). INANIMATE ATTACHMENT: Love Objects. The Globe and Mail.

BONNEFON JF., SHARRIF A., RAHWAN I. (2015 , oktober). Autonomous Vehicles Need Experimental Ethics: Are We Ready for Utilitarian Cars?

BOSTROM, N. (2014). Superintelligence: Paths, Dangers, Strategies. Oxford: Oxford University Press.

BOSTROM, N. (2015, april 27). What happens when our computers get smarter than we are? TED.

BOULEZ, M. (2011, 05 11). Onbemande oorlog met robots - Panorama. Opgehaald van http://www.digimores.org/dms/view_document.php?id=5432

BOURGET D., CHALMERS D. (2013). What Do Philosophers Believe? Opgehaald van http://philpapers.org/archive/BOUWDP

BURGER, S. (Regisseur). (2015). Ik ben Alice [Film].

Campaign to Stop Killer Robots. (2016, 05 28). http://www.stopkillerrobots.org/the-problem/. Opgehaald van http://www.stopkillerrobots.org/: http://www.stopkillerrobots.org/the-problem/

CAPEK, K. (1921). R.U.R. (Rossumovi univerzální roboti).

CHECKOWAY S., et al. (2011). Comprehensive Experimental Analyses of Automotive Attack Surfaces. USENIX Security Symposium.

COTTINGHAM, J. (1978, 10). 'A Brute to the Brutes?': Descartes' Treatment of Animals. Philosophy, 53(206), 551-559.

CRAEYNEST, P. (2011). Psychologie van de levensloop. Leuven: Acco.

DELOITTE. (2015). From brawn to brains. London: Deloitte LLP. Opgehaald van http://www2.deloitte.com/content/dam/Deloitte/uk/Documents/Growth/deloi…

ECONOMIST, T. (2014, januari 18). The Onrushing Wave. The Economist.

EMAN, M. (2015, januari 5). What is the best Robot Vacuum? Opgehaald van Buildyoursmarthome: http://buildyoursmarthome.co/reviews/best-robot-vacuum/

EUROPESE COMMISSIE. (2011). Stappenplan voor een interne Europese vervoersruimte – werken aan een concurrerend en zuinig vervoerssysteem. Brussel: EUROPESE COMMISSIE.

FERRUCI, e. a. (2010). Building Watson: An Overview of the DeepQA Project. AI magazine Vol. 32 No. 3.

FESSENDEN, M. (2014, 11 19). We've Put a Worm's Mind in a Lego Robot's Body. SMITHSONIAN.

FRIEDMAN, B. (2015, Oktober 8). Drones and the Epoch of One-Click Wars. The Atlantic.

GIBBS, S. (2014, 01 27). Google buys UK artificial intelligence startup Deepmind for £400m. The Guardian. Opgehaald van https://www.theguardian.com/technology/2014/jan/27/google-acquires-uk-a…

GOOD, I. J. (1966). Speculations Concerning the First Ultraintelligent Machine*. Advances in Computers, 31–88.

GOOGLE. (2014, april 28). Google Self-Driving Car on City Streets. Opgehaald van https://www.youtube.com/watch?v=dk3oc1Hr62g

GOOGLE. (2015). Google Self-Driving Car Testing Report on Disengagemens of Autonomous Mode. Google.Inc.

HARING, B. (2005). De Ijzeren Wil. Antwerpen: Houtekiet.

HUMAN RIGHTS WATCH, DOCHERTY B. (2012). Losing Humanity: The Case against Killer Robots. United States of America: IHRC.

JONZE, S. (Regisseur). (2013). Her [Film].

Keydocs (Producent), & BURGER, S. (Regisseur). (2015). Ik ben Alice [Film].

KEYNES, J. M. (1930). Economic Possibilities for our Grandchildren.

KUMARAN, H. G. (2015, februari 25). From Pixels to Actions: Human-level control through Deep Reinforcement Learning. Opgehaald van http://googleresearch.blogspot.be/: http://googleresearch.blogspot.be/2015/02/from-pixels-to-actions-human-…

KURZWEIL, R. (2000). The Age of Spiritual Machines: When Computers Exceed Human Intelligence. Penguin Books.

LAYTON, J. (2005, 11 3). How Robotic Vacuums Work. Opgehaald van How Stuff Works: http://electronics.howstuffworks.com/gadgets/home/robotic-vacuum.htm

LIN, P. (2013, oktober 8). The Ethics of Autonomous Cars. The Atlantic. Opgehaald van http://www.theatlantic.com/technology/archive/2013/10/the-ethics-of-aut…

MEEUS, R. (2015, april 15). Laat je rijden met de 'smart car'. De Morgen.

MORI, M. (2012). The Uncanny Valley. IEEE ROBOTICS & AUTOMATION MAGAZINE, 98-100.

NOLAN J., NOLAN C. (2014). Interstellar - The Complete Screenplay with Selected Storyboards. UK: Faber & Faber Ltd.

PARKIN, S. (2016). The Artificially Intelligent Doctor Will Hear You Now. MIT Technology Review.

RIEDL M., HARRISON B. (2015). Using Stories to Teach Human Values to Artificial Agents. School of Interactive Computing, Georgia Institute of Technology.

ROTMAN, D. (2014, oktober 21). Technology and Inequality. MIT Technology Review.

ROTMAN, D. (2015). Who will own the robots? MIT Technology Review magazine.

SCHAEFFER, LAKE, LU & BRYANT. (1996). CHINOOK The World Man-Machine. AI Magazine, pp. 21-29.

SCHMIDT H.G. , et al. (2016). Do patients’ disruptive behaviours influence the accuracy of a doctor's diagnosis? A randomised experiment. BMJ Quality & Safety.

SCHULTE, A. (2016, februari 23). Bang voor robots? Gebruik die angst! De Correspondent.

SCHWITZGEBEL, E. (2015, 11 12). We have greater moral obligations to robots than to humans. Opgehaald van Aeon: https://aeon.co/ideas/we-have-greater-moral-obligations-to-robots-than-…

SILVER, HASSABIS. (2016, januari 27). AlphaGo: Mastering the ancient game of Go with Machine Learning. Opgehaald van http://googleresearch.blogspot.be/: http://googleresearch.blogspot.be/2016/01/alphago-mastering-ancient-gam…

SPIELBERG, S. (Regisseur). (2001). A.I.: Artificial Intelligence [Film].

VARDI, M. (2012, januari ). Artificial Intelligence: Past and Future. Communications of the ACM, Vol. 55 No. 1, , p. 5.

VERPLAETSE, J. (2008). Het Morele Instinct. Amsterdam: Nieuwezijds.

WHITE, A. (2016, januari 22). How basic income can solve one of the digital economy's biggest problems. The Conversation. Opgehaald van https://theconversation.com/how-basic-income-can-solve-one-of-the-digit…

WINTER. (1996). Noughts And Crosses - The oldest graphical computer game. Opgehaald van http://www.pong-story.com/1952.htm

WINTERS B., et al. (2012, juli 21). Diagnostic errors in the intensive care unit: a systematic review of autopsy studies. BMJ Quality & Safety.

WLE-LIMBURG. (2009, 01 16). JONGEREN & TECHNIEK Lesmap WLE. Opgehaald van http://www.digimores.org/dms/view_document.php?id=2590

YANOFSKY, N. (2013). The Outer Limits of Reason: What Science, Mathematics, and Logic Cannot Tell Us. MIT Press.

ZASTROW, M. (2016). South Korea trumpets $860-million AI fund after AlphaGo 'shock'. Nature News.

 

Universiteit of Hogeschool
Bachelor in het onderwijs: Secundair onderwijs
Publicatiejaar
2016
Promotor(en)
Jan Van Vaek
Kernwoorden
Share this on: