De Stille Ramp van Pornografische Deepfakes
Het begon met een link die Rana Ayubb, een Indiase journaliste, kreeg toegestuurd. Wat ze daar zag, deed haar wereld instorten. Een vervalste pornografische video van haar, gecreëerd door geavanceerde technologie, verspreidde zich als een virus.
Dit is het verhaal van pornografische deepfakes, een fenomeen dat de grens tussen echt en nep vervaagt en slachtoffers in de kou laat staan.
Diep in de wereld van technologische innovatie en de digitale revolutie hebben we te maken met een donkere kant die onze privacy en integriteit bedreigt. Het gebruik van artificiële intelligentie heeft het mogelijk gemaakt om beelden te creëren die zo realistisch zijn dat ze nauwelijks van echte beelden te onderscheiden zijn. Deze digitale creaties, bekend als "deepfakes", vormen een groeiende zorg voor individuen en samenlevingen wereldwijd.
De opkomst van deepfakes
Deepfakes worden gemaakt door complexe algoritmen die in staat zijn om menselijke gezichten en stemmen te manipuleren. Ze kunnen worden ingezet om nepvideo's te produceren waarin mensen dingen lijken te zeggen of te doen die ze nooit hebben gedaan. Dit gaat verder dan traditionele fotomanipulatie; het is een technologie die de realiteit herschrijft. En binnen deze categorie van deepfakes zijn er ook pornografische deepfakes, ook wel bekend als deepnudes.
Het overwicht van porno
Wat deze kwestie extra zorgwekkend maakt, is het feit dat het merendeel van de deepfakes op het internet pornografisch van aard zijn. Deze video's worden met gemak gemaakt, geavanceerde digitale vaardigheden heb je hier niet voor nodig. Het resultaat? In enkele seconden kan een kant-en-klare pornografische video viraal gaan, zonder medeweten of toestemming van het slachtoffer. Dit is geen sciencefiction, maar een pijnlijke realiteit die het leven van mensen kan ruïneren.
96% van de deepfakes die momenteel online circuleren zijn pornografisch, maar toch vestigt de publieke aandacht zich nog hoofdzakelijk op politieke deepfakes.
Deepfakes vormen een gevaarlijke cocktail van technologie, privacy-inbreuk en misbruik. In de context van pornografische deepfakes krijgen slachtoffers te maken met een inbreuk op hun seksuele privacy en een schending van hun digitale integriteit. Het creëren en verspreiden van deze nepvideo's gaat verder dan een grap; het is een daad van ernstige schade die emotionele, psychologische en soms zelfs fysieke gevolgen kan hebben.
De wet en deepnudes
In België lijken er wettelijke mechanismen te zijn om slachtoffers van deepnudes te beschermen. Uit onderzoek blijkt zelfs dat België als een pionier wordt beschouwd in de wetgeving rond deepnudes. Maar er zijn nog hiaten en uitdagingen die moeten worden aangepakt.
Ondanks de enorme omvang van dit probleem hebben slechts een handvol landen wetten opgesteld die beperkingen opleggen aan niet-consensuele pornografische deepfakes of door artificiële intelligentie gegenereerde pornografische media in het algemeen.
Het is bemoedigend om te zien dat er juridische stappen worden ondernomen om deze digitale dreiging aan te pakken. De wetgeving is echter nog niet volledig bij de tijd, gezien de snel evoluerende aard van technologie. Hoewel België vooruitgang boekt, blijft er werk aan de winkel om ervoor te zorgen dat slachtoffers van deepnudes de bescherming krijgen die ze verdienen. Het is een voortdurende uitdaging om wetgeving te ontwikkelen die gelijke tred houdt met de steeds veranderende technologische landschappen.
Een verband met genderongelijkheid?
Diepgaand onderzoek onthult een gendergerelateerd aspect van pornografische deepfakes. Vrouwelijke slachtoffers zijn oververtegenwoordigd, wat wijst op diepgewortelde maatschappelijke problemen zoals seksuele objectivering en genderongelijkheid. Deepfakes zijn slechts het topje van de ijsberg in het bredere debat over gendergelijkheid.
De genderspecifieke aard van het probleem moet dringend erkend worden, en dan vooral de sociale en culturele context waarin vrouwenhaat in alle vormen, inclusief niet-consensuele neppornografie, gedijt.
De overwegende slachtoffers van deepfakes, met name in de pornografische context, zijn vrouwen. Dit werpt een pijnlijke en verontrustende vraag op over hoe diep seksisme en gendergerelateerd geweld in onze samenleving geworteld zijn. Deze technologische inbreuk op privacy en waardigheid versterkt niet alleen bestaande maatschappelijke hiërarchieën, maar creëert ook nieuwe vormen van gendergerelateerde intimidatie.
De weg vooruit
Het aanpakken van pornografische deepfakes vereist een gecoördineerde inspanning van juridische instanties, sociale mediaplatforms, beleidsmakers en het publiek. Wetgeving en regulering zijn essentieel, maar niet voldoende. Bewustmaking en mediawijsheid zijn net zo belangrijk. Een culturele verschuiving in hoe we gender en seksualiteit benaderen, is onontbeerlijk.
Om deze kwestie effectief aan te pakken, moeten verschillende actoren samenwerken. Juridische instanties moeten ervoor zorgen dat de wetgeving zich aanpast aan nieuwe technologische ontwikkelingen. Sociale mediaplatformen moeten beleid ontwikkelen om deepfakes te detecteren en te verwijderen. Beleidsmakers moeten campagnes opzetten om bewustwording te vergroten en mediawijsheid te bevorderen.
Daarnaast moeten we als samenleving een diepere culturele verschuiving omarmen. We moeten leren hoe we gender en seksualiteit op een respectvolle en gelijkwaardige manier kunnen benaderen. Alleen op deze manier kunnen we de onderliggende problemen van pornografische deepfakes en gendergerelateerd geweld effectief aanpakken.
De Stille Ramp van Pornografische Deepfakes onthult de duistere kant van technologische vooruitgang en roept op tot actie. Het is een weergave van de uitdagingen waarmee onze samenleving wordt geconfronteerd en een oproep tot verandering. Deze scriptie is niet slechts een academische oefening; het is een wake-up call voor een digitale wereld die dringend gerepareerd moet worden.
Bibliografie
Ahmed, S. R., Sonuç, E., Ahmed, M. R., & Duru, A. D. (2022). Analysis Survey on Deepfake Detection and Recognition with Convolutional Neural Networks. International Congress on Human-Computer Interaction, Optimization and Robotic Applications (HORA). https://doi.org/10.1109/hora55278.2022.9799858
Albahar, M., & Almalki, J. (2019). Deepfakes: Treats and Countermeasures Systematic Review. Journal of Theoretical and Applied Information Technology, 97(22), 3242-3250. http://www.jatit.org/volumes/Vol97No22/7Vol97No22.pdf
Amnesty International. (2023, 22 maart). Surveillance in China. Amnesty International. https://www.amnesty.nl/wat-we-doen/landen/china- informatieplatform/surveillance-sociaalkredietsysteem
Ayyub, R. (2018, 21 november). I Was The Victim Of A Deepfake Porn Plot Intended To Silence Me. Huffington Post. https://www.huffingtonpost.co.uk/entry/deepfake- porn_uk_5bf2c126e4b0f32bd58ba316
Bates, S. (2016). Revenge Porn and Mental Health: A Qualitative Analysis of the Mental Health Effects of Revenge Porn on Female Survivors. Feminist Criminology, 1- 21.
Beebom Staff. (2022, 7 januari). 10 Best Deepfake Apps and Websites You Can Try for Fun. Beebom.com. https://beebom.com/best-deepfake-apps-websites/
Berners-Lee, T. (2020, 12 maart). Why the web needs to work for women and girls. World Wide Web Foundation. https://webfoundation.org/2020/03/web-birthday- 31/
Boeije & Bleijenbergh. (2019). Analyseren in kwalitatief onderzoek. (3E druk). Boom Lemma UItgevers.
Burkell, J., & Gosse, C. (2019). Nothing new here: Emphasizing the social and cultural context of deepfakes. First Monday, 24(12). https://doi.org/10.5210/fm.v24i12.10287
Clarke, Amanda (2006). Qualitative interviewing: encountering ethical issues and challenges. Nurse Researcher, 13(4), 19–29.
Cockburn, C. (2004). The Continuum of ViolenceA Gender Perspective on War and Peace. In University of California Press eBooks (pp. 24–44). https://doi.org/10.1525/california/9780520230729.003.0002
Cyber Civil Rights Initiative. (2015). End revenge porn. https://www.cybercivilrights.org/wp-content/uploads/2014/12/RPStatistic…
Delfino, R. A. (2019). Pornographic Deepfakes: The Case for Federal Criminalization of Revenge Porn’s Next Tragic Act. Fordham Law Review, 88(3), 889-938. http://dx.doi.org/10.2139/ssrn.3341593
Dempsey L, Dowling M, Larkin P, Murphy K. Sensitive interviewing in qualitative research. Research Nursing in Health.39(6):480-90
DiCicco-Bloom, B. (2006). The qualitative research interview. Medical Education.
Elliott, J. (2014). The Role of Consent in Human Trafficking. Routledge. 93-104.
European Commission. (2023, 25 april). DSA: Very large online platforms and search engines. European Commission. https://digital- strategy.ec.europa.eu/en/policies/dsa-vlops
European Parliament. (2021). Liability of online platforms. Panel for the Future of Science and Technology.
https://www.europarl.europa.eu/RegData/etudes/STUD/2021/656318/EPRS_ST U(2021)656318_EN.pdf
European Commission (2022). Proposal for a Directive of the European Parliament and of the Council on combating violence against women and domestic violence. COM (2022)105 final. European Commission. https://eur-lex.europa.eu/legal- content/EN/TXT/?uri=CELEX%3A52022PC0105
European Commission. (2021, 21 april). Proposal for a Regulation laying down harmonized rules on artificial intelligence. European Commission. https://digital- strategy.ec.europa.eu/en/library/proposal-regulation-laying- down-harmonised- rules-artificial-intelligence
European Commission (2021). Proposal for a Regulation of the European Parliament and of the Council laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) and amending certain union legislative acts. COM (2021)106 final.
. https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52021PC0206
European Commission. (2023, 6 juni). The Digital Services Act package. European Commission. https://digital-strategy.ec.europa.eu/en/policies/digital-services-act- package
Evers, J. (2015). Kwalitatief interviewen: kunst én kunde. (2E druk). Boom Lemma Uitgevers.
Fallis, D. (2020, 20 augustus). The Epistemic Threath of Deepfakes. Philosophy & Technology. https://doi.org/10.1007/s13347-020-00419-2
Farish, K. (2021). Deepfakes and their impact on women. DAC Beachcroft. Federal Public Service – Justice. (z.d.). Seksuele misdrijven. Justitie Belgium.
https://justitie.belgium.be/en/node/5942
Fernandez, A. (2022). Regulating Deep Fakes in the Proposed AI Act. (University of Luxembourg). https://www.medialaws.eu/regulating-deep-fakes-in-the-proposed- ai-act/
Franklin, C. A., Garza, A. D., Goodson, A., & Bouffard, L. A. (2020). Police perceptions of crime victim behaviors: A trend analysis exploring mandatory training and knowledge of sexual and domestic violence survivors’ trauma responses. Crime & Delinquency, 66(8), 1055-1086.
Franks, M.A. (2015). Drafting an effective “Revenge Porn” law: a guide for legislators. SSRN Electronic Journal. DOI: 10.2139/ssrn.2468823.
Franks, M. A., & Citron, D. K. (2014). Criminalizing revenge porn. Wake Forest Review 2014, 49, 345-391.
https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2368946
Floridi, L. (2018). Artificial Intelligence, Deepfakes and a Future of Ectypes. Philosophy
& Technology, 31, 317–321. https://doi.org/10.1007/s13347-018-0325-3
Flynn, A., Powell, A., Scott, A. J., & Cama, E. (2021). Deepfakes and Digitally Altered Imagery Abuse: A Cross-Country exploration of an emerging form of Image- Based Sexual abuse. British Journal of Criminology, 62(6), 1341–1358. https://doi.org/10.1093/bjc/azab111
Fisher, R. P. (1995). Interviewing victims and witnesses of crime. Psychology, Public Policy, and Law, 1(4), 732–764.
Gieseke, A. P. (2020, oktober 19). “The New Weapon of Choice”: Laws Current Inability to Properly Address Deepfake Pornography. Vanderbilt Law Review, 73(5), 1480-1515. https://cdn.vanderbilt.edu/vu-wp0/wp- content/uploads/sites/278/2020/10/19130851/The- New-Weapon-of-Choice- Laws-Current-Inability-to-Properly-Address-Deepfake-Pornography.pdf
Grady, P. (2023, January 23). EU Proposals Will Fail to Curb Nonconsensual Deepfake Porn. Center for Data Innovation. https://datainnovation.org/2023/01/eu- proposals-will-fail-to-curb-nonconsensual-deepfake-porn/
Greengard, S. (2020). Will deepfakes do deep damage? Communications of the ACM, 63(1), 17- 19. https://dl.acm.org/doi/fullHtml/10.1145/3371409
Hallemans, A. & Vanden Eynde, E. (z.d.). De nieuwe wet tegen de niet-consensuele verspreiding van naaktbeelden zorgt voor een versterkte positie van het slachtoffer. Nelissen Grade. https://www.nelissengrade.com/nl/news/202010-1
Harris, D. (2018). Deepfakes: False pornography is here and the law cannot protect you. Duke Law & Technology Review, 34(1), 99-127. https://static1.squarespace.com/static/5e793709295d7b60295b2d29/t/5f0b7… f4f095f7e706 13f/1594588750542/v23i1_1-Brown.pdf
Hao, K. (2021, 16 februari). Deepfake porn is ruining women’s lives. Now the law may finally ban it. MIT Technology Review. https://www.technologyreview.com/2021/02/12/1018222/deepfake- revenge- porn-coming-ban/
Heise, L., Ellsberg, M., & Gottmoeller, M. (2002). A global overview of gender-based violence. International journal of gynaecology and obstetrics, 78, S5–S14. https://doi.org/10.1016/s0020-7292(02)00038-3
Helberger, N., Pierson, J., & Poell, T. (2017). Governing online platforms: From contested to cooperative responsibility. The Information Society, 34(1), 1–14. https://doi.org/10.1080/01972243.2017.1391913
Hemrajani, A. (2023, 8 maart). China’s new legislation on deepfakes: Should the rest of Asia follow suit? The Diplomat. https://thediplomat.com/2023/03/chinas-new- legislation-on-deepfakes-should-the-rest-of-asia-follow-suit/
Henry, N., Powell, A. & Flynn, A. (2018, 1 maart). AI can now create fake porn, making revenge porn even more complicated. The Conversation. https://bit.ly/3IyZraM
Holmes, Z. (2021, april 7). 97% of new deepfakes are pornographic, experts believe revenge porn will spike. The big smoke. https://thebigsmoke.com/us/2019/10/19/97-of-new-deepfakes-are- pornographic- experts-believe-revenge-porn-will-spike/
Hopf, C. (2004). Qualitative Interviews: An Overview. In U. Flick, E. von Kardoff, & I. Steinke (Reds.), A Companion to Qualitative Research (pp. 203-208). SAGE Publicaties.
Hopwood, S. (2016). Clarity in Criminal Law. 54 Am. Crim. L. Rev., 695-745. https://ssrn.com/abstract=2838871
Instituut voor de Gelijkheid van Vrouwen en Mannen. (z.d.). Deepnudes. https://igvm- iefh.belgium.be/nl/activiteiten/geweld/digitaal_seksueel_geweld/deepnudes
Instituut voor de Gelijkheid van Vrouwen en Mannen. (2015). Wraakporno. https://igvm- iefh.belgium.be/nl/activiteiten/geweld/wraakporno
Johnson, D.G., & Diakopoulos. N. (2021). Computer ethics: What to do about deepfakes?. Communications of the ACM, 64(3), 33-35. https://dl.acm.org/doi/10.1145/3447255
Karasavva, V., & Noorbhai, A. (2021). The real threat of deepfake pornography: a review of Canadian policy. Cyberpsychology, Behavior, and Social Networking, 24(3), 203-209. https://doi.org/10.1089/cyber.2020.0272
Kietzmann, J., Lee, L.W., McCarty, I.P., & Kietzmann, T.C. (2020). Deepfakes: Trick or treat?. Business Horizons, 63(2), 135-146. https://doi.org/10.1016/j.bushor.2019.11.006
Kop, M. (2021). EU Artificial Intelligence Act: The European Approach to AI. Stanford- Vienna Transatlantic Technology Law Forum. https://futurium.ec.europa.eu/sites/default/files/2021- 10/Kop_EU%20Artificial%20Intelligence%20Act%20- %20The%20European%20Approach%20to%20AI_21092021_0.pdf
Lageson, S., & McElrath, S. (2018). Gendered Public Support for Criminalizing Revenge Porn. Feminist Criminology, 1-24. https://doi.org/10.1177/1557085118773398
Lincoln, Y.S., Lynham, S.A., & Guba, E.G. (2018). Paradigmatic controversies, contradictions, and emerging confluence revisited. In N.K. Denzin & Y.S. Lincoln (Eds.), The SAGE Handbook of Qualitative Research (pp. 108-150). Thousand Oaks, SAGE.
Maddocks, S. (2020). ‘A Deepfake Porn Plot Intended to Silence me’: exploring continuities between pornographic and ‘political’ deep fakes. Porn Studies, (7)4, 415-423.
Madiega, T. (2021). Artificial intelligence act. European Parliamentary Research Service. https://www.univiu.org/images/aauniviu2017/GP/co- curr/Artificial_intelligence_act.pdf
Mangum, K. (2019, 25 maart). Parasite Porn: What It Is and What To Do About It. Third Hour. https://thirdhour.org/blog/life/family-resources/parasite-pornography-t…
McGlynn, C., Rackley, E. & Houghton, R. (2017). Beyond ‘Revenge Porn’: The continuum of Image-Based Sexual Abuse. Feminist Legal Studies, 25, 25-46
Meuser, M., & Nagel, U. (2009). The expert interview and changes in knowledge production. In A. Bogner, B. Littig, & W. Menz (Eds.), Interviewing experts (pp. 17–42). London: Palgrave.
Miller, K. (2002). Communication Theories. New York: McGraw-Hill.
My Image My Choice. (2022). #MyImageMyChoice. https://myimagemychoice.org/
Nickert, J. (2023, 6 april). The Damage Caused by Deepfake Porn. Health News. https://healthnews.com/mental-health/anxiety-depression/the-damage-caus…- by-deepfake-porn/
Öhman, C. (2019). Introducing the pervert’s dilemma: a contribution to the critique of Deepfake Pornography. Ethics and Information Technology, 22, 133-140.
Panorama Global. (2023). I Didn’t Consent: A Global Landschape Report on Image- Based Sexual Abuse. Panorama Global.
Pascale, E. (2023). Deeply dehumanizing, degrading, and violating: deepfake pornography and the path to legal recourse. Syracuse Law Review, 73(1), 335- 366.
Paul, J. L. (2005). Introduction to the Philosophies of Reseach and Criticism in Education and the Social Sciences. Upper Saddle River, Pearson Merrill Prentice Hall.
Powell, A., Flynn, A., Scott, A. J., & Henry, N. (2020). Image-based sexual abuse: An international study of victims and perpetrators. Monash University.
Rigotti, C., & McGlynn, C. (2022). Towards an EU criminal law on violence against women: The ambitions and limitations of the Commission’s proposal to criminalise image-based sexual abuse. New Journal of European Criminal Law, 13(4), 452–477. https://doi.org/10.1177/20322844221140713
Rizzica, A. (2021). Sexually explicit deepfakes: to what extent do legal responses protect the depicted persons? Master’s Thesis Law and Technology. Tilburg Law School.
Rogers, N. T. (2022). Cyber Abuse Behaviour in Young Adults : Revenge Porn and how the Bournemouth University Community can learn from the issue. Bournemouth University.
Royers, S. (2022, 27 maart). Kamer keurt nieuw seksueel strafrecht goed. Wolters Kluwer. https://www.wolterskluwer.com/nl-be/expert-insights/new-sexual- criminal-law
Russo, N. F., & Pirlott, A. G. (2006). Gender-Based Violence: Concepts, methods, and findings. Annals of the New York Academy of Sciences, 1087(1), 178–205. https://doi.org/10.1196/annals.1385.024
Sample, I. (2020, 13 januari). What are deepfakes – and how can you spot them? The Guardian. https://www.theguardian.com/technology/2020/jan/13/what-are- deepfakes-and-how-can-you- spot-them
Sample, I. (2020, 12 maart). Internet “is not working for women and girls”, says Berners-Lee. The Guardian. https://www.theguardian.com/global/2020/mar/12/internet-not-working-wom…- girls-tim-berners-lee
Schuett, J. (2022). Risk management in the Artificial Intelligence Act. Cornell University. https://doi.org/10.48550/arxiv.2212.03109
Stevens, P. (2021). Inleiding tot kwalitatieve onderzoekstechnieken, ongepubliceerde lesdia’s
Stroud, S. (2016). What Exactly is Revenge Porn or Nonconsensual Pornography.
Routlegde.
ter Beek, R. (2021, 11 mei). Regulering van deepfakes om misbruik te voorkomen. Considerati. https://www.considerati.com/nl/kennisbank/regulering-van- deepfakes.html
Toews, R. (2020, mei 25). Deepfakes Are Going To Weak Havoc On Society. We Are Not Prepared. Forbes.
https://www.forbes.com/sites/robtoews/2020/05/25/deepfakes-are-going-to- wreak- havoc-on-society-we-are-not-prepared/?sh=14a26fb97494
Van Acker, L. (2018-2019). De toestemmingsvereiste in het kader van de verspreiding van seksueel getinte beelden [Master’s thesis, UGhent]. Lib.ugent.be. https://libstore.ugent.be/fulltxt/RUG01/002/782/522/RUG01- 002782522_2019_0001_AC.pdf
van Assema, P., Kok, G., & Mesters, I. (1992). Het focus-groep interview: een stappenplan. T. Soc. Gezondheidsz. 70(1992), 431-437.
Van der Hof, S. (2016). Wraakporno op internet. ArsAequi, 65, 54-59.
Van der Nagel, E. (2020). Verifying images: deepfakes, control, and consent. Porn
Studies, 7(4), 424-429.
Van der Sloot, B., Wagensveld, Y. & Koops, B-J. (2021). Deepfakes: De juridische uitdagingen van een synthetische samenleving. Volledige versie. Tilburg Institute for Law, Technology, and Society.
Veale, M., & Borgesius, F. Z. (2021). Demystifying the Draft EU Artificial Intelligence Act Analysing the good, the bad, and the unclear elements of the proposed approach. Computer law review international, 22(4), 97–112. https://doi.org/10.9785/cri-2021-220402
Vr. en Antw. Kamer 2017-2018, 28 maart 2018 (Voorstel van Resolutie. E. Van Hoof.) https://www.dekamer.be/FLWB/PDF/54/3020/54K3020001.pdf
Wetenschappelijk Onderzoek- en Documentatiecentrum. (2022, 5 januari). Probleem van deepfakes zit niet in wetgeving, maar vooral in handhaving daarvan. https://www.wodc.nl/actueel/nieuws/2022/01/05/probleem-van-deepfakes-zit- niet-in- wetgeving-maar-vooral-in-handhaving-daarvan
Williams, K. (2023, 15 mei). Exploring Legal Approaches to Regulating Nonconsensual Deepfake Pornography. Tech Policy Press. https://techpolicy.press/exploring- legal-approaches-to-regulating-nonconsensual-deepfake-pornography/
Zagers, G. (2021, 17 maart). We moeten het eens hebben over deepfakes (en nee, dit is niet Tom Cruise). Knack Focus. https://focus.knack.be/entertainment/online/we-moeten-het-eens- hebben-over- deepfakes-en-nee-dit-is-niet-tom-cruise/article-longread- 1711935.html?cookie_check=1620036449
