Ouders spanden een rechtszaak aan tegen de privéschool na een schandaal met AI-gegenereerde naaktbeelden van vrouwelijke leerlingen. Toen Lancaster County Day School ontdekte dat een leerling expliciete deepfake-beelden maakte van vrijwel al zijn klasgenoten, kwamen ze zwaar onder vuur te liggen. C annuleerde lessen, schoolleiders drongen aan op verantwoordelijkheid, en sommigen namen ontslag.
Het schandaal begon toen er een rapport werd ingediend bij de school.Safe2Say Iets” anoniem meldsysteem in november 2023. Volgens de politie ontving schoolhoofd Matt Micciche deze melding, maar besloot er niets aan te doen en liet de situatie enkele maanden voortduren. De politie werd pas medio 2024 op de hoogte gebracht van de student die ervan werd beschuldigd de schadelijke inhoud te hebben gemaakt, toen ze een arrestatie verrichtten. Onderdeel van het onderzoek was het in beslag nemen van de telefoon van de student. Nadat de expliciete, door AI gegenereerde beelden aan de student waren gekoppeld, bevestigde de politie in augustus dat een jongere inderdaad een rol speelde.
Ontslag, protesten en rechtszaken volgen op het AI-deepfake-schandaal van Lancaster
De beelden werden in mei 2024 zo verontrustend voor ouders dat ze verbaasd waren dat de school de zaak niet eerder had gemeld, zoals vereist onder wetten voor het melden van kindermisbruik. Dat leidde tot dreigementen met een rechtszaak tegen schoolambtenaren, die een dagvaarding hadden gekregen waarin werd geëist dat ze binnen 48 uur zouden aftreden, anders zou een rechtszaak worden aangespannen. Micciche en schoolbestuursvoorzitter Angela Ang-Alhadeff namen ontslag vanwege de druk slechts enkele dagen later.
De spanningen bleven hoog en de lessen werden de volgende maandag geannuleerd. Studenten en docenten organiseerden een protest op de school, die ongeveer 600 studenten bedient van de kleuterklas tot en met de middelbare school, en eisten sterkere maatregelen om de veiligheid van studenten te beschermen. De school beloofde gedurende deze tijd de gemeenschap bij te staan.
Omdat schoolbestuurders ontslag namen na georganiseerde stakingenstudenten beweerden ongemakkelijk te zijn. Op 8 november kwamen vele duizenden middelbare scholieren bijeen en zongen iets als “Hoor ons. Erken ons. Zie ons.” Ze benadrukten de noodzaak van duidelijkere communicatie van schoolleiders naarmate crises zich voordoen. Micciche had het protest eerder gesteund en zei dat hij erkende dat studenten het recht hadden om hun woede te uiten over de manier waarop de school met het incident omging.
Hoewel de schoolleiders zijn afgetreden, zijn ze nog steeds van plan juridische stappen te ondernemen tegen schoolleiders, zegt advocaat Matthew Faranda-Diedrich. Lancaster Country Day zei dat het getroffen studenten had geadviseerd en beloofde de rapportageprocedures en het veiligheidsbeleid te herzien en bij te werken.
Dit schandaal ontstaat tegelijkertijd met een breder debat over hoe het Amerikaanse wettelijke kader reageert op pogingen tot uitbuiting van kinderen door middel van AI. Hoewel het Lancaster-incident verontrustend is, zoals het nu is, wordt het onderdeel van een patroon van door AI gegenereerde incidenten met expliciete inhoud waarbij kinderen betrokken zijn. De onlangs voorgestelde wetgeving omvat onder meer het criminaliseren van de creatie en distributie van dergelijk materiaal, met zware straffen, waaronder hoge boetes en lange gevangenisstraffen voor ernstige overtredingen.
Maar een nieuwe wet in Pennsylvania die binnenkort in werking zal treden, zou het maken of verspreiden van door AI gegenereerd materiaal over seksueel kindermisbruik expliciet strafbaar stellen. Ondertussen pakken de autoriteiten een soortgelijke deepfake-gerelateerde crisis in Zuid-Korea aan. Daartoe behoort onder meer meer toezicht op sociale-mediaplatforms en meer straffen voor het overtreden ervan, nu het land worstelt met een deepfake-porno-epidemie die scholen en gemeenschappen in het hele land bang maakt.
De Amerikaanse inspanningen op dit gebied verbleken in vergelijking met die van andere landen. Onderzoekers van het John Jay College of Criminal Justice behoren tot de pleitbezorgers die aandringen op wettelijke aansprakelijkheid tegen digitale platforms die niet-consensuele deepfake-inhoud plaatsen en oproepen tot robuustere middelen om degenen die het risico lopen slachtoffer te worden, te beschermen.
Afbeelding tegoed: Furkan Demirkaya/Flux-AI
Het bericht Studentenprotesten barsten los nadat AI-deepfake-schandaal de privéschool in de war brengt verscheen voor het eerst op TechBriefly.