Beveik 50 paauglių vaizdai su „deepfake“ sukrėtė Pensilvanijos mokyklą

Pensilvanijos privačios mokyklos devintos klasės mokinys, kaip įtariama, dirbtinai sukūrė beveik 50 klasiokų nuogalių nuotraukų, tačiau apie atviras nuotraukas kelis mėnesius nebuvo pranešta policijai, teigiama tėvų pateiktame ieškinyje prieš mokyklą.

Lankasterio šalies dienos mokyklos administratoriai buvo teisiškai įpareigoti pranešti apie nuotraukas, tačiau nepranešė apie jas teisėsaugai, kai 2023 m. lapkritį pirmą kartą apie tai buvo pranešta anoniminiu pranešimu, teigiama šį mėnesį tėvų vardu pateiktame teisiniame laiške. Mokyklos vadovai įtraukė policiją tik po antrojo anoniminio pranešimo 2024 m. gegužę, sakoma laiške.

Tačiau iki to laiko žala jau buvo padaryta ir „buvo išnaudojama daug daugiau mokinių“, teigiama laiške.

Kokios valstybės įstatymai apsaugo vaikus nuo dirbtinio intelekto sukurtų giluminių klastočių?

Šeimoms atstovaujantys advokatai neatsakė į kelis NewsNation prašymus pakomentuoti.

Du mokyklos vadovai buvo atleisti iš darbo dėl incidento, kuris sukrėtė nedidelę privačios mokyklos bendruomenę Lankasteryje, maždaug už 80 mylių į vakarus nuo Filadelfijos.

Tėvai teigė, kad vadovai „žinojo, jog mokykla nesikreipė į policiją, kad užkirstų tam kelią, ir žinojo, kad leido nusikaltėliams likti klasėje kartu su aukomis per ‚vidaus tyrimus‘,“ pranešė vietos naujienų agentūros.

Lankasterio dienos mokykla teigė: „Rūpinimasis mūsų bendruomene, parama tiems, kuriuos paveikė ši nerimą kelianti situacija, ir mokyklos politikos, užtikrinančios mūsų mokinių gerovę, peržiūrėjimas šiuo metu išlieka svarbiausiais mūsų mokyklos prioritetais.“

Šis atvejis, simbolizuojantis keletą kitų visoje šalyje, paskatino Pensilvanijos įstatymų leidėjus skubiai pakoreguoti valstijos įstatymus, kad į galiojančius vaikų pornografijos įstatymus būtų įtrauktas dirbtinio intelekto (DI) pagalba sukurtas turinys.

Nors naujasis įstatymas turėtų įsigalioti gruodžio 28 d., jis negali būti taikomas atgaline data, o tai reiškia, kad jis nepadės mokiniams, kurie padėjo paskatinti teisės aktų pakeitimus.

Incidentas Pensilvanijoje iš naujo atskleidė daugumos valstijų įstatymų spragas, kai kalbama apie vaikus ir dirbtinio intelekto giliąją pornografiją, taip pat tai, kad mokyklų apygardos ir toliau yra prastai pasirengusios, teigia ekspertai.

Gilios klastotės - tai vaizdo, nuotraukų ar garso įrašai, kurie atrodo tikri, tačiau jais buvo manipuliuojama naudojant dirbtinį intelektą (DI). Gilioje klastotėje gali būti pavaizduotas asmuo, kuris atrodo sakantis ar darantis kažką, ko iš tikrųjų niekada nesakė ar nedarė.

Dauguma mokyklų tebėra „prastai pasirengusios“ klastotėms

Dirbtinio intelekto technologijų bumas ir jų pardavimas jaunimui palengvino moksleivių galimybes su jomis susipažinti, sakė advokatas Adamas Dodge'as, kurio organizacija „EndTAB“ siekia nutraukti technologijų sukurtą piktnaudžiavimą.

Mokiniai, be kita ko, Vašingtone, Kalifornijoje ir Naujajame Džersyje naudojo dirbtinio intelekto technologiją, kad sukurtų netikrus atvirus bendraklasių atvaizdus.
Keturiasdešimt procentų mokinių ir 29 % mokytojų teigia žinoję apie 2023-2024 mokslo metais dalijamą deepfake, kuriame pavaizduoti su jų mokykla susiję asmenys, teigiama rugsėjo mėnesio ataskaitoje, kurią parengė Demokratijos ir technologijų centras (Center for Democracy & Technology), pelno nesiekianti organizacija, ginanti pilietines laisves internete.

Daugeliu atvejų ir kaltininkas, ir auka buvo mokiniai.

Toje pačioje ataskaitoje nustatyta, kad tik 19 % mokinių teigė, kad jų mokykla paaiškino deepfakes, o dar mažiau, 13 %, teigė, kad jų mokykla paaiškino, jog dalijimasis intymiais vaizdais be sutikimo kenkia vaizduojamam asmeniui.

„Mokyklos yra prastai pasiruošusios, tačiau nereikėtų daug, kad pasiruoštume ir aktyviai spręstume šį iššūkį“, - sakė Dodge'as.

Jis sakė, kad mokyklos privalo šviesti darbuotojus ir mokinius apie dirbtinio intelekto technologijų ir „deepfake“ programėlių keliamus pavojus, ir pridūrė, kad tai nebūtinai turi būti didžiulis darbas.

„Jei mokykla, tėvai ar patikimas šaltinis nesupažindins mokinių su šios technologijos pavojais, jie, priimdami sprendimus, pasikliaus internetu ir programėlių kūrėjais“, - sakė jis.

Mokyklos taip pat turėtų atnaujinti savo mokinių elgesio politiką ar gaires, kad jos apimtų dirbtinio intelekto generuojamus ar dirbtinio intelekto manipuliuojamus intymius vaizdus, kad „būtų siunčiama labai aiški žinia, jog tai nėra nekenksmingas elgesys“.

Valstijų įstatymuose vis dar yra spragų dėl aiškaus vaikų AI turinio
Keturiolikoje valstijų galioja įstatymai, kuriuose yra konkrečių nuorodų, kad į įstatymus, kuriais siekiama kovoti su deepfakes ir kitu dirbtinio intelekto sukurtu turiniu, būtų įtraukti vaikai, rodo valstijų ir vietos valdžios ryšių bendrovės „MultiState Associates“ atlikta analizė, kuria pasidalinta su „NewsNation“.

Tarp jų yra Jutos, Aidaho, Džordžijos, Oklahomos ir Tenesio valstijos. Dar penkiose valstijose įstatymai įsigalios iki 2025 m. pradžios.

Kai kurios valstijos užbėgo problemai už akių, spręsdamos ją prevenciškai.

Rugsėjo mėnesį Kalifornija panaikino teisinę spragą, susijusią su dirbtinio intelekto sukurtais vaikų seksualinės prievartos vaizdais, ir aiškiai nurodė, kad vaikų pornografija yra neteisėta, net jei ji sukurta dirbtinio intelekto.

Pagal ankstesnį įstatymą apygardos prokurorai negalėjo persekioti asmenų, kurie turi ar platina dirbtinio intelekto sukurtus seksualinės prievartos prieš vaikus vaizdus, jei jie negali įrodyti, kad medžiagoje vaizduojamas tikras asmuo, tačiau pagal naujuosius įstatymus toks nusikaltimas kvalifikuojamas kaip sunkus nusikaltimas.

Liepos mėnesį Pietų Dakota taip pat aktyviai atnaujino savo įstatymus dėl seksualinės prievartos prieš vaikus vaizdų, įtraukdama ir dirbtinio intelekto sukurtus vaizdus.

Vis dėlto lieka 30 valstijų, kuriose oficialiai nieko neįtraukta į teisės aktus.

„Pakanka pasakyti, kad įstatymai atsilieka, ir jie turi būti pritaikyti prie šių naujų technologijų ir naujos elgsenos, kad galėtume patraukti blogus veikėjus atsakomybėn“, - sakė Viskonsino-Eau Claire universiteto baudžiamosios justicijos profesorius ir vienas iš Kibernetinių patyčių tyrimų centro direktorių Justinas Patchinas.

Nors kiekvienoje valstijoje galioja vaikų pornografijos įstatymai, vis dar yra spragų, kai turinys nelaikomas tikru asmeniu, pridūrė jis.

Federalinės gairės, kuriose konkrečiai aptariamas dirbtinio intelekto sukurtas turinys, galėtų būti naudingos valstijoms, kurios vis dar aiškinasi, kaip spręsti šią problemą, sakė jis.

Nors kai kurios valstijos į šią problemą žiūri vėliau, vis daugiau jų imasi nagrinėti savo įstatymus, sakė Dodge'as, daugelis dėl spaudimo.

„Yra rinkėjų, kurie prašo savo valstijų įstatymų leidėjų atnaujinti įstatymus, kad jie būtų pritaikyti, nes tėvai yra labai įsiutę ir teisėtai“, - sakė jis.

Parengta pagal NewsNation publikaciją