Paauglės merginos susiduria su giliai suklastotų nuogybių epidemija mokyklose

Naudodamiesi dirbtiniu intelektu, vidurinių ir aukštųjų mokyklų moksleiviai sukuria atvirus bendraklasių atvaizdus ir dalijasi suklastotomis nuotraukomis.

Kovo pabaigoje Vestfildo viešosios mokyklos surengė eilinį valdybos posėdį vietos vidurinėje mokykloje - raudonų plytų komplekse Vestfilde, NJ, kurio lauko švieslentė išdidžiai sveikino lankytojus su „Mėlynųjų velnių“ sporto komandų namais.

Tačiau Dorotai Mani tai nebuvo įprasta veikla.

Spalio mėn. kai kurios Vestfildo vidurinės mokyklos dešimtos klasės mergaitės, tarp jų ir ponios Mani 14-metė dukra Frančeska, perspėjo administracijos darbuotojus, kad jų klasės berniukai, naudodamiesi dirbtinio intelekto programine įranga, sufabrikavo jų seksualinio pobūdžio nuotraukas ir jas platino. Praėjus penkiems mėnesiams, Mani ir kitų šeimų teigimu, rajonas nepadarė nieko, kad viešai atkreiptų dėmesį į suklastotus vaizdus arba atnaujintų mokyklos politiką, kad būtų užkirstas kelias išnaudojimui naudojant dirbtinį intelektą.

„Atrodo, kad Vestfildo vidurinės mokyklos administracija ir apygarda rengia meistriškumo pamokas, kad šis incidentas išnyktų ore“, - posėdyje tarybos nariams priekaištavo vietos ikimokyklinio ugdymo įstaigos įkūrėja M. Mani.

Mokyklos apygarda pareiškime nurodė, kad sužinojusi apie incidentą pradėjo „neatidėliotiną tyrimą“, nedelsdama pranešė policijai ir su ja konsultavosi, o antrokų klasei suteikė grupines konsultacijas.

VaizdasMėlynas užrašas ant sutvarkytos teritorijos: „Vestfildo vidurinė mokykla“. Antrame plane po mėlynu dangumi stovi didelis, žemas mūrinis pastatas.
Vestfildo vidurinės mokyklos Naujajame Džersyje dešimtokės praėjusį rudenį sužinojo, kad bendraklasiai vyrai sufabrikavo jų seksualinio pobūdžio nuotraukas ir jomis dalijosi.

„Visi mokyklų rajonai kovoja su dirbtinio intelekto ir kitų technologijų, kuriomis mokiniai gali naudotis bet kuriuo metu ir bet kur, iššūkiais ir poveikiu“, - teigė Vestfildo viešųjų mokyklų kuratorius Raymondas Gonzálezas.

Praėjusiais metais staiga išpopuliarėjus tokiems dirbtinio intelekto valdomiems pokalbių robotams kaip „ChatGPT“, mokyklos visose Jungtinėse Valstijose skubėjo suvaldyti tekstą generuojančius robotus, kad užkirstų kelią mokinių sukčiavimui. Dabar mokyklas drebina dar didesnį nerimą keliantis A.I. vaizdus generuojantis reiškinys.

Keliose valstijose berniukai naudojosi plačiai prieinamomis „nuogybių“ programėlėmis, kad iškraipytų tikras, atpažįstamas savo apsirengusių bendraklasių nuotraukas, kuriose jos rodomos dalyvaujant tokiuose renginiuose kaip mokyklos išleistuvės, į vaizdingus, įtikinamai atrodančius mergaičių atvaizdus su apnuogintomis dirbtinio intelekto sukurtomis krūtimis ir lytiniais organais. Kai kuriais atvejais berniukai dalijosi suklastotais vaizdais mokyklos valgykloje, mokykliniame autobuse arba per grupinius pokalbius tokiose platformose kaip „Snapchat“ ir „Instagram“, teigiama mokyklos ir policijos ataskaitose.

Tokie skaitmeniniu būdu pakeisti vaizdai, vadinami „deepfakes“ arba „deepnudes“, gali turėti pražūtingų pasekmių. Vaikų seksualinio išnaudojimo ekspertai teigia, kad nesankcionuotų, dirbtinio intelekto sukurtų atvaizdų naudojimas siekiant priekabiauti, žeminti ir tyčiotis iš jaunų moterų gali pakenkti jų psichinei sveikatai, reputacijai ir fiziniam saugumui, taip pat kelti pavojų jų studijoms ir karjeros perspektyvoms. Praėjusį mėnesį Federalinis tyrimų biuras įspėjo, kad neteisėta platinti kompiuteriu sukurtą seksualinės prievartos prieš vaikus medžiagą, įskaitant tikroviškai atrodančius A.I. sukurtus atpažįstamų nepilnamečių, dalyvaujančių seksualiniuose veiksmuose, atvaizdus.

Tačiau mokinių naudojimasis mokyklose naudojamomis dirbtinio intelekto programėlėmis yra toks naujas reiškinys, kad kai kurie rajonai, atrodo, yra mažiau pasirengę spręsti šią problemą nei kiti. Dėl to moksleivių apsaugos priemonės gali būti nesaugios.

„Šis reiškinys atsirado labai staiga ir gali užklupti daugelį mokyklų apygardų nepasirengusias ir nežinančias, ką daryti“, - sakė Riana Pfefferkorn, Stanfordo interneto observatorijos mokslininkė, rašanti apie teisinius klausimus, susijusius su kompiuteriu sukurtais vaikų seksualinės prievartos vaizdais.

Praėjusį rudenį netoli Sietlo esančioje Issaquah vidurinėje mokykloje policijos detektyvas, tirdamas tėvų skundus dėl jų 14 ir 15 metų dukrų atvirų atvaizdų, sukurtų dirbtinio intelekto pagalba, paklausė direktoriaus pavaduotojo, kodėl mokykla nepranešė apie incidentą policijai, teigiama Issaquah policijos departamento pranešime. Tuomet mokyklos darbuotoja paklausė, „apie ką ji turėjo pranešti“, sakoma policijos dokumente, ir tai paskatino detektyvą informuoti ją, kad pagal įstatymą mokyklos privalo pranešti apie seksualinę prievartą, įskaitant galimą vaikų seksualinio išnaudojimo medžiagą. Vėliau mokykla apie incidentą pranešė Vaikų teisių apsaugos tarnybai, sakoma policijos pranešime. (The New York Times gavo policijos ataskaitą, pateikęs prašymą dėl viešų įrašų.)

Pareiškime Issaquah mokyklos apygarda teigė, kad, atlikdama tyrimą dėl „deepfakes“, kalbėjosi su mokiniais, šeimomis ir policija. Apygarda taip pat „pasidalijo savo užuojauta“, sakoma pareiškime, ir suteikė paramą nukentėjusiems mokiniams.

Pareiškime priduriama, kad rajonas apie „netikrus, dirbtinio intelekto sukurtus vaizdus iš atsargumo pranešė Vaikų teisių apsaugos tarnybai“, pažymėdamas, kad „mūsų teisininkų komanda neprivalo pranešti policijai apie netikrus vaizdus“.

Beverli Vistos vidurinės mokyklos Beverli Hilse, Kalifornijoje, administracija vasario mėn. kreipėsi į policiją, sužinojusi, kad penki berniukai sukūrė ir dalijosi AI sukurtomis atviromis bendraklasių nuotraukomis. Po dviejų savaičių mokyklos taryba patvirtino penkių mokinių pašalinimą iš mokyklos, teigiama rajono dokumentuose. (Rajonas teigė, kad Kalifornijos švietimo kodeksas draudžia jam patvirtinti, ar pašalinti mokiniai buvo tie, kurie sukūrė vaizdus.)

Beverli Hilso apygardos mokyklos kuratorius Maiklas Breigis (Michael Bregy) teigė, kad jis ir kiti mokyklų vadovai norėjo sukurti nacionalinį precedentą, jog mokyklos neturi leisti mokiniams kurti ir platinti seksualinio pobūdžio bendraamžių atvaizdų.

„Kai kalbama apie mokyklas, tai yra kraštutinės patyčios“, - sakė daktaras Bregy, pažymėdamas, kad atviri atvaizdai mergaitėms ir jų šeimoms kelia „nerimą ir smurtą“. „Tai kažkas, ko mes čia visiškai netoleruosime“.

Mažų, pasiturinčių Beverli Hilso ir Vestfildo bendruomenių mokyklos buvo vienos pirmųjų, kurios viešai pripažino „deepfake“ incidentus. Atvejų detalės, aprašytos rajonų pranešimuose tėvams, mokyklų tarybų posėdžiuose, teisės aktų svarstymuose ir teismui pateiktuose dokumentuose, parodo, kad mokyklų reakcija buvo įvairi.

Vestfildo incidentas prasidėjo praėjusią vasarą, kai vidurinės mokyklos moksleivis paprašė draugauti su 15-mete bendraklase „Instagram“, kuri turėjo privačią paskyrą, teigiama ieškinyje prieš berniuką ir jo tėvus, kurį pateikė jauna moteris ir jos šeima. (Maniškiai sakė, kad jie su ieškiniu nesusiję).

Jai sutikus su prašymu, moksleivis nukopijavo jos ir kelių kitų bendraklasių nuotraukas iš jų socialinių tinklų paskyrų, sakoma teismo dokumentuose. Tada jis, naudodamasis dirbtinio intelekto programėle, pagamino seksualiai atvirus, „visiškai atpažįstamus“ merginų atvaizdus ir pasidalijo jais su bendraklasiais per „Snapchat“ grupę, sakoma teismo dokumentuose.

Vestfildo vidurinė mokykla pradėjo tyrimą spalio pabaigoje. Kol administratoriai tyliai nusivedė kai kuriuos berniukus į šalį, kad juos apklaustų, Francesca Mani pasakojo, kad jie ją ir kitas dešimtokes, kurios patyrė „deepfakes“, pakvietė į mokyklos kabinetą, per mokyklos domofoną paskelbdami jų vardus.

Tą savaitę Vestfildo vidurinės mokyklos direktorė Mary Asfendis išsiuntė elektroninį laišką tėvams, kuriame įspėjo juos apie „situaciją, dėl kurios plačiai paplito dezinformacija“. Toliau elektroniniame laiške giluminės klastotės apibūdinamos kaip „labai rimtas incidentas“. Jame taip pat teigiama, kad, nepaisant mokinių susirūpinimo dėl galimo dalijimosi atvaizdais, mokykla tikino, kad „visi sukurti atvaizdai buvo ištrinti ir nėra platinami“.

Dorota Mani teigė, kad Vestfildo administracijos atstovai jai sakė, jog rajonas vienai ar dviem dienoms nušalino nuo pareigų mokinį, kaltinamą nuotraukų gaminimu.

Netrukus po to ji ir jos dukra pradėjo viešai kalbėti apie šį incidentą, ragindamos mokyklų apygardas, valstijų įstatymų leidėjus ir Kongresą priimti įstatymus ir politiką, kuriais būtų konkrečiai uždraustos atviros gilios klastotės.

„Turime pradėti atnaujinti mokyklos politiką“, - neseniai duotame interviu sakė Francesca Mani, kuriai dabar 15 metų. „Nes jei mokykla būtų turėjusi dirbtinio intelekto politiką, tokie mokiniai kaip aš būtų buvę apsaugoti.“

Praėjusį rudenį tėvai, įskaitant Dorotą Mani, taip pat pateikė skundus dėl priekabiavimo prie Vestfildo vidurinės mokyklos dėl atvirų vaizdų. Tačiau kovo mėnesį vykusiame posėdyje D. Mani mokyklos tarybos nariams sakė, kad vidurinė mokykla dar nepateikė tėvams oficialios incidento ataskaitos.

Vestfildo viešosios mokyklos teigė, kad dėl mokinių konfidencialumo negali komentuoti jokių drausminių priemonių. Superintendentas Dr. Gonzálezas pareiškime teigė, kad rajonas stiprina savo pastangas „šviečiant mokinius ir nustatant aiškias gaires, užtikrinančias, kad šios naujos technologijos būtų naudojamos atsakingai“.

Beverli Hilso mokyklos užėmė griežtesnę viešą poziciją.

Vasario mėnesį sužinoję, kad Beverli Vistos vidurinės mokyklos aštuntos klasės berniukai sukūrė atvirų 12 ir 13 metų klasiokų nuotraukų, administratoriai greitai išsiuntė žinutę, kurios temos eilutė: Visiems rajono tėvams, darbuotojams ir vidurinių bei aukštųjų mokyklų mokiniams išsiuntinėti laiškai: „Pasibaisėtinas piktnaudžiavimas dirbtiniu intelektu“. Žinutėje bendruomenės nariai buvo raginami pasidalyti informacija su mokykla, kad būtų užtikrinta, jog mokinių „nerimą keliantis ir netinkamas“ dirbtinio intelekto naudojimas būtų „nedelsiant nutrauktas“.

Ji taip pat įspėjo, kad rajonas yra pasirengęs taikyti griežtas bausmes. „Bet kuriam mokiniui, kuris bus pripažintas kuriančiu, platinančiu ar turinčiu tokio pobūdžio dirbtinio intelekto sukurtus vaizdus, bus taikomos drausminės priemonės“, įskaitant rekomendaciją pašalinti iš mokyklos, sakoma pranešime.

Superintendentas Dr. Bregy teigė, kad mokyklos ir įstatymų leidėjai turi imtis skubių veiksmų, nes dėl piktnaudžiavimo AI mokiniai mokyklose nesijaučia saugūs.

„Jūs daug girdite apie fizinį saugumą mokyklose“, - sakė jis. „Tačiau negirdite apie tai, kad kėsinamasi į mokinių asmeninį, emocinį saugumą.“

Parengta pagal „The New York Times“ inf.

Viršutinis paveiksliukas: Peter K. Afriyie / Associated Press