Naujoje ataskaitoje teigiama, kad pusė milijono JK paauglių yra susidūrę su dirbtinio intelekto sukurtomis nuogalių klastotėmis

Naujoje „Internet Matters“ ataskaitoje naujoji vyriausybė raginama kovoti su dirbtinio intelekto sukurtų seksualinių vaizdų „epidemija“ po to, kai apklausa atskleidė, kad 13 proc. paauglių yra susidūrę su nuogalių klastotėmis.

Nekontroliuojamo piktnaudžiavimo nuogo kūno klastotėmis galimybė pasėjo baimę daugelio vaikų gyvenimuose; daugiau nei pusė paauglių (55 %) mano, kad būtų blogiau, jei būtų sukurta ir pasidalinta jų nuogo kūno klastote nei tikru atvaizdu.

Organizacija „Internet Matters“ ragina uždrausti „nuogybių“ įrankius, nes ataskaitoje įspėjama, kad internete tiesiog per daug lengva kurti nuogybių klastotes.

Rekomenduojama reformuoti mokyklų mokymo programas ir mokyti vaikus, kaip atpažinti klastotes ir atsakingai naudotis dirbtinio intelekto technologijomis.

Šiandien (spalio 22 d., antradienį) „Internet Matters“, pirmaujanti Didžiosios Britanijos ne pelno siekianti organizacija, remianti vaikų saugumą internete, skelbia naują ataskaitą „Naujasis skaitmeninės prievartos veidas: Vaikų patirtis, susijusi su nuogomis giliomis klastotėmis“. Ataskaitoje apskaičiuota, kad keturi vaikai iš kiekvienos trisdešimtos klasės yra susidūrę su „nuogalių gilių klastotėmis“, ir vyriausybė raginama priimti naujus teisės aktus, kuriais būtų sprendžiama problema, susijusi su jaunų žmonių, ypač mergaičių, nuogalių klastočių plitimu, uždraudžiant vadinamąsias „nuogalių“ programėles.

Ataskaitoje aiškinama, kaip „GenAI“ leido greitai, paprastai ir pigiai kurti paprastų žmonių, įskaitant vaikus, vaizdus be sutikimo. Joje teigiama, kad dabartiniai teisės aktai neatsilieka nuo dabartinių; dirbtinio intelekto modeliai, naudojami vaikų seksualiniams atvaizdams generuoti, šiuo metu Jungtinėje Karalystėje nėra draudžiami, nors už netikro seksualinio vaiko atvaizdo laikymą yra numatyta baudžiamoji atsakomybė.

Nors deepfake technologija gali būti naudojama teigiamais tikslais, pavyzdžiui, švietimui ar mokymui, įrodymai rodo, kad dauguma deepfake sukuriama siekiant pakenkti, įskaitant seksualinę prievartą, finansiškai motyvuotą seksualinį išnaudojimą, dezinformaciją, sukčiavimą ar apgaulę. Kadaise tai buvo reiškinys, skirtas daugiausia įžymybėms, dabar netikrų nuogų atvaizdų kūrimas tapo plačiau prieinamas ir daro poveikį vaikams, o labiausiai tikėtina, kad taikiniu taps mergaitės.

Šiandienos ataskaitoje „Internet Matters“ pabrėžiama, kaip plačiai prieinamos ir lengvai naudojamos „nuogalių“ kūrimo priemonės internete. Apskaičiuota, kad 99 % nuogalių klastočių yra mergaitės ir moterys, o „nuogybių“ modeliai dažnai neveikia berniukų ir vyrų atvaizdų. Dirbtinio intelekto sukurtais seksualiniais vaizdais, kuriuose vaizduojami vaikai, buvo pasinaudota siekiant palengvinti seksualinę prievartą tarp vaikų, suaugusiųjų vykdomą seksualinę prievartą ir seksualinį prievartavimą, o tai gali labai paveikti aukas, sukelti nerimą, depresiją ir mintis apie savižudybę.

Paaugliai berniukai naudojosi „nuogybių“ programėlėmis, kad sukurtų seksualiai atvirus savo bendraklasių moterų atvaizdus, kuriais dažnai dalijosi grupiniuose pokalbiuose ir socialinėje žiniasklaidoje. Mergaitės sakė „Internet Matters“, kad jos jaučia siaubą ir gėdą ir baiminasi, kad mokytojas ar tėvai gali pamanyti, jog jie yra tikri.

Šiandienos ataskaitoje pateikiama išsami informacija apie „Internet Matters“ nacionaliniu mastu reprezentatyvią apklausą, kurią 2024 m. birželio mėn. atliko „Opinium“ ir kurioje dalyvavo 2 000 3-17 metų amžiaus vaikų tėvų ir 1 000 9-17 metų amžiaus vaikų Jungtinėje Karalystėjei. Apklausa rodo, kad:

nemažai vaikų yra susidūrę su nuogomis deepfake nuotraukomis. Iš viso 13 % vaikų yra susidūrę su nuogo kūno klastote (įskaitant jos siuntimą ar gavimą, susidūrimą su nuogo kūno klastote internete, naudojimąsi nuogą kūną apnuoginančia programėle arba ką nors pažįstamo, kuris naudojosi nuogą kūną apnuoginančia programėle). Tai reiškia, kad maždaug pusė milijono (529 632) paauglių Jungtinėje Karalystėje, arba 4 paaugliai iš 30 mokinių, yra susidūrę su nuogo kūno suklastojimu.

Paaugliai berniukai (18 %) dvigubai dažniau nei paauglės mergaitės (9 %) praneša apie patirtį, susijusią su nuogybių klastote, tačiau berniukai dažniau yra nuogybių klastotės kūrėjai, o mergaitės dažniau tampa aukomis.

Berniukai ir pažeidžiami vaikai dažniau yra susidūrę su nuogo kūno deepfake. 10 % 13-17 metų berniukų yra susidūrę su nuogo kūno klastote internete, palyginti su 2 % to paties amžiaus mergaičių. Ketvirtadalis pažeidžiamų vaikų yra susidūrę su nuogo kūno klastote, palyginti su 11 % pažeidžiamų vaikų.

Paaugliai mano, kad piktnaudžiavimas nuogomis „deepfake“ nuotraukomis yra blogiau nei piktnaudžiavimas atvaizdais su tikromis nuotraukomis. Daugiau nei pusė paauglių (55 proc.) mano, kad būtų blogiau, jei būtų sukurta ir dalijamasi jų nuogo kūno klastote nei tikru atvaizdu.

Dauguma šeimų beveik nieko nesupranta apie „deepfake“: beveik du trečdaliai vaikų (61 %) ir beveik pusė tėvų (45 %) teigia, kad nežino ar nesupranta sąvokos „deepfake“.

Šeimos nori, kad vyriausybė ir technologijų bendrovės dėtų daugiau pastangų kovojant su „nuogomis“ klastotėmis. 84 % paauglių ir 80 % tėvų mano, kad nuogalių padirbinėjimo priemonės turėtų būti uždraustos visiems Jungtinėje Karalystėje, įskaitant suaugusiuosius.

Šeimos taip pat sutinka, kad reikia daugiau švietimo deepfakes tema. Tik 11 proc. paauglių mokykloje buvo mokomi apie „deepfakes“, o tik 6 proc. apie nuogalių „deepfakes“. Didžioji dauguma paauglių (92 %) ir tėvų (88 %) mano, kad vaikai turėtų būti mokomi apie gilių klastočių pavojų mokykloje.

Ataskaitoje teigiama, kad siekiant apsaugoti vaikus nuo seksualinės prievartos, reikia ir naujų teisės aktų, ir pramonės veiksmų, ir teigiama, kad negalima tikėtis, jog vien tėvai ir mokyklos apsaugos vaikus. Joje raginama imtis šių veiksmų:

Vyriausybę uždrausti nuogalių įrankius kaip šio parlamento prioritetą ir sustiprinti Saugumo internete įstatymą, į jį įtraukiant praktikos kodeksus dėl lytinės žalos ir prievartos tarp vaikų.

Technologijų įmones imtis griežtesnių veiksmų ir panaikinti prieigą prie apnuoginimo priemonių paieškos sistemose ir programėlių parduotuvėse.

Atnaujinti nacionalinę mokymo programą, kad į ją būtų įtrauktas kritinio medijų raštingumo mokymas.

Kartu su šiandienos ataskaita „Internet Matters“ pristato naujus išteklius, įskaitant ekspertų patarimus tėvams, kaip apsaugoti vaikus nuo „deepfakes“.

Carolyn Bunting MBE, viena iš „Internet Matters“ generalinių direktorių, sakė:

„Dirbtinis intelektas leido keliais mygtukų paspaudimais sukurti labai tikroviškas vaikų klastotes. Nuogalių klastotės yra didelis kūno autonomijos ir orumo pažeidimas, o jų poveikis gali sugriauti gyvenimą. Kadangi nuogybių įrankiai daugiausia skirti moterims, jie daro neproporcingai didelį poveikį mergaitėms.

„Vaikai mums pasakojo apie juos apėmusią baimę, kad tai gali nutikti jiems nieko nežinant ir tai gali padaryti nepažįstami žmonės. Jie mano, kad „deepfake image-abuse“ yra potencialiai didesnis pažeidimas, nes jo jie negali kontroliuoti.

„Piktnaudžiavimas netikrais atvaizdais gali nutikti bet kam ir bet kada. Tėvai neturėtų būti palikti vieni spręsti šią nerimą keliančią problemą. Atėjo laikas vyriausybei ir pramonės atstovams imtis veiksmų, kad užkirstų tam kelią, užkertant kelią bendrovėms, gaminančioms ir propaguojančioms šias priemones, kurios naudojamos vaikų išnaudojimui.“