„Deepfake“ tendencijos ir iššūkiai - pozicijos pareiškimas
Kas yra deepfakes?
„deepfake“ - tai skaitmeninė tikro asmens nuotrauka, vaizdo ar garso failas, kuris buvo redaguotas taip, kad būtų sukurtas itin tikroviškas, bet melagingas vaizdas, kaip jis daro ar sako tai, ko iš tikrųjų nedarė ar nesakė.
Gilios klastotės kuriamos naudojant dirbtinio intelekto programinę įrangą, kuri, modeliuodama ir kurdama turinį, šiuo metu remiasi daugybe asmens nuotraukų ar įrašų.
Fonas
Manipuliavimas vaizdais nėra naujiena, tačiau pastaraisiais dešimtmečiais skaitmeniniai įrašymo ir redagavimo metodai gerokai palengvino ne tik žmonių, bet ir gyvūnų, mašinų ir net negyvų objektų vaizdo ir garso turinio klastočių kūrimą.
Dirbtinio intelekto (DI) ir mašininio mokymosi pažanga šią technologiją dar labiau išplėtė, todėl ji leidžia greitai sukurti itin tikrovišką, plika akimi beveik nepastebimą ir sunkiai paneigiamą turinį. Todėl gaunamos nuotraukos, vaizdo ir garso failai vadinami „giluminėmis klastotėmis“ (angl. deepfakes). Daugiau informacijos apie dirbtinio intelekto pažangą rasite „eSafety“ pozicijos pareiškime dėl generatyvinio dirbtinio intelekto.
Kaip kuriamos giluminės klastotės?
Kad sukurtų įtikinamą turinį, „deepfake“ technologijoms dažnai reikia tik nedidelio kiekio tikrų duomenų (vaizdų, filmuotos medžiagos ar garso įrašų). Iš tiesų ši sritis vystosi taip sparčiai, kad giliai suklastotą turinį galima kurti visai be žmogaus priežiūros, naudojant vadinamuosius perdirbtus generatyvinius priešpriešos tinklus (paprastai vadinamus GAN).
Giluminės klastotės turi daugybę teigiamų pritaikymų pramogų, švietimo, medicinos ir kitose srityse, ypač modeliuojant ir prognozuojant elgesį. Tačiau piktnaudžiavimo galimybės eksponentiškai didėja, nes skaitmeninės platinimo platformos tampa vis labiau prieinamos visuomenei, o giluminių klastočių kūrimo įrankiai tampa palyginti pigūs, patogūs naudoti ir paplitę.
„Deepfake porn“, netikros naujienos ir apgaulės
Giluminės klastotės gali padaryti didelę žalą. Jie buvo naudojami kuriant netikras naujienas, melagingus pornografinius vaizdo įrašus ir piktavališkas apgaules, paprastai nukreiptas prieš gerai žinomus žmones, pavyzdžiui, politikus ir įžymybes. Potencialiai „deepfakes“ gali būti naudojami kaip tapatybės vagystės, šantažo, seksualinio išnaudojimo, žalos reputacijai, tyčiojimosi, bauginimo ir priekabiavimo priemonė.
Asmuo, į kurį nukreiptas klastojimas, gali patirti finansinių nuostolių, pakenkti profesinei ar socialinei padėčiai, patirti baimę, pažeminimą, gėdą, prarasti savigarbą ar sumažinti pasitikėjimą savimi. Pranešimai apie melagingą informaciją ir apgaulę gali pakirsti pasitikėjimą skaitmeninėmis platformomis ir paslaugomis bei padidinti bendrą baimės ir įtarumo lygį visuomenėje.
„deepfakes“ rizika
Sparčiai tobulėjant „deepfake“ technologijoms ir atsirandant programėlėms bei įrankiams, kurie leidžia plačiajai visuomenei kurti patikimas „deepfake“, didėja susirūpinimas dėl galimos žalos tiek asmenims, tiek visuomenei.
Kaip pažymėta e. saugumo komisarės Julie Inman Grant įžanginėje kalboje Senato nuolatiniame komitete dėl 2024 m. Baudžiamojo kodekso pakeitimo įstatymo projekto (deepfake seksualinė medžiaga), deepfake aptikimo priemonės atsilieka nuo pačios technologijos. Internete paplito atvirojo kodo dirbtinio intelekto programėlės, kurios dažnai yra nemokamos ir lengvai naudojamos žalingam turiniui, įskaitant giliai suklastotą vaizdinę prievartos medžiagą ir hiperrealistinę sintetinę sintetinę vaikų seksualinės prievartos medžiagą, kurti. Bendrovės galėtų imtis daugiau veiksmų, kad sumažintų riziką, jog jų platformos gali būti naudojamos žalingam turiniui kurti.
Vis dėlto deepfakes naudojimas siekiant nukreipti į kitus asmenis ir juos išnaudoti nėra vien tik technologijų problema. Tai yra socialinių, kultūrinių ir elgesio problemų, kurios pasireiškia internete, rezultatas. Australijos strateginės politikos instituto ataskaitoje „Weaponised deepfakes“ („Ginkluoti deepfakes“) (2020 m. balandžio mėn.) pabrėžiami saugumo ir demokratijos iššūkiai, kuriuos kelia deepfakes, įskaitant padidėjusį sukčiavimo, propagandos ir dezinformacijos potencialą, karinę apgaulę ir pasitikėjimo institucijomis bei sąžiningais rinkimų procesais eroziją.
Technologijos diegimo rizika, prieš tai neįvertinus ir neatsižvelgus į galimą poveikį asmeniui ir visuomenei, yra nepriimtinai didelė. „Deepfakes“ yra dar vienas pavyzdys, kaip svarbu užtikrinti saugą projektuojant, kad būtų galima iš anksto numatyti ir iš anksto užkirsti kelią netinkamam naudojimui.
Kaip atpažinti giluminę klastotę
Giluminių klastočių technologija sparčiai tobulėja, todėl gali būti sunku nustatyti, kada ji naudojama. Tačiau kartais yra požymių, kurie gali padėti atpažinti žemesnės technologijos suklastotas nuotraukas ir vaizdo įrašus.
Patikrinkite, ar:
- neryškumo, apkarpymo efektų arba piksiliacijos (mažos dėžutės formos), ypač aplink burną, akis ir kaklą
- odos neatitikimą ar spalvos pasikeitimą
- vaizdo įrašo nenuoseklumą, pavyzdžiui, vaizdo įrašo glitchus, prastesnės kokybės fragmentus ir apšvietimo ar fono pokyčius
- blogai sinchronizuotas garsas
- netaisyklingas mirksėjimas arba judesiai, kurie atrodo nenatūralūs ar netaisyklingi
- siužeto ar kalbos spragos.
- Jei abejojate, nepamirškite klausti konteksto. Paklauskite savęs, ar tai yra tai, ko tikėtumėtės, kad tas asmuo pasakys ar padarys toje vietoje ir tuo metu.Kai kurios platformos identifikuoja ir ženklina giliai suklastotą arba „suklastotą“ turinį, kad įspėtų savo naudotojus.
e. saugos požiūris
Norint kovoti su neigiamu „deepfakes“ poveikiu, reikia laikytis holistinio požiūrio. eSafety vadovauja šiam požiūriui Australijoje, bendradarbiaudama su pramonės atstovais ir naudotojais, kad išspręstų šią problemą.
Mūsų darbas apima šiuos dalykus:
- Didinti informuotumą apie gilumines klastotes, kad australai gautų argumentuotą ir įrodymais pagrįstą šios problemos apžvalgą ir būtų gerai informuoti apie jiems prieinamas galimybes.
- Parama žmonėms, į kuriuos buvo nukreiptas poveikis, pasitelkiant skundų teikimo sistemą. Bet kuris australas, kurio nuotrauka ar vaizdo įrašas buvo skaitmeniniu būdu pakeistas ir dalijamas internete, gali kreiptis į „eSafety“ ir paprašyti pagalbos, kad jis būtų pašalintas.
- Žalos prevencija kuriant mokomąjį turinį apie „deepfakes“, kad australai galėtų kritiškai vertinti interneto turinį ir drąsiau naršyti interneto pasaulyje.
- Parama pramonei per mūsų iniciatyvą „Safety by Design“, kuri padeda įmonėms ir organizacijoms įtraukti saugos aspektus į savo produktus ir paslaugas.
- Remti pramonės pastangas mažinti arba riboti žalingų „deepfakes“ platinimą, skatinant ją kurti: politiką, paslaugų teikimo sąlygas ir bendruomenės standartus dėl „deepfakes“, atrankos ir šalinimo politiką, skirtą piktnaudžiavimui ir neteisėtiems „deepfakes“ valdyti, metodus, skirtus „deepfakes“ atpažinti ir pranešti apie juos bendruomenei.
Kaip e. sauga gali padėti
Australai, kurių nuotraukos ar vaizdo įrašai buvo pakeisti ir paskelbti internete, gali kreiptis į „eSafety“, kad ši padėtų juos pašalinti.
eSafety tiria piktnaudžiavimą atvaizdais, t. y. dalijimąsi arba grasinimą pasidalyti asmens intymia nuotrauka ar vaizdo įrašu internete be jo sutikimo. Tai apima ir skaitmeniniu būdu pakeistus intymius vaizdus, pvz., „deepfakes“.
Taip pat galime padėti pašalinti:
- internetinis bendravimas su vaiku arba apie vaiką, kuris yra labai grėsmingas, labai bauginantis, labai priekabus arba labai žeminantis - vadinamas kibernetinėmis patyčiomis.
- neteisėta ir ribojama medžiaga, kurioje rodoma arba skatinama seksualinė prievarta prieš vaikus, terorizmas ar kiti itin žiaurūs smurto veiksmai.
- sužinokite daugiau apie tai, kaip pranešti apie žalingą interneto turinį e. saugai.
Deepfakes pašalinimas „Google
Jei jums reikia pagalbos pašalinti deepfakes arba aiškius neviešus netikrus savo atvaizdus iš „Google“ paieškos rezultatų, galite pateikti užklausąIšorinė nuoroda tiesiogiai „Google“. „Google“ gali padėti, jei jūsų prašymas atitinka jų reikalavimus. Daugiau informacijos apie tai, kaip tai padaryti, rasite „Google “Išorinė nuoroda.
Įvertinkite straipsnį
