Inteligentzia artifizialak zer punturaino erraztu du horrelako irudien sorkuntza?
Inteligentzia artifiziala existitu aurreko zerbaiti buruz gabiltza, baina orduan askoz ere konplexuagoa zen eta jakintza bat behar zen. Inteligentzia artifizialak hau guzti hau erraztu egin du. Aplikazio asko dago eta foroetan modu errazean azaltzen dute non eta zelan deskargatu, eta zelan erabili. Edo erraztu egiten dute bideoen lan hori ordainpean egingo duen norbait bilatzeko. Beraz, dimentsio handia hartu duen zerbaiti buruz gabiltza, esponentzialki hazi egin dena, gainera.
Hazkundea baieztatzen duen zer datu dago?
2016ko azterketek erakusten zuten Interneten 15.000 deepfake bideo zeudela. Deepfake-a adimen artifizialaren bitartez sortutako edo manipulatutako irudi edo bideo faltsua da, benetakoa dela sinestarazteko erabiltzen dena. Aipatutako azterketa horren arabera, kopuru osoaren %96 deepfake sexualak ziren. Eta deepfake sexual horietatik %99tan emakumeak ziren protagonistak eta biktimak. Datu ikaragarriak dira. Datu horiek 2016koak badira, zer ote da gaur egun!
Eraso mota horiek zer ondorio izan ditzakete biktimen bizitzan?
Benetako irudiak filtratuko balira izango lukeen eragin bera du. Legalki diotena da: "Ez da zure gorputza". Baina emozionalki bada zure gorputza. Ez dira irudi faltsu hutsak; emakumeen bizitzan benetako ondorioak dituzte. Irudiak ikusten dituenak benetakoak balira legez kontsumitzen ditu. Eta kontsumitzen dituztenek irudiak faltsuak direla jakin arren, zu zara hor agertzen dena, errealak ez diren egoeretan, eta kaltetzen dena zure irudia da. Another body dokumentalak ondo erakusten ditu egoera horien ondorioak. Hasieran protagonistek pentsatzen dute profil baxuan mantentzea, ez dakitelako nork ikusi dituen irudi horiek, eta azkenean hori guzti hori zure aurka joan daitekeelako. Badirudi mezua hori dela: emakumeek ezin dute espazio digitalik okupatu. Gainera, oraindino ere entzuten da "zerbait egingo zuen horrelako gauzak gertatzeko". Azkenean, erruaren zama biktimaren gainean jausten da.
Zein da irudi horiek sortu eta hedatzen dituztenen profila?
Dokumentalean erakusten denez, gertuko jendea izaten da. Dokumentalean, unibertsitate berean dabilen norbait da. Eta ez du zentzu sexual batean egiten, hau da, bere helburua ez da biktima biluzik ikustea. Mendekua da arrazoia. Beste adibide bat ipiniko dizut. Orain denbora bat, Hego Koreako aktibista feminista batek mapa batean bildu zituen deepfake kasuak izan zituzten ikastetxe eta unibertsitateak. Mapa puntu gorriz beterik zegoen. Kasurik gehienetan, ikaskideak ziren beste ikaskide batzuen irudiak biluzten zituztenak. Hau da, gertuko pertsonak ziren, ezagunak, eta gero irudi horiek Telegram kontuetan partekatzen zituzten. Kontu horietako batzuek 'zigorra' zuten izena.
Erasoa gertatu eta gero, zer dio legeak?
Legearen ikuspegitik jokabide hori delitu legez tipifikatuta dago, pertsona baten irudiaren aurkako erasoa delako. Europar Batasuneko Adimen Artifizialaren Erregelamenduak deepfake-ei buruzko atal espezifikoa jasotzen du. Salaketa ipini eta gero, zailtasun nagusia erasotzailea identifikatzea eta frogak lortzea da. Izan ere, irudi horiek sortu eta zabaltzen dituztenek arrastoa ezkutatzeko tresnak erabiltzen dituzte, hala nola VPNak edo aldi baterako helbide elektronikoak. Helbide haien bitartez, plataforma pornografikoetan erregistratzen dira, kontuak sortzen dituzte eta bideoak ipintzen eta partekatzen hasten dira. Horrez gainera, irudiak behin Interneten zabalduta, oso gatx da haien hedadura kontrolatzea eta leku guztietatik ezabatzea.
Zer erantzukizun dute adimen artifizialeko tresnak garatzen dituzten enpresek eta sare sozialetako plataformek?
Erantzukizun osoa dute. Enpresek mekanismoak izan beharko lituzkete plataformetan zabaltzen diren edukietan agertzen diren pertsonek horretarako baimena eman dutela egiaztatzeko. Sare sozialetako adibide bat ipiniko dizut. Urte hasieran ezagutu zen X sare sozialeko Grok adimen artifizialari emakumeak biluzteko edo bikinian nahiz egoera iradokitzaileetan irudikatzeko eskatu ahal zitzaiola. Horrek asteetan funtzionatu zuen, plataformak eta Elon Musk jabeak egoeraren berri izan arren. 'Grokek emakumeak biluzten ditu' zioten titularrek. Baina Grokek ez ditu emakumeak biluzten bere kabuz. Atzean daudenak pertsonak dira: teknologia hori garatu dutenak, horregaz dirua irabazten dutenak, eta, azkenik, adimen artifiziala emakumeak biluzteko erabiltzen dutenak.
Amaitzeko, ideia bi azpimarratu gura nituzke. Batetik, erregulazioaren garrantzia. Adimen artifiziala gure bizitzako esparru guztietan sartzen dabil eta ezin dugu erregulazioa oztopo legez aurkeztu, beharrezko tresna legez baino. Bestetik, hezkidetzaren garrantzia. Gure seme-alabei, bereziki mutilei, horrelako erasoak zergaitik diren okerrak ulertarazi behar diegu. Lanketa hori ikastetxeetan ez ezik etxean ere egin behar da.