„Láttam az arcomat és hallottam a hangomat. De az egész nagyon hátborzongató volt, mert olyan dolgok hagyták el a számat, amiket soha nem mondtam” – mondta Olga Loiek. Loiek képmást használó profilok mandarinul beszélnek – egy olyan nyelven, amit Loiek sose tanult – és állításuk szerint Oroszországból érkeztek. A videókban a kínai-orosz barátságról beszéltek, vagy orosz termékeket reklámoztak.
Az egyik legnagyobb fiók a „Natasha imported food” néven több mint 300 000 felhasználóval rendelkezett. „Natasha” olyan dolgokról beszélt, mint „Oroszország a legjobb ország. Szomorú, hogy más országok elfordulnak Oroszországtól". A hamis profil arról is beszámolt, hogy az orosz nők Kínába akarnak jönni, majd orosz édességek reklámozásába fogott.
Hogyan kerülhettek ki ezek a tartalmak?
Olga mandarinul beszélő mesterséges intelligencia által generált hasonmásai 2023-ban kezdtek felbukkanni, nem sokkal azután, hogy elindította YouTube-csatornáját, amihez nem töltött fel túl gyakran tartalmakat. Körülbelül egy hónappal később kapta az első üzeneteket arról, hogy felhasználók látták őt mandarinul beszélni a kínai közösségi médiafelületeken. Loiek kutatásba kezdett, így több Xiaohongshu –egy Instagramhoz hasonló kínai felület – és Bilibili – egy Youtubehoz hasonlító kínai felület – oldalon megtalálta képmását. Miután a vőlegénye tweetelt ezekről a fiókokról, a HeyGen, egy olyan cég, ami állítása szerint kifejlesztette a mesterséges intelligencia hasonmások létrehozásához használt eszközt, válaszolt. Elárulták, hogy több mint 4900 videót generáltak hekkerek Loiek arcát felhasználva, de azt is közölte a cég, hogy már letiltották a képmását a további felhasználástól.
A vállalat szóvivője a BBC-nek elmondta, hogy a rendszerüket feltörték, hogy létrehozzák az általuk „nem engedélyezett tartalmakat”, hozzátette, hogy azonnal frissítették biztonsági és ellenőrzési protokolljaikat, hogy megakadályozzák a platformjukkal való további visszaéléseket. Angela Zhang, a Hongkongi Egyetem munkatársa szerint azonban az Olgával történtek nagyon gyakoriak Kínában. „Az országban hatalmas feketegazdaság működik, ami a személyes adatokkal való visszaélésre és a hamisítványok előállítására specializálódott” – mondta.
Miért került fel annyi videó Olgáról a netre? Az egyik magyarázat az lehet, hogy a Kína és Oroszország közötti barátság eszméjét népszerűsítése a cél. Peking és Moszkva az elmúlt években szorosabbra fűzte kapcsolatát, Hszi Csin-ping kínai vezető és Putyin orosz elnök kijelentették, hogy a két ország közötti barátságnak „nincsenek határai”. A kínai állami média folyamatosan az orosz narratívákat hajtogatja, igazolva az ukrajnai inváziót, a közösségi média pedig cenzúrázza a háborúról szóló vitákat.
„Nem világos, hogy ezek a fiókok egy közös céllal jöttek-e létre, de a kormány propagandájával összhangban lévő üzenetek megjelenése mindenképpen előnyös a vezetés számára. Még ha ezek a fiókok nem is kapcsolódnak kifejezetten a Kínai Kommunista Párthoz, az általuk hangoztatott üzenetek népszerűsítése miatt kevésbé valószínű, hogy ezeket a tartalmakat törlik az országban.” – mondta Emmie Hine, a Bolognai Egyetem és a KU Leuven jogi és technológiai kutatója.
Ez nem egyedi eset
Olga ügye messze túlmutat Kínán, az eset jól mutatja, hogy milyen nehéz egy olyan iparágat szabályozni, ami rohamtempóban fejlődik, és a szabályozók folyamatosan a lemaradásukat próbálják behozni.
Márciusban az Európai Parlament jóváhagyta a mesterséges intelligenciáról szóló törvényt, a világ első átfogó szabályozási keretrendszerét a technológia kockázatainak korlátozására. Joe Biden amerikai elnök pedig tavaly októberben jelentette be, hogy végrehajtási utasításban kötelezi a mesterséges intelligencia fejlesztőit, hogy osszák meg az adataikat a kormánnyal.
Kayla Blomquist, az Oxfordi Egyetem technológiai és geopolitikai kutatója arra figyelmeztet, hogy „fennáll a veszélye annak, hogy az embereket mesterségesen generált, politikailag érzékeny tartalmakkal próbálják majd besározni”. Miközben a nemzeti és nemzetközi szintű szabályozás lassan halad a mesterséges intelligencia gyors ütemű növekedéséhez képest, Blomquist szerint „világosabb információkra és erősebb konszenzusra van szükség a mesterséges intelligencia legveszélyesebb fenyegetéseiről és azok mérséklésének módjáról”.
Olga 100 százalékik biztos abban, hogy nem ő lesz a generatív mesterséges intelligencia utolsó áldozata. De eltökélt szándéka, hogy nem hagyja, hogy ez elzavarja őt az internetről. A YouTube-csatornáján osztotta meg tapasztalatait, és néhány kínai online felhasználó segít neki azzal, hogy a képmását használó videók alatt kommentben jelzi, hogy azok hamisítványok.
(Via: BBC)
(Képek forrása: Youtube / Olga Loiek)
