A múlt heti vizsgálat Elon Musk közösségimédia-platformja, az X ellen, a vállalat Grok nevű rendszerével generált, szexualizált deepfake képek miatt ismét emlékeztetett arra, milyen veszélyt jelentenek a deepfake-ek a nyilvánosság számára. A kiberbiztonsági szakértők arra figyelmeztetnek, hogy a szexualizált tartalmakon túl az AI-jal generált képeket egyre gyakrabban használják csalásokra, átverésekre és személyazonosság-lopásra is, és tanácsokat adnak arra, miként lehet védekezni a növekvő fenyegetés ellen.

A meggyőző videós deepfake-ek létrehozásának egyszerűségét jól példázta a nemrégiben vírusszerűen terjedő felvétel, amelyen a hollywoodi színészek, Tom Cruise és Brad Pitt egy jelenetben verekedtek. A videót az X-en megosztó Ruairi Robinson filmrendező szerint az mindössze egy kétsoros prompt alapján készült. Persze nem is kell ilyen messzire mennünk példákért, elég, ha csak az itthoni választási kampányra tekintünk. 

Eközben az Európai Bizottság és több ország is vizsgálatot indított Musk közösségimédia-platformja, az X ellen a Grok chatbotjával generált szexuális képek miatt.

Ezek és a hasonló AI-eszközök lehetőséget adnak a rosszindulatú szereplőknek arra is, hogy felgyorsítsák támadásaikat – állítják a Planet VPN szakértői. A cég társalapítója, Konstantin Levinzon hangsúlyozza: az AI-vezérelt technológiák terjedése minden korábbinál könnyebbé tette a rosszindulatú szereplők számára az emberek megtévesztését.

„Az AI-technológiák különösen veszélyes aspektusa, hogy megnehezítik a valóság és a hamis tartalom megkülönböztetését. Az internetet elárasztják a hamis képek és videók, amelyek másodpercek alatt elkészíthetők alacsony költségű vagy akár ingyenes eszközökkel. A kiberbűnözők a deepfake-eket számos támadásra használják, a hamis videókkal történő átverésektől a személyazonosság-csalásig és megszemélyesítésig” – mondja Levinzon.

A vállalatok sem védettek a fenyegetéssel szemben. A rosszindulatú szereplők gyakran cégek alkalmazottait veszik célba, hogy például vezérigazgatóikat megszemélyesítő videókkal jogosulatlan utalásokra vegyék rá őket. Hamis képeket és videókat is alkalmaznak az online biztonsági rendszerek megkerülésére, ami egyre nagyobb kihívást jelent a pénzügyi intézmények számára.

A legfrissebb International Safety Report megjegyzi, hogy a jövőben az AI által generált tartalmak jelentette fenyegetések várhatóan tovább erősödnek, mivel ezek a tartalmak a fejlődő képességek, a felhasználói függőség növekedése vagy a felhasználói visszajelzéseken alapuló tanítás miatt egyre meggyőzőbbé válnak.

Levinzon biztos abban, hogy a kiberbűnözők meg fogják találni a módját annak, miként fordítsák saját javukra az új fejlesztéseket, és arra ösztönzi a felhasználókat, hogy legyenek tudatában ezeknek a kockázatoknak.

„Bár az AI által generált tartalmak alig megkülönböztethetők a valóságtól, gyakran hagynak nyomokat. A deepfake videókban például természetellenes arcmimika, következetlen megvilágítás vagy árnyékok, elmosódás vagy torzulás látható az arc körül” – magyarázza Levinzon.

„Érdemes megjegyezni, hogy léteznek olyan szolgáltatások, amelyek képeket és videókat elemeznek az AI-generálás jelei után kutatva. Ezek az úgynevezett artefaktumokat, természetellenes textúrákat és részlethibákat keresik. Fontos azonban megérteni, hogy az ilyen eszközök valószínűségi eredményt adnak, nem pedig pontos ítéletet.”

A szakértő azt tanácsolja, hogy korlátozzuk az online megosztott személyes videótartalmak mennyiségét, mivel a rosszindulatú szereplők gyakran a nyilvánosan elérhető felvételeket használják deepfake-ek készítésére, majd a felhasználók célba vételére. Emellett elengedhetetlen minden fiók védelme többfaktoros hitelesítéssel. Amint a kiberbűnözők hozzáférést szereznek egy fiókhoz, képeket vagy videókat tehetnek közzé a felhasználó megszemélyesítésével.