Dr. Falyuna Nóra, a Nemzeti Közszolgálati Egyetem adjunktusa április 30-án, a Jövő konferencián azt elemzi, hogy mit jelent a hitelesség a dezinformáció korában. Ebből adott ízelítőt.  

Az AI ma már a tartalomgyártásban gyakorlatileg megkerülhetetlen, minden előnyével és hátrányával. De vajon mennyire erősíti fel a dezinformáció veszélyét, terjedésének a sebességét?

Szerintem külön kell választani azt, hogy az AI a dezinformációs tartalmak létrehozásához, illetve a terjedéséhez miként tud hozzájárulni. A létrehozásban a generatív mesterséges intelligencia például hamis információkat vagy üzeneteket terjesztő tartalmakat, hamis profilokat gyárthat, valótlan történésekről szóló videókat készíthet vagy meglévő felvételeket kiszínezhet. 

A dezinformáció terjedésében azonban fontos szempont egyrészt a tartalom minősége, vagyis az, hogy az emberek felismerik-e azt, hogy AI által generált tartalmat látnak-e, vagy azt, hogy generált, hamis profilok hogyan befolyásolják az online diskurzusokat.

Másrészt az is fontos szempont, hogy az automatizált, algoritmikus ajánlórendszerek mögött is sokszor állnak AI-alapú modellek, amelyek befolyásolják, hogy a felhasználó milyen tartalommal találkozik az adott felületen. És léteznek adatgyűjtésre és -elemzésre, továbbá profilozásra és targetálásra használható mesterségesintelligencia-eszközök is, amelyek a közösségimédia-felületeken összegyűjtött adatokat az embereknél és bármely más technológiai eszköznél gyorsabban és profibban tudnak kielemezni, hatékonyan képesek segíteni a tartalmak személyre szabását és mikrotargetálását. Emlékezzünk vissza a Cambridge Analytica botrányára a 2016-os amerikai elnökválasztásban, amikor rengeteg Facebook-felhasználó adatait használták politikai és pszichológiai profilkészítéshez, és ezekkel mikrotargetálták a hirdetéseket. Ma már a mesterséges intelligencia segítségével sokkal több adattal lehet ilyen elemzéseket készíteni.

Mi a helyzet azzal, amikor az AI alapvetően hallucinál? Mi történik, ha az általa kiadott rossz adatokat ellenőrzés nélkül valaki továbbterjeszti? A média ebben a környezetben hogyan tudja megőrizni hitelességét?

Persze, a média is hozzájárulhat megtévesztéshez, akár szándék nélkül is, ha például az újságíró nem ellenőrzi le alaposan forrásait. Ugyanakkor ez definíció szerint nem dezinformálás, hiszen nincs mögötte ennek a szándéka, ám mindenképpen segíti azt, hogy valamilyen félretájékoztatás vagy félrevezetés, megtévesztés történjen. 
Viszont a hitelesség szempontjából nyilván az a kérdés, hogy a médiamunkások, illetve akár a kutatók hogyan és mire használnak mesterséges intelligenciát. Nagyon sok AI-eszköz érhető már el, amiket jól lehet használni helyesírás-ellenőrzésre, nyersfordítások elkészítésére vagy hanganyagok leiratozására. 

Ugyanakkor tartalomkészítés esetén, azt gondolom, az a szerencsés, ha az ember elkészíti a tartalmat, majd megkéri az AI-t, hogy például húzza meg a terjedelmet vagy mutasson rá a szóismétlésekre, nézze át stilisztikailag, segítsen egy kis ötletelésben stb., de a kapott tartalmat mindenképp ellenőrizni kell, mert könnyen lehetnek benne értelmetlen mondatok, nem létező hivatkozások, kiváló promptolás mellett is. Hogy a magam oldaláról mondjak példát, egyetemi oktatóknak rá kellett állítaniuk a szemüket arra, hogy kiszúrják, ha a hallgatók nem maguk írnak egy beadandó dolgozatot – nagyon könnyen felismerhető, tipikus szóhasználat, mondatszerkesztés és hivatkozási hibák jellemzik ezeket a szövegeket, ezért fontos, hogy ha használunk valamilyen AI-eszközt, ne automatikusan használjunk fel mindent, amit generál. Az AI segítő eszköz lehet bármilyen tartalom elkészítésében, de azzal tisztában kell lenni, hogy bármilyen tartalmat is adunk ki, mi viseljük a felelősséget annak hitelességéért. És itt jön be az ellenőrzés fontossága, mert a nélkül nemcsak a hitelességet lehet elveszíteni, de megtévesztéshez is hozzájárulni.

A hírfogyasztókat lehet-e edukálni az álhírek felismerésére? És ha igen, hogyan?

A fogyasztói oldalról is az ellenőrzés fontosságát érdemes kiemelni: ellenőrizni az adott tartalom forrását, a hivatkozásokat, a téma aktualitását, de ez a kérdés ennél jóval összetettebb. Sok formában, többféle platformon és különböző szándékkal vagy anélkül jelenhetnek meg álhírek, és ezért nemigen adható egy egyszerű checklist azok felismeréséhez. Teljesen más formai jegyekre kell figyelni hanganyagok vagy videóanyagok esetében, mint írott formában megjelenő megtévesztő anyagoknál. Ugyanígy meg kell nézni a tartalom forrását, annak hitelességét, megbízhatóságát stb., hiszen szinte bárki lehet már tartalomgyártó, válhat információforrássá. A mai információs és kommunikációs környezet pedig annyira „zajos” és akkora a szerepe az ajánló algoritmusoknak, hogy a saját preferenciák erősebben meghatározzák, ki kinek és minek ad hitelt, ezért sokkal fontosabb szempont az álhírek felismerésében az, hogy az ember képes-e a saját elfogultságaira reflektálni, és felmérni azt, hogy nem feltétlenül az a teljes valóság, amit ő elé tárnak az online platformok, vagy nem az a valóban hozzáértő információforrás, akire ő hallgatni akar.

Néhány évvel ezelőtt lett felkapott az ún. inokuláció-elmélet ebben a kérdésben, ami röviden azt jelenti, hogy bele kell merülni az álhírek világába, meg kell ismerni az összeesküvés-elméleteket, áltudományos tartalmakat, dezinformációt, propagandát, hogy megtanuljuk, miként működnek ezek, ugyanis annyira összetett rendszerben jelennek meg. Az embereknek mindemellett azt is meg kell tanulniuk, hogy megismerjék és megértsék a velük ellentétes véleményeket, és tudjanak ezekre reflektálniuk – legyen ez bármennyire is fájó, kognitív folyamat, mert enélkül könnyen elfogadhatnak álhíreket csak azért, mert azok azt mondják, amit hallani akarnak.