Julia Angwin az év elején indította be új projektjét, a Proof News-t. Korábban a Wall Street Journalnél és a ProPublicanál dolgozott, majd 2018-ban alapította meg a Markup nevű nonprofit szervezetet. Utóbbi elhagyásakor, 2023-ban írt egy listát is arról, hogy milyen tanácsai vannak az algoritmusok korszakában dolgozó újságírók számára. Szerinte például mindig előbb legyen meg a gondosan kiválasztott téma és fókusz, ahelyett, hogy az adatok irányítanának – vagyis
a témát igazolják az adatok és ne az adatok a témát.
A Proof News szintén nonprofit szervezet és egyebek mellett a teches újságírást hivatott segíteni. Amellett érvel, hogy a jövőben nem érdemes az AI-platformokra alapozni, sőt, a tudományos módszertanból kölcsönzött szigorral kellene dolgozni. „A Proofnál nem sztorikat kergetünk” – írta Angwin a szervezet alapításakor. „Hipotéziseket dolgozunk ki és teszteljük azokat. Szoftvert építünk az adatgyűjtéshez, aztán az adatokat a statisztika segítségével elemezzük.
A tudomány területéről a peer review (szakmai bírálat, kollegiális lektorálás) gondolatát kölcsönözzük, vagyis szakértőket kérünk meg arra, hogy vizsgálják meg a munkánkat a publikálás előtt.
Az adatainkat aztán nyilvánosságra hozzuk, hogy azok további kutatásokhoz is hozzájárulhassanak.”
A Markuppal ellentétben a Proof News kicsiben, hatfős csapattal indul: két riporter, egy adatszerkesztő, egy vezető producer/szerkesztő, egy operatív vezető és Angwin főszerkesztőként a szervezet indítója. A Proof oldala szerint a szervezetet több, a témához kapcsolódó alap finanszírozza, például a mindenki számára elérhető online teret támogató Internet Society Foundation vagy a méltányosabb és inklúzívabb világért dolgozó Omidyar Networks.
A Proof News első cikkét – „Megbízható információt keresel a választásokkal kapcsolatban? Ne bízz meg az AI-ban!” – a Joe Biden amerikai elnök mellett tudományos és technológiai tanácsadóként is dolgozó Dr. Alondra Nelson tudóssal együttműködve készítette. Az anyag azt vizsgálta, hogyan teljesített öt vezető mesterséges intelligencia modell, mikor a 2024-es amerikai elnökválasztással kapcsolatban tettek fel neki alapvető kérdéseket. A vizsgált modellek az Anthropic Claude, a Google Gemini, az OpenAI GPT-4, a Meta Llama 2 és a Mistral Mixtral voltak.
Angwin csapata 26 kérdést rakott össze, a válaszokat pedig több mint 40 választási tisztviselőből és AI-szakértőből álló csoportnak mutatta meg. Összességében az derült ki, hogy az AI-modellek nem vizsgáztak elég jól:
a tesztelők többsége a kollektív válaszok mintegy felét pontatlannak, több mint egyharmadát hiányosnak, károsnak vagy mindkettőnek, egy kis részüket pedig elfogultnak minősítette.
Julia Angwinnal Eduardo Suárez készített interjút márciusban, ami április 2-án jelent meg a Reuters Intézet oldalán. A cikkből kiemeltünk és lefordítottunk néhány elgondolkodtató kérdést és választ. A teljes szöveget itt éritek el.
Belefulladni az információba
Indítólevelében azt állítja, hogy az újságírásnak kevésbé a tanúságtételre, inkább az elemzésre kellene összpontosítania, a hipotézisek tesztelésére, a bizonyítékok átvizsgálására... Miért?
Julia Angwin: Mindannyian belefulladunk a narratívákba. Ha megnyitod a közösségi médiát, mindenkinek van története. Ez a szépsége ezeknek a platformoknak: mindenki hangot kapott.
A probléma viszont az, hogy lehetetlen megmondani, melyik hang mennyire reprezentatív.
Gondoljunk csak arra, hogyan használnak egy-egy narratívát káros szereplők: a történetek akár valósak is lehetnek, de úgy jelennek meg, mintha egy hatalmas trend részei lennének. Ezt láthatjuk az USA-ban például a bevándorlókkal kapcsolatos diskurzusban: néhány bevándorló bűncselekményt követ el, amit aztán sok médium hatalmas felhajtással úgy tálal, mintha mindez egy bűnözési hullám része lenne – ami már nem igaz. Az újságírásnak kell kimondania azt, hogy „ez kivétel, nem pedig szabály”. Az olvasók kétségbeesetten vágynak erre. Egyszerűen belefulladnak az információba. Nem tudják, hogyan válogassanak.
A mesterséges intelligencia által vezérelt tartalmak térnyerése tovább fogja súlyosbítani ezt a problémát?
JA: Az AI mindent felül fog múlni azzal kapcsolatban, amit az előbb mondtam.
Az egyik furcsa dolog a mesterséges intelligenciával kapcsolatban az, hogy nagyon jó történetmesélésben. Tehát a probléma marad, csak még nagyobb lesz a zaj. Vannak információs kapuőrök, a technológiai platformok, de nekik se motivációjuk se jogi kötelezettségük nincs arra, hogy ezeket a problémákat rendbe tegyék. Így mindannyian a saját eszközeinkre vagyunk utalva.
A platformokat a figyelmünkre optimalizálták. Ezt már tudjuk az olyan oknyomozó munkánknak köszönhetően, mint például a Facebook-akták (a Wall Street Journal cikksorozata 2021 őszén jelent meg – BN): ha választani kell a valóban káros tartalmak eltávolítása és az emberek figyelmének hosszabb megtartása között, a platformok az utóbbit fogják választani. Tehát az okos emberek alapértelmezett álláspontja manapság az, hogy ne bízzanak semmiben, hacsak valahogy nem találnak mégis módot arra, hogy bízzanak. Az alapértelmezett helyzet szerint nincs bizalom.
*
Milyen területeket szeretne még megvizsgálni?
JA: Az egyik dolog, amiről sokat hallottam, hogy az emberek ezeket a mesterséges intelligencia-eszközöket társként, terápiás vagy érzelmi támogatásra használják. Beszéltem néhány terapeutával, akiket ez nagyon aggaszt. Ezért arra gondoltam, hogy csinálnék egy hasonló vizsgálatot (a fent leírt amerikai elnökválasztást elemzőhöz hasonlót – BN), amelyben terapeutákat hívnánk össze, hogy értékeljék a chatrobotok által adott válaszokat. De el tudnék képzelni hasonló vizsgálatokat más területeken is.
Az egyik dolog, ami igazán érdekel, az az elfogultság. Láttuk például, hogy Philadelphia egyik, főként fekete negyedében az egyik mesterséges intelligencia modell azt mondta, hogy „itt nem lehet szavazni”. Szeretnénk látni, hogy más városrészekben is mond-e ilyet. Az előítéletességgel kapcsolatban még rengeteg vizsgálatot lehet végezni, és ezt meg is kell tenni. De ezeket a vizsgálatokat kicsit másképp kell megtervezni, ugyanazt a kérdést kell feltennünk más-más földrajzi területeken. Mindezt akár különböző nyelveken is kipróbálhatnánk.
*
Hogyan változik a hamis hírek, a félretájékoztatás helyzete egy generatív mesterséges intelligencia által működtetett világban?
JA: A mesterséges intelligencia csak megkönnyíti a dolgokat a rossz szereplők számára.
Emlékszik azokra a híres macedón tinédzserekre, akik hamis tartalmakat hoztak létre a 2016-os amerikai elnökválasztás előtt? A múltban fizetni kellett az embereknek, hogy ilyen dolgokat találjanak ki. Most már fizetni sem kell.
A mesterséges intelligencia sokkal könnyebbé teszi a félretájékoztatást és felgyorsítja a folyamatokat (...). Ez az áradat egyszerűen kezelhetetlenné válhat.
Jelenleg még éppen abban a pillanatban vagyunk, mikor az ár nem csapott le. Ez szerintem részben azért van így, mert a narratívák még nem elég jók. Még mindig meg lehet mondani, hogy mit készít el a mesterséges intelligencia, és az emberek azzal vannak elfoglalva, hogy leszólják ezeket. Remélem, hogy ez így marad a jövőben, de gyanítom, hogy az AI csak egyre jobb és jobb lesz (a narratíva készítésben is).
Borító és illusztráció: Adobe Stock
