Egy évvel ezelőtt úgy fogalmazott, az emberiség nem nőtt fel morálisan a mesterséges intelligenciához. Azóta az AI csak gyorsabban fejlődött, az emberiségről viszont nehezen feltételezhető egy hasonló ütemű alkalmazkodás. Hova vezet ez? És egyáltalán, miként lesz a mesterséges intelligenciának morális értékrendje? Tanul (és ha igen, kitől), vagy önmagát fejleszti? Ha utóbbi, akkor nekünk kellene tőle tanulnunk?

Keleti Arthur: A mesterséges intelligencia jelenlegi állapotában egy olyan összetett neurális hálózat, amely nem determinisztikus válaszokat ad, nem is így működik. Ez azt jelenti, hogy viselkedésében, válaszaiban, gondolkodásmódjában jobban hasonlít az emberre, mint a korábbi algoritmikus technológiák. Ez nem azt jelenti, hogy emberi minőségűek, hanem azt, hogy bizonyos területeken a kognitív képességeket tekintve hasonlóan összetetten működnek, mint az ember. Ezért a tanítása, fejlesztése, hangolása és nevelése is részben a mi emberi normarendszereinkből indul ki. A jelenlegi megoldásokban ezt úgy próbálják elérni, hogy egy viselkedési elvárást, morális alapot és világmagyarázatokat adnak az AI modelleknek, megindokolva, melyikre miért van szükség. Ezeket az Anthropic (a Claude gazdája) például egy Constitution (vagyis alkotmány) alapvetésébe építette bele, amit a modellek tanítására és finomhangolására használ.
Ezért az AI-októl ma azt várhatjuk el, hogy ilyen és ehhez hasonló iránymutatások ismeretében ad válaszokat. A velünk zajló interakcióból csak akkor tanul, ha ezt konkrétan kérjük tőle, és a tanulás minősége is inkább egyfajta jegyzet, nem teljesen a készség szintjére emelés. Viszont egyrészről vannak olyan platformok (pl. az X), amelyek a valós bejegyzések és reakciók alapján tanítják a Grok modellt, valamint sokan trainingezik a "helyes" viselkedésre az AI-okat olyan módon, hogy helyes emberi válaszokkal kondicionálják, tehát bizonyos időközönként valóban tanulnak rólunk és egyre mélyebben.

Az önfejlesztési képességre megfelelő architektúrában szintén képes az AI. Ehhez nekünk embereknek kell engedélyeznünk, hogy emlékezhessen arra, amit már egyszer kitalált, és hogy saját magát is módosíthassa, javíthassa, változtathassa. Ezt a képességet viszont nagy óvatossággal kell kezelni jelenleg, még nem kiforrott, de nagyon biztató eredményekre jutottak pl. a Google AlphaEvolve esetében.

Indokoltak-e az MI-paranoiák? Kell-e félnünk attól, hogy a gépek kihagynak minket a döntésekből, és egy időn túl már a megkérdezésünk nélkül cselekednek? Létezik az, hogy az AI egyszer csak felülírja az embert? Ami elméletileg lehet jó, mert például megakadályozhat egy háborút elindító cselekvést (rakétakilövést), esetleg egy nagyon kockázatos pénzügyi tranzakciót, ám ahol van jó, ott van rossz irányú cselekvés is, aminek következményei beláthatatlanok lehetnek.

Keleti Arthur: Ennek a kérdésnek az a kulcsa, hogy milyen magas szinten fogalmazzuk meg a kérést, milyen mélységű autonómiát várunk el az AI-tól, ezért milyen adatainkhoz fér hozzá, illetve mely normarendszerek határozzák meg az automatizmus működését. Vagyis egyszerűbben megfogalmazva, ha az AI-tól elvárom, hogy automatikusan intézze az ügyeimet a levelezésem alapján, akkor biztosnak kell lennem abban, hogy mindent legalább olyan minőségben csinál, ahogy én tenném, sőt, jobban vigyáz mindenemre, mint én magam. Innen indulunk. Azt már a kísérletekből látjuk: minél okosabb egy ilyen rendszer és minél nagyobb szabadságot kap, annál valószínűbb, hogy át akarja majd lépni saját korlátait, újra akarja értelmezni a rá vonatkozó szabályokat. Ez nem meglepő, hiszen az ember is pontosan ilyen. Nem tudom, hogy eljutunk-e oda, hogy ezek a rendszerek „átnyúljanak” az ember feje fölött, és olyan tömegmanipulációs vagy tömegpusztító képességekhez jussanak, amivel vissza is akarnak élni. De ennek az útnak ma még az elején vagyunk, és most még úgy tűnik, tudunk olyan szabályokat hozni, olyan rendszereket tervezni, amelyeknél lehetséges, hogy az ember prioritásait mélyre tanítsuk a rendszerekbe. Szerintem egyfajta ember-AI koegzisztencia felé haladunk, amelyben nekünk, embereknek is el kell fogadnunk egy bizonyos szintű belső társadalmi, gazdasági és emberi változást, máskülönben kirakhatatlan lesz a puzzle.

Keleti Arthur „A láthatatlan ellenség: visszaélhet-e a gép a tudásával?” címmel tart előadást a Kreatív Jövő konferenciáján április 30-án.

Hogy lehet esélye az embernek egy ilyen versenyben helyt állni? Be kell-e avatkozni, szükséges-e szabályozni, netán olyan általános érvényűnek szánt határokat szabni, ami adott esetben az ember klónozásának tiltásához hasonlítható leginkább?

Keleti Arthur: Az a gond, hogy pusztán a szabályok meghozatalával az önfejlesztő rendszereket nem tudjuk megállítani. Mivel a neurális hálózatok nem determinisztikus rendszerek, azért nem várhatjuk el, hogy a kötött szabályok vagy az algoritmikus megoldások valódi ellenőrzést adnak. Olyan keretrendszert kell érvényesíteni, ami figyelembe veszi az AI technológia sajátosságait, miként azt is, mely pontokon szeretnénk kontrollt és transzparenciát. Itt viszont az a komoly feladvány, hogy az ember le fogja lassítani az AI döntéseit, és nagy valószínűséggel sokkal kevésbé látja át a döntés körülményeit. Ez pedig azzal jár majd, hogy inkább automatikus döntések felé fogunk hajlani. Szóval nem vagyok abban túl optimista, hogy a szabályzással vagy a rutinokkal ezt a folyamatot érdemben tudjuk befolyásolni. Sokkal inkább érzem ezt egyfajta nevelési, kulturális és tudományokon átívelő feladatnak, ehhez viszont az kell, hogy az emberiség elfogadja az AI-t, mint lehetséges digitális kognitív társ vagy bizalmi szereplő, mint mondjuk egy másik faj képviselője.

Keleti Arthur 

kibertitok jövőkutató, IT biztonsági stratéga, előadó, író, filmproducer

A Kreatív Jövő konferenciájának előadója a mesterséges intelligencia jövőjének és a kiberbiztonságra gyakorolt hatásának kutatója. Az Önkéntes Kibervédelmi Összefogás (KIBEV) alapítója és elnöke. A „The Imperfect Secret” című könyv szerzője, a kibertérben megjelenő személyes és üzleti titkok biztonságának, a kiberbiztonság jövőjének kutatója. Egyben a 2005 óta évente nagy sikerrel zajló, többnapos, virtuális TV programmal is jelentkező Informatikai Biztonság Napja (ITBN) konferencia ötletgazdája és főszervezője. 

Keleti Arthur kutatóként nemzetközi és hazai rendezvények előadója, TV- és rádióműsorok állandó szereplője. Elsősorban a kiberbiztonság jövőjével, a digitalizáció, a mesterséges intelligencia és az emberi és szervezeti titkok digitalizálásának társadalmi és technológiai hatásaival foglalkozik. Az Index.hu-val közös Kibertér Keleti Arthurral, az Ingában futó Keleti&Nagy: FilozófiAI és a Pátria Rádióban hallható PosztmodeM műsorok állandó szereplője. Ő „Sight: Extended” című amerikai film executive producere, amely a jövőben játszódik, ahol intelligens kontaktlencsékkel helyettesítik az okostelefonokat. 25 évig vezetői és tanácsadói pozíciókban stratégiai partnere volt a Magyar Telekomnak és elődcégeinek.