Egy francia-olasz kutatás megállapította, hogy az AI használata az ismerethiány elismerését 44 százalékról 3 százalékra, a pontosságot 27 százalékról 9 százalékra szorította vissza, miközben a magabiztosság 30 százalékról 76 százalékra nőtt. Az emberek egyértelműen megbíznak a hibás AI-válaszokban – szúrta ki a Telex a TNW oldalán.

A Capraro, valamint Chiara Marcoccia (École Normale Supérieure) és Walter Quattrociocchi (Sapienza Egyetem, Róma) által készített tanulmány olyan kérdéseket használt, amelyeknél az AI-modellek általában hibáznak: filmekből származó vizuális részleteket, mint például a csapat mezének színe a Csavard be, mint Beckham című filmben. A kutatók a Step 3.5 Flash modellt használták, amely a legtöbbször hibás választ adott ezekre a kérdésekre – pontosan azért, hogy a kritikai érzék csökkenését ne lehessen egy megbízható eszközre történő ésszerű támaszkodással magyarázni. Néhány résztvevő, aki magától helyesen válaszolt volna, miután megkérdezte az AI-t, mégis hibás választ adott.

A pénzjutalom ugyan segített, de nem sokat: a tudatlanság beismerésének hajlandósága 3 százalékról 8 százalékra, a pontosság pedig 9 százalékról 16 százalékra nőtt, de még így is mindkettő bőven elmaradt az AI nélküli 44 százalékos és 27 százalékos kiindulási értékektől. 

A Wharton Egyetem kutatói idén korábban az „önkéntes kognitív megadás” (cognitive surrender) kifejezést alkották meg a jelenségre: az emberek az esetek 80 százalékában elfogadják a helytelen AI-válaszokat, miközben nagyobb magabiztosságról számolnak be, mint azok, akik AI nélkül dolgoznak.

A kutatók szerint rendkívül fontos képesség annak beismerése, ha valamit nem tudunk, mert ez jelenti a saját tudásunk határainak felismerését. A gyerekek esetében még nagyobb aggodalomra ad okot a kutatás eredménye, hiszen ők már azelőtt találkoznak ezekkel az eszközökkel, hogy kifejlődne a kritikus gondolkodásra való képességük.

Fotó: Pexels