A Budapesti Corvinus Egyetem kutatója, Miskolczi Márk arra kereste a választ, hogy milyen mechanizmusok miatt hisznek a közösségi média felhasználói olyan képeknek is, amelyeket valójában az AI segítségével készítettek – írja a HVG.
A megállapítások szerint az AI-generált képek különösen akkor hatékonyak, amikor érzelmekre építenek, és egyszerre aktiválnak több kognitív torzítást, például a megerősítési torzítást, a lehorgonyzást, az ismerősségi hatást vagy a csoportgondolkodást. Ez erősebb és nehezebben kivédhető meggyőző hatást kelt, mint a szimpla félretájékoztatás.
Ennek oka, hogy a felhasználók gyakran mentális egyszerűsítésekre, úgynevezett kognitív heurisztikákra támaszkodnak, amikor gyorsan értelmeznek egy online képet. Ez a gyakorlat azonban növeli a manipuláció kockázatát, az érzelmi hatás pedig sok esetben felülírja a megtévesztett felhasználók kritikai gondolkodását, elaltatja éberségüket – részletezi a Corvinus Egyetem közleménye.
A kutató először 146 olyan képet azonosított, amelyek nagy valószínűséggel mesterséges intelligenciával készültek, és a kapcsolódó, több mint kilencezer Facebook-kommentet elemezte. A képeket speciális, intő vizuális jelek figyelembevételével szűrte ki – például szokatlan számú ujj, olvashatatlan szövegek, lebegő tárgyak vagy irreálisan sima textúrák alapján –, majd egy online AI-detektorral is ellenőrizte.
A képek AI-eredetére ez a nyolc vizuális kritérium utal, amely gépi algoritmus segítsége nélkül is ellenőrizhető:
- Anatómiai pontatlanságok: pl. szokatlan számú ujjak vagy fogak, természetellenes szögben álló végtagok.
- Aszimmetria és furcsaságok az arcon: pl. eltérő méretű vagy alakú szemek; a pupillák különböző irányba néznek; torz vagy hiányzó fül, természetellenes hajvonalak.
- Problémák a tárgyaknál és a környezetben: a tárgyat nem rendeltetésszerűen tartják; lebegő tárgyak; hiányzó vagy lehetetlen tükröződések, átfedések.
- Természetellenes textúrák: túl sima, természetellenesen tökéletes bőr; a szövet- és felületminták szabálytalanok, ismétlődőek.
- A fizika és a gravitáció figyelmen kívül hagyása: tárgyak lebegnek; természetellenesnek ható folyadékok (pl. a pohárban lévő ital statikusnak vagy szilárdnak tűnik); az árnyékok iránya nem felel meg a fényforrás irányának.
- Szövegekkel és betűkkel kapcsolatos problémák: helytelen betűzés, torz betűk, értelmetlen karakterek; olvashatatlan vagy elmosódott szöveg.
- a szimmetria eltúlzása: irreálisan, túlzottan szimmetrikus arcok, tárgyak, természetellenes tökéletesség.
- Hibák a tömeg- és csoportjelenetekben: a háttérben látható emberek elmosódottak, torzak; az állatoknak anatómiai hibái vannak (pl. pluszlábak, hiányzó farok).
„A közösségi médiás AI-képek az érzelmi megtévesztés mesterei. A valódinak elhitetett AI-képek elterjedése hosszabb távon az online platformok iránti és a mesterséges intelligencia iránti általános bizalmat is gyengítheti. Emiatt sürgősen szabályozni kell a területet, például elengedhetetlen lenne kötelezően jelölni a mesterséges intelligencia által generált tartalmakat a közösségi médiában” – hangsúlyozza Miskolczi Márk, a Computers in Human Behavior című tudományos folyóiratban megjelent tanulmány szerzője.
