Egyre gyakrabban nem létező AI generált képek árasztják el a közösségi médiát, figyelmünkért harcolva, egyetlen céllal: bevételt szerzeni.
„Ma van a születésnapom, de senki sem köszöntött fel…” – áll egy idős férfi fotója alatt, akinek fáradt, de kedves mosolya könnyeket csal a kommentelők százainak szemébe.
Csakhogy a férfi nem létezik. Az arcát nem fényképezőgép rögzítette, hanem egy neurális háló rajzolta. A posztot nem egy magányos ember írta, hanem egy olyan tartalomgyár terméke, amely automatikusan generált fotókkal és szövegekkel árasztja el a közösségi médiát. Ez csak egyetlen a több ezer hasonló bejegyzés közül, amelyek hétről hétre végigsöpörnek a Facebookon.
De vajon miért hiszünk el ilyen könnyen képeket, történeteket, és miért kapcsolódunk olyan emberekhez, akik valójában nem is léteznek? A kérdés, amit a Computers in Human Behavior folyóirat legfrissebb számában megjelent tanulmányban tettem fel, egyszerűen hangzik, de a válasz annál ijesztőbb. –írja a Qubit szerzője.
AI képek manipulációja vezet a bevételhez
Ma már szinten mindenre tudjuk használni az AI-t. A Facebook közben szinte észrevétlenül alakult át: a platform valósága már távol áll attól, amilyennek indulásakor ismertük. A változás ráadásul nemcsak technikai, hanem elsősorban pszichológiai természetű. A rendszer az érzelmi reakciókat jutalmazza, a generatív AI pedig éppen ilyen tartalmak előállításában a legerősebb: romantikus, megható, nosztalgikus vagy éppen provokatív képek és történetek árasztják el a felhasználók hírfolyamát.
Hogyan működnek a content farmok?
A jelenség alapját az úgynevezett content farmok, vagyis az automatikusan működő, reklámbevételre optimalizált vállalkozások adják, amelyek futószalagszerűen termelnek tartalmat: előre beállított algoritmusok generálnak képeket és szövegeket, majd időzítve publikálják őket tucatnyi, sokszor egymás klónjaiként működő oldalon. A céljuk egyszerű: minél nagyobb forgalmat terelni olyan felületekre, ahol automatikusan elhelyezett hirdetések futnak, és ahol minden egyes kattintás és megosztás bevételt jelent. A content farmok így valójában nemcsak hamis tartalmakat gyártanak, hanem egy érzelmi reakciókra épülő mikrogazdaságot is teremtenek, ahol a felhasználói jóhiszeműség válik nyersanyaggá, a figyelem pedig fizetőeszközzé.
A szakirodalomban clickbait farm, fake content farm, ad farm, engagement bait site vagy content mill néven is emlegetett oldalak jellemzően nagy mennyiségű, de alacsony minőségű tartalmat gyártanak. Ezek az oldalak gyakran tele vannak összefüggéstelen vagy félrevezető cikkekkel, amelyek kizárólag a keresőoptimalizálásra (SEO) és az automatizált hirdetésmegjelenítésre épülnek.
A rendszer lényege, hogy a generált tartalom érzelmi manipulációval (például „Nem fogod elhinni, mi történt ezzel a családdal!” típusú címekkel) és látványos, de hamis képekkel csalogatja a látogatókat a hirdetésekkel telepakolt oldalakra. Ezeket sok esetben olyan országokból (India, Banglades vagy a Fülöp-szigetek) üzemeltetik, ahol a digitalizációs munka olcsóbb és kevésbé szabályozott, de az utóbbi években a fejlettebb országokban is egyre elterjedtebbé váltak, hiszen az AI segítségével már szinte semmilyen emberi erőforrásra nincs szükség a fenntartásukhoz. Bár a content farmokról már léteznek tudományos elemzések, a generatív AI robbanásszerű terjedése radikálisan új szintre emelte a működésüket. Mindez azonban még mindig alig kutatott terület, miközben a tartalomgyártás volumene és sebessége exponenciálisan nő, a mögötte húzódó mechanizmusok és társadalmi következmények feltérképezése pedig még csak most kezdődött el.
A teljes cikket itt olvashatják el.
Kiemelt kép: Chat gtp által generált kép
