A deepfake lényegében audiovizuális hamisítvány, amivel valakit fényképe, vagy egy róla készült korábbi videofelvétel felhasználásával fiktív szerepkörben ábrázolnak. Évekkel ezelőtt már több botrányt váltott ki, amikor ismert amerikai színésznők arcmását montírozták bele egy-egy szexjelenetbe, vagy amikor politikusokról készítettek megtévesztően hitelesnek látszó szerepléseket. Az Obamáról vagy a Putyinról készült deepfake videokkal maguk a készítők igyekeztek leleplezni, miként állítják elő ezeket a hamisítványokat.
Magyarországon is kutatják a deepfake és általában a közösségi média karanténhatásait. Veszelszki Ágnes nyelvész és újmédia-kutató, a Budapesti Corvinus Egyetem tanszékvezető egyetemi docense munkatársaival a vizuális manipuláció témakörével foglalkozik. Az egyetemen működő CGI-Deepfake kutatócsoportjával Magyarországon elsőként készítettek felmérést arról, hogy az interneten található megtévesztő szándékú tartalmak hogyan hatnak a befogadókra – olvasható a qubit.hu-n vele készült interjúban.
A Corvinus-egyetemen működő CGI-Deepfake kutatócsoportunkkal egy nagy (10 730 főből álló) kitöltőszámot elért kérdőíves felmérést végeztünk 2021 tavaszán. Azt terveztük felderíteni, hogy az interneten található megtévesztő szándékú tartalmak hogyan hatnak a befogadókra. A kérdőíves kutatás deepfake-re vonatkozó része kilenc videórészletből állt: ebből három módosítás nélküli volt, három könnyen felfedezhető módosítást tartalmazott, három pedig nehezen felismerhető deepfake-változtatást alkalmazott. A videómanipulációt a bárki számára elérhető Reface alkalmazással végeztük, amely a mélytanulási technológia segítségével, a célszemély feltöltött portréfotójának felhasználásával filmes jelenetekbe illesztette be az alanyaink arcát. A felhasznált videórészletek ismert filmekből vagy tévésorozatokból (például: Venom, Loki, Fast and Furious) származtak. A résztvevőknek azt kellett eldönteniük a videórészletek megtekintése után, vajon a képsorozat tartalmaz-e módosítást, és ha igen, milyen jellegűt.
A kitöltők nagy része a véletlen találgatásnál magasabb arányban volt képes megkülönböztetni a manipulált videókat a nem manipulált anyagoktól. A véletlenszerű tippelés esetén 4,5 találatuk lenne a kitöltőknek, ezzel szemben a manipulált videók felismerésekor 6,39-as eredményt értek el a 9-ből. Ezt a viszonylag magas arányt ahhoz is köthetjük, hogy a kérdőívkitöltők a témafelvezetés alapján felkészültek arra, hogy esetlegesen manipulált képi tartalmakkal találkoznak a vizsgálatban. A nők összességében jobban teljesítettek összességében a kép- és videómanipuláció felfedezésekor – ám a deepfake esetén a férfiaknak volt jobb a felismerési képességük. Ez összefügghet azzal is, hogy (az akár a férfiak számára jobban) ismert filmrészletekből adtunk meg mozgó képkockákat.
Meglepő eredménynek tartjuk, hogy az életkorok kapcsán nem volt eltérés a felismerési képességben. Az nem okozott azonban különösebb meglepetést, hogy azok, akik szoktak digitális módosításokat végezni képeiken-videóikon, sokkal hatékonyabban ismerték fel mind a képek, mind a videók manipulációját, mint azok, akik nem szoktak képeket-videókat szerkeszteni.
Az eddig feldolgozott eredmények alapján a kitöltők nem tartják félelmetesnek a technikát: sokan szórakoztatási céllal kipróbálták már, hogy valaki arcát behelyettesítették egy film- vagy klipszereplő arca helyére. Leggyakrabban a Reface, a FaceSwap, a Snapchat és az MSQRD alkalmazásokat használták már deepfake-videó létrehozására, főként saját arcukat használták fel behelyettesítőként, ezt követik a barátok, rokonok, majd a híres emberek. Alig fordult elő a mintában olyan, aki olyan személy arcát választotta, akit nem kedvel. Ezzel egybehangzó eredmény, hogy mindössze 4-en (0,039 százalék) állították, hogy bosszúból vagy haragból készítettek deepfake-videót. Ez az eredmény természetesen összefügghet a kérdőív önbevallásos jellegével is. Az elkészült deepfake-videókat a válaszadók főként privát üzenetben küldték tovább az ismerőseiknek; volt, aki csupán megőrizte ezeket a telefonján – és alig néhányan osztották meg a deepfake-tartalmakat a közösségimédia-oldalukon.
A kérdőíves kutatásunk eredményei alapján a felhasználók döntő többségét a deepfake használata kapcsán a szórakozási lehetőség és a kíváncsiság motiválja; elhanyagolható azok aránya, akik valakinek akarnak ártani manipulált tartalmak közzétételével. Az tehát (egyelőre) nem várható, hogy magánszemélyek széles körben egymás lejáratására használják a technológiát, de a deepfake kiemelten fontos kérdéseket vet fel a videófelvételek hitelességével kapcsolatban.
https://qubit.hu/2021/11/10/ha-mar-az-alhirekkel-is-alig-birunk-mi-lesz-ha-berobban-a-deepfake
