Mesterséges intelligenciával generált videók hatása a közszolgáltatásra
A német közszolgálati televízió, a ZDF, február végén visszahívott egy amerikai tudósítót, miután egy mesterséges intelligencia által generált klip jelent meg az amerikai bevándorlási és vámhatósági ügynökökről (ICE) szóló riportban. A műsorszolgáltató bocsánatot kért a klip felhasználásáért, amely édesanyjukba kapaszkodó gyermekeket ábrázolt, míg a videón Sora vízjel szerepelt, egyértelmű jelezve, hogy az OpenAI videóeszközével készült.
A The Cube, az Euronews tényellenőrző csoportja, megállapította, hogy a videó egyike az ICE-ügynökökről készült, mesterséges intelligencia által generált klipek ezreinek, amelyek elárasztják a közösségi médiát, sok esetben egyértelmű jelölés nélkül. Ezek a klippek együttesen több millió megtekintést gyűjtenek.
Az AI videók jellemzői
A TruthScan nevű mesterséges intelligenciát észlelő cég adatai szerint több mint 200 rövid klip létezik, amelyek ICE-ügynököket ábrázolnak, akiket tanárok üldöznek, bárokban verekednek, vagy a New York-i rendőrség (NYPD) tartóztat le a metróban. A TruthScan elmondása szerint egyetlen Instagram-fiókból több mint 200 videót gyűjtöttek össze, ezek mind rövidek, drámaiak és érzelmekkel teliek.
A The Cube megállapította, hogy a fiók még mindig tömegesen posztol mesterséges intelligencia által generált klipeket az ICE-ről, némelyik több ezer, mások több millió megtekintést érnek el. Egyes videók esetében azonban észlelhetők a mesterséges intelligenciával való generálás jelei, például egy ICE-ügynök és egy kávézó dolgozója közötti konfrontáció során megjelenő gőz, ami finom indikáció arra, hogy a klip szintetikus.
Szélesebb társadalmi következmények
A szakértők megjegyzik, hogy a hamis tartalmak elterjedése nemcsak az egyes klipek téves címkézését jelenti, hanem a közbizalom aláásását is, különösen kényes politikai kérdések körül. Ari Abelson, az OpenOrigins társalapítója, aki a mélyhamisítványokkal foglalkozik, rámutatott: „Jelentős kockázatot jelentenek a bűnüldöző szervek intézkedéseire adott kollektív reakciók, mind negatív, mind pozitív értelemben.”
A ZDF adásához hasonlóan az AI által generált ICE-tartalmak nem korlátozódnak az anonim fiókokra. Januárban a Fehér Ház közzétett egy digitálisan módosított képet Nekima Levy Armstrong aktivistáról, aki az ICE-nek egy minnesotai tüntetésen való részvételének következményeként lett címlapon. Az aktívista kifejezte undorát a Fehér Ház képmanipulációja miatt, mondván, hogy az a közvélemény manipulálására irányul.
A jövőbeli kihívások
A mesterséges intelligenciával generált videók terjedése világos figyelmeztetés arra, hogy szükség van védőkorlátokra és biztosítékokra, amelyek egyértelműen jelzik a tartalom hamisítvány jellegét. Abelson szavai szerint „a közösségi és információs tereknek szükségük van arra, hogy bizonyítani lehessen, hogy egy fotó vagy videó valódi”.
Ahogy a technológia fejlődik, úgy a társadalomnak is alkalmazkodnia kell a kihívásokhoz, hogy megóvja a közbizalmat és a valóságot a mesterséges intelligencia által generált hamisítványok hatásától.
Főkép forrása: euronews
