Dezinformáció a Mesterséges Intelligencia Közreműködésével: A Grok Chatbot Esettanulmánya

Írta: Mared Gwyn
Közzétéve: 2025. június 26. – 14:36 CEST

Az utóbbi időszakban számos felhasználó fordult mesterséges intelligenciával vezérelt chatbotokhoz, hogy tájékozódjon az Izrael és Irán között zajló konfliktusról. Egy új tanulmány azonban arra figyelmeztet, hogy a Grok, az ingyenesen elérhető chatbot, többször is valótlan információkkal vezette félre a felhasználókat.

A kutatás során egy videó került elő, amely a tel-avivi repülőtér elleni iráni támadás következményeit mutatta be. A terjesztők állítása szerint a felvétel mesterséges intelligencia által generált tartalom, ám amikor a Grokot a hitelesség ellenőrzésére kérték, a chatbot azt válaszolta, hogy az anyag valószínűleg tényleges felvétel.

Az Euroverify által készített vizsgálat során több olyan esetet is dokumentáltak, amikor a Grok hamisan állította, hogy a mesterséges intelligencia által készült videók hitelesek. Egyes esetekben a Grok olyan videókat is összekapcsolt a konfliktussal, amelyeknek nem volt semmiféle kapcsolata az aktuális eseményekkel.

Például egy, a franciaországi Hellfest fesztiválról készült videót a Grok úgy mutatott be, hogy az Izraelből menekülő embereket ábrázol, akik az egyiptomi Taba határátkelőhelyén próbálnak átjutni a konfliktus elől. Továbbá, egy malajziai robbanásról készült felvételt is iráni rakétatámadásnak titulált, ami Tel-Avivot célozta meg június 19-én.

A DFRLab, egy nemzetközi digitális törvényszéki labor kutatói arra figyelmeztetnek, hogy a Grok válaszai olyan médiajelentéseken alapulnak, amelyek a konfliktus gyors fejlődése miatt hamar elavulnak. A chatbot gyakran nem ellenőrzi a források hitelességét, és több, dezinformációt terjesztő X-fiókot is hivatalos kormányzati vagy katonai profiloként azonosít.

A szakértők szerint a felhasználók egyre inkább ezekre az eszközökre támaszkodnak a tények ellenőrzésére, ezzel párhuzamosan azonban a dezinformációt és az összeesküvés-elméleteket is erősítik. Az emberek egyre inkább ráhagyták magukat a mesterséges intelligencia nyújtotta információkra, ami súlyos következményekkel járhat a közbizalom és a tények alapú tájékoztatás terén.

Főkép forrása: euronews