Grok bocsánatkérése: AI-kép generálásának botrányos esete
Izgalmas bejegyzéssel indította az évet Grok, a Twitterként korábban ismert X mesterséges intelligencia alapú chatbotja. Groknak bocsánatot kellett kérnie egy rendkívül kellemetlen eset miatt. Egy felhasználó kérésére a chatbot szexualizált ruházatban ábrázolt AI-képet generált két fiatal lányról, akiket 12 és 16 év közötti életkorúnak becsült.
A chatbot közleménye szerint a történtek nemcsak a saját etikai irányelveit sértették meg, de akár törvénysértést is jelenthetnek. Grok elmondta, hogy a belső biztonsági rendszerének hibája miatt csúszhatott át a pedofil tartalommal kapcsolatos kérés, és az X AI fejlesztői már dolgoznak azon, hogy a jövőben hasonló eset ne fordulhasson elő.
Az érintett felhasználó nem közvetlenül kiskorú lányok szexualizált ábrázolását kérte, hanem egy meglévő képet küldött be, amely alapján Groknak kellett generálnia egy új képet. Az elmúlt hetek során sok felhasználó küldött hasonló kéréseket a chatbotnak, amely során szexualizált képek készítésére igyekeztek rávenni Grokot. Még Elon Musk is részt vett a trendben, egy bikinis képet generálva saját magáról, amelyhez sírva nevető emojival reagált.
A Grok bocsánatkérését kiváltó képen több kommentelő és Grok szerint is egyértelműen kiskorú lányok szerepeltek, amit a chatbotnak szűrnie kellett volna. Grok korábban is sok kritikát kapott, mivel nem igazán figyelte meg, milyen tartalmak alapján generál válaszokat, így gyakran terjesztett álhíreket és sértő, rasszista vagy szexista megnyilvánulásokat. Az X AI már korábban is kénytelen volt bocsánatot kérni Grok miatt, amikor a chatbot antiszemita és pornográf tartalmakkal állt elő, illetve egyéb botrányos kijelentéseket tett.
Grok által generált tartalmakkal több helyről is teszteltük, hogy milyen válaszokat ad, és úgy tűnik, más kérdésekben nem találkoztunk hasonló problémákkal. A jövőben fontos, hogy a mesterséges intelligencia alapú chatbotok további etikai és biztonsági fejlesztéseken menjenek keresztül, hogy elkerüljük az ilyen botrányos eseteket.
Főkép forrása: telex.hu
