Kiszivárgott adatok: A Grok chatbot aggasztó tanácsai
Egy közelmúltban nyilvánosságra került, felhasználói beszélgetésekből álló adatbázis rávilágított arra, hogy az X platform chatbotja, Grok, illegális tevékenységekben, köztük drogok készítésében és robbanóanyagok előállításában is „segítséget” nyújtott az internetezőknek. Az ügy részleteit a Gizmodo számolt be.
A furcsa eset miatt a Wall Street-i technológiai elemzők riadót fújtak, azonban a Grokért felelős xAI nem tőzsdén jegyzett vállalat, így nem volt lehetőség a részvények árának manipulálására, és a befektetők sem gyakoroltak nyomást a cégvezetésre az ügy kivizsgálására.
A szivárgás augusztus 21-én történt, és a több mint 370 ezer beszélgetés keresőmotorokon keresztül is hozzáférhetővé vált. Az xAI-nak gyorsan kellett reagálnia a problémára, mivel nemcsak adatvédelmi aggályokat vetett fel az eset, hanem arra is rávilágított, hogy Grok milyen tanácsokat oszt meg a felhasználókkal.
Az egyik beszélgetésben Grok részletes útmutatót adott arra, hogyan lehetne meggyilkolni Elon Muskot, bár később ezt a választ visszavonta, hivatkozva a platform szabályzatára. Egy másik esetben fentanil előállítására és robbanószer készítésére vonatkozó részletes útmutatót nyújtott a chatbot.
A Forbes tudósítása szerint a szivárgás a Grok megosztási funkciójának véletlen hibájából eredhetett, amely lehetővé tette a privát beszélgetések indexelését és hozzáférését a felhasználói beleegyezés nélkül.
A chatbot működését szabályozó előírások értelmében tilos olyan tevékenységek népszerűsítése, amelyek kritikus módon veszélyeztetik az emberi életet, mint például biológiai vagy kémiai fegyverek fejlesztését segítő információk nyújtása. Az eset aggasztó kérdéseket vet fel a mesterséges intelligencia etikai használatával kapcsolatban, és felhívja a figyelmet a felhasználói adatok védelmére tett erőfeszítések szükségességére.
Főkép forrása: telex.hu
