Az OpenAI és a kanadai iskolai lövöldözés: Előre jelezték a veszélyt
Hónapokkal azelőtt, hogy a 18 éves Jesse Van Rootselaar tömeges lövöldözést végrehajtott egy brit columbiai iskolában, az OpenAI fontolóra vette, hogy értesíti a bűnüldöző hatóságokat a ChatGPT chatbotjával folytatott interakcióiról – írta a vállalat.
Van Rootselaar tavaly júniusban, több napon át, fegyveres erőszakkal kapcsolatos forgatókönyveket írt le a ChatGPT használata során, mondták az ügyet ismerő források. Bejegyzéseit egy automatizált ellenőrző rendszer jelölte meg, ami aggodalmat keltett az OpenAI munkatársaiban.
A vállalaton belül mintegy egy tucat munkatárs vitatta meg, hogy szükséges-e lépéseket tenni Van Rootselaar posztjai miatt. Néhány alkalmazott úgy értelmezte az írásait, mint amelyek valós, fizikai erőszak lehetőségére utalhatnak, és arra ösztönözték a vezetést, hogy értesítsék a kanadai hatóságokat. Végül azonban az OpenAI vezetése úgy döntött, hogy nem veszi fel a kapcsolatot a hatóságokkal.
A vállalat szóvivője közölte, hogy letiltották Van Rootselaar fiókját, azonban arra jutottak, hogy tevékenysége nem érte el a rendőrségi bejelentéshez szükséges küszöböt, amely a másokra nézve hiteles és közvetlen veszélyt jelentett volna.
Miután értesültek a lövöldözésről, az OpenAI felvette a kapcsolatot a Kanadai Királyi Lovasrendőrséggel (RCMP), és készségesen segítik a nyomozást.
Az online platformok régóta vitatják, hogyan lehet egyensúlyt teremteni a felhasználók magánélethez való jogai és a közbiztonság szempontjai között. Ez a dilemma már azokat a mesterségesintelligencia-vállalatokat is érinti, amelyek chatbotokat üzemeltetnek, ahol a felhasználók a legintimebb gondolataikat is megosztják.
Az OpenAI tájékoztatása szerint modelljeik úgy vannak kialakítva, hogy visszatartsák a felhasználókat a valós világban elkövetett károkozástól. Azokat a beszélgetéseket, amelyekben ártó szándékot észlelnek, emberi felülvizsgálókhoz irányítják. Amennyiben az ítéletük szerint közvetlen és súlyos fizikai veszély áll fenn, a hatóságokhoz fordulhatnak.
A vállalat hangsúlyozta, hogy döntéseik során mérlegelik az erőszak kockázatát, a magánszféra védelmét, valamint azt a lehetséges megrázkódtatást, amelyet az érintett személyek és családjaik számára okozhat, ha indokolatlanul vonják be a rendőrséget.
Jesse Van Rootselaar február 10-én nyitott tüzet a Brit Columbia tartomány Tumbler Ridge-i iskolájában, nyolc ember életét kioltva. A rendőrség szerint a lövöldözés helyszínén találták holtan, miután magával is végzett. A helyi rendőrség korábban már ismert volt a férfi, hiszen több alkalommal is felkeresték mentális egészséggel kapcsolatos ügyek miatt, és ideiglenesen elszállítottak fegyvereket az ingatlanból.
Főkép forrása: 444.hu
