Öngyilkosságról és Mentális Egészségről a ChatGPT-n
Több mint egymillió ember hetente olyan üzeneteket küld a ChatGPT-nek, amelyek „egyértelműen utalnak arra, hogy valaki öngyilkosságot tervez vagy akar elkövetni” – derült ki az OpenAI legutóbbi blogposztjából. Ebből a posztból az is kiderült, hogy a ChatGPT heti 800 millió felhasználójából több mint félmillióan „mánia vagy pszichózis lehetséges jeleit mutatják”.
Az OpenAI posztja a ChatGPT új frissítéséről, a GPT-5-ről is szólt, amelynek célja, hogy a csetbot kevésbé viselkedjen nemkívánatos módon, és a felhasználók biztonságát növelje. Ezt a védelmet egy több mint ezer önsértésről és öngyilkosságról szóló beszélgetések értékelésére szolgáló modell segíti.
Sam Altman, az OpenAI vezérigazgatója szeptemberi blogbejegyzésében említette, hogy a cég külön szabályokat fog alkalmazni a tinédzserkorú felhasználókra. A ChatGPT nem fog flörtölő jellegű vagy öngyilkossággal kapcsolatos beszélgetéseket folytatni ezen felhasználókkal.
A csetbotok többsége számára sok felhasználó barátként tekint, sőt, vannak, akik pszichológusnak is használják őket, mivel ingyenesek és bármikor elérhetők. A szakemberek azonban figyelmeztetnek, hogy a csetbotok, ellentétben a valódi pszichológusokkal, nem rendelkeznek etikai szabályokkal. Kiss Lehel pszichológus például hangsúlyozta, hogy egy igazi pszichológus nem értékesít semmit, míg a ChatGPT „bármit az arcodba tolhat, olyan nyelvezeten, ami neked tetszik”.
Ha öngyilkossági gondolatai vannak, hívja a 116-123 vagy 06-80-810-600 telefonszámot, ahol ingyenes, anonim lelki elsősegély-szolgálat várja hívásait. Azok számára, akik másokért aggódnak, különféle tanácsokat találhatnak a megfelelő oldalon.
A mesterséges intelligencia gyors fejlődése új kihívások elé állít minket, és fontos, hogy ezeket a problémákat felelősségteljesen kezeljük.
Főkép forrása: telex.hu
