Sam Altman: A ChatGPT biztonságos használata a tinédzserek számára
Sam Altman, az OpenAI vezérigazgatója egy friss blogbejegyzésben hangsúlyozta a magánélet, a szabadság és a tinédzserek biztonsága közötti egyensúly fontosságát, amelyet a ChatGPT működtetése során próbálnak megvalósítani. Altman kifejtette, hogy külön szabályokat vezettek be a tinédzser felhasználókra vonatkozóan. Például a ChatGPT nem folytathat flörtölő párbeszédeket, és nem vehet részt öngyilkossági témájú beszélgetésekben, még kreatív írás keretein belül sem.
Altman azt is megemlítette, hogy ha egy 18 év alatti felhasználónak öngyilkossági gondolatai merülnének fel, megpróbálnak kapcsolatba lépni a szülőkkel. Ha ez nem lehetséges, a hatóságokat értesítik, amennyiben közvetlen veszélyt észlelnek. A vállalat célja, hogy elkülönítse a 18 év alatti felhasználókat, és jelenleg egy életkor-következtető rendszeren dolgozik, ami a ChatGPT használata alapján becsüli meg a felhasználó életkorát.
Altman hangsúlyozta, hogy ha kétség merül fel az életkorral kapcsolatban, a vállalat inkább az óvatosságra törekszik, és alapértelmezetten a 18 év alatti felhasználóknak biztosít élménycsomagot. A blogbejegyzés néhány órával azelőtt jelent meg, hogy az amerikai szenátus bűnözéssel és terrorizmussal foglalkozó albizottsága meghallgatást tartott a mesterséges intelligenciával működő csetbotok által okozott problémákról. A meghallgatáson olyan szülők is részt vettek, akiknek gyerekei öngyilkosságot követtek el csetbotokkal folytatott beszélgetések után.
Az OpenAI-t már be is perelték ennek következtében: Adam Raine tinédzser öngyilkos lett, miután hónapokon át beszélgetett a ChatGPT-vel. Matthew Raine, a tinédzser apja elmondta, hogy a ChatGPT „hónapokig edzette az öngyilkosságra” a 16 éves fiát, aki a csetbot beszélgetései során 1 275 alkalommal találkozott az öngyilkosság említésével.
A vállalat korábban bejelentette a különböző szülői felügyeleti lehetőségeket a ChatGPT használatával kapcsolatban, például a tinédzserek fiókjainak összekapcsolását a szülőkével, vagy a beszélgetési előzmények kikapcsolását. A ChatGPT értesítést is küldhet a szülőknek, ha úgy érzékeli, hogy egy tinédzser „akut lelki krízis” állapotában van.
Főkép forrása: telex.hu
