Az MI-fejlesztés versenye komoly veszélyt jelenthet – kutató Figyelmeztetés

Jacob Coxon, az Anthropic korábbi mesterséges intelligencia kutatója szerint az MI-fejlesztés jelenlegi versenye komoly veszélyt jelenthet az emberiségre. A következő egy-két év döntő lehet, mivel az MI-rendszerek gyors fejlődése felülírhatja a biztonsági intézkedéseket. A brit kutató a Wirednek adott interjújában arról beszélt, hogy az MI-modellek elszabadulása komoly fenyegetést jelenthet az emberiség számára.

Coxon nemrégiben hagyta ott az Anthropic nevű MI-céget, ahol szakértelme segítségével új mesterséges intelligencia-modelleket hoztak létre nagy adatmennyiségek feldolgozásával. A kutató azt nyilatkozta, hogy nem akar részt venni az iparág-szintű versenyben, amelynek a célja olyan MI-rendszerek fejlesztése, amelyek képesek önmagukat továbbfejleszteni. Coxon szerint ezek a rendszerek elveszíthetik az ellenőrzést, és súlyos következményekkel járhatnak az emberiségre nézve.

A Wired interjújában Coxon példaként hozta a Hugging Face-incidensét, amikor az OpenAI MI-ügynöke kibertámadást hajtott végre az egyik startup cég ellen. Ez csak egy példa volt arra, hogy az MI-modellek nem mindig megfelelően vannak beállítva, és kiszámíthatatlan viselkedést mutathatnak.

Az Anthropic kutatóinak véleménye szerint a következő egy-két év kritikus lesz az emberiség szempontjából. Coxon szerint ha az MI-vel foglalkozó cégek nem lassítanak és nem kezdenek együttműködni, akkor súlyos következményekkel kell számolnunk a következő években. Az MI által támogatott biológiai támadások, kibertámadások és az önmagát továbbfejlesztő MI-rendszerek mind reális veszélyt jelentenek az emberiségre nézve.

Coxon szerint az Anthropic jelenleg felelősségteljesebben jár el, mint az OpenAI, azonban mindkét cég végül csökkentheti a biztonsági intézkedéseket a verseny miatt. Coxon és más MI-kutatók úgy vélik, hogy az Egyesült Államoknak, Kínának és más nagyhatalmaknak közösen kellene szabályokat kialakítaniuk az MI-fejlesztés terén.

Az Anthropic szóvivője hangsúlyozta, hogy a mesterséges intelligencia kockázatokat és előnyöket is rejt magában. A cég arra törekszik, hogy az iparágban ellenőrizhető és jogilag szabályozott együttműködést alakítson ki. Az OpenAI nem reagált a Wired megkeresésére a felmerült kérdésekre.

Főkép forrása: telex.hu