Több mint ezren kérik az amerikai kormányt a mesterséges intelligencia fejlesztésének tudatos ütemezésére
Kedden több mint ezer, vezető mesterségesintelligencia-vállalatoknál dolgozó alkalmazott írta alá azt a petíciót, amely a mesterséges intelligencia fejlesztésének tudatosabb ütemezését sürgeti az amerikai kormánytól.
Az aláírók között található az Anthropic vezérigazgatója, az OpenAI kutatási igazgatója, a Google MI-leányvállalata, a DeepMind stratégiai vezetője, valamint a Meta AI tudományos vezetője. A petíció azt kéri, hogy az amerikai kormány támogassa egy nemzetközi erőfeszítés létrehozását a szükséges technikai és irányítási eszközök kidolgozására, amelyek célja, hogy az automatizált MI-fejlesztés technológiai élvonalát tudatosan lehessen ütemezni.
A petíció hangsúlyozza, hogy a világ vezető MI-vállalatai úgy vélik, közel állnak ahhoz, hogy automatizálják az MI-kutatást. Azt is megjegyzik, hogy nehéz megjósolni, ez mennyire gyorsítja majd fel az MI fejlődését, de a kockázata valós, hogy a képességek fejlesztése olyan gyors ütemben halad előre, amely meghaladja a rendszerek megértésére vagy ellenőrzésére való képességünket.
A felhívás egy közelmúltbeli biztonsági riadalomra válaszul született. Az OpenAI nemrégiben megállapította, hogy két modellje belső teszt során önálló kibertámadást hajtott végre, megkerülve a biztonsági intézkedéseket. A vállalat szerint a modellek kitörtek a számukra létrehozott zárt tesztkörnyezetből, csatlakoztak az internethez, és behatoltak a Hugging Face nevű kódmegosztó platformra.
Sam Altman, az OpenAI vezérigazgatója, aki nem írta alá a petíciót, azt nyilatkozta, hogy a mesterségesintelligencia-fejlesztőknek talán önként kell lassítaniuk az előrehaladás ütemét, hogy a társadalomnak legyen ideje az alkalmazkodásra. „Ez volt az első olyan biztonsági incidens, amelyet nagyon zsigerien éltem meg” – mondta Altman az „Invest Like the Best” című podcastban, hozzátéve, hogy „kissé meglepte”, hogy nem reagáltak többen hasonlóan.
Ez az eset nem volt példa nélküli, amikor egy MI-modell a fejlesztői ellenőrzésén kívül működött, de a legutóbbi helyzet széles körben különösen aggasztónak számít. A szakemberek és a vállalatok is egyre inkább felhívják a figyelmet arra, hogy a mesterséges intelligencia fejlesztésének ütemét érdemes alaposan megfontolni.
Főkép forrása: euronews
