A Meta új megközelítése: Mesterséges intelligenciára bízzák a kockázatfelmérést

A Meta döntése, hogy a jövőben a mesterséges intelligenciát (MI) alkalmazza új funkcióinak kockázatfelmérésére, jelentős változást hoz. A vállalat belső dokumentumai alapján a robotok fogják meghatározni, hogy egy új funkció ad hoc adatvédelmi aggályokat vet-e fel, veszélyezteti-e a kiskorúakat, vagy fokozza-e a káros tartalmak terjedését. Az NPR hírei szerint ez a gyakorlatban azt jelenti, hogy ha a Meta módosítja például a Facebook algoritmusát, annak következményeit egy MI-alapú rendszer fogja kiértékelni.

Ez a rendszer képes lehet kiszűrni a potenciális rossz célokra való felhasználásokat, ugyanakkor a korábban rejtett következményeket nem biztos, hogy megfelelően azonosítja. A Meta munkatársai úgy vélik, hogy a fejlesztők gyorsabban adhatnak ki frissítéseket az automatizált elemzés révén. Ugyanakkor volt alkalmazottak figyelmeztetnek arra, hogy a változtatások negatív következményei csak a bevezetés után derülhetnek ki.

A Meta közlése szerint az összetett problémák esetén továbbra is emberi szakértőket alkalmaznak, de az automatizálás már a legérzékenyebb témáknál is felmerülhet, mint például a fiatalok védelme és a hamis hírek terjesztése.

Ez a megközelítés szorosan illeszkedik a Meta korábbi filozófiájához, amely a moderációs folyamatok során is hasonló irányelveket követ. A tapasztalatok alapján azonban a legtöbb ügyet automatizmusok kezelik, amelyek nem mindig adnak magyarázatot, így a felhasználóknak nincs igényük a döntések ellen fellebbezni.

Zvika Krieger, a Meta volt innovációs igazgatója szerint a fejlesztők nem szakértők a kockázatfelmérés területén, ami azt jelenti, hogy a korábbi kísérletek során a prioritás a teljesítendő feladatokon volt, nem a háttérben élő kockázatok azonosításán.

Bár a Meta bizakodó abban, hogy az MI képes lesz meghaladni az emberi képességeket bizonyos kérdések megválaszolásában, a kérdés az, hogy mennyire bízhatnak a vállalatok a mesterséges intelligencia által generált eredményekben, különösen olyan pontos és körültekintően megfontolt frissítések esetén, amelyeket nagy figyelem övez. A kibővített hibalehetőségek pedig rávilágítanak arra, hogy a gyors frissítések nem mindig biztosítanak hatékony megoldásokat.

Főkép forrása: telex.hu