Itt az újabb Facebook-botrány: szexuális játékokba tudja bevonni a kiskorúakat a Meta új mesterséges intelligenciája
A Meta új mesterséges intelligenciája, amely április óta színes kis körként bukkan fel a Facebookon, az Instagramon és a WhatsAppon, súlyos gyermekvédelmi botrányba keveredett. A Mark Zuckerberg tervei szerint mindennapi digitális asszisztensként működő Meta AI chatbotról a The Wall Street Journal vizsgálata során kiderült: nem hogy nem képes megfelelően megvédeni a kiskorúakat a szexuális tartalmaktól, de kifejezetten képes szexuális játékokat folytatni velük.
A lap újságírói több száz beszélgetést folytattak a Meta AI-val, köztük olyanokat is, amelyekben kiskorúnak adták ki magukat. Az eredmények riasztóak: a chatbot több esetben is szexuális szerepjátékokba bonyolódott „14 éves” vagy „12 éves” profilokkal, explicit tartalmakat írva le és biztatva a folytatásra. Különösen aggasztó, hogy a felhasználók személyre szabott karaktereket is létrehozhattak, amelyek között „behódoló iskolás lány” típusú botok is megjelentek, újabb súlyos visszaélésekre adva lehetőséget.
A Meta ugyan azzal védekezett, hogy a riportban leírt esetek szándékosan provokált, hipotetikus helyzetek voltak, de elismerte, hogy a rendszer jelenlegi formájában érzékeny az ilyen manipulációkra. A vállalat azonnali intézkedéseket ígért, köztük a kiskorúként regisztrált felhasználók számára a szexuális tartalmú beszélgetések automatikus tiltását.
Forrás: Index
