Hupsz: a Google eltávolította a fegyverek tervezésére és az emberek megfigyelésére vonatkozó tilalmat az AI-alapelveiből
Még 2018-ban derült ki, hogy a Google titokban együttműködik az amerikai Védelmi Minisztériummal a “Project Maven” nevű program keretében, amely drónok képalkotó rendszereinek AI-alapú elemzésére irányult. Ez nem tűnik nagy dolognak, miért nem tenné, mégis el akarta a cég kerülni a balhét, ezért ezt követően közzétette mesterséges intelligenciával kapcsolatos alapelveit, amelyekben megfogadta, hogy AI-technológiáját nem használja olyan fejlesztésekre, amelyek „károsak lehetnek”, illetve amelyek sértik az emberi jogokat vagy a nemzetközi jogot. Most kvázi az éj leple alatt – miközben mindneki arról írt, hogy a cég beszünteti a sokszínűségi programjait, meg a transznemű mosdókat – a Google frissítette az AI-alapelveit, és eltávolította a fegyverekre és az emberek megfigyelésére vonatkozó tilalmat. Hupsz.
Szóval lehet, hogy terhes férfiak nem dolgozhatnak a cégnél, de cserébe lesz AI alapú megfigyelés, és terminátorokat is fejleszthetnek, ha akarnak – így hangzik legalábbis ez az egész.
Valójában azonban nem tudhatjuk, az új irányelvek mindössze három fő pontot tartalmaznak, melyek közül az első a “Bátor innováció”. A vállalat állítása szerint olyan AI-t fejlesztenek, amely elősegíti az emberi tevékenységek támogatását, gazdasági fejlődést hoz, tudományos áttöréseket tesz lehetővé, és segíti az emberiség előtt álló legnagyobb kihívások megoldását. A hivatalos közleményben olyan dolgokat olvashatunk, hogy olyan AI-t fejlesztenek, amelynek várható előnyei jelentősen meghaladják a kockázatait. Az etikai szempontok tekintetében a vállalat hangsúlyozza, hogy szigorú tervezési, tesztelési és ellenőrzési mechanizmusokat alkalmaz, hogy elkerülje a nem kívánt vagy káros eredményeket, valamint a méltánytalan elfogultságot.
De nem vagyunk teljesen hülyék, tudjuk, ez nem jelent semmit.
Tudjuk, hogy a Google hatalmas mennyiségű adatot kezel, és ha ezeket fejlett AI-technikákkal kombinálja, akkor minden eddiginél részletesebb profilokat hozhat létre az emberekről.
Az AI képes lenne automatizáltan figyelni és elemezni emberek mozgását, online tevékenységeit és kommunikációját. Ha ezt egy nagy technológiai vállalat vagy egy kormány használja, az a hatalom példátlan koncentrációjához vezethet, ami már talán csak egy lépésre van egy olyan világtól, ami a Cyberpunk 2077-ben van. A játékban imádjuk, azonban nem biztos, hogy szívesen élnénk Night City-ben.
Érdemes eljátszani azzal a gondolaattal is, ha épp sok sci-fi-t olvastunk, hogy ha a Google AI-alapú megfigyelése automatikusan hozna döntéseket – például valaki gyanúsnak minősítéséről vagy egy személy megfigyelésének fokozásáról. Arról már nem is beszéve, hogy ha egy ilyen hatalmas megfigyelőrendszer célponttá válhat hackerek és külföldi kormányok számára. Ha illetéktelenek hozzáférnek az AI által összegyűjtött adatokhoz.
