Elon Musk is aláírta a mesterséges intelligencia ellenőrizetlen fejlesztésének veszélyeire felhívó levelet
A technológiai ipar vezető szereplői nyílt levélben sürgették szerdán a mesterségesintelligencia-fejlesztések azonnali felfüggesztését a társadalmat fenyegető kockázatok miatt. Az Élet Jövője Intézet (Future of Life Institute) által kiadott dokumentumot mintegy ezren írták alá, köztük Elon Musk, a Twitter tulajdonosa, a Tesla alapítója, valamint Steve Wozniak, az Apple társalapítója.
A mesterséges intelligencia persze egy brutálisan túlzó kifejezés: a létrehozott programok csak az emberi értelem specifikus tulajdonságainak töredékével rendelkeznek, igaz, azok némelyikében elképzelhetetlenül meghaladják azt. Pont ez a veszélyes bennük, nem igazán tudjuk ugyanis előre megjósolni, hogy milyen valódi szintlépésekre lesznek képesek, illetve azt sem, hogy a találékony emberi rosszindulat vagy az ambiciózus ostobaság mire is akarja majd használni őket. Például a közösségi média olyan hatékony, globális és hézagmentes manipulálására lehetnek képesek, amihez képest a propaganda vagy az álhírgyártás jelenlegi formái gyermeki játszadozásnak tűnnek majd.
A dokumentum szerint a fejlesztőknek átmeneti, hat hónapos időre le kellene állítaniuk a mesterséges intelligencia (Artificial Intelligence – AI) fejlesztéseket, az olyan eszközök tanulási folyamatát, amelyek teljesítménye meghaladja az úgynevezett GPT-4-es rendszerét. A GPT-4 az OpenAI fejlesztővállalat legújabb, tanulásra képes modellje, amelyik emberi szintű teljesítményt mutat számos szakmai és tudományos teljesítményértékelés alapján.
A levél szerint a nagy teljesítményű mesterséges intelligencia rendszereket csak akkor lehet kialakítani, miután biztosak lehetünk abban, hogy hatásaik pozitívak és az általuk jelentett kockázat kezelhető. Arra is felhívják a figyelmet, hogy jelenleg senki nem tudja megérteni, megjósolni és megbízhatóan ellenőrzés alatt tartani azokat a nagy teljesítményű eszközöket, amelyek a mesterségesintelligencia-laboratóriumokban vannak fejlesztés alatt.
A levél utal arra, hogy az egyre nagyobb verseny oda vezet, hogy annak ellenőrzése kicsúszik a kezükből, és olyan erővel bíró digitális elmét hoz létre, amelynek viselkedését maguk a létrehozók sem tudják már megérteni, megjósolni és kontrollálni. A mesterséges intelligenciával foglalkozó szakértők aggályaikat hangoztatták amiatt, hogy az új mesterségesintelligencia-eszközök a tanulási folyamataik révén képessé válhatnak elfogult válaszokra, álinformációk terjesztésére, valamint sérthetik a fogyasztók személyiségi jogait.
A mesterségesintelligencia-fejlesztéssel foglalkozó nagy informatikai vállalatok között tavaly novemberben szinte "fegyverkezési verseny" alakult ki, miután az OpenAI megjelentette új chatbotját, a ChatGPT-t, amely képes a bevitt információkat interaktívan kezelni és alkalmazni, miközben a felhasználókkal való folyamatos kommunikáció automatizálásával értelmezőmodelleket használ. A cégek közötti verseny főszereplői, az OpenAI mellett a Google és a Microsoft, de az IBM, az Amazon, a Baidu és a Tencent is dolgozik hasonló technológián.
Forrás: MTI; Fotó: MTI/Kovács Tamás
