A technológiai ipar vezető szereplői nyílt levélben sürgették szerdán a mesterségesintelligencia-fejlesztések azonnali felfüggesztését a társadalmat fenyegető kockázatok miatt. Az Élet Jövője Intézet (Future of Life Institute) által kiadott dokumentumot mintegy ezren írták alá, köztük Elon Musk, a Twitter tulajdonosa, a Tesla alapítója, valamint Steve Wozniak, az Apple társalapítója.
A mesterséges intelligencia persze egy brutálisan túlzó kifejezés: a létrehozott programok csak az emberi értelem specifikus tulajdonságainak töredékével rendelkeznek, igaz, azok némelyikében elképzelhetetlenül meghaladják azt. Pont ez a veszélyes bennük, nem igazán tudjuk ugyanis előre megjósolni, hogy milyen valódi szintlépésekre lesznek képesek, illetve azt sem, hogy a találékony emberi rosszindulat vagy az ambiciózus ostobaság mire is akarja majd használni őket. Például a közösségi média olyan hatékony, globális és hézagmentes manipulálására lehetnek képesek, amihez képest a propaganda vagy az álhírgyártás jelenlegi formái gyermeki játszadozásnak tűnnek majd.
A dokumentum szerint a fejlesztőknek átmeneti, hat hónapos időre le kellene állítaniuk a mesterséges intelligencia (Artificial Intelligence – AI) fejlesztéseket, az olyan eszközök tanulási folyamatát, amelyek teljesítménye meghaladja az úgynevezett GPT-4-es rendszerét. A GPT-4 az OpenAI fejlesztővállalat legújabb, tanulásra képes modellje, amelyik emberi szintű teljesítményt mutat számos szakmai és tudományos teljesítményértékelés alapján.
A levél szerint a nagy teljesítményű mesterséges intelligencia rendszereket csak akkor lehet kialakítani, miután biztosak lehetünk abban, hogy hatásaik pozitívak és az általuk jelentett kockázat kezelhető. Arra is felhívják a figyelmet, hogy jelenleg senki nem tudja megérteni, megjósolni és megbízhatóan ellenőrzés alatt tartani azokat a nagy teljesítményű eszközöket, amelyek a mesterségesintelligencia-laboratóriumokban vannak fejlesztés alatt.
A levél utal arra, hogy az egyre nagyobb verseny oda vezet, hogy annak ellenőrzése kicsúszik a kezükből, és olyan erővel bíró digitális elmét hoz létre, amelynek viselkedését maguk a létrehozók sem tudják már megérteni, megjósolni és kontrollálni. A mesterséges intelligenciával foglalkozó szakértők aggályaikat hangoztatták amiatt, hogy az új mesterségesintelligencia-eszközök a tanulási folyamataik révén képessé válhatnak elfogult válaszokra, álinformációk terjesztésére, valamint sérthetik a fogyasztók személyiségi jogait.
A mesterségesintelligencia-fejlesztéssel foglalkozó nagy informatikai vállalatok között tavaly novemberben szinte “fegyverkezési verseny” alakult ki, miután az OpenAI megjelentette új chatbotját, a ChatGPT-t, amely képes a bevitt információkat interaktívan kezelni és alkalmazni, miközben a felhasználókkal való folyamatos kommunikáció automatizálásával értelmezőmodelleket használ. A cégek közötti verseny főszereplői, az OpenAI mellett a Google és a Microsoft, de az IBM, az Amazon, a Baidu és a Tencent is dolgozik hasonló technológián.
Forrás: MTI; Fotó: MTI/Kovács Tamás
triacus
2023-03-30 at 13:02
@Orientál: Oké, ez igaz, csak a téma – a mesterséges intelligencia veszélyei – szempontjából nem releváns, lényegtelen konklúzió.
Itt arról van szó, hogy a jelenleg fejlesztett mesterséges intelligenciáknak már most mutatkoznak veszélyei – például bizonyos foglalkozások, mint például a grafikus, vagy a programozó értelmét vesztik; gondot okoz az oktatásban (megírja helyetted a beadandó házidolgozatodat); képesek hamisított tartalmakat gyártani (lásd: DeepFake); illetve mivel ezeket tanítani kell, félre lehet őket “nevelni” (például egyoldalú hírforrásokat “olvastatsz” el vele), így képesek hamis, egyoldalú tartalmakat generálni (például ha megkéred a ChatGPT-t, hogy írjon egy hőskölteményt Trump-ról, azt semlegességre hivatkozva megtagadja, de Bidenről ódákat zeng) – pláne ha ez monopolhelyzetű globális techcégek kezdik el versenyszerűen fejleszteni azokat.
Orientál
2023-03-30 at 12:36
Sajnos itthon a balliberális zöld Gyurcsányék is teret akarnak adni a genderi pedofiljaiknak homoszexuálisaiknak leszbijeiknek zoofiljeiknék …. stb. hasonló erkölcstelenségeknek.
triacus
2023-03-30 at 11:13
A cikkben említett nyílt levél:
https://futureoflife.org/open-letter/pause-giant-ai-experiments/
érdemes elolvasni.
És ami személyi szempontból érdekes ebben: Steve Wozniak, az Apple társalapítója és sok mesterséges intelligenciával foglalkozó fejlesztő, cégtulajdonos is aláírta.
Theo
2023-03-30 at 09:12
Sztem ezt a gendert is már egy gép találhatta ki. Hatalmas termeszetellenes marhaság, egy öngól, de logikus fejleménye a buzy jogok bevezetésenek.
Vagy a bogarevés. Logikus a fehérje és az egyszerű tenyeszthetoseg miatt és a gép nem undorodik.
Mindig is csodálkoztam, hogy milyen érzés nélküli “emberek” találják ki ezeket a minden normális embert taszító dolgokat.
na4
2023-03-30 at 08:34
Nem rezelni kell tőle, hanem használni, hasznosítani.
bl
2023-03-30 at 08:11
Amit nem tudsz megakadályozni, annak állj az élére. Ez a fejletthaladók gondolkodása: gender, noborder, drogliberó, abortusz, eutanázia, hülyejogok, befolyásolás gépekkel. A lista egyre hosszabb és még mindig nem értik, hogy ez öngyilkosság. Bár az is lehet értik, de nem érdekli őket, mert hülyék és/vagy gonoszak.
Kiss István
2023-03-30 at 07:25
Elom Musk? Nem Maszk?
Ezért célszerű NEM aláírni egy cikket.