A mesterséges intelligencia (artificial intelligence, AI) biztonságos alkalmazásáról és kockázatairól kezdődik szerdán kétnapos magas szintű nemzetközi konferencia Angliában. A találkozót Bletchley Park kastélyában, a brit katonai hírszerzés kódfejtésre szakosodott egykori titkos központjában tartják. A kastélyban működött a második világháború idején az a csoport, amely feltörte a német hadvezetés által megfejthetetlennek hitt Enigma-kódot. Ezt a kódot használták az Atlanti-óceán északi vizein szövetséges konvojokra vadászó, a háború első szakaszában súlyos veszteségeket okozó német tengeralattjárók kommunikációjához is. A kód feltörése egyes történészi vélemények szerint jelentősen lerövidítette a háborút. A kódfejtő csoportot Alan Turing vezette, akit a modern számítástudomány és a mesterséges intelligencia koncepciójának megalapozójaként tisztel a tudományos utókor.
A szerdán kezdődő találkozón várhatóan jelen lesz mások mellett Kamala Harris amerikai alelnök, Ursula von der Leyen, az Európai Bizottság elnöke, Giorgia Meloni olasz miniszterelnök és Elon Musk milliárdos amerikai technológiai nagyvállalkozó. A program szerint Musk az általa birtokolt X – korábbi nevén Twitter – portálon élő beszélgetést tart Rishi Sunak brit kormányfővel a konferencia második napján. A brit kormány, amely a világ első globális AI-biztonsági csúcstalálkozójaként hirdette meg a rendezvényt, Kínát is meghívta. Rishi Sunak a konferencia előtti nyilatkozatában úgy fogalmazott: tudja, hogy többek szerint Kínát ki kellett volna hagyni a meghívottak közül, “de nem létezhet komoly AI-stratégia anélkül, hogy legalább megpróbálnánk bevonni a világ összes vezető AI-hatalmát”.
A brit kormány megbízásából készült egy átfogó szakértői jelentés is az AI-biztonsági konferencia vitairataként. A 45 oldalas dokumentum a fő kockázatok közé sorolja, hogy a mesterséges intelligencia alkalmazása megkönnyítheti a biológiai, a vegyi és a sugárszennyezést okozó fegyverek előállítását, illetve a kibertámadások végrehajtását. Az AI-rendszerek használatával a fenyegetést jelentő felhasználók mindemellett időt is megtakaríthatnak. A mesterséges intelligencia például máris elősegítette olyan számítógépes vírusok előállítását, amelyek az észlelés megnehezítése végett időről időre módosulnak. A szakértői jelentés szerint az ilyen vírusok előállítása korábban meglehetősen hosszú időbe telt, ám egyes hackercsoportok fórumainak használói máris arról számolnak be, hogy a ChatGPT és más hasonló eszközök használatával lehetővé vált számukra a kártékony szoftverek (malware) gyors előállítása számos különböző programnyelven. Az AI-rendszerek mindemellett új támadási módszereket is kidolgozhatnak. Képesek például olyan kártékony szoftverek előállítására, amelyek mindaddig “jóindulatúan” viselkednek, amíg meg nem találják a célba vett áldozatokat, és csak ekkor fejtik ki káros hatásukat, megnehezítve a vírusirtó szoftverek számára a támadás észlelését – áll a tanulmányban.
Forrás: MTI; Fotó: MTI/EPA/Clemens Bilan
Matu
2023-11-01 at 16:32
Szegény mesterséges intelligencia csak abból meríthet, amit az emberiség összehordott (abból is csak azt, ami az amerikaiak közös agyában van) Olyan is…
Logikus
2023-11-01 at 13:23
Az MI amíg nem tudja nekem megjósolni a nyerő lottószámokat valamilyen formula alapján addig számomra csak olyan mint a fejfájás. Jobb elkerülni.
triacus
2023-11-01 at 12:11
Ezek a brit tudósok…
“a fő kockázatok közé sorolja, hogy a mesterséges intelligencia alkalmazása megkönnyítheti a biológiai, a vegyi és a sugárszennyezést okozó fegyverek előállítását, illetve a kibertámadások végrehajtását”
ezt az opust már az Internet megjelenésekor előadták: a “bombareceptek fenn vannak az Interneten”.
“A mesterséges intelligencia például máris elősegítette olyan számítógépes vírusok előállítását, amelyek az észlelés megnehezítése végett időről időre módosulnak.”
A kódjukat önmódosító polimorf vírusok már régóta vannak. Az elsőt – ami “1260” névre hallgat – 1990-ben Mark Washburn írta.
A jelenlegi mesterséges intelligenciának nem ez a problémája. Inkább az, hogy:
– a működésének alapjául szolgáló modell tanításához olyan tartalmakat használnak fel, aminek használatához a tartalom előállítója (jogtulajdonosa) vagy szereplője nem járult hozzá, ezzel szerzői és személyiségi jogokat sért
– segítségével eléggé megtévesztő, és hamis tartalmak (például álhírek, mások lejáratására szolgáló képek/hangok) állíthatóak elő
– a modellek betanításához felhasznált anyagok részrehajlóak (így lehet, hogy pl. a ChatGPT Bidenről ódákat ír, de Trump-ról nem hajlandó ugyanezt megtenni)
– a mesterséges intelligencia-alapú szolgáltatások – ChatGPT, Dall-E, Midjourney,… – nem transzparensek, nem ismert a modelljük betanításához használt forrás, nem ismert a mesterséges intelligencia-szolgáltatás forráskódja, nem tudni, hogyan kezelik a felhasználók által beadott “prompt”-okat
– az emberek hajlamosak túl nagy bizalmat szavazni a mesterséges intelligencia-szolgáltatásoknak, miközben ismeretes, hogy képesek “hallucinálni” az általuk “nem ismert”, a modelljükben nem szereplő információkat kitalálttal helyettesíteni
– a jelenlegi mesterséges intelligencia-szolgáltatások eléggé gépigényesek, így sok energiát igényelnek
– arról nem is szólva, hogy a mesterséges intelligencia-szolgáltatások egy jó része big tech cégek – Google, Microsoft,… – égisze alatt fut, ami további adatvédelmi, versenyjogi problémákat vet fel
Orientál
2023-11-01 at 10:50
Pont az angoloknál és ahol személyesen a von der Leyen – szakmájába bűnöző – is ott lesz hát ez aztán mindent elárul.
TalEle
2023-11-01 at 09:19
Itthon is foglalkozni kellene a dologgal! A globális techcégek rátették a kezüket a CharGTP-re (lásd, pl: a bárki által letölthető Bing-et), nem nehéz elképzelni, hogy milyen célból és milyen irányultsággal… Az emberek jórészét már így is, tudatosan, elhülyítették, ez a tendencia csak fokozódni fog!
Cuki
2023-11-01 at 09:11
pedig Angliában nagyon nagy szükség van a robotizációra és az MI-re.
nagyon nagy probláma a munkához való hozzáállás…NAGYON!
áll le minden…
már például a part menti településeken, Dél Angliában, a pumpa-telepek fele nem működik már, és egyre több a probléma a vízzel. a hírekben meg azt mondják, hogy a klíma miatt van, miközben az itt élők tudják, hogy lófaszt…mégsem tesz senki semmit. homokzsákolnak…