• 1986-ban egy szovjet alezredes lélekjelenléte mentette meg a világot a III. világháború kirobbanásától
  • A mesterséges intelligencia megkérdőjelezheti a nukleáris elrettentés alapvető szabályait, és pusztító döntések meghozatalában segédkezhet
  • A történet a mélyreható és potenciálisan destabilizáló technológiai változások bekövetkezésének felelősségére figyelmeztet
Ténygyár-tartalom
10 percnyi olvasnivaló
Vajon a mesterséges intelligencia (MI) adhat-e olyan értelmezést a nukleáris elrettentés fogalmának, amelynek révén 1945 után a világ elkerülheti a nukleáris háborút? Az MI területén végbement lenyűgöző fejlesztések – a drónok, a műholdak és ezernyi más technológiai eszköz elterjedésével – növelik annak lehetőségét, hogy az országok megtalálják és veszélyeztessék egymás nukleáris erejét, fokozva a meglévő feszültségeket.

Megérzés

(Sztaniszlav Petrov alezredes a titkos moszkvai bunkerben elfoglalja a helyét a parancsnoki székben. Munkája azon az éjszakán egyszerű: koncentrálni a számítógépeken megjelenő műholdas adatokra és figyelni az Egyesült Államokból származó rakétaindítás bármilyen jelére. Elmúlt éjfél, 1986. szeptember 26-át írunk.

Megszólal a bunker falára szerelt sziréna. Egyetlen szó villan elő a képernyőn.

„Kilövés.”)

Az a tényekkel alá nem támasztott félelem, hogy a számítógépek – tévedés vagy rosszindulatú beavatkozás miatt – a nukleáris megsemmisülés határára taszíthatják az emberiséget, a hidegháború legkorábbi napjai óta kísértett.

Ez a veszély azonban hamarosan kikerül a fikció köréből: tudományosan megalapozottá válik. Az MI-beli elképesztő fejlesztések olyan gépeket eredményeztek, amelyek képesek tanulni és gondolkodni, és új lendületet adhatnak a világ legfontosabb nukleáris hatalmai közötti fegyverkezési versenynek. Nem, nem a hollywoodi mozikból ismerős gyilkoló kedvű robotokról van szó, amelyektől frászt kell kapni; ezek a tanulni és gondolkodni tudó számítógépek megkérdőjelezhetik a nukleáris elrettentés alapvető szabályait, és visszavonhatatlan, pusztító döntések meghozatalára bírhatják rá az embereket.

Ez a feltevés hívta életre az RAND Corporation How Might Artificial Intelligence Affect the Risk of Nuclear War? – Hogyan befolyásolhatja a nukleáris háború kockázatát a mesterséges intelligencia?) című új tanulmányát. A tanulmány része az RAND Security 2040 nevű speciális projektjének, amelynek célja előre jelezni az esetlegesen bekövetkező fenyegetéseket.

„Ez jóval több, mint egy filmforgatókönyv” – mondja Andrew Lohn, az RAND egyik mérnöke, a tanulmány társszerzője, akinek az MI-vel szerzett tapasztalatai kiterjednek a drónútvonal-tervezéstől a bálnák hívó szavának megfejtésén át az NBA-eredmények megjósolásáig. „Ha nem vagyunk elég óvatosak, a viszonylag egyszerű dolgok feszültségeket kelthetnek, és veszélyes helyzeteket eredményezhetnek” – teszi hozzá.

Hiba vagy armageddon?

(Petrov úgy érzi magát, mintha a széke helyett izzó parázson ülne. Tudja, hogy a számítógépes rendszerben van a hiba. A szovjetek – aggódva, hogy lemaradnak az Egyesült Államokkal folytatott fegyverkezési versenyben – alig pár hónappal korábban helyezték üzembe. A képernyő most a „nagy megbízhatóság” állapotát jelzi, de Petrov gyomra ezt nem veszi be.
Felveszi az ügyeletes tiszti telefont. – Hamis riasztás – mondja. Hirtelen újabb figyelmeztetések kezdenek villózni a képernyőn: még egy kilövés, még egy és még egy. Vörösen izzanak a szavak: „Rakétatámadás”)

Annak megértéséhez, hogy az intelligens számítógépek miként növelhetik a nukleáris háború kockázatát, egy kicsit közelebbről meg kell vizsgálni azt a kérdést, hogy a hidegháború miért nem fordult át nukleáris pusztításba. Számos elmélet létezik, de ezeknek a „garantált megtorlás” mindig is az egyik sarokköve volt. Egyszerűbben fogalmazva: „ha megütsz, visszaütök”. Mivel nukleáris fegyverekről van szó, ez a „pofozkodás” egész városokat pusztíthat el – ilyen veszteséget pedig egyik fél sem mer kockáztatni.

Ebből az elméletből néhány, egymásnak látszólag ellentmondó dolog következik. Ha mindkét fél olyan fegyverekkel rendelkezik, amelyek túlélhetik az első támadást, és képesek az ellencsapásra, akkor a helyzet stabil. Egyik fél sem kockáztathatja meg az első lépést. A helyzet akkor válik veszélyesebbé és bizonytalanabbá, ha az egyik fél elveszíti a válaszcsapás képességét, vagy csak azt hiszi, hogy elveszítheti ezt a képességet. Lehet, hogy új fegyverek kifejlesztésével reagál erre. Vagy lemond róla, kitéve magát az ellenséges csapásnak.

Ez az, ahol valódi veszélyt hordoz magában az MI. A számítógépek képesek beolvasni több ezer megfigyelői fotót, olyan mintákat keresve, amelyeket az emberi szem sohasem lát. Nem kell túl nagy képzelőerő ahhoz, hogy világosan lássuk: egy fejlett rendszer, amely drónos hírcsatornákkal, műholdas adatokkal – és még a közösségi médiából származó információkkal is – operál, aprólékosan feltérképezheti az ellenség fegyvereit és védelmi rendszereit.

Egy olyan rendszer, amely mindenhol ott lehet, és mindent láthat, meggyőzheti az ellenséget, hogy védtelen az első csapás erejével szemben – hogy elveszítheti a válaszcsapás képességét. Az ilyen ellenség pedig minden eszközt megragad arra, hogy új utat találjon pozíciójának visszanyerésére. Ez az út még közelebb vezet a nukleáris háborúhoz.

„Az autonóm rendszereknek nem kell embereket ölniük a stabilitás aláaknázása és a katasztrofális háború valószínűbbé tétele érdekében” – mondja Edward Geist, a nukleáris biztonság szakértője, az új tanulmány másik társszerzője.” Az új MI-képességek miatt az emberek azt gondolhatják: veszítenek, ha haboznak. És ezáltal viszketni kezd az ujjuk az indítógombon. Ilyen helyzetben valószínűbb, hogy az MI még emberi irányítás mellett is a háborúba bocsátkozás mellett áll ki.”

(Petrov képernyőjén most a Szovjetunió felé tartó öt rakéta tűnik fel. Üvöltenek a szirénák. Petrov – az egyik kezében az ügyeletes tiszti telefont tartva – a házi vonalon a számítógéptermet hívja. A technikusok azt mondják neki, hogy az ő radarképernyőjükön nincs semmiféle rakéta.

Ennek nincs semmi értelme. Miért kezdene az Egyesült Államok nukleáris háborút pusztán öt darab rakétával? Petrov fölveszi a telefont, és újra beleszól: Téves riasztás.)

A számítógépek most tanítják magukat sétálni, megbotránkozni, lezuhanni – de addig tanulhatnak, amíg tökéletesen el nem sajátítják az adott képességet. Neurális hálózataik az agy jellegzetes szerkezetét másolják. Egy számítógép nemrégiben megverte a világ egyik legjobb játékosát az ősi stratégiai játékban, a góban. Egy olyan lépéssel, amely teljesen idegen volt, és mégis olyan hatékony, hogy az ellenfél felállt, elhagyta a termet, és 15 percre volt szüksége ahhoz, hogy megtegye a következő lépést.

A szuperintelligencia katonai potenciálját a világ legnagyobb nukleáris hatalmai sem hagyhatták szó nélkül. Az Egyesült Államok olyan önjáró hajók megalkotására tett kísérletet, amelyek képesek észlelni és követni a több ezer mérföldre járőröző ellenséges tengeralattjárót. Kína a „csordaszellem-intelligencia” algoritmusait demonstrálta, ezek lehetővé teszik a drónok számára, hogy vadászni tudjanak a különböző szállítmányokra. Oroszország pedig a közelmúltban jelentette be, hogy egy víz alatti, „ítéletnapi” drónt tervez, olyan robbanófejjel, amely képes megsemmisíteni egy nagyvárost.

Az, aki, megszerzi az MI-világ trónját, Vlagyimir Putyin orosz elnök szerint „a világ uralkodója lesz”. A Tesla-alapító Elon Musk ezt másképpen látja: szerinte az MI-uralomért folyó verseny lesz a legvalószínűbb oka a III. világháború kirobbanásának.

Az igazság pillanata

(Néhány rémisztő pillanatig Sztaniszlav Petrov a nukleáris háború jelentette szakadék szélén szédeleg. 1983 derekán a Szovjetunióban tartotta magát az a meggyőződés, hogy az Egyesült Államok nukleáris támadást készít elő. A Petrov előtt villogó számítógépes rendszer volt hivatott biztosítani, hogy ha az Egyesült Államok csapást mér az országra, a Szovjetuniónak legyen ideje a válaszra.

„Téves riasztás.” Az ügyeletes tiszt nem kér magyarázatot. Továbbküldi Petrov üzenetét, betartva a szolgálati utat.)

A kutatók arra a következtetésre jutottak, hogy az MI következő generációjában „jelentős lesz a potenciál” a nukleáris biztonság alapjainak aláaknázására. A nemzetközi párbeszéd ideje tehát most van.

Ilyen technológiai fejlődés idején a nukleáris béke fenntartása minden atomfegyverrel rendelkező féltől együttműködést követel. Új globális intézményekre és megállapodásokra lesz szükség; újfajta értelmezésre a rivális államok között; valamint új technológiai, diplomáciai és katonai biztosítékokra.

Lehetséges persze, hogy egy jövőbeni MI-rendszer olyan megbízhatónak, olyan hidegen racionálisnak bizonyul, hogy képes lesz megállítani a nukleáris ítéletnap óráját. Végül is hibázni emberi dolog. Egy olyan gép, amely képtelen a hibázásra, nem érez semmilyen nyomást, és nincs személyes előítélete, olyan stabilitást biztosítana, amelyet az atomkorszak még sohasem látott.

De a kutatók arra a következtetésre jutottak, hogy ez a pillanat még mindig valahol a távoli jövőben rejtőzik, és az addig tartó időszak különösen veszélyes lesz. Az, hogy még több ország rendelkezik majd nukleáris fegyverzettel, még fokozottabban támaszkodnak az MI-re, mielőtt az technológiailag éretté válna, katasztrofális tévedésekhez vezethet. És ez a pont már túl késői lenne az éjszakai műszakban dolgozó alezredes számára, hogy megállítsa a háborús gépezetet.

Sztaniszlav Petrov nukleáriskatasztrófa-elhárítási története a mélyreható és potenciálisan destabilizáló technológiai változások bekövetkezésének felelősségére figyelmezteti az új nemzedéket. Petrov, aki 2017-ben halt meg, egyszerűen azt mondta: „Bölcsebbek vagyunk, mint a számítógépek. Mi teremtettük őket.”

Ez a cikk is érdekelhet

Milyen szakmát választanak
a sorozatgyilkosok?

  Rendőr, katona, vallási vezető, de fakertész, cipész és portás is az átlagnál gyakr…