• A tömegek a jelentéktelenségtől félnek, és megszállottan használják meglévő politikai hatalmukat, amíg még nem késő
  • Míg a tudományos fantasztikus művek tűzzel és füsttel átitatott drámai apokalipszist festenek elénk, a valóságban inkább egy sokkal banálisabb, klikkelési apokalipszissel fogunk találkozni
  • Yuval Noah Harari a Sapiens és Homo Deus című, magyarul is megjelent sikerkönyvek tudós szerzője új művében a 21. század 21 leckéjét szedte össze, az alábbi  cikk a könyv egy fejezetének forítása
Ténygyár-tartalom
30 percnyi olvasnivaló

A jelentéktelenségtől való félelem

A demokrácia nem szükségszerű. A demokrácia utóbbi évtizedekben elért sikerei csak villanások a történelem egészében. A monarchiák, az oligarchiák vagy egyéb autoriter módoksokkal gyakoribb formái voltak az emberi irányításnak.

A liberális demokráciák megjelenése a szabadság és az egyenlőség eszméjéhez kapcsolódik, ezmára magától értetődőnek és visszafordíthatatlannak tűnhet. De ezek az eszmék sokkal törékenyebbek, mint hinnénk. A demokrácia 20. században elért sikerei olyan technikai körülményekből fakadtak, amelyek most tiszavirágéletűnek tűnnek.

A 21. század második felében a liberalizmus veszíteni kezdett a hitelességéből. Egyre hangosabban és egyre többen kérdőjelezik meg, hogy a liberális demokrácia képes-e gondoskodni a középosztály valódi igényeiről; a politika egyre törzsibb formákat ölt; és egyre több ország vezetője hajlamos demagógiára és autokráciára. Ennek a politikai váltásnak összetettek az okai, de úgy tűnik, hogy összefügg a jelenlegi technológiai fejleményekkel. A demokráciának eddig kedvező technológia változóban van, és a mesterséges intelligencia (MI) fejlődésével ez még tovább változhat.

Az információs technológia folyamatosan fejlődik, és a biotechnológia kisebb-nagyobb előrelépéseivel betekintést kaphatunk az emberi élet olyan belső folyamataiba, mint az érzelmeink, a gondolataink és a döntéseink működése. Az információs technológia és a biotechnológia együtt soha nem tapasztalt felfordulást fog eredményezni az emberi társadalomban, azáltal, hogy aláássa az emberi döntéshozatal alapjait, és összezavarja az emberek vágyait. Ilyen körülmények között a liberális demokrácia és a piacgazdaság elavulttá válhat.

Lehet, hogy egy átlagember nem érti részletekbe menően a mesterséges intelligenciát vagy a biotechnológiát, azt azonban nagyon is érezheti, hogy elhalad mellette a jövő. 1938-ban a Szovjetunióban, Németországban vagy az Egyesült Államokban egyaránt azt éreztették az átlagemberrel, hogy ő a legfontosabb az egész világon, ő maga a jövő (feltéve persze, hogy nem volt sem zsidó, sem nő). Ha a propagandaplakátokra pillantott – amelyek általában szénbányászokat és acélmunkásokat ábrázoltak különböző heroikus pózokban –, saját magát láthatta rajtuk, és méltán gondolhatta, hogy: „Én szerepelek azon a poszteren! Én vagyok a jövő hőse!”.

2018-ban az átlagember már inkább jelentéktelennek érezheti magát. Rengeteg olyan rejtélyes fogalmat emlegetnekTED-beszédekben, kormányzati agytrösztökben és high-tech konferenciákon – mint a globalizáció, a blockchain, a génmanipuláció, a mesterséges intelligencia vagy a gépi tanulás (machinelearning) –,amelyekből a hétköznapi ember csak annyit sejthet, hogy ezek közül a kifejezések közül egyik sem róla szól.

A 20. században tömegek lázadtak fel a kizsákmányolással szemben, hogy a gazdaságban betöltött kulcsfontosságú szerepüket politikai hatalomra fordítsák. Jelen pillanatban a tömegek a jelentéktelenségtől félnek, és megszállottan használják meglévőpolitikai hatalmukat, amíg még nem késő.A Brexit és Donald Trump győzelme tehát a hagyományos szocialista forradalmakkal pont ellentétes természetű. Az orosz, a kínai vagy a kubai forradalmat olyan emberek indították, akik nélkülözhetetlenek voltak a gazdaság számára, de politikai hatalommal nem rendelkeztek. Ezzel szemben 2016-ban Trumpot és a Brexitet sok olyan ember támogatta, akik politikai hatalmat élveznekugyan, de rettegnek attól, hogy elveszítik gazdasági értéküket. Talán a 21. század populista lázadásai nem egy olyan gazdasági elit ellen zajlanak, amely kihasználja az embereket, inkábbegy olyan ellen, amelyre már nincs szükségük a tömegeknek. Ez talán vesztes csatát jelenthet. Sokkal nehezebb küzdeni a jelentéktelenség, mint a kizsákmányolás ellen.

Az információtechnológia és a biotechnológia gyors fejlődése még mindig gyerekcipőben jár, és vitatható, hogy mennyire felelnek a liberalizmus jelenlegi válságáért. Birmingham, Isztambul, Szentpétervár és Mumbai lakosai kevéssé figyelik az MI felemelkedését, és nem valószínű, hogy tisztában vannak annak lehetséges,az életükregyakorolt hatásaival. Az viszont kétségtelen, hogy a most lendületet kapó technológiai forradalmak az elkövetkező néhány évtizedben az eddigi legnehezebb kihívása elé fogják állítani az emberiséget.

A haszontalan osztály

Először is kezdjük a jövedelmekkel és a munkahelyekkel, mert akármilyen vonzó is a liberális demokrácia filozófiája, legnagyobb részben gyakorlati előnyének köszönheti a felemelkedését. A decentralizált döntéshozatal – a politikában és a gazdaságban egyaránt – tette lehetővé a liberális demokráciák számára azt, hogy túlmutassanak más államokon, és növekvő bőséget biztosítsanak a népüknek.

A liberalizmus összehozta a proletariátust a burzsoáziával, a hívőt az ateistákkal, az őslakosokat a bevándorlókkal és az európaiakat az ázsiaiakkal úgy, hogy mindenkinek egy nagyobb szeletet ígért a tortából. Egy folyamatosan növekvő tortával ez lehetséges is volt. És bár a tortamérete még mindig egyre nagyobb, a konstans gazdasági növekedés nem orvosolhatja a fennálló társadalmi problémákat, mivel a gazdaság további növekedését épp azokra az újszerű technológiákra alapozzuk, amelyek ezeket a társadalmi feszültségeket okozzák.

Természetesen a gépek munkaerőpiaci kiszorító hatásától való félelem nem újdonság a történelmünkben, és eddig az ezzel kapcsolatos félelmek megalapozatlannak bizonyultak. Nagyon fontos viszont látni, hogy az MI eltér a régi gépektől. Eddig a gépek főként manuális képességekben keltek versenyre az emberekkel, de mostanra eljutottunk oda, hogy versenyezni kezdtek a kognitív képességeinkkel is. A manuális és a kognitív képességeken kívül pedig nem ismerünk mást, amelyben az emberek mindig is előnyben voltak.

Még legalább a következő néhány évtizedben az emberi intelligencia valószínűleg számos területen messze meghaladja majd a számítógépes intelligenciát. Ahogy a számítógépek egyre több rutinszerű szellemi munkát vesznek majd át tőlünk, emberektől, egyre több kreatív munka fog megjelenni a mi számunkra. Ezeknek az új munkáknak a jelentős része sokkal inkább az ember és az MI közötti kooperációrakoncentrál, mintsem a közöttük lévő versengésre, így az ember–MI párosok nagy eséllyel felül fogják múlni mind az emberek, mind a gépek magányos munkavégzésének hatékonyságát.

Az új munkahelyek jelentős része azonban nagy eséllyel magas szaktudást fog igényelni, így nem valószínű, hogy megoldást jelentenek majd a munkanélküli, szakképzetlen munkások problémájára. Továbbá az MI fokozatos fejlődése még a magasabb intelligenciát és kreativitást igénylő emberi munkákat is fokozatosan felfalhatja majd. A sakk világa kiváló példát szolgáltat arra, hogy merre haladhat ez a tendencia. Miután az IBM számítógépe, a Deep Blue1997-benlegyőzte GarriKaszparovot, az emberi sakkjátékosok még néhány éven keresztül virágozhattak:az MI-t az emberi tehetségek továbbképzésére használták, és az ember–számítógép párosok jobbnak bizonyultak, mint a gépek önmagukban.

Az utóbbi években azonban a gépi sakkjátékosok olyan jók lettek, hogy az emberi kollaboránsaik szinte teljesen elvesztették értéküket, és hamarosan teljesen jelentéktelenné válnak a sakk világában. 2017. december 6-án egy újabb mérföldkő következett be, amikor a GoogleAlphaZero nevű programja legyőzte a Stockfish 8 nevű programot. A Stockfish 8 még 2016-ban nyert világméretű számítógépes sakkbajnokságot. A programnak a sakkban évszázadok alatt felhalmozott emberi tapasztalatokhoz és több évtizednyi számítógépes tapasztalathoz is hozzáférése volt. Ezzel szemben az AlphaZerót nem tanították sakkstratégiákra az emberi alkotók által, még csak a standard nyitólépésekre sem tanították meg. Ezek helyett a legfrissebb gépi tanulási elveket használta arra, hogy saját magát tanítsa a saját maga ellen játszott játékok alatt. A 100 játékból, amit az AlphaZero és a Stockfish 8 játszott egymás ellen, az AlphaZero 28-at nyert, 72 esetben pedig döntetlent játszott, így egyetlen játékot sem veszített el. Mivel az AlphaZero soha semmit nem tanult embertől, sok győztes lépése és stratégiája szokatlannak tűnt az emberi szem számára, ezek akár kreatívnak is mondhatók, ha nem zseniálisnak.

Ki tudod találni, hogy az AlphaZero mennyi időt töltött a sakk tanulásával, amikor a Stockfish 8 elleni meccsre készült? Négy órát. Évszázadokon keresztül az emberi intelligencia egyik legdicsőbb megnyilvánulásaként tekintetteka sakkra. Az AlphaZero a teljes tudatlanságból a kreatív kiválóságig jutott négy óra alatt, bármiféle emberi útmutatás nélkül.

Nem az AlphaZeroaz egyetlen ötletes szoftver. A sakkbajnokságok potenciális csalóinak lebuktatására a bírák ma már sokszor a játékosok lépéseinek eredetiségét nézik. Amikor egy játékos kivételesen kreatív lépéssel rukkol elő, akkor a bírák gyakran számítógépes játékosra gyanakodnak. A sakkban az MI-nak sikerült elérnie, hogy a kreativitás inkább legyen a gépek védjegye, mint az embereké! Ami a sakk világában történt, az intő jel lehet mindannyiunk számára, mert ami ma történik az ember–MI sakkcsapatokkal, az megtörténhet akár a rendőrség, az orvostudomány vagy a bankügyek területén is.

Mi több, az MI egyedülálló módon nem emberi képességekkel rendelkezik, így nem pusztán hatékonysági, hanem minőségbeli különbséget tesz az MI és egy emberi munkavállaló között. Az MI birtokában lévő két különösen fontos nem emberi képesség az összekapcsolhatóság és a frissíthetőség.

Például sok vezető nem ismeri a folyamatosan változó forgalmi szabályokat, így az emberek időről időre megsértik őket. Ráadásul minden járművezető egyedülálló entitásként vesz részt a közlekedésben, így amikor két jármű megközelíti ugyanazt a kereszteződést, a járművezetők néha félreérthetik egymás szándékát, és összeütközhetnek. Az önjáró autók ezzel szemben ismerik az összesfriss forgalmi szabályozást, soha nem szegülnek ezek ellen szándékosan, és mindegyikük összekapcsolható egymással. Ha két önvezető jármű közelíti meg ugyanazt a csomópontot, akkor valójában nem két külön entitásként teszik ezt, hanem egyetlen algoritmus részeiként. Ez azt eredményezi, hogy sokkal kisebb lesz az esélye annak, hogy félreértik egymás szándékait,és összeütköznek.

Hasonlóképpen, ha az Egészségügyi Világszervezet (WTO) egy új betegséget azonosít, vagy ha egy laboratórium új gyógyszert fejleszt ki, nem lehet azonnal frissíteni a világ összes orvosának tudásbázisát a világon. Míg ha több milliárd MI-orvos lenne szerte a világon – például minden egyes ember egészségét egy adott MI-doktor felügyelné –, akkor is képesek lennénk egy másodperc alatt frissíteni mindegyikőjük tudásbázisát, és képesek lennének egymással kommunikálni, megosztani az új betegségről vagy az új gyógyszerről tett megfigyeléseiket. A frissíthetőség és az összekapcsolhatóság potenciális előnyei olyan jelentősek, hogy – legalábbis egyes területeken –meg fogja érni minden embert egy géppel helyettesíteni még akkor is, ha egyes emberek még mindig jobb munkát végeznek, mint a gépek.

Mindez egy nagyon fontos következtetést von maga után: az automatizálás forradalmát nem egyetlen vízválasztó esemény jelenti, amely után a munkaerőpiac egy új egyensúlyi pontba fog kerülni. Sokkal inkább egyre nagyobb zavarok lesznek. Régi munkahelyek tűnnek el, és új munkahelyek jelennek meg, amelyek ugyanúgy gyorsan változhatnak vagy tűnhetnek el, mint elődeik. Az embereknek nemcsak egyszer, hanem sokszor kell újraépíteniük és újra képezniük magukat.

Ahogy a 20. században a kormányok masszív oktatási rendszereket hoztak létre a fiataloknak, a 21. században a felnőttek számára is meg kell teremteni ezeket a rendszereket. De vajon elég lesz ez? A változás mindig stresszes, és a 21. század eleji hektikus folyamatok világméretű stresszjárványt okoztak. Vajon az emberek képesek lesznek megbirkózni a munkaerőpiac növekvő volatilitásával? 2050-re kialakulhat egy nagyobb „haszontalan” osztály, amelyik nemcsak a munka vagy a megfelelő oktatás hiányával fog küzdeni, hanem komoly mentális problémákkal is, ezek megakadályozzák őket az új képességek elsajátításában.

A digitális diktatúrák felemelkedése

Ahogy sok emberveszíti el a gazdasági erejét, úgy lesz oda a politikai hatalmuk is. Ugyanazok a technológiák, amelyek milliárdokat tehetnek gazdaságilag jelentéktelenné, megkönnyíthetik a nyomon követésüket és az ellenőrzésüket.

Az MI sok embert rémít meg, mert nem bíznak abban, hogy engedelmes marad. A tudományos-fantasztikus művek széles spektrumát mutatják be azoknak az eshetőségeknek, amelyekben a gépek öntudatra ébrednek, és megpróbálják kiirtani az emberiséget. De nincs különösebb okunk azt feltételezni, hogy a mesterséges intelligencia fejlődésének hatására öntudatot fejlesztenének ki a gépek. Sokkal inkább attól kellene félni, hogy az MI mindig engedelmeskedni fog az emberi mestereinek, és sosem fog fellázadni a parancsaik ellen. A mesterséges intelligencia olyan eszköz és fegyver, amelyhez hasonlót még sosem fejlesztett az emberiség; szinte biztosan lehetővé fogja tenni az erősek számára azt, hogy tovább növeljék a már meglévő hatalmukat.

Gondoljunk csak a felügyeletre! A világ számos országa – beleértve számos demokráciát is – soha nem látott fejlettségű ellenőrző rendszereket épít ki. Izrael példáulvezető szerepet tölt be a megfigyelési technológiák területén, és a megszállt Ciszjordániában működő prototípusát hozták létre egy teljeskörű felügyeleti rendszernek. Amikor palesztinok telefonálnak, küldenek valamit Facebookon, vagy egyik városból a másikba utaznak, nagy valószínűséggel izraeli mikrofonok, kamerák, trójaiak és kémprogramok figyelik őket. Az algoritmusok elemzik az összegyűjtött adatokat, ezzel segítve az izraeli biztonsági erőket abban, hogy pontosítani és semlegesíteni tudják azt, amit potenciálisan fenyegetésnek vélnek. Néhány várost és falvat palesztinok kormányoznakugyan, de az izraeliek irányítják az eget, a rádióhullámokat és a kiberteret. Ezek a technológiák lehetővé teszik, hogy meglepően kevés izraeli katonát vegyen igénybe kb. 2,5 millió palesztin hatékony ellenőrzése.

Egy 2017. októberi incidens során egy palesztin munkás saját privát Facebook-fiókján tett közzé egy képet magáról, ahogy a munkahelyén, egy buldózer mellett áll. A kép címe az volt, hogy „Jó reggelt!”. A Facebook fordító algoritmusa egy kis hibát vétett az arab betűk lefordítása közben: a Ysabechhum (ami „Jó reggelt!”-et jelent) szó helyett a Ydbachhum („Bántsd őket!”) szót azonosította. Gyanakodva arra, hogy az illető terrorista lehet, aki egy buldózerrel akar embereken áthajtani, az izraeli biztonsági erők gyorsan letartóztatták az illetőt. Miután rájöttek, hogy az algoritmus hibát vétett, szabadon engedték a férfit, de a Facebook-bejegyzést–biztos, ami biztos– törölték. Amit a palesztinok jelenleg Ciszjordániában tapasztalhatnak, az csak egy kezdetleges bemutatója lehet annak, amit emberek milliárdjai szenvedhetnek majd elvilágszerte.

Például képzeljük el azt, hogy a jelenlegi észak-koreai rezsim a jövőben fejlettebb technológiához jut. Az észak-koreaiakat egy biometrikus karkötő viselésére kényszerítik, amely figyelemmel kísér mindent, amit mondanak, a vérnyomásukat és az agyi aktivitásukat is.Az emberi agy egyre jobb megértése és a gépi tanulás ereje együtt azt eredményezheti, hogy ezekre támaszkodva az észak-koreai kormány képes lesz minden egyes polgár gondolkodását monitorozni minden egyes időpillanatban. Ha egy észak-koreai állampolgár biometrikus eszközén lévő szenzorok a harag jeleit mutatják (magasabb vérnyomás, fokozott aktivitás az amygdában), mikoraz illető Kim Dzsongun képére tekint, könnyen előfordulhat, hogy másnapra a kényszermunkatáborban találhatja magát.

De az ilyen és ehhez hasonló erőteljes módszerek általában még nem tűnnek szükségesnek. Egyes országokban a szabad választás és a szabad szavazás látszata továbbra is megmaradhat, még akkor is, ha a közvélemény egyre kevésbé tud ténylegesen hatással lenni az ellenőrzésre. Az biztos, hogy a szavazók érzelmeinek manipulálása nem újdonság. De ha valaki (akár San Franciscóban, akár Pekingben vagy Moszkvában) képes lesz megszerezni a technikai képességet az emberi szív manipulálására – megbízhatóan, olcsón és széles körben hasznosíthatóan –, a demokratikus politika egy érzelmi bábszínházzá fog változik.

Nem valószínű, hogy a közeljövőben érző gépek lázadásával fogunk találkozni, de előfordulhat, hogy olyan botok hordáival kell majd megküzdenünk, amelyek tudják, hogyan kapcsolják be az érzelmeinket, és rejtélyes képességüket – a fennálló emberi elit parancsára – arra fogják felhasználni, hogy valamit megpróbáljanak eladni nekünk, legyen az egy autó, egy politikus vagy akár egy egész ideológia. A botok feltárhatják a legmélyebb félelmeinket, gyűlöleteinket és vágyainkat, és ezeket hatékonyan használhatják fel ellenünk. Erről már kaptunk egy kisebb ízelítőt néhány friss választás és népszavazás keretein belül, amikor a hackerek felfedezték azt, hogyan manipulálhatók a szavazók érzelmei az általuk generált adatok elemzésén és az előítéleteik felerősítésén keresztül. Míg a tudományos fantasztikus művek tűzzel és füsttel átitatott drámai apokalipszist festenek elénk, a valóságban inkább egy sokkal banálisabb, klikkelési apokalipszissel fogunk találkozni.

Az MI-forradalom legnagyobb és legrettenetesebb hatása a demokráciák és a diktatúrák relatív hatékonyságán alapulhat. Történelmileg az autokráciák súlyos hátrányokkal küzdenek az innováció és a gazdasági növekedés tekintetében. A 20. század végén a demokráciák általában felülmúlták a diktatúrákat, mert sokkal jobbak voltak az információfeldolgozásában. A demokrácia és a diktatúra közötti konfliktusra szeretünk úgy gondolni, mint két különböző etikai rendszer közötti konfliktusra, de valójában inkább beszélhetünk két különböző típusú adatfeldolgozó rendszer konfliktusáról. A demokrácia sok ember és intézmény között osztja el az információ feldolgozásának és a döntések meghozatalának hatalmát, míg a diktatúra egy helyen összpontosítja az információt és a hatalmat is. A 20. században elérhető technológiák nem tudták hatékonnyá tenni a nagymennyiségű információ és a hatalom egy helyen történő koncentrálását. Senki sem tudta elég gyorsan és hatékonyan feldolgozni az összes rendelkezésre álló információt, és ezek alapján meghozni a helyes döntéseket.Ez az egyik oka annak, hogy a Szovjetunióban sokkal rosszabb döntéseket hoztak, mint az Egyesült Államokban, és ezzel messze elmaradt a szovjet gazdaság az amerikaitól.

A mesterséges intelligencia korában azonbanépp ennek az ellenkezője lehet igaz az információfeldolgozó rendszerek versenyére. Az MI hatalmas mennyiségű információ központi feldolgozását teszi lehetővé. Valójában a gépi tanulás annál jobban működik, minél több információt elemezheta gép, így a központosított rendszerek sokkal hatékonyabbak lehetnek, mint a diffúz rendszerek. Ha figyelmen kívül hagynánk az összes adatvédelmi aggályt, és a több milliárd emberre vonatkozó összes információt egyetlen adatbázisba gyűjtenénk, akkor sokkal jobb algoritmust kapnánk, mint ha az egyén magánéletét tiszteletben tartva csak részleges információkat gyűjtenénkaz adatbázisunkba egymillió emberről.Egy autoriter kormány, amely minden állampolgárát arra kötelezi, hogy szekvenálják a DNS-üket, és osszák meg az összes orvosi adatukat egy központi hatósággal, óriási előnyhöz juthatna a genetikában és az orvosi kutatásokban olyan társadalmakkal szemben, ahol az orvosi adatok szigorúan magánügynek számítanak. A tekintélyelvű rendszerek 20. században fennálló fő hátránya – az összes információ és erő egy helyen történő koncentrálása – a 21. században döntő előnyévé válhat.

Természetesen új technológiák is meg fognak jelenni, és némelyikük ösztönözheti az információ és a hatalom szétosztását nagyobb körben, ezekkoncentrálása helyett.A blockchain-technológia, valamint az általa lehetővé tett kriptovaluták használata jelenleg a központosított erő egyik ellensúlya lehet.De a blockchainjelenleg még olyan fejletlen szakaszban van, hogy nem tudhatjuk: valóban ellensúlyként léphet-e fel az MI központosító tendenciájával szemben. Emlékezzünk csak vissza arra, hogy az internetet a kezdeti időkben libertáriánus csodaszerkéntemlegették, amely képes lesz felszabadítani az embereket a központosított rendszerek alól – de mára készen áll elősegíteni azt, hogy a központosított hatalmak erősebbek legyenek, mint valaha.

A hatalom átadása a gépeknek

Annak ellenére, hogy egyes társadalmak láthatóan demokratikusak maradnak, az algoritmusok növekvő hatékonysága egyre több és több hatalmat fog áttolni az emberekről a hálózatba kapcsolt gépekre. Lehet, hogy örömmel fogunk lemondani egyes hatásköreinkről, mivel a tapasztalataink azt tanítják nekünk, hogy jobban bízhatunk a gépekben, mint a saját érzéseinkben, ezzel elveszítve egyes döntések meghozatalához szükséges képességeinket. Gondoljunk csak arra, hogy mindössze két évtized alatt több milliárd emberruházta fel aGoogle keresési algoritmusát a bizalmával, méghozzá egy olyan fontos feladattal kapcsolatban, mint a releváns és a megbízható információk megtalálása.Ahogyegyre többet támaszkodunk a Google által adott válaszokra, folyamatosan csökken az információ önálló felkeresésére alkalmas képességünk. Az igazságotmár ma isa Google első néhány találata által definiáljuk,és ez a folyamat befolyásolta a fizikai –például a navigációs– képességeink korlátozott érvényesülését is.

Az emberek nemcsak az információk felkutatására kérik a Google-t, hanem arra is, hogy irányítsa őket A-ból B-be. Az önjáró autók és az MI-orvosok további lemaradást jelentenének: ezek az innovációk átvennék a kamionsofőrök és az emberi orvosok munkáját, ezzel munkanélkülivé téve azokat, de a legnagyobb hatásuk a felelősség folyamatos átadása lenne a gépek részére.

Az emberek sokszor tekintenek úgy az életre, mint a folyamatos döntéshozatal drámájára. A liberális demokrácia és a szabadpiaci kapitalizmus egy autonóm ügynökként látja az embert, aki folyamatosan döntéseket hoz a körülötte lévő világról. A legtöbb kulturális művünk – legyen szó Shakespeare-darabokról, Jane Austen-regényekről vagy a limonádé hollywoodi vígjátékokról – általában olyan hősökről szól, akik valamilyen fontos döntés meghozatala előtt állnak. Lenni vagy nem lenni? Hallgatni a feleségemre és megölni Duncan királyt, vagy hallgatni a lelkiismeretemre és megmenteni őt? Mr. Collinshoz vagy Mr. Darcyhoz menjek feleségül?A keresztény és a muszlim teológia hasonlóképpen a döntéshozatal drámájára fókuszál, azzal érvelve, hogy az örök üdvösség a helyes döntés meghozatalától függ.

Vajon hogyan fogja érinteni a jelenlegi világképünket az, hogy egyre több döntés meghozatalában támaszkodunk a mesterséges intelligenciára? Már napjainkban is a Netflix ajánl fel nekünk filmeket, és a Spotify választja ki azokat a számokat, amelyeket szeretünk. De miért állna meg itt az mesterséges intelligencia segítőkészsége?

Minden évben több ezer főiskolai hallgatónak kell eldöntenie, hogy mit tanuljon a jövőben. Ez egy nagyon fontos és nehéz döntés, avégeredményére a szülők, a barátok és a professzorok is próbálnak nyomást gyakorolni, akiknektermészetesen különböző véleményükvan a kérdésről. A diákok egyéni félelmei és fantáziái is befolyásolják a döntést, ezeket filmek, regények és reklámkampányok alakítják ki.A döntést tovább bonyolítja, hogy a diák nincs igazán tisztában azzal, hogy mibe kerülhet megtanulni egy szakmát, és nem feltétlenül van reális elképzelése saját erősségeiről és gyengeségeiről sem.

Nem nehéz rájönni, hogy miért lenne képes a mesterséges intelligencia jobb döntést hozni a karrier- vagy akár a párválasztásunkról. De amint az MI-re alapozzuk azokat a döntéseinket, hogy mit tanuljunk, hol dolgozzunk, vagy hogy kivel randizzunk, a választások drámájaként felfogott emberi világkép szertefoszlik, és kénytelenek leszünk az életről alkotott koncepciónkat lecserélni. A demokratikus választások és a szabad piacértelmét vesztheti, ahogy a legtöbb vallás és műalkotás is. Képzeljük el Anna Kareninát, ahogy előveszi az okostelefonját, és megkérdezi Siritől, hogy Karenin felesége maradjon-e, vagy inkább szökjön meg Vronszkij gróffal? Vagy bármelyik kedvenc Shakespeare-darabunkat, ahol az összes kritikus kérdést egy Google-algoritmus hozza meg. Hamlet és Macbeth sokkal kényelmesebb életet élhetneugyan, de vajon milyen élet lenne az? El tudunk képzelni olyan modellt, amelyben az efféle életnek értelmet tudunk adni?

Vajon választott képviselőink és politikai pártjaink képesek felülkerekedni ezeken a kihívásokon és megelőzni a sötétebb forgatókönyvek megvalósulását? Ez jelen pillanatban nem tűnik valószínűnek. A technológia potenciális veszélyei még csak nem is vezető elemei a politikai diskurzusnak. A 2016-os amerikai elnökválasztás során a technológia mint témafőként Hillary Clinton e-mail-botránya révén merült fel, míg a tömeges állásvesztésről szóló beszélgetések során egyik jelölt sem említette közvetlenül az automatizálás potenciális hatásait.Donald Trump arra figyelmeztette a szavazóit, hogy a mexikóiak elvehetik a munkájukat, ezért egy falat kell felhúzni Amerika déli határán. Arra sosem figyelmeztette a szavazókat, hogy az algoritmusok vehetik el a munkájukat, így azt sem javasolta, hogy építsenek egy tűzfalat Kalifornia köré.

De akkor mit is tehetünk?

Először is, sokkal nagyobb hangsúlyt kell fektetnünk az emberi agyműködésének megértésére – különös tekintettel arra, hogyan tudjuk fejleszteni saját bölcsességünket és együttérzésünket. Ha túl sokat fektetünk a mesterséges intelligencia fejlesztésébe és túl keveset az emberi elméébe, a legkifinomultabb mesterséges intelligenciával rendelkező számítógépek csak az ember természetes ostobaságának felhatalmazását szolgálhatják majd, és legrosszabb (de talán legerősebb) impulzusaink fogják táplálni, mint a kapzsiság és a gyűlölet. Ennek elkerülése érdekében minden MI-fejlesztésre szánt dollár és másodperc után bölcs dolog lenne ugyanennyi befektetése az emberi tudat feltárására és fejlesztésére.

Gyakorlatiasabban megfogalmazva: ha meg akarjuk akadályozni a gazdagság és a hatalom egy szűk elit kezében való koncentrálódását, muszáj lesz szabályoznunk az adatok tulajdonjogát. Az ősi időkben a föld volt a legfontosabb vagyontárgy, így a politika a föld ellenőrzéséért küzdött. A modern korban a gépek és a gyárak váltak a legfontosabb vagyontárgyakká, így a politikai küzdelmek a termelési eszközök kontrolljáért folytak. A 21. században az adat mind a föld, mind a gépek és gyárak fontosságát háttérbe szorította, így a politika feladata az adatáramlás kontrollálása lesz.

Sajnos nincs sok tapasztalatunk az adatok tulajdonjogának szabályozásában, ez természetesen sokkal nehezebb feladat, mint a föld vagy a gépek tulajdonjogának szabályozása.Az adat mindenhol és sehol sincs egyszerre, fénysebességgel tud mozogni, és annyi másolatot tudunk készíteni róla, amennyit csak akarunk. Vajon az én DNS-emről, az én agyműködésemről vagy saját életemről gyűjtött adatok rám, a kormányra, a vállalatokra vagy a teljes emberiségre tartoznak?

Az adatok felhalmozásáért folyó verseny már elkezdődött, és jelenleg olyan óriások vezetnek, mint a Google, a Facebookvagya kínai BaiduésTencent.Sok vállalat eddig a figyelmünk értékesítésével foglalkozott: ingyen információval, szolgáltatásokkal, szórakoztatással érdemelték ki a figyelmünket, majd ezt a figyelmet árusították tovább a hirdetőknek. Igazi tevékenységük mégsem a hirdetések, sokkal inkább a rólunk felhalmozott nagymennyiségű adat értékesítése. Így végső soron nem az ügyfeleik, hanem a termékeik vagyunk.

Átlagemberként nagyon nehéz ellenállni ennek a folyamatnak. Jelenleg sokunk adja el boldogan legértékesebb vagyontárgyát – a személyes adatait – ingyenes e-mail-szolgáltatásért és vicces macskás videókért cserébe. De ha a későbbiekben ezek az emberek úgy döntenének, hogy szeretnék megakadályozni a személyes adataik áramlását, lehetséges, hogy problémába fognak ütközni, mivel döntéshozataluk vagy akár az egészségügyi állapotuk fenntartása már a hálózat segítségétől függ.

Megoldásként szolgálhat az adatok kormányzati államosítása, ez minden bizonnyal meg tudná fékezni a nagyvállalatok növekvő hatalmát, bár a történelem azt sugallja, hogy ezzel nem kerülnének sokkal jobb kézbe az adataink. Így a legjobb az lenne, ha jobban felhívnánk tudósaink, filozófusaink, ügyvédjeink és akár költőink figyelmét arra a kérdésre, hogyan szabályozható az adatok tulajdonjoga.

Jelenleg az emberek azt kockáztatják, hogy hasonló sorsra jutnak, mint a háziasított állataink. Olyan teheneket tenyésztettünk, amelyek rengeteg tejet adnak, de egyébként alsóbbrendűek vad őseiknél. Kevésbé agilisak, kevésbé kíváncsiak, és kevésbé találékonyak. Most olyan szelíd embertípusokat hozunk létre, akik óriási mennyiségű adatot termelnek, és hatékony chipként működnek egy hatalmas adatfeldolgozó mechanizmusban, de aligha maximalizálják emberi potenciáljukat. Ha nem vagyunk óvatosak, a visszafejlesztett emberek rosszul fogják használni a felfejlesztett számítógépeket, ezzel pusztítást végezve saját magukon és az egész világon.

Ha ezek a kilátások riasztóak–ha ellenzed a digitális diktatúra vagy valami hasonlóan elfajzott társadalmi forma elképzelését –, akkor a legfontosabb hozzájárulásodként meg kell találnod a módját annak, hogy meg tudjuk akadályozni a sok adat kevés kézben való koncentrálódását, másrészt annak a módját, hogy hogyan lehet a megosztott adatfeldolgozás hatékonyabb, mint a centralizált.Ezek nem könnyű feladatok. De elérésük lehet a demokrácia védelmének legjobb eszköze.

 

Ez a cikk is érdekelhet

A hazugságoktól hitelesebbnek tűnnek a politikusok

A 2016-os elnökválasztás sem az őszinteség jegyében telt A Trump-pártiak többnyire nem vet…