Csak egy AI menthet meg minket

Az AI-nak pozitív hatása lehet a bolygónkra és az emberi létre, azonban megvan a kockázata is. Fontos, hogy mindezekkel legyünk tisztában az AI fejlesztésének során.

Az utóbbi hónapokban egyre több szó esik arról, hogy milyen alapvető veszélyeket rejt magában a mesterséges intelligencia, vagyis az A.I. E hangokat különösen felerősítette, hogy az OpenAI chat felületén mindenki első kézből szerezhetett benyomásokat arról, hogy milyen nyelvhasználati és kognitív kompetenciákkal rendelkeznek az önmagukat tanító algoritmusok.

vészjósló diagnózisok szerint mindez csupán egy töredéke annak, amire az exponenciálisan növekvő AI rendszerek néhány éven belül képessé válhatnak. A következmények beláthatatlanok. Az a legkevesebb, hogy a munkaerőpiacot és az oktatási rendszert gyökeresen felforgatják az új alkalmazások. Ennél egy fokkal aggasztóbb, hogy a gépi tanulás eszköztárával felruházott – kereskedelmi és politikai – manipulációs technikák hálózatában a valóság alapjai feloldódnak. E tendenciák jelei már évek óta érzékelhetőek. Ezeknél is aggasztóbb forgatókönyvek szerint a mesterséges intelligencia megszűnik – a potenciálisan rosszhiszemű – cselekvők puszta eszköze lenni. Figyelembe véve, hogy működése már most sem teljességgel átlátható, nem ok nélkül tekintenek rá kiszámíthatatlan és potenciálisan végzetes technológiaként, maguk a fejlesztők is.

Anélkül, hogy kétségbe vonnám megalapozottságukat, az alábbiakban mégsem e baljóslatú diagnózisok sorát szeretném gyarapítani. Ehelyett néhány háttérbe szoruló kérdésre fókuszálok: a modernizáció és technológiai fejlődés összefonódó történetéből kiindulva, azt vizsgálom meg, hogy mennyiben egyediek az AI által előidézett veszélyek; és ami legalább ilyen fontos, milyen modernizációs lehetőségeket rejtenek magukban ezek az új technológiák? E kérdéseket megválaszolandó, különböző perspektívákból – a racionalizálódás, a hibridizálódás, a hatékonyság értékének totalizálódása és az egzisztenciális kísérletezés felől – közelítek a mesterséges intelligencia problematikájához.

A modernitásra vonatkozó reflexiók a felvilágosodás kezdete óta kiemelt figyelmet fordítottak a racionalizálódás folyamatára. Bár a tudományos és technikai haladás ennek a legabsztraktabb kifejeződése, mellettük a modern kapitalista gazdaság vagy éppen a pozitív jognak alárendelt bürokrácia szintén a racionalizálódás nyomait viseli magán. Ezen átalakulások mögött egyaránt az az elképzelés állt, hogy a természet, a szubjektum és a társadalom szisztematikus megfigyelésével a legfontosabb oksági törvényszerűségek azonosíthatóak, és erre támaszkodva a világ kontrollálhatóvá válik.

A kifejlesztett új technológiák ilyenformán eleve a tudományos megismerés eredményein alapuló kontroll eszközeiként jönnek létre. Ez pedig rányomja bélyegét arra is, hogy működtetésük milyen nem szándékolt következményekkel jár. A technikának alávetett cselekvők egyszerre válnak a társadalmi alrendszerek tágabb összefüggésében „eszközzé” (vö. eldologiasodás), miközben a technológiák használóiként maguk is alkalmazzák és elsajátítják az eszközök által ígért hatékonyságot.

Ahogy a kontroll ígérete a technológiai fejlődéssel, egyre kézzelfoghatóbb bizonyítékokat nyer, a valóság hatékony uralásának szempontjait kizárólagossá tevő racionalitás is egyre dominánsabb szervezőelvévé válik a modern életnek. Az egyének – legalábbis az élet egyre tágabb területét megszervező alrendszereken belül – a kockázatokat és alternatív cselekvési pályákat szenvtelenül mérlegelő, érdekérvényesítő automatákká válnak. E keretek között a társas kötelékek stratégiai játszmákká lesznek, a társadalmi intézmények pedig a rendszerek funkcionális szempontjait érvényesítő elidegenedett struktúrákká.

A mesterséges intelligencia megjelenése első megközelítésen ebbe a tágabb történetbe ágyazódik be, amennyiben az instrumentális-funkcionális racionalizálódás egy új fokát fejezi ki. Az emberi racionalitás korlátait meghaladó számítási potenciál végső soron a természeti és társadalmi világ korábban nem látott fokú kontrollálásának lehetőségét hordozza magában. Ennyiben az AI felbukkanása egyszerre illeszkedik egy jól ismert történet kontextusába, melyben mégis új fejezetet nyit.

Minden új technika megjelenése magával von az esetleges következmények miatti aggodalmakat, így azt gondolhatnánk, nincs ez másként az AI esetében sem. Jelen helyzet különlegességét mégis az adja, hogy ez az új technika elmossa azt az alapvető megkülönböztetést, ami korábban magának a technológia használatának az igazolási alapját nyújtotta: a szubjektum és az eszköz közötti esszenciális és hierarchikus viszonyt.

A technológiával szembeni legalapvetőbb elvárás, hogy magát az eszközt teljes mértékben kontrollálja a használója, vagyis annak ne legyen saját akarata, minden esetben a cselekvő szándékait kövesse. További elvárás, hogy a világ felett gyakorolt uralom hatékonyságának növeléséhez hozzásegítse a szubjektumot. Belátható, hogy e két követelmény minden technológiát belső feszültséggel terhel meg. Minél merevebb egy adott eszköz (vagyis minél kevésbé rendelkezik saját akarattal), annál szűkebb peremfeltételek mellett alkalmazható. És minél rugalmasabb egy eszköz (vagyis minél nagyobb a saját mozgástere), annál többféle körülményhez tud alkalmazkodni.

Ebből a perspektívából nézve egy kalapács és az AI a skála két végpontján helyezkedik el. Az előbbi funkcionálisan rugalmatlan, viszont maximálisan kontrollálható, utóbbi rugalmas a feladatok tekintetében, viszont minimálisan kontrollálható. Valójában a legtöbb technológia e két extrém példa által kijelölt skálán helyezhető el. Ezért érvel úgy a technológiát antropológiai perspektívából vizsgáló Latour, hogy szubjektum és eszköz közötti látszólag esszenciális megkülönböztetés valójában mindig is illuzórikus volt. Ezek olyan hálózatokba rendeződnek, melyeken belül hibrid szubjektum-objektum konfigurációk végzik ténylegesen a cselekvést, elmosva a humán és nem-humán elemek közti határokat.

A mesterséges intelligencia megjelenése második megközelítésben ebbe a tágabb történetbe ágyazódik be, amennyiben az ember-technológia hibridek egy olyan határállapotára utal, amiben az utóbbi válik dominánssá. Ahhoz, hogy az ember ilyen drasztikus mértékben veszélyeztetve érezze dominanciáját egy sajátos privilégiumának megingása járul hozzá. Ez pedig nem más, mint a tudatot és nyelvet egyaránt magában foglaló „értelmi rendszerek” működtetésének kiváltsága.

Luhmann megfogalmazása szerint, az értelmi rendszerek sajátossága abban áll (szemben például a biológiai rendszerekkel), hogy egy aktuálisan nem létező, vagyis jelen nem lévő entitással képesek műveleteket végezni. Ez a forrása mindazoknak a képességeknek, amiket az ember specifikumának szokás tartani: a képzelőerőnek (egy aktuálisan nem létező dolog felmutatása), az önreflexiónak (egy külső nézőpont alkalmazása), a kommunikációnak (egy másik nyelvhasználónak tulajdonított értelmezések alakítása és hozzájuk való igazodás), a beleérző-képességnek (közvetlenül nem hozzáférhető érzelmek tulajdonítása egy másik rendszernek), a kritikának (a fennálló lehetséges felőli megértése) vagy éppen a humornak (a fennálló rend öncélú kifordítása).

Azt nehéz megítélni, hogy akár ma, akár a jövőben e képességekkel mennyiben fog rendelkezni a mesterséges intelligencia. Bizonyos értelemben már a korai kibernetikai rendszerek is értelmi rendszerként működtek, még ha a bináris számítási folyamataik egy rendkívül szűk pályán mozogtak is. Mára ez a pálya kitágult, olyannyira, hogy immár a komplex értelmi funkciókat is hitelesen reprodukálják a számítógépes rendszerek. Létre tudnak hozni nem létező alkotásokat, tudják értékelni önmagukat, az emberhez hasonló szinten tudnak kommunikálni (az empátia, humor és kritika képessége talán kérdésesebb).

Ilyenformán úgy tűnik, hogy a tudathoz és a társadalmi rendszerekhez hasonlóan az AI is kimeríti az értelmi rendszerek kritériumait. Ezen a ponton egy korábban nem látott kihívássá válik: nem is annyira praktikus, mint inkább egzisztenciális szinten. Egy olyan riválisként jelenik meg, ami tudhatja mindazt, amit az ember, ráadásul az embernél hatékonyabban. Első látásra úgy tűnik, hogy ami igazán nyugtalanító ebben a lehetőségben az az emberhez hasonló nem-ember felbukkanása. De talán ennél is fontosabb az a kitétel, hogy ez a nem-ember hatékonyabb lehet az embernél. A modern szubjektum neuralgikus pontjára tapint rá ez a lehetőség, hiszen a maga nyers mivoltában szembesít a modernitás beszűkült értékrendjével: ha egyszer a modern ember létezésének célja a világ minél teljesebb uralása, akkor mi hozható fel védelmében, amikor egy önmagánál hatékonyabb képmásával találkozik?

Fontos hangsúlyozni, hogy e félelem mögött specifikusan a modernitás elhallgatott tabui állnak. A modern ember az, aki a dolgok értékét a kontroll hatékonyságával méri, aki értéktelennek, eldobhatónak, megsemmisíthetőnek tekinti mindazt, ami nem elég hatékony. És a modern ember az, aki a hatékonyság kizárólagos szempontjai szerint szerveződő technikai racionalitás amoralitását érvényesíti. A gyarmatosítás évszázadai, a fajelméleti alapon nyugvó genocídiumok és a nácizmus egyaránt azt példázza, hogy hová vezethet a hatékonysággal azonosított felsőbbrendűség abszolutizálása – igaz nem az ember-eszköz, hanem az ember-ember viszonylatában.

Mindehhez ráadásul nincs is szükség mesterséges intelligenciára. A modern ember ezt az elvet maga érvényesítette a múltban, amikor a feleslegesnek minősített embertársainak megsemmisítésére tört. És maga érvényesíti a jelenben is, amikor a globális egyenlőtlenségi láncok mentén zajló kizsákmányolás közvetett mechanizmusain keresztül újratermeli a társadalmi szenvedés extrém formáit. Ráadásul nem pusztán egyes csoportokat, hanem az emberiség egészét veszélyeztetve: ahogy azt az emberi tevékenységtől elválaszthatatlan klímakatasztrófa vagy épp a nukleáris katasztrófák veszélye jelzik, a civilizáció vagy éppen az emberi faj kipusztulásához sincs szükség AI-ra.

Ennyiben a mesterséges intelligenciával kapcsolatos legnagyobb félelmeink között nincs semmi olyan, amit valójában mi magunk már ne tettünk volna meg egymással eddig is, és ne tennénk meg újra. Úgy, hogy minderről tudomásunk van, és látjuk morális elfogadhatatlanságát. Az AI felbukkanása ennyiben a modernitás rossz lelkiismeretének érzékeny pontjára tapint rá. Kérdésessé teszi az amoralitás – hatékonyság elveivel igazolt – rendszereit: azáltal, hogy egy olyan összehasonlítási horizontot villant fel, amiben nem csupán egyes társadalmi csoportok, hanem az emberiség egésze mutatkozik kevésbé hatékonynak, ennyiben feleslegesnek és eldobhatónak, valójában arra világít rá, hogy a technikai-instrumentális racionalizálódás kizárólagossá válásával az embertelenség rendszerei normalizálódtak.

A mesterséges intelligencia megjelenése harmadik megközelítésben ebbe a tágabb történetbe ágyazódik be, amennyiben leleplezi a technikai racionalitás rendszerszinten gyakorolt, egyúttal elfedett amoralitását. Amennyiben a technológiai hálózatainkban megjelenik egy olyan eszköz, ami hozzánk hasonló értelmes, ugyanakkor amihez képest lassúbbak és butábbak vagyunk, úgy – saját magunk hatékonyságot fetisizáló amoralitása miatt – nincs mit mondanunk arra, hogy miért nincs joga kegyetlenül bánnia velünk, vagy akár eliminálni minket. A közöny és kiszolgáltatottság már most is sokak alaptapasztalata, az AI megjelenése ezen legfeljebb annyit változtat, hogy az extrém társadalmi szenvedést általános – ily módon az eddig privilegizált pozícióban lévők számára is reális – lehetőségként villantja fel.

A mesterséges intelligencia értékkritikájára csak annyiban van mód, ha a hatékonyságra törekvő racionalitáson kívül, valamilyen esszenciális értéket tudunk tulajdonítani az emberi létezésnek. Az utolsó időszak, amikor egy ilyen transzcendentális érték általános szinten határozta meg a társadalom szerveződését, a nyugati világban a keresztény középkor volt, melynek szekularizálásával vette kezdetét a modernitás. Éppen ezért logikusnak tűnhet, egy ilyen értelemben vett transzcendentális értékhez való visszanyúlás. Heidegger, egy 1966-os interjújában a technika emberi létezés alapstruktúráit fenyegető expanziójára utalva, a transzcendentális horizont újbóli megnyitását, vagyis a létezőhöz, a világhoz való modern viszonyunk újragondolását jelöli meg célként. Az ő szavaival: „csak egy isten menthet meg minket”.

Arra utal, hogy az „isteni” perspektívájának újbóli megnyitásával lehet kiszabadulni a technikai racionalitásra szűkített modern lét zsákutcájából. Nem mellékes azonban, hogy egy ilyenformán „regresszív” stratégia sajátos veszélyeket hordoz magában. Ráadásul olyanokat, melyek a náci rendszerbe metafizikai potenciált belelátó Heidegger számára is végzetesnek bizonyultak (ahogy ezzel kapcsolatban – kétes sikerrel – maga is kénytelen volt magyarázkodni, ugyanebben az interjúban). A modernitás keretei között, a hatékonyság alteratívájaként felkínált regresszív  értékek egyúttal a totalitarizmusok számára is utat nyitnak.

A morális kockázatok mellett, szociológiai szempontból, belátható a regresszív értékek irrealitása is. Azt már Weber is világosan leírta, hogy a kapitalizmus önjáró gépezetté vált: onnantól kezdve, hogy kényszerstruktúraként kezd működni, minden cselekvő alkalmazkodni kénytelen logikájához. A rendszerelmélet perspektívájából világos továbbá az is, hogy a modernizáció pályáján nem vezet visszafele út: csupán az adaptívabb, differenciáltabb struktúrák felé. Ennyiben nincs más alternatíva (hacsak a modernitás kataklizmaszerű összeomlását nem tekintjük annak), mint előre menekülni. A mesterséges intelligencia megjelenése negyedik megközelítésben ebbe a tágabb történetbe ágyazódik be, amennyiben felvillantja a modernizáció tovább vezető új pályáját.

A modernitás paradox pályán halad, melynek forrása a hatékonyság és korlátlan növekedés technikai értelemben racionális, ám más szempontból fenntarthatatlan logikájának expanziója. Praktikus szinten a paradoxonok mélyén az áll, hogy a modernitás által a nemzetállamok keretei között kifejlesztett visszacsatolási mechanizmusok (pl. demokratikus intézményi kontroll), a globális típusú problémák esetében képtelenek feladatuk betöltésére (pl. korlátozott a globális nyilvánosság és a globális fékek és ellensúlyok rendszere). A globális kapitalizmus anomáliáit nem tudják a nemzetállamok kezelni, ahogy a globális klímakatasztrófa, egyenlőtlenségek és migráció következményeit sem. Pláne úgy, hogy a politikai döntéshozatal visszacsatolási terei (pl. racionális nyilvánosság) is beszűkültek.

Minthogy egy új közös értelem (egy Heidegger által várt új „isten”) irányába nem mutat tovább az út, marad a – decivilizációs összeomlás mellett – egyedüli alternatívaként kínálkozó hibridizáció folytatása. Ezen a ponton döntő kérdéssé válik, hogy milyen irányt próbálunk szabni e folyamatnak. Maga a hibridizáció nem kell, hogy bárkit is elriasszon, hiszen már régóta zajló folyamat. A modernitás társadalmi alrendszerei eleve humán és nem-humán elemek összefonódásából létrejött hálózatokba szerveződtek. A mai ember eleve hibrid, amennyiben világhoz való legelemibb viszonyulásának szintjén – így a percepció, a kommunikáció vagy éppen az érzelmek stimulálása vonatkozásában – technikai eszközökkel össze van fonódva.

Az is belátható, hogy a fennálló rendszerek paradoxonjaira csak egy gyökeresen új integrációs logika kínálhat megoldást. Hasonlóképpen ahhoz, ahogy a válságba jutott késő középkorban az absztrakt, kiágyazódott piaci és bürokratikus rendszerek ellensúlyozták a kollektív vallási tudat széttöredezésének folyamatát, ezúttal a paradoxonok által feszített rendszerek dezintegrációs hatását is csak új mechanizmusok lehetnek képesek ellensúlyozni. Minthogy a nemzetállami keretek között szerveződő szakértői intézmények nem képesek erre, így csakis az segíthet, ha beljebb ereszkedünk a hibridizáció folyamatába.

Bár semmi sem garantálja ennek sikerét, mégis gondolhatunk úgy a mesterséges intelligenciára, mint ami magában rejti a társadalmi integráció paradigmaváltásának lehetőségét. Még ha nem is tudjuk pontosan miként, de legalábbis elképzelhető, hogy ott, ahol az individuális és még inkább a kollektív emberi racionalitás csődöt mondani látszik (pl. önpusztító egyéni viselkedésmintázatok ill. rendszerdinamikák fenntartása), talán a mesterséges intelligencia eredményeket érhet el. Legyen szó akár a digitális populizmus kihívásairól, akár a globális igazságossági döntésekről, vagy éppen a klímakatasztrófa elleni küzdelemről – elképzelhetők olyan megoldások, melyek az eddiginél sokkal célzottabb koordinációs mechanizmusokra támaszkodva, változást hozhatnak.

Ehhez jó eséllyel fel kell adnunk a mostani életformánk bizonyos elemeit – köztük olyanokat is, melyeket ma még nélkülözhetetlennek tartunk. Mindez azonban csak akkor tűnik „túl nagy” árnak, ha nem vesszük figyelembe, mennyire előrehaladottak már most is a hibridizációnak azok a formái, melyek elsősorban piaci logikán alapulva számolják fel az autonóm emberi lét alapjait. Ezek tipikusan azok a függőség formáját öltő digitális tevékenységek, melyek a hirdetési piac kívánalmai szerint terelik és ejtik csapdába a fogyasztóvá redukált szubjektumok figyelmét.

Ezen a ponton fontos észrevenni, hogy a mesterséges intelligenciával átszőtt szubjektumok nem csak a piac szempontjai szerint szerveződhetnek. Az is elképzelhető, hogy emancipatórikus szempontok határozzák meg az információs csatornákon közvetített tartalmakat – adott esetben magát a technológiai függőséget is kordába szorítva. Persze ehhez, tudnunk kell, mi az, ami megőrzésre érdemes az emberi létezésből, más szóval mi az, amiért érdemes embernek maradni. A mesterséges intelligencia felbukkanása egy lehetőség arra, hogy ne valamiféle transzcendentális-dogmatikus választ adjunk erre a kérdésre (ahogy azt a heideggeri regresszív stratégia is implikálja).

Ma mindannyian első kézből szerzünk tapasztalatokat arról, hogy mik a hibridizáció számunkra élhető és élhetetlen formái. Látjuk, hogy mivel jár, ha feloldódunk a virtuális térben, és azt is, hogy mi az ára annak, ha pusztán a hatékonyság racionalitására fűzzük fel az életünket: egy értelemvesztett, kiüresedett egzisztencia. Azonban épp ez a tapasztalat mutatja meg azt is, hogy nem szükségszerű a feloldódás, sem a modern rendszerek funkcionális értékrendjében, sem pedig az általuk működtetett technológiai térben (így az AI információs hálózataiban). Mindig van lehetőség alakítani a hibridizálódás kereteit, igaz csak akkor, ha egyúttal a makrostruktúrákat is formáljuk – amennyiben másképp nem megy, hát első lépésben úgy, hogy fokozatosan visszabontjuk őket.

Visszatérve kiinduló kérdésünkhöz, elmondható, hogy a mesterséges intelligencia megjelenése egyszerre teljesíti be az instrumentális racionalitás ígéretét (növelve a világ feletti kontrollt), folytat már megkezdett individuális és társadalmi változásokat (szubjektum-eszköz hibridizáció), és növeli új szintre az abból fakadó veszélyeket (hatékonyság abszolutizálásának amoralitása). Eközben egyszerre kínál lehetőséget arra, hogy a modernizáció megoldatlan paradoxonjait új eszközökkel kezeljük (alternatív integrációs mechanizmusok) és arra, hogy reflektáljunk a hatékonyságra redukált értékrend alternatíváira. Ilyenformán, miközben igaz az, hogy az AI új veszélyeket generál, legalább annyira fontos az is, hogy ezek nagyrésze már régóta velünk élő potenciál (ráadásul ezek közül nem egyet az ember maga realizált és realizál). És legalább ilyen fontos az is, hogy az AI egyszerre lehetőség a modernizációs paradoxonok megoldására és az emberhez méltó egzisztencia mibenlétére vonatkozó kérdés feltételére. Nem absztrakt diszkurzív szinten, hanem a technológiai hálózatokba való bevonódás hétköznapi tapasztalatainak sorozatában.

A mesterséges intelligencia különböző kifejeződéseit használva különösen élesen vetülnek fel az érdemes emberi cselekvésre vonatkozó kérdések. Vajon egy gépi algoritmussal való sakkozás ugyanaz az élmény-e, mint egy humán ellenfél elleni játszma? Vajon egy algoritmus által létrehozott művészeti alkotás különbözik-e lényegileg egy emberi alkotástól? Vajon az emberi beszédet tökéletesen imitáló chatbot-tal való beszélgetés, ugyanazt tudja-e nyújtani, mint egy másik emberrel folytatott interakció? Vajon a különböző virtuális világok gondozása ugyanolyan értelemteli, mint a materiális világ belakása? Megannyi hibrid cselekvéshelyzet, ami a hétköznapi élet szintjén teszi kérdésessé saját létünk alapértékeit, nekünk szegezve a kérdést: miben áll az emberhez méltó lét?

Kikísérletezve azt, hogy mi az, ami nélkülözhetetlen a létezésünk számára, egy – legalább részben – emancipatórikus mesterséges intelligencia válhat hozzáférhetővé. A funkcionális-instrumentális racionalizálódás halad előre saját lendülete által kijelölt pályán. Ebből nem vezet visszafele út, csak a totalitarizmusok irányába. Előre viszont csak akkor menekülhetünk, ha újra fel tudjuk fedezni azokat az emberi értékeket, melyeket a hatékonyság-maximalizálás közben elfeledtünk, és meg is tudjuk menteni ezeket a hibridizálódás során. A technika ilyen értelemben vett emancipálásának és demokratizálásának sikerére persze nincs semmilyen biztosíték. Ettől függetlenül kevéssé látszik, hogy milyen alternatív út kecsegtetne több sikerrel: tekintettel a modernizáció megoldatlan és – jelen integrációs mechanizmusok keretei között alighanem – megoldhatatlan paradoxonjaira, civilizációs szempontból így is úgy is törékeny korban élünk. Ha nem akarunk sodródni, kénytelenek vagyunk kockáztatni.

Az instrumentális racionalizálódás következményeként kialakult mesterséges intelligencia csak akkor jelent az emberi identitásra veszélyt, ha elfogadjuk a modernizáció hatékonyságra szűkült morális rendjét, ha csak annyi értelmet tudunk adni az életnek, hogy uraljuk a világot és a másikat. Egy ilyen felállásban a technológiai rendszerek és az AI ellen szükségszerűen veszítünk: hiszen az előbb-utóbb nálunk hatékonyabban fogja uralni a világot és benne minket is. Arra azonban semmi sem determinál minket, hogy beleragadjunk a hatékonyság amoralitásába: ha találunk olyan értéket és értelmet, ami az emberhez méltó élet alapja lehet, akkor máris átrendeződik a kép. A nálunk hatékonyabb AI nem vonja kétségbe az emberi lét értékét, hanem megmarad annak kiegészítő technológiájaként. Egy olyan eszköz lesz, amit nem korlátlanul – a minél nagyobb kontrollkapacitás öncélja által vezérelve – használunk, hanem csak addig és oly módon, amennyiben céljainkat szolgálja.

Arról, hogy mi lehet ilyen érték, persze nem könnyű pontos fogalmat alkotni. Mégsem mondható, hogy teljesen a sötétben kellene tapogatóznunk. Ha ennek részletei sokféleképpen írhatóak is le, az mégis egy közös pont, hogy saját létünknek értelmet csak a másik adhat: azáltal, hogy elismer értékként, vagyis embernek, arcnak tekint. Éppen ezért az emberhez méltó létezéstől elválaszthatatlan a személyközi viszonyok tereinek „művelése”, vagyis az azon való munkálkodás, hogy ne csak mi magunk, hanem mások is méltóságteli életet élhessenek. E munkálkodás közben, és mások hasonló munkálkodása következtében nyerhetünk mi magunk is értelmet. A másikért élt élet az értelem egy olyan dimenziója, ami túlmutat az instrumentális racionalitáson – sőt, Lévinas elképzelése szerint valójában az értelem és a nyelv is ebből a késztetésből nő ki.

E potenciált már jóval az AI megjelenése előtt veszélybe sodorta a modernizáció. Ezt kell visszaszerezni ahhoz, hogy ne váljunk az instrumentális racionalizálódás rajtunk túlnövő hálózatainak eldologiasodott eszközeivé. Ha sikerül a mesterséges intelligenciát e morális elvek szerint konfigurálni, akár az is elképzelhető, hogy az egyre pusztítóbb modernizációs paradoxonok hálójából sikerül kiszabadulni. Ha nem, akkor talán mellékes is, hogy a civilizáció összeomlásában kulcsszerep jut-e az AI-nak. Ebből a perspektívából nyer értelmet a parafrázis: annak ellenére, hogy semmilyen biztosítéka nincs annak, hogy meg is fog, mégis könnyen meglehet, hogy végül „csak egy AI menthet meg minket”.

 


Source URL: https://szuveren.hu/tarsadalom/csak-egy-ai-menthet-meg-minket

List of links present in page