Pope Francis

1. A tudomány és a technológia fejlődése mint a békére vezető út

A Szentírás tanúsága szerint Isten a Lelkét adta az embereknek, hogy „hozzáértéssel, okossággal, tudással és minden munkára alkalmas ügyességgel” (Kiv 35,31) töltse el őket. Az intelligencia a Teremtő adta méltóság megnyilvánulása, aki a maga képére és hasonlatosságára teremtett minket (vö. 1Móz 1,26) és képessé tett arra, hogy szabadon és tudatosan válaszoljunk az Ő szeretetére. A tudomány és a technológia különleges módon tanúskodik az emberi intelligenciának erről az alapvetően kapcsolati természetéről: ezek az emberi intelligencia teremtő erejének nagyszerű eredményei.

A II. Vatikáni Zsinat a Gaudium et spes kezdetű lelkipásztori konstitúcióban megerősítette ezt az igazságot, amikor kijelentette: „Az ember mindig törekedett arra, hogy munkájával és tehetségével minél gazdagabban bontakoztassa ki életét”. Amikor az emberek „technikai eszközökkel” arra törekednek, hogy a föld „az egyetemes emberi család méltó lakóhelyévé váljék”, akkor Isten terve szerint és az Ő akaratával együttműködve cselekszenek a teremtés beteljesedése és a népek közötti béke terjedése érdekében. A tudomány és a technika fejlődése, amennyiben az emberi társadalom jobb megszervezéséhez, a szabadság növekedéséhez és a testvéri közösség épüléséhez hozzájárul, az ember jobbá tételéhez és a világ átalakításához is vezet.

Joggal örülünk a tudomány és a technológia rendkívüli eredményeinek és vagyunk hálásak azért, hogy számtalan, az emberi életet sújtó és nagy szenvedést okozó baj orvoslásra került. Ugyanakkor a tudományos és technológiai fejlődés, amellyel az ember eddig sosem tapasztalt mértékű kontrollt gyakorolhat a világ fölött, a lehetőségek sokaságát adja a kezünkbe, köztük néhány olyat is, amely veszélyt jelenthet az emberiség túlélésére és a közös otthonra.

Ennek megfelelően az új információs technológiák figyelemre méltó fejlődése – különösen a digitális téren – elképesztő lehetőségeket és komoly kockázatokat rejt magában, amelyek súlyos következményekkel járnak a népek közötti igazságosságra és harmóniára irányuló törekvés területén is. Sürgető kérdések merülnek fel, amelyeket fel kell tennünk: milyen közép- és hosszútávú hatásaik lehetnek az új digitális technológiáknak? Milyen hatással lesznek az egyének és a társadalom életére, a nemzetközi stabilitásra és békére?

2. A mesterséges intelligencia jövője: ígéretek és kockázatok között

Az információs és digitális technológiák elmúlt évtizedekben tapasztalt fejlődése máris mélyreható változásokat eredményezett a globális társadalomban és annak működésében. Az új digitális eszközök átformálják a kommunikáció, a közigazgatás, az oktatás, a fogyasztás, a személyes interakciók mintáit és a mindennapi élet számtalan más szegmensét.

Emellett a különböző algoritmusokat alkalmazó technológiák adatokat tudnak kinyerni az internetes tevékenység nyomaiból, lehetővé téve, hogy az emberek gondolkodását, szokásait és kapcsolatait – gyakran tudtuk nélkül – kereskedelmi vagy politikai célok szerint ellenőrizzék, korlátozva ezzel a választás szabadságának tudatos gyakorlását. Egy, az információáradat jellemezte térben, mint amilyen az internet, az adatáramlást különböző kiválasztási kritériumok szerint strukturálhatják, amit a felhasználó nem mindig érzékel.

Nem szabad megfeledkeznünk arról sem, hogy a tudományos kutatás és a technológiai innovációk nem a valóságtól távoli és „semleges” dolgok, hanem ki vannak téve a kulturális hatások befolyásának. Amennyiben teljes mértékben emberi tevékenységek, irányuk az adott korszak személyes, társadalmi és kulturális értékei által meghatározott döntéseket tükrözi. Ugyanez vonatkozik az eredményeikre is: éppen azért, mert a körülöttük lévő világgal való sajátosan emberi viszonyból születnek, mindig erkölcsi dimenzióval is bírnak, amely szorosan kapcsolódik a kísérleteket végző és a termelés célját meghatározó személyek döntéseihez.

Ez a mesterséges intelligencia formáira is érvényes. A mesterséges intelligenciára napjainkig még nem született egységes definíció a tudomány és a technológia világában. Maga a kifejezés, amely mostanra már a köznyelvbe is bekerült, számos olyan tudományt, elméletet és technikát jelöl, amelyek azt tűzték ki célul, hogy a gépek az emberek kognitív képességeit reprodukálják vagy utánozzák működésükben. Ha többesszámban beszélünk az „intelligencia formáiról”, akkor mindenekelőtt azt hangsúlyozzuk, hogy áthidalhatatlan szakadék van e rendszerek – bármilyen csodálatosak és erősek is legyenek – és az ember között: végső soron „töredékesek” maradnak abban az értelemben, hogy az emberi intelligenciának csak bizonyos funkcióit képesek utánozni vagy reprodukálni. A többesszám használata azt is aláhúzza, hogy ezeket a nagyon különböző eszközöket mindig „társadalmi-technikai rendszernek” kell tekinteni. Hatásuk ugyanis – függetlenül a mögöttes technológiától – nemcsak a technikai jellemzőiktől függ, hanem tulajdonosaik és fejlesztőik céljaitól és érdekeitől, valamint attól, hogy milyen helyzetekben használják őket.

A mesterséges intelligenciát különböző valóságok galaxisaként kell tehát értelmezni, és nem indulhatunk ki eleve abból, hogy fejlődése jótékonyan fog hozzájárulni az emberiség jövőjéhez és a népek közötti békéhez. Az ilyen pozitív kimenetel csak akkor lehetséges, ha képesnek bizonyulunk felelősségteljesen cselekedni és tiszteletben tartani az olyan alapvető emberi értékeket, mint „a befogadás, az átláthatóság, a biztonság, az igazságosság, a titoktartás és a megbízhatóság”.

Az sem elegendő, ha feltételezzük, hogy az algoritmusok és digitális technológiák minden fejlesztője elkötelezett az etikus és felelősségteljes magatartás iránt. Meg kell erősíteni vagy adott esetben létre kell hozni olyan szervezeteket, amelyek a felmerülő etikai kérdésekkel foglalkoznak és védik mindazok jogait, akik a mesterséges intelligenciát használják vagy akikre az hatással van.

A technológia mérhetetlen terjedésének együtt kell ezért járnia a fejlesztésért való felelősség megfelelő oktatásával. A szabadság és a békés együttélés veszélybe kerül, ha az emberek engednek az önzés, az önérdek, a nyereségvágy és a hatalomvágy kísértésének. Kötelességünk, hogy kiszélesítsük a perspektívánkat és hogy a műszaki és tudományos kutatást az ember és a közösség integrált fejlődésének szolgálatában a béke és a közjó keresésének irányába fordítsuk.

Az ember belső méltóságának és az egyetlen emberi család tagjaiként minket összekötő testvériségnek kell alapul szolgálnia az új technológiák fejlesztéséhez és vitathatatlan kritériumul használatba vételéhez, hogy a digitális fejlődés az igazságosság tiszteletben tartásával és a béke ügyének előmozdításával történhessen. Az olyan technológiai fejlesztések, amelyek nem az egész emberiség életminőségének javulásához vezetnek, hanem éppen ellenkezőleg, súlyosbítják az egyenlőtlenségeket és a konfliktusokat, soha nem tekinthetők valódi fejlődés elemeinek.

A mesterséges intelligencia egyre fontosabbá válik. A vele járó kihívások részben technikai, ugyanakkor antropológiai, oktatási, társadalmi és politikai jellegűek is. Azt ígéri többek között, hogy megspórolhatjuk vele a munkát, hatékonyabbá teszi a termelést, egyszerűbbé a közlekedést és dinamikusabbá a piacokat, valamint forradalmasítja az adatgyűjtést, -szervezést és -ellenőrzést. Tudatában kell lennünk a most zajló gyors változásoknak és úgy bánnunk velük, hogy tiszteletben tartsuk az alapvető emberi jogokat, valamint az átfogó emberi fejlődést elősegítő intézményeket és törvényeket. A mesterséges intelligenciának a legjobb emberi potenciált és a legmagasabb szintű törekvéseinket szolgálnia kell, nem pedig versenyeznie velük.

3. A jövő technológiája: maguktól tanuló gépek

A gépi tanulási technikákon alapuló mesterséges intelligencia bizonyára még gyerekcipőben jár, de számos formájában már most is jelentős változásokat okoz a társadalom szövetében és mélyreható befolyással van a kultúrákra, a társadalmi viselkedésre és a béke megteremtésére.

A gépi tanulás vagy a mélytanulás (deep learning) fejlesztése olyan kérdéseket vet fel, amelyek túlmutatnak a technológia és a mérnöki tudományok területén, és ahhoz a gondolatkörhöz kapcsolódnak, amely szorosan összefügg az emberi élet értelmével, a tudás alapvető folyamataival és az elme azon képességével, hogy eljusson az igazsághoz.

Az, hogy egyes eszközök például képesek szintaktikailag és szemantikailag koherens szövegek előállítására, nem jelent garanciát arra, hogy megbízhatóak is. Azt mondják, hogy képesek „hallucinálni”, azaz olyan állításokat generálni, amelyek első pillantásra hihetőek, de valójában alaptalanok vagy előítéleteket erősítenek. Ez komoly problémát jelent, ha a mesterséges intelligenciát dezinformációs kampányokhoz alkalmazzák, a használatával álhíreket terjesztenek, ami a médiával szembeni bizalmatlanság növekedéséhez vezet. Az adatvédelem, az adatbirtoklás és a szellemi tulajdon néhány további terület, ahol a szóban forgó technológiák komoly kockázatot jelentenek, nem beszélve a visszaélésszerű használat egyéb negatív következményeiről, mint például a diszkrimináció, a beavatkozás a választási folyamatokba, a mindenkit megfigyelő és kontrolláló társadalom kialakulása, a digitális marginalizáció és a közösségtől egyre inkább elszakító individualizmus erősödése. Mindezek a tényezők magukban hordozzák a konfliktusok szításának és a béke akadályozásának kockázatát.

4. A határok érzékelése a technokrata paradigmában

Világunk túl nagy, változatos és összetett ahhoz, hogy teljes mértékben megértsük és rendszerezzük. Az emberi elme soha nem lesz képes kimeríteni a gazdagságát, még a legfejlettebb algoritmusok segítségével sem. Azok ugyanis a jövőre vonatkozóan nem megbízható előrejelzéseket adnak, csupán statisztikai közelítéseket. Nem lehet mindent megjósolni, nem lehet mindent kiszámítani; végső soron „a valóság [...]az eszme felett áll”, és bármilyen nagy legyen is a számítási kapacitásunk, mindig marad egy rész, amelyet nem érhetünk el, amely ellenáll minden számszerűsítési kísérletnek.

Továbbá a mesterséges intelligencia által elemzett adatok nagy mennyisége önmagában még nem garantálja a pártatlanságot. Amikor az algoritmusok az információkból következtetéseket vonnak le, mindig fennáll a veszélye, hogy torzítanak és így reprodukálják annak a környezetnek az igazságtalanságait és előítéleteit, amelyből az információk származnak. Minél gyorsabbá és bonyolultabbá válnak, annál nehezebb megérteni, hogy miért is adtak egy bizonyos eredményt.

Az „intelligens” gépek végezhetik ugyan egyre nagyobb hatékonysággal a rájuk bízott feladatokat, működésük célját és értelmét továbbra is az emberek fogják meghatározni vagy jóváhagyni, akiknek megvan a saját értékrendszerük. Fennáll a veszély, hogy az egyes döntéseket meghatározó kritériumok homályosabbá válnak, hogy a döntésekért való felelősségvállalás eltompul és a fejlesztők kibújnak a közjó érdekében való cselekvés kötelezettsége alól. Bizonyos mértékig ennek a folyamatnak kedvez a technokrata rendszer, amely a gazdaságot a technológiához köti, a hatékonyságot tekinti prioritásnak és hajlamos figyelmen kívül hagyni mindent, ami nem kapcsolódik a közvetlen érdekeihez.

Ez arra kell, hogy indítson bennünket, hogy elgondolkodjunk egy olyan szemponton, amelyet a mai technokrata és hatékonyságorientált mentalitás igen gyakran elhanyagol, pedig kulcsfontosságú a személyes és társadalmi fejlődés szempontjából: a „határok érzékelésén”. Ha az ember, aki természete szerint halandó, azt hiszi, hogy a technológia segítségével ledönthet minden korlátot, akkor azt kockáztatja, hogy a kontroll megszállott keresésében végül elveszíti az uralmat önmaga fölött; az abszolút szabadság keresésében pedig a technológiai diktatúra örvényébe kerül. Ahhoz, hogy az ember elérje, sőt, ajándékként fogadja el a teljességet, elengedhetetlen a saját teremtményi korlátainak felismerése és elfogadása. Ezzel szemben a technokrata paradigma ideológiai kontextusában, amelyet az önellátás prométheuszi gondolata inspirál, az egyenlőtlenségek aránytalanná növekedhetnek, a tudás és a gazdagság pedig kevesek kezében halmozódhat fel, ami komolyan veszélyezteti a demokratikus társadalmakat és a békés együttélést.

5. Égető erkölcsi kérdések

A jövőben mesterségesintelligencia-rendszerek határozhatják meg például egy hiteligénylő megbízhatóságát, egy álláskereső alkalmasságát valamely pozícióra, egy elítélt bűnismétlésének valószínűségét vagy a politikai menedékjogra vagy a szociális segélyre való jogosultságot. Ezek a rendszerek a közvetítés különböző szintjeinek hiányától – ami a sajátosságuk – különösen hajlamossá válnak az előítéletekre és a diszkrimináció formáira: a rendszerszintű hibák könnyen megsokszorozódhatnak, így nemcsak egyes egyedi esetek igazságtalan megoldásához vezethetnek, hanem a dominóhatás révén a társadalmi egyenlőtlenség valódi formáihoz is.

Időnként úgy tűnik továbbá, hogy a mesterséges intelligencia formái képesek befolyásolni az egyének választásait előre meghatározott, ösztönző és visszatartó tényezőkhöz kapcsolódó lehetőségek vagy az információk elemzésén alapuló, személyes döntéseket irányító rendszerek révén. A manipuláció vagy a társadalmi ellenőrzés ezen formái gondos odafigyelést és ellenőrzést igényelnek és egyértelmű jogi felelősséget rónak a gyártókra, a felhasználókra és a kormányzati szervekre.

Ha az egyéneket kategorizáló automatizált folyamatokra támaszkodunk – például a megfigyelőrendszerek mindenre kiterjedő használata vagy a társadalmi hitelminősítő rendszerek bevezetése révén –, az szintén elemi hatással lehet a civil társadalom szerkezetére azáltal, hogy a polgárok között helytelen rangsorokat hoz létre. Ezek a mesterséges rangsorolási folyamatok hatalmi konfliktusokhoz is vezethetnek, mivel nemcsak virtuális létezőket, hanem hús-vér embereket is érintenek. Az emberi méltóság alapvető tiszteletben tartása megköveteli, hogy ne engedjük egy személy egyediségét egy adathalmazzal azonosítani. Nem szabad, hogy az algoritmusok határozzák meg az emberi jogok értelmezését, hogy háttérbe szorítsák az együttérzés, az irgalom és a megbocsátás alapvető értékeit vagy hogy kizárják annak lehetőségét, hogy valaki megváltozik és maga mögött hagyja a múltját.

Ebben az összefüggésben nem kerülhetjük el, hogy elgondolkodjunk az új technológiáknak a munka világára gyakorolt hatásán: a korábban kizárólag az emberi munkán alapuló tevékenységek végzését gyorsan átveszik a mesterséges intelligencia ipari alkalmazásai. Ebben az esetben is jelentős a kockázata annak, hogy sokak elszegényedése árán kevesek aránytalan előnyhöz jutnak. A nemzetközi közösségnek kiemelt prioritásként kell kezelnie a munkavállalók méltóságának tiszteletben tartását és a foglalkoztatás fontosságát az egyének, családok és társadalmak gazdasági jóléte, a munkahelyek biztonsága és a tisztességes bérek érdekében, mivel a technológia új formái egyre mélyebben hatolnak be a munka világába.

6. Ekevassá kovácsoljuk-e a kardokat?

A mai világot szemlélve nem kerülhetőek meg a hadiiparral kapcsolatos súlyos etikai kérdések sem. Lehetségessé vált a katonai műveletek távvezérelt rendszerek általi végrehajtása, így kevésbé érzékelhetővé az általuk okozott pusztítás és az értük viselt felelősség, ami ahhoz vezet, hogy a háború mérhetetlen tragédiájához még ridegebb és távolságtartóbb módon viszonyuljunk. Az úgynevezett „halálos autonóm fegyverrendszerek” új technológiáinak kutatása – beleértve a mesterséges intelligencia háborús alkalmazását is – komoly etikai aggályokat vet fel. Az autonóm fegyverrendszerek soha nem lesznek képesek erkölcsileg felelős alanyokká válni: az erkölcsi ítélőképesség és az etikus döntéshozatal egyedülálló emberi képessége több, mint algoritmusok bonyolult halmaza, és nem redukálható egy gép programjára, amely bármennyire is „intelligens”, mindig gép marad. Elengedhetetlen ezért a fegyverrendszerek megfelelő, hiteles és koherens emberi felügyeletének biztosítása.

Nem hagyhatjuk figyelmen kívül annak lehetőségét sem, hogy ezek a rendkívül fejlett fegyverek rossz kezekbe kerülnek, megkönnyítve például a terrortámadásokat vagy a legitim kormányzati intézmények destabilizálását célzó műveleteket. Röviden, a világnak egyáltalán nincs szüksége arra, hogy az új technológiák segítsék a fegyverpiac és a fegyverkereskedelem tisztességtelen fejlődését, táplálva a háború őrületét. Ily módon pedig nemcsak az emberi intelligenciát, hanem az emberi szívet is fenyegeti a veszély, hogy egyre inkább „mesterségessé” válik. A legfejlettebb technológiai alkalmazásokat nem az erőszakos konfliktusmegoldás támogatására kellene használni, hanem a béke útjának kikövezésére.

Pozitív oldalról a mesterséges intelligencia, ha az integrált emberi fejlődés előmozdítására használják, jelentős újításokat hozhat a mezőgazdaság, az oktatás és a kultúra területén, emelheti egész nemzetek és népek életszínvonalát, valamint erősítheti az emberek közötti testvériséget és a társadalmak barátságát. Az, hogy hogyan használjuk fel a legkisebbek, azaz a leggyengébb és leginkább rászoruló testvéreink integrálására, végső soron emberi mivoltunk minőségéről árulkodik.

A hiteles emberi szemléletmód és a világunk jobb jövője iránti vágy egy olyan interdiszciplináris párbeszéd szükségességéhez vezet, célul kitűzve az algoritmusok fejlesztésének etikai megközelítését – algor-etika –, amelyben az értékek határozzák meg az új technológiák irányát. Az etikai kérdéseket már a kutatás megkezdésekor, majd a tesztelés, a fejlesztés, a gyártás, a logisztika és a forgalmazás fázisaiban is figyelembe kell venni. Ez az etikus tervezés, amelyben az oktatási intézmények és a döntéshozók alapvető szerepet játszanak.

7. Az oktatás előtt álló kihívások

Az emberi méltóságot tiszteletben tartó és szolgáló technológia fejlesztése nyilvánvaló hatással van az oktatási intézményekre és a kultúra világára. A digitális technológiák a kommunikációs lehetőségek megsokszorozásával a találkozás új formáit alakították ki. Továbbra is szükséges azonban elgondolkodnunk azon kapcsolatok természetén, amelyek így váltak lehetővé. A fiatalok a technológia által áthatott kulturális közegben nőnek fel, ami elkerülhetetlenül kérdéseket vet fel a tanítási és képzési módszerekkel kapcsolatban.

A mesterséges intelligencia formáinak alkalmazására vonatkozó oktatásnak elsősorban a kritikus gondolkodás kialakítására kell irányulnia. Minden korosztály, de különösen a fiatalok számára szükséges, hogy képesek legyenek a megkülönböztetésre a világhálón talált vagy mesterségesintelligencia-rendszerek által előállított adatok és tartalmak használata során. Az iskoláknak, egyetemeknek és tudományos közösségeknek az a feladatuk, hogy segítséget nyújtsanak a diákok és a szakemberek részére a technológia fejlesztését és használatát érintő társadalmi és etikai vonatkozások elsajátításában.

Az új kommunikációs eszközök használatára irányuló képzésnek nemcsak a félretájékoztatást, az álhíreket kell figyelembe vennie, hanem az „ősfélelmek aggasztó növekedését is, [...] amelyek képesek voltak felerősödni és elrejtőzni az új technológiák mögött”. Sajnos újra csak szembetaláljuk magunkat annak kísértésével, hogy a „falak kultúráját építjük, falakat emelünk, hogy megakadályozzuk a találkozást más kultúrákkal, más népekkel” és a békés és testvéri együttélés kialakítását.

8. A nemzetközi jog fejlődése előtt álló kihívások

A mesterséges intelligencia globális elterjedése egyértelművé teszi, hogy bár használatának belföldi szabályozása a szuverén államok felelőssége, a nemzetközi szervezetek meghatározó szerepet játszhatnak a többoldalú megállapodások megkötésében, valamint alkalmazásuk és végrehajtásuk koordinálásában. Ebben a tekintetben sürgetem a nemzetközi közösség együttműködését egy olyan kötelező erejű nemzetközi szerződés megkötése érdekében, amely szabályozza a mesterséges intelligencia fejlesztését és használatát a maga változatos formáiban. A szabályozás célja természetesen nemcsak a romboló felhasználás megelőzése kell, hogy legyen, hanem a jó gyakorlatok bátorítása is, ösztönözve az új utakat kereső kreativitást, illetve támogatva a személyes és kollektív kezdeményezéseket.

Végső soron a digitális technológiák fejlesztőinek etikai útmutatást nyújtó normatív szabályok keresése során elengedhetetlen azon emberi értékek azonosítása, amelyek megalapozzák a társadalmaknak a szükséges jogi keretek megfogalmazására, elfogadására és alkalmazására irányuló törekvéseit. A mesterséges intelligencia formáinak előállítására vonatkozó etikai iránymutatások kidolgozásakor nem hagyhatók figyelmen kívül az emberi lét értelmére, az alapvető emberi jogok védelmére, valamint az igazságosságot és a békét célzó törekvésre vonatkozó mélyebb kérdések. Ez az etikai és jogi mérlegelési folyamat értékes lehetőség lehet arra, hogy közösen gondolkodjunk a technológiának egyéni és közösségi életünkben játszott szerepéről, és arról, hogy használata hogyan járulhat hozzá egy igazságosabb és emberibb világ megteremtéséhez. A mesterséges intelligencia szabályozásáról szóló vitákban teret kell ezért adni az összes érintett csoport megszólalásának, beleértve a szegényeket, a peremre szorultakat és mindazokat, akiket a globális döntéshozatali folyamatokban nem szoktak meghallgatni.

Azt remélem, hogy ez a megfontolás ösztönözni fogja azt, hogy a mesterséges intelligencia formáinak fejlődésében elért eredmények végső soron az emberi testvériség és a béke ügyét szolgálják. Ez nem csupán néhány ember felelőssége, hanem az egész emberi családé. A béke ugyanis a másik embert a maga elidegeníthetetlen méltóságában elismerő és befogadó kapcsolatok, valamint az együttműködés és a minden ember és minden nép átfogó fejlődése iránti elkötelezettség gyümölcse.

Az új év kezdetén azért imádkozom, hogy a mesterséges intelligencia formáinak gyors fejlődése ne erősítse a világban már jelen lévő számos egyenlőtlenséget és igazságtalanságot, hanem segítsen véget vetni a háborúknak és konfliktusoknak és enyhítse az emberi családot sújtó szenvedés sok-sok formáját. Imádkozom, hogy a keresztények, a különböző vallások hívei és a jóakaratú emberek harmóniában tudjanak együttműködni, hogy megragadják a digitális forradalom által kínált lehetőségeket és szembenézzenek kihívásaival és így a következő generációknak egy szolidárisabb, igazságosabb és békésebb világot adjanak tovább.

Kelt a Vatikánban, 2023. december 8-án.

Ferenc

Forrás: MKPK Sajtószolgálat, fotó: Vatican News

Nyíregyházi Egyházmegye