A Digitális Rejtett Nép: modern adatbányászat és az ősi izlandi folklór találkozása az algoritmusok árnyékában
Imádom az északi népek irodalmát, szikár, pontos és nagyon emberi. Tükrözi az életüket, a kapcsolataikat a természettel. A napokban forgattam egy gyönyörű könyvet az izlandi emberek népi legendáiról, trollokról, elfekről. Vajon mi érdekes lehet ezekben az elfeledett történetekben amelyek a ma emberéhez szólhatnak?
Az emberi elme évezredek óta arra van kódolva, hogy értelmet és szándékot keressen a káoszban. Amikor őseink olyan jelenségekkel találkoztak, amelyeket nem értettek – legyen az egy hirtelen lecsapó vihar, egy eltűnt gyermek, vagy egy különös betegség –, a legkézenfekvőbb megoldás az volt, hogy ezeket az ismeretlen természeti erőket szándékkal, akarattal, intelligenciával ruházták fel. A tizenkilencedik századi Izland zord, elszigetelt és sötét tanyáin a parasztemberek a "rejtett nép" (huldufólk), a trollok és a szellemek legendáit hívták segítségül, hogy megmagyarázzák a világ felfoghatatlan működését.
Ma, a huszonegyedik században, hajlamosak vagyunk azt hinni, hogy meghaladtuk ezt a babonás gondolkodást. A valóság azonban az, hogy a sötét izlandi telek és a ködbe burkolózó felföldek helyét átvette egy új, végtelenül komplex és számunkra láthatatlan tér: a digitális adat-ökoszisztéma.
A hatalmas technológiai vállalatok adatbányászati algoritmusai és a mesterséges intelligencia (MI) rendszerei észrevétlenül keretezik a valóságunkat, döntéseket hoznak a hitelképességünkről, a munkavállalási esélyeinkről és behatárolják a hozzánk eljutó információkat. Mi pedig, pontosan úgy, ahogy az izlandi gazdák a sziklákban lakó manókkal kapcsolatban, misztikus hatalmat és emberi intelligenciát tulajdonítunk ezeknek az algoritmusoknak.
Az MI algoritmusa a mi korunk "rejtett népe": egy láthatatlan, de mindenütt jelen lévő entitás, amelytől egyszerre rettegünk, de akit – a saját adatainkból – mi magunk teremtettünk, mi tápláltunk és neveltünk ilyen naggyá.
A sötétség és a "fekete doboz"
Az 1800-as évek Izlandja egy rendkívül elszigetelt, rurális társadalom volt, ahol a hatalmas távolságok, a zord időjárás és a hosszú, sötét telek határozták meg az életet. Az emberek apró, sötét és nyirkos gyepházakban (turf houses) éltek, ahol az egyetlen fényforrás gyakran egy pislákoló olajlámpás volt. A sötétség, amely körbevette a tanyát, a rettegés forrása volt a gyermekek és felnőttek számára egyaránt, hiszen a homályban bármilyen természetfeletti lény meg bújhatott.
A modern adat korszakban a sötét izlandi éjszakákat felváltotta a mesterséges intelligencia "fekete dobozának" (black box) mítosza. Amikor a laikusok – és sokszor még a fejlesztők is – az MI elképesztő teljesítményét látják, amikor egy generatív MI pillanatok alatt megír egy esszét, vagy képet generál, hajlamosak azt hinni, hogy a gép egy megmagyarázhatatlan, misztikus módon működő fekete doboz.
A félelmünk ugyanabból fakad, mint az izlandiaké: abból, amit nem értünk. Mivel az MI algoritmusok hatalmas mennyiségű adaton (big data) és több tízmillió, vagy akár milliárd paraméteren futnak, a folyamat követhetetlen egy emberi elme számára.
Luc Julia, a Siri egyik megalkotója rámutat, hogy az MI sosem lehet valódi "fekete doboz". A gépek nem rendelkeznek megismerhetetlen mágiával; a kiszámíthatatlanságuk csupán az általunk beleprogramozott véletlenszerűségből vagy emberi hibákból ered. Amikor egy önvezető autó hirtelen megáll egy stoptáblát cipelő gyalogos láttán, az nem azért van, mert a gép "gondolkodik", mégis megmagyarázhatatlan döntést hoz, hanem azért, mert a kódolt szabályok szerint reagál egy extrém helyzetre. Ahogy az izlandi gyepházakban a sötétség félelmet keltett, a villanyáram megjelenése elűzte a szellemekbe vetett hitet. Hasonlóképpen, a "fekete doboz" mítoszát a megfelelő adatműveltséggel és az algoritmusok demisztifikálásával lehetne eloszlatni.
A Huldufólk (Rejtett Nép) és a Láthatatlan Algoritmusok
Az izlandi folklór egyik legkiemelkedőbb alakjai a rejtett emberek (elfek). Ezek a lények a legendák szerint az emberi társadalommal párhuzamosan élnek a sziklákban és dombokban. Külsőre és viselkedésükre is nagyon hasonlítanak az emberekre: ők is halásznak, gazdálkodnak, templomba járnak, sőt, még a ruházatuk és eszközeik is az emberi társadalom tükörképei, csak éppen egy kicsit gazdagabbak és hatalmasabbak nálunk. Láthatatlanok, de nagyon is valós hatással vannak az emberek életére: ha tisztelettel bánnak velük, megjutalmazzák az embert (például a szülésnél segédkező bábákat), de ha megsértik a területüket, kegyetlen bosszút állnak.
A mai vállalati és technológiai térben a nagy adatplatformok és az MI-t kiszolgáló adatbányászati algoritmusok működnek pontosan ilyen "rejtett népként". Láthatatlanok a végfelhasználó számára; az átlagember nem látja a mélyben futó adatcsöveket, az aktív metaadatokat, sem az adat-tavakban és adattárházakban zajló folyamatokat. Ezek a rendszerek a háttérből irányítják a sorsunkat.
Döntéseket hoznak: algoritmusok szűrik a beérkező önéletrajzokat, határozzák meg a hitelkereteket, és szabják meg, milyen információkat látunk a közösségi médiában.
Akárcsak a huldufólk, az algoritmusok is a mi társadalmunk tükörképei, hiszen az általunk generált adatokból (strukturált és strukturálatlan adatokból, képekből, hívásnaplókból) táplálkoznak. Nem rendelkeznek önálló, isteni értelemmel, csupán a mi viselkedésünket másolják és nagyítják fel.
Amikor az Amazon toborzási MI-rendszere diszkriminált a női jelentkezőkkel szemben, az nem azért történt, mert a gép önállóan gonosz vagy szexista volt. Azért történt, mert az MI-t az elmúlt tíz év (többségében férfi) sikeres jelentkezőinek önéletrajzai alapján tanították be. Az algoritmus – mint a sziklában lakó manó – egyszerűen visszatükrözte a társadalmi, történelmi torzításokat és előítéleteket, amelyeket mi, emberek tápláltunk belé.
Az izlandi legendák hangsúlyozzák: "jó szó jó jutalmat nyer", ami azt jelenti, hogy a rejtett néppel való interakció determinisztikus. Ugyanez igaz az MI-ra is. A modern "varázslat" az úgynevezett promptolás (prompt engineering). A generatív MI válasza, "kreativitása" és pontossága közvetlenül attól a "jó szótól" (utasítástól) függ, amelyet az ember betáplál. Az MI nem teremt semmit a semmiből; pusztán a betáplált adatokat és paramétereket kombinálja újra.
A Trollok, a Rablók (Útilegumenn) és a Big Data Éhsége
Az izlandi folklór másik jelentős csoportját a trollok és a rablók (útilegumenn) alkotják. A trollok gigantikus, primitív, a természethez kötődő lények, akiket hatalmas éhség és kapzsiság jellemez, gyakran elrabolva az embereket és az állatokat. Az útilegumenn pedig olyan törvényen kívüliek, akik a civilizáció határain túl, a zord felföldeken bujkálnak, és onnan csapnak le a gazdák birkáira. Az izlandi kutatók szerint az útilegumenn-legendák részben azért maradtak fent, hogy megmagyarázzák a nyári legelőkön rejtélyes módon eltűnt juhokat.
A modern tech-ökoszisztémában a mesterséges intelligenciát építő hatalmas vállalatok – az úgynevezett GAMMA cégek (Google, Apple, Microsoft, Meta, Amazon) – viselkednek trollként és útilegumennként. A generatív MI (például a ChatGPT) éhsége a technológiai történelemben példátlan. A gépi tanulás és az alapmodellek (foundation models) betanítása iszonyatos mennyiségű adatot, számítási kapacitást, áramot és vizet emészt fel. A ChatGPT-4 betanítása például 25.000 A100-as grafikus processzort (GPU) vett igénybe kilencven napon keresztül. Ezen erőforrás-éhség kiszolgálására a nagy cégek gigantikus adatközpontokat építenek, amelyek hűtéséhez rengeteg édesvízre van szükség, és a szén-dioxid-kibocsátásuk is egekbe szökik. A technológia – akár egy telhetetlen troll – pusztítja a környezetet, miközben a cégek ezt gyakran "AI washing" (zöldre vagy MI-re mosás) segítségével próbálják elleplezni.
De nem csak az energiaéhség teszi őket trollokká. Akárcsak az útilegumenn, aki a sötétben ellopja a gazda juhait, a nagy technológiai vállalatok a felhasználók és tartalomkészítők engedélye nélkül halászták le a teljes internetet, hogy betanítsák modelljeiket. Jogi perek sokasága (például a New York Times és az OpenAI között, vagy a Getty Images esete) bizonyítja, hogy az MI modellek olyan lopott adatokon alapulnak, amelyekhez a fejlesztőknek nem volt joguk. A digitális "vándorok" – a hétköznapi internethasználók – észre sem veszik, hogy az általuk alkotott tartalmak a gépezet martalékává váltak. Ahogy az izlandi folklórban a trollok elől a templomba és a kereszténység védelmébe lehetett menekülni, úgy próbál ma az emberiség a jogi szabályozások (például az európai AI Act vagy a GDPR) falai mögé bújni, hogy korlátozza ezeknek a digitális szörnyetegeknek a pusztítását.
Szellemek (Uppvakningar), Ágensek és az Irányítás Elvesztése
Az izlandi kísértettörténetek a sötétség és a félelem esszenciái. Az egyik legfélelmetesebb szellemtípus az uppvakningur (a felélesztett halott). A legendák szerint a varázslók, akik Izlandon szinte mindig férfiak voltak, gyakran művelt papok, képesek voltak mágiával felébreszteni a holtakat, és egy adott cél – legtöbbször bosszú – érdekében egy bizonyos feladatra programozni, majd rászabadítani őket az ellenségeikre. A felébresztett szellem nem rendelkezett saját akarattal, csak a varázsló parancsát követte, mégis hatalmas pusztítást vihetett véghez.
Ma ezeket a "felébresztett entitásokat" ágens MI-nek (Agentic AI) hívjuk. Míg a hagyományos generatív MI csak válaszol a kérdésekre, tartalmat generál, az ágens MI autonóm vagy fél-autonóm módon cselekszik, tervez, és a mi nevünkben interakcióba lép más rendszerekkel, például adatbázisokat frissít, utalásokat indít. A fejlesztő – a modern varázsló – létrehoz egy digitális ágenst, felruházza egy feladattal ("elemezd a beszállítói teljesítményt, és keress megtakarítási lehetőségeket"), és útjára bocsátja a hálózaton.
A félelem azonban mindkét esetben ugyanaz: mi történik, ha az általunk felébresztett "szellem" kicsúszik az irányításunk alól? ű
A hollywoodi filmek előszeretettel ábrázolják az MI-t úgy, mint ami öntudatra ébred és megöli az emberiséget. A valóságban azonban – ahogy az uppvakningur sem öntudatos – az MI nem gondolkodik és nem lázad fel. Az igazi veszély a gépi ostobaságban, a hibás adatokban, a hallucinációkban és abban rejlik, hogy az autonóm rendszerek emberi felügyelet (human-in-the-loop) nélkül is végrehajtanak parancsokat. Ha egy harci drón MI-ja tévesen értelmez egy vizuális jelet, a piros helyett lila ruhás embert lő le, az nem azért van, mert "gonosz", hanem mert egy programozási vagy adathibát hajt végre. Az ágens MI vezérlése pontosan olyan szigorú kereteket, "varázsigéket" követel meg a modern mérnököktől, mint amilyen precíz ráolvasásokat a tizenkilencedik századi varázslóktól követelt meg a szellem kordában tartása.
Tengeri Szörnyek és az Információs Káosz
Izland szigetország, így az óceán egyszerre jelentette az életet és a legnagyobb fenyegetést hajótörések formájában. A tenger az a végtelen, határokat elmosó tér volt, ahol a természetes és a természetfeletti találkozott. A tengeri szörnyek, a hajókat elnyelő stökkull vagy a rauðkembingur, és az elragadó sellők legendái arra szolgáltak, hogy megmagyarázzák az óceán kegyetlen, kiszámíthatatlan és emberfeletti erejét.
A mai modern ember számára a globális internet, a közösségi média és az azon hömpölygő adatfolyam jelenti ezt a végtelen, veszélyes óceánt. Ebben a digitális tengerben a "szörnyek" nem mások, mint a generatív MI által teremtett dezinformációk, fake news, a deepfake videók és a hallucinációk. Az MI képes arra, hogy tökéletesen lemásolja egy politikus vagy híresség arcát és hangját, és olyan tartalmat generáljon, ami sosem történt meg. Akárcsak az ősi mondákban a vízimanó (nykur), amely lónak álcázva magát a folyóba csalogatta és vízbe fojtotta a gyerekeket, a deepfake hangalapú csalások képesek felvenni szeretteink vagy banki ügyintézőnk hangját, hogy kicsalják az adatainkat és a pénzünket.
A félelmetes az, hogy az MI a maga "értelmetlenségével", hiszen az algoritmus pusztán a szavak és pixelek statisztikai eloszlását számolja ki, nem érti a tartalmat, egy olyan poszt-igazság világot teremt, ahol az emberek egyre nehezebben tudják megkülönböztetni a valóságot a generált illúzióktól. A tengeri szörnyek legendái arra tanították az izlandi halászokat, hogy mindig tisztelettel és elővigyázatossággal közelítsenek az óceánhoz, ne kísértsék a sorsot.
Ma az algoritmusok óceánjában az adatműveltségnek és a kritikus gondolkodásnak kell ellátnia ugyanezt a funkciót. Ahogyan a halászok speciális imákat mondtak a tengeren, nekünk olyan MI-alapú "vízjeleket" és hitelesítési keretrendszereket kell alkalmaznunk, amelyek jelzik számunkra, ha egy tartalom mesterséges.
Miért hisszük el a Mítoszt?
A legmélyebb kapcsolódási pont a folklór és a modern technológia között magában az emberi agy működésében keresendő. Miért hisszük azt, hogy az MI intelligens, sőt öntudatos?
Luc Julia szerint az emberi elme kognitív torzítása okozza ezt: a való világban, ha valaki képes megválaszolni egy komplex kérdést, arról feltételezzük, hogy meg is érti azt. Ha a ChatGPT folyékonyan, nyelvtanilag hibátlanul válaszol a kvantumfizikával kapcsolatos kérdésünkre, az agyunk reflexből intelligenciát és öntudatot társít hozzá.
Ez pontosan ugyanaz a pszichológiai mechanizmus, mint amivel az ősi izlandiak a természeti jelenségeket magyarázták. Amikor egy hatalmas szikla vagy egy vulkán formája emberi arcra emlékeztetett, vagy ha az éjszakai sötétségben egy árnyék megmozdult, evolúciós szempontból kifizetődőbb volt azt hinni, hogy ott egy szándékkal bíró lény (troll vagy szellem) van, mint puszta véletlennek tekinteni a dolgot. A technológia korában is szándékot tulajdonítunk a gépnek: "az MI kitalálta", "az MI hazudik", "az MI akar valamit".
Pedig a valóság sokkal prózaibb és kiábrándítóbb. Az algoritmus – mint a szél, ami a fák ágait mozgatja – nem rendelkezik szándékkal. A nagy nyelvi modellek (LLM) pusztán matematikai valószínűségek alapján jósolják meg, hogy egy adott szó után mi a következő legvalószínűbb szó. Amikor az MI feltalál egy hamis tényt, hallucinál, azt nem gonoszságból teszi. Egyszerűen csak a statisztikai modell "illesztése" során kiegészíti a hiányzó részeket olyan elemekkel, amelyek nyelvileg helyesnek tűnnek, függetlenül attól, hogy azok a valóságban igazak-e vagy sem.
A tech-cégek ráadásul tudatosan rájátszanak erre a "varázslatra". A "generatív" szó és az "intelligencia" kifejezések misztifikálják a terméket. Ahelyett, hogy "statisztikai predikciós szoftvernek" hívnák, "mesterséges intelligenciának" nevezik, mert a varázslatot sokkal könnyebb eladni a befektetőknek és a piacnak. Ahogy a sámánok vagy a varázsló papok egykor a szellemvilággal való kapcsolatuk révén emelkedtek ki a társadalomból és szereztek hatalmat, ma a tech-guruk és a Szilícium-völgy "látnokai" úgy állítják be magukat, mint akik lehozták a tüzet az égből. A narratívát uralva fenntartják azt a látszatot, hogy ők azok, akik képesek kordában tartani ezt a "veszélyes, szuperintelligens" lényt.
A varázslat megtörése
Az izlandi tanyák sötétjében elhangzó rémtörténetek a trollokról, a huldufólkról és a tengeri szörnyekről nem pusztán a szórakoztatást szolgálták. Kognitív térképként funkcionáltak, amelyek megtanították a gyermekeknek, meddig merészkedhetnek a vadonban, hogyan tiszteljék a természet hatalmát, és miként tartsák be a társadalom íratlan morális szabályait. A legendák keretet adtak egy olyan valóságnak, amelyet az ember nem tudott irányítani.
Ma az adatok, a metaadatok, és az algoritmusok uralják a világunkat. A mesterséges intelligencia nem Isten, nem démon, és nem is egy új, digitális faj.
Ez csupán kiterjesztett intelligencia : egy elképesztően erős eszköz, egy gigantikus "kalapács", amellyel a hatalmas adatmennyiségeket formáljuk. Ha továbbra is szellemként, "rejtett népként" tekintünk az MI-re, és engedjük, hogy a misztikum leple alatt a tech-cégek szabályozatlanul, adatlopásokra és hatalmas környezeti pusztításra építve működtessék a szervereiket, akkor valóban áldozataivá válunk a saját alkotásunknak.
Ahhoz, hogy ne féljünk többé a sötétben, fel kell kapcsolnunk a villanyt. A varázslat megtörésének egyik eszköze az adatműveltség , az átláthatóság, a decentralizált, kisebb nyelvi modellek (SLM) alkalmazása, és a valódi, emberközpontú adat- és MI-irányítás.
Ha felismerjük, hogy a gépben nincs lélek, csupán a saját társadalmunk adathalmaza tükröződik vissza ránk, akkor képessé válunk arra, hogy ne a félelem vezéreljen minket. Az algoritmus nem egy láthatatlan troll, ami a háttérből irányítja a sorsunkat, hanem egy általunk írt kód, amelynek a felelőssége és az etikai korlátai kizárólag a mi, emberek kezünkben vannak.
A képek forrása:
GHOSTS, TROLLS AND THE HIDDEN PEOPLE AN ANTHOLOGY OF ICELANDIC FOLK LEGENDS Edited by DAGRÚN ÓSK JÓNSDÓTTIR
Megjegyzések
Megjegyzés küldése