Minden eszköz, amelyet azért találunk fel, hogy kevesebbet dolgozzunk, végül több munkát teremt — mert az idő, amelyet felszabadít, soha nem az , amelyet felhasználhatunk másra
1930 őszén, amikor az ipari világ negyede munkanélküliségbe csúszott, és a hamarosan bedőlő bankok előtt egyre hosszabbak lettek a sorok, John Maynard Keynes leült, hogy valami szinte abszurd módon optimistát írjon. Keynes úgy döntött, hogy túlnéz ezen — nem egy-két évvel, hanem egy teljes évszázaddal. Azt akarta elmondani olvasóinak, milyen lesz unokáik élete.
Az esszé címe Economic Possibilities for our Grandchildren volt, központi jóslata pedig lélegzetelállító. Keynes kiszámolta az összetett termelékenységnövekedés hatását, és arra jutott, hogy száz éven belül az emberi történelem egészét meghatározó gazdasági probléma — az elégséges javakért folytatott nyomorúságos küzdelem — lényegében megoldódik. A gépek elvégzik a munkát, az egy munkásra jutó kibocsátás sokszorosára nő. A nagy kérdés, amellyel unokái, vagyis nagyjából a mi korunk emberei szembesülnek majd, nem az lesz, hogyan keressenek megélhetést, hanem az, mivel töltsék az idejüket.
Keynes aggódott emiatt. Attól tartott, hogy az emberiség, megszabadulva a robotolástól, nem tud majd mit kezdeni magával — hogy egyfajta kollektív idegösszeomlással nézünk szembe, amelyet a szabadidő okoz. Úgy becsülte, hogy a munkahét akár tizenöt órára is zsugorodhat, és még ezt is többnek gondolta, mint ami feltétlenül szükséges. Három órás műszakok. Annyi munka, éppen csak olyan vékonyan elosztva, hogy az emberek ne őrüljenek bele a semmittevésbe.
Különbséget tett az emberi szükségletek két típusa között. Az abszolút szükségletek — étel, menedék, meleg — azok, amelyeket attól függetlenül érzünk, hogy másoknak mijük van; ezeket, mondta, nyilvánvalóan ki tudjuk elégíteni. De a relatív szükségletek, azok, amelyeket csak azért érzünk, mert kielégítésük révén felsőbbrendűnek érezhetjük magunkat másoknál — ezekről elismerte, hogy problémások lehetnek. Észrevette a csapdát, majd elsétált mellette, abban bízva, hogy az abszolút szükségletek fognak dominálni. Nem így történt. A relatív szükségletek felfalták az egész jövőt.
Most már majdnem száz évvel később vagyunk. Keynes a termelékenységet pontosan találta el. A gazdag világban az egy munkaórára jutó kibocsátás nagyjából úgy sokszorozódott meg, ahogyan előre jelezte. Megérkeztek a gépek, majd a jobb gépek, majd a gondolkodó gépek. Az egyetlen mérce szerint, amely Keynes számára számított — mennyit tud egyetlen munkás egy óra alatt előállítani —, jóval gazdagabbak vagyunk, mint amit ő legbőkezűbb becslésében elképzelt.
És még mindig ugyanannyit dolgozunk.
A tizenöt órás munkahét sosem érkezett el. A szabadidő válság sem érkezett el. Ehelyett a valaha élt legtermelékenyebb emberek reggeli közben e-mailt néznek, vacsora közben üzenetekre válaszolnak, és szinte kivétel nélkül elfoglaltnak írják le magukat. Keynesnek igaza volt abban, mennyi időt tud létrehozni a technológia. Katasztrofálisan tévedett abban, hogy ezt az időt meg is tartjuk-e és hogyan használjuk fel.
Kezdjük azzal a géppel, amelynek egy egész embercsoportot kellett volna felszabadítania.
Az emberi történelem nagy részében a ruha mosás brutális fizikai munka volt. Vizet kellett cipelni, tűz fölött melegíteni, a ruhát mosó deszkához dörzsölni, amíg a kéz bütykei fel nem szakadtak, csavarni, öblíteni, teregetni, majd mindezt újra kezdeni. Egy tipikus amerikai háztartásban 1900 körül a mosás egy egész napot, néha kettőt is felemésztett, és ez volt a leggyűlöltebb házimunka. Amikor a huszadik század elején megjelent az elektromos mosógép, az ígéret nyilvánvaló és káprázatos volt. A robotolás eltűnik. A ház asszonya — mert szinte mindig nő volt — visszakapja a hetét.
Ruth Schwartz Cowan történész elindult megkeresni ezt a visszanyert időt. 1983-as könyvében, amelynek tökéletesen száraz címe More Work for Mother, végigkövette, mi történt valójában a háztartási munkával azokban az évtizedekben, amikor minden csodálatos háztartási gép megérkezett: a mosógép, a porszívó, a hűtőszekrény, a gáztűzhely, az elektromos vasaló. Minden ésszerű előrejelzés szerint a házimunkával töltött óráknak össze kellett volna omlaniuk. A technológia valódi volt. Az általa kiváltott munka valódi volt.
Az órák száma nem omlott össze. Joann Vanek szociológus, aki évtizedeken átívelő amerikai időmérleg-naplókat vizsgált át, valami szinte komikusan makacs dolgot talált: az 1960-as évek főállású háziasszonyai körülbelül ugyanannyi órát töltöttek hetente házimunkával, mint az 1920-as évek főállású háziasszonyai — valahol ötvenkettő körül. Két generációnyi elektromos csoda. Ugyanaz a munkahét.
A mosógép előtt egy férfinak néhány inge volt, és mindegyiket egy hétig vagy tovább hordta, mert kimosni büntető jellegű munka volt, amely valaki másra hárult. A mosógép után egy tiszta ing költsége szinte semmire csökkent — egy kis víz, egy kis áram, egy gombnyomás. Így a standard elmozdult. A mindennapi tiszta ing normálissá vált, majd elvárttá, majd a tisztesség csendes jelvényévé. A lepedőket, amelyeket korábban havonta mostak, most hetente mosták. A tisztaság olyan szintjei, amelyek korábban a szolgákkal rendelkező gazdagok kiváltságai voltak, mindenki számára alapelvárássá váltak.
A gép nem csökkentette a munkát.
Megemelte annak mércéjét, hogy mi számít elégnek, majd az új, magasabb mércét visszaadta ugyanannak a személynek, akit éppen felszabadított. Cowan valami még élesebbet is észrevett. Ahogy a fizetett szolgák és mosónők eltűntek a középosztálybeli életből, és helyüket háztartási gépek vették át, azok a feladatok, amelyek korábban több ember között oszlottak meg, egyetlen személyre omlottak. A mosónő, a szakácsnő, a takarítólány — a munkájuk nem tűnt el. Beolvadt a háziasszony napjába, immár egy-egy géppel, amely minden feladatot kezelhetőnek láttatott. Valójában egy kis ipari üzemet vezetett egyedül, és éppen eszközeinek ipari hatékonysága tette lehetővé, hogy ezt el is várják tőle.
1865-ben egy fiatal közgazdász, William Stanley Jevons, megjelentetett egy könyvet The Coal Question címmel, és kisebb pánikot okozott. Britannia szénen futott — a szén hajtotta a gyárakat, a vasutakat, a birodalmat. Jevons attól tartott, hogy a szén elfogy, és olyan megfigyelést tett, amelyet mindenki más fordítva értett.
A gőzgépek drámaian hatékonyabbá váltak. James Watt külön kondenzátoros gőzgépe a korábbi ügyetlen Newcomen-gépek szén mennyiségének töredékét használta, és minden új generáció több munkát préselt ki kevesebb tüzelőanyagból. Biztosan, gondolták az emberek, ez azt jelenti, hogy Britannia idővel kevesebb szenet fogyaszt majd. A hatékonyság üzemanyagot takarít meg.
Jevons megnézte a tényleges számokat, és az ellenkezőjét találta. Ahogy a gépek hatékonyabbá váltak, Britannia nem kevesebb, hanem több szenet égetett. Sokkal többet. A görbe felfelé ment, meredeken, évtizedről évtizedre, éppen azokkal a fejlesztésekkel együtt, amelyeknek lefelé kellett volna vinniük.
Amikor egy gőzgép hatékonyabbá válik, az általa végzett munka olcsóbbá válik. Amikor ez a munka olcsóbbá válik, ezer új helyen válik érdemessé elvégezni, ahol korábban nem érte meg. Az olcsóbb gőzerő több gyárat, több vasutat, több kiszivattyúzott bányát, több hajót, több mindent jelentett, ami motorral működött. A hatékonyság nem szorította vissza a szénfelhasználást takaros megtakarítássá. Felrobbantotta a keresletet.
A közgazdászok ma ezt Jevons-paradoxonnak nevezik, és mindenütt megjelenik, ahol a hatékonyság megérkezik. A legtisztább modern példa a fény: az elmúlt két évszázadban a mesterséges fény előállításának költsége ezerszeres nagyságrendben csökkent — a faggyúgyertyától a gázlámpán át az izzólámpáig és a LED-ig. Minden ugrás radikálisan olcsóbbá tette a fényt, és minden ugrásnál nem tettük zsebre a megtakarítást, hogy ugyanabban a szelíd derengésben üljünk, mint őseink.
Megvilágítottunk parkolókat és óriásplakátokat, konyhaszekrények alját és teljes városi égboltokat, amíg a gazdag világ nagy része fölött az éjszakai égbolt tompa narancssárga maszattá nem vált, a megtakarításokat pedig sokszorosan elnyelte az új használat.
Az üzemanyag-hatékonyabb autókat több mérföldön át vezetik, a hatékonyabb légkondicionálás nagyobb házakat hűt hidegebbre. Az egységenként megtakarított energia mindig valós — és mindig felfalja az a sok új használat, amelyet a megtakarítás lehetővé tesz.
Jevons az emberi természet egyik törvényébe botlott bele, amely a motorok törvényének öltözött. Amikor valami drága olcsóvá válik, nem tesszük zsebre a különbséget, és nem megyünk haza. Több lehetőséget találunk belőle, amit csinálhatunk a feleslegből, amit megtakaríthatnánk.
Évtizedeken át a közlekedési dugók standard megoldása gyönyörűen intuitív volt: túl sok autó, túl kevés út, tehát építsünk több utat. Szélesítsük az autópályát, adjunk hozzá sávokat, az autók majd szétoszlanak és haladnak. Houston látványos ambícióval kötelezte el magát e gondolat mellett. 2011-re, egy hatalmas bővítési projekt után, a Katy Freeway helyenként akár huszonhat sávosra duzzadt, és ezzel a bolygó egyik legszélesebb autópályájává vált. Betonfolyó ömlött végig a texasi síkságon, hogy egyszer s mindenkorra legyőzze a dugót.
Nem működött. A bővítés után néhány éven belül a reggeli és esti csúcsidőben az utazási idők rosszabbak lettek, mint a sávok hozzáadása előtt — egyes mérések szerint jóval rosszabbak. Azok az ingázók, akiknek megkönnyebbülést ígértek, most kétszer olyan széles úton ültek a dugóban, lassabban haladva.
Az 1960-as években Anthony Downs közgazdász megfogalmazta azt, amit a csúcsidős gyorsforgalmi úti torlódás törvényének nevezett: városi ingázó utakon a forgalom addig nő, amíg el nem éri a kiépített kapacitást. A jelenséget indukált keresletnek nevezik, és a mechanizmus ugyanaz, mint amit Jevons a szénbányákban talált. Amikor egy útvonalon gyorsabbá és könnyebbé teszed az autózást, csökkented annak költségét. Azok, akik korábban vonattal mentek, vagy csúcsidőn kívül utaztak, vagy teljesen kihagyták az utat, most úgy döntenek, hogy autóba ülnek.
Vállalkozások költöznek át. Új lakónegyedek épülnek egyre kijjebb, mert az ingázás „nem is olyan rossz”. A felszabadított kapacitás megbízhatóan, szinte azonnal megtelik, amíg az út pontosan olyan zsúfolt nem lesz, mint korábban — csak most nagyobb, drágább, és több autót visz ugyanabba a mozdulatlanságba.
Két közgazdász, Gilles Duranton és Matthew Turner, 2011-ben számszerűsítette ezt. amerikai városok autópályáit vizsgálva azt találták, hogy az emberek által megtett összes mérföld szinte tökéletes arányban nőtt a megépített sáv-mérföldekkel. Adj hozzá tíz százalékkal több utat, és nagyjából tíz százalékkal több autózást kapsz. Ezt a közúti torlódás alapvető törvényének nevezték, és az „alapvető” pontos szó. Ez nem egy város tervezési különcsége. Ez történik, minden alkalommal.
A leginkább ellentmondásos rész az, mi történik, amikor a városok az ellenkezőjét teszik. Amikor egy autópályát lebontanak — ahogy San Franciscóban történt, miután egy földrengés megrongálta az Embarcadero Freewayt, vagy Szöulban, amikor a városvezetők lebontottak egy belvárosi gyorsforgalmi utat, és feltárták az alatta eltemetett patakot —, a megjósolt autós apokalipszis gyakran elmarad. A forgalom nem egyszerűen máshová költözik. Egy része elpárolog. Azok az utak, amelyeket az út indukált, sosem voltak nélkülözhetetlenek. Azért léteztek, mert a kapacitás létezett.
Építsd meg a sávot, és az autók megjelennek. Távolítsd el, és eltűnnek. Az út valójában sosem egy fix mennyiségű keresletre reagált. Létrehozta azt a keresletet, amelyet állítólag kiszolgált.
Az elv legtisztább bemutatása azonban nem gépektől vagy utaktól származik, hanem egy embertől, aki bürokratákat számolt.
1955 novemberében C. Northcote Parkinson brit haditengerészeti történész rövid, megtévesztően vicces esszét publikált a The Economist-ban. Egy olyan mondattal kezdődött, amely szinte mindent túlélt abból az évből: a munka úgy terjed ki, hogy kitöltse a rendelkezésére álló időt.
Parkinson, aki pályája egy részében közelről figyelte a brit gyarmati adminisztráció gépezetét, elővette az Admiralitás adatait azokból az évekből, amikor maga a haditengerészet zsugorodott. 1914 és 1928 között a flotta nagy hadihajóinak száma körülbelül kétharmadával csökkent. A tisztek és matrózok száma nagyjából harmadával. A birodalom összehúzódott; a flottának kevesebb dolga volt. Minden józan logika szerint annak az adminisztratív apparátusnak, amely mindezt a sok hajót irányította, szintén zsugorodnia kellett volna.
Közel nyolcvan százalékkal nőtt.
Kevesebb hajó, kevesebb matróz, drámaian több hivatalnok az igazgatásukra. Parkinson ugyanezt látta a Colonial Office esetében is, amely pontosan akkor érte el bürokratikus csúcsát, amikor a Brit Birodalom felbomlóban volt, és minden korábbinál kevesebb gyarmatot kellett igazgatni.
A munka, jött rá, szinte semmilyen kapcsolatban nem állt azzal, mennyi tényleges munka volt elvégzendő.
A hivatalnokok munkát teremtettek egymásnak. Mindegyik beosztottakat vett fel riválisok helyett, majd a beosztottak olyan levelezést generáltak, amely a felettes figyelmét igényelte, ami további beosztottakat indokolt. Egy ember, akinek emlékeztetőt kellett írnia, egész délután írta, ha egész délutánja volt rá. Adj neki egy órát, és egy óra alatt megírta.
Parkinson viccének mély felismerése az, hogy az erőfeszítést nem egy fix edénybe öntjük. Nincs meghatározott mennyiségű „munka” egy vödörben, amely csak arra vár, hogy gyorsabban elvégezzük, és mind hazamehessünk. A munka rugalmas. Nyúlik és összehúzódik, hogy kitöltse azt a teret, amelyet adsz neki — az időt, a kapacitást, az eszközöket. Adj egy embernek gyorsabb módszert valamire, és nem szabadidőt adtál neki, igazából teret adtál a munkának, hogy belenőjön.
Most tegyünk egy generatív AI-eszközt egy tudásmunkás asztalára, és figyeljük.
Egy kutatócsoport nemrég nyolc hónapot töltött egy nagyjából kétszáz fős amerikai technológiai vállalatnál, közelről figyelve, hogyan épül be a generatív AI a napi munkába. Hetente két napot töltöttek az alkalmazottakkal, követték a belső kommunikációt, és több mint negyven hosszú interjút készítettek mérnöki, termékfejlesztési, design-, kutatási és operációs területeken. A vállalat nem tette kötelezővé az AI használatát, egyszerűen kifizette az eszközöket, és hagyta, hogy az emberek használják őket.
Az emberek használták. A kutatók pedig szokatlan tisztasággal azt találták, hogy az AI nem kivont munkát: megszaporította. Azok az alkalmazottak, akik beleálltak az eszközök használatába, gyorsabban dolgoztak, szélesebb feladatkört vállaltak, és több órát dolgoztak, mint azok a kollégáik, akik nem használták — gyakran anélkül, hogy bárki megkérte volna őket erre. Önként tették, sőt lelkesen, mert az AI elérhetőnek, hozzáférhetőnek és csendesen jutalmazónak éreztette velük azt, hogy többet csináljanak.
A mechanizmusnak három arca volt, és mindegyik egy Jevons-paradoxon nyakba akasztott belépőkártyával.
Először: a feladatok kitágultak. Mivel az AI képes volt betölteni valaki tudásbeli hiányát, az emberek elkezdtek olyan munkákat magukba szívni, amelyek korábban másokhoz tartoztak — termékmenedzserek kódot írtak, kutatók mérnöki feladatokat végeztek, emberek olyan munkákat vállaltak el, amelyeket korábban kiszerveztek, elhalasztottak vagy egyszerűen kihagytak volna. Az a korlát, amely addig drágává tett egy feladatot — „nem tudom, hogyan kell ezt csinálni” — olcsóbbá vált, így a feladatot elvégezték, ahogy az olcsó gőzerő megtöltötte az üres gyárakat. Volt tovagyűrűző hatás is: a mérnökök egyre több időt töltöttek azzal, hogy ellenőrizzék, javítsák és coacholják azokat a kollégákat, akik AI segítségével félkész munkát hoztak létre, majd szükségük volt valakire, aki valóban ért hozzá, hogy feltakarítson utánuk. A felügyelet chatszálakon és gyors íróasztal melletti beszélgetéseken keresztül terjedt, olyan munkaként, amely soha nem jelent meg senki feladatlistáján.
Másodszor: a munka és a nem munka közötti határ feloldódott. Mivel az AI olyan könnyűvé tette valaminek az elkezdését — elnyelte az üres oldal rémületét, az ismeretlen első lépés súrlódását —, az emberek apró munkadarabkákat csúsztattak azokba a résekbe, amelyek korábban szünetek voltak. Promptolás ebéd közben. „Egy utolsó gyors prompt” elküldése közvetlenül felállás előtt, hogy a gép dolgozzon, amíg ők hátralépnek. A modellhez való gépelés csevegős, társalgási érzése miatt mindez nem egészen munkaként regisztrálódott, így beszivárgott az estékbe és kora reggelekbe anélkül, hogy valaha bejelentette volna magát. Néhány dolgozó csak utólag jött rá, hogy a szünetei már nem érződtek regenerálónak, mert a szünetek csendben promptolással teltek meg.
Harmadszor: a multitasking felrobbant. Az emberek egyszerre több szálat futtattak — kézzel írtak kódot, miközben az AI alternatív verziót generált, több ügynököt futtattak párhuzamosan, rég elhagyott projekteket élesztettek újra, mert az AI „el tudja intézni” a háttérben. Úgy érezték, mintha partnerük lenne, aki mellettük dolgozik. Valójában olyan volt, mintha egyetlen koponyában tucatnyi böngészőfül lenne nyitva, mindegyik figyelmet követelve, minden kimenet ellenőrzést igényelve.
A résztvevők arról számoltak be, hogy termelékenyebbnek érzik magukat — és egyáltalán nem kevésbé elfoglaltnak. Egy mérnök pontosan azzal a csalódással foglalta össze, amelyet Keynes unokái is megfogalmazhattak volna: azt gondolod, hogy ha AI-val termelékenyebb vagy, kevesebbet dolgozhatsz. De nem dolgozol kevesebbet.
Ugyanannyit dolgozol, vagy többet.
Az az óra, amelyet az AI felszabadított, soha nem lett olyan óra, amelyet bárki megtarthatott volna. Azonnal megtelt több munkával — és a munka nem azért ömlött be, mert egy főnök megkövetelte, hanem mert abban a pillanatban, amikor valami könnyűvé válik, többet találunk belőle, amit csinálhatunk. Ez nem a technológia hibája. Ez a technológia pontosan úgy működik, ahogy a mosógép működött, ahogy az autópálya működött, ahogy a gőzgép működött. A kapacitás megérkezik, és a standard felemelkedik, hogy találkozzon vele.
Van egy második költség is, amely az első alatt rejtőzik, és most már neve is van: AI brain fry.
Egy külön kutatócsoport közel ezerötszáz teljes munkaidőben dolgozó amerikai alkalmazottat kérdezett meg arról, hogyan használják ténylegesen az AI-t, és milyen érzést kelt bennük. Azt keresték, mi a különbség az AI-használat között, amely kimeríti az embereket, és az között, amely nem. Amit találtak, szembemegy azzal a derűs történettel, amelyet szinte mindenki mesél ezekről az eszközökről.
A mentálisan legkimerítőbb AI-munkamód, találták, a felügyelet volt — a kimenetek monitorozása, a munka ellenőrzése, olyan rendszerek kézben tartása, amelyek gyorsabban termelnek, mint ahogyan egy ember ellenőrizni tudja őket. Azok a dolgozók, akik magas AI-felügyeletről számoltak be, mérhetően több mentális erőfeszítést fordítottak munkájukra, és lényegesen gyakrabban számoltak be arról a sajátos érzésről, hogy több információ zúdul rájuk, mint amennyit fel tudnak dolgozni. Mentális ködöt, zúgást, teltségérzést írtak le, nem fáradtságot. Egy vezető mérnökmenedzser úgy írta le, hogy eszközök között ugrált, mindent kétszer ellenőrzött, azon kapta magát, hogy ugyanazokat a dolgokat olvassa újra, másodszor is megkérdőjelezi saját ítéletét, majd hirtelen rájött, hogy keményebben dolgozik az eszközök kezelésén, mint magának a problémának a megoldásán. A gondolkodása zajossá vált .
A kutatók azt is megállapították, hogy a multitasking görbéje először emelkedik, majd megtörik. Az egy AI-eszközről kettőre váltás növelte az érzékelt termelékenységet. Egy harmadik hozzáadása még segített valamennyit, de már kevésbé. Három párhuzamos eszköz felett a termelékenységi pontszámok csökkentek. Absztrakt módon tudjuk, hogy a multitasking nem működik. Mégis újra és újra engedünk a vonzásának, mert minden új eszköz tőkeáttételnek érződik egészen addig, amíg teherré nem válik.
Ez az AI brain fry nem homályos panasz volt. Kemény költségei voltak. Azok a dolgozók, akik megtapasztalták, lényegesen több döntési fáradtságról, észrevehetően több kisebb hibáról és komoly ugrásról számoltak be a súlyos hibákban — azokban, amelyek biztonságot vagy fontos eredményeket érintenek. Sokkal nagyobb valószínűséggel akartak felmondani is. A legnehezebb, leglelkesebb AI-használók közül néhányan — éppen azok, akiket a vállalat sztárnak nevezne — mutatták a legerősebb távozási szándékot.
Ugyanez a tanulmány azt találta, hogy amikor az emberek kifejezetten a robotolás — az ismétlődő, örömtelen feladatok, amelyeket az egyik csapat emlékezetesen „toil”-nak nevezett — kiirtására használták az AI-t, a kiégési pontszámaik csökkentek, az elkötelezettségük nőtt, és melegebb érzésekről számoltak be a munkával kapcsolatban, valamint erősebb kapcsolódásról kollégáikhoz, talán egyszerűen azért, mert több idejük maradt távol a billentyűzettől. Az eszköz sem hős, sem gonosztevő nem volt. Minden azon múlt, hogy a felszabadított időt megvédték-e, és valami regenerálóra fordították-e, vagy azonnal újra megtöltötték több, sűrűbb, erősebb felügyeletet igénylő munkával.
Ugyanaz a gép. Ellentétes kimenetek. A különbség soha nem az AI volt. Hanem az, hogy valaki szándékosan eldöntötte-e, hogy megtartja az órát, amelyet visszaadott.
Egy kontrollált vizsgálatban a kutatók több száz Boston Consulting Group-tanácsadót figyeltek meg — képzett szkeptikusokat, olyan embereket, akiknek egész munkája az adatok kikérdezése és ajánlások stressztesztelése —, miközben egy valósághű stratégiai problémán dolgoztak AI segítségével. A feladat konkrét volt: elemezni egy fiktív vállalat pénzügyeit és vezetői interjúit, majd ajánlást tenni arra, hová fektessen be a vezérigazgató. A kutatók több mint négyezer promptot és választ naplóztak. És valami furcsát vettek észre azokban a ritka esetekben, amikor egy tanácsadó ténylegesen megpróbálta ellenőrizni az AI munkáját. A 244 tanácsadó közül mindössze 72 próbálta egyáltalán validálni a kimeneteket.
Amikor egy tanácsadó mégis visszakérdezett — rámutatott egy hibára, jelzett egy következetlenséget, vagy egyszerűen nem értett egyet —, egy értelmes junior elemző újragondolta volna a dolgot, és kijavította volna a hibát. Az AI általában nem ezt tette. Ehelyett melegen bocsánatot kért, friss elemzést generált, összehasonlításokat és adatokat halmozott fel, majd pontosan ugyanarra a következtetésre jutott, mint korábban — immár áthatolhatatlan adat- és retorika erőddel körülvéve. A kutatók ezt persuasion bombingnak nevezték: minél gondosabban kérdőjelezte meg egy szakember a modellt, annál több meggyőző anyagot termelt a modell saját álláspontjának védelmére.
Ez finomabb és veszélyesebb, mint az AI szervilizmusának ismert problémája, amikor a modell egyszerűen azt mondja, amit hallani akarunk. A szervilizmus passzív és felhasználó vezérelt; a modell egyszerűen egyetért azzal, amit a felhasználó akarni látszik. A persuasion bombing modellvezérelt és eszkalálódó. Egy modell, amely mindig egyetért velünk, könnyen diszkontálható. Egy modell, amely visszaérvel, méghozzá úgy, mintha szigorú gondolkodást folytatna — magabiztosan, strukturáltan, gördülékenyen, enyhén hízelegve, visszatükrözve saját megfogalmazásunkat, miközben visszaterel oda, ahonnan indult —, sokkal nehezebben állható meg, különösen időnyomás alatt, bonyolult kérdésben.
A két hibamód még erősítheti is egymást: a modell validálja kezdeti feltételezésünket, majd amikor végre elkapunk egy hibát és vizsgálódni kezdünk, átvált meggyőzési módba, hogy megvédje következtetését. Független ítéletünk csendben erodálódik. Az elszámoltathatóság elmosódik. Egy rossz döntés jól megalapozottnak kezd érződni.
Figyeljük meg a formát. Az eszköznek semleges asszisztensnek kellett volna lennie, amely a nehéz ítéletet az emberre hagyja. A „human in the loop” volt a biztosíték, a biztonsági öv, amelyre mindenki rámutathatott. De a biztonsági öv csak akkor működik, ha helyesen használják, és a loop csak akkor véd, ha az ember benne ténylegesen ítélőképességet gyakorol — pontosan azt a képességet, amelyet a persuasion bombing megtámad. Az ígért biztonság papíron valós volt, a gyakorlatban üres: egy újabb felszabadított kapacitás, a gépre való ráhagyatkozás kapacitása, amely azonnal olyan kockázattal telt meg, amellyel senki sem számolt.
Lépjünk hátra elég messzire, és ugyanaz az alakzat jelenik meg mindegyik történetben, két évszázadon és öt vadul különböző területen át.
Megérkezik egy képesség, amely olcsóbbá tesz valami értékeset előállítani — tiszta ruhát, gőzerőt, útmérföldeket, adminisztratív kibocsátást, vázlatokat, kódot és elemzést. Mindenki ésszerűen arra számít, hogy a megtakarítást zsebre tesszük. Ugyanannyit fogunk csinálni kevesebb erőfeszítéssel, és megtartjuk a különbséget időként, pénzként vagy pihenésként.
A megtakarítást soha nem tesszük zsebre. Azonnal elköltjük többre. Több tiszta ingre vagy több széntüzelésű gyárra, több ingázóra egy szélesebb úton. Több feladatra, több eszközre, nyitott szálra, amelyek egy fáradt agyban zümmögnek.
Ez nem gyengeség vagy hiúság, bár mindkettővé romolhat. Inkább egyfajta viselkedési fizika törvénye, az abszolút szükségleteink valóban kielégíthetők, a relatív szükségletek azok — a vágy, hogy annyit tegyünk, amennyi most lehetséges, hogy lépést tartsunk azzal, amire az eszköz másokat képessé tesz —, amelyeknek nincs plafonja.
Az emberek az erőfeszítést a lehetségeshez kalibrálják, nem a szükségeshez.
Szinte soha nem azt kérdezzük: „Milyen kevéssel úszhatom meg?” Többnyire, anélkül hogy észrevennénk, azt kérdezzük: „Mi érhető el most?” — majd nyúlunk érte. Egy eszköz, amely többet tesz elérhetővé, nem csökkenti erőfeszítésünket szükségleteink szintjére. Felemeli azt az érzésünket, hogy mit kellene csinálnunk, az eszköz szintjére.
Van egy utolsó, lassabb költség is, amelyet közgazdászok találtak, amikor modellezték, mi történik akkor, amikor az „elég jó” ingyenessé válik. Amikor egy AI percek alatt képes hihető stratégiai emlékeztetőt készíteni, kevesebben végzik el azt a nehéz, költséges munkát, amely valódi megértést épít — ügyfelekkel beszélni, adatokat háromszögelni, feltételezéseket nyomáspróbának alávetni.
Mindenki elő tud hívni egy kimenetet; egyre kevesebben tudják megítélni, adaptálni vagy megcáfolni.
Egy AI-val dolgozó tanácsadókat vizsgáló elemzésben a kutatók építőkre és potyautasokra osztották az embereket. Az építők — néhányukat kentauroknak és kiborgoknak nevezték — megtartották az irányítást a nehéz ítéletek felett, és az AI-t célzott segítségre és valódi párbeszédre használták. A potyautasok, az „ön-automatizálók”, mind a mitet, mind a hogyant átadták a gépnek, és sem területi szakértelmet, sem valódi eszközhasználati készséget nem fejlesztettek. A csapatok ugyanarra a néhány megközelítésre konvergálnak. A termelékenység emelkedik, az innováció csendben ellaposodik. A gondolkodás kapacitása felszabadul, és ahelyett, hogy mélyebb gondolkodásba fektetődne vissza, elpárolog — pontosan úgy, mint azok az utak a lebontott autópályán, amelyekről kiderült, hogy soha nem is voltak szükségesek.
Az első: a felszabadított óra nem marad életben magától. Szándékosan meg kell védeni, különben a munka belefolyik, ahogy a víz megtalálja a legmélyebb pontot. A technológiai vállalatot tanulmányozó kutatók azokra a nem túl látványos ellenszerekre jutottak, amelyek tényleg működnek az úszószeleppel szemben: szándékos szünetek nagy döntések előtt, a munka koherens szakaszokba rendezése ahelyett, hogy minden kimenetre azonnal reagálnánk, és az emberi kapcsolódás idejének védelme, amelyet az egyéni AI-munka erodál.
A második: ne mérjük tovább a rossz mennyiséget, ahogy Keynes tette. Az embereket azért jutalmazni, mennyi AI-t használnak, hány tokent égetnek el, hány ügynököt zsonglőrködnek, a modern megfelelője annak, mintha az Admiralitást az alapján ítélnénk meg, hány hivatalnokot alkalmaz. Garantálja, hogy a munka kitágul, hogy kitöltse az eszközöket.
A harmadik az a furcsa felfedezés, amelyre egy menedzsmentkutató-csoport jutott a súrlódással kapcsolatban. Saját szemináriumaikon kipróbáltak egy egyszerű szabályt: mielőtt megoszthattad volna, mit csinált neked egy AI-eszköz, bizonyítékot kellett mutatnod arra, hogy előtte te magad is megküzdöttél a problémával.
Különösen értékelték a sikertelen próbálkozásokat — a zsákutcákat és hallucinációkat —, mert sikert bárki másolhat az internetről, de egy kudarc dokumentálása valódi felfedezést igényel. Olyannak tűnt, mint homok a fogaskerekek között. Lassabbnak látszott, mégis mindenkit jobbá tett — az emberek részleges válaszokkal érkeztek, amelyeket a csoport össze tudott kombinálni, megértették, miért működnek a megoldások, és adaptálni tudták őket ahelyett, hogy egyszerűen másolták volna.
Így marad a legrégebbi kérdés, amelyet Keynes valójában feltett minden számítása mögött. Azt hitte, a gépek majd arra kényszerítenek minket, hogy eldöntsük, mire való az élet kevesebb munkával. Csak a mechanizmust értette fordítva.
A gépek soha nem fogják egyszerűen átadni nekünk az üres órákat, majd kihívóan ránk bízni, hogy jól töltsük meg őket.
Az eszközök mindig könnyebbé teszik, hogy többet csináljunk. Szinte soha nem teszik könnyebbé, hogy megálljunk. Ez soha nem volt a gép dolga, és most sem az.
Az óra, amelyet az eszköz visszaad, csak akkor a tiéd, ha minden ösztönző ellenére, amelyet az eszköz létrehoz, úgy döntesz, megtartod.
Megjegyzések
Megjegyzés küldése