Japánban már évek óta bevált módszer a mesterséges intelligencia által támogatott munkahelyi megfigyelés. A munkáltatók nem csak azt ellenőrzik, hogy milyen feladatokat végeznek el az alkalmazottaik, de algoritmusokkal elemzik, hogy éppen milyen hangulatuk van és mennyire boldogok. Az amerikai Humanyze startupnak is van hasonló megoldása, ami európai szemmel aggályos dolgokra képes: a dolgozókra tett műanyag kitűző mikrofonnal rögzíti a beszélgetéseket, illetve rejtett érzékelők figyelik a tartózkodási helyet és a mozgást. Az így gyűjtött adatokhoz még hozzáveszik a munkavállalók e-mailjeinek és naptárbejegyzéseinek tartalmát, így még pontosabb kép állítható fel arról, mivel telik egy alkalmazott munkaideje.
Az egészségügyben, kereskedelemben vagy pénzügyi területen dolgozó amerikaiak egy részének munkavégzéséről pedig a torontói Receptiviti szolgáltatása gyűjt adatokat. A cég megfogalmazása szerint segít a gépek számára megérteni az embereket olyan módon, hogy átvizsgálja a Slack csevegőben és az e-mailekben váltott mondatokat, és azokat elemezve keres olyan nyelvi fordulatokat, amelyek például szomorúságról vagy feszültségről árulkodhatnak.
Az emberek elemzésén alapuló, úgynevezett People Analytics módszertan egy olyan adatalapú döntéshozatal, ami bár a gazdasági növekedést és a hatékonyságot tartja szem előtt, felvet pár érdekes kérdést. Mégis kire tartozik az, hogyan érezzük magunkat? Mi van, ha félreértik az érzelmeinket? Mihez lehet kezdeni ezekkel az információkkal, és hogyan lehet velük visszaélni? Ezek a kérdések ráadásul nem teljesen újak. Ugyan ma már mértékekkel gyorsabb számítógépek és fejlettebb technológiák érhetők el, az emberek elemzése arra az – évtizedek óta leegyszerűsített – feltevésre alapul, miszerint az emberi viselkedés komplexitásai formulákba redukálhatók.
A hidegháborús korszak Cambridge Analyticája
A Harvard Egyetem történésze, Jill Lepore tavaly megjelent If Then: How the Simulmatics Corporation Invented the Future című könyvében az elfeledett, a hatvanas években misztikusnak tartott Simulmatics Corporation történetét tárja fel, rávilágítva arra, hogy az emberi működés lemodellezése már azóta téma, hogy számítógép került az ember kezébe. A demográfiai csoportok informatikai rendszerezése és a célcsoportok rájuk szabott üzenetekkel történő bombázása régi gyakorlat, már a Kennedy-kormány előtt is alkalmazták a techno-pszichológiai hadműveletek kezdetleges formáját, de a könyv megjelenéséig nem nagyon olvashattunk róluk.
Az 1959-ben tudósok és reklámszakemberek által alapított Simulmatics – a szerző szerint – gyakorlatilag a hidegháborús Amerika Cambridge Analyticája volt. Aki nem emlékezne az utóbbira: a hírhedt adatelemző cég a begyűjtött adatok segítségével személyre szabott üzeneteket juttatott el a választókhoz, ezzel segítve az elnöki székbe Donald Trumpot – ehhez a Facebookról szerzett nyilvánosan elérhető adatokat is hasznosították. Az ügyről korábban itt írtunk bővebben.
A Simulmatics New Yorkban állította fel irodáját, ahol bérelt, akkor még böhöm nagy IBM 704-es gépekkel dolgoztak azon, hogy korábban gyűjtött adatok segítségével miképp jósolhatók meg algoritmusokkal a választási eredmények. Manapság ez nem nagy kunszt, de akkoriban úttörő gondolatnak számított. A cég neve a simulation és az automatic szavak összevonásából született, ami jól jelzi, mi volt az alapítók célja: „az emberi viselkedés szimulálásának automatizálása”.
Erre a célra készült a People Machine, egy olyan program, amit az emberi viselkedés előrejelzésére szántak, manipulációs céllal.
Kennedynek is dolgoztak
A cég kulcsemberei változatos hátterekkel érkeztek: a liberális és civil jogi aktivista Ed Greenfeld reklámszakember volt, Bill McPhee egy kiemelkedően jó FORTRAN programozó, míg a Massachusettsi Műszaki Egyetemről érkezett Ithiel de Sola Pool társadalomtudós korábban a kormánynak dolgozott különféle projekteken, egyben a közösségi hálózatok első teoretikusai közé tartozott. A cég első nagy kliense a protestáns többségű országban katolikus vallása és neveltetése mellett kiálló John F. Kennedy elnökjelölt volt 1960-ban, a feladat pedig, hogy visszanyerjék a Fehér Házat a demokratáknak. A Richard M. Nixon ellen vívott, végül győzelemmel végződött rendkívül szoros csatában a Simulmatics részben magának tulajdonította a sikert.
Lepore szerint a modern amerikai politikában új korszak kezdődött azzal, hogy a Greenfield által vezetett Project Macroscope-pal a Simulmatics tanácsadással próbálta segíteni Kennedyt. Greenfield pszichológiai hadviselésben képzett szakembereket vont maga köré a Massachusettsi Műszaki Egyetemről, a Yale-ről, a Harvardról és a John Hopkins Egyetemről. A projektet Pool vezette, és csapatával masszív adatbázist állítottak össze a korábbi választások mozzanatairól, valamint az elkészült közvélemény-kutatásokról egészen 1952-ig visszamenően.
A szavazókat 460 különböző típusba sorolták be, például: protestáns, alacsony jövedelmű nő. Ezeket táplálták be az úgynevezett szavazói viselkedést szimuláló gépbe, ami az 1960-as választást próbálta szimulálni, és különféle helyzetekre futtattak rajta teszteket. Szimulálták például, hogy mit reagálnának a szavazók, ha a jelöltek bizonyos lépéseket megtennének (mondjuk a jelölt a civil jogokról szóló erőteljes beszédet mondana): hogyan befolyásolhatná az eredményt, akár államokra lebontva hány százalékkal javulnának az esélyei. Például, hogy a déli államokban egy ilyen beszéd 2–3 százaléknyi szavazatvesztést jelentene, az északi államokban viszont nagyobb lenne a növekedés. Napjainkban az ilyen adatvezérelt elemzés és célzott politikai kampány már bevett eszköznek számít, de abban az időben ez teljesen új megközelítést jelentett.
A cég végül három eltérő jelentést készített a Kennedy-kampánynak, bár az mind a mai napig kérdéses, hogy ezek tényleg meghatározók voltak-e a győzelem szempontjából. A Kennedy-kampány természetesen jó ideig titkolta és elutasította, hogy használták volna a Simulmatics szolgáltatását. 1960-ban aztán a Harper’s Magazine címlapsztorijává vált, hogy Kennedy győzelme mögött egy szupertitkos számítógép, a People Machine áll. A Cambridge Analytica éra legfőbb kérdései és aggodalmai már ekkor felmerültek, többek közt az, hogy egy szabad társadalomban, ahol az információ erő, hogyan lehet megőrizni a privátszférát.
A média hamar felkapta a robotizált kampánystratégiát, ami a szavazókat és a közvélemény-kutatásokat elemzi. A rejtélyes „embergéppel” szemben megfogalmazódott a kritika, hogy semmibe tiporta a civil jogokat, és a közvéleményt is aggasztani kezdte, hogy egy ilyen módszernek milyen hatása lehet a demokratikus folyamatokra.
Egy tudós a Harper’s magazinnak úgy nyilatkozott, hogy
azt már nem tudod szimulálni, hogy a szimulációnak mi lesz a következménye.
Emlékezzünk rá: ez még fél évszázaddal azelőtt volt, hogy a Facebook megszületett volna. És persze hozzá kell tenni: az sem mérhető egyértelműen, hogy a People Machine használata nélkül miként alakul a választás. Voltak ugyanis olyan meghatározó mozzanatok, mint az 1960. szeptember 26-án tartott első elnökjelölti vita, amelyben a tapasztalatlan és fiatal Kennedy azzal kerekedett felül a választásnak nyolcéves alelnöki tapasztalattal nekiinduló Nixonon, hogy jobban mutatott a képernyőn – ezzel végleg megváltoztatva az elnökválasztási kampányokat.
Természetesen a kormányzat érdeklődését is felkeltették a People Machine képességei, méghozzá az amerikai védelmi minisztériumét. Lepore a könyvében kiemeli: akkoriban a technológiai szakemberek és a Pentagon szorosan együttműködtek, hogy a hidegháborús időszakban erőfölényben legyenek a kommunistákkal szemben. 1966-ban Pool megegyezett a Pentagonnal egy projektről, ami nyomán Vietnám lett a nagyszabású társadalomtudományi kísérletek újabb laboratóriuma. Pool úgy vélekedett, hogy a háborút a vietnámiak agyában és szívében lehet megnyerni, így modellezésbe és szimulációba kezdtek. Ahogy Lepore írja: végül brutális felsülés lett a dologból, többek közt azért, mert a Simulmatics vietnámiakról gyűjtött adatai részlegesek voltak, és a szimulációk inkább a kívánt eredményeket mutatták, mintsem a realitásokat. 1970-re a Simulmatics csődbe is ment, mert nem tudták garantálni a várt eredményeket.
Még ma sem tökéletes a módszer
A Simulmatics öröksége napjainkban szinte minden kijelző mögött ott van, írja Lepore, aki szerint a korai adattudósok a hatásuk miatt olyanok, mintha Mark Zuckerberg, Jeff Bezos, Peter Thiel és Elon Musk elfeledett nagyszülei lennének, a hiányzó kapocs a technológia történelmében. A Simulmatics öntelten azt hitte, hogy az új felvilágosodást hozza el.
Könnyebb és kevésbé felháborító lenne, ha a Simulmatics tudósai gazemberek lettek volna. De nem voltak azok. Századközepi fehér liberálisok voltak, akik nem értették meg azokat, akik nem voltak fehérek vagy liberálisak”
– utal a szerző arra a ma is jelenlévő problémára, hogy az algoritmusok is elfogultak a készítőik révén. Erre jó példa, hogy a mai arcfelismerők például pontatlanabbul tudják azonosítani a színes bőrűeket és a nőket, ami szintén annak eredménye, hogy nem kellően változatos az az adatforrás, amely alapján kiképzik a szoftvereket.
Ugyan a Simulmatics nem találta fel a jövőt, de a kategorizálással és az előrejelzésekkel való próbálkozásaik már akkor felszínre hozták azokat az adatokkal kapcsolatos etikai kérdéseket, amik még ma is velünk vannak. Lepore szerint a Simulmatics a saját korának technológiai szintjéhez képest túl nagyot akart markolni: az adatok szűkösen álltak rendelkezésre, a felállított modellek gyenge alapokon nyugodtak, a számítógépek pedig lassúak voltak.
A mai megoldások ugyan lényegesebben gyorsabbak és látszólag megállíthatatlanok, de alapjaikban nem különböznek attól, amit a Simulmatics kitalált. Mindegyik azon a feltételezésen alapul, hogy matematikai törvényszerűségekkel leírható az ember, ahogy az anyagi világ a fizika törvényeivel. Pedig ez egy hibás feltételezés. Ahogy Lepore írja:
Az emberi viselkedést nem lehet úgy tanulmányozni és leírni, mint ahogy egy vírus terjedését, a felhők sűrűségét vagy a csillagok mozgását. Nem követ olyan törvényeket, mint például a gravitáció. Ha ezt elhisszük, egy új valláshoz vezet. A predesztináció lesz az új, veszélyes evangélium. A profit érdekében történő gyűjtés és felhasználás, amit nem szabályoz semmilyen szerv, pusztítást okoz a társadalomban, különösen azokban a szférákban, amelyekben a Simulmatics is érdekelt volt: politika, hirdetés, újságírás.
