Nicholas Carr - Stakleni Kavez.pdf

Nicholas Carr

STAKLENI KAVEZ Kako računala mijenjaju nas

S engleskog preveo Ognjen Strpić

Naklada Jesenski i Turk Zagreb, studeni 2016.

BIBLIOTEKA 42 Izdavač: Naklada Jesenski i Turk Za izdavača: Mišo Nejašmić Urednik: Ognjen Strpić Grafički urednik: Boris Kuk Tisak: Znanje, d.o.o., Zagreb www.jesenski-turk.hr Copyright © 2014 by Nicholas Carr Copyright © za hrvatski jezik: Jesenski i Turk, 2016.

Za Ann

Sadržaj Uvod: Upozorenje avioprijevoznicima 1. Putnici 2. Robot na vratima 3. Na autopilotu 4. Učinak degeneracije Interludij o miševima koji plešu 5. Računala: iz tvornice u ured 6. Svijet i zaslon 7. Automatizacija za ljude Interludij o pljačkašu grobova 8. Vaša unutarnja bespilotna letjelica 9. Ljubav što livadu zbija Zahvale Kazalo Bilješke

Nikoga da opazi i ugodi, nikoga da vozi ovaj auto — William Carlos Williams

Uvod: Upozorenje avioprijevoznicima Četvrtog siječnja 2013., prvoga petka u novoj godini - što je mrtav dan kad su u pitanju vijesti - američka je Savezna uprava za zračni promet izdala kratku obavijest. Bez naslova, samo s oznakom SAFO, “sigurnosno upozorenje avioprijevoznicima”. Škrto i bez jasnih pojedinosti, poslano je svim zrakoplovnim tvrtkama, a glasilo je ovako. “SAFO: preporučuje se avioprijevoznicima da prema vlastitoj procjeni promiču manualno izvoĎenje pilotskih postupaka. Uprava za zračni promet prikupila je dokaze - dobivene na temelju istraga o padovima, izvještaja o nesrećama i studija postupaka u kokpitu - koji ukazuju na to da se piloti previše oslanjaju na autopilote i druge kompjuterizirane sustave. Uslijed neumjerene upotrebe automatizacije letenja, upozoravaju iz Uprave, “sposobnosti pilota da brzo izvuku zrakoplov mogu oslabjeti”. Manje uvijeno, to bi moglo ugroziti avion i putnike. Upozorenje završava preporukom da avioprijevoznici, u sklopu operativnih naputaka, naloţe pilotima da manje lete na autopilotu.1 Ovo je knjiga o automatizaciji, o upotrebi računala i softvera za to da se pomoću njih učini nešto što smo dosad činili sami. Ona ne govori o tehnologiji ni ekonomici automatizacije, niti o budućnosti robota, kiborga i kompjuteriziranih ureĎaja, iako će i to biti dio priče. Riječ je o posljedicama automatizacije na ljude. Prvi su se na udaru toga vala našli piloti, ali on nas sve zapljuskuje. Sve je više posla koji nastojimo prebaciti na računala, unutar i izvan radnog vremena, i za njima se vodimo u sve više svakodnevnih postupaka. Danas kad poţelimo napraviti bilo što, veoma često sjednemo za ekran ili otvorimo laptop, izvadimo mobitel ili pričvrstimo kakav umreţeni ureĎaj na tijelo. Pokrećemo aplikacije, bacamo pogled na zaslon, savjetujemo se sa simuliranim glasovima. Prepuštamo se mudrosti algoritama. Računalna automatizacija čini nam ţivot lakšim, a nuţne poslove manje tegobnima. Često tako uspijevamo napraviti više za manje vremena - ili učiniti nešto što prije jednostavno nismo mogli. Ali automatizacija ima i dublje, skrivene učinke, a avijatičari su spoznali da nisu svi blagotvorni. Automatizacija nas moţe i koštati, u poslu, u stvaralaštvu i u ţivotu. Moţe nam suziti obzorje i smanjiti prostor odlučivanja. Moţe nas otvoriti

nadziranju i manipulaciji. A kako računala postaju naši stalni suputnici, poznati i usluţni pomagači, čini se mudrim pobliţe razmotriti kako ona točno mijenjaju to što radimo i ono što jesmo.

1. Putnici Jedno od poniţenja mojeg tinejdţerskog razdoblja moglo bi se nazvati psihomehaničkim: bili su to moji vrlo javni pokušaji da rukujem manualnim mjenjačem brzina. Vozačku dozvolu dobio sam početkom 1975., nedugo nakon što sam bio napunio šesnaest. Prethodne sam jeseni išao u auto-školu, s još nekoliko nas iz razreda. Instruktorov Oldsmobile, kojim sam se sluţio na satovima voţnje i na ispitu, bio je automatik. Stišćete gas, okrećete volan, nagazite na kočnicu. Bilo je i par nezgodnih manevara - puni okret uz pokrajnju cestu, ravna voţnja unatrag, bočno parkiranje - ali uz nešto vjeţbe na školskom parkiralištu i oni su postali rutinski. S dozvolom u dţepu, bio sam spreman za pokret. Preda mnom je bila još samo jedna prepreka: jedini auto koji mi je kod mojih bio na raspolaganju bio je stari Subaru s ručnim mjenjačem. Otac, koji nije bio najspretnija osoba, dao mi je jednu jedinu lekciju. Jednog me je subotnjeg jutra poveo u garaţu, posjeo na suvozačko mjesto i sjeo za volan. Lijevi dlan mi je stavio na ručicu mjenjača i drţeći me za ruku vodio: “Ovo je prva.” Kratka stanka. “Druga.” Stanka. “Treća.” Stanka. “Četvrta.” Stanka. “Tu dolje”, zapešće me zaboljelo kad ga je iskrenuo u neprirodan poloţaj, “tu je rikverc.” Pogledao me da vidi jesam li sve shvatio. Bespomoćno sam kimnuo glavom. “A ovo” - promrdao mi je ruku amo-tamo - “ovo je ler”. Dao mi je još par savjeta o tome kad treba promijeniti brzinu. Onda je pokazao prstom na pedalu spojke. “Pazi da je stisneš do kraja kad mijenjaš brzine.” Uslijedili su nezaboravni prizori za susjede mog gradića u Novoj Engleskoj. Auto je čas zapinjao, dok sam pokušavao ući u brzinu, čas se trzao, kad bih u krivom trenutku otpustio spojku. Na svakom sam semaforu stvarao guţvu pri kretanju, a kad bih se konačno pokrenuo, ukopao bih se nasred kriţanja. Uzbrdice su mi bile čisti uţas. Spojku sam otpuštao ili prebrzo ili presporo, a auto bi se samo vratio nizbrdo i potom stao na braniku vozila koje se našlo iza mene. Trube su trubile, psovke pljuštale, ljudi su mi pokazivali srednji prst. Sve skupa je bilo još gore zato što je Subaru bio ţut - ţut kao dječja kabanica ili zlatna ribica. Sve su se oči

lijepile za taj auto i moju sramotu je bilo nemoguće previdjeti. Suosjećanja nije bilo ni kod, recimo, prijatelja. Moje su im muke bile povod za beskrajno i gromoglasno zbijanje šala. “Sameljite mi pola kile”, dobacivao mi je jedan, zavaljen na straţnje sjedalo, kad bi zakrčali zupčanici jer nisam bio do kraja pritisnuo spojku. “Dobar potez”, dobacio bi mi je drugi kad mi je stao motor. Znalo je doletjeti i “Koji si ti invalid” tada još nije postojala politička korektnost. Gajio sam ozbiljne sumnje da su mi se u ekipi iza leĎa rugali zbog moje nespretnosti s mjenjačem. Nisu mi promaknule ni metaforičke posljedice po moju muškost šesnaestogodišnjaka. Ali, bio sam uporan - nisam baš imao ni izbora - i nakon tjedan-dva mi je sve skupa pomalo sjelo. Mjenjač se razradio i lakše je opraštao greške. Ruke i noge su mi prestale ići svaka svojim putem i počele su se slagati. Auto se više nije gasio, trzao i krčao. Više nisam strahovao od uzbrdica i kriţanja. Prijenos i ja postali smo suradnici. Uklopili smo se. Potiho sam se ponosio svojim postignućem. Svejedno, priţeljkivao sam automatik. Iako su ručni mjenjači u ono doba bili uobičajeni, barem u jeftinijim autima kakve su vozili klinci, već su bili poprimili obiljeţje zastarjelosti. Onako, malo su davali na plijesan. Tko bi nešto htio ručno kad moţe “automatski”? Kao da perete posuĎe na ruke umjesto da ga ubacite u perilicu. Ispalo je da nisam morao previše čekati da mi se ţelja ostvari. Dvije godine nakon što sam dobio vozačku dozvolu, napravio sam totalku na Subaruu za jedne noćne nepodopštine i nedugo poslije sam dobio na korištenje rabljeni beţ Ford Pinto. Auto je bio ţivi krš - neki ga danas smatraju simbolom američke industrije dvadesetog stoljeća - ali u mojim ga je očima iskupljivao automatski mjenjač. Postao sam novi čovjek. Lijeva noga, osloboĎena zahtjeva pritiskanja papučice spojke, postala mi je ud za dokoličarenje. Dok sam se vozikao gradom, elegantno je lupkala s Charliejem Wattsom i treskala s Johnom Bonhamom - Pinto je imao i kazetofon za stereo-osmicu, još jedan dašak modernosti - ali najčešće je opruţena drijemala u udubini lijevo od instrument-table. Desna ruka je preuzela poslove drţanja pića. Osjećao sam se ne samo novo i ukorak sa svijetom: osjećao sam se kao da sam osloboĎen. Nije potrajalo. Uţitak u smanjenju posla bio je stvaran, ali je blijedio. Pojavio se novi osjećaj: dosada. Nisam to nikome priznavao, jedva i sebi, ali pomalo su mi nedostajali ručica mjenjača i pedala spojke. Nedostajao

mi je osjećaj kontrole i angaţmana - mogućnost da zavrtim motor koliko ja hoću, osjećaj da se snaga “prima” kako otpuštam spojku, blago uzbuĎenje kad u brzoj voţnji prebacujem u niţu brzinu. S automatikom sam se osjećao manje kao vozač a više kao putnik. Na kraju sam ga zamrzio.

Carstvo neodređenosti Odvezimo se trideset i pet godina dalje, do jutra 9. listopada 2010. Jedan od Googleovih kućnih izumitelja, robotičar njemačkog podrijetla Sebastian Thrun, na svome blogu donosi izvanrednu izjavu. Tvrtka je napravila “automobile koji voze sami”. I ne neki trapavi štreberski prototip koji mili po parkiralištu Googleplexa. Ovo su pravi pravcati auti koji smiju na cestu - Priusi, da budemo precizniji - i, otkriva Thrun, već su napravili dvjesto tisuća kilometara po ulicama i autocestama Kalifornije i Nevade. Zatim su prokrstarili Bulevarom Hollywood i Obalnom pacifičkom autocestom, vratili se po mostu Golden Gate pa obišli jezero Tahoe, Uključivali su se na autocestu, prolazili kroz prometna kriţanja, probijali su se kroz gradsku guţvu. Morali su naglo sretati da izbjegnu sudar. Sve su to izveli sami. Bez pomoći čovjeka. “Smatramo da je to prvi put u robotici”, piše Thrun, s vještom poniznošću.2 Napraviti auto koji sam vozi u osnovi nije jako teško. Inţenjeri i domišljati ljudi konstruiraju robotizirane automobile i automobile na daljinsko upravljanje bar od 1980-ih godina. Samo, većinom su to samo kutije na kotačima. Mogle su se koristiti samo na zatvorenim stazama, trkalištima, u pustinji ili u drugim zabačenim prostorima daleko od pješaka i policije. Googlemobile je nešto posebno, bilo je to jasno iz Thrunova priopćenja. I u povijesti prijevoza i u povijesti automatizacije, to je prvo vozilo koje moţe samo upravljati u stvarnom svijetu, u svoj njegovoj nesreĎenoj, burnoj kompleksnosti. Uz pomoć laserskih daljinomjera, radara i sonara, detektora pokreta, video-kamera i GPS-a, automobil dobiva podroban opis okoline. Vidi kamo ide. A budući da se cijeli taj tok informacija obraĎuje trenutačno - u “realnom vremenu” - ugraĎena računala stiţu upravljati motorom, volanom i kočnicama dovoljno brzo za voţnju pravom cestom i glatko reagirati na nepredviĎene dogaĎaje na kakve vozač uvijek nailazi. Googleov vozni park samoupravljanih automobila napravio je već gotovo pola milijuna kilometara a vozila su uzrokovala samo jednu ozbiljnu nezgodu, bio je to peterostruki lančani sudar 2011. u blizini sjedišta tvrtke u Silicijskoj dolini. Taj se sudar doduše i ne broji: do njega je došlo, kako je Google poţurio objaviti, “dok je

automobil vozila osoba, manualno”.3 Pred autonomnim je automobilima još dug put prije nego nas počnu razvoziti na posao a našu djecu na nogomet. Iako u Googleu kaţu da očekuju da će se komercijalne verzije njihovih automobila pojaviti na trţištu do kraja ovog desetljeća, to je vjerojatno više ţelja nego procjena. Senzorski sustavi vozila još su nepremostivo preskupi, i samo krovni laser stoji osamdeset tisuća dolara. Još predstoje mnogi tehnički izazovi, kao što su voţnja po snijegu i lišću, neočekivana obilaţenja i tumačenje znakova koje rukama daju prometni policajci i radnici na cesti. Čak je i najsnaţnijim računalima teško raspoznati što je bezopasno smeće na cesti (recimo, spljoštena kartonska kutija), a što opasna prepreka (odlomljena daska iz koje strše čavli). Od svega toga još su gore mnoge pravne, kulturne i etičke poteškoće. Tko je kriv, i tko odgovoran, ako automobil s kompjuterskim vozačem prouzroči nesreću u kojoj netko pogine ili bude ozlijeĎen? Vlasnik vozila? ProizvoĎač sustava za upravljanje? Programeri? Dok se ne riješe ta sporna pitanja, teško da će posve automatizirani automobili krasiti autosalone. Unatoč tome, napredak juri dalje. Mnogo će Googleova hardvera i softvera biti ugraĎeno u buduće generacije automobila i kamiona. Otkad je tvrtka objavila da radi na autonomnim vozilima, većina je najvećih svjetskih proizvoĎača automobila dala na znanje javnosti da i oni vode slična istraţivanja. Cilj, bar zasad, i nije prvenstveno napraviti besprijekornog robota na kotačima koliko nastaviti s usavršavanjem automatiziranih dodataka koji poboljšavaju sigurnost i udobnost i time potiču na kupnju novih automobila. Otkad sam prvi put okrenuo ključ na starom Subaruu, automatizacija voţnje daleko je uznapredovala. Današnji su automobili krcati elektronikom. Mikročipovi i senzori upravljaju radom ureĎaja za odrţavanje stalne brzine, ABS-a i ASR-a, stabilizacije podvozja, a u skupljim modelima i kontinuiranim prijenosima brzina, sustavima za pomoć pri parkiranju i izbjegavanje udara, prilagodljivim farovima i zaslonima upravljačke ploče. Softver već danas stvara stanovitu tamponzonu izmeĎu nas i ceste. U manjoj mjeri mi upravljamo vozilom, a u većoj šaljemo elektroničke poruke računalu koje upravlja. U sljedećim će se godinama odgovornost za mnoge aspekte voţnje prebaciti s ljudi na programe. Infiniti, Mercedes i Volvo već izbacuju modele s ugraĎenim radarskim sustavima za odrţavanje brzine, koji rade čak i u voţnji gradskom guţvom; kompjuterizirani upravljački sustavi preuzimaju i volan, kako bismo vozili po sredini trake; a u slučaju nuţde

kočnice same zaustavljaju vozilo. Drugi se proizvoĎači ţure uvesti još sofisticiranije sustave. Tesla Motors, pionir na području električnih automobila, radi na autopilotu za osobna vozila koji “bi trebao moći izvoziti do 90% kilometraţe”, prema riječima ambicioznog direktora te tvrtke, Elona Muska.4 Dolazak Googleovih samoupravljanih automobila uzdrmalo je naše poimanje voţnje, ali ne samo to. On nas tjera da preispitamo što računala i roboti mogu a što ne mogu. Sve do tog sudbonosnog listopadskog dana uzimalo se zdravo za gotovo da mnoge vaţne vještine leţe izvan domašaja automatizacije. Računala mogu mnogo toga, ali ne sve. U svojoj utjecajnoj knjizi Nova podjela rada: kako računala stvaraju novo tržište rada iz 2004., ekonomisti Frank Levy i Richard Murnane uvjerljivo tvrde da postoje vrlo praktične granice mogućnosti programa u podraţavanju ljudskih sposobnosti, osobito kad je riječ o percepciji, prepoznavanju obrazaca i pojmovnom znanju. Konkretno navode primjer voţnje automobila na otvorenoj cesti, jer to naše umijeće zahtijeva trenutačnu interpretaciju obilja vidnih podraţaja te sposobnost brze prilagodbe promjenjivim i često nepredviĎenim situacijama. Jedva nam je i samima jasno kako nam to uspijeva, i činilo se promašenim i pomisliti da bi programeri mogli svesti sve te naše vozačke začkoljice, slučajnosti i nespoznatljivosti na niz uputa, na linije programskog koda. “Lijevo skretanje po prometnoj dvosmjernoj ulici”, pišu Levy i Murnane, “sadrţi tako puno različitih elemenata da je teško i zamisliti takav skup pravila koji bi podrţavao vozačko ponašanje”. Činilo se posve izvjesnim, i njima i manje-više svima ostalima, da će ruke za volanom i nadalje čvrsto drţati ljudi.5 Razmatrajući što računala mogu, ekonomisti i psiholozi već se dugo pozivaju na osnovno razlikovanje meĎu dvama vrstama znanja: prešutnom i eksplicitnom. Prešutno znanje, koje se katkad naziva i proceduralno znanje, odnosi se na sve ono što znamo raditi bez aktivnog razmišljanja o tome: voziti bicikla, čitati knjigu, voziti auto. Te vještine nisu uroĎene sve to moramo naučiti, i nekim ljudima idu bolje a nekima slabije - ali se i ne mogu izraziti nekim jednostavnim receptom, slijedom precizno definiranih koraka. Istraţivanja su pokazala da se, kad skrećete na nekom prometnom kriţanju, napreţu mnoga područja mozga; ona istodobno obraĎuju osjetne podraţaje, procjenjuju brzine i udaljenosti te koordiniraju rad ruku i nogu.6 Ali kad bi se od vas traţilo da dokumentirate sve što je bilo na djelu pri tom skretanju, ne biste to mogli učiniti, bar ne bez

generalizacija i apstrakcija. Ta sposobnost počiva duboko u vašem ţivčanom sustavu, izvan domašaja svjesnog uma. Mentalna se obrada odvija a da je niste svjesni. Veliki dio naše sposobnosti da ocjenjujemo situacije u kojima se naĎemo i brzo donosimo odluke o njima, svoje podrijetlo ima u neodreĎenom području prešutnoga znanja. Tu počiva i većina naših stvaralačkih i umjetničkih vještina. Eksplicitno znanje, poznato i pod nazivom deklarativno znanje, ono je što uvijek moţete staviti na papir: kako zamijeniti probušenu gumu, kako izraditi ţdrala od papira, kako riješiti kvadratnu jednadţbu. Ti se postupci mogu rastaviti na jasno definirane korake. Pisanim ili usmenim uputama moţemo ih objasniti jedni drugima: učini ovo, pa ovo, pa ovo. Program u osnovi jest niz preciznih, pisanih uputa - učini ovo, pa ovo, pa ovo - i zato smo pretpostavljali da računala mogu podraţavati vještine koje se temelje na eksplicitnom znanju, ali da neće biti tako uspješna s umijećima koja izviru iz prešutnog znanja. Kako nešto neizrecivo prevesti u linije programskog koda, u krute, postupne upute algoritma? Granica izmeĎu eksplicitnog i prešutnog uvijek je bila porozna mnogi naši talenti vrte se oko te granice - no činilo se da ona adekvatno odreĎuje granice automatizacije u pritom ocrtava ekskluzivno ljudska područja. Sofisticirani poslovi koje su Levy i Murnane svrstali meĎu one izvan domašaja računala - uz voţnju, to su i poučavanje i medicinska dijagnostika - bili su kombinacija mentalnog i manualnog, ali svi su se temeljili na prešutnom znanju. Googleov automobil premješta tu granicu izmeĎu čovjeka i računala, i to dramatičnije, presudnije nego dotadašnja postignuća u programiranju. On nam poručuje da je naša zamisao o granicama automatizacije oduvijek bila pomalo fiktivna. Nismo baš tako posebni kako nam se činilo. Razlikovanje prešutnog od eksplicitnog znanja i dalje je korisno u području ljudske psihologije, ali je umnogome izgubilo na relevantnosti u raspravama o automatizaciji.

Sutrazemska To ne znači da računala sada vladaju nekim prešutnim znanjem, ni da su počela razmišljati, ni da će ubrzo moći raditi sve što i ljudi. Nemaju, nisu, i neće. Umjetna inteligencija nije ljudska inteligencija. Ljudi su umni a

računala bezumna. No, kad je riječ o obavljanju zahtjevnih zadaća, bilo mozgom bilo tijelom, računala mogu replicirati naše ciljeve a da pritom ne repliciraju sredstva kojima mi do tih ciljeva dolazimo. Kad automobil bez vozača obavlja lijeva skretanja, on ne crpi iz izvora intuicije i vještine, nego slijedi program. No, iako se strategije razlikuju, ishod je u praktičnom smislu isti. Nadljudska brzina kojom računala izvršavaju upute, izračunavaju vjerojatnosti, šalju i primaju podatke, znači da na osnovi eksplicitnog znanja uspijevaju obaviti mnoge komplicirane zadaće koje mi izvodimo na osnovi prešutnog znanja. U nekim slučajevima, zbog tih posebnih mogućnosti računala izvode ono što su za nas prešutne vještine i bolje od nas. U svijetu automobila kojima upravljaju računala, ne bi nam bili potrebni semafori ni prometni znakovi. Imajući stalan i brz dotok podataka, vozila bi glatko mogla koordinirati prolaţenje kroz najzagušenija kriţanja - baš onako kako računala danas koordiniraju protok nezamislivo velikog broja podataka po prometnicama Interneta. Ono što je u našem umu neizrecivo postaje sasvim izrecivim u sklopovima mikročipa. Za mnoge se spoznajne talente koje smo smatrali jedinstveno ljudskima pokazalo da to uopće nisu. Čim računala postanu dovoljno brza, počinju replicirati naše sposobnosti prepoznavanja obrazaca, donošenja odluka i učenja iz iskustva. Tome nas je prvi put 1997. poučilo IBM-ovo šahovsko super-računalo Deep Blue, koje je evaluiralo milijardu mogućih poteza u svakih pet sekundi, i pobijedilo svjetskog prvaka Garija Kasparova. S Googleovim inteligentnim automobilom, koji obraĎuje milijun očitanja iz okoliša u sekundi, još jednom dobivamo istu pouku. Za mnoge vrlo pametne stvari koje ljudi rade, mozak zapravo nije nuţan. Intelektualne vještine školovanih stručnjaka nisu ništa zaštićenije od automatizacije nego lijeva skretanja. Vidi se to posvuda. Stvaralački i analitički poslovi svake vrste posredovani su softverom. Liječnici uz pomoć računala postavljaju dijagnoze, a arhitekti projektiraju zgrade. Pravnici ocjenjuju dokaze, glazbenici simuliraju glazbala i dotjeruju notne zapise. Učitelji poučavaju i ocjenjuju. Računala ne preuzimaju te poslove u cijelosti, ali zalaze u mnoge njihove aspekte. A definitivno mijenjaju način njihova obavljanja. Ne kompjuteriziraju se samo zanimanja, nego i slobodno vrijeme. Zahvaljujući sve većoj rasprostranjenosti pametnih telefona, tableta i drugih malih, pristupačnih pa i nosivih računala, danas softveru prepuštamo izvoĎenje mnogih svakodnevnih postupaka, što korisnih što ugodnih. Imamo aplikacije za kupovinu, kuhanje, tjelovjeţbu pa čak i

pronalaţenje partnera i odgoj djece. Od kriţanja do kriţanja pratimo upute GPS-a ne bismo li se dovezli do odredišta. Uz pomoć društvenih mreţa odrţavamo prijateljstva i izraţavamo osjećaje. Od softvera za preporuke traţimo savjete o tome što gledati, čitati i slušati. Na naša pitanja odgovaraju, i naše probleme rješavaju, Google i Appleova Siri. Računalo postaje svenamjenskim pomagalom u navigaciji, manipulaciji i razumijevanju svijeta, i u njegovoj fizičkoj i u društvenoj manifestaciji. Pomislite samo na to što se danas dogaĎa kad ljudi zagube mobitel ili im se prekine veza s Internetom. Bez svojih digitalnih asistenata osjećaju se bespomoćno. Kako piše Katherine Hayles, profesorica knjiţevnosti na Sveučilištu Duke u svojoj knjizi iz 2012. Kako mislimo, “kad mi na računalu padne sistem ili kad pukne veza, osjećam se izgubljeno, dezorijentirano, nemoćna za rad - upravo kao da mi je netko amputirao ruku”7 Naša nas oslonjenost na računala katkad uznemiruje, ali uglavnom je smatramo dobrodošlom. Novim se ureĎajima i aplikacijama veselimo. Njima se hvalimo - i ne samo zato što su tako korisni i moderni. Ima nešto čarobno u kompjuterskoj automatizaciji. Promatrati kako iPhone prepoznaje neku opskurnu pjesmu koja svira u kafiću doţivljaj je koji bi bilo kojem prethodnom naraštaju bio nezamisliv. Zbor jarko obojenih tvorničkih robota koji bez napora sastavljaju solarne ploče ili motor mlaţnjaka nalikuje na neki teškometalni balet, čija je svaka sekunda koreografirana do u tisućinku milimetra i djelić sekunde. Ljudi koji su se vozili u Googleovim automobilima kaţu da je to uzbuĎenje gotovo onostrano; njihovom mozgu, vezanom za zemaljske stvari, trebalo je vremena i truda da obradi to iskustvo. Čini se da danas zaista ulazimo u neki vrli novi svijet, Sutrazemsku u kojoj će nam računala i automati stajati na usluzi, olakšavati nam teret, ispunjavati ţelje, i katkad nam samo praviti društvo. Vrlo ćemo brzo - uvjeravaju nas naši čarobnjaci iz Silicijske doline - imati robotsku poslugu i robotske šofere. Razne će nam sitnice izraĎivati 3D-printeri i do vrata donositi bespilotne letjelice. Na pomolu je svijet iz Jetsona, ili barem Knight Ridera. Teško se svime time ne šokirati. A teško je i ne osjećati nelagodu. Automatski mjenjač moţda izgleda kao sitnica u odnosu na Googleov nabildani Prius bez vozača, ali on mu jest prethodnica, mali korak na putu automatizacije, i ne mogu se ni sjetiti kako sam bio razočaran kad mi je pod rukom nestao mjenjač brzina - ili, da poštenije kaţem, kad mi se ostvarilo preklinjanje da mi pod rukom nestane mjenjač brzina. Ako me

komfor automatskog mjenjača ostavio s blagim osjećajem nedostatka, da sam nekako nedovoljno iskorišten, kako bi rekli ekonomisti rada, kako će li biti kad zaista postanem putnik u vlastitom automobilu?

Krive želje Problem je s automatizacijom u tome što nam ona često daje nešto što ne trebamo a košta nas nečega što trebamo. Da bismo shvatili zašto je tako, i zašto smo skloni pristati na takvu trgovinu, razmotrimo kako nam stanovite spoznajne pristranosti - mane u našem mišljenju - iskrivljuju predodţbe. Kad je u pitanju vrijednost rada i dokolice, oko uma se lako zamuti. Mihaly Csikszentmihalyi, profesor psihologije i autor popularne knjige Flow iz 1990., opisao je fenomen koji naziva “paradoks rada”. Uočio ga je u istraţivanju koje je 1980-ih proveo s kolegicom Judith LeFevre sa Sveučilišta u Chicagu. Uzorak im je bio stotinu radnika viših i niţih razina stručnosti, iz pet čikaških tvrtki. Svakome su dali elektronički dojavljivač (pejdţer - mobitel je tada još bio luksuz), programiran tako da kroz jedan tjedan nasumce emitira zvuk upozorenja sedam puta na dan. Ispitanici su tada trebali ispuniti kratak upitnik i opisati što su radili u tom trenutku, s kojim su se izazovima suočavali, koje su vještine razvijali, i psihološko stanje u kojem su se našli, a izraţeno motivacijom, zadovoljstvom, aktivnošću, kreativnošću i tako dalje. Namjera tog “uzorkovanja doţivljaja”, kako je Csikszentmihalyi nazvao tu tehniku, bila je saznati kako ljudi provode dan, na poslu i izvan radnog vremena, i kako im njihova aktivnost utječe na “kvalitetu doţivljaja”. Rezultati su bili neočekivani. Ljudi su bili sretniji, osjećali su se ispunjenije onime što rade, dok su bili na poslu. U slobodno vrijeme su osjećali dosadu i tjeskobu. No, svejedno nisu voljeli biti na poslu. Unutar radnog vremena izraţavali su jako ţelju da ne budu na poslu, a izvan radnog vremena raditi im je bilo posljednje što bi poţeljeli. Kako izvještavaju Csikszentmihalyi i LeFevre, “imamo paradoksalnu situaciju da se ljudi puno pozitivnije osjećaju dok su na poslu nego u slobodno vrijeme, a svejedno kaţu da bi “voljeli da sada rade nešto drugo” kad su na poslu, a ne kad nisu.8 Taj pokus pokazuje da potpuno pogrešno procjenjujemo koje će nas aktivnosti zadovoljavati a koje onezadovoljavati. Kao da čak i usred neke aktivnosti nismo u stanju točno ocijeniti njezine psihičke posljedice. To su simptomi jedne općenitije tegobe, kojoj su psiholozi nadjenuli poetski naziv kriva želja: ţelimo ono što nam se ne sviĎa, a sviĎa nam se

ono što ne ţelimo. “Kad priţeljkivani dogaĎaji ne pridonose našoj sreći, a pridonose joj oni koje ne priţeljkujemo”, primjećuju kognitivni psiholozi Daniel Gilbert i Timothy Wilson, “slobodno moţemo reći da smo krivo ţeljeli”.9 A kako pokazuje niz sumornih istraţivanja, krivo ţelimo stalno. Naša sklonost da pogrešno ocjenjujemo radno i slobodno vrijeme ima i svoju društvenu komponentu. Kako su svojim pokusima otkrili Csikszentmihalyi i LeFevre, i kako većina nas znade i iz vlastitog iskustva, ljudi si dopuštaju da ih vode društvene konvencije - u ovom slučaju, duboko ukorijenjena ideja da je “ne biti na poslu” poţeljnije, i prestiţnije, nego “biti na poslu” - umjesto da se vode za vlastitim osjećajima. “Očigledno”, zaključuju istraţivači, “takvo sljepilo prema stvarnom stanju stvari vjerojatno će imati nesretne posljedice i za dobrobit pojedinca i za zdravlje društva. Postupajući u skladu s iskrivljenom percepcijom “trudit će se činiti što više onoga što im donosi najmanje pozitivnih doţivljaja, a izbjegavat će činiti ono iz čega im potječu najpozitivniji i najintenzivniji osjećaji”.10 Teško da bi to bio recept za dobar ţivot. Nije tu riječ o tome da bi posao koji radimo za plaću bio sam po sebi superioran onome što činimo za zabavu ili razbibrigu. Daleko od toga. Mnogi poslovi su dosadni i poniţavajući, a mnogi hobiji i slobodne aktivnosti su poticajni i ispunjavajući. Ali, posao nameće strukturirano vrijeme, i ta se struktura gubi kad smo prepušteni sebi. Na poslu nas se potiče na takvu aktivnost koja ljudskom biću donosi najviše zadovoljstva. Najsretniji smo kad se zadubimo u kakav teţak zadatak, koji ima jasan cilj i koji od nas da radimo ono što umijemo, ali i to da svoje znanje proširujemo. Kada radimo, mi toliko uranjamo u tok svoga posla da se isključujemo iz svega što nas inače ometa, tišti i brine. “Svaki postupak, pokret, misao, neumitno slijede jedno iz drugoga”, objašnjava Csikszentmihalyi. “Cijelo se vaše biće više upreţe, i maksimalno iskorištavate svoje umijeće.”11 Do takvih stanja duboke uronjenosti mogu dovesti raznovrsni napori, od postavljanja pločica preko pjevanja u zboru do utrkivanja brdskim biciklom. Ne morate dobivati plaću da biste uţivali u tome da vas nosi tok. MeĎutim, kad nismo na poslu disciplina nam najčešće popušta a misli vrludaju. Moţda jedva čekamo kraj radnog vremena da malo trošimo plaću i zabavljamo se, ali slobodno vrijeme nam se najčešće rastoči. Bjeţimo od napornih poslova i tek se rijetko bavimo kakvim zahtjevnim hobijem. Radije ćemo gledati TV, otići u trţni centar ili pogledati Facebook. Ulijenimo se. A onda nas hvata dosada i razdraţljivost. Kad

nema vanjskog ţarišta, paţnja nam se okreće prema unutra i na kraju dospijemo u ono što Emerson naziva zatvorom samosvijesti. U poslu, čak i lošem, “zapravo je lakše uţivati nego u slobodnom vremenu”, kaţe Csikszentmihalyi, jer svaki posao “u sebi sadrţi” ciljeve i izazove koji nas “potiču da se udubimo u rad, da se koncentriramo i prepustimo poslu”.12 Ali naš se um zavara i ne dopušta nam povjerovati u to. Ako imamo priliku, rado ćemo pobjeći pred strogosti rada i osuditi se na besposličarenje.

Karte su posložene Zar je onda čudno što nas automatizacija privlači? Ona nam nudi smanjenje količine nuţnoga rada, i obećava da će nam ispuniti ţivot lakoćom, udobnošću i komforom. Računala i druge tehnologije koje nam olakšavaju posao privlačne su našoj krivoj ţelji za oslobaĎanjem od onoga što doţivljavamo kao muku. Na radnom mjestu, automatizacijom se cilja na poboljšanje brzine i djelotvornosti - motiv za to je zarada a ne neka osobita briga za ljudsku dobrobit - i njezina posljedica često bude uklanjanje sloţenosti iz rada, čime se smanjuje i njegova izazovnost pa onda i poticaj za uţivljavanje u posao. Automatizacija moţe umanjiti odgovornost radnika do te mjere da se posao često uglavnom svede na praćenje računalnog zaslona ili unošenje podataka u predviĎena polja. Čak su i stručni analitičari i drugi radnici visoke naobrazbe suočeni s time da im posao biva odreĎen sustavima za potporu pri odlučivanju, koji donošenje odluka pretvaraju u rutinski postupak obrade podataka. Aplikacije i drugi programi kojima se sluţimo u privatnom ţivotu imaju sličan učinak. Kad takav softver uzima na sebe teške ili dugotrajne poslove, ili ih naprosto olakšava, tada se još rjeĎe upuštamo u izazovne i zahtjevne djelatnosti koje nam daju osjećaj postignuća i zadovoljstva. Automatizacija nas i prečesto oslobaĎa upravo onoga od čega se zapravo osjećamo slobodno. Nije riječ o tome da bi automatizacija bila nešto loše. Automatizacija, kao i njena predšasnica, mehanizacija, na djelu su već stoljećima, i u velikoj su mjeri dovele do ţivotnih poboljšanja. Kad se mudro uvodi, automatizacija nas moţe osloboditi nezanimljivih poslova i otvoriti prostor za neki izazovniji zadatak koji će nas više ispunjavati. Riječ je o tome da nam racionalno razmišljanje o automatizaciji i shvaćanje toga što ona sve za sobom nosi - ne ide baš dobro. Ne znamo kada reći “dosta”, pa čak ni “stanimo na čas”. Karte su posloţene, ekonomski i emocionalno, u korist automatizacije. Korist od prebacivanja poslova s ljudi na strojeve i

računala lako je prepoznati i mjeriti. Tvrtka moţe numerički analizirati kapitalna ulaganja i proračunati dobitak od automatizacije “u valuti”: u smanjenju troškova rada, povećanom produktivnosti, brţem obrtu, većem prometu, većoj dobiti. U osobnom ţivotu, očigledno nam je na koliko nam načina računala omogućuju da uštedimo vrijeme i izbjegnemo gnjavaţu. A budući da se prema radu odnosimo pristrano u korist razbibrige, a prema naporu pristrano u korist lakoće, precjenjujemo dobrobiti automatizacije. Njezina nam cijena manje upada u oči. Znamo da računala čine neke struke zastarjelima i da zbog nje netko gubi posao, ali povijest sugerira, i većina ekonomista pretpostavlja, da će se pokazati da će eventualni pad zaposlenosti biti privremen i da će na dulji rok tehnologija koja poboljšava produktivnost stvoriti nova atraktivna zanimanja i podići ţivotni standard. Još se manje vidi njezina osobna cijena. Kako mjeriti pad truda i predanosti, jenjavanje angaţmana i autonomije, ili neopipljiv nestanak vještine? Nikako. Sve su to one fine stvari iz sjene, koje rijetko cijenimo dok ih ne izgubimo, a čak i tada teško jer takvu štetu nije lako izraziti dovoljno konkretno. Ali i ta je cijena stvarna. Odluke o tome što ćemo prepustiti računalima a što ćemo zadrţati za sebe nisu samo pitanja praktičnosti ili ekonomičnosti. Ta su pitanja etička. Ona utječu na bit našega ţivota i na mjesto u svijetu na koje se stavljamo. Automatizacija nas suočava s najvaţnijim mogućim pitanjem: što znači biti čovjek? Csikszentmihalyi i LeFevre su istraţujući naše svakodnevne postupke saznali još nešto. MeĎu svim slobodnim aktivnostima njihovih ispitanika, najjači su osjećaj toka imali dok voze auto.

2. Robot na vratima Početkom 1950-ih godina Leslie Illingworth, cijenjeni politički karikaturist britanskog satiričkog magazina Punch, nacrtao je jedan mračan i prijeteći crteţ. U suton nekog olujnog, jesenskog dana radnik bojaţljivo proviruje s dovratka neimenovane tvornice. U jednoj ruci steţe neku alatku; druga mu je šaka stisnuta. Gleda preko blatnog tvorničkog dvorišta prema glavnom ulazu. A tamo, pokraj natpisa “traţe se radnici” stoji divovski robot širokih ramena. Na prsima mu blista tiskanim slovima ispisana riječ “automatizacija”. Ta je ilustracija bila znak svoga vremena, odraz jedne nove tjeskobe koja je prodirala kroz društvo Zapada. Iznova je otisnuta 1956. na naslovnici tanašne ali utjecajne knjige Automatizacija: prijatelj ili neprijatelj? Roberta Hugha Macmillana, inţenjera i profesora na Sveučilištu Cambridge. Macmillan na prvoj stranici postavlja uznemirujuće pitanje: “Jesmo li se našli u opasnosti da nas unište vlastite tvorevine?” Kako je objasnio, ne radi se o poznatim “opasnostima neograničenog ratovanja „na gumb‟”. Riječ je o jednoj skrovitoj a opakoj prijetnji o kojoj se manje raspravlja: “sve brţe rastućem udjelu što ga automatski ureĎaji imaju u mirnodopskom industrijskom ţivotu svih civiliziranih zemalja”.13 Baš kao što su prijašnji strojevi “zamijenili čovjekove mišiće”, smatrao je da bi ti novi ureĎaji mogli “zamijeniti njegov mozak”. Preuzimajući na sebe mnoge dobre, i dobro plaćene poslove, oni prijete općom nezaposlenošću, koja će voditi društvenim nemirima i previranjima upravo onakvima kakve je Karl Marx bio predvidio jedno stoljeće prije.14 Ali, nastavlja Macmillan, ne mora tako biti. Ako se “ispravno primjenjuje”, automatizacija bi mogla dovesti do ekonomske stabilnosti i općeg blagostanja, te osloboditi ljudski rod od napornih poslova. “Ja se nadam da će nam ta nova grana tehnologije omogućiti da skinemo prokletstvo Adamovo s čovjekovih pleća, jer strojevi bi uistinu mogli postati sluge čovječje a ne gospodari, sada kad su smišljene praktične tehnike da ih se automatski kontrolira.”15 Neovisno o tome hoće li se tehnike automatizacije na kraju pokazati prokletstvom ili blagoslovom, upozorava Macmillan, jedno je sigurno: imat će sve veću ulogu u društvu i

proizvodnji. Ekonomski imperativi “izrazito kompetitivnog svijeta” to su učinili neizbjeţnim. Ako robot bude mogao raditi brţe, jeftinije i bolje nego čovjek, posao će dobiti robot.16

Neobično srodstvo “Mi smo našim strojevima braća i sestre”, jednom je napomenuo povjesničar tehnologije George Dyson.17 Mi naše strojeve volimo - ne samo zato što su nam korisni, nego zato što nam je s njima ugodno, čak su nam i lijepi. U dobro izraĎenu stroju prepoznajemo neke od naših najdubljih teţnji: ţelju da razumijemo svijet i njegov ustroj, ţelju da moć prirode usmjerimo prema našim ciljevima, ţelju da u svemir unesemo nešto novo što smo sami napravili, ţelju da nekoga oduševimo i da nas se poštuje. Domišljat stroj izvor je divljenja i ponosa. No, strojevi su i ruţni, i predosjećamo da prijete onome što nam je priraslo srcu. Strojevi moţda sprovode ljudsku moć, ali tom moći obično rukuju industrijalci i financijaši koji su vlasnici ureĎaja, a ne ljudi koji su plaćeni da upravljaju tim strojevima. Strojevi su hladni i bezumni, i u njihovu izvršavanju propisanih postupaka naziremo sliku mračnih mogućnosti društva. Strojevi moţda unose nešto ljudsko u tuĎinski svemir, ali unose i nešto tuĎe u ljudski svijet. Matematičar i filozof Bertrand Russell jezgrovito je u svom ogledu iz 1924. zapisao sljedeće: “Strojeve se oboţava zato što su lijepi, a cijeni ih se zato što donose moć; mrzi ih se zato što su ruţni, a prezire ih se zato što uvode u ropstvo.”18 Iz Russellova se komentara vidi da napetost u Macmillanovu pogledu na automatske strojeve - da će nas ili uništiti ili izbaviti, osloboditi ili porobiti - ima dugu povijest. Ista se napetost provlači i kroz reakcije na tvornička postrojenja još od početaka industrijske revolucije prije više od dvije stotine godina. Dok su se mnogi naši preci radovali dolasku mehanizirane proizvodnje, smatrajući je simbolom napretka i jamcem blagostanja, neki su bili zabrinuti da će im strojevi ukrasti posao, pa čak i dušu. Od tada do danas, priča o tehnici priča je o brzoj, često zbunjujuće brzoj promjeni. Zahvaljujući domišljatosti naših izumitelja i poduzetnika, gotovo da i nije bilo desetljeća bez nastupa novih, doraĎenijih i moćnijih strojeva. No naša je ambivalentnost prema tim čudesnim tvorevinama, djelima naših ruku i umova, ostala konstantnom. Gotovo kao da, gledajući u stroj pred sobom, makar nejasno, vidimo nešto o sebi čemu zapravo ne vjerujemo.

U svom majstorskom Bogatstvu naroda iz 1776., temeljnom tekstu slobodnog poduzetništva, Adam Smith je hvalio veliku raznovrsnost “vrlo zgodnih strojeva” što su ih proizvoĎači uvodili u poslovanje ne bi li se “skratili i olakšali rad”. Omogućavajući “jednom čovjeku da obavi posao mnogih”, predviĎao je Smith, modernizacija će silno povećati industrijsku produktivnost.19 Tvorničar će imati veću dobit, koju će uloţiti u širenje proizvodnje - u nove tvornice, nove strojeve, i upošljavanje novih ljudi. Svaki taj stroj skraćuje rad, i to nije loše za radnike, dapače time se dugoročno potiče potraţnja za radnicima. Drugi su mislioci prihvatili i razradili taj Smithov sud. Zahvaljujući većoj produktivnosti - koju omogućuju postrojenja koja skraćuju rad predviĎali su, poslovi će se mnoţiti, nadnice rasti, a cijene dobara padati. Radnici će imati više novca u lisnici, i njime će kupovati proizvode proizvoĎača koji ih upošljavaju. To će donijeti još više kapitala i omogućiti širenje poslovanja. Na taj način mehanizacija pokreće začarani krug ubrzava ekonomski rast društva, uvećava i širi njegovo bogatstvo, i ljudima donosi, kako kaţe Smith, “ugodu i luksuz”.20 Činilo se da taj pogled na tehnologiju kao na ekonomski eliksir ţivota sretno proizlazi iz rane povijesti industrijalizacije, i postao je okosnicom ekonomske teorije. Ta ideja nije bila privlačna jedino ranim kapitalistima i njihovoj akademskoj subraći. Mehanizaciju su s odobravanjem dočekali i mnogi reformatori društva, vidjevši u njoj najveću nadu u izdizanju gradskih masa iz siromaštva i sluţništva. Ekonomisti, reformatori i kapitalisti mogli su si priuštiti gledanje na dugi rok. To nije bio slučaj i sa samim radnicima. Čak i privremeno “skraćivanje” rada moglo je stvarno i neposredno zaprijetiti njihovoj egzistenciji. UvoĎenje novih tvorničkih postrojenja ostavilo je mnoge bez posla, a mnoge druge je prisililo da zanimljiv, stručan posao zamijene za muku i dosadu povlačenja poluga i pritiskanja pedala. U mnogim dijelovima Britanije u osamnaestom i početkom devetnaestog stoljeća stručni su radnici posezali za sabotaţom novih postrojenja kao načinom obrane svojih poslova, svojih struka i svojih zajednica. “Uništavanje strojeva”, tako su nazvali taj pokret, nije bio samo napad na tehnološki napredak. Bio je to koordinirani pokušaj stručnih radnika da zaštite svoj način ţivota, u velikoj mjeri vezan za njihovo umijeće, i da si potvrde ekonomsku i graĎansku autonomiju. “Ako se radniku neki stroj nije sviĎao”, piše povjesničar Malcolm Thomis pozivajući se na onodobne opise te pobune, “razlog je bio način njihove upotrebe, a ne to što je stroj i

što je nov”.21 Uništavanje strojeva kulminiralo je ludditskom pobunom koja je bjesnila pokrajinama središnje Engleske od 1811. do 1816. godine. Tkalci i pletači, bojeći se propasti lokalnih manufaktura, organizirali su se u gerilske skupine namjeravajući spriječiti uvoĎenje mehaniziranih pletaćih i tkalačkih strojeva u tvorničke preraĎivače tekstila. Ludditi su svoj danas zloglasni naziv preuzeli od legendarnog uništavača strojeva iz Leicestershirea znanog kao Ned Ludlam, a poduzimali su noćne racije u kojima su napadali tvorničke pogone, često pritom kvareći nova postrojenja. U borbi protiv pobunjenika bile su angaţirane tisuće britanskih vojnika koji su pobunu slomili čistom silom, mnoge pobivši a druge strpavši u zatvor. Iako su ludditi i drugi uništavači strojeva imali nešto sporadičnog uspjeha u usporavanju tempa mehanizacije, definitivno je nisu uspjeli zaustaviti. Strojevi su ubrzo postali tako uobičajeni u tvornicama, tako bitni za industrijsku proizvodnju i trţišno natjecanje, da se opiranje njihovoj upotrebi počelo smatrati posve zaludnim. Radnici su pristali na nov tehnološki reţim, iako su zadrţali nepovjerenje prema strojevima.

Doba strojeva Najsnaţniji i najutjecajniji izraz te duboke podjele u društvenim nazorima prema tehnologiji dao je, nekoliko desetljeća nakon što su ludditi izgubili bitku, Karl Marx. U svojim napisima Marx tvorničkim strojevima često pridaje stanovitu demonsku, parazitsku volju, opisujući ih kao “mrtvi rad” koji “gospodari ţivom radnom snagom i iscrpljuje je”. Radnik postaje “puki ţivi dodatak” tom “beţivotnom mehanizmu”.22 U jednoj mračnoj proročkoj primjedbi koju je dao u govoru 1856. rekao je sljedeće: “Sva naša domišljatost i sav naš napredak kao da su doveli do toga da se materijalne sile obdare umnim ţivotom, a da se ljudski ţivot zatupi u materijalnu silu.”23 Marx, meĎutim, ne govori samo o “paklenskim učincima” strojeva. Kako objašnjava teoretičar medija Nick DyerWitheford, Marx je uviĎao i pozdravljao “njihovo emancipacijsko obećanje”.24 Moderni strojevi, primjećuje Marx u istom govoru, imaju “divnu moć da ljudski rad skrate i učine ga plodnijim”.25 OslobaĎajući radnike od uske specijaliziranosti struke, strojevi bi im mogli dopustiti da ispune svoj potencijal kao “potpuno razvijeni” pojedinci koji se mogu prebacivati meĎu “različitim društvenim funkcijama”. 26 U pravim rukama u rukama radnika a ne kapitalista - tehnologija više ne bi bila sredstvo

tlačenja. Postala bi uzdiţućom polugom samoispunjenja. Kako se bliţilo dvadeseto stoljeće, ideja o strojevima kao o nečem što emancipira sve se dublje primala u kulturi Zapada. U članku iz 1897. u kojemu hvali mehaniziranost američke industrije, francuski ekonomist Émile Levasseur nabraja blagodati koje je nova tehnologija donijela “radnim klasama”. Podignula je radničke nadnice i snizila cijene koje plaćaju za razna dobra, i ponudila im veći materijalni komfor. Potaknula je obnavljanje tvornica pa su radna mjesta postala čišća, bolje osvijetljena i općenito prijaznija nego što su to bile mračne sotonske radionice koje su obiljeţile rane godine industrijske revolucije. A najvaţnije, podignula se kvaliteta rada koji obavljaju ruke radnika u tvornici. “Rad im je postao manje naporan jer stroj radi sve što zahtijeva veliku snagu; radnik, umjesto da upotrebljava mišiće, postaje nadzornik i sluţi se umom.” Levasseur priznaje da radnici i dalje negoduju što moraju rukovati strojevima. “Zazorno im je što [stroj] zahtijeva tako ustrajnu pozornost da to počinje ići na ţivce”, piše on, i optuţuju strojeve za to što “poniţavaju čovjeka pretvarajući ga u stroj, koji znade napraviti neki pokret, ali uvijek jedan te isti”. No, takve prituţbe odbacuje kao sljepilo: radnici jednostavno ne shvaćaju koliko su dobro prošli.27 Neki umjetnici i intelektualci, vjerujući da je maštovit umni rad po sebi superioran proizvodnom radu tijela, smatrali su da nadolazi neka vrsta tehnološke utopije. Oscar Wilde, u ogledu objavljenom iste godine kao i Lavasseurov, iako napisanom za posve drukčiju publiku, predviĎao je da će doći dan kad će strojevi ne samo olakšavati rad, nego ga i dokinuti. “Sav jednoličan, dosadan posao, svaki posao u kojem se barata groznim tvarima, koji se mora obavljati u neugodnim uvjetima, sve to moraju obavljati strojevi”, piše on. “Budućnost svijeta počiva na mehaničkom ropstvu, na robovanju strojeva.” Da će strojevi preuzeti ulogu robova gotova je stvar, činilo se Wildeu: “Nema nimalo sumnje da je sve to budućnost strojeva, i baš kao što stabla rastu dok gospoda spavaju, tako će se i čovječanstvo zabavljati, ili uţivati u kultiviranoj razonodi - a ona je, a ne rad, cilj čovjeka - ili izraĎivati prelijepe stvari, ili čitati prelijepo štivo, ili jednostavno misliti o svijetu s uţitkom i divljenjem, dok će strojevi obavljati sav nuţan i neugodan posao.”28 Velika ekonomska kriza 1930-ih sputala je taj entuzijazam. Ekonomski slom potaknuo je veliku gorčinu prema onom što se u “ludim dvadesetima” veselo nazivalo Dobom strojeva. Radnički sindikati i vjerske skupine, kriţarski raspoloţeni kolumnisti i očajni graĎani - svi su se oni

okrenuli protiv strojeva zbog kojih nestaju poslovi te pohlepnih poslovnih ljudi, vlasnika strojeva. “Strojevi nisu stvorili pojavu nezaposlenosti”, pisao je autor uspješne knjige naslova Ljudi i strojevi, “ali su je iz manje neugodnosti prometnuli u jednu od najvećih bolesti čovječanstva”. Čini se, nastavlja on, “da će nam odsada biti to gore što nam proizvodnja bude išla bolje.”29 Gradonačelnik Palo Alta u Kaliforniji napisao je pismo predsjedniku Herbertu Hooveru u kojem ga poziva na akciju protiv tog “frankenštajnskog čudovišta” industrijske tehnologije, pošasti koja “proţdire našu civilizaciju”.30 Katkad je strahove u javnosti raspaljivala i vlada. U jednom se izvještaju drţavne sluţbe tvorničko postrojenje naziva “opasnim poput divlje ţivotinje”. Nekontrolirano ubrzanje napretka, piše autor, društvo je ostavilo kronično nepripremljenim za to da se nosi s njegovim posljedicama.31 No, ekonomska kriza nije posve ugušila wildeovski san o strojnom raju. U nekom smislu utopijska je vizija napretka postala još ţivopisnija, još neophodnija. Što smo više u strojevima vidjeli neprijatelje, to smo jače ţudjeli da nam postanu prijatelji. “Zadesila nas je” pisao je veliki britanski ekonomist John Maynard Keynes 1930., “jedna nova bolest za čije ime neki čitatelji moţda nisu čuli, ali o kojoj će itekako još slušati u vremenu koje je pred nama - a naziv joj je tehnološka nezaposlenost.” Moć strojeva da na sebe preuzimaju poslove razvijala se brţe nego mogućnost ekonomije da stvara nove korisne poslove koje će obavljati ljudi. No, taj je problem, uvjeravao je Keynes čitatelja, samo simptom “privremene faze neprilagoĎenosti”. Rast i blagostanje će se vratiti. Dohodak po stanovniku će rasti. A ubrzo, zahvaljujući našoj poduzetnosti te djelotvornosti naših mehaničkih robova, nećemo više ni morati brinuti o poslovima. Keynes je mislio da je sasvim moguće da će za stotinu godina, do 2030., tehnološki napredak osloboditi čovječanstvo od “bitke za preţivljavanje” i potjerati ga do “našeg odredišta ekonomskog blaţenstva”. Strojevi će obavljati još više posla za nas, ali to više nećemo smatrati razlogom za brigu ili očaj. Dotad ćemo smisliti kako proširiti materijalno bogatstvo do svakoga. Naš će jedini problem biti kako dobro iskoristiti beskrajne sate dokolice - naučiti “uţivati” umjesto “naprezati se”.32 Još se uvijek trudimo, i sva je prilika da ekonomsko blaţenstvo na našem planetu neće uzaći do 2030. No, iako su Keynesa 1930- ih bile prevarile njegove nade, u osnovi je bio u pravu kad je riječ o budućnosti ekonomije. Kriza se pokazala privremenom. Rast se vratio, došli su novi poslovi, plaće su skočile a tvrtke su i dalje kupovale još više boljih

strojeva. Ekonomska neravnoteţa, nesavršena i krhka kao uvijek, ponovno se uspostavila. Čarobni krug Adama Smitha vrti se i dalje. Godine 1962. predsjednik Kennedy je, u govoru odrţanom u Zapadnoj Virginiji, tako mogao izjaviti: “Vjerujemo da, ako čovjek ima dar za izum novih strojeva zbog kojih čovjek gubi posao, onda ima i dar za to da se čovjek vrati na posao”.33 Već od otvaranja ta rečenica zvuči kao kennedyjevska. Jednostavne riječi dobivaju na rezonantnosti kad se ponavljaju: čovjek, dar, čovjek, posao, dar, čovjek, posao. Bubnjajući, ritam dovodi do razrješenja - “na posao” - dajući mu prizvuk neumitnosti. Onima koji su ih slušali, Kennedyjeve su riječi mogle zazvučati kao kraj priče. Ali nije bio kraj. Bio je to svršetak jednog poglavlja, a novo je već započinjalo.

Pražnjenje Zabrinutost zbog tehnološke nezaposlenosti ponovno raste, pogotovo u Sjedinjenim Drţavama. Recesija ranih 1990-ih, u kojoj su entuzijastične američke tvrtke poput General Motorsa, IBM-a i Boeinga otpustile desetke tisuća radnika za golemih “restrukturiranja”, potaknula je strahove da će nove tehnologije, a osobito jeftina računala i pametni programi, izbrisati namještenja za srednju klasu. Sociolozi Stanley Aronowitz i William DiFazio 1994. su objavili knjigu Budućnost bez posla o “tehnološkoj promjeni na štetu rada”, koju su vidjeli u “trendu koji ide prema sve više slabo plaćenih privremenih poslova bez radničkih prava za tvorničke i uredske namještenike, i sve manje stalnih poslova u objema kategorijama”.34 Godinu dana poslije izlazi uznemirujući Kraj rada Jeremyja Rifkina. Jačanje računalne automatizacije pokrenulo je “treću industrijsku revoluciju”, izjavljuje Rifkin. “U godinama koje su pred nama, sve sofisticiranije softverske tehnologije dovest će civilizaciju sasvim blizu svijeta bez radnika.” Društvo je na prekretnici, piše on. Računala bi mogla “dovesti do masovne nezaposlenosti a moţda i do globalne ekonomske krize”, ali bi nas mogla i “osloboditi za ţivot sa sve više dokolice” ako budemo spremni prepraviti okosnice suvremenog kapitalizma.35 Te su dvije knjige, i druge slične njima, uznemirile čitatelje, ali strahovi od tehnologizirane budućnosti bez posla ubrzo su minuli. Novi ekonomski rast sredinom i potkraj 1990-ih, koji je kulminirao u bezglavom dot-com boomu, skrenuo je pozornost s apokaliptičnih predviĎanja masovne nezaposlenosti. Desetak godina poslije, u osvit velike ekonomske krize 2008.,

tjeskoba se vratila, jača no ikad prije. Sredinom 2009. američko je gospodarstvo, još u opravku nakon sloma, ponovno počelo jačati. Korporacijama se vratila dobit. Kapitalna ulaganja u tvrtkama su se popela na predrecesijsku razinu. Burze su ojačale. Ali, zapošljavanje se nikako nije vraćalo. Iako nije neobično da tvrtke pričekaju da se oporavak učvrsti prije nego počnu nova zapošljavanja, toj stanci ovaj put kao da nije bilo kraja. Rast zapošljavanja ostao je neobično blag a stopa nezaposlenosti tvrdoglavo visoka. U potrazi za objašnjenjem - i krivcem - ljudi su uprli pogled u deţurnog sumnjivca: tehnologiju koja štedi rad. Potkraj 2011. dva su ugledna istraţivača s MIT-a, Erik Brynjolfsson i Andrew McAfee, objavila kratku e-knjigu pod naslovom Utrka sa strojevima, u kojoj su blago ukorili ekonomiste i kreatore javnih politika što ne shvaćaju ozbiljno mogućnost da tehnologija rada bitno smanjuje potrebe tvrtki za novim uposlenicima. “Empirijska činjenica” da je tehnologija stoljećima poticala zapošljavanje “prikriva jednu ruţnu tajnu”, pišu oni. “Nema tog ekonomskog zakona koji bi rekao da svatko, pa čak ni većina, automatski ima koristi od tehnološkog napretka.” Iako su Brynjolfsson i McAfee sve samo ne tehnofobni - sve vrijeme oni zadrţavaju optimizam u pogledu mogućnosti robota i strojeva da povećaju produktivnost i na dugi rok poboljšaju ţivot ljudima - oni iznose veoma jake argumente u prilog realnosti tehnološke nezaposlenosti, te tvrde da je ona postala općom pojavom i da će se stanje vjerojatno još znatno pogoršati. Ljudska bića, upozoravaju oni, gube bitku protiv strojeva.36 Njihova je e-knjiga pala na plodno tlo. Potaknula je ţustru, katkad i preburnu raspravu meĎu ekonomistima, i uskoro je privukla paţnju novinara. Izraz “tehnološka nezaposlenost”, koji je pomalo iščeznuo iz upotrebe nakon Velike ekonomske krize, ponovno je zaokupio javni um. Početkom 2013. TV-emisija 60 minuta donosi reportaţu pod naslovom “Strojevi marširaju” u kojoj se istraţuje kako se tvrtke sluţe novim tehnologijama umjesto radnika u skladištima, bolnicama, pravnim uredima i tvornicama. Izvjestitelj Steve Kroft sa ţaljenjem govori o “golemoj industriji visoke tehnologije koja je američkoj privredi donijela neizmjernu produktivnost i bogatstvo, ali iznenaĎujuće malo toga kad je riječ o zapošljavanju”.37 Ubrzo nakon emitiranja, ekipa novinara Associated Pressa objavila je trodijelnu istraţivačku reportaţu o ustrajnosti visoke nezaposlenosti. Njihov je sumoran zaključak: “tehnologija je poslove učinila suvišnima”. Primjećujući da pisci znanstvene fantastike već odavno “upozoravaju na budućnost u kojoj ćemo sami graditi vlastitu suvišnost u

kojoj će nas zamijeniti strojevima”, izvjestitelji AP-a ustvrĎuju da je “ta budućnost stigla”.38 Citirali su jednog analitičara koji je predvidio da će stopa nezaposlenosti do kraja stoljeća dosegnuti 75 posto.39 Takve je prognoze lako opisati kao neutemeljene. U njima kao da odjekuje panika s kojom se svako malo suočavamo još od osamnaestog stoljeća. Iz svakog gospodarskog pada uzdiţe se sablast frankenštajnovskog čudovišta koje proţdire radna mjesta. A kad se val ekonomskog ciklusa izdigne iz dola i poslovi se vrate, čudovište se vraća u kavez i briga jenjava. Ovaj put, meĎutim, ekonomija se ne ponaša kao inače. Sve je više dokaza za to da je na djelu neka nova i neugodna dinamika. Pridruţujući se Brynjolfssonu i McAfeeju, nekolicina je istaknutih ekonomista počela preispitivati pretpostavku omiljenu u njihovoj struci, da povećanja produktivnosti zbog novih tehnologija dovode do rasta plaća i zaposlenosti. Oni ukazuju na to da je produktivnost u SAD-u u prošlom stoljeću rasla brţe nego u zadnjem tridesetgodišnjem razdoblju, da je dobit korporacija probila plafone kakve nismo vidjeli već pedeset godina, i da se investicije u novu opremu strmo uspinju. Ta bi kombinacija trebala dovesti do robusnog rasta zaposlenosti. MeĎutim, ukupan broj poslova u zemlji povećao se tek nezamjetno. Rast se od zaposlenosti u “razvijenim zemljama odvojio”, kaţe ekonomist-nobelovac Michael Spence, a glavni razlog je tehnologija: “zamjena rutinskih manualnih poslova strojevima i robotima snaţan je, trajan a moţda i ubrzavajući trend u proizvodnji i logistici, a računala i mreţe zamjenjuju rutinske uredske poslove u obradi informacija”.40 Dio velikih izdataka posljednjih godina na robote i druge vidove automatizacije moţda odraţava trenutačne ekonomske okolnosti, osobito stalne napore političara i središnjih banaka da potiču rast. Niske kamatne stope i agresivni drţavni poticaji kapitalnih ulaganja izgledno su hrabrili tvrtke na kupnju strojeva i strojeva koji štede rad, i onih koje inače moţda ne bi bili kupili.41 No, čini se da su na djelu i dublji, dugotrajniji trendovi. Alan Krueger, ekonomist s Princetona koji je od 2011. do 2013. predsjedavao Vijećem ekonomskih savjetnika Baracka Obame, ističe da ni prije krize “privreda SAD-a nije stvarala dovoljno poslova, osobito poslova srednje klase, a proizvodne poslove smo gubili alarmantnom brzinom”.42 Slika je od tada postajala samo mračnija. Moglo bi se pretpostaviti da, bar kad je riječ o proizvodnji, poslovi ne nestaju nego samo prelaze u zemlje s niţim nadnicama. To ne stoji. Ukupni svjetski zbroj radnih mjesta u proizvodnji već godinama opada, čak i u industrijski najsnaţnijim

zemljama, poput Kine, dok je ukupna proizvodnost jako rasla.43 Strojevi zamjenjuju tvorničke radnike brţe nego što privredna ekspanzija stvara nova proizvodna radna mjesta. Industrijski roboti postaju jeftiniji i upotrebljiviji, pa će razlika izmeĎu izgubljenih i novostvorenih radnih mjesta skoro sigurno bivati sve veća. Čak se i vijesti da tvrtke poput General Electrica i Applea vraćaju dio proizvodnih poslova u SAD doimaju istovremeno dobre i loše. Jedan od razloga zbog kojih se poslovi vraćaju upravo je to što se veći dio izrade odvija bez ljudskih bića. “Tvorničke su hale danas gotovo ispraţnjene od ljudi jer programirljivi strojevi obavljaju veći dio posla”, izvještava ekonomist i profesor Tyler Cowen.44 Trošak rada ne mora brinuti tvrtku ako radnike i ne upošljava. Industrijska privreda - privreda strojeva - fenomen je novijega datuma. S nama je samo dva i pol stoljeća, dakle samo jedan mali otkucaj sata povijesti. IzvoĎenje konačnih zaključaka o vezi tehnologije i zapošljavanja na temelju tako kratkog iskustva vjerojatno je bilo ishitreno. Logika kapitalizma, kad je kombiniramo s povijesti znanstvenog i tehničkog napretka, doima se pomalo kao recept za konačno uklanjanje rada iz procesa proizvodnje. Strojevi, za razliku od radnika, ne zahtijevaju udjel u kapitalistovu ulaganju. Oni se ne razbolijevaju, ne očekuju plaćeni dopust, ne traţe povišicu. Za kapitalista, rad je problem čije je rješenje napredak. Daleko od toga da bude iracionalan, strahu da će tehnologija smanjiti zaposlenost sudbina je da će se ostvariti “na jako dugi rok”, tvrdi ugledni ekonomski povjesničar Robert Skidelsky: “Prije ili poslije, poslova više neće biti.”45 Koliko je dug taj jako dugi rok? To ne znamo, iako Skidelsky upozorava na to da bi za neke drţave mogao biti “neugodno kratak”.46 Utjecaj moderne tehnologije na kraći bi se rok mogao osjetiti više u raspodjeli poslova nego u ukupnim stopama zaposlenosti. Mehanizacija manualnog rada u vrijeme industrijske revolucije istisnula je neke dobre poslove, ali je dovela do stvaranja cijelih novih skupina poslova srednje klase. Kako su se tvrtke širile ne bi li zadovoljile veća i udaljenija trţišta, zapošljavale su cijele čete nadzornika i računovoĎa, dizajnera i stručnjaka za prodaju. Rasla je potraţnja za učiteljima, liječnicima, odvjetnicima, knjiţničarima, pilotima i raznim drugim stručnjacima. Sastav trţišta rada nikad nije stalan; ono se mijenja u skladu s tehnološkim i društvenim trendovima. No, ništa ne jamči da će te promjene uvijek ići na ruku radnicima, niti da će povećavati srednju klasu. Kako se računala sve više programiraju tako da na sebe preuzimaju poslove srednje klase, mnogi

stručni radnici bivaju prisiljeni raditi slabo plaćene poslove, ili s punog radnog vremena prelaze na pola. Većina poslova koji su izgubljeni u posljednjoj recesiji pripadala je dobro plaćenim djelatnostima, dok gotovo tri četvrtine poslova otvorenih nakon recesije otpada na nisko plaćene sektore. Proučivši uzroke “nevjerojatno mlakog rasta zaposlenosti” u Sjedinjenim Drţavama od 2000. godine, ekonomist sa sveučilišta MIT David Autor zaključuje da je informacijska tehnologija “uistinu izmijenila razdiobu zanimanja” te stvara sve veći nesrazmjer u dohotku i bogatstvu. “U prehrambenim uslugama je obilje posla, obilje posla je i u financijama, ali je manje poslova srednjeg dohotka, srednje plaće.”47 Ako nove računalne tehnologije sliju još više dobiti stvorene privredom u još manje ruku, lako je moguće da će se taj trend još više ubrzati, srednja klasa još više prošupljiti a gubitak poslova ubrzati čak i kod najbolje plaćenih stručnjaka. “Pametni strojevi moţda omogućuju još viši BDP”, primjećuje Paul Krugman, još jedan dobitnik Nobelove nagrade za ekonomiju, “ali oni i smanjuju potraţnju za ljudima pa i pametnim ljudima. Pred nama je, dakle, društvo koje postaje sve bogatije, ali u kojemu svu dobit grabi vlasnik robota, tko god to bio.”48 Ipak, nisu sve vijesti loše. Privreda SAD-a se zahuktala potkraj 2013. i u 2014., i zapošljavanje je raslo u nekoliko sektora, uz ostale u graĎevini i zdravstvu, i u nekim bolje plaćenim strukama došlo je do ohrabrujućih pomaka. Potraţnja za radnicima ostaje vaţnom za ekonomski ciklus, makar moţda ne onako čvrsto kao prije. Povećanje upotrebe računala i softvera i samo je stvorilo neke vrlo privlačne nove poslove, kao i mnoštvo poduzetničkih prilika. MeĎutim, mjereno povijesnim standardima, broj ljudi uposlenih u računarstvu i srodnim područjima ostaje skroman. Sveukupno, privatni sektor ne stvara nove, dobro plaćene poslove u onoj mjeri koja bi bila potrebna da se apsorbiraju svi oni radnici srednje klase koji su izbačeni sa svojih tradicionalnih poslova. Ne moţemo svi postati programeri i robotičari. Ne moţemo svi sklopiti šatore i preseliti se u Silicijsku dolinu pa zaraĎivati na zgodnim aplikacijama za pametne telefone.49 Ako prosječne plaće stagniraju a dobit korporacija ne prestaje rasti, obilja privrede će po svoj prilici i dalje teći tek sretnoj nekolicini. A Kennedyjeve bodre riječi zvučat će sve sumnjivije i sumnjivije. Što bi ovaj put moglo biti drugačije? Što se to točno promijenilo, i moţda razbija staru sponu izmeĎu novih tehnologija i novih poslova? Da bismo odgovorili na to pitanje morat ćemo se još jednom osvrnuti na onog divovskog robota s vratnica iz karikature Leslieja Illingwortha - robota

zvanog automatizacija.

Na pritisak gumba Riječ automatizacija ušla je u jezik prilično nedavno. Koliko nam je poznato, prvi je put izgovorena 1946., kad su inţenjeri tvrtke Ford osjetili potrebu da je skuju pri opisu najnovijih postrojenja uvedenih na tvrtkine tvorničke trake. “Dajte nam još malo tih automatskih”, navodno je na nekom sastanku rekao Fordov potpredsjednik. “Još te... automatizacije.”50 Fordove su tvornice već bile slavne po mehanizaciji, i sofisticirani su strojevi već usavršavali svaki posao na proizvodnoj traci. No, tvornički su radnici još uvijek morali rukama prenositi materijal i poludovršene proizvode s jednog na drugi stroj. Utoliko su tempo proizvodnje kontrolirali radnici. Strojevi koji su uvedeni 1946. to su promijenili. Funkcije prenošenja i baratanja materijalom preuzeli su strojevi, pa se cijeli proces sklapanja mogao početi odvijati automatski. Ta se promjena toka posla radnicima tada moţda nije činila prijelomnom. No, jest bila prijelomna. Kontrola nad sloţenim industrijskim procesom prešla je s radnika na stroj. A glas se brzo širio. Dvije godine poslije, u izvještaju o Fordovim postrojenjima, pisac časopisa American Machinist definirao je automatizaciju kao “umjetnost primjene mehaničkih naprava u baratanju radnim dijelovima... pri čemu je proizvodnja vremenski usklaĎena tako da se proizvodnom linijom moţe djelomično ili u cijelosti upravljati pritiskom na gumbe na strateškim mjestima.”51 Kako je automatizacija stizala u sve više djelatnosti i proizvodnih procesa, i zadobivala sve veću metaforičku teţinu u kulturi, njezina se definicija sve više rastezala. “Malo je riječi koje su se posljednjih godina toliko iskrivljavale u značenju, za toliko različitih svrha i fobija, kao što je to automatizacija”, ţalio se jedan profesor Harvardske poslovne škole 1958. godine. “Rabi se kao poziv na akciju, kao cilj u proizvodnji, kao inţenjerski izazov, kao reklamni slogan, kao radnička parola, i kao simbol znakovitog tehničkog napretka.” Potom on nudi svoju, uzvišeno pragmatičku definiciju: “Automatizacija jednostavno znači nešto značajno više automatsko od onog što je prethodno postojalo u toj tvornici, ili djelatnosti, ili na tom mjestu”52 Automatizacija nije bila toliko neka stvar ili tehnika, nego više stanovita sila. Bila je to više manifestacija napretka nego neki odreĎeni način proizvodnje. Svaki pokušaj da se njezine posljedice objasne ili predvide bio bi nuţno provizoran. Kao što je to slučaj s mnogim tehničkim trendovima,

automatizacija će uvijek biti i stara i nova, i trebat će je iznova vrednovati u svakoj fazi njezina napredovanja. To, što se Fordova automatizirana postrojenja pojavila upravo nakon kraja Drugog svjetskog rata nije bila slučajnost. Moderna se automatizacija formirala upravo u ratu. Kad su nacisti počeli s navalom bombardiranja Velike Britanije 1940., engleski i američki znanstvenici su se suočili s istodobno teškim i hitnim izazovom: kako obarati brze bombardere koji lete na velikoj visini a jedino što imate je troma protuzračna obrana teškim projektilima? Mentalni izračuni i baţdarenja, potrebni za precizno ciljanje ne trenutnog poloţaja aviona nego njegovog vjerojatnog budućeg poloţaja - bili su daleko prekomplicirani da ih vojnik izvede dovoljno brzo i ispali hitac dok mu je avion još uvijek u dosegu. Putanja se projektila, uvidjeli su znanstvenici, morala izračunati računskim strojem, koristeći se podacima dobivenim radarskim praćenjem aviona i statističkim predviĎanjima kursa aviona, i ti su se izračuni morali automatski prenijeti u mehanizam ciljnika. Uz to, pri svakom se ciljanju moralo uzeti u obzir i eventualno odstupanje prethodnih hitaca. Kad je riječ o članovima posade protuzračnog topništva, njihov će se posao morati promijeniti uslijed nadolaska nove generacije automatskog naoruţanja. Topnici su ubrzo zasjeli u zatamnjene kamione u kojima su odabirali mete na zaslonu radara. Na njih se više i nije “gledalo kao na vojnike”, kako piše jedan povjesničar, “nego kao na tehničare koji očitavaju prikaze svijeta i barataju tim prikazima.”53 U protuzračnim topovima nastalim radom savezničkih znanstvenika vidimo sve elemente onoga što danas čini neki automatizirani sustav. Prvo, i to je jezgra sustava, tu je brz računski stroj - računalo. Drugo, tu je senzorni mehanizam (u ovom slučaju radar) kojim se motri na okoliš, stvarni svijet, i koji bitne podatke šalje računalu. Treće, tu je komunikacijska veza koja računalu omogućuje kontrolu nad pomicanjem fizičkog postrojenja koje obavlja stvarni rad, sa ili bez ljudske asistencije. I konačno, tu je metoda povratne sprege - sredstvo kojim se računalu prosljeĎuju informacije o rezultatima njegovih naputaka, tako da ih moţe uvrstiti u daljnje proračune, ispraviti pogreške i uračunati promjene u okolišu. Senzorni aparat kao osjetni organ, računalo kao mozak i protok poruka kojim se nadziru fizički pomaci (kretnje), te povratna sprega kao učenje; tu imate sve što je za automatizaciju bitno - bit svakog robota. Ali to je i bit svakog ţivog bića, i ta sličnost nije nikakva slučajnost. Da bi zamijenio čovjeka, automatizirani sustav prvo ga mora moći replicirati (ili

barem neki aspekt njegovih sposobnosti). Automatizirani strojevi postojali su prije Drugog svjetskog rata. Parni stroj Jamesa Watta, stvarni pokretač industrijske revolucije, imao je neobično domišljato sredstvo odrţavanja povratne sprege - centrifugalni regulator. Kako je stroj ubrzavao rad, rotirao je par metalnih kuglica koje su pak stvarale centrifugalnu silu kojom se povlačila poluga zatvarača parnog ventila, tako da stroj pretjerano ne ubrza. Jacquardov tkalački stroj, francuski izum nastao oko 1800. godine, upravljao je pomacima kalema s koncima različitih boja pomoću bušenih kartica i tako automatski prenosio komplicirane uzorke na tkanje. Godine 1866. britanski je inţenjer imenom J. Macfarlane Gray patentirao parobrod, kojim su se registrirali pomaci brodskog kormila da bi se u skladu s njima, povratnom spregom izvedenom zupčanicima kormilarskog mehanizma, kormilo okretalo tako da se zadrţi zadani pravac leta.54 No, razvoj brţih računala, i ostalih vidova elektroničkog upravljanja pomoću senzora, otvorilo je novo poglavlje u povijesti strojeva. Time su se mogućnosti automatizacije neusporedivo povećale. Kako je u svojoj knjizi iz 1950., Kibernetika i društvo: ljudska upotreba ljudskih bića, objasnio matematičar Norbert Wiener (koji je sudjelovao u pisanju algoritama predviĎanja za automatizirano topništvo Saveznika), napredak je 1940-ih godina omogućio izumiteljima i inţenjerima da naprave iskorak u odnosu na “sporadične projekte pojedinačnih automatskih mehanizama” Nove su tehnologije, iako projektirane imajući u vidu oruţje, otvorile prostor za “opću strategiju u konstrukciji automatiziranih mehanizama najrazličitijih vrsta”. Ona su utrla put “novom automatskom dobu”.55 Osim teţnje za napretkom i produktivnosti, automatsko doba imalo je još jedan pokretač: politiku. Poslijeratne godine obiljeţile su intenzivne radničke borbe. U većini američkih proizvodnih sektora vodili su se pravi ratovi direktora poduzeća i sindikata, a napetosti su često bile najjače u djelatnostima ključnim za hladnoratovsko gomilanje vojne opreme i naoruţanja. Štrajkovi, organizirana napuštanja radnih mjesta i usporavanja proizvodnje bili su svakodnevni dogaĎaji. Samo je 1950. godine u jednoj jedinoj Westinghouseovoj tvornici u Pittsburghu organizirano osamdeset i osam obustava rada. U mnogim su tvornicama sindikalci imali veću moć nad proizvodnjom od upravitelja - zadnju riječ imali su radnici. Vojni i industrijski planeri automatizaciju su smatrali načinom da se ravnoteţa moći vrati upravi. Postrojenja kojima se upravlja elektronički, ustvrĎuje časopis Fortune u naslovnoj reportaţi pod naslovom “Strojevi bez ljudi”,

pokazat će se “neizmjerno nadmoćnim ljudskom mehanizmu”, uz ostalo i zato što su strojevi “uvijek zadovoljni uvjetima na radu i nikad ne traţe povišicu”.56 Jedan je od direktora tvrtke Arthur D. Little, ugledne konzultantske kuće u područjima upravljanja i inţenjeringa, napisao da uspon automatizacije poslovnom svijetu donosi “emancipaciju od ljudskih radnika”.57 Osim što smanjuju potrebe za radnicima, osobito stručnim, automatizirana postrojenja vlasnicima tvrtki nude i tehničko sredstvo nadzora nad brzinom i tokom proizvodnje elektroničkim programiranjem pojedinih strojeva i cijelih proizvodnih linija. Kad se, kao u Fordovim tvornicama, nadzor nad tempom proizvodnje prebaci na nova automatizirana postrojenja, radnici su izgubili velik dio autonomije. Do sredine 1950-ih godina utjecaj je radničkih sindikata na način rada u tvornicama znatno pao.58 Ta će se lekcija pokazati vaţnom: u automatiziranom sustavu moć se koncentrira u rukama onoga tko ima nadzor nad programima. Wiener je zastrašujuće jasno predvidio što slijedi. Tehnologije automatizacije napredovat će brţe nego što je itko mogao zamisliti. Računala će biti manja i brţa. Brzina i kapacitet elektroničkih komunikacijskih sustava i sustava pohrane narast će eksponencijalno. Senzori će sve preciznije gledati, slušati i opipavati svijet. Robotički će mehanizmi “vjernije replicirati funkcije ljudskog uma potpomognutog ljudskim okom”. Troškovi proizvodnje svih tih novih ureĎaja i sustava drastično će pasti. Upotreba automatizacije u sve će više područja postati i moguća i ekonomična. A budući da će se računala moći programirati tako da izvode logičke funkcije, doseg automatizacije će se s rada ruku proširiti na rad uma - na područje analize, prosudbe i odlučivanja. Kompjuterizirani stroj ne mora raditi s nekim materijalom, primjerice topovima. Moţe raditi i s informacijama. “Od ove faze nadalje, sve moţe ići strojno”, napisao je Wiener. “Stroju su manualni i intelektualni poslovi podjednako dragi.” Činilo mu se očigledno da će automatizacija prije ili poslije stvoriti “situaciju nezaposlenosti” u usporedbi s kojom će teškoće Velike ekonomske krize “zvučati kao zgodan vic”.59 Ljudska upotreba ljudskih bića bila je bestseler, kao i Wienerova prethodna i u većoj mjeri tehnička rasprava Kibernetika, ili kontrola i komunikacija u životinjskom i strojnom. Analiza putanje tehnologije toga matematičara postala je dijelom intelektualne teksture 1950-ih. Na osnovi nje, ili njome nadahnuti, napisani su i mnogi članci i knjige toga desetljeća,

i meĎu njima nije bila najmanje vaţna knjiţica Roberta Hugha Macmillana. Već vremešni Bertrand Russell je 1951. u ogledu je “Jesu li ljudska bića nuţna?” napisao da je s Wienerovim radovima postalo jasno da ćemo “morati promijeniti neke temeljne pretpostavke prema kojima se upravlja svijetom od početka civilizacije”.60 Wiener se čak nakratko pojavio i kao zaboravljeni prorok u prvom romanu Kurta Vonneguta, distopijskoj satiri Mehanički pijanino iz 1952., u kojem se pobuna mladog inţenjera protiv kruto automatiziranog svijeta završava epskom epizodom razbijanja stroja.

Roboti posvuda Ideja o invaziji robota moţda se doimala prijeteće (ako ne i apokaliptično) publici koju je već prodrmala atomska bomba, ali tehnologije automatizacije su 1950-ih još bile u povojima. Njihove su se krajnje posljedice mogle zamisliti u spekulativnim traktatima i znanstvenoj fantastici, ali još je trebalo proći puno do toga da se te posljedice i doţive. Kroz cijele je 1960-e većina automatiziranih strojeva još uvijek podsjećala na primitivne robotizirane nosače s Fordovih poslijeratnih tvorničkih traka. Bili su veliki, skupi i nepametni. Većinom su mogli obavljati samo jednu, repetitivnu funkciju i prilagoĎavati kretanje u skladu s nekolicinom osnovnih elektroničkih komandi: ubrzaj, uspori; kreni lijevo, kreni desno; prihvati, otpusti. Ti su strojevi bili izvanredno precizni ali drugih darova baš i nisu imali. Bezimeni, crnčili su po tvornicama, često u kavezu pod ključem kako bi se ljude u prolazu zaštitilo od njihovih bezumnih trzanja i treskanja, i definitivno nisu izgledali kao nešto što će osvojiti svijet. Više su sličili teglećoj stoci, samo veoma poslušnoj i s vrlo dobrom koordinacijom pokreta. No, roboti i drugi automatizirani sustavi imali su jednu veliku prednost u odnosu na čisto mehaničke naprave koje su im prethodile. Moglo ih se programirati, što ih je ukrcalo na ekspresni vlak Mooreova zakona. Išla su im u prilog sva poboljšanja koja će obiljeţiti razvoj računala - brzine procesora, algoritama, mreţne propusnosti, kapaciteta pohrane, dizajna sučelja te minijaturizacije. A kako je Wiener bio i predvidio, to se i dogodilo. S boljim senzorima, osjetila su im se izoštrila; mozak im je radio brţe i fleksibilnije; razgovor im je postao tečniji a sposobnost učenja znatnija. Početkom 1970-ih već su na sebe preuzeli dio proizvodnje koji zahtijeva fleksibilnost i spretnost - rezanje, varenje, sastavljanje. Krajem desetljeća takvi su sustavi upravljali avionima, a i

gradili su ih. A zatim, osloboĎeni fizičkog utjelovljenja i pretvoreni u čistu logiku i kod, prešli su u poslovni svijet kroz mnoštvo specijaliziranog softvera. Ušli su u intelektualne struke, katkad kao zamjena, mnogo češće kao asistencija. Roboti su 1950-ih moţda bili na dovratcima tvornica, no tek su nedavno umarširali, na našu zapovijed, i u urede, trgovine i domove. Danas nam je softver “onog tipa koji zamjenjuje prosuĎivanje”, kako ga je nazvao Wiener, s radnog stola ušao u dţep, i konačno počinjemo osjećati pravi potencijal automatizacije da promijeni ono što činimo i kako to činimo. Sve se automatizira. Ili, kako je to formulirao osnivač Netscapea i velikan Silicijske doline Marc Andreessen, “softver proţdire svijet”61 Moţda je to i najvaţnija pouka koja se moţe izvući iz Wienerova rada - a kad je o tome riječ, i iz duge i burne prošlosti strojeva koji štede rad. Tehnologija se mijenja, i mijenja se brţe nego ljudi. Dok računala sprintaju brzinom Mooreova zakona, naše uroĎene sposobnosti puze kornjačinim korakom Darwinova zakona. Dok se roboti mogu konstruirati na bezbroj načina i oblika, koji oponašaju sve od zmija koje gmiţu po tlu, preko letećih čudovišta koja haraju nebom, do riba što plivaju morima, nama nema druge nego drţati se svojih račvastih tijela. To ne znači da će nas strojevi ostaviti u ropotarnici evolucije. Ni u najsnaţnijem računalu ne vidimo ni tračka svijesti, ništa više no što bi je imao kakav čekić. To znači da će naš softver i naši roboti, uz naše vodstvo, i dalje iznalaziti nove načine da nešto obave bolje od nas - da rade brţe, jeftinije, solidnije. A mi ćemo, poput onih protuzračnih topnika iz Drugog svjetskog rata, morati prilagoditi svoj posao, ponašanje i vještine mogućnostima i načinu rada strojeva na koje se oslanjamo.

3. Na autopilotu Dvanaestog veljače 2009. navečer, putnički s avion kompanije Continental Connection probijao kroz nevrijeme na letu Newark-Buffalo. Kao što najčešće biva kod današnjih putničkih aviona, dva pilota na tom jednosatnom letu nisu imala previše posla. Kapetan, ugodan četrdesetsedmogodišnjak s Floride imenom Marvin Renslow, zakratko je preuzeo upravljanje pri polijetanju i poveo turbopropelerac Bombardier Q400 ka nebu, a zatim je uključio autopilot. On i njegova kopilotkinja, svjeţe udana dvadesetčetverogodišnjakinja iz Seattlea Rebecca Shaw, drţali su na oku očitanja računala koja su treperila na pet velikih LCD zaslona u kokpitu. Izmijenili su nekoliko radio-poruka s kontrolorima leta. Obavili su par rutinskih provjera. No, najveći dio vremena proveli su u prijateljskom ćaskanju - o obitelji, napredovanju u karijeri, o kolegama, o novcu - dok je zrakoplov krstario svojom rutom na visini od pet kilometara.62 Bombardier se već uvelike pribliţavao zračnoj luci u Buffalu, spuštena podvozja i podignutih krilaca, kad se kapetanova upravljačka palica počela bučno tresti. Aktiviralo se vibriranje palice, što je signal da avion gubi potisak i da je postoji opasnost od propadanja. Autopilot se isključio jer je tako i programiran za slučaj takvog upozorenja, i kapetan je preuzeo upravljanje. Reagirao je brzo, ali je postupio točno onako kako nije smio. Povukao je palicu k sebi, čime je uzdignuo nos aviona i smanjio mu brzinu, a trebao ju je pogurnuti ne bi li malo nagnuo avion prema dolje i ubrzao. Nato se uključio automatski sustav za izbjegavanje propadanja i počeo micati palicu prema naprijed, no kapetan ju je tada jednostavno krenuo još jače vuči prema sebi. Umjesto da preduhitri propadanje, Renslow ga je prouzročio. Q400 se izmakao kontroli i počeo se obrušavati. “Padamo”, rekao je kapetan, i avion se zabio u kuću u predgraĎu Buffala. Taj se pad, a u njemu je poginulo svih četrdeset i devet osoba u avionu i jedna na zemlji, uopće nije trebao dogoditi. Istraga Drţavnog odbora za sigurnost u prometu nije pronašla ništa što bi ukazivalo na neki mehanički problem sa zrakoplovom. Na avionom se nakupilo nešto leda, ali ne više nego što je uobičajeno u zimskim uvjetima. UreĎaju za

odleĎivanje su bili ispravni i u funkciji, jednako kao i drugi ureĎaji u zrakoplovu. Renslow je u prethodna dva dana imao dosta gust raspored letenja, a Shaw je mučila prehlada, ali čini se da su u kokpitu oboje bili budni i bistri. Bili su dobro školovani, a iako ih je podrhtavanje upravljačke palice bilo iznenadilo, imali su dovoljno vremena i zračnog prostora da poduzmu sve što je potrebno za izbjegavanje propadanja. Odbor je zaključio da je uzrok nesreće pilotska greška. No Renslow ni Shaw nisu razumjeli “jasne znakove” neposredne opasnosti od propadanja, a takav previd ukazuje “na ozbiljan propust u izvršavanju djelatnosti nadziranja”. Čim se oglasilo upozorenje, izvještavaju istraţitelji, reakcija kapetana je “morala biti automatska, ali njegovi postupci pri upravljanju bili su suprotni onome što je trebao znati i za što je bio školovan”, te pokazuju “zatečenost i zbunjenost”. Jedan je od direktora tvrtke koja je odradila taj let za Continental, regionalnog avioprijevoznika Colgan Air, priznao da je pilotima po svemu sudeći manjkala “situacijska svijest” uoči izvanredne situacije.63 Da je posada adekvatno reagirala, avion bi vjerojatno sigurno prizemljio. Ta nesreća nije izolirana pojava. Njoj se neugodno slična katastrofa, s daleko više ţrtava, dogodila nekoliko mjeseci kasnije. U noći 31. svibnja Airbus A330 Air Francea uzletio je iz Rio de Janeira i krenuo za Pariz.64 Nakon oko tri sata avion je uletio u oluju nad Atlantikom. Senzori brzine letenja orošeni ledom počeli su davati potpuno pogrešna očitanja, uslijed čega se autopilot isključio. Kopilot koji je upravljao avionom, PierreCedric Bonin, smeteno je povukao upravljačku palicu. A330 se propeo i oglasilo se bučno upozorenje o mogućem propadanju zrakoplova, no Bonin je i dalje bezglavo povlačio palicu k sebi. Kako se sve strmije uspinjao, avion je izgubio brzinu. Senzori brzine leta ponovno su proradi i predočili posadi točne rezultate. Tada je trebalo postati posve jasno da avion leti presporo. No, Bonin je ustrajao na svojoj pogrešci i još više usporio. A330 je zastao i počeo propadati. Da je Bonin samo pustio palicu, avion bi se vjerojatno bio sam ispravio. Ali nije. Posadu je zadesio, kako će francuski istraţivači to formulirati, “potpun gubitak kognitivne kontrole nad situacijom”.65 Nakon još nekoliko mučnih sekundi upravljanje je preuzeo drugi pilot, David Robert. Prekasno. U tri minute avion je izgubio više od devet kilometara visine. - Ovo je nemoguće, rekao je Robert. - Ali što se dogodilo? odgovorio mu je Bonin, još izvan sebe.

Tri sekunde kasnije avion je tresnuo u ocean. Poginulo je svih 228 putnika i članova posade.

Avion koji sam leti Ako ţelite razumjeti posljedice automatizacije na ljude, prvo trebate pogledati - uvis. Aviokompanije i avioindustrija, kao i drţavne i vojne sluţbe, već su dugo naročito agresivne i posebno inventivne u pronalaţenju načina da se posao prenese s ljudi na strojeve. To što s računalima danas rade projektanti automobila u avioindustriji se radi već desetljećima. A budući da već i samo jedna pogreška u kokpitu moţe odnijeti mnogo ţivota i puno milijuna dolara, velike su količine javnog i privatnog novca otišle na financiranje psiholoških i bihevioralnih istraţivanja učinaka automatizacije. Znanstvenici i inţenjeri već desetljećima proučavaju kako automatizacija utječe na vještine, percepciju, mišljenje i postupke pilota. O tome što se dogaĎa kad ljudi rade uz računala najviše znamo upravo iz tih istraţivanja. Priča o automatizaciji letenja počinje prije stotinu godina, 18. lipnja 1914. u Parizu. Taj je dan, koliko je poznato, bio sunčan i ugodan, a plavetnilo neba savršena pozadina za spektakl. Velika se gomila bila okupila na obalama Seine, blizu mosta Argentevil na zapadnome rubu grada, kako bi svjedočila avijatičarskom natjecanju Concours de la Sécurité en Aéroplane, organiziranom da prikaţe najnovija dostignuća u sigurnosti letenja.66 Sudjelovalo je skoro šezdeset aviona i pilota, demonstrirajući pritom impresivne tehničke i letačke sposobnosti. Zadnji na programu toga dana, u dvokrilcu Curtiss C-2, bio je zgodan američki pilot imenom Lawrence Sperry. U otvorenom kokpitu C-2 pokraj njega je sjedio mehaničar, Francuz Emil Cachin. Nadlijećući gledatelje i pribliţavajući se sudačkoj klupi, Sperry je pustio upravljač i digao ruke. Gomila je oduševljeno klicala: avion sam leti! Sperry je tek bio počeo. Okrenuvši se, još jednom je nadletio suce, opet s rukama u zraku. No, ovaj put Cachin mu se izvukao iz kokpita i počeo hodati po desnom krilu, pridrţavajući se za prečku izmeĎu dva reda krila. Avion se načas nagnuo pod Cachinovom teţinom, da bi se odmah sam izravnao, bez Sperryjeve pomoći. Gomila ih je ispratila još glasnije. Sperry se još jednom okrenuo. U trećem prolazu, Francuz je opet bio na desnom krilu, ali sada se i Sperry pentrao po lijevom krilu. C-2 je letio ravno i mirno bez ikoga u kokpitu. Gledatelj i suci su ostali zabezeknuti. Sperry je odnio glavnu nagradu - pedeset tisuća franaka - i sljedećega dana

lice mu je iskakalo s naslovnih stranica novina u pola Europe. U Curtiss C-2 bio je ugraĎen prvi automatski pilot na svijetu. “Ţiroskopski stabilizacijski ureĎaj” izumili su dvije godine prije Sperry i njegov otac, slavni američki inţenjer i industrijalac Elmer A. Sperry. Sastojao se od dva ţiroskopa, od kojih se jedan montirao vodoravno a drugi okomito. UgraĎivao se ispod pilotskog sjedala a napajao ga je vjetreni generator smješten iza propelera. Ţiroskopi su se vrtjeli na više tisuća okretaja u minuti i izvanredno su precizno detektirali orijentaciju aviona po sve tri osi rotacije poniranje i uspinjanje, lijevo i desno klizanje, te skretanje s kursa. Ako bi zrakoplov odstupi od zadane visine, električki nabijene metalne četkice spojene na ţiroskope dodirnule bi kontakte na okviru aviona i zatvorile strujni krug. Električna bi struja potekla ka servomotorima na kontrolnoj ploči, koji upravljaju zakretnim krilcima na krilima aviona, te uzdizačima i skretačima kormila na repu, i upravljač bi automatski korigirao poloţaj tako da se otkloni odstupanje. Vodoravni ţiroskop stabilizirao je krila i uzdizanje, a vodoravni se brinuo za skretanje. Trebalo je još gotovo dvadeset godina testiranja i usavršavanja veći dio provela je vojska SAD-a - prije nego što će ţiroskopski autopilot biti spreman za svoj prvi nastup na komercijalnom letu. Ali kad je do toga došlo, ta se tehnologija doimala jednako čudesnom. Pisac za časopis Popular Science 1930. je godine dao impresioniran opis leta avionom opremljenim autopilotom, “velikim tromotornim Fordom” koji je “bez pomoći čovjeka” tri sata letio od Daytona do Washingtona. “Četiri su čovjeka opušteno sjedila u putničkom odjeljku”, izvještava on, “no pilotska je kabina bila prazna. Palicu je drţao metalni avijatičar jedva nešto veći od automobilskog akumulatora.”67 Kad je tri godine poslije američki pilot Wiley Post uspješno izvršio svoj prvi samački let oko svijeta sluţeći se Sperryjevim autopilotom kojem je nadjenuo ime “Mehanički Mike”, novine su najavile novu eru u zrakoplovstvu. “Prošli su ti dani kad su samo ljudska vještina i gotovo ptičji osjećaj za smjer omogućavali letaču da satima “odrţava kurs kroz noći bez zvijezda ili maglu”, izvijestio je New York Times. Komercijalni letovi u budućnosti će biti automatski.68 UvoĎenje ţiroskopskog autopilota utrlo je put golemoj ekspanziji uloge avijacije u ratovanju i prijevozu. Preuzevši na sebe veliki dio manualnog rada potrebnog da se avion odrţi na kursu i u stabilnom poloţaju, taj je ureĎaj oslobodio pilote od konstantne borbe s polugama, pedalama, kabelima i zupčanicima. Time se smanjio umor pilota na dugim letovima; no, to im je i oslobodilo ruke, oči - i što je najvaţnije, um - za

druge, suptilnije poslove. Mogli su pratiti više instrumenata, izvesti više proračuna, riješiti više problema, i uopće razmišljati o tome što rade s više analitičnosti i kreativnosti. Letjeti više i dalje, i s manje rizika od pada. Mogli su ući u nevrijeme zbog kojeg inače ne bi bili ni uzlijetali. Bilo da nose putnike ili ispuštaju bombe, piloti su postali sposobniji i vredniji kad su na pomoć dobili autopilot. Promijenili su se i avioni: postali su veći, brţi i puno kompliciraniji. UreĎaji za automatsko upravljanje i stabilizaciju brzo su napredovali. Fizičari su 1930-ih naučili dovoljno o aerodinamici, a inţenjeri su u autopilotske mehanizme počeli ugraĎivati mogućnosti baţdarenja ovisno o promjenama tlaka, zatim pneumatičke upravljače, amortizere i mnoga druga poboljšanja. Do prijelomnice je došlo 1940-ih, kad je korporacija Sperry izbacila na trţište svoj prvi elektronički model, A-5. Uz pomoć vakuumskih cijevi, koje su pojačavale signale iz ţiroskopa, A-5 je prilagoĎavao i korigirao kurs brţe i preciznije. Uz to, reagirao je i na promjene brzine i akceleracije. U kombinaciji s najnovijom tehnologijom za pomoć u navoĎenju bombi, elektronički je autopilot osobito mnogo pridonio savezničkim zračnim napadima u Drugom svjetskom ratu. Ubrzo nakon rata, jedne rujanske večeri 1947., američke su zračne snage provele eksperimentalni let kojim će potvrditi koliko su autopiloti daleko dogurali. Kapetan Thomas J. Wells, vojni testni pilot, po jednom je zabačenom uzletištu u Newfoundlandu vozio C-54 Skymaster, transportni avion sa sedmočlanom posadom. Tada je pustio upravljačku palicu, pritisnuo gumb za aktiviranje autopilota pa se, kako se poslije prisjećao jedan od njegovih kolega u kokpitu, “zavalio u sjedalo i spustio ruke u krilo”.69 Avion je sam od sebe uzletio, automatski regulirajući snagu motora i poloţaj krilaca, da bi, sada već u zraku, uvukao podvozje. Zatim je preletio Atlantik, izvodeći niz “sekvenci” koje su mu unaprijed programirali u, kako se posada izrazila, njegov “mehanički mozak”. Svaka je sekvenca bila vezana za odreĎenu visinu ili prijeĎenu udaljenost. Ljudima u avionu nije bilo rečeno ni kamo će ni kuda letjeti; zrakoplov je sam odrţavao pravac leta praćenjem radijskih signala za navoĎenje, smještenih na kopnu i na brodovima. U zoru sljedećeg dana C-54 je doletio do obale Engleske. I dalje pod kontrolom autopilota, počeo se spuštati, izbacio je podvozje, poravnao se s pistom Kraljevske zračne baze u Oxfordshireu i izveo savršeno slijetanje. Kapetan Wells tada je digao ruke s krila i dovezao avion po pisti do hangara.

Nekoliko tjedana nakon tog povijesnog Skymasterovog leta, pisac je britanskog avijatičarskog časopisa Flight razmatrao što će to značiti. Čini se neizbjeţnim, piše on, da će nova generacija autopilota “dokinuti potrebu za navigatorima, radio-telegrafistima i inţenjerima” na letu. Strojevi će te poslove učiniti suvišnima. Piloti, dopušta, neće biti tako lako rješivi. Njihova će prisutnost, barem u predvidljivoj budućnosti, i dalje biti nuţna u kokpitu, ako i samo za to “da gledaju razne kazaljke i brojače ne bi li se uvjerili da sve ide po planu”70

Stakleni kokpit Godine 1988., četrdeset godina nakon što je C-54 prešao Atlantik, europski je avio-konzorcij Airbus Industrie predstavio putnički avion A320. Taj je avion sa svojih 150 sjedišta bio manja verzija modela A330 iste tvrtke, ali za razliku od svog konvencionalnog i pomalo dosadnog prethodnika, A320 je bio pravo čudo. Bio je to prvi komercijalni zrakoplov koji se uistinu mogao nazvati kompjuteriziranim, i nagovještavao je sve ono što će se dogoditi u projektiranju aviona. Pilotska kabina bila mu je takva da je Wiley Post ili Lawrence Sperry ne bi ni prepoznali. Baterija analognih kazaljki i regulatora, koja je odavno vizualni sinonim za kokpit aviona, potpuno je nestala. Na njenom je mjestu sada šest bliještećih staklenih zaslona, onih s katodnom cijevi, uredno posloţenih ispod vjetrobrana. Pilotima oni prikazuju najsvjeţije podatke i očitanja s mreţe računala ugraĎenih u avion. Pilotska kabina A320 optočena monitorima - njegov “stakleni kokpit”, kako su ga piloti nazvali - nije bio njegovo najznačajnije obiljeţje. Inţenjeri NASA-inog Istraţivačkog centra Langley deset su godina prije uveli prikaz informacija o letu na zaslonu, a proizvoĎači su počeli ugraĎivati ekrane u putničke avione još potkraj 1970-ih godina.71 A320 se prije svega odlikovao - a riječima američkog pisca i pilota Williama Langewieschea bio je to “najodvaţniji civilni avion nakon Flyera braće Wright”72 - svojim digitalnim sustavom navoĎenog upravljanja. Prije nego se pojavio A320, komercijalni su avioni još funkcionirali mehanički. Trup i krila bili su im premreţeni kablovima, polugama i zupčanicima, minijaturnim vodoskocima u hidrauličkim cijevima, pumpama i ventilima. Upravljački ureĎaji kojima je rukovao pilot - palica, poluge motora, pedale kormila - bili su mehanički povezani s pokretnim dijelovima koji su ravnali orijentacijom, smjerom i brzinom aviona. Akcija pilota stvarala je reakciju aviona.

Kad ţelite zaustaviti bicikl, povučete ručicu kočnice, čime povlačite sajlu, koja stisne noţice kočnice, koje pritisnu gumice o obruč kotača. U osnovi, šakom šaljete zapovijed - signal zaustavljanja - a kočioni mehanizam na tu zapovijed prenosi snagu vaše šake sve do kotača. Vaša šaka tada prima potvrdu da je vaša zapovijed primljena: kroz istu onu ručicu kočnice osjećate otpor noţica o kotač, otpor kotača o cestu. Tako je, u malom, bilo pilotirati avionom s mehaničkim upravljanjem. Pilot bi postao dijelom stroja, tjelesno bi osjetio kako radi i kako reagira, i takav je stroj postao provodnikom njihove volje. Takva je duboka prepletenost čovjeka i stroja bila dubinski izvor letačkog uzbuĎenja. Mora biti da je to imao na umu slavni pilot-pjesnik Antoine de Saint-Exupéry kad je, prisjećajući se letenja poštanskim avionima 1920-ih, napisao kako ga “stroj, koji na prvi pogled izgleda kao sredstvo za izoliranje čovjeka od velikih problema prirode, u njih zapravo još više uvlači”.73 Sustav za programirano upravljanje A320 presjekao je tu taktilnu sponu pilota i aviona a izmeĎu zapovijedi čovjeka i reakcije stroja umetnuo je digitalno računalo. Kad bi pilot pomaknuo upravljačku ručicu, okrenuo sklopku ili pritisnuo gumb u kokpitu Airbusa, njegova se uputa pretvornikom prevela u električni signal koji bi ţicom dotrčao do računala. Računala bi pak, u skladu s koracima algoritma svojih programa, proračunala kojim se mehaničkim postupcima treba ostvariti pilotova ţelja. Računalo tada šalje svoje upute digitalnim procesorima koji upravljaju radom pokretnih dijelova aviona. Zamjena mehaničkih pokreta digitalnim signalima dovela je i do drukčije izvedbe kontrolnih ureĎaja u kokpitu. Glomazni volan za dvije ruke, kojim su se povlačili kabeli i otpuštale komprimirane hidrauličke tekućine zamijenjen je malom bočnom palicom, smještenom pokraj pilotova sjedala, kojom se upravljalo jednom rukom. Duţ prednje konzole, pilot je podešavao ţeljenu brzinu, visinu i smjer okretnim sklopkama s malim, brojčanim LED-zaslonima i tako davao upute avio-računalu. Nakon pojave A320 priča o zrakoplovima i priča o računalima se objedinjuju. Svaki hardverski i softverski napredak, svako poboljšanje senzora, kontrolnog sučelja i tehnologije izrade zaslona snaţno se odrazilo na projektiranje komercijalnih aviona, a proizvoĎači i prijevoznici su se trsili maksimalno se automatizirati. U današnjim putničkim mlaţnjacima autopilot koji odrţava smjer i stabilnost aviona samo je jedan od mnogih kompjuteriziranih sustava. Snaga motora odreĎuje se automatskim gasom. Sustavi za upravljanje letom prikupljaju podatke o poloţaju aviona GPS-

om i drugim senzorima, na temelju tih informacija zadaju i odrţavaju putanju leta. Sustavi za izbjegavanje sudara pretraţuju nebo i paze na obliţnje zrakoplove. Karte i druga papirologija koju su piloti nekad vukli sa sobom na let sada se pohranjuju u digitalnom obliku. Još je tu računala: jedna uvlače i izvlače podvozje, druga reguliraju kočenje, treća tlak zraka u putničkim prostorima. Ona su preuzela te i mnoge druge funkcije koje su nekoć bile u rukama posade. Za programiranje tih računala i praćenje njihova rada pilotima su na raspolaganju veliki, šareni ekrani koji slikovno prikazuju podatke što ih proizvode elektronički letni instrumenti, a tu je i sva sila manjih i većih tipkovnica, pokazivačkih kuglica i drugih ureĎaja za unos podataka. U današnjim je zrakoplovima računalna automatizacija postala “sveobuhvatna”, kaţe Dan Harris, profesor avijacije i stručnjak za ljudski faktor. Pilotska kabina “moţe se promatrati kao jedno ogromno letačko računalno sučelje”.74 A što s modernim letačima i letačicama, koji su se ugnijezdili u tim staklenim kokpitima visoke tehnologije i jure zrakom pokraj duhova Sperryja, Posta i Saint-Exuperyja? Očigledno, posao komercijalnog pilota je izgubio auru romantičnog i avanturističnog. Opjevani letač po osjećaju danas spada više u legendu nego u ţivot. Na tipičnom putničkom letu pilot će danas imati upravljač u rukama sveukupno pune tri minute - minutudvije pri uzlijetanju i još minutu-dvije pri slijetanju. Ono na što pilotima odlazi vrijeme je gledanje po ekranima i ukucavanje podataka. “Od svijeta u kojem je automatika bila sredstvo kojim se pilotu olakšava rad”, primjećuje Bili Voss, predsjednik Zaklade za sigurnost letenja, “došli smo do toga da je automatika istinski, pravi i prvenstveni sustav kontrole leta u avionu”.75 A kako piše istraţivač avijacije i savjetnik američke Savezne uprave za zračni promet Hemant Bhana, “kako se automatika sve više usavršavala, uloga pilota se pomaknula prema motrenju i nadziranju iste te automatike”.76 Pilot komercijalnog aviona postao je operater na računalu. Mnogi stručnjaci za avijaciju i automatizaciju zaključili su da je to problem.

Nova vrsta nesreće Lawrence Sperry umro je 1923. godine. Avion mu je pao u La Manche. Wiley Post je umro 1935. Avion mu se srušio na Aljasci. Antoine de SaintExupéry je umro 1944. - avion mu je nestao negdje u Sredozemnom moru. Prerana smrt bila je uobičajeni profesionalni rizik pilota u ranim danima avijacije; romantičnost i avanturizam imali su visoku cijenu. Alarmantno

često pogibali su i putnici. Dok se 1920-ih godina avioindustrija tek formirala, nakladnik je američkog časopisa za avijaciju uputio javni poziv vlastima da povećaju sigurnost letenja, s primjedbom da se “mnoge nesreće sa smrtnim ishodom svakodnevno dogaĎaju putnicima aviona s neiskusnim pilotima”.77 Smrtonosni dani zračnih putovanja srećom su iza nas. Letenje je danas sigurno, i manje-više svatko tko se bavi tim poslom vjeruje da je jedan od razloga tome i napredak automatizacije. Uz napredak u projektiranju aviona, sigurnosnih postupaka avioprijevoznika, školovanja posada te kontrola letenja, mehanizacija i kompjuterizacija letova pridonijele su brzom i već desetljećima trajnom prorjeĎivanju avionskih nesreća i smrtnih slučajeva. U Sjedinjenim Drţavama i drugim zapadnim zemljama smrtonosne su nesreće postale iznimno rijetke. Od više od sedam milijardi ljudi koji su se ukrcali na putničke letove u Sjedinjenim Drţavama u deset godina izmeĎu 2002. i 2011., samo je njih 153 skončalo u olupini aviona, dakle to su dvije smrti na svakih milijun putnika. U deset godina od 1962. do 1971. letjelo je 1,3 milijarde ljudi od kojih je poginulo njih 1696 - to znači 133 smrti na milijun.78 No, ta vedra priča u sebi nosi mračnu fusnotu. Opći pad broja avionskih nesreća prikriva pojavu “jednog spektakularnog novog tipa nesreće”, kaţe Raja Parasuraman, profesor psihologije na Sveučilištu George Mason i jedan od najvećih svjetskih autoriteta za automatizaciju.79 Kad avionski računalni sustavi zataje ili se pojavi neki drugi neočekivani problem za vrijeme leta, piloti moraju prijeći na ručno upravljanje. Naglo stjerani u tu, sada rijetku ulogu, oni prečesto griješe. Posljedice mogu biti katastrofalne, kako pokazuju nesreće Continental Connectiona i Air Francea. U posljednjih su trideset godina deseci psihologa, inţenjera, ergonoma i istraţivača “ljudskog faktora” proučavali što se dobilo a što izgubilo kad piloti letački posao obavljaju uz softver. A saznali su da tako veliko oslanjanje na računalnu automatiku umanjuje stručnost u postupanju pilota, otupljuje im reflekse i umanjuje pozornost, što dovodi do “onestručenja posade”, kako to naziva Jan Noyes, stručnjakinja za kognitivnu ergonomiju pri Sveučilištu u Bristolu.80 Zabrinutost zbog nenamjeravanih popratnih pojava automatizacije letenja nije ništa novo. Jedan izvještaj NASA-inog Istraţivačkog centra Ames iz 1989. navodi da, kako su se računala u avionima počela mnoţiti u tom desetljeću, istraţivači iz drţavnih i industrijskih krugova imaju “sve veću nelagodu pri pomisli da kokpit postaje toliko automatiziran, i

smatraju da će od postupne zamjene ljudskog djelovanja ureĎajima biti koliko koristi toliko i štete”. Usprkos općem entuzijazmu prema kompjuteriziranom letenju, mnogi su u avijacijskoj djelatnosti brinuli da će se “piloti previše oslanjati na automatiku, da će im vještina normalnog letenja zaostati, i da će im se umanjiti situacijska svjesnost”.81 Kasnija su istraţivanja mnoge nesreće ili umalo-nesreće povezala s kvarovima automatiziranih sustava i “pogreškama proizašlim iz automatizacije” koje čine posade aviona.82 Savezna uprava za zračni promet (FAA) 2010. je godine objavila preliminarne rezultate velikog istraţivanja na linijskim letovima posljednjih deset godina, koje je pokazalo da je u gotovo dvije trećine svih nesreća, uz ostalo, došlo i do pilotskih pogrešaka. U istraţivanju se nadalje navodi mišljenje Kathy Abbott, znanstvenice pri FAA, da je automatizacija uzrok povećanju učestalosti takvih pogrešaka. Interakcija s letnim računalima, kaţe Abbott, pilotima odvlači paţnju, i oni “u prevelikoj mjeri prebacuju vlastitu odgovornost na automatizirane sustave”.83 Opširan drţavni izvještaj o automatizaciji kokpita iz 2013., koji je sastavio stručni savjet a poziva se na iste podatke FAA, okrivio je probleme vezane za automatizaciju - uz ostalo, smanjenu situacijsku svjesnost i oslabljene vještine manualnog letenja - za više od pola svih nesreća koje su se dogodile u posljednje vrijeme.84 Anegdotalni dokazi prikupljeni kroz izvještaje i ankete o nesrećama dobili su i empirijsku potporu u jednom strogo provedenom istraţivanju Matthewa Ebbatsona, mladog stručnjaka za ljudski faktor sa Sveučilišta Cranfield, vrhunskog britanskog tehničkog fakulteta.85 Frustriran nepostojanjem provjerenih, objektivnih podataka o “gubitku vještina manualnog letenja kod pilota na izrazito automatiziranim letovima”, kako se izrazio, Ebbatson si je dao u zadatak da ispuni tu prazninu. Angaţirao je šezdeset i šest iskusnih pilota jedne britanske kompanije i svakoga je smjestio u simulator letenja u kojem je trebao izvesti zahtjevan manevar dovesti Boeing 737 s pokvarenim motorom do piste po lošem vremenu. Simulator je isključio automatske sustave te je pilot morao letjeti manualno. Neki su piloti na tom testu prošli izvanredno dobro, izvještava Ebbatson, ali mnogi su bili izrazito loši, jedva “prelazeći granicu prihvatljivog”. Ebbatson je zatim usporedio detaljna mjerenja rada pilota u simulatorima - snagu rukovanja upravljačem, stalnost brzine, odstupanja od kursa - s arhivskim podacima iz osobnih dnevnika letova svakog pilota. Pokazalo se da postoji izravna korelacija izmeĎu vještine pilota za

komandama i količine vremena letenja bez pomoći automatizacije. Ta je korelacija bila osobito jaka kad je riječ o manualnom letenju u prethodna dva mjeseca. Ebbatsonova analiza ukazuje na to da bez relativno česte prakse “vještine manualnog letenja brzo opadaju prema rubovima tolerabilnog”. Osobito “lako propada”, biljeţi on, uspješnost pilota u “nadzoru nad brzinom leta” - što je ključna vještina za prepoznavanje i izbjegavanje zastoja i drugih opasnih situacija, te za vraćanje stabilnosti letenja. Nije tajna zašto automatizacija oslabljuje pilotsku vještinu. Poput mnogih drugih zahtjevnih poslova, pilotiranje podrazumijeva spoj psihomotoričkih i kognitivnih sposobnosti - promišljeno djelovanje i djelatno promišljanje. Pilot treba precizno rukovati instrumentima a pritom brzo i točno računati, prognozirati vrijeme i ocjenjivati mnoge elemente leta, i sve to u glavi. A dok prolazi kroz sve te osjetljive mentalne i fizičke manevre, treba stalno biti pozoran i imati u vidu što se zbiva oko njega, i biti u stanju razlučiti bitno od nebitnog. Ne smije si dopustiti ni gubitak koncentracije ni suţavanje svijesti, slično voţnji kroz tunel. Vladati tako raznorodnim skupom vještina moţe se jedino rigoroznim uvjeţbavanjem. Pilot-početnik obično je za upravljačem nespretan, i ručicu gura i povlači ţustrije nego što bi trebalo. Često mora zastati da razmisli što mu je činiti, i metodično proći kroz sve korake nekog postupka. Bude mu teško brzo se prebacivati s manualnih na kognitivne zadaće i obratno. Kad doĎe do napete situacije, lako ga zateknu i zbune, i lako previdi neku kritičnu promjenu okolnosti. S vremenom, i nakon puno vjeţbe, početnik stječe sigurnost. Manje zapinje u radu i postupci su mu precizniji. Ne upotrebljava preveliku silu. A kako mu se iskustvo produbljuje, u mozgu mu se razvijaju takozvani mentalni modeli - skupine neurona koje rade zajedno. Tako uspijeva prepoznavati obrasce u onome što ga okruţuje. Ti mu modeli omogućuju da intuitivno tumači podraţaje i da na njih reagira a da ga pritom ne zavlači svjesna analiza. Konačno, misli i djela se glatko nadovezuju. Pilotiranje mu postaje druga priroda. Godinama prije nego što će istraţivači početi kopati po tome kako radi mozak pilota, Wiley Post je, jednostavno i precizno, ovako opisao doţivljaj stručnog letenja. On leti, napisao je 1935., “bez mentalnog napora, a postupci su [mu] u cjelini pod nadzorom nesvjesnog uma”.86 S tom se sposobnošću nije rodio. Razvio ju je uz puno truda. Kad su na scenu stupila računala, priroda i strogost rada su se promijenili, kao i učenje radom. Budući da redovnu kontrolu nad letenjem

preuzima softver, pilot je većim dijelom razriješen duţnosti manualnog rada. Ta preraspodjela obaveza donosi vaţne prednosti. Ona smanjuje naprezanje pilota i omogućuje mu da se koncentrira na kognitivne aspekte letenja. No, ona ima i svoju cijenu. Psihomotoričke vještine zahrĎaju, što postaje štetno u rijetkim ali kritičnim trenucima kad pilot mora preuzeti upravljanje. Sve je više dokaza za to da širenje opsega automatizacije dovodi u opasnost i kognitivne vještine. Kad sofisticiranija računala počnu na sebe preuzimati funkcije planiranja i analize, kao što su odreĎivanje i prilagoĎavanje plana letenja, pilot biva sve manje angaţiran, ne samo fizički nego i mentalno. A budući da preciznost i brzina prepoznavanja obrazaca, čini se, ovise o redovitoj vjeţbi, um pilota postaje manje agilan pri tumačenju situacija koje se brzo mijenjaju, te reagiraju na njih. Moţe mu se dogoditi da mu “vještina izblijedi”, kako mentalna tako i motorička. Pilotima nije promaklo da automatizacija uzima svoj danak. Oni su oduvijek zazirali od prepuštanja odgovornosti strojevima. Zrakoplovci Prvog svjetskog rata, a razumljivo je da su se ponosili svojom vještinom manevriranja u zračnim dvobojima, nisu htjeli imati posla sa Sperryjevim šminkerskim autopilotima.87 Prvi su astronauti Mercuryja 1959. dignuli pobunu protiv NASA-inog plana da izbaci mogućnost manualnog upravljanja.88 No, njihova je zabrinutost danas akutniji problem. Iako s odobravanjem gledaju na golemu dobrobit novih tehnologija letenja, i slaţu se da su one pridonijele sigurnosti i djelotvornosti, brine ih opadanje njihove vještine. Dio Ebbatsonova istraţivanja bila je i anketa na uzorku komercijalnih pilota, u kojoj ih se pitalo jesu li “osjetili da im iskustvo upravljanja jako automatiziranim avionima utječe na sposobnost manualnog letenja”. Više od tri četvrtine ispitanika odgovorilo je da im je “vještina oslabjela”; tek je nekolicina osjećala da im se vještina povećala.89 Anketa koju je provela Europska agencija za sigurnost letenja dala je slične rezultate - 95% pilota izjavilo je da s automatizacijom osjećaju tendenciju opadanja “osnovnih manualnih i kognitivnih letačkih sposobnosti”.90 Rory Kay, dugogodišnji kapetan u United Airlinesu koji je donedavno radio kao visoki duţnosnik za sigurnost u Udruzi linijskih pilota, strahuje da avijacija kao djelatnost pati od “ovisnosti o automatizaciji” U intervjuu koji je 2011. dao Associated Pressu, taj je problem iznio oštrim riječima: “Mi zaboravljamo kako se leti.”91

Braća Wright bili su prava stvar Cinici te strahove olako pripisuju pukom interesu. Pravi razlog za gunĎanje

zbog automatizacije je, smatraju oni, to što se piloti boje da će izgubiti posao, ili da će im smanjiti plaću. U stanovitoj mjeri, cinici jesu u pravu. Kao što je pisac časopisa Flight predvidio još 1947., tehnologija automatizacije je srezala veličinu posade aviona. Prije šezdeset godina kokpit aviona avioprijevoznika često je predviĎao petero školovanih i dobro plaćenih stručnjaka: u njemu su sjedili navigator, radio-operater, zrakoplovni inţenjer i dva pilota. Vezist je ostao bez svog mjesta u 1950ima, a njegove je duţnosti preuzela inercijska navigacija. Inţenjer, čiji je posao bio očitavati bateriju instrumenata i prenositi vaţne informacije pilotima, zadrţao je radno mjesto do kraja 1970-ih, kad je uveden stakleni kokpit. Nastojeći umanjiti izdatke nakon deregulacije zračnih putovanja 1978., tvrtka American Airlines pokušala je izbaciti inţenjera iz kokpita i letjeti samo s kapetanom i kopilotom. Uslijedila je gorka bitka sa sindikatima pilota, koji su se mobilizirali na spašavanju radnih mjesta inţenjera. Borba je trajala sve do 1981., kad je predsjednička komisija SAD-a donijela proglas da inţenjeri više nisu nuţni za sigurno upravljanje na putničkim letovima. Dvočlana posada od tada je norma - barem zasad. Neki stručnjaci, pozivajući se na uspjehe vojnih bespilotnih letjelica, počeli su predlagati da je dva pilota upravo za dva previše. 92 “Jednom će se pojaviti bespilotni putnički avion”, izjavio je James Albaugh, visoko pozicionirani direktor u Boeingu na jednoj konferenciji odrţanoj 2011., “samo je pitanje kada”.93 Širenje automatizacije pratio je i stalni pad naknada za posao komercijalnog pilota. Iako veterani meĎu kapetanima velikih mlaţnjaka još mogu izvući i preko sto tisuća kuna mjesečno, piloti-početnici danas se plaćaju i manje od dvanaest tisuća mjesečno. Prosječna početna plaća iskusnog pilota u velikim kompanijama kreće se oko dvadeset tisuća kuna, što je, kako piše Wall Street Journal “vraški malo za stručnu osobu na vrhu karijere”.94 Usprkos takvim plaćama, u javnosti se još uvijek vjeruje da su piloti preplaćeni. Jedan članak na web-stranicama Salary.com navodi da su piloti komercijalnih mlaţnjaka “najpreplaćeniji” stručnjaci u današnjoj ekonomiji, ustvrĎuje da su “mnogi njihovi zadaci automatizirani” te dodaje da je taj posao postao “pomalo dosadan”.95 No, interesi pilota kad je riječ o pitanjima automatizacije dublji su od sigurnosti zaposlenja i plaće, pa čak i od njihove osobne sigurnosti. Njihov se posao i uloga u letenju mijenjaju sa svakim tehničkim napredovanjem, i time se mijenja to kako oni gledaju na sebe i kako ih vide drugi. U pitanju je i njihov društveni status pa čak i osjećaj identiteta. Kada, dakle, piloti

govore o automatizaciji, tada nije riječ samo o tehnici nego i o autobiografiji. Jesam li ja gospodar stroja ili njegov sluga? Da li ja u svijetu djelujem ili sam mu samo promatrač? Jesam li ja objekt ili nešto činim? Kako piše povjesničar tehnologije s MIT-a David Mindell u svojoj knjizi Digitalni Apolon, “rasprave o kontroli i automatizaciji u avijaciji u biti su rasprave o tome koliko je vaţan čovjek a koliko stroj. U avijaciji, kao i u svakoj djelatnosti u kojoj ljudi rade s nekim alatom, “tehničke promjene prepleću se s društvenima”.96 Piloti su sami sebe uvijek definirali u nekom odnosu prema svom umijeću. Wilbur Wright u pismu Octaveu Chanuteu, još jednom pioniru avijacije, o pilotovoj je ulozi 1900. godine napisao: “Potrebna je prije svega vještina, a tek onda mašina.”97 Time nije naprosto izrazio neko opće mjesto. Riječ je o tome da je, dok je ljudski let još bio u začecima, već postojala bitna napetost izmeĎu mogućnosti pilota i mogućnosti aviona. Kad su se gradili prvi avioni, njihovi su projektanti već raspravljali o tome koliko stabilan avion treba biti sam po sebi - odnosno, koliko mu treba biti jaka tendencija da u svim uvjetima leti ravno i odrţava visinu. Moglo bi se činiti da bi kod stroja za letenje više stabilnosti uvijek trebalo biti bolje, ali nije tako. Stabilnost i mogućnost manevriranja su suprotni ciljevi, i treba ih postaviti u pravi omjer. Što je stabilnost veća, pilotu će biti teţe kontrolirati let. Kako objašnjava Mindell: “Što je avion stabilniji, trebat će više napora da ga se makne iz točke ravnoteţe. Utoliko će biti manje upravljiv. Vrijedi i obrat - što je upravljiviji, što su mu manevarske sposobnosti aviona veće to će mu stabilnost biti manja.”98 Autor knjige o zrakoplovstvu iz 1910. izvijestio je da je pitanje ekvilibrija preraslo u “spor koji avijatičare dijeli na dvije škole”. S jedne strane bili su oni koji su tvrdili da bi ravnoteţa “u vrlo velikoj mjeri morala funkcionirati automatski” - da bi tako avion trebalo već unaprijed projektirati. S druge strane bili su oni koji su tvrdili da bi ravnoteţa morala biti “stvar vještine avijatičara”.99 Wilbur i Orville Wright pripadali su toj drugoj školi. Vjerovali su da bi zrakoplov trebao biti fundamentalno nestabilan, nalik biciklu ili čak, kako se Wilbur izrazio, “svojeglavom konju”.100 Tako će pilot imati najveću moguću autonomiju i slobodu. Braća su tu svoju filozofiju ugradila i u svoje avione, koji su manevarskim sposobnostima davali prednost pred stabilnosti. Izum braće Wright na početku dvadesetog stoljeća, tvrdi Mindell, “nije bio samo funkcionalni zrakoplov, nego i sama ideja zrakoplova kao dinamičnog stroja pod nadzorom pilota čovjeka”. 101 Prije inţenjerske, donesena je etička odluka: napraviti aparat podloţan osobi

koja njime upravlja, instrument ljudskog talenta i htijenja. U debati o ravnoteţi braća Wright će biti gubitnici. Kad su avioni počeli nositi putnike i druge vrijedne terete duţ velikih udaljenosti, sloboda i virtuoznost pilota pale su u drugi plan. Prvenstveno su vaţne postale sigurnost i djelotvornost, a da bi se one povećale - ubrzo je postalo jasno područje djelovanja pilota morat će se smanjiti a veće ovlasti trebat će prenijeti na stroj. Taj je pomak kontrole bio postupan, ali uvijek bi tehnologiji pripalo još malo više moći, a piloti bi se osjetili još malo više izbačeni. U jednom donkihotskom članku iz 1957., protiveći se pokušajima daljnje automatizacije letenja, vrhunski je testni pilot vojnih lovačkih aviona, imenom J. O. Roberts, bjesnio na to kako autopiloti pretvaraju čovjeka u kokpitu u jedva nešto više od “suvišne prtljage, osim u duţnosti nadziranja.” Pilot se, kako piše Roberts, mora upitati “je li uopće zaradio svoju plaću.”102 No, sve su inovacije ţiroskopa, elektromehaničkih ureĎaja, instrumenata i hidraulike bile samo slutnja onoga što će sa sobom donijeti digitalizacija. Računalo je izmijenilo karakter letenja; ali promijenilo je i karakter automatizacije. Ona ulogu pilota zaobilazi u toj mjeri da već i sama zamisao “manualnog upravljanja” počinje zvučati anakrono. Ako je bit pilotskog posla slanje digitalnih naputaka računalu, te nadziranje digitalnih rezultata - a u meĎuvremenu računala upravljaju pokretnim dijelovima aviona i odreĎuju mu kurs - gdje je u svemu tome “manualno upravljanje”? Čak i kad piloti kompjuteriziranih aviona povlače i odguruju volan ili palicu, oni zapravo izvode simulaciju manualnog letenja. Svaki je postupak posredovan, filtriran kroz mikroprocesore. To ne znači da ta vještina nije vaţna. Jer jest. MeĎutim, to više nije ista vještina: sada se postupci izvode neizravno, s onu stranu pokrova od softvera. U mnogim današnjim komercijalnim mlaţnjacima letački softver kod iznimno sloţenih manevara čak moţe isključiti pilota iz rada sustava. Zadnja karika lanca kontrole pripada računalu. “On nije samo pilotirao”, rekao je za Wileya Posta njegov kolega pilot, “on je svoj avion odijevao”. 103 Današnji piloti ne odijevaju svoje avione. Oni odijevaju avioračunala - ili moţda računala odijevaju pilote? Transformacija kroz koju je avijacija prošla u proteklih nekoliko desetljeća - prijelaz s mehaničkih na digitalne sustave, raširenost softvera i zaslona, automatizacija kako umnog tako i manualnog rada, nejasnoća oko toga što uopće znači biti pilot - sve nam to daje nacrt za ovu mnogo širu transformaciju kroz koju društvo danas prolazi. Stakleni kokpit, ističe Don

Harris, moţe se smatrati prototipom svijeta u kojem “računala rade u svemu”104 Iskustvo pilota otkriva i jednu suptilnu ali često vaţnu povezanost izmeĎu načina na koji se projektiraju automatizirani sustavi i načina na koje radi um i tijelo osobe koja takav sustav upotrebljava. Sve više dokaza za slabljenje vještina, otupljivanje osjetila i usporavanje reakcija trebali bi nas sve navesti na to da zastanemo. Počinjemo ţivjeti svoj ţivot unutar staklenog kokpita, i čini se da nam je sudbina da otkrijemo ono što piloti već znaju: stakleni kokpit moţe biti i stakleni kavez.

4. Učinak degeneracije Prije stotinu godina britanski je filozof Alfred North Whitehead u knjizi Uvod u matematiku napisao: “Civilizacija napreduje uvećavanjem broja vaţnih postupaka koje moţemo izvoditi a da o njima ne razmišljamo” Whitehead nije pisao o strojevima. Pisao je o upotrebi matematičkih simbola u predstavljanju ideja i logičkih procesa - što je rani primjer za to kako se intelektualni rad moţe obuhvatiti kodom. No namjera mu jest bila da se njegova primjedba shvati općenito. Uvrijeţena predodţba da “bismo trebali njegovati naviku da razmišljamo o onom što radimo”, pisao je, “duboko je pogrešna”. U što većoj mjeri uspijemo razriješiti svoj um rutinskih poslova i prenijeti ih na tehničku ispomoć, to ćemo više umne snage sačuvati za najdublje, najkreativnije vrste razmišljanja i smišljanja. “Postupci uma slični su napadima konjice u bitci - strogo su ograničeni brojem, zahtijevaju svjeţe konje, i moraju se poduzimati samo u presudnim trenucima.”105 Teško je i zamisliti jezgrovitiji i samopouzdaniji izraz vjere u automatizaciju kao temelj napretka. Whiteheadove riječi podrazumijevaju vjeru u hijerarhiju ljudskih djelatnosti. Svaki put kad prenesemo neki posao na alat ili stroj, ili na simbol ili softverski algoritam, oslobaĎamo sebe za uspon ka nekom višem cilju, za koji će trebati veća spretnost, bogatija inteligencija ili šira perspektiva. Sa svakim korakom naviše moţda nešto izgubimo, ali na kraju dobivamo mnogo više. Dovedeno do ekstrema, Whiteheadovo poimanje automatizacije kao osloboĎenja pretvara se u tehno-utopizam Wildea i Keynesa, ili Marxa u najvedrijim izdanjima - u san da će nas strojevi izbaviti od zemaljskog rada i vratiti nas u rajski vrt uţitaka dokolice. No, Whitehead nije imao glavu u oblacima. Njegov je zaključak pragmatičan i govori o tome kako provoditi vrijeme i na što usmjeravati napor. U jednoj je publikaciji iz 1970-ih Ministarstvo rada SAD-a opisalo posao sekretarice na sljedeći način: one “od svojih poslodavaca preuzimaju rutinske obaveze da i se mogli baviti vaţnijim stvarima”.106 Softver i druge tehnologije automatizacije, prema Whiteheadovu gledištu, imaju analognu ulogu. Povijest daje mnoštvo dokaza u prilog Whiteheadu. Nuţne poslove,

kako fizičke tako i umne, ljudi prenose na alate još od izuma poluge, kotača i računaljke. Takvo nam je prenošenje posla omogućilo da se hvatamo u koštac sa zakučastim problemima i da dorastemo do većih postignuća. To vrijedi bilo da je riječ o farmi, tvornici, laboratoriju ili domu. No Whiteheadovu primjedbu ne bismo trebali shvatiti kao univerzalnu istinu. On je pisao u vrijeme kad je automatizacija zahvaćala tek manji broj zaokruţenih, jasno definiranih i repetitivnih poslova - tkanje pomoću parnog tkalačkog stroja, ţetvu kombajnom, mnoţenje logaritamskim računalom. Danas je automatizacija nešto drugo. Računala se, kako smo vidjeli, mogu programirati za izvoĎenje ili pomoć u izvoĎenju sloţenih postupaka u kojima se niz strogo koordiniranih zadataka izvodi kroz evaluaciju mnogih parametara. Danas u automatiziranim sustavima računalo na sebe preuzima intelektualne poslove - uočavanje, osluškivanje, napipavanje; analizu i prosudbu, pa čak i odlučivanje - koji su se donedavno smatrali navlastito ljudskima. Osobi koja radi kao operater na računalu ostavljena je uloga visokotehnološkog činovnika koji unosi podatke, motri na rezultate i pazi na greške. Umjesto da svojim ljudskim suradnicima otvara nova obzorja mišljenja i djelovanja, softver nam suţava ţarište paţnje. Sada svoja suptilnija, specijaliziranija umijeća mijenjamo za rutinske i ni po čemu naročite. Kao i Whitehead, većina nas pretpostavlja da je automatizacija benigna, da nas uzdiţe do viših poziva ali inače nam ne mijenja način ponašanja i mišljenja. To nije točno. To je jedan od izraza onoga što su istraţivači automatizacije nazvali “mitom o supstituciji”. UreĎaj koji štedi rad neće samo nadomjestiti neku izoliranu sastavnicu posla. On mijenja karakter cijele zadaće, uključujući uloge, stavove i vještine ljudi koji na tom poslu rade. Kako u svom članku iz 2000. objašnjava Raja Parasuraman: “Ljudska aktivnost automatizacijom ne biva tek istisnuta, ona se i mijenja, to često onako kako njeni projektanti nisu ni predvidjeli ni namjeravali.”107 Automatizacija mijenja i rad i radnika.

Povjerenje u stroj Kad se ljudi hoće uhvatiti u koštac s nekom zadaćom, često bivaju ţrtvom dviju kognitivnih boljki: to su samozadovoljstvo automatizacijom i automatizacijska pristranost. I jedno i drugo otkrivaju klopke koje nas dočekuju kad poĎemo Whiteheadovim putem izvoĎenja vaţnih postupaka a da o njima ne razmišljamo. Samozadovoljstvo automatizacijom nastupa kad nas računalo uljuljka

u laţni osjećaj sigurnosti. Postajemo tako uvjereni u to da će stroj raditi bez greške i odraditi svaki izazov s kojim se suoči, da si dopustimo da nam paţnja odluta. Više ne prianjamo poslu, barem onom dijelu kojim barata softver, i zbog toga moţemo propustiti signale po kojima bismo znali da je nešto pošlo po zlu. Većina nas takvo je samozadovoljstvo doţivjela za računalom. Kad se sluţimo programom za pisanje, manje ćemo pozorno korigirati tekst ako nam je uključena provjera pravopisa. 108 To je jednostavan primjer, koji u najgorem slučaju moţe dovesti do kakve neugodnosti. MeĎutim, samozadovoljstvo automatizacijom moţe dovesti i do smrtnih posljedica, kako pokazuju katkad tragična iskustva avijatičara. U najgorem slučaju, ljudi postanu u toj mjeri povjerljivi prema tehnologiji da im svijest o onome što se oko njih dogaĎa posve izblijedi. Samo se isključe. Ako najednom izbije neki problem, ostanu zatečeni i gube dragocjene trenutke nastojeći se nanovo orijentirati. Samozadovoljstvo automatizacijom dokumentirano je u mnogim visokorizičnim situacijama, od bojnog polja preko kontrolne prostorije tvornice, do zapovjednog mosta broda ili podmornice. Jedan klasičan slučaj odnosi se na kruzer Royal Majesty, koji moţe primiti do 1500 putnika, a koji je u proljeće 1995. plovio od Bermuda ka Bostonu, posljednjoj etapi sedmodnevnog krstarenja. Brod je bio opremljen najsuvremenijim automatizacijskim navigacijskim sustavom, koji je odrţavao kurs pomoću signala GPS-a. Nakon sat vremena plovidbe, kabel antene GPS-a se otkvačio i navigacijski sustav je izgubio uporište. I dalje je slao očitanja, ali više nisu bila točna. Više od trideset sati brod je pomalo gubio zadani kurs a ni kapetan ni posada to nisu opazili, unatoč jasnim signalima da je sustav zatajio. U jednome trenutku kormilar u smjeni ne opaţa vaţnu lokacijsku oznaku kraj koje je brod trebao proći. O tome nikoga nije izvijestio. Njegovo je povjerenje u navigacijski sustav bilo tako potpuno da je pretpostavio da su prošli oznaku, samo je on nije vidio. Gotovo dvadeset milja izvan kursa, brod se konačno nasukao na pješčani sprud pokraj otoka Nantucket. Srećom, nitko nije bio ozlijeĎen, iako je tvrtka vlasnik kruzera imala višemilijunske troškove. Istraţitelji drţavne sluţbe za sigurnost plovidbe zaključili su da je uzrok nezgode samozadovoljstvo automatizacijom. Brodski su se časnici “pretjerano oslonili” na automatizirani sustav, do te mjere da su ignorirali druga “navigacijska pomagala i informacije dobivene opaţanjem”, što bi im bilo pokazalo da su opasno skrenuli s kursa. Automatizacija je, izvijestili su istraţitelji, “imala taj učinak da je pomorca ispustila iz procesa smislenog

nadzora i aktivnog sudjelovanja u radu broda”.109 Samozadovoljstvo moţe spopasti ljude koji rade uredske poslove jednako kao i one koji lete nebom i plove morem. U istraţivanju o učincima projektantskog softvera na graditeljske djelatnosti, sociologinja s MIT-a Sherry Turkle dokumentirala je kod arhitekata promjenu u pozornosti nad detaljima. Kad su se projekti crtali ručno, arhitekti su se itekako morali truditi da paze na sve dimenzije prije nego predaju nacrte graĎevinarima. Arhitekti su znali da mogu pogriješiti, da im se nešto moţe i omaknuti, pa su se vodili za starom stolarskom: mjeri dvaput, reţi jednom. Sada, kad im planove generira softver, manje paze na provjeru mjerenja. Očigledna preciznost računalnih prikaza navodi ih na pretpostavku da su im brojke točne. “Čini mi se pretenciozno provjeravati”, rekao je Turkle jedan arhitekt, “pa kako bih ja to mogao napraviti bolje od računala? Ono izvodi proračune do stotinke centimetra.” Takvo je samozadovoljstvo, koje znaju imati i graĎevinari i graditelji, već dovodilo do skupih pogrešaka i u projektiranju i u graĎenju. Kompjuteru se ništa ne moţe omaknuti, govorimo sebi, iako znamo da ona daju onakve rezultate kakve im damo upute. “Što je neki računalni program ušminkaniji”, primijetio je jedan Turklein student, “to više počinjete pretpostavljati da vam ispravlja greške, to više počinjete vjerovati da je ono što izlazi iz računala upravo ono što bi i trebalo biti. To je potpuno instinktivno.”110 Automatizacijska pristranost usko je vezana za samozadovoljstvo automatizacijom. Ona nam se provuče onda kad pripisujemo preveliku teţinu onome što vidimo na monitorima. Čak i kad informacije budu pogrešne ili varljivo nepotpune, čovjek im povjeruje. Povjerenje u softver postaje toliko da ljudi zanemare druge izvore informacija, uključujući vlastita osjetila. Ako ste se ikad negdje izgubili, ili shvatili da idete u krug jer ste ropski slijedili manjkave ili zastarjele upute GPS-ureĎaja ili digitalne karte, doţivjeli ste učinak automatizacijske pristranosti. Čak i ljudi kojima je voţnja posao katkad pokaţu nevjerojatan manjak zdravog razuma kad se oslanjaju na satelitsku navigaciju. Zanemarujući prometne znakove i druga opaţanja iz okoliša, nastavljaju voziti opasnim putem i katkad se zabiju u kakav nizak nadvoţnjak ili zapnu u uskim uličicama. Vozač četiri metra visokog autobusa, koji je prevozio srednjoškolsku sportsku momčad u Seattleu je 2008. naprosto uletio u betonski most visok tri metra. Razbio je cijeli vršni dio autobusa, a dvadeset i jedan učenik zbog ozljeda je završio u bolnici. Vozač je rekao policiji da je slijedio upute GPS-a i “nije vidio” znakove ni trepereča svjetla na cesti koja su

upozoravala na pribliţavanje niskom mostu.111 Automatizacijska pristranost osobito je riskantna za ljude koji se sluţe softverom za potporu u odlučivanju i puštaju da ih on vodi kroz postupak analize ili donošenje dijagnoze. Od kasnih 1990-ih godina radiolozi se koriste računalnim sustavima za detekciju, koji istaknu sumnjiva područja na mamogramu ili kakvom drugom rendgenskom nalazu. Digitalizirana verzija slike skenira se u računalo gdje prolazi kroz program za pronalaţenje podudaranja, koji pak prikaţe strelicu ili neko drugo “upozorenje” kako bi se liječniku sugeriralo na koja područja treba obratiti više paţnje. U nekim slučajevima takvo isticanje olakšava otkrivanje bolesti i pomaţe radiolozima da identificiraju potencijalne karcinome koji bi liječniku moţda bili promakli. No istraţivanja otkrivaju da takvo isticanje moţe imati i suprotan učinak. Sugestije programa liječnika učine tako pristranim da neistaknute dijelove slike smo preleti pogledom i katkad previdi tumor u ranoj fazi ili kakvo drugo odstupanje od normale. Isticanja, nadalje, mogu povećati vjerojatnost laţne uzbune, zbog koje radiolog šalje pacijenta na nepotrebnu biopsiju. Nedavno razmatranje mamogramskih podataka, koje je provela ekipa istraţivača s Gradskog sveučilišta London, ukazuje na to da je automatizacijska pristranost imala veći učinak na radiologe i druge stručnjake koji očitavaju dijagnostičke slike nego što se prije mislilo. Istraţivači su otkrili da detekcija potpomognuta računalima ima tendenciju poboljšanja pouzdanosti kod “manje pozornih očitavača” kad razmatraju “relativno lake slučajeve”, ali čak smanjuje uspješnost boljih stručnjaka kad razmatraju teţe slučajeve. Kad se oslanjaju na softver, takvi će stručnjaci vjerojatnije previdjeti odreĎene tumore.112 Ta suptilna pristranost, nadalje, koju potiču kompjuterizirana pomagala u odlučivanju, moţda je “sastavni dio ljudskog kognitivnog ustroja pri reagiranju na moguće opasnosti i upozorenja”.113 Time što nam usmjeravaju pogled, takva nam pomagala iskrivljuju vid. I samozadovoljstvo i pristranost, čini se, izviru iz ograničenja naših sposobnosti paţnje. Naša sklonost samozadovoljstvu pokazuje kako nam koncentracija i budnost lako izblijede kad ih rutinski ne upotrebljavamo u interakciji s okolišem. Naša podloţnost pristranostima pri ocjenjivanju i pridavanju teţine informacijama pokazuje da je ţarište paţnje našega uma selektivno, i lako ga je zavesti neprimjerenim povjerenjem pa čak i prikazivanjem naizgled korisnih naputaka. I samozadovoljstvo i pristranost imaju tendenciju pogoršanja koje nastupa s poboljšanjem kvalitete i

pouzdanosti automatiziranog sustava.114 Pokusi pokazuju da ostajemo u stanju visoke pozornosti kad sustav prilično često proizvodi greške. Tada zadrţavamo svjesnost o onom što nas okruţuje i paţljivo pratimo informacije iz različitih izvora. Ali kad je sustav pouzdaniji, kad se kvari ili griješi samo povremeno, mi se ulijenimo. Počnemo pretpostavljati da je sustav nepogrešiv. Budući da automatski sustavi obično dobro rade i onda kad smo smanjeno svjesni ili objektivni, rijetko budemo kaţnjeni zbog svog samozadovoljstva ili pristranosti.. Time se problemi samo nagomilavaju kako je istaknuo Parasuraman u članku 2010., u koautorstvu sa svojim njemačkim kolegom Dietrichom Manzeyem. “Imajući u vidu obično veliku pouzdanost automatiziranih sustava, čak i izrazito samozadovoljno i pristrano ponašanje operatera rijetko dovodi do očitih posljedica”, pišu znanstvenici. Nedostatak negativnih povratnih informacija s vremenom moţe potaknuti “kognitivni proces koji podsjeća na ono što nazivamo “naučena nebriga”.115 Sjetite se kako vam je voziti auto kad ste pospani. Ako zadrijemate i izaĎete iz svoje trake, obično ćete naletjeti na tvrdo rame suvozača, ili zapeti za zemlju pokraj ceste, ili će vam drugi vozači ljubazno potrubiti - što će vas vrlo uspješno razbuditi. Ako ste u automobilu koji vas automatski drţi u traci prateći oznake na kolniku i podešavajući volan, takvih upozorenja neće biti. Past ćete u dublji san. Ako se tada dogodi nešto neočekivano - ako na cestu, recimo, dotrči neka ţivotinja, li se pred vama zaustavi automobil - puno je vjerojatnije da ćete doţivjeti nesreću. Izolirajući nas od negativnih povratnih informacija, automatizacija nam oteţava da budemo prisebni i pozorni. Isključujemo se još i više.

Lijeni um Naša podloţnost samozadovoljstvu i pristranosti objašnjava kako nas oslanjanje na automatizaciju moţe navesti na greške, i činjenjem i nečinjenjem. Tada prihvaćamo informacije za koje se pokaţe da su netočne i nepotpune, te postupamo u skladu s njima ili ne vidimo ono što bismo trebali vidjeti. Ali način na koji nam oslanjanje na računala oslabljuje budnost i pozornost ukazuje i na jedan mračniji problem. Automatizacija nas od djelatnih osoba pretvara u promatrače. Umjesto da baratamo pilotskom palicom, mi gledamo u ekran. Time nam ţivot moţda postaje lakši, ali isti se pomak moţe dogoditi i s našom sposobnošću da učimo i razumijemo svoja znanja i vještine. Bilo da automatizacija poboljšava ili pogoršava našu uspješnost u nekoj konkretnoj zadaći, na dugi rok ona nam

moţe oslabiti umješnost, ili zbog nje ne uspijevamo stjecati nova znanja. Još od kraja 1970-ih godina kognitivni psiholozi dokumentiraju pojavu zvanu učinak generiranja. Prvi je put uočena u istraţivanju vokabulara, u kojem se pokazalo da ljudi puno bolje pamte riječi kad ih sami aktivno prizovu u mišljenje - kad ih generiraju - nego kad ih pročitaju. U jednom od prvih i najpoznatijih takvih eksperimenata, koje je proveo psiholog Norman Slamecka sa Sveučilišta u Torontu, ispitanici su trebali pamtiti parove pojmova suprotnih značenja koristeći se zapisima na pomoćnim karticama. Jedni su ispitanici dobili kartice na kojima su bile ispisane obje riječi: VRUĆE:HLADNO Drugi su pak dobili kartice na kojima je stajalo samo prvo slovo druge riječi, to jest: VRUĆE:H Oni koji su dobili kartice na kojima su nedostajala slova bili su mnogo uspješniji na idućem testu, kojima se mjerilo koliko je parova riječi upamtio. Samo time što su bili prisiljeni u glavi popunjavati praznine, djelovati a ne opaţati, postignuto je bolje zadrţavanje informacija.116 Do danas je postalo jasno da učinak generiranja utječe na učenje i pamćenje u mnogo različitih okolnosti. Eksperimenti su taj učinak dokazali ne samo u zadaćama pamćenja riječi i slova nego i kod pamćenja brojeva, slika i zvukova; dovršavanja rješenja matematičkih problema; odgovaranja na pitanja poput onih iz kvizova o trivijalnim znanjima, te kod čitanja s razumijevanjem. Novija su istraţivanja, nadalje, demonstrirala korist od učinka generiranja i u zahtjevnijim oblicima učenja i poučavanja. U jednom se članku objavljenom 2011. u časopisu Science pokazalo da su učenici koji su u zadanom razdoblju učili o nekoj sloţenoj temi iz znanosti a zatim su proveli neko vrijeme prisjećajući se toga bez pomoći, bolje naučili gradivo nego učenici koji su četiri puta zaredom ponavljali period učenja istog gradiva.117 Mentalni čin generiranja u čovjeku uvećava sposobnost izvoĎenja aktivnosti koje, kako je napisala istraţivačica edukacije Britte Haugan Cheng, “zahtijevaju pojmovno mišljenje i preduvjet im je dublja kognitivna obrada”. Štoviše, kaţe Cheng, čini se da učinak generiranja biva to jači što je tema koju um generira sloţenija.118 Psiholozi i neuroznanstvenici još uvijek samo pokušavaju dokučiti

uslijed čega točno u našemu umu dolazi do učinka generiranja. No, jasno je da su u to uključeni duboki kognitivni i memorijski procesi. Kad se oko nečega jako potrudimo, kad nam to postane ţarište paţnje i truda, naš nas um nagraĎuje boljim razumijevanjem. Pamtimo više, učimo bolje. S vremenom, stječemo umijeće, taj osobit dar za točno, stručno i svrhovito djelovanje u svijetu. Nije to neko iznenaĎenje. Veći nas znade da je jedini način da u nečemu budemo dobri taj da se time zaista i bavimo. Lako je samo prikupljati podatke s ekrana računala - ili iz knjige, kad smo već kod toga. No, istinsko znanje, osobito ono koje nam se duboko ugraĎuje u sjećanje i manifestira se u vještini, teţe se stječe. Za njega je potreban ţivlji i dulji angaţman na nekoj zahtjevnoj zadaći. Australski psiholozi Simon Farrell i Stephen Lewandowsky u svom su članku objavljenom 2000. pronašli vezu izmeĎu automatizacije i učinka generiranja. NavoĎenje drugog dijela para antonima u Slameckinom pokusu (umjesto da se ispitanika prisili da sam prizove odgovarajuću riječ u sjećanje) “moţe se smatrati činom automatizacije jer se time čovjekova aktivnost - generiranje riječi „hladno‟ - preduhitruje podraţajem otisnute riječi”. Ako to dalje proširimo, “pad uspješnosti uočen kad se generiranje zamijeni čitanjem moţe se smatrati manifestacijom samozadovoljstva [automatizacijom]”.119 To nam pomaţe rasvijetliti kognitivne troškove automatizacije. Čini se da mentalni procesi nisu isti kad neku zadaću ili posao obavljamo sami i kad se oslanjamo na pomoć računala. Kada softver smanjuje naš angaţman u poslu, a osobito kad nas gura u pasivniju ulogu promatrača, time zaobilazimo dubinsku spoznajnu obradu koja stoji u podlozi učinka generiranja. Posljedica je narušavanje naše sposobnosti zadobivanja one vrste bogatoga znanja o stvarnom svijetu na temelju koje postiţemo umijeće. Učinak generiranja zahtijeva upravo onakav trud kakav se automatizacijom nastoji umanjiti. Christoph van Nimwegen, kognitivni psiholog sa Sveučilišta u Utrechtu, 2004. je godine započeo niz jednostavnih ali veoma djelotvornih pokusa kojima je htio istraţiti učinke softvera na stvaranje sjećanja i razvoj stručnosti.120 Angaţirao je dvije skupine ljudi i dao im je da igraju računalnu igru koja se temeljila na klasičnom logičkom problemu misionara i kanibala. Igrač je, dakle, morao čamcem prevesti preko rijeke pet misionara i pet kanibala (odnosno, u van Nimwegenovoj verziji, pet ţutih kuglica i pet plavih kuglica), s tim da u čamac ne stane više od tri putnika. Problem je u tome što ni u kojem trenutku na jednom mjestu ne smije biti više kanibala nego misionara, bilo u čamcu bilo na obali. (Po

pretpostavci, misionari bi završili kao ručak kanibalima ako ih ovi brojčano nadvladaju.) Da bi se domislilo kakvim se nizom prelazaka rijeke taj zadatak najuspješnije obavlja, potrebni su jasna analiza i paţljivo planiranje. Jedna od Nimwegenovih skupina taj je zadatak rješavala koristeći se softverom koji im je nudio pomoć u postupku: pokazivao je, na primjer, koji su potezi dopušteni a koji nisu. Druga se skupina sluţila jednostavnijim programom koji nije nudio nikakvu pomoć. Kako biste i očekivali, oni koji su imali program koji nudi pomoć u početku su brţe napredovali. Samo su pratili pokazivač, umjesto da se prije svakog poteza prisjete pravila i dokuče kako su ona primjenjiva na novu situaciju. No, kako je igra napredovala, briljirati su počeli igrači koji su se sluţili jednostavnijim softverom. U svom je izvještaju o rezultatima pokusa van Nimwegen zaključio da su ispitanici koji su imali jednostavniji program razvili jasnije konceptualno razumijevanje te zadaće. Bilo im je lakše misliti unaprijed i planirati uspješnu strategiju. Oni koji su se oslanjali na upute softvera, naprotiv, često bi se zbunili i počeli “besciljno klikati po ekranu”. Kognitivna naplata koju donosi pomoćni softver postala je još jasnijom osam mjeseci poslije, kad je vam Nimwegen istim ljudima zadao da ponovno rješavaju zadatak. Oni koji su se prije sluţili jednostavnijim programom završili su igru gotovo dvostruko brţe od svojih suparnika. Ispitanici s jednostavnijim programom, piše on, pokazali su “više usredotočenosti” u rješavanju zadatka. Van Nimwegen i neki od njegovih kolega iz Utrechta nastavili su se baviti tom temom i proveli su više eksperimenata s realističnijim zadacima, primjerice s uporabom softverskog kalendara za planiranje sastanaka, te softvera za organizaciju skupova koji pomaţe pri izradi razmještaja sudionika konferencije. Rezultati su bili isti. Ljudi koji su se oslanjali na ono što im sugerira softver bili su lošiji u strateškom mišljenju, činili su više suvišnih koraka i na koju su završili sa slabijim konceptualnim razumijevanjem zadatka. Oni koji su se sluţili programom koji ne nudi pomoć planirali su bolje, radili pametnije, i naučili više.121 Ono što je van Nimwegen uočio u laboratoriju - da, kad automatiziramo zadatke kakav je rješavanje problema, radimo na štetu sposobnosti uma da prevodi informacije u znanja i znanja u umijeća dokumentirao je i u stvarnom svijetu. U mnogim se djelatnostima menadţeri i drugi stručnjaci oslanjaju na takozvane ekspertne sustave, uz

čiju pomoć razvrstavaju i analiziraju informacije i koji im sugeriraju daljnje postupke. RačunovoĎe, primjerice, u korporativnoj reviziji rabe softver za potporu u odlučivanju. Takvi programi ubrzavaju rad, no ima znakova koji ukazuju na to da, što su ti programi moćniji, računovoĎe postaju slabiji. Jedno istraţivanje, koji je provela skupina australskih profesora, bavilo se učincima ekspertnih sustava u trima meĎunarodnim računovodstvenim tvrtkama. Dvije su koristile napredni program koji je na osnovi računovoĎinih odgovora na osnovna pitanja o klijentu preporučivao skup relevantnih poslovnih rizika koje valja uvrstiti u revizorski izvještaj. Treća se tvrtka koristila jednostavnijim programom koji nudi popis mogućih rizika ali zahtijeva od računovoĎe da ih pregleda i samostalno odabere relevantne, te ih uvrsti u izvještaj. Znanstvenici su testirali računovoĎe sve tri tvrtke u njihovu poznavanju rizika u djelatnostima za koje su radile revizije. Oni iz tvrtke s manje usluţnim softverom iskazali su značajno bolje razumijevanje različitih oblika rizika u odnosu na svoje kolege iz druge dvije tvrtke. Pad učenosti povezan s naprednim softverom zahvatio je čak i veterane, revizore s više od pet godina iskustva u tvrtci.122 Druga istraţivanja ekspertnih sustava otkrivaju slične učinke. Pokazalo se da programi za potporu u odlučivanju kratkoročno mogu pomoći analitičarima početnicima da donose bolje prosudbe, ali ih mogu učiniti i mentalno lijenima. Slabeći im intenzitet razmišljanja, takav im softver umanjuje sposobnost ugraĎivanja informacija u pamćenje, i stoga će oni manje vjerojatno razviti bogato prešutno znanje koje je bit svake prave ekspertize.123 Negativne strane automatiziranih sustava za pomoć u odlučivanju moţda su suptilne ali imaju vrlo realne posljedice, osobito u onim područjima u kojima analitičke pogreške imaju dalekoseţne posljedice. Pogrešno proračunavanje rizika, zaoštreno programima za brzo kompjuterizirano burzovno trgovanje, imalo je golemu ulogu u krahu do kojega je gotovo došlo na svjetskim financijskim trţištima 2008. godine. Profesor menadţmenta sa Sveučilišta Tufts Amar Bhide smatra da su “robotske metode” odlučivanja dovele do veoma raširenog “deficita u odlučivanju” meĎu bankarima i drugim profesionalcima s Wall Streeta.124 Iako moţda jest nemoguće precizno reći u kojoj je mjeri automatizacija pridonijela nekoj katastrofi, ili nastanku fijaska poput “munjevite propasti” na burzama SAD-a 2010., čini se mudrim ozbiljno shvatiti svaku indikaciju da neka široko rasprostranjena tehnologija potencijalno šteti znanjima ili sposobnostima zaključivanja ljudi na osjetljivim poslovima. U svom su članku iz 2013. informatičari Gordon Baxter i John Cartlidge upozorili da

oslanjanje na automatiku erodira znanja i vještine financijskih stručnjaka, dok sustavi za računalno trgovanje vrijednosnicama istodobno čine financijska trţišta riskantnijima.125 Pojedini se programeri zabrinjavaju da olako ublaţavanje napora u programiranju uzima danak i njihovoj vještini. Danas se programeri kao pomoći u pisanju sluţe softverom zvanim “integrirana razvojna okolina” ili IDE. Takve aplikacije automatiziraju mnoge pipave ili vremenski zahtjevne a rutinske postupke. Najčešće je riječ o automatskom dovršavanju riječi ili izraza, o automatskoj korekturi pisanja, te o pomoći u prepoznavanju logičkih pogrešaka, dok one sofisticiranije analiziraju strukturu programa i nude moguće izmjene kroz takozvani “refactoring” programskog koda. No, kako aplikacije na sebe preuzimaju posao pisanja programa, programeri gube priliku za vjeţbanje i njegovanje svoga umijeća. “Suvremeni IDE katkad bude toliko „usluţan da se povremeno osjećam kao operater IDE-a a ne kao programer”, piše Vivek Halder, veteran programiranja u Googleu. “Ponašanje koje svi ti alati potiču nije „dobro promisli o svom kodu i paţljivo ga piši‟ nego „samo naţvrljaj nešto traljavo i alat će ti reći ne samo što ne valja nego i kako to popraviti?‟ Njegova presuda glasi: “britak alat, tupav um”.126 U Googleu priznaju da su taj učinak otupljivanja čak uočili meĎu općom publikom, kad su svoj pretraţivao činili responzivnijim i podrobnijim u predviĎanju naših upita. Google nam ispravlja pogreške u tipkanju, ali i sugerira nam sadrţaj upita još dok tipkamo, raspliće semantičke nejasnoće naših formulacija i anticipira naše potrebe na temelju toga gdje se nalazimo i kako smo se dosad ponašali. Pretpostavili bismo da ćemo, kako Google postaje sve bolji pomagač u pretraţivanju, i mi učiti na njegovom primjeru. Ključne riječi birat ćemo vještije, i na druge načine brusiti svoje tragalačke sposobnosti. No, dogaĎa se suprotno, tvrdi glavni istraţivač pretraţivanja Amit Singhal. Jedan je izvjestitelj londonskog lista Observer 2013. godine razgovarao sa Singhalom o mnoštvu poboljšanja što ih je Google s godinama uvodio u svoj pretraţivač. “Pretpostavljam”, natuknuo je novinar, “da smo sluţeći se Googleom postali precizniji u pretraţivanju”. Singhal je na to uzdahnuo i “pomalo umorno” ispravio svog sugovornika: “Zapravo ne, naprotiv. Što je stroj točniji, pitanja su manje promišljena”127 Moguće je, štoviše, da usavršenost pretraţivača negativno djeluje i šire nego samo na naše sposobnosti formuliranja sofisticiranih upita. Niz eksperimenata o kojima j 2011. izvijestio časopis Science ukazuje na to da nam lakoća dostupnosti informacija na Internetu

oslabljuje sposobnosti pamćenja činjenica. U jednom su od tih pokusa ispitanici čitali nekoliko desetaka jednostavnih, istinitih izjava - na primjer, “u noja je veće oko nego mozak” - i pritom su ih trebali utipkati u računalo. Polovici ispitanika rečeno je da će računalo pohraniti to što utipkaju; drugoj je polovici rečeno da se sve briše. Zatim su svi ispitanici trebali ispisati sve izjave kojih se sjećaju. Oni koji su vjerovali da se informacije pohranjuju u računalu, upamtili su značajno manje činjenica nego oni koji su pretpostavljali da se brišu. Već i samo to što znamo da će informacije biti dostupne u nekoj bazi podataka, kao da smanjuje, vjerojatnost da će se naš mozak potruditi formirati sjećanje. “Budući da su nam pretraţivači kontinuirano dostupni, moguće je da smo često u takvom stanju u kojem ne osjećamo da moramo interno pohranjivati podatke”, zaključuju istraţivači. “Kad nam bude trebalo, potraţit ćemo ih.”128 Ljudi su tisućljećima nadomještali svoje biološko pamćenje tehnologijama pohrane, od svitaka i knjiga do mikrofiša i magnetske trake. Sredstva za zapisivanje i distribuiranje informacija temelj su civilizacije. No, vanjska pohrana i biološko pamćenje nisu ista stvar. Znanje nije samo pronalaţenje podataka; da bismo nešto znali, činjenice i dogaĎaje je nuţno pohraniti u vlastito pamćenje. Istinsko znanje u nečemu podrazumijeva da smo to prepleli u našem ţivčanom sklopovlju, i potom to znanje višekratno upotrijebili i prisjetili ga se. S pretraţivačima i drugim mreţnim resursima za pohranu i dohvat informacija, automatizirali smo neusporedivo više nego ikad prije. U nekim pogledima, naizgled uroĎena sklonost našega mozga da si olakša ili eksternalizira posao prisjećanja čini naše mišljenje djelotvornijim. Činjenice koje smo smetnuli s uma brzo i lako pronalazimo. No, ista ta sklonost postaje patološka kad zbog automatizacije umnog rada i suviše lako izbjegavamo rad prisjećanja i zaboravljanja. Naravno, posao se Googlea i drugih softverskih tvrtki sastoji u tome da nam olakšaju ţivot. To je ono što od njih traţimo, i zbog toga smo im lojalni. No, njihovi programi sve doraĎenije misle umjesto nas i mi se tada prirodno pomalo i sve više oslanjamo na softver a sve manje na vlastitu pamet. Postaje sve manje vjerojatno da ćemo si tjerati um da obavlja posao generiranja. A to završava tako da na kraju sve slabije učimo i sve manje znamo. Postajemo nesposobniji. Kao što o današnjem softveru kaţe i profesor računarstva sa Sveučilišta Texas, Mihai Nadin: “Što sučelje više zamjenjuje ljudski trud, to će se korisnik manje dobro prilagoĎavati novim situacijama.”129 Učinak generiranja računalna automatizacija zamjenjuje njegovom suprotnošću: učinkom degeneriranja.

Mišljenje na djelu Dopustite mi da vas pozovem da još jednom obratite paţnju na onaj zlosretni Subaru boje ţute kabanice s ručnim mjenjačem brzina. Kako se sjećate, nakon samo par tjedana vjeţbe od nesretnog sam brusača prijenosnih zupčanika postao umjereno vrstan majstor na mjenjaču. Pokreti ruku i nogu kojima me tata poučio (u glavnim crtama), sada su mi se činili instruktivnijima. Nije baš da sam bio stručnjak, ali svaka promjena brzine više mi nije predstavljala ni borbu. Izvodio sam to bez razmišljanja: postalo mi je ... automatski. To mi moje iskustvo daje model za to kako ljudska bića stječu komplicirane vještine. Često krenemo s nekom osnovnom podukom, koju dobivamo izravno od učitelja ili mentora, ili pak neizravno iz knjige, priručnika ili video-snimke s YouTubea, čime se u našu svijest prenosi eksplicitno znanje o tome kako izvesti neku zadaću: učini to, pa to, pa to. Tako je postupio moj otac kad mi je pokazivao gdje je koja brzina i objašnjavao kada pritisnuti spojku. Kao što sam ubrzo saznao, eksplicitno znanje na tome i staje, osobito kad zadaća ima i psihomotoričku sastavnicu, a ne samo spoznajnu. Da biste njome ovladali, morate razviti i prešutna znanja, a ona se stječu jedino stvarnim doţivljajima - višekratnim činjenjem i uvjeţbavanjem. Što ste uvjeţbaniji manje ćete morati razmišljati o tome što radite. Odgovornost za ono što radite premješta vam se iz svjesnog uma na nesvjesni, brz i fluidan. Pritom si svjesni um oslobaĎate za bavljenje suptilnijim aspektima te vještine, pa kad vam i oni postanu automatski idete još dalje. Ustrajete, trudite se i na kraju - pod pretpostavkom da ste prirodno sposobni za tu zadaću - stiţe nagrada stručnosti. Taj se proces kojim ste se izvještili, i kojim se vaš dar realizira bez svjesnog razmišljanja nesklapno se naziva automatiziranje, ili još ruţnije proceduralizacija. Pri automatiziranju dolazi do dubokih i rasprostranjenih promjena i prilagodbi u mozgu. Neke se stanice u mozgu, neuroni, specijaliziraju za tu zadaću, i usklaĎuju se putem elektrokemijskih veza koje pruţaju sinapse. Kognitivni psiholog Gary Marcus sa Sveučilišta New York nudi podrobnije objašnjenje: “Na razini ţivčanih stanica, proceduralizacija se sastoji od cijelog dijapazona podrobno koordiniranih procesa, uz ostalo i promjena kako sive moţdane tvari (tijela ţivčanih stanica) tako i bijele moţdane tvari (aksona i dendrita kojima se ţivčane stanice povezuju). Postojeće ţivčane veze (sinapse) treba učiniti

djelotvornijima, treba stvoriti nove dendritičke trnove, sintetizirati nove bjelančevine”130 Kroz ţivčane promjene automatiziranje mozak stvara automatičnost, sposobnost za brzu, nesvjesnu percepciju, interpretaciju i akciju, što umu i tijelu omogućuje trenutačno prepoznavanje obrazaca i reagiranje na promjene okolnosti. Sve smo mi doţivjeli automatiziranje i postigli automatičnost kad smo naučili čitati. Promatrajte dijete dok uči čitati i svjedočit ćete tegobnom mentalnom naporu. Dijete prvo mora proučiti oblik svakog slova kako bi ih znalo raspoznavati. Mora razumjeti kako se zvuk niza slova slaţe u oblik sloga i kako se niz slogova slaţe u riječ. Ako mu ta riječ nije poznata, dijete će je morati nastojati shvatiti, ili će ga netko morati poučiti što znači. A zatim će, riječ po riječ, morati protumačiti značenje rečenice, pri čemu će često morati raspletati nejasnoće koje jezik nuţno sadrţi. To je spor i teţak proces, koji zahtijeva punu paţnju svjesnog uma. No, na kraju se slova a onda i riječi zabiljeţe u neuronima vidnog dijela moţdane kore - područje mozga koje obraĎuje osjet vida - i mladi čitatelj i čitateljica ih počinju prepoznavati a da o tome ne moraju svjesno razmišljati. Kroz simfoniju moţdanih mijena, počinjemo čitati s lakoćom. Što veću automatičnost dijete postigne, čitanje će mu biti brţe i bolje.131 Bilo da je riječ o Wileyu Postu u kokpitu, Sereni Williams na teniskom terenu ili o Magnusu Carlsenu za šahovskom pločom, taj onosvjetski dar virtuoznosti izvire iz automatičnosti. To moţda izgleda kao nagon, ali riječ je o umijeću koje smo stekli velikim trudom. Do takvih promjena u mozgu ne dolazi pasivnim promatranjem. One nastaju tijekom višekratnih sučeljavanja s nečim neočekivanim. Za to je potrebno, kako piše filozof uma Hubert Dreyfus, “iskustvo u mnoštvu različitih situacija, na koje gledamo iz iste perspektive ali koje zahtijevaju zasebne taktičke odluke”.132 Bez puno prakse, puno ponavljanja i uvjeţbavanja te vještine u različitim okolnostima, vi i vaš mozak nikad nećete postati zaista dobri ni u čemu, ako je riječ o nečem kompliciranom. A ako ste i postigli neko umijeće, ono će ubrzo zakrţljati bez kontinuirane prakse. Danas je popularno reći da je za sve potrebna samo vjeţba. Bavite se nečime desetak tisuća sati i postat ćete blagoslovljeni stručnošću - postat ćete novi veliki kuhar tjestenine ili slavno lijevo krilo. Na nesreću, to je pretjerivanje. Genske odlike, i fizičke i intelektualne, imaju vaţnu ulogu u razvoju nove vještine, osobito na najvišim razinama. Čak i naša ţelja i spremnost na vjeţbu imaju svoju gensku sastavnicu: “To, kako iskustvo djeluje na nas pa i to kakva iskustva traţimo, takoĎer je djelomično

funkcija gena s kojima se raĎamo”.133 No, ako geni bar ugrubo postavljaju gornju granicu nekog individualnog dara, svatko će jedino vjeţbom moći dosegnuti te granice i ispuniti svoj potencijal. A iako uroĎene sposobnosti čine veliku razliku, pišu profesori psihologije David Hambrich i Elizabeth Meinz, “istraţivanja ne ostavljaju mjesta sumnji da je jedan od najvećih izvora individualnih razlika u uspješnosti u sloţenim zadacima jednostavno to koliko i što tko zna: deklarativno, proceduralno i strateško znanje skupljeno kroz godine vjeţbe i prakse u nekom području.”134 Automatičnost se, jasno je već iz naziva, moţe smatrati nekom vrstom pounutrenog automatiziranja. To je način na koji tijelo čini teţak ali repetitivan posao rutinskim. Fizički pokreti i postupci postaju programiranima u mišićnom pamćenju; tumačenja i prosudbe donose se trenutačnim prepoznavanjem obrazaca u okolišu (dobivenih osjetilima). Svjesnije um, kako su znanstvenici odavno otkrili, iznenaĎujuće skučen, i njegove su sposobnosti prihvata i obrade informacija ograničene. Da nije automatičnosti, naša bi svjesnost bila vječno preopterećena. Čak i vrlo jednostavni postupci, kakav je čitanje rečenice u knjizi ili rezanje odreska noţem i viljuškom, naprezali bi naše spoznajne sposobnosti. Automatičnost nam otvara više manevarskog prostora. Njome uvećavamo, da malo preokrenemo primjedbu Alfreda Northa Whiteheada, “broj vaţnih postupaka koje moţemo izvoditi a da o njima ne razmišljamo”. Alati i druge tehnologije, u najsretnijem slučaju, čine nešto slično, i Whitehead je to uviĎao. I kapacitet mozga za automatičnost ima svoje granice. Naš nesvjesni um moţe izvesti mnogo funkcija brzo i efikasno, ali ne moţe sve. Moţda moţete uspjeti upamtiti tablicu mnoţenja do dvanaest ili dvadeset, ali vjerojatno će vam biti teško doći puno dalje. I ako vam ne popusti pamćenje, popustit će vam strpljenje. Običnim dţepnim kalkulatorom, meĎutim, moţete automatizirati čak i vrlo komplicirane matematičke postupke, kakvi bi vam prenaprezali mozak bez pomoćnih sredstava, a oslobodit ćete si i svjesni um za razmišljanje o tome što sa svom tom matematikom. No, sve to funkcionira jedino ako ste već savladali osnove aritmetike, učenjem i vjeţbom. Ako se kalkulatorom sluţite da biste izbjegli učenje, da biste izvodili postupke koje niste naučili ili ih ne razumijete, vaš vam alat neće proširiti obzore. Neće vam pomoći u stjecanju novih matematičkih znanja i vještina. Bit će to samo crna kutija, misteriozni mehanizam za proizvodnju brojeva. Bit će prepreka, a ne poticaj višem mišljenju. Računalna automatika danas, meĎutim, često dovodi upravo do toga,

i zato Whiteheadova primjedba sada zavodi na pogrešan put kad je riječ o posljedicama tehnologije. Umjesto da proširuje sposobnosti automatičnosti mozga, automatika i prečesto sputava automatičnost. Izbavljujući nas od repetitivne mentalne vjeţbe, ona nas izbavljuje i od dubinskog učenja. I samozadovoljstvo i pristranost simptomi su uma koji pred sobom nema izazova, koji nije posve angaţiran praksom u realnom svijetu koja pak dovodi do generiranja znanja, obogaćuje pamćenje i gradi vještinu. Problem je to teţi time što nas računalni sustavi udaljavaju od izravne i trenutačne povratne veze s našim postupcima. Kako ističe K. Anders Ericsson, stručnjak za razvoj vještina, bit izgradnje svake vještine je redovita povratna veza. Ona nam omogućuje da učimo na svojim uspjesima i pogreškama. “U odsutnosti adekvatne povratne veze”, objašnjava Ericsson, “učinkovito je učenje nemoguće a napredak tek minimalan čak i kod izrazito motiviranih ispitanika”.135 Automatičnost, generiranje, tok: ti su mentalni fenomeni različiti, komplicirani su i njihovo biološko ustrojstvo nam je tek mutno poznato. No, oni jesu povezani, i nešto nam vaţno govore o nama. One vrste truda koje dovode do dara u nečemu - a svojstveni su im izazovnost zadaće, jasan cilj i izravna povratna veza - vrlo su slične onima koje nam daju osjećaj toka. Sve su to doţivljaji u koje uranjamo. Svi se odnose na poslove koji nas tjeraju na to da aktivno generiramo znanje a ne da samo pasivno unosimo informacije. Njegovanje vještine, uvećavanje razumijevanja i postizanje osobnog zadovoljstva i ispunjenosti, sve to ima svoju ulogu. I sve zahtijeva čvrste veze, i fizičke i mentalne, izmeĎu pojedinaca i svijeta. Za sve je potrebno, da citiram američkog filozofa Roberta Talissea, “zasukati rukave i dodirnuti svijet, pa pustiti svijet da na neki način uzvrati”.136 Automatičnost je zapis što ga svijet ostavlja u aktivnom umu i u aktivnom ja. Vještina je dokaz bogatstva toga zapisa. Od slobodnih penjača na stijene do pijanista, objašnjava Mihaly Csikszentmihalyi, ljudi koji “rutinski nalaze zadovoljstvo u nekoj aktivnosti ilustriraju kako organizirani skup izazova i odgovarajući skup vještina dovode do optimalnog doţivljaja”. Poslovi ili hobiji kojima se takvi ljudi bave “nude obilje mogućnosti djelovanja”, a vještine koje tako razvijaju omogućuju im da najpotpunije iskoriste te prigode. Mogućnost samosvjesnog djelovanja u svijetu sve nas pretvara u umjetnike. “Onoj lakoći prianjanja poslu kakvu doţivljava iskusan umjetnik dok radi na nečemu zahtjevnom, prethodi ovladavanje sloţenim gradivom vještina.”137 Kad nas automatizacija udalji od našega posla, kad se uplete izmeĎu nas i

svijeta, iz našeg ţivota ona tada briše umjetnost.

Interludij o miševima koji plešu “Od 1903. sam godine do danas u kontinuitetu promatrao izmeĎu dvoje i stotinu miševa koji plešu” To priznaje harvardski psiholog Robert M. Yerkes u početnom poglavlju svoje knjige Miš koji pleše iz 1907., u kojoj je na 290 stranica opjevao jednog - glodavca. Miš koji pleše, predviĎa Yerkes, pokazat će se onoliko vaţnim za bihevioriste koliko je za anatome bila ţaba. Kad je mjesni kembrički liječnik Harvardskom psihološkom laboratoriju na dar donio par japanskih miševa koji plešu, Yerkes nije bio oduševljen. Činilo se da je to “nevaţna zgoda mog znanstvenog rada”. Ubrzo su ga, meĎutim, opčinila ta sićušna bića i njihov običaj da “nevjerojatnom brzinom jure oko jednog te istog mjesta”. Uzgojio ih je cijelo mnoštvo; svakome je dodijelio broj i u dnevnik je za svakoga paţljivo biljeţio svojstvene oznake, spol, datum roĎenja i rodoslov. Miš koji pleše bio je “ţivotinja vrijedna divljenja”: manji i slabiji od prosječnog miša, jedva se uspijevao drţati u uspravnom poloţaju i “uhvatiti za kakav predmet” - no, pokazao se “idealnim ispitanikom za eksperimentalna istraţivanja mnogih pitanja o ponašanju ţivotinja”. Za tu se vrstu bilo “lako skrbiti, bilo ih je lako pripitomiti, bili su bezopasni i neumorno aktivni, i zadovoljavajuće su pristajali na velik broj eksperimentalnih postupaka”.138 Upotreba ţivotinja u psihološkim istraţivanjima u to je vrijeme još bila novost. Ivan Pavlov tek je bio počeo sa svojim eksperimentima 1890ih, a američki postdiplomac Willard Small tek je 1900. godine ubacio štakora u labirint i promatrao ga kako trčkara. Sa svojim je miševima koji plešu Yerkes silno proširio opseg istraţivanja na ţivotinjama. Kao što se vidi iz knjige Miš koji pleše, ti su mu glodavci posluţili kao ispitne ţivotinje u istraţivanju, meĎu ostalim, osjećaja za ravnoteţu i odrţavanja ravnoteţe, vida i percepcije, učenja i pamćenja, te nasljednosti bihevioralnih značajki. Miševi su sami “tjerali na eksperimentiranje”, izvještava Yerkes. “Što sam ih više promatrao i s njima eksperimentirao, to su brojniji postajali problemi za koje su mi nudili rješenja moji plesači.”139 Početkom 1906. Yerkes je krenuo sa, ispostavit će se, svojim najvaţnijim i najutjecajnijim pokusima s plesačima. U suradnji s Johnom Dillinghamom Dodsonom, četrdesetak je miševa jednog po jednog stavio u

drvenu kutiju. Na jednom su kraju kutije bila dva prolaza, jedan bijel a drugi crn. Ako bi miš pokušao ući u crni prolaz, dobio bi, kako su Yerkes i Dodson poslije napisali, “neugodan strujni šok”. Intenzitet elektrošoka su varirali: neki su miševi dobili blagi udar, neki jaki, a neki umjereni. Istraţivači su htjeli saznati hoće li jakost podraţaja utjecati na brzinu s kojom miševi uče izbjegavati crni prolaz i ulaziti u bijeli. Odgovor su dobili, i iznenadili su se. Miševi koji su primali slabe elektrošokove relativno su sporo uočavali razliku izmeĎu crnog i bijelog prolaza, što bi se i očekivalo. No, miševi koji su primali jake šokove učili su jednako sporo. Svoj su poloţaj najbrţe shvaćali i ponašanje mijenjali oni koji su primali umjereno jake elektrošokove. “Suprotno našim očekivanjima”, izjavili su znanstvenici, “taj skup pokusa nije dokazao da se brzina formiranja navika povećava s povećanjem jakosti električnog podraţaja, ako nisu toliko jaki da bi im naudili. Ne: pokazalo se da je umjereni raspon jakosti stimulacije najpovoljniji za stjecanje navike.”140 Sljedeći je niz ispitivanja donio još jedno iznenaĎenje. Novu skupinu miševa znanstvenici su upregli u isti postupak, ali su ovaj put jače osvijetlili bijeli prolaz a zamračili crni, čime su povećali vizualni kontrast meĎu njima. U tim su uvjetima miševi koji su dobivali najjače elektrošokove najbrţe naučili izbjegavati crni prolaz. Sada brzina učenja nije opadala s jakosti udara, kao u prvom pokusu. Yerkes i Dodson su tu razliku u ponašanju glodavaca pratili do činjenice da je ustroj pokusa ţivotinjama olakšao posao. Zahvaljujući jačem vizualnom kontrastu miševi su morali manje razmišljati kako bi razlučili crni od bijelog prolaza, i povezali šok s crnim. “Odnos jakosti električnog podraţaja i brzine učenja ili formiranja navike ovisi o teţini ciljne navike”, objašnjavaju oni.141 Kako zadaća postaje teţa, optimalna se jakost podraţaja smanjuje. Drugim riječima, kad se miš suočava sa zaista velikim izazovom, i neobično blag i neobično jak podraţaj mu oteţavaju učenje. Pomalo nalik efektu Zlatokose, umjereni je podraţaj poticao na najbolji uspjeh. Od 1908. godine, kada je objavljen, članak “Odnos jakosti podraţaja i brzine formiranja navike” postao je općeprepoznat kao jedan od temeljnih radova u povijesti psihologije. Fenomen što su ga otkrili, danas poznat kao Yerkes-Dodsonov zakon, uočen je u puno širem rasponu okolnosti i djeluje i kod ljudi a ne samo kod glodavaca. U svojoj ljudskoj manifestaciji taj se zakon obično predočava kao Gaussova krivulja koja odnos uspjeha osobe u nekoj teškoj zadaći vezuje za mentalni podraţaj koji ta osoba proţivljava. Na vrlo niskim razinama stimulacije osoba je toliko neangaţirana i

nenadahnuta da je uspjeh ništavan. Kako stimulacija raste, uspjeh je sve bolji i raste lijevom stranom Gaussove krivulje dok ne dosegne vrhunac. Zatim, kako se stimulacija i dalje pojačava, uspjeh opada i nastavlja ustrajno padati duţ desne strane krivulje. Kad stimulacija dosegne najveću jakost, osoba u biti biva paralizirana stresom - i opet ništa. Kao i miševi koji plešu, i mi ljudi najbolje učimo i radimo kad smo na vrhu YerkesDodsonove krivulje: kad nam je situacija izazovna ali nas ne baca na koljena. Na vrhu Gaussove krivulje ulazimo u stanje toka. Pokazalo se da je Yerkes-Dodsonov zakon osobito vaţan za proučavanje automatizacije. Uz njegovu se pomoć objašnjavaju mnoge neočekivane posljedice uvoĎenja računala na radna mjesta i u radne procese. U ranim danima automatizacije mislilo se da će softver, preuzimajući na sebe rutinske poslove, radnicima smanjiti opterećenje i povećati uspješnost. Pretpostavka je bila da su opterećenje i uspješnost u obrnutoj korelaciji. Smanjite si mentalni napor i bit ćete pametniji i oštroumniji u radu. Pokazalo se da je stvarnost kompliciranija. Ponekad računala uspijevaju ublaţiti naprezanja tako da time omoguće osobi da zablista na poslu jer je punu paţnju posvetile najvaţnijim zadaćama. U drugim slučajevima, automatizacija dovede do toga da se opterećenost previše smanji. Radna uspješnost tada pati jer se premještamo na lijevu stranu Yerkes-Dodsonove krivulje. Svi poznajemo štetne učinke preopterećenosti informacijama. No, pokazalo se da i podopterećenje moţe biti jednako otupljujuće. Ma koliko namjere bile dobre, olakšati ljudima baš sve moţe nam se obiti o glavu. Ergonomi Mark Young i Neville Stanton pronašli su dokaze za to da se “kapacitet paţnje” osobe “smanjuje u skladu s umanjenim mentalnim zahtjevima”. U radu automatiziranih sustava, tvrde oni, “podopterećenje moţda još više zabrinjava [nego preopterećenje] jer ga je teţe detektirati”.142 Istraţivači se brinu da će letargija koju stvara informacijsko podopterećenje biti osobito opasna kod nadolazećih generacija automobilske automatizacije. Softver na sebe preuzima sve više rutinskih poslova pri upravljanju i kočenju, pa osoba za volanom više neće imati dosta posla i mentalno će se isključivati. Da bi stvar bila gora, vozač će biti slabo ili nikako školovan za upotrebu automatizacije te neupućen u rizike koje ona sa sobom nosi. Neke se rutinske nesreće tako moţda i izbjegnu, ali na kraju ćemo imati još više loših vozača na cesti. U najgorima slučajevima, automatizacija čak postavlja dodatne, i neočekivane, zahtjeve - i time ljude opterećuje suvišnim poslovima, čime

ih pak gura na desnu stranu Yerkes-Dodsonove krivulje. Istraţivači to nazivaju “paradoks automatizacije”. Kako objašnjava Mark Scerbo, stručnjak za ljudski faktor na Sveučilištu Old Dominion u saveznoj drţavi Virginiji, “ironija se u automatizaciji javlja nakon sve većeg broja istraţivanja koja pokazuju kako automatizirani sustavi često povećavaju opterećenost i stvaraju nesigurne radne uvjete.”143 Ako se, primjerice, operater nekog izrazito automatiziranog kemijskog postrojenja najednom naĎe usred krize u kojoj se sve brzo odvija, moţe mu se dogoditi da poklekne pred nuţdom očitavanja zaslona s informacijama i podešavanja odgovarajućih parametara na računalu, dok istodobno slijedi predviĎene stavke postupaka, pazi na obavijesti i upozorenja, i poduzima druge mjere u skladu s uzbunom. Umjesto da mu smanji ometanja i stres, kompjuterizacija ga prisiljava da se bavi svom silom dodatnih zadatka i podraţaja. Slični se problemi javljaju za vrijeme uzbuna u kokpitu: pilot bi tada trebao unositi podatke u letno računalo i motriti na zaslone s informacijama u isto vrijeme dok se mora potruditi oko manualnog upravljanja zrakoplovom. Svatko tko je u automobilu pogrešno skrenuo slijedeći upute kartografske aplikacije iz prve ruke zna kako računalna automatizacija moţe prouzročiti iznenadna prenaprezanja. Nije lako prčkati po mobitelu dok vozite. Ono što znamo je da automatizacija ima ponekad tragičnu tendenciju uvećanja kompleksnosti posla u najgorem mogućem trenutku - kad je radnik već ionako krajnje opterećen. Računalo, uvedeno kao pomoć pri smanjivanju šansi za ljudsku grešku, na kraju je postalo nešto što uvećava mogućnosti da čovjek, kao miš pod elektrošokom, završi u krivoj ulici.

5. Računala: iz tvornice u ured Kasnoga ljeta 2005. istraţivači su časne kalifornijske Korporacije RAND izrekli jedno uzbunjujuče predviĎanje o budućnosti američke medicine. Nakon, kako kaţu, “najpodrobnije ikad provedene analize o potencijalnim koristima od elektroničke medicinske dokumentacije”, proglasili su da bi američki zdravstveni sustav “uštedio više od 81 milijun dolara na godinu i uz to poboljšao kvalitetu usluge” ako bolnice i liječnici automatiziraju kartoteke. Imajući u vidu uštede i druge koristi, a koje je RAND procijenio “na osnovi računalnih simulacijskih modela”, jasno je - rekao je jedan od najistaknutijih znanstvenika toga intelektualnog kolektiva - “da je došlo vrijeme da drţave i svi drugi koji plaćaju zdravstvo počnu agresivno promicati informacijsku tehnologiju u zdravstvu”.144 Posljednja rečenica u izvještaju o pojedinostima tog istraţivanja naglašava hitnost: “Vrijeme je za akciju.”145 U vrijeme kad se pojavila RAND-ova studija uzbuĎenje je oko kompjuterizacije medicine već bilo na visini. Još je početkom 2004. George W. Bush donio predsjednički ukaz kojim osniva Inicijativu za uvoĎenje informacijske tehnologije u zdravstvu, a s ciljem da se većina zdravstvenih kartona u SAD-u digitalizira unutar deset godina. Krajem 2004. savezna je vlada već dijelila milijune dolara subvencija kojima je poticala liječnike i bolnice da kupuju sustave za elektroničku medicinsku dokumentaciju (EMR) i uvode e-kartone. U lipnju 2005. Ministarstvo zdravstva SAD-a osnovalo je radnu grupu drţavnih duţnosnika i voditelja zdravstvenih djelatnosti, Američku zajednicu za informiranje o zdravstvu, kojom je trebala potaknuti uvoĎenje e-kartona. RAND-ovo istraţivanje, time što je očekivanu dobrobit od uvoĎenja e-kartona pretočilo u konkretne i naizgled objektivne brojke, raspalilo je i uzbuĎenje i potrošnju. Kako će kasnije izvijestiti New York Times, to je istraţivanje “pridonijelo eksplozivnom rastu djelatnosti uključenih u rad na elektroničkoj zdravstvenoj dokumentaciji i obodrilo saveznu vladu da milijardama dolara financijski potiče bolnice i liječnike na uvoĎenje takvih sustava.”146 Ubrzo nakon što je prisegnuo za predsjednika 2009., Barack Obama se pozvao na RAND-ove brojke najavljujući program ubacivanja dodatnih 30 milijardi

dolara u subvencije za kupnju EMR sustava. Uslijedila je ulagačka groznica i nekih tristo tisuća liječnika i četiri tisuće bolnica prepustilo se dareţljivosti Washingtona.147 Zatim je 2013., netom nakon što je Obama prisegnuo na drugi predsjednički mandat, RAND izdao novi i posve drugačiji izvještaj o informacijskoj tehnologiji u zdravstvu. Euforije je nestalo; ton teksta sada je krotak i u njemu se čuje isprika: “Iako se upotreba IT-a u zdravstvu povećala”, pišu autori, “kvaliteta i učinkovitost skrbi o pacijentima poboljšali su se tek marginalno. Istraţivanje o učinku IT-a u zdravstvu polučilo je neravnomjerne rezultate. A još gore, ukupni godišnji izdaci na zdravstvo u Sjedinjenim Drţavama narasli su s pribliţno bilijun dolara u 2005. na oko 2,8 bilijuna.” I najgore, sustavi za zdravstvenu dokumentaciju što su ih liječnici poţurili instalirati o trošku poreznih obveznika stalno su upadali u probleme s “interoperabilnosti”. Jedan se sustav, naime, nije mogao sporazumijevati s drugim, čime su kritični podaci o pacijentima ostali zaključani po bolnicama i ordinacijama. Jedno od velikih obećanja IT-a u zdravstvu uvijek je bilo to da će, kako su primijetili RAND-ovi autori, omogućiti “pacijentu i pruţatelju medicinske usluge pristup zdravstvenim informacijama u bilo koje vrijeme i na bilo kojem mjestu”. MeĎutim, svaki današnji sustav za medicinsku dokumentaciju ima vlastite formate i protokole, čime oni “prisiljavaju na lojalnost proizvoĎaču pojedinog EMR sustava”. RAND još uvijek polaţe puno nade u budućnost, ali priznaje da se “ruţičasti scenarij” prvotnog izvještaja nije ostvario.148 I druga su istraţivanja potvrdila RAND-ove zaključke. Iako EMR sustavi postaju uobičajena stvar u Sjedinjenim Drţavama, a u nekim je zemljama tako već godinama (primjerice, u Velikoj Britaniji i Australiji), dokazi za njihovu uspješnost i dalje su nejasni. U jednom je vrlo obuhvatnom pregledu 2011. tim britanskih stručnjaka za javno zdravstvo pregledao više od stotinu istraţivanja kompjuteriziranih medicinskih sustava objavljenih u posljednje vrijeme. Zaključili su da, ako govorimo o skrbi za pacijente te o sigurnosti pacijenata, postoji “golem procijep izmeĎu teorijske i empirijski pokazane koristi”. Istraţivanja kojima se promicalo uvoĎenje tih sustava, pokazuju oni, “provedena su slabo i nedosljedno”, a “dokazi u prilog povoljnom omjeru troškova i učinaka su neuvjerljivi”. Kad je pak konkretno riječ o medicinskoj dokumentaciji, autori pregleda izvještavaju da postojeća istraţivanja nude “samo anegdotalne dokaze za fundamentalne rizike i dobrobiti”.149 Neki su drugi istraţivači iznijeli minimalno povoljnije ocjene. Još jedan pregledni rad

koji je 2011. objavilo osoblje Ministarstva zdravstva SAD-a otkriva da “velika većina nedavno provedenih istraţivanja pokazuje mjerljive koristi od uvoĎenja informacijske tehnologije”. No, govoreći o ograničenjima postojećih istraţivanja, zaključuje se da “postoje samo posredni dokazi za to da napredniji sustav, odnosno komponenta IT-a u zdravstvu pridonose povećanoj dobrobiti”.150 Do danas ne postoji jaka empirijska potpora tvrdnjama da će automatiziranje voĎenja medicinske dokumentacije voditi ozbiljnijem smanjenju zdravstvenih troškova ili značajnijim poboljšanjima dobrobiti pacijenata. Ako su liječnici i pacijenti dosad imali malo koristi od jagme za automatiziranjem dokumentacije, na dobiti su svakako bile tvrtke koje takve sustave isporučuju. Korporaciji Cerner, specijaliziranoj za medicinski softver, dobit se izmeĎu 2005. i 2013. utrostručila, s milijardu na tri milijarde dolara. Uzgred, Cerner je bila jedna od pet tvrtki koje su financirale prvotnu RAND-ovu studiju iz 2005. Drugi su pokrovitelji, meĎu njima General Electric i Hewlett Packard, takoĎer imali značajne poslovne interese na području informatizacije zdravstva. U postupku kojim se današnji, manjkavi sustavi zamjenjuju novima ili se nadograĎuju kako bi se ispravili problemi s interoperabilnosti i drugi nedostaci, informatičkim tvrtkama teku nove rijeke novca.

Nuspojave U toj priči nema ništa neobično. Ţurba da se instaliraju novi i neprovjereni računalni sustavi, osobito kad je velikim riječima potiču tehnološke kompanije i analitičari, gotovo uvijek donosi velika razočarenja kupcima i veliku dobit dobavljačima. To ne znači da je takvim sustavima suĎeno da propadnu. Greške se poprave, mogućnosti poboljšaju a cijene spuste, pa čak i prenapuhani sustavi tvrtkama mogu uštedjeti mnogo novca, osobito smanjivanjem potrebe za onom vrstom radnika koji plaću očekuju svakoga mjeseca. (Do atraktivnih povrata ulaganja još će, naravno, mnogo lakše doći kad tvrtke troše novac poreznih obveznika a ne svoj.) Čini se da bi se taj povijesni obrazac mogao lako ponovno dogoditi s EMR sustavima i njima sličnima. Kako liječnici i bolnice nastavljaju kompjuterizirati dokumentacijske i druge sustave - a velikodušne subvencije i dalje pritječu - u nekim područjima moţe doći do vidljivog napretka u djelotvornosti, i lako je moguće da se za neke pacijente poboljša skrb, osobito onda kad je potrebna koordinacija više specijalista. Fragmentacija i zatvorenost podataka o pacijentima stvarni su problemi u medicini u čijem rješavanju

mogu pomoći dobro projektirani, standardizirani informacijski sustavi. Osim kao još jedna poučna priča o zbrzanim ulaganjima u nedokazani softver, izvorni RAND-ov izvještaj i reakcije na njega mogu nas naučiti još nečem dubljem. Prije svega, na projekcije “računalnih simulacijskih modela” uvijek treba gledati sa skepsom. Svaka je simulacija i simplifikacija; one daju tek nesavršenu repliku stvarnog svijeta, i njihovi rezultati često odraţavaju pristranosti njihovih stvaralaca. A što je još vaţnije, taj izvještaj i njegov epilog otkrivaju koliko je mit o supstituciji duboko urastao u to kako društva percipiraju i evaluiraju automatizaciju. RAND- ovi istraţivači su pretpostavili da će prelazak s upisivanja podataka na kartone na njihov unos u računalo - osim očitih tehničkih zahtjeva i potreba za obukom - ići glatko. Liječnici, sestre i drugi zdravstveni radnici će manualnu metodu zamijeniti automatiziranom, ali neće se značajno promijeniti to kako prakticiraju medicinu. Naprotiv, računala mogu “bitno promijeniti radne procese skrbi za pacijenta”, kako je 2006. izvijestila skupina liječnika i profesora u časopisu Pediatrics. “Iako je namjera kompjuterizacije poboljšanje skrbi za pacijenta, jer bi ona tako postala sigurnija i djelotvornija, negativni učinci i neţeljene posljedice u smislu narušavanja radnog toka mogu znatno pogoršati situaciju”.151 Bivajući ţrtvom mita o supstituciji, RAND-ovi istraţivači nisu dovoljno ozbiljno uzeli u obzir mogućnost da e-kartoni uz dobrobit mogu stvoriti i štetu - isti problem hara mnogim prognozama o posljedicama automatizacije. Preoptimistične analize vode preoptimističnim politikama. Kako su primijetili liječnici i profesori medicine Jerome Groopman i Pamela Hartzband u svojoj oštroj kritici Obaminih mjera poticaja, RANDov izvještaj iz 2005. “u biti je ignorirao mane elektroničke medicinske dokumentacije”, a uz to je otpisao prijašnja istraţivanja koja nisu zabiljeţila prednosti prelaska na e-kartone.152 RAND-ova se pretpostavka, da će automatizacija biti supstitut za manualni pokazala pogrešnom, kako su stručnjaci za ljudski faktor bili i predvidjeli. No, šteta je već bila napravljena, kako u protraćenom novcu poreznih obveznika tako i u nesvrhovitim instalacijama softvera. Medicinski dokumentacijski (ili EMR) sustavi ne sluţe samo za unos i distribuciju biljeţaka. Većina njih sadrţe i softver za potporu u odlučivanju koji, popisima postupaka i pokazivačkim sredstvima sugeriraju liječnicima što činiti pri pregledu ili savjetovanju. Informacije koje u EMR unosi liječnik zatim teku u administrativne sustave ordinacije ili bolnice, i tako se automatizira izrada računa, recepata, zahtjeva za pretrage i drugih

formulara i dokumenata. Jedna od nepredviĎenih posljedica je ta da liječnici pacijentima često na kraju obračunavaju sve više i više skupih usluga u odnosu na stanje prije instalacije sustava. Kako liječnik ispunjava računalni obrazac tijekom pregleda, sustav mu automatski preporučuje konkretne postupke, na primjer pregled očiju za dijabetičara. Klikom na kućicu kojim potvrĎuje da je obavio preporučeni postupak, liječnik stvara zabilješku ali u mnogim slučajevima istodobno daje i nalog za naplatu dodatne usluge. Takve preporuke mogu biti korisne kao podsjetnici, a u rijetkim slučajevima mogu i spriječiti previd kakve vaţne sastavnice pregleda. Ali, mogu i prenapuhati račune - čime su se dobavljači takvih sustava i podičili u svojim reklamnim brošurama.153 Prije nego što su liječnici imali softver koji bi ih na to upozoravao, rjeĎe su dodatno naplaćivali sitnije postupke, i smatrali su ih dijelom glavnog računa - za, primjerice, “pregled” ili “sistematski pregled”. Kad se te stavke nude, automatski se dodatno i naplaćuju. Već time što se neki postupak učinio malo lakšim ili rutinskim, sustav mijenja ponašanje liječnika, malo ali primjetno. Činjenica da će na kraju zaraditi više ako se povodi za softverom dodatno potiče liječnika da se prepusti prosudbama sustava. Neke stručnjake brine i to da je novčani poticaj moţda i prejak. Odgovarajući na izvještavanje medija o nepredviĎenom rastu liječničkih računa zbog uvoĎenja EMR sustava, američka je savezna vlada u listopadu 2012. pokrenula istragu kojom je trebala utvrditi dovode li novi sustavi do prenaplate, ili je čak riječ o pravoj prevari unutar sustava Medicare. Izvještaj Ministarstva zdravstva iz 2014. upozorava na to da “pruţatelji zdravstvenih usluga mogu rabiti funkcije [EMR] programa koje prikrivaju pravo autorstvo liječničkog kartona i iskrivljuju informacije u e-kartonu, uslijed čega dolazi do porasta zahtijevanih iznosa za zdravstvene usluge”.154 Ima dokaza i za to da e-kartoni potiču liječnika na naručivanje nepotrebnih pretraga, što na kraju takoĎer uvećava, a ne smanjuje trošak zdravstva. Jedno istraţivanje objavljeno u časopisu Health Affairs 2012. pokazalo je da će liječnici, kad im je lako otvoriti prijašnje rendgenske i druge dijagnostičke snimke na računalu, vjerojatnije naručivati novo slikanje nego što to čine ako nemaju izravan pristup prijašnjim snimkama. Liječnici s kompjuteriziranim sustavima naručivali su nove takve pretrage u 18 posto posjeta pacijenata, dok su ih oni bez takvih sustava naručivali u samo 13 posto posjeta. Jedna od čestih pretpostavki kad je riječ o ekartonima bila je pak da će se učestalost dijagnostičkih pretraga smanjiti

ako se rezultati prijašnjih pretraga učine lako i izravno dostupnima. To je istraţivanje, meĎutim, pokazalo da je, kako kaţu autori, “istina moţda obrnuta”. Čini se da time što rezultate pretraga postaje tako lako primiti i pregledati, automatizirani sustavi kao da “suptilno potiču liječnike da naručuju dodatke slikovne pretrage”, tvrde istraţivači. “U graničnim situacijama kad se vremenski zahtjevniji postupak praćenja rezultata iz dijagnostičke ustanove zamijeni postupkom koji zahtijeva tek par pritisaka tipke, to već moţe presuditi u korist naručivanja pretrage.”155 I tu još jednom vidimo kako automatizacija ljudima mijenja ponašanje i način rada, i da je taj utjecaj gotovo nemoguće predvidjeti (a moguće je da bude i suprotan od očekivanog).

Izrezi i zalijepi UvoĎenje automatizacije u medicinu, baš kao i u avijaciju i druge djelatnosti, ima posljedica ne samo na djelotvornost i troškove. Već smo vidjeli kako softverski pokazivači na mamogramima utječu - nekad povoljno a nekad nepovoljno - na način na koji radiolozi očitavaju snimke. Kako su se liječnici počeli sve više oslanjati na računala u sve više aspekata svoga posla, tehnologije su počele utjecati na to kako oni uče, kako donose odluke, pa čak i na to kako postupaju s pacijentima. Jedno istraţivanje provedeno na liječnicima opće prakse koji su uveli e-kartone, a proveo ga je Timothy Hoff s Fakulteta za javno zdravstvo Albany pri Drţavnom sveučilištu New York, donosi dokaze za, kako kaţe Hoff, “slabljenje vještina”, uz ostalo “opadanje kliničkog znanja” i “sve stereotipniji pristup pacijentima”. Hoff je 2007. i 2008. intervjuirao sedamdeset i osam liječnika opće prakse u većim i manjim ordinacijama Savezne drţave New York. Tri četvrtine liječnika rutinski se sluţilo EMR sustavima, i većina njih je rekla da se pribojavaju da kompjuterizacija vodi manje temeljitoj i manje personaliziranoj skrbi za pacijente. Liječnici koji se sluţe računalima rekli su Hoffu da manje-više stalno ubacuju tekst s predloška u izvještaje s vizita - da ga samo “izreţu i zalijepe” - a dok su bilješke diktirali ili su ih sami pisali rukom “obraćali su više paţnje na kvalitetu i jedinstvenost informacija koje ulaze u karton”. Štoviše, kaţu liječnici, baš im je taj postupak zapisivanja i diktiranja bio sluţio kao neka vrsta “crvene zastavice” koja bi ih natjerala da uspore i “razmisle o tome što imaju reći”. Liječnici su se potuţili Hoffu da homogenizirani tekst ekartona potencijalno umanjuje bogatstvo njihova razumijevanja pacijenta, i slabi im “sposobnost za donošenje utemeljenih odluka u pogledu dijagnoze

i terapije”.156 To što se liječnici sve više prepuštaju recikliranju, ili “kloniranju” teksta, prirodno proizlazi iz rada s e-kartonima. EMR sustavi mijenjaju način na koji kliničari vode zabilješke, upravo onako kako su programi za obradu teksta prije mnogo godina promijenili način na koji pisci pišu i ureĎuju zapisano. Tradicionalni postupci diktiranja, i sastavljanja biljeţaka, unatoč svojim prednostima, sada su se doimali spori i nespretni u usporedbi s lakoćom i brzinom koju nudi klikanje po ekranu. Stephen Levinson, liječnik i autor standardnog udţbenika o voĎenju medicinske dokumentacije i načinima naplate usluga, vidi itekako mnogo dokaza za nepromišljeno i rutinirano iskorištavanje postojećeg teksta u stvaranju novih zapisa. Liječnici se sve više sluţe računalima pri voĎenju biljeţaka o pacijentima, i kako kaţe, “bilješke sa svakog pregleda gotovo su od riječi do riječi iste, izuzevši manje varijacije koje se gotovo isključivo odnose na njihov glavni medicinski problem” Iako takva “klonirana dokumentacija” “klinički nema nikakvog smisla” i “ne zadovoljava potrebe pacijenta”, svejedno je postala polazišnom metodom jednostavno zato što je brţa i djelotvornija - ali i zato što klonirani tekst čest sadrţava popis postupaka koji sluţe kao još jedan pokretač za dodavanje troškova na pacijentov račun.157 Kloniranje ne poznaje fine detalje. Gotovo je sav sadrţaj tipičnog ekartona “nastao po predlošku”, kako je jedan internist rekao Hoffu. “Tu nema nikakvog logičnog slijeda. Ni u mojim bilješkama ni kod drugih liječnika”. Manjak detaljnosti i konkretnosti ima svoju cijenu, i ona se umnaţa time što klonirane bilješke cirkuliraju meĎu drugim liječnicima. Liječnik na kraju ostaje bez jednog od najvaţnijih izvora učenja na poslu. Čitanje diktiranih ili rukom pisanih biljeţaka specijalista odavna je iznimno korisno za edukaciju liječnika primarne zaštite, i njima se produbljivalo njihovo razumijevanje ne samo pojedinačnih pacijenata nego i koječega drugog, “od terapija za konkretne bolesti i njihove djelotvornosti do novih vrsta dijagnostičkih pretraga”, piše Hoff. Kako se te bilješke sve više i više sastoje od recikliranog teksta, one gube na suptilnosti i originalnosti pa postaju puno manje vrijedne kao sredstvo učenja.158 Danielle Ofri, internistica u bolnici Bellevue u New Yorku koja je napisala nekoliko knjiga o medicinskoj praksi, u prelasku s papira na ekartone uočava i druge suptilne gubitke. Iako se prelistavati tradicionalne kartone danas moţda doima arhaično i nedjelotvorno, njima liječnik stječe brz i smislen uvid u zdravstvenu povijest pacijenta, koja se proteţe na

mnogo godina. Krutost s kojom računala prikazuju te informacije najčešće zamagljuje taj dugoročni pogled. “U računalu”, piše Ofri, “svaki posjet liječniku izvana izgleda isto, pa je nemoguće razlikovati zapis o kakvom podrobnom i temeljitom dijagnostičkom postupku od toga da je pacijent navratio po recept za nastavak terapije.” Suočeni s relativno nefleksibilnim sučeljem računala, liječnici na kraju često pregledavaju samo “posljednja dva-tri posjeta; sve prije toga efektivno je prepušteno elektroničkom skupljanju prašine”159 Jedno je istraţivanje, nedavno provedeno o prelasku s papirne na elektroničku dokumentaciju na sveučilišnim bolnicama Sveučilišta u Washingtonu, donijelo daljnje dokaze za to kako forma elektroničkih zapisa liječnicima oteţava snalaţenje u e-kartonu pacijenta, te pronalaţenje “relevantnih” biljeţaka. Kad su bilješke pisali rukom, liječnici su “prepoznavali rukopis” različitih specijalista pa su tako brţe pronalazili bitne informacije. Forma e-kartona je homogenizirana i takve se suptilne odlike brišu.160 Osim problema sa snalaţenjem, Ofri brine i to da će organizacija elektroničke dokumentacije promijeniti i to kako liječnici razmišljaju: “Sustav potiče na fragmentiranu dokumentaciju, u kojoj su različiti aspekti pacijentova stanja odijeljeni u nepovezana polja, pa je puno teţe imati u vidu opću sintezu o pacijentu.”161 Automatizacija voĎenja biljeţaka u ordinaciju uz to dovodi i “treću stranu”, kako kaţe profesorica Beth Lown s harvardskog Medicinskog fakulteta. U svom lucidnom članku koji je 2012. objavila sa svojim studentom Dayronom Rodriguezom, Lown prepričava kako se i samo računalo “s pacijentom natječe za liječnikovu paţnju, što utječe na njegovu sposobnost da mu se potpuno posveti, i to mijenja narav njihove komunikacije i odnosa, kao i osjećaj za profesionalnu ulogu kod liječnika”.162 Svatko tko je bio na pregledu kod liječnika koji tipka po računalu vjerojatno je iz prve ruke doţivio bar nešto od onoga što opisuje Lown, a znanstvenici pronalaze i empirijske dokaze za to da računala i ne samo formalno mijenjaju interakciju liječnika i pacijenta. U jednom istraţivanju provedenom na Klinici uprave za ratne veterane, pacijenti koje su pregledavali liječnici koji vode elektroničke bilješke izvijestili su da “računalo negativno utječe na to koliko će vremena liječnik utrošiti na razgovor, pregledavanje i ispitivanje”, a uz to su posjet često “doţivljavali kao manje osoban”163 Liječnici su se uglavnom sloţili sa svojim pacijentima. Još je jedno istraţivanje provedeno u jednoj velikoj upravnoj zdravstvenoj ustanovi u Izraelu, a tamo su EMR sustavi

uvrijeţeni u mnogo većoj mjeri nego u SAD-u. Znanstvenici su tako utvrdili da liječnici primarne zdravstvene zaštite provedu 25-55 posto vremena pregleda gledajući u ekran. Više od 90% izraelskih liječnika koji su sudjelovali u tom istraţivanju izjavilo je da im voĎenje elektroničke dokumentacije “ometa komunikaciju s pacijentima”.164 Takvo slabljenje paţnje u skladu je s nalazima psihologa o tome koliko nas rukovanje računalom ometa pri obavljanju neke druge zadaće. “Obraćati paţnju i na računalo i na pacijenta zahtijeva višezadaćni pristup”, primjećuje Lown, a višezadaćnost “je oprečna prisutnosti duhom”.165 Nametljivost računala stvara još jedan, veoma dobro dokumentiran problem. EMR i slični sustavi podešeni su tako da na ekran izbacuju upozorenja, što bi liječnicima trebalo pomoći u izbjegavanju opasnih previda i pogrešaka. Ako liječnik, primjerice, pacijentu prepiše kombinaciju lijekova na koju bi on loše reagirao, softver će naglasiti taj rizik. MeĎutim, većina upozorenja pokaţe se nepotrebnima. Ili nisu relevantna, ili su suvišna, ili upravo pogrešna. Čini se da se generiraju manje zbog toga da se pacijenta zaštiti od reakcija i nuspojava, a više zato da se proizvoĎača softvera zaštiti od sudskih sporova. (Ta treća strana u ordinaciji, računalo, sa sobom nosi i ekonomske i pravne interese treće strane.) Istraţivanja pokazuju da liječnici primarne zaštite rutinski odbacuju oko devet desetina svih upozorenja s ekrana. Tako nastaje stanje koje se naziva zamor upozorenjima: tretirajući softver kao Peću koji stalno viče Vuk!, liječnici malo-pomalo počinju zanemarivati sva upozorenja. Odbacuju ih toliko brzo da im promaknu i onda kad jesu relevantna. Osim što, dakle, narušavaju odnos liječnika i pacijenta, ona gube smisao i zbog načina na koji se iznose.166 Liječnički pregled i savjetovanje s liječnikom izvanredno su fin i intiman oblik osobne komunikacije. Od liječnika to zahtijeva istodobno i empatičnu osjetljivost na riječi i govor tijela, ali i hladno racionalnu analizu simptoma. Da bi proniknuo u sloţen medicinski problem ili prituţbu, kliničar mora paţljivo slušati što mu pacijent govori i u isto vrijeme voditi i filtrirati njegove riječi kroz adekvatni dijagnostički okvir. Ključ je u tome da se pogodi ravnoteţa izmeĎu razumijevanja specifičnosti stanja pacijenta i zaključivanja o općim obrascima i vjerojatnostima na temelju literature i iskustva. Popisi simptoma i druga pomoćna sredstva u odlučivanju mogu biti vrijedna pomoć u tom procesu. Ona unose red u komplicirane i katkad kaotične okolnosti. MeĎutim, kako navodi kirurg i pisac Atul Gawande, “dobre strane uvoĎenja takvih reţima” ne poništavaju potrebu za

“hrabrošću, pameti i improvizacijom”. Najbolji će se kliničari uvijek odlikovati “ekspertnom odvaţnošću”.167 Ako od liječnika traţi da suviše ropski slijedi predloške i upozorenja, računalna automatizacija moţe poremetiti odnos liječnika i pacijenta. Time katkad jest lakše organizirati posjet pacijenta i doći do korisnih informacija, ali, piše Lown, tako se moţe i “ishitreno suziti raspon pitanja”, a čak i potiče automatizacijsku pristranost i pridavanje više paţnje ekranu nego pacijentu, što moţe dovesti do pogrešne dijagnoze. Ponašanje liječnika tada postaje “motivirano onim što se dogaĎa na ekranu, ponašanje sakupljača informacija koji prebire po popisima pitanja kako se oni pojavljuju na zaslonu, umjesto da slijede nit pripovijedanja pacijenta”.168 Ako vas vodi ekran a ne pacijent bit će osobito opasno ako ste mladi liječnik, smatra Lown, jer si time zatvarate mogućnost da izučite najsuptilnije i najljudskije aspekte medicine - prešutna znanja koja se ne mogu pokupiti iz udţbenika ni od softvera. Na dugi rok, to moţe biti i zapreka liječnicima da razviju intuiciju koja im omogućuje da reagiraju u hitnim situacijama i drugim neočekivanim dogaĎajima, kad o sudbini pacijenta odlučuje već i nekoliko minuta. U takvim trenucima liječnici ne mogu biti analitični i postupni; nemaju vremena prikupljati i analizirati informacije, ni prolaziti kroz bilo kakve predloške. Računalo im tada ne pomaţe. Liječnik mora donositi gotovo trenutačne odluke o dijagnozi i terapiji. Mora djelovati. Kognitivni znanstvenici koji su proučavali misaone procese liječnika tvrde da ekspertni kliničari u hitnim situacijama ne razmišljaju svjesno, odnosno unutar formalnih skupova pravila. Na osnovi znanja i iskustva oni jednostavno “vide” što ne valja - prečesto donose radnu dijagnozu u sekundama - te dalje postupaju u skladu s time. “Ključni se znakovi pacijentova stanja”, objašnjava Jerome Groopman u knjizi Kako razmišljaju liječnici, “saţimaju u obrazac koji liječnik prepoznaje kao odreĎenu bolest ili poremećaj”. To je dar veoma visoke razine, u kojemu je, kako kaţe Groopman, “mišljenje neodvojivo od djelovanja”.169 A kao i drugi oblici mentalne automatičnosti, razvija se jedino kontinuiranom praksom uz izravnu, neposredovanu povratnu vezu. Ako postavite ekran izmeĎu liječnika i pacijenta, stvorili ste distancu meĎu njima, i zbog toga će se intuicija i automatičnost razvijati puno teţe.

Pitanje vještine Nije prošlo dugo i ludditi koji su preţivjeli slamanje svoje nasilne pobune mogli su gledati kako se njihovi strahovi obistinjuju. Izrada tekstila, kao i

manufaktura mnogih drugih dobara, u samo se nekoliko kratkih godina preselila iz radionica u tvornice. Ono što se dotad proizvodilo u kući ili kakvoj seoskoj gospodarskoj zgradi sada je nastajalo u velikim gradskim ili prigradskim tvornicama, koje su se tamo morale graditi zbog dostatne količine radnika, materijala i potrošača. Stručni su radnici išli za poslom, i tako iskorijenili svoje obitelji u velikom valu urbanizacije, dodatno naraslom uslijed gubitka poslova u poljoprivredi zbog pojave vršilica i drugih ratarskih strojeva. U novim su tvornicama radila sve djelotvornija i sposobnija postrojenja, zbog čega je rasla produktivnost ali se suţavala odgovornost i autonomija onih koji su strojevima rukovali. Stručni obrtnik pretvoren je u nekvalificiranog tvorničkog radnika. Adam Smith je uočio kako će specijalizacija tvorničkih poslova dovesti do slabljenja vještina radnika. “Čovjek koji cijeli ţivot potroši na izvoĎenje nekoliko jednostavnih radnji, čiji je učinak moţda takoĎer uvijek jednak ili podjednak, nema prilike da iskaţe razum ili domišljatost u pronalaţenju načina da se uklone teškoće koje se nikad i ne pojavljuju”, napisao je u Bogatstvu naroda. “Stoga on prirodno gubi naviku takvoga nastojanja, i općenito uzevši postaje onoliko glup i neuk koliko je to ljudskom biću uopće moguće.”170 Smith je slabljenje vještina smatrao nesretnom ali neizbjeţnom popratnom pojavom djelotvorne tvorničke proizvodnje. U svom je slavnom primjeru podjele rada u tvornici pribadača, na mjesto majstora koji je nekoć mukotrpno izraĎivao svaku pribadaču sada dolazi cijela četa radnika bez struke, od koji svaki obavlja neki uski dio posla: “Jedan izvlači ţicu, drugi je izravnava, treći reţe, četvrti oštri a peti drugu stranu brusi da dobije podlogu za glavu; za izradu glave potrebne su dvije ili tri radnje; zaseban posao je namicanje glave na pribadaču, a zaseban izbjeljivanje pribadače; umetanje pribadača u papir je pak sasvim drugo radno mjesto; vaţan posao izrade pribadače na taj je način razdijeljen na osamnaest zasebnih radnji.”171 Nijedan od radnika ne zna izraditi cijelu pribadaču, ali zajedno, svaki radeći svoj poseban posao, napravit će daleko više pribadača nego isti broj obrtničkih majstora koji rade odvojeno. A budući da radniku za to ne treba mnogo dara ni vjeţbe, proizvoĎaču je na raspolaganju velik izbor potencijalnih radnika pa nema potrebe ni plaćati ih dodatno za stručnost. Smith je nadalje shvaćao kako podjela rada utire put mehanizaciji, uz koju će vještina radnika još dalje opadati. Čim proizvoĎač razbije neki sloţeni proces u niz jasno definiranih “jednostavnih postupaka”, postaje relativno lako projektirati stroj koji će izvoditi svaki takav postupak.

Podjelom rada u tvornici dobiva se skup specifikacija za njezina postrojenja. Početkom dvadesetog stoljeća onestručavanje tvorničkih radnika pak izrijekom postaje ciljem tvorničara, a zahvaljujući učenju o “znanstvenom upravljanju” Fredericka Winslowa Taylora. Taylor je, na Smithovu tragu, vjerovao da se “najveće blagostanje” postiţe “jedino onda kad se rad [u tvrtkama] obavlja uz najmanji ukupni utrošak ljudskoga truda”. Vlasnike tvornica Taylor je zato savjetovao da pripreme stroge upute prema kojima će svaki uposlenik rukovati strojevima - sinopsis izvoĎenja svakog tjelesnog i umnog pokreta radnika.172 Veliki je nedostatak tradicionalnih načina rada, vjerovao je Taylor, bio u tome što je pojedincima davao previše inicijative i prostora. Optimalna se djelotvornost postiţe jedino standardizacijom rada, koju treba provesti “pravilima, uredbama i formulama”, koje treba preslikati pri projektiranju strojeva.173 Mehanizam tvornica, kao sustav u kojemu se radnik i stroj pretapaju u strogo kontroliranu i savršeno produktivnu jedinicu, bila je trijumf djelotvornosti i inţenjerstva. Kad je riječ o osobama koje su postale kotačići njezina stroja, a kako su ludditi i bili predvidjeli, njihova je radna vještina i neovisnost - ţrtvovana. I taj gubitak autonomije nije bio jedino ekonomski, nego i egzistencijalni, kako će 1958. istaknuti Hannah Arendt u knjizi Vita activa: “Za razliku od alata u obrtnika, koji u svakom trenutku radnog procesa ostaje u sluţbi ruke, strojevi zahtijevaju da radnik sluţi njima, da prirodni ritam svojega tijela prilagodi njihovim mehaničkim pokretima.”174 Tehnologija je napredovala - ako je to prava riječ - od jednostavnih alata koji su proširivali sposobnosti radnika do kompleksnih strojeva koji ih suţavaju. U drugoj je polovini prošlog stoljeća odnos radnika i stroja postao kompliciraniji. Tvrtke su rasle, tehnika je sve brţe napredovala, a potrošnja graĎana eksplodirala; istodobno su se vidovi zapošljavanja počeli granati. Bilo je sve više menadţerskih, stručnjačkih i uredskih poslova, te poslova u usluţnim djelatnostima. Strojevi su se počeli javljati u svakakvim novim oblicima, i ljudi su se njima sluţili na kojekakve načine, na poslu i izvan njega. Taylorovskom etosu postizanja djelotvornosti standardizacijom radnih procesa, iako i dalje veoma utjecajnom u voĎenju poslovanja, neke su tvrtke suprotstavile ţelju za iskorištavanjem domišljatosti i kreativnosti radnika. Radnik-zupčanik prestaje biti ideal, i u toj situaciji računalo preuzima dvostruku ulogu. Ono obavlja taylorovsku funkciju motrenja, mjerenja i nadziranja ljudskog rada; tvrtke su naime uočile da softver moţe

biti moćno sredstvo standardizacije procesa i prevencije odstupanja. No, u obličju PC- a, računalo je postalo i fleksibilan, osoban alat koji pojedincu daje dodatnu inicijativu i autonomiju. Računalo je postalo i izvršilac i emancipator. Kako su se načini iskorištavanja automatizacije mnoţili i širili od tvornica k uredima, snaga povezanosti tehnološkog napretka i onestručavanja rada postali su temom ţustre rasprave meĎu sociolozima i ekonomistima. Vrhunac je dosegnula 1974. kad je Henry Braverman, teoretičar društva i nekadašnji kotlar, objavio strastvenu knjigu suhoga naslova Rad i monopolski kapital: degradacija rada u dvadesetom stoljeću. Govoreći o onodobnim kretanjima u tehnologijama zapošljavanja i radne snage, Braverman je ustvrdio da se većina radnika usmjerava prema rutinskim poslovima bez mnogo odgovornosti i izazova, i bez mnogo mogućnosti za stjecanje bilo kakvih vaţnijih znanja i vještina. Često su obavljali posao asistiranja kakvom stroju ili računalu. “S razvojem kapitalističkog načina proizvodnje”, napisao je, “sam se pojam stručnosti degradira kako se degradira i rad, i sveo se na to da se danas radnika ili radnicu smatra stručnima ako im je za obavljanje nekog posla potreban tečaj od nekoliko tjedana; više mjeseci naučavanja smatra se neobično zahtjevnim, dok posao koji zahtijeva razdoblje učenja od šest mjeseci ili godinu dana - poput programiranja računala - izaziva prave provale čuĎenja.”175 Uobičajeno obrtničko naukovanje, ističe on, usporedbe radi trajalo je barem četiri godine a često i do sedam. Bravermanova gusto pisana i pomno argumentirana rasprava bila je veoma čitana. Njezino se marksističko motrište upravo savršeno uklapalo u radikalnu atmosferu 1960-ih i ranih 1970-ih godina. Bravermanovo se zaključivanje nije dojmilo svakoga.176 Kritičari su ga - a bilo ih je puno - optuţivali da prenaglašava vaţnost tradicionalnog obrta, na koji ček ni u 18. i 19. stoljeću nije otpadao tako velik udjel radne snage. Uz to, smatrali su da pridaje preveliku vrijednost manualnim vještinama povezanima s proizvodnim poslovima, a na štetu interpersonalnim i analitičkim vještinama koje izbijaju u prvi plan u mnogim uredskim i usluţnim poslovima. Tom se drugom kritikom upućuje i na veći problem, zbog kojeg se komplicira svaki pokušaj dijagnoze i interpretacije velikih promjena stručnosti u svim privrednim granama. Pojam vještine nije jednoznačan. Mnogo je vrsta i vidova talenata i umijeća, i ne postoji nikakav dobar, objektivan način da ih se mjeri i meĎusobno usporeĎuje. Je li vještina postolara koji je u 18. stoljeću na

radnoj klupi izraĎivao par cipela manja ili veća od vještine stručnjakinje za prodaju koja za računalom izraĎuje marketinški plan za plasman nekog proizvoda? Čija je vještina veća, štukatera ili frizera? Ako brodski vodoinstalater izgubi posao pa se nakon usavršavanja zaposli kao serviser računala, je li napredovao ili nazadovao na ljestvici vještina? Nemamo kriterije prema kojima bismo mogli ponuditi dobre odgovore na ta pitanja. Uslijed toga, rasprave o trendovima onestručavanja, da i ne spominjemo kvalificiranje i prekvalificiranje, često zapinju na prepirkama oko vrijednosti. Ako, meĎutim, opće teorije promjena u stručnosti poput Bravermanove i njoj sličnih moraju ostati prijeporne, slika postaje jasnija ako se usredotočimo na pojedinačne zanate i struke. Dosad se redovito pokazivalo da, što strojevi postaju sofisticiraniji, posao koji preostane ljudima biva manje sofisticiran. Iako je danas uvelike zaboravljeno, jedno od najrigoroznijih istraţivanja učinaka automatizacije na vještine proveo je 1950-ih godina profesor Harvardske poslovne škole James Bright. Iscrpljujuće podrobno, on je istraţio posljedice automatizacije na radnike u trinaest djelatnosti, od onih u tvornici strojeva do onih u industrijskoj pekarnici i strojnoj glodalici. Na temelju tih studija slučajeva izveo je veoma razraĎenu hijerarhiju automatizacije. Ona počinje upotrebom jednostavnih ručnih alata, da bi preko sedamnaest razina završila sloţenim strojevima koji programiranjem reguliraju vlastiti rad uz pomoć senzora, povratne sprege i elektroničkih sklopova. Bright je analizirao kako se različiti zahtjevi za vještinama - fizički napor, mentalni napor, spretnost, pojmovno razumijevanje i tako dalje - mijenjaju s porastom automatiziranosti strojeva. Pokazalo se da zahtjevi za vještinama rastu samo u početnim stadijima automatizacije, s uvoĎenjem ručnih alata. S kompleksnijim strojevima vještine pomalo ogrubljuju, da bi se zahtjevi na kraju strmoglavili kad se radnici počnu sluţiti izrazito automatiziranim, samoregulirajućim postrojenjima. “Čini se”, pisao je Bright 1958. u knjizi Automatizacija i upravljanje, “da što je stroj više automatski, to operater ima manje posla”.177 Kako bi ilustrirao razvoj onestručavanja, Bright se posluţio primjerom metalskog radnika. Kad radnik rukuje jednostavnim ručnim alatima, poput smika ili turpije, glavni zahtjev mu je poznavanje posla, u ovom slučaju razumijevanje odlika i upotrebe metala, te fizička spretnost. S uvoĎenjem električnih alata posao postaje kompliciraniji a greške skuplje. Od radnika se očekuje “nova razina spretnosti te sposobnosti

donošenja odluka”, kao i više pozornosti. Metalac postaje “mašinist”. Kad se ručni alati zamijene mehanizmima koji izvode niz operacija, poput glodalica koje izrezuju i gloĎu komade metala u precizne trodimenzionalne oblike, “paţnja, odlučivanje i kontrola, sve se te odgovornosti djelomice ili uglavnom smanjuju” a “zahtjevi za tehničkim znanjima o funkcioniranju i podešavanju stroja dramatično se smanjuju” Mašinist postaje “operater stroja”. Kad mehanizacija postane istinski automatska - kad se strojevi programiraju tako da upravljaju sami sobom - radnik daje “mali ili nikakav doprinos u proizvodnoj djelatnosti, bilo fizičkim bilo mentalnim naporom”. Čak mu nije potrebno ni mnogo znanja o poslu, jer je to znanje zapravo prešlo na stroj njegovim projektiranjem i programiranjem. Posao mu se, ako ga još ima, sve na ophodnju. Metalac je postao “nekom vrstom nadglednika, nadzornika, ispomoći”. O njemu je najbolje misliti kao o “posredniku izmeĎu stroja i operativne uprave”. Sve u svemu, zaključuje Bright, “učinak automatizacije razvija se tako da operatera prvo razriješi manualnog truda, a potom i potrebe da se kontinuirano mentalno trudi”.178 Kad je Bright započeo svoje istraţivanje, jednako meĎu direktorima, političarima i akademskim znanstvenicima prevladavala je pretpostavka da će automatizirani strojevi zahtijevati od radnika više stručnosti i usavršavanja. Bright je na svoje iznenaĎenje uvidio da češće biva upravo obrnuto: “Zapanjio sam se kad sam vidio da tog učinka nadogradnje nema ni pribliţno onoliko koliko se često pretpostavlja. Naprotiv, više je dokaza govorilo u prilog tome da automatizacija smanjuje zahtjeve za stručnošću operativne radne snage.” U izvještaju koji je 1966. iznio Drţavnom povjerenstvu za automatizaciju i zapošljavanje, Bright daje osvrt na svoje izvorno istraţivanje, te raspravlja o razvoju tehnologije do kojeg je potom došlo. Automatizacija, biljeţi on, i dalje se razvija istim tempom, a gura je brz razvoj centralnih računala u industriji i poslovanju. Ti su rani dokazi pokazivali da će se sa širenjem broja korisnika računala trend onestručavanja nastaviti a ne preokrenuti. “Pouka bi”, kako piše, “trebala biti sasvim jasna - da nije nuţno istina da izrazito sloţena oprema zahtijeva kvalificirane operatere. Te se „kvalifikacije mogu ugraditi u stroj.”179

Logika u zbivanjima Moţda se čini da tvornički radnik za bučnim tvorničkim strojem ima malo toga zajedničkog s izobraţenim stručnjakom koji u nekom tihom uredu u računalo unosi ezoterične informacije za tipkovnicom ili zaslonom osjetljivim na dodir. I u jednom i u drugom slučaju, meĎutim, imamo

osobu koja svoj posao dijeli s trećom stranom - automatiziranim sustavom. A kako jasno pokazuju Brightova i kasnije studije automatizacije, sofisticiranost sustava, bila ona mehanička ili digitalna, odreĎuje podjelu uloga i odgovornosti, te skup vještina koje se u skladu s tim zahtijevaju od svake strane. A kako se u stroj ugraĎuje sve više kvalifikacija, on na sebe preuzima sve veću kontrolu nad poslom. Radnik tada ima sve manje prilike da se angaţira i da dublje razvija svoju darovitost, primjerice kad je riječ o umijeću tumačenja i prosuĎivanja. Kad automatizacija dosegne najviši stupanj, kad preuzme zapovjedništvo nad poslom, radniku preostaje samo nazadovanja u pogledu stručnosti. Neposredni proizvod udruţenog rada čovjeka i stroja, vaţno je naglasiti, pritom moţe biti izvrstan, mjereno kriterijima djelotvornosti, pa čak i kvalitete, ali odgovornost i angaţman čovjeka svejedno se srozavaju. “Što ako je cijena strojeva koji misle čovjek koji ne misli?” upitao je 2008. povjesničar tehnologije George Dyson. 180 A budući da i dalje na računala prebacujemo odgovornost za analiziranje i odlučivanje, to pitanje samo dobiva na teţini. Sve veći broj značajki koje sustavima za potporu odlučivanju daju mogućnost voĎenja misli liječnika, kao i preuzimanje kontrole nad pojedinim aspektima odlučivanja u medicini, sve to odraţava dramatičan napredak računarstva u posljednje vrijeme. Kad liječnik daje dijagnozu, oslanja se na svoje poznavanje velikog broja specijaliziranih informacija, stečeno kroz godine strogog školovanja i staţiranja te trajnim praćenjem medicinskih časopisa i druge relevantne literature. Sve donedavno bilo je teško, ako ne i nemoguće, postići da računala podraţavaju takvo duboko, specijalizirano i često prešutno znanje. Ustrajnim povećanjem procesorske snage, brzim padom troškova pohrane podataka i rada mreţe, te napretkom metoda umjetne inteligencije poput obrade prirodnog jezika i prepoznavanja obrazaca, stanje se korjenito mijenja. Računala tako sve umješnije pregledavaju i interpretiraju goleme količine teksta i drugih informacija. Zapaţajući korelacije u podacima - obiljeţja ili fenomene za koje postoji tendencija grupiranja, ili istodobnog ili susljednog pojavljivanja - računala često daju točna predviĎanja, primjerice izračunom vjerojatnosti da pacijent koji iskazuje neki skup simptoma ima ili će dobiti odreĎenu bolest, ili vjerojatnost da će oboljela osoba dobro reagirati na odreĎeni lijek ili terapijski reţim. Primjenom tehnika strojnog učenja kao što su stabla odlučivanja i neuralne mreţe, koje dinamički modeliraju kompleksne statističke odnose meĎu fenomenima, računala profinjuju način izvoĎenja predviĎanja jer

obraĎuju više podataka i primaju povratne informacije o točnosti prethodnih predviĎanja.181 Ocjena različitih varijabli postaje preciznija, izračuni vjerojatnosti bolje odraţavaju ono što se zbiva u stvarnom svijetu. Kao i ljudi, današnja računala postaju pametnija s iskustvom. Protokoli strojnog učenja ugraĎuju se i u hardver: kako vjeruju računalni znanstvenici, novi će “neuromorfni” čipovi još povećati sposobnosti učenja računala. Strojevi će postati rafiniraniji. Moţda nam se koţa jeţi od pomisli da su računala “pametna” ili “inteligentna”, ali činjenica je da računala uspješno repliciraju mnoge odluke liječnika sluţeći se statističkom analizom velikih količina digitalnih informacija - danas to nazivamo “big data” - iako im eto manjka razum, suosjećanje i mudrost liječnika. Mnoge su stare rasprave o značenju pojma inteligencije postale bespredmetne uslijed puke numeričke sile današnjih strojeva za obradu podataka. Dijagnostičke će sposobnosti računala samo napredovati. U ekartonima se prikuplja sve više podataka o pacijentima; u njima su digitalizirane slike i rezultati pretraga te ljekarničke transakcije, a u ne tako dalekoj budućnosti i očitanja s osobnih bioloških senzora i aplikacija za zdravstveni nadzor. Sa svim tim računala će postati uspješnija u pronalaţenju korelacija i izračunavanju vjerojatnosti sve podrobnijih pojedinosti. Predlošci i vodiči postat će obuhvatniji i sloţeniji. Imajući u vidu današnje isticanje vaţnosti veće djelotvornosti zdravstva, vjerojatno je da će cijelo područje medicine zahvatiti tejloristički etos optimizacije i standardizacije. Već sada jak trend nadomještanja osobnog kliničkog prosuĎivanja statističkim rezultatima tzv. medicine temeljene na dokazima još će više uhvatiti maha. Liječnici će se suočiti sa sve većim pritiskom, ako ne i izravnom samovoljom uprave, da softveru prepuste više kontrole nad odlukama o dijagnozama i terapijama. Nelijepo ali ne i netočno rečeno, mnogi bi se liječnici mogli naći u ulozi ljudskih senzora koji prikupljaju informacije na temelju kojih će odluke donositi računalo. Liječnik će pregledati pacijenta i unijeti podatke u elektroničke obrasce, ali računalo će preuzeti glavnu riječ u predlaganju dijagnoza i preporučivanju terapija. Zahvaljujući ustrajnom povećavanju računalne automatizacije po Brightovoj hijerarhiji, čini se da će liječnici morati preţivjeti, bar u nekim vidovima svoga posla, isti onaj učinak onestručavanja koji se svojedobno zaustavljao na tvorničkim radnicima. I u tome neće biti sami. Najezda računala u stručne poslove na djelu je posvuda. Već smo vidjeli kako na razmišljanje korporativnih revizora

utječu ekspertni sustavi koji donose predviĎanja o rizicima i drugim varijablama. Drugi se financijski stručnjaci, od kreditnih savjetnika do investicijskih menadţera, u donošenju odluka takoĎer oslanjaju na računalne modele, i Wall Street je danas većim dijelom pod kontrolom računala koja love korelacije, odnosno numeričkih znalaca koji ta računala programiraju. Broj ljudi uposlenih u svojstvu trgovaca vrijednosnicama izmeĎu 2010. i 2013. je skresan za trećinu, sa 150 000 na 100 000, unatoč tome što tvrtke na Wall Streetu često biljeţe rekordnu dobit. Opći cilj tvrtki za bankovna ulaganja i posredovanja je “automatizacija sustava i kresanje broja brokera” kako je Bloombergovom izvjestitelju pojasnio jedan financijski analitičar. Preostali “ionako samo klikću po ekranu”.182 To vrijedi ne samo za burze običnih dionica i obveznica, nego i za trgovanje i sastavljanje sloţenih financijskih instrumenata. Ashwin Parameswaran, analitičar tehnologije i nekadašnji investicijski bankar, primjećuje da su “banke uloţile značajan napor da smanje udio znanja i vještina potrebnih za odreĎivanje cijena izvedenih vrijednosnica, odnosno za trgovanje takvim vrijednosnicama. Sustavi za burzovno trgovanje sve se više modificiraju tako da se što više znanja ugradi u sam softver.”183 Prediktivni algoritmi uselili su se čak i u eterični svijet ulagačkog kapitala, u kojemu su se najveći investitori dugo ponosili time što imaju dobar nos za posao i inovacije. Ugledne investicijske tvrtke kakve su grupa Ironstone i Google Ventures danas pomoću računala njuškaju za obrascima u izvještajima o poduzetničkim uspjesima, i svojim se ulozima kockaju u skladu s njima. Sličan se trend sprema i u odvjetništvu i pravosuĎu. Pravnici već godinama na računalima pripremaju spise i pretraţuju baze podataka. Softver odnedavna preuzima i još vaţniju ulogu u odvjetničkim uredima. Ključni postupak otkrivanja dokumenata, gdje mladi odvjetnici i vjeţbenici iščitavaju dopise, elektroničku poštu i zabilješke u potrazi za dokaznim materijalom, već je danas većim dijelom automatiziran. Računalo u samo par sekundi pretraţi na tisuće stranica digitaliziranih spisa. Uz pomoć softvera za elektroničko otkrivanje s algoritmima za analizu jezika strojevi ne uočavaju samo relevantne riječi i fraze nego i lance dogaĎaja, odnose meĎu ljudima pa čak i osobne osjećaje i motivacije. Već i samo jedno računalo moţe na sebe preuzeti posao desetka dobro plaćenih stručnjaka. Napredovao je i softver za pripremu spisa: popunjavanjem jednostavnog obrasca odvjetnik će sastaviti sloţen ugovor za sat-dva - za taj su posao nekad trebali dani.

Na obzorju su i veće promjene. Tvrtke za izradu pravničkog softvera počinju razvijati algoritme za statističko predviĎanje koji rade tako što analiziraju na tisuće starih slučajeva i na temelju njih preporučuju parnične strategije s velikim izgledima za uspjeh. Softver će uskoro moći donositi takve odluke za koje su dosad bili potrebni iskustvo i mudrost parničara veterana.184 Lex Machina, tvrtka koju je 2010. pokrenula skupina profesora s Pravnog fakulteta Sveučilišta Stanford, nudi prikaz svoje ponude: bazu podataka od nekih 150.000 slučajeva iz prava intelektualnog vlasništva, na temelju kojih se izvodi računalna analiza koja predviĎa ishod patentnih sporova u različitim scenarijima. Uzimaju se u obzir nadleţni sud, sudac koji vodi spor, odvjetnici koji rade na slučaju, presude u sličnim slučajevima i drugi elementi. Prediktivni algoritmi preuzimaju sve veću kontrolu i nad operativnim poslovnim odlučivanjem. Tvrtke svake godine troše milijarde i milijarde dolara na softver za “analizu ljudskih potencijala” koji automatizira odluke o upošljavanju, plaćama i promociji. Xerox se danas oslanja isključivo na računala pri odabiru meĎu kandidatima za svojih pedeset tisuća radnih mjesta na korisničkoj podršci. Polusatni test ličnosti svodi se na to da kandidati pola sata sjede za računalom a softver za izbor uposlenika trenutačno ih ocjenjuje tako što izračunava vjerojatnost da će dobro obavljati posao, da će dolaziti na vrijeme, i da će htjeti zadrţati radno mjesto. Kandidatima s najviše bodova nudi se posao, ostale se šalje kući.185 UPS se pak sluţi prediktivnim algoritmima pri odreĎivanju ruta svojih dostavnih vozila. Maloprodajnim tvrtkama oni pomaţu optimalno razmjestiti proizvode na police. Marketinške i oglašivačke agencije tako biraju mjesto i vrijeme emitiranja oglasa te generiranje promotivnih poruka na društvenim mreţama. Menadţeri se tako sve češće naĎu u podreĎenoj ulozi u odnosu na softver. Na njima je da pregledaju i odobre planove i odluke koje su generirala računala. I evo ironije: premjestivši središte ekonomije s fizičkih dobara na tokove podataka, računala su posljednjih desetljeća informacijskim radnicima donijela status i bogatstvo. Ljudi koji su ţivjeli od manipulacije znakovima i simbolima na zaslonu postali su zvijezde nove ekonomije, a pritom su mnogi tvornički poslovi, na kojima se odrţavala srednja klasa, odlazili u inozemstvo ili su prelazili na robote. Činilo se da mjehur dot-com tvrtki kasnih 1990-ih, tih nekoliko euforičnih godina u kojima su se bogatstva računalnih mreţa odlila na račune burzovnih trgovaca, najavljuje nadolazak zlatnog doba neobuzdanih ekonomskih prilika - navijači su to

tada nazivali “dugim rastom”. No, pokazalo se da dobra vremena proĎu. Danas vidimo da, kako je bio predvidio Norbert Wiener, automatizacija ne favorizira nikoga. Računala su jednako dobra u analizi simbola i u “svakom vidu prepoznavanja obrazaca i upravljanja informacijama, kao i u upravljanju pokretima industrijskih robota. Čak i ljudi koji rade sa sloţenim računalnim sustavima gube radna mjesta od softvera, budući da se i podatkovni centri, poput tvornica, sve više automatiziraju. Goleme farme posluţitelja koje vode tvrtke poput Googlea, Amazona i Applea u biti rade same. Zahvaljujući virtualizaciji, inţenjerskoj tehnici koja softverski replicira funkcije hardvera posluţitelja, rad postrojenja mogu nadzirati i kontrolirati algoritmi. Mreţni problemi i nesavršenosti u radu aplikacija mogu se detektirati i ispraviti automatski, često već u sekundama. Moglo bi se pokazati da je “intelektualizacija rada” devetnaestog stoljeća, kako to naziva talijanski teoretičar medija Franco Berardi,186 bila samo prethodnica automatizacije intelekta s početka dvadeset i prvog stoljeća. Uvijek je riskantno spekulirati o tome koliko će daleko računala ići u oponašanju uvida i prosudbi ljudi. Ekstrapolacije koje se temelje na nedavnim trendovima itekako se znaju pretvoriti u maštarije. Ali čak i ako pretpostavimo, nasuprot ekstravagantnim obećanjima evangelizatora “big data” da postoje ograničenja primjenjivosti i korisnosti predviĎanja koja se temelje na korelacijama i drugim vrstama statističke obrade, čini se jasno da računalima predstoji još dug put prije nego nabasaju na ta ograničenja. Kad je početkom 2011. IBM-ovo superračunalo Watson preotelo krunu kralja kviza Izazov!, pomevši preostala dva natjecatelja, u tome smo mogli očitati naznake budućeg razvoja analitičkih sposobnosti računala. Watsonovo umijeće da dešifrira tendencije pitanja bilo je zapanjujuće, ali po današnjim mjerilima u programiranju umjetne inteligencije, to nije ništa naročito. U osnovi, riječ je o pretraţivanju goleme baze podataka ne bi li se pronašli mogući odgovori, da bi se zatim pomoću niza predikcijskih postupaka ocijenilo koji od njih nosi najveću vjerojatnost da bude ispravan. No, računalo je taj posao obavljalo tako brzo da je u tome bilo uspješnije i od izvanredno pametnih ljudi na ispitu poznavanja trivijalnosti, prepoznavanju igara riječi, te prisjećanja. Watson predstavlja procvat jedne nove, pragmatične forme umjetne inteligencije. Pedesetih i šezdesetih godina prošlog stoljeća, kad su digitalna računala još bila novost, mnogi su matematičari i inţenjeri, a i popriličan broj psihologa i filozofa, došli do zaključka da ljudski mozak

mora funkcionirati kao neka vrsta digitalnog računalnog stroja. U računalu su vidjeli metaforu za um i model uma. Iz toga je pak slijedilo da bi stvaranje umjetne inteligencije trebao biti manje-više jasan zadatak: treba dokučiti koji se to algoritmi vrte u našoj glavi, i onda ih programiranjem prevesti u softver. Nije upalilo. Prvotna je strategija u umjetnoj inteligenciji neslavno propala. Što god se nama u glavi dogaĎalo, to se ne moţe svesti na proračune koji bi se izvodili na računalu.187 Današnji računalni znanstvenici imaju sasvim drugi pristup umjetnoj inteligenciji, koji je istodobno i manje ambiciozan i efikasniji. Cilj više nije replicirati proces ljudskog mišljenja - to nam je dalje nedohvatljivo - nego rezultate tog procesa. Gleda se, dakle, neki konkretni proizvod uma - recimo odluka o upošljavanju ili odgovor na beznačajno pitanje iz kviza - a zatim se računalo programira tako da postigne isti rezultat na svoj bezuman način. Rad Watsonovih sklopova izrazito je nesličan onome što se odvija u umu osobe koja sudjeluje u Izazovu, ali Watson svejedno postiţe bolje rezultate. Britanski je matematičar i pionir računarstva Alan Turing 1930-ih godina radeći na doktoratu došao na ideju “proročkog stroja”. Bilo bi to takvo računalo koje primjenjuje neki skup eksplicitnih pravila nad zadanim podacima i na “neki nespecificirani način” dolazi do odgovora na pitanja za čiji bi odgovor inače bilo nuţno prešutno ljudsko znanje. Turinga je zanimalo u kojoj je mjeri moguće ukloniti intuitivnost spoznavanja tako da ostane samo ostvarivanje cilja, inţenjerska domišljatost. U svrhu tog misaonog eksperimenta zamislio je da bi snaga takvog računskog stroja bila bezgranična, i u pogledu brzine računanja i u pogledu količine podataka koji se uzimaju u obzir. “Nije nam vaţno koliko bi za to trebalo inţenjerske domišljatosti”, piše Turing, “pa pretpostavljamo da nam je dostupna u neograničenim količinama”.188 Turing je, kao i obično, bio ispred svog vremena. Shvatio je, kao malo tko u to doba, latentnu inteligentnost algoritama, i predvidio je kako će se ona oslobaĎati s njihovom brzinom. Računala i baze podataka uvijek će imati svoje granice, ali u sustavima kakav je Watson moţe se nazrijeti nadolazak proročkih strojeva. Ono što je Turing samo zamišljati, inţenjeri danas stvaraju. Na mjesto intuitivnosti spoznaje nastupa inţenjerska domišljatost. Watsonova snaga u analizi podataka sada se i u praksi koristi kao ispomoć pri dijagnostici u onkologiji i drugim specijalizacijama medicine, a IBM predviĎa i daljnje primjene u područjima poput prava, financija i obrazovanja. Špijunske sluţbe poput CIA- e i NSA-a navodno takoĎer ispituju taj sustav. Ako je Googleov auto bez vozača otkrio novu

sposobnost računala da repliciraju naše psihomotoričke vještine, da dosegnu ili nadmaše naše umijeće snalaţenja u fizičkom prostoru, Watson demonstrira novu sposobnost računala da replicira naše spoznajne vještine, i da dosegne ili premaši naše umijeće snalaţenja u svijetu simbola i ideja.

Bez atmosfere Repliciranje rezultata mišljenja, meĎutim, nije mišljenje. Kako je isticao i sam Turing, algoritmi nikad neće potpuno nadomjestiti intuiciju. Uvijek će biti mjesta za “spontane prosudbe koje nisu rezultat svjesnih lanaca zaključivanja”.189 Ono što nas stvarno čini pametnima nije naša sposobnost da izvlačimo činjenice iz dokumenata ili raskrivamo statističke obrasce u tablicama podataka. Riječ je o našoj sposobnosti da uviĎamo smisao u nečemu - da znanje koje smo stekli opaţanjem i doţivljavanjem, življenjem, moţemo satkati u bogato i fluidno razumijevanje svijeta, koje tada primjenjujemo na bilo koji zadatak ili izazov. Ta gipkost uma, koja obuhvaća i svjesno i nesvjesno razumijevanje, i razumnost i nadahnutost, omogućuje ljudskim bićima da razmišljaju: pojmovno, kritički, metaforički, spekulativno, duhovito - da čine iskorake logike i mašte. Hector Levesque, računalni znanstvenik i robotičar sa Sveučilišta u Torontu, nudi primjer jednog jednostavnog pitanja na koje čovjek odgovori u trenu a računalima sasvim izmiče: Velika kugla isti je čas probila dasku jer je bila od stiropora. - Što je bilo od stiropora, velika kugla ili daska? Mi ćemo na to lako odgovoriti jer razumijemo što je stiropor i što se dogodi kad nam, primjerice, nešto padne na stol ili klupu, kako obično izgleda daska, i što se podrazumijeva pridjevom “velik”. Jasan nam je i kontekst situacije i kontekst riječi koje je opisuju Računalo nema nikakvih uvida o svijetu pa mu je jezik pitanja neproničan. Ono se jednostavno zaplete u algoritmima. SvoĎenje inteligencije na statističku analizu velikih skupova podataka “moţe nas dovesti”, kaţe Levesque, “do sustava čije su performanse veoma impresivne a svejedno se svodi na idiota koji boluje od savantizma”. Takav će sustav moţda biti sjajan u šahu ili na kvizu, u prepoznavanju lica ili nekoj drugoj strogo omeĎenoj zadaći, ali su “potpuno beznadni izvan svog područja ekspertize”.190 Njihova preciznost jest zapanjujuća, ali ona je često simptom suţenosti njihove percepcije. Čak i kad se usmjeri na pitanja podoba za probabilističke odgovore, računalna analiza podloţna je pogreškama. Brzina, te prividna egzaktnost

računalnih izračuna, znaju prikriti ograničenja i nejasnoće u podacima nad kojima se izvode, da i ne spominjem nesavršenosti u samim algoritmima za kopanje po podacima. Svaki veliki skup podataka, uz pouzdane sadrţi i obilje sumnjivih korelacija. Nije teško biti zaveden pukom koincidencijom, ili smisliti potpuno fiktivnu povezanost.191 Nadalje, kad se odreĎeni skup podataka jednom učvrsti kao osnova za vaţne odluke, i podaci i njihova analiza postaju veoma podloţni korupciji. U potrazi za novčanim, političkim ili društvenim probitkom, ljudi će pokušati izigrati sustav. Kako je u svom znamenitom članku 1976. objasnio sociolog Donald T. Campbell: “Što se neki kvantitativni društveni indikator više rabi u odlučivanju o društvu, to će on biti podloţniji korupcijskim pritiscima i to će lakše iskvariti i iskriviti društvene procese na koje je trebao motriti.”192 Uslijed manjkavosti podataka i algoritama, za stručnjake se - a i za sve ostale - otvara opasnost od jednog osobito pogubnog oblika automatizacijske pristranosti. “Prijetnja se sastoji u tome da si dopustimo da se bezumno veţemo za rezultate naše analize čak i onda kad imamo na temelju čega razumno sumnjati da je nešto pošlo krivo”, upozoravaju Viktor Mayer-Schönberger i Kenneth Cukier u knjizi Big Data iz 2013. “Ili pak da ćemo pripisati neki stupanj istinitosti podacima koji ga ne zavreĎuju.”193 Osobiti rizik s algoritmima koji proračunavaju korelacije proistječe iz njihova oslanjanja na podatke iz prošlosti pri predviĎanju budućnosti. U većini slučajeva budućnost se odvija u skladu s očekivanjima, odnosno prati presedane. No, u tim posebnim prilikama u kojima okolnosti vrludaju u odnosu na uvrijeţene obrasce, algoritmi znaju davati upravo ludo netočna predviĎanja - i ta je činjenica već donijela propast nekim izrazito kompjuteriziranim osiguravajućim društvima i burzovnim tvrtkama. Uza sve svoje sposobnosti, računala još uvijek iskazuju zastrašujući nedostatak zdravog razuma. U što većoj mjeri prihvatimo ono što Kate Crawford, znanstvenica iz Microsofta, naziva “podatkovnim fundamentalizmom”,194 to ćemo biti u većem iskušenju da umanjimo vrijednost mnogih sposobnosti koje računala ne mogu oponašati - i prenesemo toliko kontrolne moći na softver da time ljudima ograničimo mogućnost upotrebe onakvog znanja i umijeća koje proizlazi iz stvarnog iskustva, i kakvo često dovodi do kreativnih, protuintuitivnih uvida. Kako pokazuju neke od nepredviĎenih posljedica elektroničkog voĎenja medicinske dokumentacije, predlošci, obrasci i formule nuţno su reduktivni i sasvim lako uvlače um u luĎačku košulju. Lawrence Weed, liječnik i profesor medicine iz Vermonta još od 1960-ih

godina snaţno zagovara upotrebu računala koja bi liječnicima trebala pomoći da odlučuju pametno i utemeljeno.195 Nazivaju ga ocem e-kartona. Ali čak i on upozorava na to da današnja “neupućena upotreba statističkih znanja” u medicini “sustavno isključuje individualizirano znanje i podatke koji su bitni za skrb o pacijentima”.196 Garry Klein, psiholog koji proučava kako ljudi donose odluke, još je dublje zabrinut. Prisiljavajući liječnike da slijede skupove pravila, medicina zasnovana na dokazima “moţe biti preprekom napretku znanosti”. Ako bolnice i zdravstvena osiguranja “propišu postupanje prema pravilima medicine zasnovane na dokazima, a pod prijetnjom sudskih sporova u slučaju da nepovoljan ishod bude praćen bilo kakvim odstupanjima od uvrijeţene prakse, liječnici će se početi kloniti alternativnih strategija liječenja koje još nisu ispitane nasumičnim kontroliranim testovima. Napredak znanosti guši se ako klinički liječnici, koji ekspertizu u liječenju spajaju s poštovanjem prema rezultatima znanosti budu spriječeni u istraţivanju i obeshrabreni u otkrivanju.”197 Ako ne budemo pazili, automatizacija umnog rada, mijenjajući narav i cilj intelektualnog napora, moţe potkopati i jedan od temelja same kulture: našu teţnju da razumijemo svijet. Prediktivni algoritmi moţda jesu nadnaravno uspješni u otkrivanju korelacija, ali su nezainteresirani za uzroke tih obiljeţja i pojava. A upravo će raskrivanje uzročnosti pomnjivo raspletanje onoga kako se i zašto nešto zbiva onako kako se zbiva - to što širi dosege ljudskog razumijevanja i na koncu daje smisao našoj potrazi za znanjem. Ako doĎemo na to da automatizirane izračune vjerojatnosti počnemo smatrati dostatnima u svojim poslovnim i društvenim ciljevima, riskiramo da izgubimo ili oslabimo svoju teţnju k potrazi za objašnjenjima, da se lišeni motivacije počnemo spuštati tim vijugavim stazama što vode čuĎenju i mudrosti. Čemu, ako računalo izbacuje “odgovore” u milisekundi ili dvije? U svom je ogledu “Racionalizam u politici” iz 1947. britanski filozof Michael Oakeshott ponudio jedan ţivi opis modernog racionalista: “U njegovu umu nema atmosfere, mijena godišnjih doba ni promjena topline; njegovi su intelektualni procesi, koliko je god moguće, izolirani od svakog vanjskog utjecaja i kreću se ka praznini.” Racionalista ne zanimaju kultura i povijest; osobno gledište on niti njeguje niti pokazuje. Njegovo se mišljenje odlikuje jedino “brzinom kojom raznolikost i zamršenost doţivljaja” svodi na “formulu”.198 Oakeshottove nam riječi nude i savršen opis računalne inteligencije: eminentno praktične i produktivne a posve

manjkave znatiţeljom, maštom i oslonjenošću na svijet.

6. Svijet i zaslon Otočić Igloolik leţi duţ obale poluotoka Melville u Nunavutu na sjeveru Kanade, i zimi bi na njemu svatko podivljao. Prosječna se temperatura zadrţava na oko -20°C. Okovan je debelim morskim ledom. Sunca nema. Unatoč brutalnim uvjetima inuitski lovci već nekih četiri tisuće godina napuštaju svoje otočne nastambe i putuju po ledu i tundri na tisuće kilometara u potrazi za sobovima i drugom lovinom. Njihovo umijeće snalaţenja u golemim arktičkim prostranstvima, u kojima je malo toga prema čemu bi se čovjek orijentirao, snjeţne formacije se stalno mijenjaju a tragovi nestaju preko noći, zadivljuju putnike i znanstvenike još od 1822., kad je engleski istraţivač William Edward Parry u svom dnevniku unio zabilješku o “zapanjujućoj preciznosti” zemljopisnog znanja njegova vodiča Inuita.199 Izvanredna vještina snalaţenja u prostoru Inuita ne počiva na umijeću vladanja tehnologijom - karte, busole i druge instrumente oni izbjegavaju - nego na dubinskom poznavanju vjetrova, obrazaca snjeţnih nanosa, ponašanja ţivotinja, zvijezda, plime i oseke te morskih struja. Inuiti su majstori percepcije. To jest, nekoć su to bili. Na prijelazu tisućljeća nešto se promijenilo u kulturi Inuita. Godine 2000. vlada SAD-a je ukinula mnoga dotadašnja ograničenja civilne upotrebe GPS-a, globalnog sustava za odreĎivanje pozicije. Točnost GPS ureĎaja se podigla a cijene su im pale. Iglulički lovci, koji su pseće zaprege već bili zamijenili motornim sanjkama, počeli su se orijentirati po softverskim kartama i smjerokazima. Novu su tehnologiju osobito rado prihvaćali mlaĎi Inuiti. Mladi je lovac u prošlosti morao izdrţati dugo i tegobno naukovanje sa starijima, ne bi li s vremenom pomalo razvio svoje orijentacijske talente. Nabavkom jeftinog GPS prijemnika mogao je preskočiti uvjeţbavanje i prebaciti odgovornost za orijentaciju na ureĎaj. Na put je mogao krenuti i u pojedinim uvjetima u kojima su lovački pohodi nekoć bili neizvedivi, primjerice za guste magle. Tradicionalnije su se inuitske tehnike u usporedbi s lakoćom upotrebe i preciznosti automatizirane navigacije doimale zastarjelo i nepraktično. No, kako su se GPS ureĎaji na Iglooliku uvrijeţili, počele su pristizati vijesti o ozbiljnim nezgodama pri lovu, u kojima je bilo teških

ozljeda pa čak i smrtnih slučajeva. Često se pokazalo da je uzrok nesreće bilo pretjerano oslanjanje na satelite. Kad se prijemnik pokvari, ili mu se smrznu baterije, lovac bez dobro razvijenih orijentacijskih sposobnosti lako se izgubi u bezobličnoj pustari i nastrada od izloţenosti surovoj prirodi. A ureĎaji sa sobom nose odreĎene opasnosti čak i kad su ispravni. Rute, besprijekorno ucrtane na satelitskim kartama u lovaca mogu stvoriti jednu vrstu suţene percepcije. Vjerujući GPS-u zajurit će se u opasno tanak led, iznenadit će ih litica ili kakva druga opasnost koju bi iskusan navigator bio izbjegao već zdravim razumom i razmišljanjem unaprijed. Neki bi se od tih problema mogli ublaţiti poboljšanjima ureĎaja za navigaciju ili boljim uputama za upotrebu. Ali neće se ublaţiti gubitak nečega što jedan plemenski starješina naziva “mudrošću i znanjem jednog Inuita”.200 Antropolog Claudio Aporta sa Sveučilišta Carleton u Ottawi proučava Inuite već niz godina. Prema njegovim izvještajima, satelitska navigacija im je donijela mnoge prednosti, ali njezinim usvajanjem nazadovale su im orijentacijske sposobnosti i općenito osjećaj tla. Kad se lovac na motornim sanjkama opremljenim GPS-om usredotočuje na upute koje mu daje računalo, on gubi iz vida ono što ga okruţuje. Kako kaţe Aporta, on putuje “vezanih očiju”.201 Jedan jedinstven dar, koji je taj narod definirao i obiljeţio kroz tisuće godina, moţda iščezne već za jedan ili dva naraštaja.

Božica satelita Svijet je jedno čudno, promjenjivo i opasno mjesto. Snalaţenje u njemu od ţivotinje traţi mnogo napora, kako mentalnog tako i fizičkog. Ljudi vjekovima izraĎuju pomagala koja im ublaţavaju teškoće putovanja. Povijest je, uz ostalo, zapis o otkrivanju domišljatih načina da si olakšamo prolazak kroz okoliš, da si omogućimo prelaţenje većih i tegobnijih razdaljina i pritom se ne gubimo, ozljeĎujemo niti budemo pojedeni. Prvo su došle rudimentarne karte i ucrtane staze, zatim karta neba, pomorske karte i zemaljski globus a potom i instrumenti poput utega na konopcu za mjerenje dubine, kvadranta, astrolaba, kompasa, oktanta i sekstanta, teleskopa, pješčanog sata i kronometra. Duţ obala i otoka podignuti su svjetionici a na pličinama plutače. Popločani su putovi, postavljeni znakovi, a autoceste su povezane i obrojčane. Mnogi od nas pri snalaţenju u svijetu već se poduţe ne oslanjamo na vlastitu pamet. NajmlaĎe pridošlice meĎu našim navigacijskim pomagalima su GPS prijemnici i drugi automatizirani kartografski ureĎaji koji sluţe odreĎivanju

poloţaja i trase. Ovoj staroj priči oni daju i jedan nov, zabrinjavajući zaplet. Prijašnja navigacijska pomagala, osobito ona koja su bila dostupnija i cijenom pristupačnija običnim ljudima - bila su upravo to: pomagala. Projektirali su ih tako da putnici uz njih steknu bolji dojam o svijetu koji ih okruţuje: da im izoštre osjećaj za smjer, da ih pravodobno upozore na opasnost, da istaknu obliţnje orijentire i općenito, da im pomognu da se lakše smjeste kako u poznatom tako i u nepoznatom okolišu. Sustavi za satelitsku navigaciju mogu sve to, i ne samo to, ali se ne projektiraju tako da nam prodube osjećaj za ono što nas okruţuje. Projektiraju se tako da nas oslobode potrebe za tim osjećajem. Ti sustavi preuzimaju kontrolu nad mehanikom orijentacije i našu ulogu pritom svode na praćenje rutinskih uputa - nakon 500 metara skrenite lijevo, siĎite s autoceste na sljedećem izlazu, ostanite u desnoj traci, odredište je pred vama - i na kraju nas izoliraju od našeg okruţenja, bilo da su posrijedi ureĎaji na upravljačkoj ploči, pametni telefoni ili zasebni GPS prijemnici. Kako je to formulirao tim znanstvenika sa Sveučilišta Cornell u članku iz 2008. godine: “Uz GPS više ne morate znati gdje se nalazite ni gdje vam je odredište, ne morate pratiti fizičke orijentire na putu, ne morate traţiti pomoć od suputnika ni zapitkivati mještane.” Automatizacija pronalaţenja puta sluţi “inhibiranju procesa doţivljavanja fizičkog svijeta orijentacijom u njemu”.202 Kao što je često slučaj s ureĎajima i uslugama koje nam olakšavaju prolazak kroz ţivot, pojavom pristupačnih GPS-ova bili smo oduševljeni. David Brooks je u svom komentaru u New York Timesu naslovljenom “The Outsorced Brain” 2007. govorio u ime mnogih euforično pišući o navigacijskom sustavu koji je dobio s novim autom: “Ubrzo sam se romantično vezao za svoj GPS. Njegov mi je miran ţenski glas blagog britanskog naglaska čak bio pomalo utješan. Dok sam slijedio njezinu tanku plavu liniju, osjećao sam toplinu i sigurnost.” Njegova ga je “GPS boţica”, kaţe, “oslobodila” dugogodišnjeg “baktanja” s orijentacijom. Ipak, kako s negodovanjem priznaje, ta emancipacija što mu ju je donijela njegova muza s instrument-table imala je i svoju cijenu: “Nakon nekoliko tjedana sinulo mi je da bez nje više ne znam nikamo ići. Svaka voţnja do imalo neuobičajenog odredišta značila je da joj moram odmah utipkati adresu u sustav, da bih potom blaţen slijedio njezine upute sa satelita. Pokazalo se da vrlo brzo nestaju i posljednji preostaci mog poznavanja zemljopisa.” Cijena pogodnosti, piše Brooks, bio je gubitak “autonomije”.203 Ova je boţica, eto, i sirena. Na računalne karte nastojimo gledati istim očima kao na papirne,

samo što bi ove bile interaktivne i proizvod visoke tehnologije. To je preduvjerenje pogrešno, i riječ je o još jednoj manifestaciji mita o supstituciji. Tradicionalne karte daju kontekst. Nude nam pregled nekog područja i od nas traţe da dokučimo gdje se nalazimo i da zatim isplaniramo i vizualiziramo put do svoje sljedeće postaje. Da, one zahtijevaju nešto truda - tako je sa svakim dobrim alatom - ali mentalni napor našem umu pomaţe u stvaranju osobne kognitivne karte odreĎenog područja. Čitanje karata, kako pokazuju istraţivanja, jača osjećaj za prostornost i potiče razvoj orijentacijskih sposobnosti - i to tako da se lakše snalazimo u prostoru i kad nemamo kartu. A da to i ne znamo, čini se da se nesvjesno prisjećamo onoga što smo upamtili s papirnih karata, i tako se orijentiramo, odnosno pronalazimo smjer koji će nas dovesti do odredišta. U jednom su osobito relevantnom eksperimentu znanstvenici otkrili da je osjećaj za smjer ljudima zaista najizoštreniji kad su okrenuti ka sjeveru onamo, dakle, kamo pokazuju karte.204 Papirne karte nisu puki pastiri koji nas vodaju s mjesta na mjesto; one nas uče razmišljati o prostoru. Karte koje generiraju računala spojena na satelite su drugačije. One nam u pravilu nude tek minimalne prostorne informacije i orijentire. A umjesto da od nas traţe da dokučimo gdje se točno nalazimo, GPS ureĎaj nas postavlja u središte karte tako da svijet kruţi oko nas. U toj minijaturnoj parodiji predkopernikanskog svemira moţemo se snalaziti a da ni ne znamo gdje smo, od kuda dolazimo ni kamo idemo. Treba nam samo adresa, raskriţje, naziv zgrade ili trgovine i ureĎaj će obaviti potrebne proračune. Julia Frankenstein, njemačka kognitivna znanstvenica koja proučava osjećaj uma za orijentaciju, vjeruje da “što se pri snalaţenju više oslanjamo na tehnologiju manje ćemo nadograĎivati naše kognitivne karte”. Budući da računalni navigacijski sustavi nude samo “najosnovnije informacije o ruti, bez prostornog konteksta cjelovitog područja”, objašnjava ona, naš mozak ne prima izvorni materijal potreban za izgradnju bogatstva prostornog pamćenja. “Razviti kognitivnu kartu na osnovi tako reduciranih informacija bilo bi pomalo kao da ţelite odsvirati cijelu kompoziciju a imate samo nekoliko nota.”205 I drugi se znanstvenici slaţu. Jedno je britansko istraţivanje otkrilo da vozači sluţeći se papirnim kartama razvijaju jače pamćenje ruta i orijentira nego oni koji se oslanjaju na upute satelitskih sustava. Korisnici karata nakon dovršenog puta umjeli su skicirati preciznije i detaljnije dijagrame prijeĎenih ruta. Ti rezultati, izvješćuju istraţivači, “jasno govore u prilog tome da upotreba navigacijskih sustava u vozilima negativno

utječe na stvaranje kognitivnih karata u vozača”. 206 U istraţivanju provedenom na vozačima pri Sveučilištu Utah pronaĎeni su dokazi za “sljepoću odsutnosti” kod korisnika GPS-a, koja im je narušila “uspjeh u orijentaciji”, kao i njihovu sposobnost stvaranja vizualnih sjećanja na okruţenje.207 Čini se da i pješaci koji barataju GPS-om pate od istih poteškoća. U eksperimentu provedenom u Japanu istraţivači su skupini ljudi zadali kamo da hodaju, i takvih je odredišta bilo nekoliko. Polovica ispitanika dobila je ručne GPS ureĎaje; ostali su se sluţili planom grada na papiru. Ispitanici s kartama išli su brţim putem, rjeĎe su zastajali i kasnije su se sjećali gdje su bili nego ispitanici s ureĎajima. Još jedan prijašnji eksperiment, u kojem su ispitanici hodali po nekom zoološkom vrtu u Njemačkoj, polučio je slične rezultate.208 Umjetnica i dizajnerica Sara Hendren u svome komentaru snalaţenja u nepoznatom gradu u kojemu je pohaĎala konferenciju opisala je kako je danas lako oslanjati se na računalne karte - i kako se time oteţava razvoj osjećaja za prostor i uništavaju orijentacijske sposobnosti uma. “Shvatila sam da više dana zaredom upotrebljavam kartografsku aplikaciju na mobitelu, koja daje govorne upute, za jednu te istu petminutnu šetnju izmeĎu hotela i konferencijskog centra”, prisjeća se ona. “Jednostavno sam svojevoljno isključivala cijelu jednu sferu percepcije na koju se oslanjam čitav ţivot: nisam ni pokušavala pamtiti orijentire i prostorne odnose, niti dojam koji mi daje neka ulica, baš ništa.” Sve je to zabrinjava: “svoju višenačinsku pozornost i umijeće pamćenja”, kaţe, “prenijela sam na nešto drugo” i time “osiromašila svoj ukupni osjetilni doţivljaj svijeta”.209

Kad se izgubimo Kako pokazuju priče o pogubljenim pilotima, vozačima i lovcima, gubitak navigacijskih vještina moţe imati teške posljedice. Za većinu je nas malo vjerojatno da ćemo se naći na tako opasnim mjestima u svakodnevnoj voţnji, šetnji i općenito snalaţenju u svijetu. Što nas dovodi do očitog pitanja: koga briga? Ako stiţemo na odredište, zar je zaista vaţno njegujemo li osjećaj orijentacije ili se prepuštamo stroju? Inuitski starješina na Iglooliku moţda s pravom oplakuje usvajanje GPS-ova kao kulturnu tragediju, ali svi mi koji ţivimo u zemljama iskriţanim dobro označenim cestama i opremljenim benzinskim crpkama, mobitelima i odmorištima, svi smo mi odavno izgubili i naviku i sposobnost junačkog snalaţenja u prirodi. Naše su sposobnosti topografskog zamjećivanja i tumačenja, osobito u prirodi, već načete. Njihovo daljnje slabljenje, ili čak potpuno

odricanja, moţda i nije tako bitno, osobito ako si pritom olakšavamo ţivot. Ali ako kao kultura više i ne dobivamo puno čuvanjem svojih orijentacijskih sposobnosti, osobni gubitak je svejedno tu. Na kraju krajeva, mi jesmo zemaljska stvorenja. Nismo nikakve apstraktne točkice koje se miču duţ plavih linija iscrtanih na zaslonu računala: mi smo zbiljska bića u zbiljskom tijelu na zbiljskom mjestu. Upoznati to mjesto moţda traţi truda, ali tako ovladavamo znanjem i to nas ispunjava. Tako dolazimo do osobnog postignuća i autonomije, ali i osjećaja da tu pripadamo, svijest da smo negdje “kao kod kuće” a ne “samo u prolazu”. Orijentacijom si otvaramo prolaz od otuĎenosti do privrţenosti, bili mi lovci na sobove na santi leda ili lovci na dobre prilike u gradskim trgovinama. Moţemo se mrštiti kad čujemo nekoga kako kaţe da je “pronašao sebe”, ali taj izraz, koliko god bio otrcan i zaludan, odraţava naš dubinski osjećaj da je to tko smo prepleteno s onim gdje smo. Ne moţemo se izlučiti iz svog staništa, barem ne tako da nešto vaţno ne ostavimo za sobom. GPS ureĎaj nam omogućuje da stignemo od točke A do točke B s najmanje truda i gnjavaţe, i time nam moţda olakšava ţivot i podaruje taj tup osjećaj blaţenosti, kako kaţe David Brooks. Ipak, kad ga prečesto uključujemo on nam oduzima radost i zadovoljstvo razumijevanja svijeta oko nas, ali i toga da taj svijet činimo dijelom sebe. Tim Ingold, antropolog sa Sveučilišta Aberdeen u Škotskoj, razlikuje dva izrazito različita načina kretanja svijetom: putovanje i prevoženje. Putovanje je, objašnjava, “naš najosnovniji način bivanja u svijetu”. Uronjen u krajolik, ugoĎen na njegove teksture i značajke, putnik uţiva u “takvom doţivljaju kretanja u kojem se djelovanje i zamjećivanje intimno proţimaju”. Putovanje postaje “trajni proces rasta i razvoja, ili samoobnavljanja”. Prevoţenje je, naprotiv, “u biti usmjereno jedino odredištu”. Ono nije toliko proces otkrivanja “kamo nas ţivot vodi” koliko puko “prenošenje ljudi i robe s mjesta na mjesto na taj način da im osnovna narav ostane nepromijenjena”. Onaj tko se prevozi zapravo se ne kreće ni sa kakvim smislom. “Ne, on je prenošen, i postao je prolaznikom u vlastitom tijelu.”210 Putovanje je zamršenije i manje djelotvorno nego prevoţenje, i zbog toga se našlo na udaru automatizacije. “Ako imate mobilni telefon s Googleovim kartama”, kaţe Michael Jones, direktor u Googleovom kartografskom odjelu, “moţete poći bilo kamo na planetu i pouzdati se u to da ćemo vas uputiti kuda ćete moći ići lako i sigurno”. Rezultat je, progovara on, sljedeći: “Nijedno se ljudsko biće više ne mora osjećati

izgubljeno.”211 To svakako zvuči privlačno, kao da je sada zauvijek riješen neki temeljni egzistencijalni problem čovječanstva. Osim toga, to se uklapa i u opsesiju Silicijske doline da se ljudi uz pomoć softvera otarase “zapinjanja”. MeĎutim, što o tome više razmišljate, postaje vam sve jasnije da nikad se ne suočiti s mogućnošću da budete izgubljeni znači ţivjeti u stanju permanentne dislociranosti. Ako se nikad ne morate brinuti da nećete znati gdje ste, onda nikad ni ne morate znati gdje ste. To nadalje znači ţivjeti u stanju vezanosti za pratnju telefona i njegovih aplikacija. U ţivotu čovjek zbog problema zapinje, ali to zapinjanje djeluje i kao katalizator, nešto što nas vuče punijoj svjesnosti o vlastitoj situaciji i njezinom dubljem razumijevanju. “Kad na bilo koji način zaobilazimo zahtjeve što ih pred nas postavlja mjesto kojim putujemo”, primjećuje pisac Ari Schulman u svom ogledu naslovljenom “GPS i kraj puta” i objavljenom u časopisu New Atlantis 2011., završit ćemo tako da ćemo dokinuti “najbolji mogući pristup mogućnosti nastanjivanja toga mjesta - a utoliko i mogućnosti da igdje zaista i budemo”212 Još se toga moţe tako dokinuti. Neuroznanstvenici su došli do niza vaţnih otkrića o tome kako mozak percipira i pamti prostor i poloţaj, i ta otkrića još više podvlače ulogu orijentacije kao elementarne funkcije uma, pamćenja i prisjećanja. Početkom 1970- ih John O‟Keefe i Jonathan Dostrovsky s University Collegea u Londonu proveli su prijelomno istraţivanje u kojemu su pratili rad mozga laboratorijskih štakora dok se kreću unutar zadanog, omeĎenog prostora.213 Kako se štakor sve bolje upoznaje s prostorom, neuroni u hipokampusu - dijelu mozga koji ima glavnu ulogu u tvorbi sjećanja - počinju okidati svaki put kad ţivotinja proĎe pokraj nekog mjesta. Ti lokacijski ugoĎeni neuroni, znanstvenici su ih prozvali “stanice mjesta” i u meĎuvremenu su pronaĎeni i u mozgu ostalih sisavaca, djeluju pomalo nalik oznakama kojima se mozak sluţi da obiljeţi neki teritorij. Svaki put kad doĎete na neko mjesto, bio to gradski trg ili susjedova kuhinja, to područje vrlo brzo kartografiraju ţivčane stanice mjesta. Čini se, objašnjava O‟Keefe, da te ţivčane stanice aktiviraju vrlo različiti signali, uz ostale i vidni, slušni i opipni, “i svaki takav osjet ţivotinja moţe percipirati kad se naĎe u odgovarajućem dijelu okoliša.”214 U jednom je novijem istraţivanju, 2005., tim norveških znanstvenika koje je vodio par Edvard i May-Britt Moser, otkrio još jedan novi skup neurona uključenih u kartografiranje, odmjeravanje udaljenosti i prostornu orijentaciju, a nazvali su ih “stanice rešetke” One se nalaze u unutarnjem nosnom dijelu moţdane kore, koji je usko vezan za hipokampus, i u mozgu

stvaraju preciznu geografsku prostornu rešetku koju čine ravnomjerno rasporeĎeni trokuti. Tu su rešetku Moseri usporedili s listom papra u našem umu, na kojemu se ucrtava poloţaj ţivotinje u pokretu.215 Stanice mjesta kartografiraju poloţaj, stanice rešetke daju apstraktniju prostornu kartu koja ostaje nepromijenjena kamo god se ţivotinja kretala, čime nam daju unutarnji osjećaj za smještaj. (Stanice rešetke dosad su pronaĎene u mozgu više vrsta sisavaca, a nedavno provedeni pokusi s moţdanim elektrodama ukazuju na to da ih imamo i mi.216) Stanice mjesta i stanice rešetke rade u tandemu, a na osnovi signala dobivenih od drugih neurona koji motre na smjer i poloţaj tijela, riječima znanstvenog pisca Jamesa Gormana, djeluju “kao neka vrsta ugraĎenog navigacijskog sustava u samom središtu onoga što u ţivotinja čini spoznaju o tome gdje su, kamo idu i otkud dolaze.”217 Usto što sudjeluju u orijentaciji i navigaciji, čini se da su takve specijalizirane stanice vaţne i općenitije u tvorbi sjećanja, osobito sjećanja na dogaĎaje i doţivljaje. Štoviše, O‟Keefe i Moseri su, uz druge znanstvenike, počeli teoretizirati o tome da “mentalnim putovanjima” u sjećanjima upravljaju isti oni moţdani sustavi koji nam omogućuju snalaţenje u svijetu. U članku koji su 2013. objavili u časopisu Nature Neuroscience Edvard Moser i njegov kolega György Buzsaki iznose mnogo eksperimentalnih dokaza za to da isti oni “ţivčani mehanizmi koji su evoluirali tako da se njima definiraju prostorni odnosi meĎu orijentirima, mogu biti i utjelovljenje poveznica meĎu različitim predmetima, dogaĎajima i drugim različitim predmetima, dogaĎajima i drugim vrstama informacija o činjenicama”. A iz takvih poveznica tkamo naša ţivot na sjećanja. Lako je moguće da je osjećaj za orijentaciju u našem mozgu - njegov prastar, fm način biljeţenja i pamćenja kretanja kroz prostor - upravo evolucijsko vrelo svakog pamćenja.218 Pri svemu tome malo je (i ne samo malo) strašno gledati što se zbiva kad to vrelo presuši. Osjećaj za prostor obično nam slabi s godinama, a u najgorem slučaju moţemo ga i potpuno izgubiti.219 Jedan od prvih i najgorih simptoma demencije (u što spada i Alzheimerova bolest) propadanje je stranica u hipokampusu i unutarnjem nosnom dijelu moţdane kore, čija je posljedica gubitak lokacijskog pamćenja. 220 Ţrtve počinju zaboravljati gdje su. Véronique Bohbot, psihijatrica istraţivačica i stručnjakinja za pamćenje na Sveučilištu McGill u Montrealu, provela je istraţivanja koja pokazuju da način na koji se sluţimo svojim orijentacijskim umijećem utječe na rad pa čak i na veličinu hipokampusa - i da se tako moţemo zaštiti od propadanja sposobnosti pamćenja.221 Što više

izgraĎujemo kognitivne prostorne karte, to će nam, čini se, biti snaţniji sklopovi koji tvore takvo pamćenje. Dapače, tako nam još i raste količina sive moţdane tvari u hipokampusu - taj je fenomen dokumentiran kod londonskih taksista - analogno porastu mišićne mase uslijed fizičkih napora. MeĎutim, ako puko “robotski” slijedimo upute kamo trebamo skrenuti, upozorava Bohbot, time nećemo “stimulirati hipokampus” i rezultat moţe biti veća podloţnost gubitku pamćenja.222 Bohbot je zabrinuta da, ako hipokampus počne atrofirati uslijed manjka upotrebe u orijentaciji, rezultat moţe biti gubitak pamćenja i porast rizika od demencije. “Ovo društvo u mnogo čemu pogoduje smanjivanju hipokampusa”, kako je izjavila u jednom intervjuu. “Mislim da će se u sljedećih dvadesetak godina demencija javljati sve ranije i ranije.”223 Jedan odgovor na to je sljedeći: čak i ako se rutinski sluţimo GPS ureĎajima u voţnji ili pješačenju, svejedno se moramo oslanjati na vlastiti um kad se krećemo unutar zgrada i drugih prostora u koje signal GPS-s ne dopire. Mentalna vjeţba koju dobivamo navigacijom zatvorenim prostorima po toj je teoriji moţda dovoljna za zaštitu od propadanja hipokampusa i s njim povezanog ţivčanog sklopovlja. Taj je argument prije nekoliko godina još moţda mogao zvučati umirujuće, ali danas više baš i ne moţe. Gladni podataka o našem kretanju i u potrazi za novim prilikama za plasman reklamnih i drugih poruka usklaĎenih s našim poloţajem, tvrtke koje proizvode softver i mobilne telefone sve brţe nastoje ponuditi svoje usluge računalne kartografije i u zatvorenim prostorima poput zračnih luka, trgovačkih centara i uredskih zgrada. Google već danas u svojim kartama ima na tisuće tlocrta zgrada, i počeo je slati fotografe u trgovine, prostore javnih sluţbi, muzeje pa čak i samostane, sve kako bi izgradio podrobne karte i panoramske snimke zatvorenih prostora. Početkom 2013. Apple je kupio WiFiSlam, tvrtku za kartografiju zatvorenih prostora koja je izumila postupak kojim se poloţaj moţe odrediti uz tek nekoliko centimetara odstupanja a bez GPS-a, samo pomoću signala lokalne beţične mreţe i Bluetootha. Tu je tehnologiju Apple, a naziva je iBeacon, ubrzo ugradio u iPhone i iPad. Smješteni u trgovinama i drugim zatvorenim prostorima, iBeacon predajnici funkcioniraju poput umjetnih stanica mjesta i aktiviraju se kad god im se netko naĎe u blizini. Oni su vjesnici onoga što je časopis Wired nazvao “mikrolokacijskim praćenjem”.224 Kartografija zatvorenih prostora sa sobom donosi obećanje da će potaknuti našu ovisnost o računalnoj navigaciji i još više smanjiti

mogućnost da se samostalno krećemo svijetom. Ako osobni zasloni koji se nose na glavi, poput Google Glassa, uĎu u širu upotrebu, podrobne upute za kretanje po svijetu bit će nam neprestano, lako i neposredno dostupne. Dobivat ćemo, kako kaţe Michael Jones iz Googlea, “besprekidni tok uputa” koje će nas usmjeravati kamo god se uputili.225 Google i MercedesBenz već danas suraĎuju na aplikaciji koja će Googleove naočale povezivati s GPS ureĎajem ugraĎenim u kontrolnu ploču automobila, što će, kako tvrde u Mercedesu, omogućiti “navigaciju od vrata do vrata”.226 A dok nam boţica GPS-a šapće na uho ili baca signale na mreţnicu, rijetko ćemo morati uposliti svoje talente za mentalnu kartografiju. Ili nikada. Bohbot i drugi istraţivači istaknuli su da treba provesti još istraţivanja prije nego budemo sa sigurnošću znali slabi li dugotrajna upotreba GPS-a pamćenje, odnosno povećavali rizik od senilnosti. No, kako saznajemo sve više o uskoj povezanosti orijentacije, hipokampusa i pamćenja, posve je vjerojatno da izbjegavanje truda oko saznavanja gdje smo i kamo idemo moţe sa sobom donijeti nepredviĎene i nimalo zdrave posljedice. A budući da nam pamćenje omogućuje ne samo prisjećanje na protekle dogaĎaje nego i inteligentno reagiranje na one aktualne te planiranje za one buduće, svako slabljenje sposobnosti pamćenja moţe nas dovesti jedino padu kvalitete ţivota. Već stotine tisuća godina evolucija usklaĎuje naše tijelo i um s okruţenjem. Mi se tvorimo bivanjem, da prisvojim ova dva stiha pjesnika Wordswortha: Kotrljana u svagdanjem ritmu zemlje, Sa stijenjem, kamenjem i drvećem. Automatizacijom putovanja distanciramo se od okruţja koje nas je formiralo. Ona nas potiče da zamjećujemo simbole na zaslonu i baratamo njima, umjesto da posvećujemo paţnju stvarnim stvarima na stvarnim mjestima. Trud, koji nam naša usluţna boţanstva predstavljaju kao muku, moţda je ţivotno vaţan za našu gipkost, sreću i dobrobit. Koga briga? dakle ipak nije pravo pitanje. Trebali bismo se upitati: Koliko se daleko od svijeta želimo povući?

Kreativna računala To je pitanje s kojim se ljudi koji projektiraju zgrade i javne prostore bave već godinama. Avijatičari su bili prva profesija koja je doţivjela puni udar

računalne automatizacije, ali ni arhitekti i drugi projektanti nisu puno kasnili. Početkom 1960-ih mladi je inţenjer s MIT-a Ivan Sutherland izumio Sketchpad, revolucionarni program za crtanje i skiciranje u kojemu je prvi put primijenjeno grafičko korisničko sučelje. Sketchpad je utro put razvoju softvera za računalno projektiranje, ili CAD. Nakon što su 1980-ih godina CAD programi prilagoĎeni za rad na osobnim računalima, počele su se mnoţiti aplikacije koje su automatizirale izradu dvodimenzionalnih crteţa i trodimenzionalnih modela. Ti su programi ubrzo postali bitni arhitektima, stručnjacima za oblikovanje proizvoda, grafičarima i projektantima strojeva. Na prijelazu stoljeća William J. Mitchell, bivši dekan Arhitektonskog fakulteta pri Sveučilištu MIT, uočio je da je “arhitektonska praksa bez tehnologije CAD-a postala jednako nezamislivom kao pisanje bez programa za obradu teksta”. 227 Nova su softverska pomagala izmijenila proces, karakter i stil projektiranja i te su promjene na djelu i danas. Nedavna povijest arhitektonske struke nudi dobar pogled na utjecaj automatizacije u kreativnim zanimanjima. Arhitektura je elegantan posao. U njoj se spajaju umjetničko traganje za lijepim i obrtnička posvećenost funkciji, a uz to zahtijeva i senzibilitet za financijska, tehnička i druga praktična ograničenja. “Arhitektura je rubna, negdje izmeĎu umjetnosti i antropologije, izmeĎu društva i znanosti, tehnike i povijesti”, objašnjava talijanski arhitekt Renzo Piano, projektant pariškog Centra Pompidou i zgrade New York Timesa na Manhattanu. “Katkad je humanistička a katkad materijalistička.”228 Posao arhitekta spona je izmeĎu uma maštanja i uma proračunavanja, ta dva načina mišljenja koja su često u stanju napetosti, ako ne i otvorenog sukoba. Budući da većina nas provodi većinu vremena u projektiranim prostorima konstruirani svijet danas nas se doima prirodnije od same prirode arhitektura na nas ima dubok i katkad neopaţen utjecaj, i individualno i kolektivno. Dobrom arhitekturom ţivot se uzdiţe, a ona loša i osrednja čini ga tričavim i manje vrijednim. Čak i mali detalji, kao što su veličina i poloţaj prozora ili ventilacijskog okna, mogu značajno utjecati na estetiku, upotrebljivost i efikasnost zgrade - kao i na komfor i raspoloţenje onih koji se u njoj nalaze. “Mi oblikujemo zgrade”, primijetio je Winston Churchill, “a poslije one oblikuju nas.”229 Unatoč tome što računalno generirani projekti katkad navode na samozadovoljstvo kad je riječ o provjeravanju izmjera, projektantski softver je, općenito uzevši, podigao razinu efikasnosti projektnih ureda. CAD sustavi su ubrzali i pojednostavili izradu konstrukcijskih

dokumenata, i arhitektima su olakšali njihovu distribuciju klijentima, inţenjerima, izvoĎačima i javnim sluţbama. U proizvodnim djelatnostima dobivene se CAD datoteke koriste pri programiranju robota koji izraĎuju pojedine sastavnice zgrada, što olakšava upotrebu ţeljenih materijala a pritom i smanjuje potreban rad pri unošenju podataka i kontroli kvalitete. Takvi sustavi arhitektima nude mogućnost cjelovitog uvida u sloţene projekte: tlocrte svih katova odjednom, svih nagiba i materijala, kao i u raznorazne sustave grijanja i hlaĎenja, električne struje, rasvjete i instalacija. Val promjena u projektima je očit, jer mnogošto nije bilo moguće izvesti dok su se projekti sastojali od velikih snopova papirnih dokumenata. Crtanje na računalu omogućuje da se u proračune uvedu sve varijable pa arhitekt moţe precizno proračunavati energetsku efikasnost budućih struktura u mnogim uvjetima, što je sve vaţnije i unutar struke i za društvo. Nadalje, detaljne su se trodimenzionalne ilustracije i animacije pokazale nenadmašnim načinom vizualiziranja eksterijera i interijera zgrade. Prije nego gradnja i otpočne, naručilac moţe virtualno prošetati svojom zgradom ili je isto tako virtualno nadlijetati. Neovisno o svim praktičnim koristima, brzina i preciznost proračunavanja i vizualiziranja u CAD-u otvorila je arhitektima i inţenjerima mogućnost da eksperimentiraju s novim oblicima i materijalima. Danas se gradi ono što je nekad postojalo samo u mašti. Projekt Experience Music Franka Gehryja, muzej u Seattleu koji izgleda kao zbirka voštanih skulptura koje se tope na suncu, ne bi postojao da nema računala. Iako je izvorni Gehryjev projekt nastao u obličju fizičke makete - izradio ju je od drva i kartona - prevoĎenje finih, fluidnih oblika u izvoĎački projekt nije se moglo napraviti ručno. Za to je bio nuţan jaki CAD sustav koji će digitalno skenirati maketu i izraziti njezinu razigranost kao niz brojeva. (Sustav je izvorno bio namijenjen projektiranju mlaznih aviona a proizvela ga je francuska tvrtka Dassault.) Materijali zgrade bili su tako brojni, meĎusobno tako različiti i tako neobično oblikovani da se i izrada morala automatizirati. Tisuće precizno uklopljenih ploča koje čine čeličnu i aluminijsku fasadu muzeja izrezane su tako da su izmjere koje je proračunao CAD program izravno unesene u računalni proizvodni sustav. Gehry je dugo radio na samom tehnološkom rubu arhitekture, no danas se ručna izrada maketa doima posve arhaičnom. Mladi su se arhitekti izvještili u računalnom skiciranju i modeliranju, a CAD programi su od pomagala za pretvaranje idejnog u izvedbeni projekt postali pomagala za samo projektiranje. Sve popularnija tehnika parametarskog projektiranja,

kojom se algoritamski odreĎuju formalni odnosi meĎu različitim elementima projekta, premještaju proračunske mogućnosti računala u samo središte stvaralačkog procesa. Sluţeći se softverskim upitnicima ili formularima nalik onima u tabličnim kalkulatorima, arhitekt-programer u računalo ubacuje niz matematičkih pravila, parametara - na primjer, odnos veličine prozora i površine prostorije, ili vektore kakve zakrivljene površine - i prepušta stroju da mu izbaci gotov projekt. U najagresivnijim programima te vrste projektant više ništa ne sastavlja ručno: na osnovi algoritama automatski se generira kompletna forma zgrade. Kako s novim tehnikama često biva, parametarsko projektiranje sa sobom je donijelo i novi stil u arhitekturi, takozvani parametrizam. Nadahnut geometrijskom kompleksnošću digitalne animacije i frenetičnim, aseptičnim kolektivizmom društvenih mreţa, parametrizam odbacuje pravilnosti klasične arhitekture u korist nesputanih sloţaja baroknih, futurističkih formi. Neki tradicionalisti parametrizam smatraju neukusnim i pomodnim, te njegove proizvode otpisuju kao “jedva nešto više od mrlja koje se s minimalnim trudom daju napraviti za računalom”, da citiram njujorškog arhitekta Dina Marcantonija.230 U svojoj umjerenijoj kritici objavljenoj u New Yorkeru arhitektonski pisac Paul Goldberger primjećuje da “naleti, krivine i obrati” u digitalnom projektiranju imaju svoju privlačnost, ali “često se doimaju nepovezanima s bilo čime osim vlastite stvarnosti koju generira računalo”.231 Pojedini mlaĎi arhitekti meĎutim parametrizam i druge vidove “programskog projektiranja” smatraju ključnim dogaĎajima našega doba, centrom energije cijele struke. Na Bijenalu arhitekture 2008. u Veneciji, Patrick Schumacher, direktor utjecajne londonske tvrtke Zaha Hadid, objavio je “manifest parametrizma” u kojemu ustvrĎuje da je “parametrizam veliki novi stil nakon modernizma”. Zahvaljujući računalima, kaţe on, strukture izgraĎenog svijeta ubrzo će tvoriti “valovi koji se šire, slojevi ljuski u pokretu, vrtloţne spirale” koje podsjećaju na “tekućine u gibanju”, a “rojevi zgrada” će “vrludati krajolicima” u skladu s “dinamičnim rojenjem ljudskih tijela”.232 Neovisno o tome hoće li se ti harmonični rojevi materijalizirati ili neće, prijepori oko parametarskog projektiranja izveli su na površinu raspravu o srţi arhitekture koja traje još od početaka uvoĎenja CAD programa. Prije svega, ţurbu da se počne koristiti projektantski softver pratila je sjena sumnji i strepnji. Mnogi su od najcjenjenijih arhitekata i profesora arhitekture upozoravali na to da pretjerano oslanjanje na računala

projektantima moţe suziti obzorja i okrnjiti im darovitost i kreativnost. Renzo Piano za početak priznaje da su računala postala “presudna” unutar arhitektonskog procesa, no istodobno se i boji da projektanti previše toga prepuštaju softveru. Iako arhitektu automatizacija dopušta da u kratkom vremenu generira precizne i naizgled umješno izvedene trodimenzionalne pokazne projekte, upravo ta brzina i egzaktnost stroja prekida mukotrpan i sitničav proces istraţivanja koji dovodi do najnadahnutijih i najsmislenijih projekata. Privlačnost rada proisteklog iz računalnog zaslona moţda je samo prividna. “Znate”, kaţe Piano, “računala postaju tako pametna da pomalo nalikuju na one klavire kod kojih samo pritisnete gumb i on vam odsvira ča-ča-ča, pa onda malo rumbu. Moţete svirati jako loše a samom sebi čete zvučati kao veliki pijanist. Isto danas vrijedi i u arhitekturi. Moţete se naći u poziciji da vam se učini da samo stišćete gumbe i gradite što vam se prohtije. Ali u arhitekturi se radi o razmišljanju. Na neki način baš o sporosti. Treba vam vremena. Kod računala je loše to što se s njima sve jako ubrzava.”233 Arhitekt i kritičar Witold Rybczynski iznosi sličnu misao. Iako hvali goleme tehničke iskorake koji su proteklih godina preobrazili struku, tvrdi da “ta nesmiljena produktivnost koju sa sobom nose računala ima i svoju cijenu - više vremena pred ekranom, manje vremena u mislima”234

Odrubljene ruke Arhitekti o sebi oduvijek razmišljaju kao o umjetnicima, i prije dolaska CAD-a izvorište te njihove umjetnosti bilo je crtanje. Skiciranje rukom slično je računalnom prikazu utoliko što ima očitu komunikacijsku funkciju. Arhitektu ono daje upečatljiv vizualni medij kojim svoju projektnu misao iznosi klijentu ili suradniku. Ali čin crtanja nije samo vid izraţavanja misli nego i vid mišljenja. “Ja nemam takvu maštu koja bi mi pokazala na čemu sam ako to nisam nacrtao”, kaţe modernistički arhitekt Richard MacCormack. “Crtanje je za mene i proces otkrivanja i proces kritike.”235 Izrada nacrta tjelesni je spoj apstraktnog i opipljivog. “Crteţ nije samo konačni proizvod: to je dio misaonog procesa projektiranja u arhitekturi”, objašnjava Michael Graves, slavni arhitekt i dizajner na području oblikovanja proizvoda. “Crteţ izraţava interakciju našega uma, oka i ruke.”236 Filozof Donald Schön moţda je to najbolje formulirao napisavši da arhitekt sa svojim crteţima vodi “refleksivnu konverzaciju” i ta je konverzacija već time što je fizička ujedno i dijalog sa stvarnim konstrukcijskim materijalima.237 Ideja se oblikuje u tom su-djelovanju

ruke, oka i uma, i kreativna iskra otud započinje svoj spori prelazak iz mašte u svijet. Taj intuitivni dojam arhitekta veterana središnjoj ulozi skiciranja u kreativnom mišljenju dobio je podršku i u istraţivanjima kognitivne osnove crtanja, odnosno njegovih kognitivnih učinaka. Skice na papiru sluţe proširivanju kapaciteta radnog pamćenja. One time omogućuju arhitektu da ima na umu mnogobrojne projektne opcije i varijacije. Fizički čin crtanja istodobno pomaţe i u stvaranju dugoročnih sjećanja jer zahtijeva snaţnu vizualnu koncentraciju i odmjeren rad mišića. Ono pomaţe arhitektu da se prisjeti svojih prijašnjih crteţa dok iskušava nove mogućnosti. “Kad nešto nacrtam, toga se i sjećam”, objašnjava Graves. “Crteţ je podsjetnik na misao zbog koje je nastao.”238 Nadalje, arhitekt se dok crta moţe brzo prebacivati na različite razine detalja i na različite stupnjeve apstrakcije - svoj projekt tako moţe promatrati iz više motrišta istovremeno, i odmjeravati utjecaj svake izmjene neke pojedinosti na cjelokupnu strukturu. Kako piše britanski teoretičar dizajna Nigel Cross u knjizi Designerly Ways of Knowing, arhitekt crtanjem napreduje prema dovršenom projektu, ali i raščlanjuje problem koji pokušava riješiti: “Vidjeli smo kako skice sadrţavaju ne samo crteţe mogućih konceptualnih rješenja, nego i brojke, simbole i tekstove - projektant tako povezuje ono što znade o problemu s onim što će nastati kao rješenje. Crtanje omogućuje da se istraţivanje problemskog prostora vodi zajedno s istraţivanjem prostora rješenja.” Kad njime rukuje talentirani arhitekt, crtaći blok postaje “svojevrsno pojačalo inteligencije”, zaključuje Cross.239 O crtanju je moţda najbolje razmišljati kao o manualnom razmišljanju. Ono je jednako cerebralno koliko i taktilno, oslanja se na ruku jednako koliko i na mozak. Čin skiciranja je, čini se, sredstvo kojim se otključavaju tajna spremišta prešutnog znanja u mozgu - tajnovit proces presudan za svaki čin umjetničkog stvaranja, a nemoguće ga je ili barem teško postići jedino svjesnim promišljanjem. “Znanje oblikovanja je djelatno znanje”, primjećuje Schön, i ono je “najvećim dijelom prešutno”. Projektant će “najlakše (ili jedino) pristupiti svom djelatnom znanju tako da se stavi u djelatnu situaciju”.240 Dizajniranje programom na zaslonu računala takoĎer je djelatna situacija, ali drugačija. Njome se ističe formalna strana posla - logično razmišljanje kroz funkcionalne zahtjeve graĎevine, te razmišljanje o tome kako najbolje kombinirati različite arhitektonske elemente kako bi se ti zahtjevi ostvarili. Umanjujući vaţnost

ruke, tog “alata nad alatima”, kako ju je nezaboravno opisao Aristotel, računalo zaobilazi fizički aspekt rada i arhitektu suţava vidno polje. Umjesto organskih, tjelesnih formi kakve nastaju pod vrškom olovke ili ugljena, CAD programi, kako piše Schön, supstituiraju “simboličke, proceduralne prikaze” koji “nuţno bivaju nepotpuni ili neadekvatni u odnosu na zbiljske pojave koje se dizajniraju”.241 Onako kako zaslon GPSa umrtvljuje Inuita kad je riječ o slabim ali obilnim osjetnim signalima arktičkog okoliša, zaslon CAD-a arhitektu omeĎuje percepciju i oslabljuje uvaţavanje materijalnosti njegova ili njezina posla. Svijet se povlači. Arhitektonski fakultet Sveučilišta Yale 2012. je godine odrţao simpozij pod naslovom “Je li crtanje mrtvo?” Oštrina formulacije odraţava sve jači dojam da računalo malo-pomalo čini crtaći blok zastarjelim. Prijelaz s bloka na zaslon, vjeruju mnogi arhitekti, sa sobom nosi gubitak kreativnosti, avanturizma. Zahvaljujući preciznosti i prividnoj dovršenosti ekranskih prikaza, projektant koji radi za računalom sklon je zatvoriti svoj koncept, i vizualno i kognitivno, već u ranoj fazi. Tako se umnogome lišava refleksivne i istraţivačke zaigranosti koja izvire iz nabacaj a i slutnji svojstvenih crtanju. Taj fenomen istraţivači nazivaju “preuranjenom fiksacijom” a uzrok joj nalaze u “sputanosti interesa da se projekt mijenja kad CAD model već (prebrzo) sadrţi veliku količinu detalja i meĎuodnosa”.242 Projektant za računalom, nadalje, obično prenaglašava formalne eksperimente na štetu izraţajnosti. Time što u arhitekta slabi “osobnu, emocionalnu povezanost s poslom”, piše Michael Graves, CAD softver stvara projekte kojima, “iako jesu kompleksni i na svoj način zanimljivi” često “nedostaje emocionalni sadrţaj projekta izvedenog iz ruke”.243 Istaknuti finski arhitekt Juhani Pallasmaa ustvrdio je nešto s time povezano u svojoj knjizi Ruka koja misli iz 2009. On smatra da je projektantima, budući da se sve jače oslanjaju na računala, sve teţe zamišljati ljudske kvalitete svojih graĎevina - nastaniti se u svojim djelima u nastajanju onako kako će se ljudi na kraju nastaniti u dovršenim zdanjima. Dok rukom crtane skice i ručno izraĎene makete imaju “isto meso fizičke materijalnosti kao i materijalni predmet koji se projektira, ali i kao i sam arhitekt”, računalne operacije i prikazi opstoje “u matematiziranom i apstrahiranom nematerijalnom svijetu”. Pallasmaa vjeruje da “laţna preciznost i prividna dovršenost računalnog prikaza” u arhitektu otupljuju osjećaj za estetsko, što dovodi do tehnički upečatljivih ali emocionalno sterilnih projekata. Kad crta tušem ili olovkom, piše on,

“ruka prati obrise, oblike i obrasce objekta”; ako pak manipulira sličnom slikom unutar programa “ruka najčešće bira linije iz zadanog skupa simbola koji nemaju analoški - pa posljedično ni haptički i emocionalni odnos s objektom”.244 Kontroverza oko upotrebe računala meĎu profesionalnim projektantima će se nastaviti, i svaka će strana nuditi čvrste dokaze i uvjerljive argumente. Projektantski softver takoĎer će napredovati i moţda rješavati neka od ograničenja postojećih digitalnih pomagala. Ali što god budućnost sa sobom donijela, iz iskustva arhitekata i drugih projektanata jasno je da računalo nikad nije neutralni alat. Na dobro ili zlo, ono utječe na to kako netko radi i misli. Svaki program prati odreĎenu rutinu uz koju su jedni načini rada lakši a drugi teţi, a korisnik programa se na tu rutinu adaptira. Mogućnosti stroja tako odreĎuju karakter i cilj rada, baš kao i kriterije prema kojima se rad ocjenjuje. Kad umjetnik ili obrtnik (ili bilo tko drugi, kad smo već kod toga) postane ovisan o programu, on ili ona s njime preuzimaju i pretpostavke tvorca tog programa. S vremenom će početi cijeniti ono što taj program moţe, a ono što ne moţe smatrat će nevaţnim, irelevantnim ili upravo nezamislivim. A ako se ne adaptiraju, riskirat će da ih kolege marginaliziraju. Nije tu riječ samo o specifikacijama programa: već samo prenošenje rada iz svijeta na zaslon sa sobom nosi golemu promjenu perspektive. Veća se teţina pridaje apstraktnosti a manja materijalnosti. Snaga izračunavanja raste, angaţman osjetila slabi. Ono precizno i eksplicitno preuzima primat nad nabačenim i naslućenim. Osnivač male arhitektonske tvrtke Archll iz Bouldera u drţavi Colorado, E. J. Meade, hvali efikasnost projektantskog softvera ali je zabrinut da popularni programi poput Revita i SketchUpa postaju suviše preskriptivni. Projektant samo utipka dimenzije zida, poda ili neke druge površine, i pritiskom na gumb program generira sve pojedinosti, automatski iscrta svaku ploču ili betonski blok, sve potpornje, izolaciju, cement, gips, što god hoćete. Meade vjeruje da način rada arhitekata zbog toga postaje homogeniziran a njihove graĎevine predvidljivije. “Kad listate arhitektonske časopise 1980-ih”, priča mi, “vidite ruku individualnog arhitekta”. Danas se u pravilu vidi kako funkcionira softver: “Iz konačnog se proizvoda moţe očitati rad tehnologije.”245 Kao i njihovi kolege liječnici, mnogi veterani meĎu projektantima strahuju da će zbog sve većeg oslanjanja na automatizirana pomagala i rutine studentima i mladim kolegama biti sve teţe naučiti finese svog

zanata. Jacob Brillhart, profesor arhitekture na Sveučilištu Miami, vjeruje da te olakšavajuće prečice kakve nude programi poput Revita potkopavaju “proces naukovanja”. Prepustiti softveru da popunjava pojedinosti projekta i specificira materijale “samo donosi banalnije, ljenije i monotonije projekte, lišene intelekta, mašte i emocije” Osim toga, i opet skupa s liječnicima, on primjećuje i kako se u njegovoj struci razvija kultura kopiranja, u kojoj mladi arhitekti “s uredskog posluţitelja vuku detalje, nagibe i dijelove zidova iz prijašnjih projekata i samo ih preslaguju”.246 Veza izmeĎu znanja i činjenja puca. Opasnost koja se kreativnim zanimanjima sprema u tome je što će projektanti, dizajneri i umjetnici, opijeni nadljudskom brzinom, preciznošću i efikasnošću računala, naposljetku uzimati zdravo za gotovo da je automatski način rada i najbolji. Bez razmišljanja će pristajati na kompromise što im ih nameće softver. Pojurit će linijom manjeg otpora iako bi ponešto otpora, trenja, moţda iz njih bilo izvuklo ono najbolje.

Tjelesnost uma “Ako ţelite nešto zaista znati o vezicama za cipele”, primijetio je politolog i mehaničar za motocikle Matthew Crawford, “morate vezivati cipele”. To je jednostavna ilustracija duboke istine koju Crawford istraţuje u svojoj knjizi Shop Class as Soulcraft iz 2009.: “Ako je mišljenje vezano za djelovanje, onda zadatak adekvatnog shvaćanja svijeta, intelektualno, ovisi o tome da na tom svijetu nešto činimo.”247 Crawford se tu naslanja na rad njemačkog filozofa Martina Heideggera koji je tvrdio da je najdublji vid razumijevanja koji nam je dostupan “ne puka zamjedbena spoznaja: rukovanje, baratanje stvarima, upotreba i briga za njih, sve to je jedna navlastita vrsta „znanja'”.248 O spoznajnom radu obično govorimo kao da je to nešto drukčije od manualnog rada, ili s njime čak nespojivo - priznajem da sam i sam činio nešto slično u prijašnjim dijelovima ove knjige - ali to je razlikovanja samodopadno i proizvoljno. Sav rad je spoznajni rad. Um aktuara nije ništa ţivlji i angaţiraniji od stolarova uma. Postignuća arhitekta jednako ovise o tijelu i njegovim osjetilima kao i postignuća lovca. Ono što vrijedi za druge ţivotinje vrijedi i za nas: um nije zapečaćen u lubanji, on se proteţe cijelim tijelom. Ne razmišljamo mi samo mozgom nego i očima i ušima, nosom i ustima, udovima i trupom. A kad se uhvatimo alata kojim širimo mogućnosti dohvaćanja, i njime ćemo misliti i shvaćati. “Mišljenje, ili stjecanje znanja, daleko je od toga da bude smo sjedilački posao, kakvim

ga se često smatra”, napisao je 1916. američki filozof i društveni reformator John Dewey. “Ruke i noge, aparati i pomagala svake vrste, u njemu sudjeluju jednako kao i promjene u mozgu.”249 Postupanje je razmišljanje, i razmišljanje je postupanje. Iz naše se teţnje da razdvojimo razglabanja uma od gibanja tijela vidi koliko smo još uvijek sputani kartezijanskim dualizmom. Kad razmišljamo o mišljenju, naprečac lociramo naš um, pa tako i naše ja, u sivoj tvari unutar lubanje. Ostatak tijela pak smatramo mehaničkim sustavom za odrţavanje ţivota koji opsluţuje ţivčano sklopovlje. Taj dualistički pogled na tijelo i um, prema kojemu oni funkcioniraju u uzajamnoj izolaciji nije samo maštarija filozofa poput Descartesa i njegova predšasnika Platona: čini se da je on nuspojava same naše svijesti. Najveći se dio rada uma odvija iza scene, u sjenama nesvjesnog, svjesni smo jedino tog blještavo svijetlog prozora što ga za nas otvara naš svjesni um. A on nam uporno govori da je odjelit od tijela. Prema profesoru psihologije sa sveučilišta UCLA, Matthewu Liebermannu, iluzija proizlazi iz činjenice da se, kad promišljamo o svom tijelu pozivamo na jedne dijelove mozga, a kad promišljamo o svom umu oslanjamo se na druge. “Kad razmišljate o svom tijelu i djelovanjima svoga tijela, upotrebljavate prednje čeono i tjemeno područje na vanjskoj površini svoje desne strane moţdane polutke”, objašnjava on. “Kad razmišljate o svom umu, upotrebljavate druga prednja čeona i tjemena područja u središnjem dijelu mozga, gdje se dvije polutke dodiruju.” Kad različita područja mozga obraĎuju doţivljaje, svjesni um tumači ta iskustva ka nešto što pripada različitim kategorijama. Iako ta “tjelesno utemeljena iluzija” dualizma uma i tijela ne odraţava stvarne “razlike u prirodi”, objašnjava Lieberman, ona svejedno “za nas ima neposrednu psihološku realnost”.250 Što više spoznajemo o sebi, to nam biva jasnije koliko nas upravo ta “realnost” navodi na krivi put. Jedno od najzanimljivijih i najrelevantnijih područja istraţivanja u suvremenoj psihologiji i neuroznanosti odnosi se na takozvano otjelovljeno spoznavanje. Današnji istraţivači i znanstvenici potvrĎuju uvid Johna Deweya od prije stotinu godina: mozak i tijelo se sastoje od iste tvari, ali ne samo to - njihov je rad prepleten u daleko većoj mjeri nego što pretpostavljamo. Biološki procesi koji konstituiraju “mišljenje” izrastaju ne samo na proračunavanjima u ţivčanim stanicama unutar lubanje, nego i iz postupaka i osjetnih percepcija cijeloga tijela. “Na primjer”, objašnjava Andy Clark, filozof uma sa Sveučilišta Edinburgh koji je mnogo pisao o otjelovljenom spoznavanju, “ima puno dokaza za to da

fizičke geste koje izvodimo kad govorimo uistinu smanjuju spoznajno opterećenje mozga, te da biomehanika mišićnih sustava i tetiva nogu silno pojednostavljuje problem kontroliranog hodanja.”251 Mreţnica, kako pokazuju posljednja istraţivanja, nije pasivni senzor koji šalje sirove podatke u mozak, kao što se nekoć pretpostavljalo; ona aktivno oblikuje ono što ćemo vidjeti. Oko ima i vlastitu pamet.252 Čini se da su tjelesni sustavi za osjete i gibanje na djelu čak i pri pojmovnom mišljenju. Kad razmišljamo apstraktno ili metaforički o pojedinim predmetima ili pojavama u svijetu - recimo granama stabala, ili naletima vjetra - mi mentalno iznova uprizorujemo, ili simuliramo, svoj fizički doţivljaj tih pojava.253 “Za bića kakva smo mi”, tvrdi Clark, “tijelo, svijet i djelovanje” su “su-arhitekti te neuhvatljive stvari koju zovemo um”.254 Još uvijek se istraţuje kako su spoznajne funkcije raspodijeljene u mozgu, osjetnim organima i ostatku tijela. Neke su od ekstravagantnijih tvrdnji zastupnika otjelovljene spoznaje u tim raspravama još uvijek prijeporne, primjerice sugestija da se individualni um proteţe i izvan tijela, u njegovo okruţje. Pritom je jasno da naše mišljenje ne moţemo odvajati od svog ljudskog bića ništa više nego što bismo svoje fizičko biće mogli odvojiti od svijeta iz kojeg je poniklo. “Nema u ljudskom doţivljaju ničega što bi ostalo netaknuto ljudskom tjelesnošću”, piše filozof Shaun Gallagher: “od osnovnih percepcijskih i emocionalnih procesa koji su na djelu već od najranijeg djetinjstva, do sofisticirane interakcije s drugim ljudima; od usvajanja i kreativne upotrebe jezika do viših spoznajnih sposobnosti koje uključuju prosudbu i metaforu; od iskazivanja slobode volje u namjeravanim postupcima do stvaranja kulturnih artefakata koji donose daljnje ljudske mogućnosti djelovanja.255 Ideja tjelesnog spoznavanja, smatra Gallagher, korisna je pri objašnjavanju čudesne lakoće s kojom se ljudska vrsta sluţi tehnologijom. Naše je tijelo i um tako dobro ugoĎeno na svoje okruţje da vrlo brzo uvodi alate i druga pomagala u misaone procese - da, neurološki, tretira stvari kao dio sebe. Ako hodate sa štapom, radite čekićem ili se borite mačem, vaš će mozak ugraditi taj alat u neuronsku kartu tijela. Proţimanje tijela i predmeta unutar ţivčanog sustava nije svojstveno jedino ljudima. Majmun se sluţi štapićem kad hoće iz tla iskopati mrave ili termite, slonovi tjeraju muhe tako što mašu lisnatim granama, a dupin će se posluţiti komadima spuţve da bi se zaštitio od ogrebotina dok prekopava morsko dno u potrazi za hranom. No, nenadmašna vještina Homo sapiensa u svjesnom razmišljanju i planiranju omogućava nam da konstruiramo domišljate alate

i instrumente za svaku moguću svrhu i time širimo svoje sposobnosti, kako fizičke tako i umne. Mi posjedujemo pradavnu teţnju prema, kako to naziva Clark, “spoznajnoj hibridizaciji”, miješanju biološkog i tehnološkog, unutarnjeg i vanjskog.256 Lakoća s kojom nešto tehničko umijemo učiniti dijelom sebe moţe nas dovesti i u zabludu. Svojim alatima prepuštamo moć i onda kad nam to nije u interesu. Jedna od velikih ironija našega vremena u tome što, dok znanstvenici otkrivaju sve više o bitnim ulogama fizičkog djelovanja i osjetilnog zamjećivanja u razvoju naših misli, sjećanja i umijeća, mi provodimo manje vremena djelujući u svijetu a više vremena ţiveći i radeći posredstvom apstraktnog medija računalnog zaslona. Svojem postojanju namećemo osjetilna ograničenja i rastjelovljujemo se. S višenamjenskim računalom uspjeli smo, što je upravo perverzno, dobiti alat koji od nas krade tjelesni uţitak rada s alatima. Naše vjerovanje, intuitivno ali pogrešno, da naš intelekt djeluje u izolaciji od našega tijela, navodi nas na to da podcijenimo vaţnost svog angaţmana sa svijetom stvari. A time ćemo pak olako pretpostaviti da je računalo - koje površinski posve nalikuje umjetnom mozgu, “stroju koji misli” - dostatno pa i bolje sredstvo za izvoĎenje rada uma. Michael Jones iz Googlea uzima zdravo za gotovo da su “ljudi danas pametniji za 20 bodova na testu inteligencije” zahvaljujući kartografskim pomagalima i drugim internetskim uslugama te tvrtke.257 Zavarani od strane vlastitog mozga, pretpostavljamo da nismo ţrtvovali ništa, ili bar ništa bitno, prepuštajući se programskim skriptama kad se krećemo s mjesta na mjesto, dok projektiramo graĎevine ili se bavimo nekom drugom vrstom mislenog i inventivnog rada. A što je još gore, pritom nam promiče da alternative postoje. Zanemarujemo činjenicu da se programi i automatizirani sustavi mogu prekonfigurirati tako da nam jačaju dodir sa svijetom, umjesto da ga oslabljuju. Kako su, naime, spoznali ergonomi koji se bave automatizacijom a i drugi stručnjaci, postoje načini da se taj stakleni kavez probije a da se pritom ne izgube sve te brojne blagodati što nam ih donose računala.

7. Automatizacija za ljude Kome uopće trebaju ljudi? To se pitanje, u ovoj ili onoj retoričkoj formi, često iznova pojavljuje u raspravama o automatizaciji. Ako računala tako brzo napreduju, i ako u usporedbi s njima ljudi izgledaju spori, nespretni i podloţni greškama, zašto ne izgraditi nepogrešiv samodostatni sustav koji bi besprijekorno radio bez ljudskog nadzora i upletanja? Zašto iz cijele priče jednostavno ne izbaciti ljudski faktor? “Treba pustiti robotima da preuzmu stvar”, zaključuje teoretičar tehnologije Kevin Kelly u svom naslovnom eseju objavljenom u časopisu Wired 2013. U njemu za primjer uzima avijaciju: “Kompjuterizirani mozak poznat kao autopilot moţe upravljati Boeingom 787 bez pomoći, ali mi nerazumno „za svaki slučaj‟ stavljamo ljude u kokpit kao tete u vrtiću.”258 Vijest da je Googleov auto koji se sudario vozio čovjek pisca je jednog istaknutog tehnološkog bloga potaknula na usklik: “Hoćemo više robo-vozača!”259 Komentirajući probleme u čikaškim javnim školama, pisac Wall Street Journala Andy Kessler samo je napola u šali primijetio: “Zašto ne odustanemo od učitelja i ne podijelimo svakom od 404.151 učenika iPad ili Android tablet?”260 U svom je ogledu iz 2012. ugledni investitor Silicijske doline Vinod Khosla izjavio da bi se zdravstvena skrb znatno poboljšala kad bi se medicinski softver naziva ga “doktor Algoritam” - doveo da toga ga od pomagala liječnicima primarne zdravstvene zaštite jednostavno zamjenjuje liječnika. “Na kraju”, piše on, “prosječnog liječnika više nećemo ni trebati”.261 Lijek za nesavršenu automatizaciju je potpuna automatizacija. Ta je zamisao zavodljiva, ali simplistička. Strojevima je zajednička pogrešivost njihovih stvoritelja. Prije ili poslije čak će se i najnaprednija tehnika pokvariti, ili će griješiti, ili će, kad je riječ o kompjuteriziranim sustavima, naići na sklop okolnosti koje njihovi projektanti i programeri nisu predvidjeli i koji su im zbunili algoritme. Početkom 2009., samo nekoliko tjedana prije pada aviona Continental Connectiona u Buffalu, Airbus A320 kompanije US Airways izgubio je potisak svih motora naletjevši na jato kanadskih gusaka pri uzlijetanju sa zračne luke La Guardia u New Yorku. Djelujući brzo i hladnokrvno, kapetan Chesley

Sullenberger i njegov prvi časnik Jeffrey Skiles uspjeli su, u tri potresne minute, sigurno pljusnuti pokvareni avion u rijeku Hudson. Svi su putnici i posada evakuirani. Da nije bilo pilota - “teta u vrtiću” - taj bi se Airbus, mlaţnjak s najsuvremenijom automatizacijom, srušio i sa sobom gotovo sigurno odnio sve u sebi. Rijetkost je da putničkom avionu zataje svi motori. Ali nije rijetkost da piloti spašavaju avione pri mehaničkim kvarovima, zastojima autopilota, lošem vremenu i drugim neočekivanim dogaĎajima. Kako je njemački Der Spiegel 2009. nagovijestio u reportaţi o sigurnosti zrakoplova, piloti aviona s navoĎenim upravljanjem “redovito nailaze na nova, neugodna iznenaĎenja koja nitko od njihovih projektanata nije predvidio”.262 Isto vrijedi i u drugim područjima. O nesreći do koje je došlo dok je čovjek vozio Googleov Prius naveliko se pisalo u novinama; ali zato ništa ne saznajemo o tome koliko pričuvni vozači u Googleovim autima i drugim automatiziranim vozilima moraju preuzeti upravljanje da bi izveli manevre koji računalima ne polaze za rukom. Googleova je politika da ih u naseljenim ulicama uvijek voze ljudi, manualno, a zaposlenik koji bi se htio okušati u tome mora proći rigorozni tečaj tehnika voţnje u izvanrednim situacijama.263 Auti bez vozača ni su baš toliko bez vozača. Ljudi koji rade u medicini često se moraju oglušiti o pogrešne upute ili prijedloge koje nude bolnička računala. Bolnice su tako shvatile da kompjuterizirani sustavi za naručivanje lijekova, doduše, ublaţavaju neke česte pogreške u potrošnji lijekova, ali sa sobom nose i nove probleme. Istraţivanje provedeno 2011. u jednoj bolnici pokazalo je da se udvostručavanje narudţbi čak povećalo nakon automatiziranja.264 Dijagnostički softver je, usto, daleko od savršenog. Doktor Algoritam će vam moţda najčešće davati točne dijagnoze i ispravne terapije, ali ako se vaš skup simptoma ne uklapa u statistički profil, bit ćete itekako sretni što je doktor Čovjek bio u ordinaciji i odbacio izračun računala. Tehnologije automatizacije sve su kompliciranije i uzajamno su prepletene u dţunglu veza i oslonaca na softverske zbirke instrukcija, baza podataka, mreţnih protokola, senzora i mehaničkih dijelova, pa se potencijalni izvori pogrešaka umnaţaju. Sustavi postaju podloţni onome što se znanstveno naziva “kaskadnim pogreškama”, u kojima mali kvar u jednoj komponenti pokreće dalekoseţan i katastrofalan lanac nesreća. Naš je svijet svijet “meĎuzavisnih mreţa”, kako izvještava jedna skupina fizičara u članku objavljenom 2010. u časopisu Nature. “Raznorodne infrastrukture poput vodovodnih, prijevoznih i energetskih prospajane su

“elektroničkim i drugim vezama”, što ih na kraju sve čini “ekstremno osjetljivima na nasumične kvarove”. To vrijedi čak i onda kad se te veze sastoje jedino od razmjene podataka.265 Uz to, tako je teţe pronaći osjetljiva mjesta. Kod industrijskih postrojenja iz prošlosti, objašnjava informatičarka Nancy Leveson s MIT-a u svojoj knjizi Projektiranje sigurnijeg svijeta, “interakcije meĎu komponentama mogle su se podrobno planirati, razumjeti, predvidjeti, i moglo se paziti da ne doĎe do onih nepoţeljnih”, a cjelokupni se sustav mogao iscrpno testirati prije nego uĎe u svakodnevnu upotrebu. “Suvremeni, visokotehnološki sustavi više nemaju ta svojstva”. Oni su u manjoj mjeri “intelektualno uhvatljivi i upravljivi” nego njihovi predšasnici sastavljani od vijaka, matica i zupčanika.266 Svi dijelovi moţda i funkcioniraju besprijekorno, ali već malena pogreška ili previd u projektiranju sustava - neka nesavršenost koja je moţda zakopana meĎu stotinama tisuća redaka koda - svejedno moţe uzrokovati nesreću golemih razmjera. Te se opasnosti još pogoršavaju zbog nevjerojatne brzine kojom računala donose odluke i pokreću dogaĎaje. To je bilo posve vidljivo jednoga jutra 1. kolovoza 2012., tijekom jezovitih sat vremena nakon što je najveća burzovna tvrtka Wall Streeta, Knight Capital Group, pokrenula novi automatizirani program za kupnju i prodaju dionica. Program je istog trenutka preplavio trţišta vrijednosnicama neovlaštenim i nerazumnim nalozima, trgujući tako s 2,6 milijuna dolara u sekundi. U četrdeset i pet minuta, koliko je prošlo prije nego što su Knightovi matematičari i informatičari uspjeli pronaći izvor problema i ugasiti program, softver je nakupio sedam milijardi nevaţećih transakcija. Tvrtka je na kraju izgubila gotovo pola milijarde dolara, što ju je dovelo na rub stečaja. U tjedan dana konzorcij drugih tvrtki Wall Streeta otkupio je Knight kako izbjegli još jednu financijsku katastrofu. Tehnologija, naravno, napreduje i greške se ispravljaju. Nepogrešivost je, meĎutim, još uvijek ideal koji se ne moţe dostići. Čak i kad bi se mogao projektirati i izgraditi savršen automatizirani sustav, on bi i dalje djelovao u nesavršenom svijetu. Autonomni auti ne voze utopijskim ulicama. Roboti svoj zanat ne obavljaju u rajskim tvornicama. Guske se jate. Munje sijevaju. Uvjerenje, da moţemo stvoriti posve samodostatan i posve pouzdan automatizirani sustav i sama je manifestacija automatizacijske pristranosti. To je uvjerenje naţalost često ne samo meĎu zagovornicima tehnologije nego i meĎu inţenjerima i programerima - dakle upravo onima

koji takve sustave projektiraju. U svom je klasičnom članku uz 1983. objavljenom u časopisu Automatica Lisanne Bainbridge, inţenjerska psihologinja s londonskog University Collegea, opisala zbrku koja leţi u srcu računalne automatizacije. Projektanti često pretpostavljaju da su ljudska bića “nepouzdana i nedjelotvorna” - pa za njih nastoje predvidjeti najmanju moguću ulogu u rukovanju sustavom. Ljudi tako završavaju kao puki promatrači, pasivni gledaoci u ekran.267 U tom su poslu ljudi, a poznati smo po tome da nam misli rado lutaju, baš osobito loši. Istraţivanja pozornosti, koja seţu sve do proučavanja britanskih radarskih operatera koji su motrili na njemačke podmornice u Drugom svjetskom ratu, pokazuju da čak ni veoma motivirani ljudi ne mogu zadrţati paţnju na prikazu statičnih informacija dulje od oko pola sata.268 Postane im dosadno; sanjare; koncentracija im opada. “To znači”, kako piše Bainbridge, “da je ljudski nemoguće izvoditi trivijalnu funkciju promatranja tragajući za malo vjerojatnim nepravilnostima”.269 A budući da vještine čovjeku “oslabljuju kad se ne koriste”, dodaje ona, čak će se i iskusan operater kad-tad početi ponašati slično “onom neiskusnom” ako mu je glavni posao promatranje a ne djelovanje. Kako mu instinkti i refleksi sve više otupljuju od neupotrebe, bit će mu sve teţe uočavati i dijagnosticirati probleme, a reakcije će mu biti spore i promišljene umjesto da budu brze i automatske. U kombinaciji s gubitkom situacijske svjesnosti, takvo slabljenje umijeća povećava vjerojatnost da kad nešto poĎe po zlu, a to se kad-tad dogodi, operater reagira nevješto. A kad se to dogodi, projektanti sustava će još više smanjiti ulogu operatera koji će u budućnosti onda još vjerojatnije zabrljati. Pretpostavka da će ljudsko biće biti najslabija karika u sustava postaje samoispunjavajuća.

Prvo tehnologija Ergonomija, znanosti i umjetnost ugaĎanja alata i radnih mjesta u skladu s ljudima koji se njima koriste, seţe još do antičke Grčke. Hipokrat, u tekstu “O temama povezanim s kirurgijom”, daje podrobne upute o tome kako operacijske sobe trebaju biti osvijetljene i namještene, kako redati kirurške instrumente i njima rukovati, pa čak i kako se kirurg treba odijevati. Način izrade mnogih starogrčkih alata svjedoči o izvanrednoj paţnji koja se poklanjala obliku, teţini i balansiranju u ruci, što sve utječe na produktivnost, izdrţljivost i zdravlje radnika. U starim civilizacijama Azije takoĎer vidimo znakove da su se radni instrumenti briţljivo smišljali s obzirom na fizičku i psihološku dobrobit radnika.270

No, tek se s Drugim svjetskim ratom ergonomija počela javljati kao formalna disciplina, zajedno sa svojom teorijskom roĎakinjom kibernetikom. Tisućama je neiskusnih vojnika i drugih unovačenih graĎana trebalo povjeriti komplicirana i opasna oruţja i strojeve, a vremena za obuku nije bilo mnogo. Više se nisu mogle tolerirati nezgrapne izvedbe i zbunjujuće komande. Zahvaljujući čudesno darovitim misliocima poput Norberta Wienera te psihologa zračnih snaga SAD-a Paula Fittsa i Alphonsea Chapanisa, vojni i industrijski planeri počeli su prihvaćati činjenicu da su za uspješan rad kompleksnog tehnološkog sustava jednako vaţna ljudska bića kao i mehaničke komponente i elektronički regulatori sustava. Ne moţete optimizirati stroj i onda tjerati ljude da mu se prilagoĎavaju na rigidan tejloristički način; morate projektirati stroj tako da odgovara računalu. U prvo vrijeme nadahnuti ratnim zbivanjima a potom ţeljom da se računala inkorporiraju u trgovinu, vladavinu i znanost, velika je i motivirana skupina psihologa, fiziologa, neurobiologa, inţenjera, sociologa i projektanata počela posvećivati svoja raznorodna znanja izučavanju interakcija ljudi i strojeva. U ţarištu paţnje bili su im, doduše, bojno polje i tvornica, ali teţnje su im bile duboko humanističke: sjediniti ljude i tehnologiju u stanovitoj produktivnoj, robusnoj i sigurnoj simbiozi, harmoničnom partnerstvu čovjeka i stroja, koje bi dalo ono najbolje od jednog i drugog. Ako je naše doba doba kompleksnih sustava, onda su ergonomi naši metafizičari. Ili bi barem trebali biti. Otkrića i uvidi s područja ergonomije - ili inţenjerstva ljudskog faktora - i prečesto se zanemaruju ili podcjenjuju. Brigu za učinak računala i drugih strojeva na ljudsko tijelo i um redovito zasjenjuje ţelja za postizanjem maksimalne djelotvornosti, brzine i preciznosti - ili jednostavno što veće moguće dobiti. Programere o ergonomiji uče malo ili nimalo, i oni uglavnom nisu upoznati s relevantnim istraţivanjima na tom polju. Nije od pomoći ni to što inţenjeri i informatičari, strogo usmjereni na matematiku i logiku, osjećaju spontanu antipatiju prema manje egzaktnim interesima svojih kolega ergonoma. Nekoliko godina prije smrti 2006., pionir ergonomije David Meister prisjećajući se svoje karijere napisao je da su on i njegovi kolege “uvijek radili protiv struje, pa im je svaki uspjeh pao gotovo kao iznenaĎenje”. Tok tehničkog napretka, zaključio je sjetno, “vezan je za motiv stjecanja dobiti; tu se čovjek stoga slabo cijeni”.271 Nije uvijek bilo tako. Ljudi su o tehničkom napretku prvi put počeli

razmišljati kao o povijesnoj silnici u drugoj polovini osamnaestog stoljeća, kad su se znanstvena otkrića prosvjetiteljstva počela prevoditi u praktična postrojenja industrijske revolucije. Bilo je to i vrijeme političkih previranja, i ne slučajno. Demokratske, humanističke ideje prosvjetiteljstva kulminirale su revolucijama u Americi i Francuskoj, i ti su ideali prodrli i u gledište društva na znanost i tehnologiju. Tehnički se napredak cijenilo meĎu intelektualcima, makar ne uvijek i meĎu političarima - kao sredstvo za političku reformu. Definicija napretka bila je društvena, i u njemu tehnologija ima vaţnu ali ne i glavnu ulogu. Mislioci prosvjetiteljstva kakvi su bili Voltaire, Joseph Priestley i Thomas Jefferson, “u novim su znanostima i tehnologijama vidjeli ne cilj po sebi, nego sredstva za provedbu opće preobrazbe društva”, kako piše povjesničar kulture Leo Marx. No, to je reformističko gledište sredinom devetnaestog stoljeća, bar u Sjedinjenim Drţavama, zasjenio nov i znatno drukčiji pojam napretka u kojemu sama tehnologija vodi glavnu riječ. “S daljnjim napredovanjem industrijskog kapitalizma”, piše Marx, “Amerikanci su sve gorljivije slavili nadolazak znanosti i tehnologije, ali su tu zamisao počeli odjeljivati od društvenog i političkog osloboĎenja”. Namjesto toga, prihvatili su “danas uobičajen stav da su tehničke inovacije koje se temelje na znanosti same po sebi dovoljna i pouzdana osnova napretka”272 Nova tehnologija, nekoć cijenjena kao sredstvo u sluţbi nekog većeg dobra, počela se oboţavati kao dobro po sebi. Utoliko ne iznenaĎuje što su danas mogućnosti računala, kako piše Bainbridge, počele odreĎivati podjelu rada u kompleksnim automatiziranim sustavima. Ako ţelite povećati produktivnost, smanjiti troškove rada, izbjeći ljudske pogreške - dakle, ako ţelite slijediti put napretka - trebate samo prepustiti softveru da nadzire što više aktivnosti, a kako mogućnosti softvera napreduju sve ćete mu više širiti nadleţnosti. Što više tehnologije, to bolje. Operaterima od krvi i mesa preostaje odgovornost samo za one poslove koje projektanti ne uspiju automatizirati, primjerice motrenje za slučaj nepredviĎenih pojava, ili kao pričuvu u slučaju pada sustava. Ljude se sve više, i sve dalje, izbacuje iz - kako kaţu inţenjeri - procesa, ciklusa postupaka, povratnih veza i odluka, koji upravljaju operativnim aspektima sustava. Taj uvrijeţeni pristup ergonomi nazivaju “automatizacijom koja smjera tehnologiji”. Mizantropski ciljevi njome se prikazuju kao humanistički, što odraţava umalo religijsku vjeru u tehniku, te jednako

gorljivo nepovjerenje prema ljudskim bićima. Sumoran pristup tehnofilskog sanjara - “kome još trebaju ljudi” - tako se pretvara u etiku projektiranja. Takvi strojevi i programi onda ulaze na radna mjesta i domove, i sa sobom u naš ţivot unose svoj mizantropski ideal. Kako piše Donald Norman, kognitivni znanstvenik i autor više utjecajnih knjiga o oblikovanju proizvoda, “društvo je i nehotice zapalo u pogled na ţivot koji smjera prvenstveno stroju, koji potrebe tehnike nadreĎuje potrebama čovjeka i time ljude tjera u sporednu ulogu, za koju nismo nimalo prikladni. Što je još gore, iz tog se gledišta koje smjera strojevima ljude usporeĎuje s tehnikom pa onda mi ispadamo manjkavi, nesposobni za precizne, repetitivne i egzaktne zadatke.” Iako je ono danas “proţelo društvo”, tim se gledištem iskrivljuje naš osjećaj sa same sebe. “Njime se ističu oni poslovi i aktivnosti koje mi ne bismo trebali obavljati, a zanemaruju se naše primarne značajke i vještine - djelatnosti koje strojevi izvršavaju loše ili nikako. Kad zauzmemo gledište kojemu je u središtu paţnje tehnologija, prosudbe ćemo donositi vodeći se umjetnim, mehaničkim kriterijima.273 Potpuno je logično da će oni s mehaničkim sklonostima zauzimati i mehanički pogled na svijet. Motiv koji stoji u pozadini invencije često je, kako se izrazio Norbert Wiener, “ţelja stvaraoca ureĎaja da gleda kako se kotačići okreću”.274 A jednako je logično i to da će takvi ljudi na kraju kontrolirati oblikovanje i projektiranje kompliciranih sustava i programa koji posreduju radom društva ili njime upravljaju. Oni su ti koji poznaju kod. Kako se društvo sve više kompjuterizira, tehnolog postaje nepriznati zakonodavac. Samo, definirajući ljudski faktor kao perifernu brigu, tehnolog uklanja i glavnu prepreku ispunjenju svojih ţelja; neobuzdano ostvarivanje tehničkog napretka postaje samom sebi opravdanje. ProsuĎivati tehnologiju jedino prema tehničkim kriterijima znači dati stvaraocu ureĎaja bjanko dopuštenje. Osim što se uklapa u dominantnu ideologiju napretka, pristranost prepuštanju uloge vodiča pri odlukama o automatizaciji ima i svojih praktičnih prednosti. Time se jako pojednostavljuje posao graditelja sustava. Inţenjeri i programeri moraju uzimati u obzir samo ono što umiju činiti računala i strojevi. To im dopušta da si suze perspektivu i skrešu specifikacije. Tako se više ne moraju hrvati s kompleksnosti, višeznačnosti i krhkosti ljudskog tijela i ljudske psihe. Ali koliko god bila privlačna kao projektna taktika, jednostavnost automatizacije koja smjera tehnologiji čista je fatamorgana. Zanemarivanjem ljudskog faktora ljudski se faktor ne

dokida. Ergonomi Nadine Sarter, David Woods i Charles Billings u svom su naveliko citiranom članku iz 1997. istraţili podrijetlo pristupa tehnici kao okosnici. U njemu opisuju kako je taj pristup izrastao iz “mitova, laţnih nada i promašenih namjera povezanih s modernom tehnologijom” koji se u njemu i dalje odraţavaju. Nadolazak računala, prvo kao analognog stroja a potom i u svojoj poznatoj digitalnoj formi, ohrabrio je inţenjere i industrijalce na to da zauzmu idealističko gledište prema elektronički kontroliranom sustavima: da na njih počnu gledati kao na neku vrstu univerzalnog lijeka za ljudsku nedjelotvornost i pogrešivost. Sterilnost i urednost rada računala izgledala je bogomdana u usporedbi s nečistim zemaljskim ljudskim djelovanjem. “Tehnologija automatizacije”, pišu Sarter i njezini kolege, “izvorno je zamišljena s nadom povećanja preciznosti i ekonomičnosti rada, dok istodobno smanjuje opterećenje operatera i zahtjevnost obuke. Smatralo se da je moguće stvoriti autonomni sustav koji zahtijeva malo ili nimalo ljudskog angaţmana i utoliko umanjuje ili uklanja mogućnost ljudskih pogrešaka.” To je vjerovanje, i opet s besprijekornom logikom, dovelo do daljnje pretpostavke da se “automatizirani sustavi mogu projektirati bez mnogo brige za ljudski element u cjelokupnom sustavu”.275 Ţelje i vjerovanja na kojima se zasniva taj dominantni pristup projektiranju, nastavljaju autori, dokazao se kao naivan i štetan. Iako automatizirani sustavi često jesu uvećavali preciznost i ekonomičnost rada, zakazali su na drugim područjima, i donijeli su cijelu novu skupinu problema. Većina njihovih mana proistječe iz “činjenice da čak i izrazito automatizirani sustavi još uvijek zahtijevaju angaţman operatera a utoliko i komunikaciju i koordinaciju čovjeka i stroja”. No, budući da se pri projektiranju takvih sustava obraćalo nedovoljno paţnje ljudima koji njima rukuju, mogućnosti komunikacije i koordinacije su im slabašne. Kompjutoriziranim sustavima dakle nedostaje “cjelovito poznavanje” posla i “sveobuhvatan pristup vanjskom svijetu” kakav mogu ponuditi jedino ljudi. “Automatizirani sustavi ne znaju kada početi komunicirati s čovjekom o njegovim aktivnostima i namjerama, ni kada od čovjeka zatraţiti dodatne informacije. Oni neće uvijek dati adekvatne povratne informacije čovjeku, a on pak tako uspijeva pratiti stanje i ponašanje automatike, i shvatiti da postoji potreba za intervencijom kako bi se izbjegli nepoţeljni postupci automatike” Mnogi problemi koji opsjedaju automatizirane sustave potječu od “neuspjeha u projektiranju interakcije

čovjeka i stroja koja bi dosezala najosnovnije kompetencije interakcije čovjeka i čovjeka”.276 Te probleme samo pogoršavaju inţenjeri i programeri kada rad svojih tvorevina skrivaju od operatera i pretvaraju svaki sustav u zatvorenu crnu kutiju. Normalna ljudska bića, kako glasi ta neizrečena pretpostavka, nisu dovoljno bistra ni dovoljno kvalificirana da shvate sve finese nekog programa ili robota. Ako im previše pričate o algoritmima ili procedurama koje upravljaju njihovim radom i odlukama, samo ćete ih zbuniti, ili još gore, ohrabriti da prčkaju po sustavu. Sigurnije je drţati ljude u neznanju. Ali pokušaj da se ljudske pogreške izbjegnu uklanjanjem ljudske odgovornosti i tu na kraju učini greške vjerojatnijima. Operater neznalica opasan je operater. Kako objašnjava John Lee, profesor ergonomije sa Sveučilišta Iowa, kod automatskih je sustava često slučaj da se koriste “kontrolnim strategijama i mentalnim modelima osobe [koja njima upravlja]”. Ako ta osoba ne razumije te algoritme, nema načina da “anticipira postupke i ograničenja automatike”. Čovjek i stroj, kad djeluju pod kontradiktornim pretpostavkama, na kraju počnu raditi sa suprotnim ciljevima. Nemogućnost ljudi da razumiju strojeve kojima se sluţe usto im i narušava samopouzdanje, kako izvještava Lee, pa “bivaju manje skloni intervenirati” kad nešto poĎe po zlu.277

Prostor za ljude Stručnjaci za ergonomiju i ljudski faktor već dugo apeliraju na projektante da odustanu od pristupa kojim se smjera tehnici i prihvate automatizaciju koja smjera čovjeku. Projektiranje koje smjera čovjeku ne započinje ocjenom sposobnosti stroja, nego paţljivom procjenom vrlina i mana ljudi koji će rukovati strojem ili će na neki drugi način s njim biti u doticaju. Tehnološki razvoj time se vraća humanističkim načelima koja su nadahnjivala prve ergonome. Cilj je razdijeliti uloge i odgovornosti tako da se ne kapitalizira samo na brzini i preciznosti stroja, nego tako da i radnici ostaju angaţirani, aktivni i pozorni - uključeni a ne isključeni.278 Pogoditi tu ravnoteţu nije teško. Desetljeća ergonomskih istraţivanja pokazuju da se ona moţe postići na više jednostavnih načina. Sustav se moţe programirati tako da se kontrola nad kritičnim funkcijama vrati operateru, i to u intervalima koji su kratki ali nisu pravilni. Ako znaju da će u bilo kojem trenutku moţda morati preuzeti kormilo, ljudi ostaju pozorni i angaţirani, i to ih potiče na situacijsku svjesnost i učenje. Projektant moţe odrediti granice dosega automatizacije tako da se pobrine za to da ljudi koji

rade s računalom obavljaju izazovne poslove - umjesto da im se prepuštaju pasivne, promatračke uloge. Ako čovjek ima posla, lakše se odrţava učinak generiranja. Projektant operateru k tome moţe ponuditi izravnu osjetilnu povratnu informaciju o radu sustava, vizualnim ali i zvučnim i taktilnim upozorenjima, čak i kad je riječ o postupcima koje odraĎuje računalo. Redovito izvještavanje povećava angaţman i pomaţe operateru da ostane pozoran. Jedna od najintrigantnijih primjena pristupa koji u središte stavlja čovjeka je adaptivna automatizacija. U adaptivnim sustavima računalo se programira tako da detaljno prati što radi osoba koja ga koristi. Podjela rada izmeĎu softvera i ljudskog operatera kontinuirano se baţdari u skladu s time što se dogaĎa u svakom trenutku.279 Kad računalo registrira da operater, primjerice, treba izvesti kakav zakučast manevar, moţe preuzeti sve ostale poslove. OsloboĎen moguće dekoncentracije, operater se tako moţe potpuno posvetiti onom što je vaţno i zahtjevno. U rutinskim okolnostima računalo će prebaciti više poslova na operatera, što će mu povećati opterećenje kako bi zadrţao situacijsku svjesnost i dobio priliku za uvjeţbavanje. Koristeći se analitičkim sposobnostima računala s humanističkim ciljevima, adaptivnom se automatizacijom nastoji operatera odrţavati na vrhuncu Yerkes-Dodsonove krivulje produktivnosti i prevenirati kognitivno preopterećenje jednako kao i kognitivno podopterećenje. DARPA, laboratorij Ministarstva obrane SAD-a koji je predvodio stvaranje Interneta, čak radi na uvoĎenju “neuroergonomskih” sustava koji pomoću raznih moţdanih i tjelesnih senzora “detektiraju kognitivno stanje osobe i zatim manipuliraju parametrima zadatka kako bi se izbjegla uska grla u percepciji, paţnji te radnom pamćenju”.280 Adaptivna automatizacija, nadalje, obećava da će unijeti dozu humanosti u radne odnose izmeĎu ljudi i računala. Pojedini rani korisnici takvih sustava izvještavaju da se osjećaju kao da suraĎuju s kolegom a ne da rade sa strojem. Studije o automatizaciji obično se prvenstveno bave velikim, kompleksnim i riskantnim sustavima, kakvi se, primjerice, koriste u kokpitima zrakoplova, u kontrolnim prostorijama ili na bojnom polju. Kad takvi sustavi zataje, to moţe koštati mnogo ţivota i mnogo novca. No, ta su istraţivanja relevantna i za projektiranje aplikacija za potporu u odlučivanju kakvima se koriste liječnici, pravnici, menadţeri i osobe u drugim analitičkim djelatnostima. Takvi programi prolaze opseţna testiranja kako bi bili laki za učenje i upotrebu, ali čim im zavirite ispod

toboţe prijateljskog sučelja, vidjet ćete da je etika kojoj je u središtu tehnologija i dalje na tronu. “Tipično je”, piše John Lee, “za ekspertne sustave da djeluju kao proteza, kojom bi se navodno manjkavo i nedosljedno ljudsko razmišljanje trebalo zamijeniti preciznijim računalnim algoritmima”.281 Njihova je namjena da nadomjeste ljudsko prosuĎivanje, umjesto da ga nadopunjavaju. Sa svakim poboljšanjem brzine obrade podataka i prediktivne moći takve aplikacije, njezin programer prebacuje sve više i više odgovornosti za donošenje odluka sa stručnjaka na softver. Raja Parasuraman, koji je moţda najdublje proučavao posljedice automatizacije na ljude, vjeruje da je taj pristup pogrešan. On tvrdi da programi za potporu odlučivanju rade najbolje onda kad stručnjaku nude vaţne informacije u onom trenutku kad su mu potrebne, i pritom ne preporučuju nikakve konkretne postupke.282 Najpametnije, najkreativnije zamisli dolaze onda kad ljudi imaju prostora za vlastite misli. Lee se s time slaţe: “Manje automatiziran pristup, koji automatizaciju postavlja u ulogu kritičara svog operatera, imao je puno više uspjeha”. Najbolji ekspertni sustavi ljudima prezentiraju “alternativna tumačenja, hipoteze, ili moguće putove”. Te dodatne i često neočekivane informacije pomaţu da se neutraliziraju prirodne spoznajne pristranosti koje ljudima znaju iskriviti prosudbe. Analitičare i donosioce odluka tako se potiče da problem razmotre iz drugih kutova, odnosno da imaju u vidu širi skup mogućnosti. Lee meĎutim ističe da sustav treba ostaviti posljednju riječ čovjeku. Budući da savršene automatike nema, savjetuje on, dokazi upućuju na to da će “manje intenzivna automatizacija, poput one koja se koristi kad se zauzme pristup kritičara, manje vjerojatno inducirati pogreške”.283 Računala jesu nenadmašna kad treba sortirati veliku količinu podataka, ali ljudski stručnjaci još uvijek su suptilniji i mudriji mislioci od svojih digitalnih partnera. Prokrčiti neki prostor za misli i prosudbe kompetentnih stručnjaka cilj je i onima koji tragaju za nekim u većoj mjeri humanističkim pristupom automatizaciji kreativnih zanimanja. Mnogi projektanti i dizajneri kritiziraju popularne CAD programe kao prenametljive. Ben Tranel, arhitekt u tvrtci Gensler iz San Francisca, hvali računala zbog toga što šire mogućnosti projektiranja. Kao primjer zgrade koja “nije mogla biti sagraĎena” bez kompjutera navodi Šangajski toranj u Kini, spiralni, energetski efikasan neboder koji je projektirao Gensler. No, zabrinut je zbog doslovnosti projektantskog softvera - koji arhitekta prisiljava da definira značenje i upotrebu svakog geometrijskog elementa koji unose -

jer se time zatvaraju inače otvorena, nestrukturirana istraţivanja koja potiče ručno skiciranje. “Nacrtana linija moţe biti puno toga”, kaţe Tranel, dok digitalizirana mora biti samo jedno.284 Profesori matematike Mark Gross i Ellen Yi-Luen Do još su 1996. godine iznijeli alternativni prijedlog doslovnom CAD-softveru. Izradili su konceptualni nacrt aplikacije sa sučeljem koje “nalikuje na papir” koje bi moglo “zahvatiti namjeravane višeznačnosti, nedorečenosti i nepreciznosti, i vizualno podrţati i prenijeti te kvalitete”. Time bi projektantski softver dobio sugestivnu moć crtaćeg bloka.285 Od tada do danas još su mnogi znanstvenici predlagali nešto slično. Nedavno je tim predvoĎen znanstvenicima Julie Dorsey s Yalea izradio prototip projektantskog programa koji nudi svojevrsno “mentalno platno”. Umjesto da računalo automatski prevodi dvodimenzionalne crteţe u trodimenzionalne mentalne modele, sustav, koji za unos koristi tablet s ekranom osjetljivim na dodir, arhitektu omogućuje grubo skiciranje u tri dimenzije. “Projektant tako moţe ucrtavati i precrtavati linije a da ga pritom ne sputavaju ograničenja naguţvanih poligona ni nefleksibilnost parametarskog procesa”, objašnjavaju oni. “Naš sustav omogućava postupno doraĎivanje u cijelom procesu razvoja ideje, bez nametanja geometrijske preciznosti prije dovršetka gotove ideje.”286 Uz manje nametljiv softver mašta će projektanta lakše bujati.

Protiv struje Napetost izmeĎu automatizacije koja smjera tehnologiji i one koja smjera čovjeku nije samo akademski problem. Ona utječe na odluke koje svakodnevno donose poslovni ljudi, inţenjeri i programeri, kao i regulatori u vlasti. U avijacijskoj djelatnosti dva su dominantna proizvoĎača na suprotnim stranama te rasprave još od uvoĎenja sustava za navoĎeno pilotiranje prije trideset godina. Airbus smjera tehnologiji. Cilj mu je da avioni postanu u osnovi “otporni na pilote”.287 Odluka tvrtke da glomazne police smještene sučelice pilotu, kakvima se tradicionalno upravlja avionom, zamijeni malenim, postranično smještenim upravljačkim palicama, jedan je od izraza toga cilja. Takve palice - nalik onima za računalne igre - vrlo djelotvorno šalju instrukcije letnim računalima, s minimalnim manualnim naporom, ali pilotu ne daju taktilnu povratnu informaciju. U skladu s idealom staklenog kokpita, one naglašavaju ulogu pilota kao operatera a ne kao avijatičara. Airbus je letna računala nadalje programirao tako da u pojedinim situacijama nadglasavaju instrukcije

pilota kako bi se avion odrţao unutar specifikacija i parametara stabilnosti zrakoplova. Krajnji nadzor pada na računalo, a ne na pilota. Boeingov pristup projektiranju navoĎenog letenja u većoj mjeri smjera čovjeku. Potezom koji bi uveselio braću Wright, tvrtka je odlučila da ne dopusti letnom softveru da nadglasa pilota. Krajnji nadzor nad manevrima zadrţava avijatičar, čak i u ekstremnim situacijama. U Boeingu ne samo da su zadrţali starinsku pilotsku palicu nalik volanu, nego su je projektirali tako da pruţa umjetne povratne informacije koje oponašaju ono što je pilot osjećao dok je još imao izravan nadzor nad upravljačkim mehanizmima. Iako takve pilotske palice samo šalju elektroničke signale računalu, programirane su tako da pruţaju otpor i daju druge taktilne podraţaje koji simuliraju osjećaj gibanja vodoravnoj i okomitog kormila te drugih kontrolnih površina. Istraţivanja pokazuju da taktilna, ili haptička, povratna sprega značajno djelotvornije upozorava pilote na vaţne promjene u orijentaciji aviona nego što su to sami vizualni znakovi, kaţe John Lee. A budući da mozak opipne podraţaje obraĎuje drugačije nego vidne, “haptička upozorenja” obično ne “ometaju istodobno izvoĎenje vizualnih zadaća”.288 U stanovitom smislu, taj sintetički taktilni osjet Boeingovog upravljača pilota izvlači iz staklenog kokpita. Oni moţda ne pilotiraju Jumbo Jet onako kako je to činio Wiley Post sa svojim malim Lockheed Vegom, ali su tjelesnim doţivljajem angaţiraniji pri letu od svojih kolega u pilotskim kabinama Airbusa. Airbus proizvodi veličanstvene avione. Nekim komercijalnim pilotima su draţi od Boeingovih, a sigurnosna prošlost oba proizvoĎača je manje-više ista. No, nedavni incidenti otkrivaju nedostatke Airbusova smjeranja tehnologiji. Pojedini stručnjaci za avijaciju vjeruju da je u nesreći Air Francea svoju ulogu imalo i to kako Airbus projektira kokpit. Transkript zvučnog zapisa otkrio je da kopilot David Robert sve vrijeme nije bio svjestan da Pierre-Cedric Bonin, pilot koji je upravljao avionom, kobno griješi povlačeći upravljačku palicu prema sebi. U Boeingovu kokpitu svakom je pilotu upravljački volan drugog pilota na vidjelu, i primijetit će što ovaj radi s njim. A ako to nije dosta, oba volana rade kao jedinstven ureĎaj. Ako jedan pilot povuče volan prema sebi, jednako se pomiče i volan drugog pilota. I vizualno i haptički, piloti ostaju sinkronizirani. Airbusove postranične palice, naprotiv, nisu vidljive drugom pilotu, rade na puno blaţe poteze, i funkcioniraju svaka za sebe. Pilot lako previdi što mu radi kolega, pogotovo u izvanrednim situacijama kad stres naraste a ţarište paţnje se suzi.

Da je Robert na vrijeme vidio i ispravio Boninovu pogrešku, lako je moguće da bi piloti uspjeli povrati nadzor nad zrakoplovom. Do nesreće Air Francea, rekao je Chesley Sullenberger, “puno bi manje vjerojatno došlo” da su piloti letjeli u Boeingovom kokpitu čiji upravljački sustav smjera čovjeku.289 Čak i Bernard Zieger, briljantan i ponosit francuski inţenjer koji je do umirovljenja 1997. radio kao Airbusov glavni projektant, nedavno je pokazao koliko je zdvojan oko projektantske doktrine svoje tvrtke. “Katkad se pitam jesmo li moţda napravili avion kojim je prelako pilotirati”, rekao je piscu Williamu Langewiescheu, kojemu je dao intervju u sjedištu Airbusa u Toulouseu. “U nekom za letenje teţem avionu posada bi moţda bila pozornija.” Airbus je, nastavlja, “u pilotska sjedala moţda trebao ugraditi nešto što bi ih ritnulo”. 290 Moţda se šalio, ali njegov komentar rezonira s onim što su ergonomi spoznali o odrţavanju pozornosti i drugih ljudskih vještina. Ponekad bi automatizirani sustav svoje operatere baš trebao opaliti po straţnjici. Kad je američka Savezna uprava za zračni promet u svom sigurnosnom upozorenju avioprijevoznicima 2013. predloţila da piloti tijekom leta češće preuzimaju manualni nadzor nad avionom, ona se, makar samo načelno, priklonila automatizaciji koja smjera čovjeku. U Upravi su zaključili da bi se time što pilot ostaje u središtu zbivanja mogla smanjiti vjerodostojnost ljudske pogreške, ublaţiti posljedice kvarova automobila, a zračna putovanja učiniti još sigurnijima. Više automatizacije nije uvijek najmudriji izbor. Savezna uprava za zrakoplovstvo pri planiranju ambicioznog novog sustava kontrole leta u SAD-u zvanog “NextGen” upošljava veliku i uglednu skupinu stručnjaka za ljudski faktor, i itekako obraća paţnju na ergonomiju. Jedan od općih ciljeva projekta je i “stvaranje zrakoplovnih sustava koji se adaptiraju na postupke ljudi, korigiraju ih i poboljšavaju”.291 Kanadska kraljevska banka RBC, u financijskoj djelatnosti, takoĎer ide protiv struje automatizacije koja smjera tehnologiji. U svojem je uredu na Wall Streetu uvela vlastiti softver zvan THOR, koji čak usporava prijenos kupoprodajnih naloga, čime se štite od algoritamskih manipulacija brzinskih trgovaca na burzi. S usporenim izvršavanjem naloga, pokazalo se u RBC-u, transakcije često na kraju ispadnu povoljnije za klijenta. U banci priznaju da odupiranje aktualnom tehnološkom imperativu brzih tokova podataka ima svoju cijenu: na svakoj se transakciji ovako zaradi manje. Uvjereni su, meĎutim, da će jačanje lojalnosti klijenata i smanjenje rizika

dovesti do veće ukupne dobiti.292 Brad Katsuyama, bivši direktor u RBC-u, ide i korak dalje: vidjevši kako trţišta vrijednosnicama naginju koristi brzinskih mešetara, pokrenuo je stvaranje nove, pravednije burze zvane IEX. IEX je otvoren 2013. i nalaţe nadzor nad automatiziranim sustavima. Njegov softver upravlja protokom podataka tako da svi članovi burze istodobno primaju informacije o cijenama, čime se neutraliziraju prednosti koje uţivaju predatorske burzovne tvrtke koje svoja računala fizički smještaju neposredno pokraj trţišta vrijednosnicama. IEX zabranjuje pojedine vrste transakcija i sustava naknada koje dovode u prednost brze algoritme. Katsuyama i njegovi kolege se koriste sofisticiranom tehnologijom za to da izjednače šanse ljudi i računala. Pojedini nacionalni regulatori takoĎer pokušavaju zauzdati automatizirano trgovanje na burzama uz pomoć zakona i propisa. Francuska je 2012. odredila mali namet na burzovne transakcije, a godinu dana poslije slijedila ju je i Italija. Budući da su algoritmi za brzinsko trgovanje obično sačinjeni tako da provode strategije koje se temelje na golemom broju transakcija - od kojih svaka daje sasvim malu dobit, ali u trenutak-dva se obave milijuni takvih transakcija - čak i vrlo mali namet takve programe moţe učiniti znatno manje privlačnima.

Tehnika preuzima upravljač Takvi pokušaji obuzdavanja automatike ohrabruju. Oni pokazuju da su bar neke tvrtke i drţavne sluţbe voljne dovesti u pitanje prevladavajući stav prema kojemu na prvom mjestu treba biti tehnologija. No, ti napori ostaju iznimke a ne postaju pravilo, i njihov je trajniji uspjeh daleko od sigurnog. Čim se u nekom području primi automatizacija koja smjera tehnologiji, postaje vrlo teško izmijeniti tok napretka. Softver počinje utjecati na način obavljanja posla, organizaciju rada, na očekivanja potrošača, na način stjecanja dobiti. Softver postaje dijelom ekonomskog i društvenog inventara. Taj je proces primjer onoga što povjesničar Thomas Hughes formulira kao “tehnologija dobiva zamah”.293 U početku svoga razvoja nova je tehnologija bila podatna promjenama; na njezinu se formu i način upotrebe moţe utjecati u skladu sa ţeljama projektanata, ali i zahtjevima onih koji se njome koriste, te interesima društva u cjelini. Ali, jednom kad se neka tehnologija ugradi u fizičku infrastrukturu, trgovačke i ekonomske odnose, osobne i političke norme i očekivanja, postaje je veoma teško mijenjati. Tehnologija je tada već sastavni dio društvenog statusa quo. Nakupivši golemu inercijsku silu ona nastavlja slijediti stazu na kojoj se

našla. Pojedine će sastavnice tehnologije, naravno, svejedno zastarijevati, ali na njihovo će mjesto obično dolaziti one koje profinjuju i perpetuiraju postojeće načine rada i s njima povezana mjerila uspješnosti. Avijacijski sustavi u komercijalnim letovima, primjerice, sada ovise o preciznosti računalne kontrole. Računala bolje od pilota proračunavaju ekonomičnost rute, a računalno navoĎeni avioni mogu letjeti na manjem meĎusobnom razmaku nego oni kojima pilotiraju ljudi. Postoji fundamentalna napetost izmeĎu ţelje da se poboljša letačka vještina pilota i postizanje sve viših stupnjeva automatizacije na nebu. Malo je vjerojatno da će zračni prijevoznici ţrtvovati dobit, i malo je vjerojatno da će regulator sputavati razvoj avijacijskih sustava kako bi piloti dobili značajno više vremena za uvjeţbavanje manualnog letenja. Rijetka se nesreća povezana s automatikom, ma kako grozna bila, moţe prihvatiti kao cijena djelotvornog i profitabilnog transparentnog sustava. U zdravstvenoj skrbi, osiguravatelji i bolničke tvrtke, političare da i ne spominjem, na automatizaciju gledaju kao na zakrpu kojom se smanjuju troškovi i povećava produktivnost. Gotovo je sigurno da će oni i dalje povećavati pritisak na dobavljače da automatiziraju postupke u medicini radi ušteda, koliko god se liječnici brinuli zbog dugoročnog slabljenja svojih najfinijih i najvrednijih umijeća. Na financijskim trţištima računala mogu izvršiti transakciju u deset mikrosekundi - to je desetmilijunti dio sekunde - dok ljudskom mozgu za reakciju na neki dogaĎaj ili podraţaj treba gotovo četvrtina sekunde. Računalo obradi na desetke tisuća transakcija dok burzovni trgovac trepne okom.294 Brzina računala izbacila je čovjeka iz igre. Obično se pretpostavlja da bilo koja tehnologija koja moţe dostići visoku razinu prihvaćenosti, pa time i zamah, time mora biti i najbolja. Iz tog je motrišta napredak kvazidarvinistički proces. Izume se mnoge tehnologije, koje se natječu da osvoje korisnike i kupce, i nakon nekog razdoblja rigoroznog ispitivanja i usporeĎivanja trţišta izabire najboljeg ponuĎača. Samo najsposobniji alati preţivljavaju. Društvo stoga moţe biti mirno: tehnologije koje usvaja upravo su one optimalne, a alternativne, koje su putem otpale imale su neke kobne nedostatke. Taj se umirujući pogled na napredak, riječima pokojnog povjesničara Davida Noblea, temelji na “jednostavnoj vjeri u objektivnu znanost, ekonomsku racionalnost i trţište”. Ali, kako u svojoj knjizi Proizvodne snage Noble dalje objašnjava, takvo je gledište iskrivljeno: “Tehnološki napredak njime se prikazuje kao s jedne strane autonoman i

neutralan, a s druge strane kao hladno racionalan tehnički proces - a ništa od svega toga toboţe se nimalo ne dotiče ni ljudi ni moći ni institucija ni suprotstavljenih vrijednosti ni različitosti snova.”295 Na mjesto kompleksnosti, višeznačnosti i povijesnih intriga, prevladavajuće motrište prema tehnološkom napretku nudi nam pojednostavljenu, retrospektivnu fantaziju. Taj zapetljan način na koji tehnologije zapravo bivaju prihvaćene i stječu zamah Noble ilustrira pričom o automatizaciji proizvodnje alatnih strojeva nakon Drugog svjetskog rata. Izumitelji i inţenjeri su razvili nekoliko različitih tehnika za programiranje automatskih tokarilica, bušilica i drugih tvorničkih postrojenja, i svaka je od tih metoda upravljanja imala svoje prednosti i mane. Jedan od najjednostavnijih i najdomišljatijih takvih strojeva bio je Specialmatic; izumio ga je inţenjer s Princetona Felix P. Caruthers a na trţište plasirala mala njujorška tvrtka Automation Specialties. Programator mu se sastojao od niza prekidača i brojčanika i bio je pod potpunom kontrolom za to obučenog tvorničkog strojara. Operater stroja, objašnjava Noble, “namještao je i ugaĎao tok i brzinu rada oslanjajući se pritom na vlastito akumulirano iskustvo izgleda, zvuka i mirisa rezanja metala”.296 Osim što je u rad automatiziranog sustava uveo prešutna znanja iskusnog obrtnika, Specialmatic je imao i jednu ekonomsku prednost: tvorničar nije morao plaćati cijelu četu inţenjera i konzultanata da mu programiraju postrojenja. Caruthersova je tehnologija u časopisu American Machinist obasuta lovorikama: u njemu se biljeţi kako je Specialmatic “projektiran tako da se čitav posao oko napučivanja i programiranja obavlja za samim strojem”. Strojaru on omogućuje da postigne povećanu produktivnost automatike a pritom zadrţi “potpuni nadzor nad strojem u cijelom proizvodnom ciklusu”.297 Trţište, meĎutim, nije prihvatilo Specialmatic. Dok je Caruthers radio na svom izumu, Ratno zrakoplovstvo SAD-a slijevalo je novac u istraţivački program - vodio ga je tim znanstvenika sa Sveučilišta MIT, tradicionalno vezanog za vojsku - razvoja “numeričke kontrole”, tehnike digitalnog kodiranja prethodnice suvremenog softvera. Numerička kontrola je uţivala pogodnosti izdašne drţavne potpore te prestiţnog pedigrea, ali ne samo to: ona se obraćala vlasnicima i upraviteljima tvrtki koje su, suočene s ustrajnim napetostima s radnicima traţile način da steknu veću kontrolu nad radom strojeva kako bi time umanjili moć radnika i sindikata. Numerička kontrola uz to ima i stanovito ozračje najnovije tehnologije poslijeratno uzbuĎenje oko digitalnih računala samo joj je dalo krila. Kako

će kasnije pisati autor članka u listu Udruţenja proizvodnih inţenjera, MIT-ov sustav moţda jest bio “komplicirano, skupo čudovište”,298 ali industrijski divovi poput General Electrica i Westinghousea po hitnom su ga postupku prihvatili a da alternativama poput Specialmatica nisu ni dali priliku. Numerička kontrola nije bila nikakav pobjednik evolucijske borbe za opstanak, nego je proglašena pobjednicom prije nego je natjecanje i otpočelo. Programi su dobili primat nad ljudima, a projektiranje koje smjera tehnici počelo je hvatati zamah. A javnost? Javnost nije ni znala da se tu o nečemu i odlučivalo. Inţenjeri i programeri ipak ne snose svu krivicu za štetne učinke automatizacije koja smjera tehnici. Oni katkad jesu slijedili svoje mehanističke ţelje i snove, i jesu bili podloţni “tehničkoj aroganciji” koja “ljudima daje privid moći koja se ne da ograničiti”, kako kaţe fizičar Freeman Dyson.299 No, oni i prate zahtjeve poslodavaca i klijenata. Programeri se u pisanju programa koji automatiziraju rad uvijek suočavaju s kompromisima. Koraci koji su nuţni za razvoj stručnosti - ograničavanje dosega automatizacije, davanje veće i aktivnije uloge ljudima, poticanje razvoja automatičnosti vjeţbom i ponavljanjem - sve to podrazumijeva ţrtvovanje brzine i efikasnosti. Učenje upravo zahtijeva neefikasnost. Tvrtke, kojima je cilj maksimalno uvećati produktivnost i dobit rijetko će ili nikada prihvaćati takve kompromise. Glavni razlozi zbog kojih uopće ulaţu u automatizaciju i jesu smanjivanje troškova rada i postizanje većeg radnog učinka. I kao pojedinci, kad odlučujemo koji ćemo program ili ureĎaj koristiti, mi gotovo uvijek traţimo ono što nam je najpogodnije i najefikasnije. Izabrat ćemo onu aplikaciju ili napravu koja nam smanjuje naprezanje i oslobaĎa vrijeme, a ne onu s kojom ćemo morati raditi dulje i teţe. Za tvrtke koje se bave tehnologijom prirodno je udovoljavati takvim ţeljama pri projektiranju proizvoda. One se meĎusobno ţestoko nadmeću da ponude upravo ono što će koristiti s najmanje truda i razmišljanja. U Googleu i svim sličnim firmama”, kaţe Alan Eagle, direktor u Googleu, objašnjavajući misao vodilju mnogih softverskih i internetskih tvrtki, “radimo na tome da tehnologija koju stvaramo u što većoj mjeri bude glupavo laka za upotrebu”.300 Kad je riječ o razvoju i upotrebi komercijalnog softvera, neovisno o tome pogoni li on kakvo industrijsko postrojenje ili pametni telefon, apstraktna zainteresiranost za sudbinu ljudskih talenata ne moţe se natjecati s mogućnostima uštede novaca i vremena.

Pitao sam Parasuramana misli li da će se društvo u budućnosti mudrije koristiti automatikom, odnosno hoće li postići više ravnoteţe izmeĎu računanja i prosuĎivanja, čovjeka i računala, te izmeĎu teţnje djelotvornosti i razvoja stručnosti. Zastao je na trenutak i kiselo se nasmijao: “Nisam baš spokojan po tom pitanju”.

Interludij o pljačkašu grobova Našao sam se u škripcu. Po nuţdi - ne vlastitim izborom - uortačio sam se s dementnim pljačkašem grobova imenom Seth Briars. “Ja ne jedem, ne spavam, ne perem se, i nije me briga”, obavijestio me Seth, ne bez stanovitog ponosa, nedugo nakon što smo se susreli na groblju pokraj Cootove kapelice. Znao je gdje se motaju stanovite osobe za kojima sam tragao, i za to da me do njih dovede zauzvrat je traţio da mu pomognem dovući kola puna svjeţe iskopanih leševa od Critchleyevog ranca do prašnjavog napuštenog grada Tumbleweeda. Ja sam kočijašio Sethovom zapregom dok je on iza mene pročešljavao mrtvace u potrazi za čime vrijednim. Put je bio pun nedaća. Još smo se i uspjeli provući kroz zasjedu drumskih razbojnika - s puškom sam više nego spretan - ali kad sam pokušao prijeći klimavi most pokraj grebena Gaptooth, leševi su mi se otkoturali na stranu i poremetili ravnoteţu kola pa sam izgubio nadzor nad konjima. Zaprega je skliznula niz guduru i ja sam umro u vulkanskoj erupciji krvi koja je šiknula na zaslon. Vratio sam se u ţivot nakon nekoliko sekundi čistilišta, i sve sam morao prolaziti iznova. Nakon petšest neuspjelih pokušaja, počeo sam očajavati da nikad neću uspjeti dovršiti misiju. Igrao sam pucačku igru s otvorenim svijetom Red Dead Redemption, čija se radnja odvija početkom prošlog stoljeća u zamišljenoj graničnoj pokrajini na jugozapadu SAD-a nazvanoj New Austin. Radnja je čisti Peckinpah. Igru započinjete u ulozi stoičkog bivšeg kriminalca koji je sada vlasnik ranca i zove se John Marston, a desni obraz mu je simbolično izbrazdan dvama dugim dubokim oţiljcima. Pod ucjenom saveznih agenata, Marston, kojemu su oteli ţenu i sina, prati svoje bivše partnere u zločinu. Da biste završili igru morate voditi svog revolveraša kroz različite kušnje umijeća i lukavosti, od kojih je svaka malo teţa od prethodne. Nakon još nekoliko pokušaja napokon sam sa svojim odvratnim tovarom uspio prijeći most, štoviše, nakon mnogih sati ludovanja za ekranom i Xboxom, prošao sam svih pedeset i nešto misija. Za nagradu, pruţena mi je prilika gledati kako će me - to jest, Johna Marstona izrešetati isti oni agenti koji su ga prisilili na cijeli zadatak. Usprkos odurnom završetku, iz igre sam izašao s osjećajem postignuća. Zauzdavao

sam mustange, gaĎao kojote i odirao im koţu, pljačkao vlakove, dobio pravo malo bogatstvo na pokeru, borio se rame uz rame s meksičkim revolucionarima, spašavao bludnice od pijanih neotesanaca, i u pravoj maniri Divlje horde, za Gatlingovom strojnicom poslao cijelu vojsku razbojnika u vječna lovišta. Prošao sam test, i moji su mu sredovječni refleksi bili dorasli. Pobjeda moţda nije bili veličanstvena, ali je ipak bila pobjeda. Video-igre obično preziru ljudi koji ih nikad nisu igrali. To jest razumljivo, imajući u vidu da u njima ima krvi do koljena, ali je šteta. Osim što su izvanredno domišljate a povremeno i vrlo lijepe, najbolje igre su izvrstan model za projektiranje softvera općenito. Na njima se vidi kako programi mogu i poticati razvoj vještina, umjesto da uz njih atrofiraju. Da bi se usavršio u video-igri, igrač mora prolaziti kroz sve teţe kušnje, ako bude dobar dobivat će nagrade, a povratne informacije (moţda kakva erupcija krvi) su neposredne i često ţivopisne. Igre promiču stanje toka, i nadahnjuju igrače da ponavljaju zakučaste manevre sve dok im ne postanu prirodni. Vještina koju igrač savladava moţda jest trivijalna - recimo, kako plastičnim kontrolerom prevesti zamišljenu zapregu preko zamišljanog mosta - ali tu će vještinu podrobno savladati, i moći će je ponovno koristiti u novoj misiji ili novoj igri. Postat će za nešto stručnjak, i postajući stručnjakom će se ludo provesti.301 Kad je riječ o softveru kojim se koristimo u osobnom ţivotu, videoigre su iznimka. Najpopularnije aplikacije, naprave i internetske usluge smjeraju što većem komforu, ili kako kaţu njihovi ponuĎači, “upotrebljivosti”. Njima se moţe rukovati već s nekoliko dodira, pokreta prstima ili klikova, što se savlada bez mnogo truda i vjeţbe. Kao i automatizirani sustavi koji se koriste u proizvodnji i trgovini, ti su programi pomnjivo projektirani tako da teret mišljenja prebace s ljudi na računala. Čak se i u profesionalnom softveru kakvim se sluţe glazbenici, producenti, filmaši i fotografi sve više naglašava lakoća upotrebe. Kompleksni zvučni i vizualni efekti, koji su nekoć zahtijevali ekspertna znanja, mogu se postići pritiskom na gumb ili micanjem kontrolne trake. Koncepcije na kojima se oni zasnivaju više se ne moraju poznavati, one su sada sastavni dio programa. To ima vrlo realnu prednost: softver tako postaje koristan široj skupini ljudi, onima koji ţele efekt bez truda. No, cijena udovoljavanju neznalici je devalvacija znalca. Peter Merholz, konzultant za razvoj softvera, programerima savjetuje da teţe “glatkoći” i “jednostavnosti” svojih proizvoda. Uspješne naprave i

aplikacije, kaţe on, skrivaju svoju tehničku sloţenost iza prijateljskog sučelja. Svojim korisnicima one na najmanju moguću mjeru smanjuju kognitivno opterećenje: “Za jednostavne stvari ne treba puno razmišljanja. Izbora je malo, i ne zahtijeva se prizivanje prethodnih stečenih znanja.”302 To je recept za stvaranja takvih aplikacija koje, kako pokazuje Nimwegenov eksperiment s kanibalima i misionarima, zaobilaze mentalne procese učenja, izgradnje vještina i pamćenja. Takav alat od nas traţi malo, a kognitivno gledano, malo nam i nudi. Filozofiji projektiranja koju Merholz naziva “samo radi” mnogo toga ide u prilog. Svatko tko se mučio s namještanjem budilice, promjenom postavki na WiFiju ili s alatnim trakama Microsoftovog Worda, znat će cijeniti jednostavnost. Bespotrebno komplicirani proizvodi trate nam vrijeme ne dajući mnogošto zauzvrat. Istina je da ne moramo biti stručnjaci za sve, ali taj ideal glatkoće postaje problematičan kad se pisac softvera okušava u izradi recepata za intelektualno traganje i privrţenost drugim ljudima. Time će nas lišavati ne samo naših umijeća, nego i svijesti da je znanje nešto vrijedno, i nešto vrijedno truda. Sjetite se samo algoritama za provjeru pravopisa, koji se danas ugraĎuju u praktički svaku aplikaciju za pisanje i poručivanje. Programi za provjeru pravopisa nekad su imali funkciju tutora. Podcrtali bi moguće greške, skrenuli vam na njih paţnju i usput vas ponešto naučili o pravilnom pisanju. Sluţeći se njima, učili ste. Provjera pravopisa danas podrazumijeva automatsko ispravljanje pogrešaka. Program će vam trenutačno i samozatajno popravljati greške a da vas na njih i ne upozori. Nema povratnih informacija, sve ide “glatko”. Niste vidjeli ništa i niste naučili ništa. Ili pomislite na Googleov pretraţivač. Izvorno, on je nudio samo prazan okvir za unos teksta. Sučelje mu je bilo uzorno jednostavno, ali program je od vas još uvijek zahtijevao da promislite o tome što čete ga upitati, da svjesno sročite i usavršite skup ključnih riječi kojima čete postići najbolje rezultate. To više nije potrebno. Tvrtka je 2008. uvela Google Suggest, postupak automatskog dovršavanja upita koji uz pomoć prediktivnih algoritama nudi niz prijedloga formulacije upita. Sa svakim sljedećim slovom koje utipkate izbacuje vam se novi popis prijedloga. U podlozi te hiperaktivne revnosti leţi bjesomučna, gotovo manijakalna opsesija efikasnosti. Sa svojim mizantropskim stavom prema automatizaciji, Google na ljudsko spoznavanje gleda kao na nešto trapavo i neegzaktno, kao na neki nezgodan biološki proces koji će bolje obaviti računalo. “Moja je vizija da će za neko vrijeme većini upita pretraţivaču

biti udovoljeno a da ne morate ništa ni pitati”, kaţe Ray Kurzweil, izumitelj i futurist koji je 2012. stupio na poloţaj Googleovog direktora inţenjeringa. Tvrtka će “jednostavno znati da je riječ o nečemu što ćete htjeti vidjeti”.303 Krajnji cilj je potpuna automatizacija pretraţivanja, kojom ljudska volja jednostavno ispada iz igre. Čini se da se za istim takvim teţnjama vode i društvene mreţe poput Facebooka. Pomoću statističkog “otkrivanja” potencijalnih prijatelja, te s funkcijama “lajkanja” i drugih mehaničkih znakova paţnje, te automatiziranim upravljanjem mnogim vremenski zahtjevnim aspektima osobnih odnosa, one nastoje uvesti red u neuredan proces društvenog povezivanja. Facebookov osnivač Mark Zuckerberg sve to hvali kao “glatkoću dijeljenja” - uklanjanje svjesnog truda pri socijalizaciji. No, ima nešto veoma odbojno u tom pristupu birokratskim idealima brzine, produktivnosti i standardizacije odnosa s drugim ljudima. Najsmislenije se veze ne kuju transakcijama na trţištu ili kakvoj drugoj rutiniranoj razmjeni podataka. Ljudi nisu čvorovi na mreţi. Za veze su potrebni povjerenje, uviĎavnost i poţrtvovnost, a za tehnološki mozak sve su to nepoţeljni izvori neefikasnosti. Uklanjanje otpora iz društvenih spona neće ih ojačati nego oslabiti. Postat će sličnije vezama proizvoda i potrošača - koje se lako stvaraju i još lakše raskidaju. Nalik na nametljive roditelje koji klincima ne daju da išta rade sami, Google, Facebook i drugi tvorci osobnog softvera na kraju su oštetili i unizili upravo ona obiljeţja karaktera koja su se, barem nekad, smatrala bitnima za ispunjen i krepak ţivot: domišljatost, znatiţeljnost, neovisnost, ustrajnost, odvaţnost. Te ćemo vrline u budućnosti moţda doţivljavati samo iz druge ruke, kroz podvige akcijskih likova kakav je John Marston, u izmaštanim svjetovima u koje ulazimo putem zaslona.

8. Vaša unutarnja bespilotna letjelica Hladna je, maglovita noć s petka na subotu, sredina je prosinca i vozite se kući s uredske proslave. Točnije, voţeni ste. Nedavno ste kupili svoj prvi autonomni automobil - eSmart, električni auto Mercedesove izrade s Googleovim softverom - i za volanom je njegov program. Pod bljeskom samopodesivih LED farova vidite da je ulica mjestimično zaleĎena, a zahvaljujući uvijek aţurnim podacima sa zaslona na kontrolnoj ploči vidite da je auto u skladu s tim već regulirao brzinu i prianjanje vozila uz cestu. Sve ide glatko. Opušteni ste i puštate da vam misli lete pa se prisjećate večerašnje ukočene zabave. Prolazeći gustom šumovitom dionicom puta, na samo par stotina metara od kuće, na cestu vam istrčava ţivotinja i ukopa se u mjestu, točno vama na putu. To je susjedov bigl, shvatili ste, onaj koji uvijek negdje odluta. Što tada čini vaš robotski vozač? Hoće li nagaziti na kočnice, u nadi da će spasiti psića ali riskirajući da auto nekontrolirano proklizi? Ili svojom virtualnom nogom neće ni pipnuti kočnicu, ţrtvujući tako bigla kako biste vi i vaše vozilo ostali izvan opasnosti? Kako će izbistriti i odvagati sve varijable i vjerojatnosti, i donijeti konačnu odluku u djeliću sekunde? Ako mu algoritmi proračunaju da bi kočenjem pas dobio 53 posto šanse da preţivi, ali će to podrazumijevati 18 posto šanse da oštetite auto i 4 posto šanse da se pritom ozlijedite vi - hoće li zaključiti da je pokušaj spašavanja ţivotinje prava odluka? Kako softver, radeći samostalno, prevodi niz brojeva u odluku koja ima i praktične i moralne posljedice? A što ako ţivotinja koja je istrčala na cestu nije susjedov nego vaš ljubimac? A kad smo već kod toga, što ako nije pas nego dijete? Zamislite se kako se jednoga jutra tako vozite na posao i lagano pregledavate poštu na mobitelu dok vaš samoupravljani auto prelazi most, a brzina mu je precizno sinkronizirana na ograničenje od 60 km/h. Na mostu je grupa školaraca, hodaju pločnikom pokraj vaše trake. U pratnji su odraslih, izgledaju pristojno i čini se da je sve u redu. Ništa ne upućuje na mogući problem, ali vaš auto svejedno malo usporava - računalo kompenzira u korist sigurnosti. Odjednom dolazi do naguravanja, i nekog dječačića

odgurnu na cestu. Zaokupljeni kuckanjem poruke po ekranu telefona, vi ne primjećujete što se dogaĎa. Odluku mora donijeti auto: ili će naglo skrenuti i moţda udariti u drugu stranu mosta, i pritom vas moţda ubiti, ili će udariti dijete. Koje će instrukcije softver poslati volanu? Bi li odluka bila drugačija da je s vama u autu i vaše dijete, vezano u senzorskoj sjedalici na straţnjem sjedalu? Što ako iz suprotnog smjera dolazi drugo vozilo? Što ako je to vozilo školski autobus? Prvi zakon robotske etike Isaaca Asimova - “robot ne smije ozlijediti ljudsko biće, ili nečinjenjem dopustiti da se ljudskom biću našteti”304 - zvuči razumno i utješno, ali podrazumijeva svijet koji je daleko jednostavniji od našega. Dolazak autonomnih vozila, kaţe profesor psihologije sa Sveučilišta NYU Gary Marcus, neće biti samo “znak kraja još jedne ljudske niše”. Označit će i početak nove ere u kojoj će strojevi morati imati “etičke sustave”.305 Neki bi rekli da smo na to već došli. Na male ali znakovite načine, već smo počeli prepuštati moralne odluke računalima. Sjetite se Roombe, robotskog usisavača o kojemu se naveliko pisalo. Roomba ne razlikuje guţvu prašine od kakvog kukca. I jedno i drugo će jednostavno usisati. Ako joj se na putu ispriječi cvrčak, sa cvrčkom je svršeno. I mnogi ljudi će kad usisavaju prašinu takoĎer proći preko cvrčka. Ţivot kukca za njih nema vrijednost, barem ako im je ovaj uljez u stanu. Ali, neki će odloţiti usisavač, pokupiti cvrčka i izbaciti ga na slobodu. (Sljedbenici Ďainizma, stare indijske religije, smatraju da je grijeh naštetiti bilo kojem ţivom biću; oni jako paze na to da ne ozljeĎuju i ne ubijaju kukce.) Kad Roombu pustimo s lanca na naš tepih, na nju prenosimo moć donošenja moralnih odluka u naše ime. Robotizirane kosilice, primjerice Lawn-Bott i Automower redovito usmrćuju više oblike ţivota, uz ostale i gmazove, vodozemce i manje sisavce. Većina ljudi dok kose travu i pred sobom vide ţabu ili poljskog miša svjesno će odlučiti poštedjeti ţivotinju, a ako slučajno i prijeĎu preko nje, zbog toga će im biti ţao. Robotska kosilica ubija bez skrupula. Rasprave o moralu robota i drugih strojeva dosad su bile uglavnom teoretske, i bile su na strani znanstvenofantastičnih priča i misaonih eksperimenata na satovima filozofije. Etička razmatranja često utječu na projektiranje takvih pomagala - oruţje ima kočnicu, motorna vozila ureĎaje za ograničavanje brzine, pretraţivački programi filtere - ali od strojeva se nije traţilo da budu svjesni. Oni nisu morali prilagoĎavati vlastiti rad u stvarnom vremenu kako bi odgovarali na etičke začkoljice situacije u kojoj su se našli. Svaki put kad se u prošlosti pojavilo kakvo pitanje o upotrebi

tehnologije, ljudi bi uskočili i sredili stvar. To u budućnosti neće uvijek biti moguće. Računala i roboti imaju sve bolje senzore za svijet i u njemu djeluju sve autonomnije, i neizbjeţno će se suočavati sa situacijama u kojima pravog rješenja nema. Potresne će odluke morati donositi sami. Nemoguće je automatizirati kompleksne ljudske aktivnosti a da se ne automatiziraju i moralne odluke. Kad je riječ o etičkim prosudbama, ljudi su sve samo ne nepogrešivi. Griješimo mi često, nekad zbog zbunjenosti ili nepaţnje, a nekad i namjerno. Neke je to navelo na to da ustvrde da će brzina, kojom razmatra razne opcije, ocjenjuje vjerojatnosti i odvaguje posljedice, robotu omogućiti da donosi racionalnije odluke nego što to mogu ljudi kad se od njih zahtijeva hitno djelovanje. U tome ima istine. U nekim okolnostima, osobito onda kad su u pitanju jedino novac ili posjed, brz izračun vjerojatnosti moţe dostajati da se utvrdi koji će postupak dovesti do optimalnog ishoda. Neki vozači ubrzavaju kad vide da im se pali crveno svjetlo, iako se time povećava mogućnost nesreće. Računalo nikad ne postupa tako neodmjereno. No, većina moralnih dilema nije tako uredna. Pokušajte ih riješiti matematički i doći ćete do temeljnijeg pitanja: tko odreĎuje što bi u moralno dvojbenoj situaciji bila “optimalna” ili “racionalna” odluka? Na kome je da robotu programira savjest? Na proizvoĎaču? Na vlasniku? Na programerima? Političarima? Drţavnoj upravi? Na filozofima? Na agentu osiguravajućeg društva? Savršen moralni algoritam ne postoji: nema načina da se etika svede na skup pravila koja bi svatko prihvatio. Filozofi to pokušavaju stoljećima, i nije im uspjelo. Čak su i hladno utilitarni proračuni subjektivni; njihov ishod ovisi o vrijednostima i interesima donosioca odluka. Racionalni izbor vašeg auto-osiguranja - pas treba umrijeti - moţda ne bi bio i vaš izbor, čak ni da o tome odlučujete promišljeno, kad se suočite s tim da ćete moţda pregaziti susjedovog ljubimca. “U dobu robota”, kako primjećuje politolog Charles Rubin, “bit ćemo, kao i do sada - ili kao nikada do sada - osuĎeni na moral”.306 Algoritme svejedno treba pisati. Ideja da si moţemo proračunavati izlaz iz svojih moralnih dilema moţda je prepojednostavljena ili čak odbojna, ali to ne mijenja činjenicu da će roboti i softverski donosioci odluka morati računati o tome kako izaći iz svojih moralnih dilema. Naša računska subraća naprosto neće imati drugu opciju, osim ako i kada umjetna inteligencija dosegne nešto koliko-toliko nalik na svijest i bude mogla osjećati ili bar simulirati osjećaje, afekte i ţal za nekim. Moţda se

kajemo što smo automatima uspjeli pridati sposobnost moralnog postupanja a da im prethodno nismo dali moralni osjećaj, ali ţaljenje nas tu neće spasiti. Pred nama je doba etičnih sustava. Ako ćemo na svijet pustiti autonomne strojeve, moralni će se kodovi, ma kako nesavršeno, morati prevesti u programske.

Strojevi koji ubijaju Evo još jednog scenarija: vi ste pukovnik i zapovijedate bataljunom vojnika, što ljudskih što mehaničkih. Imate jedan vod “robota-snajpera” kojima upravljaju računala a razmješteni su po kriţanjima i krovovima cijeloga grada koji vaše snage brane od gerilskog napada. Svojim laserskim vidom jedan robot spazi muškarca u civilu koji u ruci drţi mobitel. Ponaša se na način koji bismo s iskustvom smatrali sumnjivim. Na osnovi podrobne analize aktualnog stanja i bogate baze podataka u kojoj su dokumentirani prethodni obrasci ponašanja, robot trenutačno izračunava da su izgledi 68 posto da je riječ o pobunjeniku koji se sprema detonirati bombu a 32 posto da je to neduţni prolaznik. U tom trenutku ulicom prolazi vozilo s desetak vaših vojnika. Ako je u pitanju bomba, moţe se detonirati u svakom trenutku. Rat nema gumbe za stanku. Ne moţemo se osloniti na ljudsku prosudbu. Robot mora djelovati. Što će softver zapovjediti svom oruţju: pucati ili ne? Mi civili se tek trebamo suočiti s etičkim implikacijama samoupravljanih automobila i drugih autonomnih robota, ali u vojsci stvari stoje sasvim drugačije. Ministarstva obrane i vojne akademije već godinama proučavaju metode i posljedice prenošenja ovlasti za donošenje odluka o ţivotu i smrti na bojne strojeve. Raketni i bombarderski napadi bespilotnim letjelicama poput Predatora i Kosca već su sasvim uobičajeni, i predmet su ţustrih rasprava. I jedna i druga strana imaju dobre argumente. Zagovornici ističu da uz bespilotne letjelice vojnici i piloti ostaju izvan opasnosti i da, zbog preciznosti napada, one smanjuju broj ţrtava i razaranja uslijed tradicionalnog bombardiranja i drugog ofanzivnog djelovanja. Protivnici takve napade smatraju ubojstvima u ime drţave. Ukazuju na to da u eksplozijama često stradaju civili, da se i ne spominje koliko ih uţasavaju. Napadi bespilotnim letjelicama, meĎutim, nisu automatizirani; oni se izvode daljinskim upravljanjem. Sami avioni mogu letjeti samostalno i obavljati izviĎačke zadatke, ali odluke o ispaljivanju iz oruţja donose vojnici koji za računalima motre njihov video-prijenos, postupajući pritom pod strogim zapovijedima nadreĎenih

časnika. Onako kako se trenutno koriste, bespilotne letjelice s raketnim nosačima ne razlikuju se previše od navoĎenih projektila i sličnog naoruţanja. Okidač još uvijek povlači čovjek. Velika će promjena nastupiti onda kad okidačem počne rukovati računalo. Potpuno automatizirani, računalno kontrolirani strojevi za ubijanje - vojska ih naziva “smrtonosni autonomni roboti” ili SAR - danas su tehnički izvedivi, dapače to su već neko vrijeme. Senzori okruţenja skeniraju bojno polje precizno i u visokoj razlučivosti, sustavi automatskog okidanja su veoma rasprostranjeni, a programe koji će upravljati ispaljivanjem nije teško pisati. Za računalo, odluka se o ispaljivanju iz nekog oruţja nimalo ne razlikuje od odluke o trgovanju kakvom dionicom ili smještanju e-mail poruke u odjeljak za neţeljenu poštu. Algoritam je algoritam. Christof Heyns, juţnoafrički pravni znanstvenik kojeg je Opća skupština UN-a angaţirala kao posebnog izvjestitelja o izvanpravnim, skupnim i proizvoljnim egzekucijama, 2013. je godine objavio izvještaj o stanju i budućnosti vojnih robota.307 Klinički i odmjereno, štivo je to od kojeg se ledi krv u ţilama. “Drţave kadre proizvoditi SAR-ove”, piše Heyns, “daju do znanja da se njima trenutno ne planiraju koristiti u oruţanim sukobima i drugdje”. No, nastavlja on, povijest naoruţanja ukazuje na to da se na ta uvjeravanja ne treba previše oslanjati: “Valja se prisjetiti kako su se bespilotne letjelice u oruţanim sukobima u početku koristile isključivo za izviĎanje, i da je njihova uloga kao oruţja za napad bila odbacivana zbog očekivanih nepoţeljnih posljedica. Iskustvo pokazuje da se početne namjere često ostavljaju po strani kad se pojavi tehnologija koja se percipira kao prednost u odnosu na protivnika.” Nadalje, kad se takav novi tip oruţja primijeni, gotovo će uvijek uslijediti utrka u naoruţanju. Tada “moć interesa moţe nadvladati napore za adekvatnim nadzorom”. Ratovanje je u mnogočemu jednostavnije od civilnog ţivota. Postoje pravila sluţbe, zapovjedni lanac, a strane u sukobu su jasno razgraničene. Ubijanje nije samo prihvatljivo nego se i potiče. No, programiranje moralnosti čak i u ratovanju otvara probleme za koje rješenja nema - ili se barem ne mogu riješiti a da se prethodno ne ostave po strani mnoga moralna pitanja. Ratna mornarica SAD-a 2008. je godine od Istraţivačke skupine za etiku i nove znanosti pri Kalifornijskom politehničkom javnom učilištu naručila prikaz etičkih pitanja što ih otvaraju smrtonosni

autonomni roboti, te izlaganje mogućih pristupa “konstruiranju etičnih autonomnih robota” za vojne primjene. Etičari su izvijestili da postoje dva osnovna pristupa programiranju robota koji bi donosio moralne odluke: s vrha prema dnu, i od dna prema vrhu. Prvim pristupom sva pravila kojima se vode robotske odluke programiraju se unaprijed i robot jednostavno sluša upute “bez izmjena i fleksibilnosti”. To zvuči jednostavno ali nije, do čega je došao i Asimov kad je pokušao formulirati svoj sustav robotske etike. Nema načina da se predvide sve okolnosti s kojima se robot moţe suočiti. “Krutost” programiranja s vrha prema dnu moţe nam se obiti o glavu, pišu znanstvenici, “kad se pojavi situacija ili dogaĎaj koji programeri nisu predvidjeli ili su ga nedovoljno dobro zamišljali, zbog čega će robot ili loše obaviti posao ili će jednostavno napraviti nešto uţasno, upravo zato što je vezan pravilima”.308 U pristupu od dna prema vrhu robot se programira s manjim brojem najosnovnijih pravila i takav se pošalje u svijet. Tehnikama strojnog učenja razvijat će vlastiti moralni kodeks i prilagoĎavati ga sa svakom novom situacijom. “Poput djeteta, robot se stavlja u šarolike situacije i od njega se očekuje da na pokušajima i pogreškama (te na njihovoj povratnoj vezi) uči što je prikladno a to nije.” Što se s više dilema suoči, moralno će mu prosuĎivanje biti profinjenije. MeĎutim, pristup od dna prema vrhu još je trnovitiji. Kao prvo, nepraktičan je; algoritmi strojnog učenja koji bi bili dovoljno suptilni i dovoljno široko primjenjivi za moralno odlučivanje još uvijek ne postoje. Drugo, u situacijama u kojima se odlučuje o ţivotu i smrti nema prostora za pokušaje i pogreške; već bi i sam taj pristup po sebi tu bio nemoralan. I treće, nema jamstva da bi moral što ga računalo razvije odraţavao ljudsku moralnost, ili da bi s njom barem bio u skladu. Ako ga se pusti na bojište sa strojnicom i skupom algoritama strojnog učenja, robot bi se mogao ponašati i kao odmetnik. Ljudska bića, kako su istaknuli etičari, imaju stanovit “hibridni” pristup donošenju moralnih odluka. Ljudi ţive u društvima koja imaju zakone i druge propise za kojima im se ponašanje vodi i kojima im se ono kontrolira; uz to, mnogi ljudi formiraju odluke i postupke tako da im se uklope u vjerske i kulturalne zahtjeve; uza sve to, osobna savjest, bila ona uroĎena ili ne, nameće vlastita pravila. Svoju ulogu ima i iskustvo. Ljudi odrastajući uče biti moralna bića, pritom se boreći s etičkim odlukama različitih vrsta u različitim situacijama. Daleko smo od toga da budemo savršeni ali većina nas ima probirljiv moralni osjećaj koji se fleksibilno moţe primjenjivati na dileme s kojima se nikad prije nismo susretali. Jedini

način na koji bi robot mogao postati istinski moralno biće bio bi da slijedi naš primjer i preuzme taj hibridni pristup, da istodobno i slijedi pravila i uči iz iskustva. No, stvaranje stroja s takvim mogućnostima daleko nadilazi naše tehničke sposobnosti i znanja. “Na kraju ćemo”, zaključuju etičari, “moţda moći izraĎivati moralno inteligentne robote koji zadrţavaju dinamičku i fleksibilnu moralnost sustava graĎenih od dna, koji mogu prihvaćati raznorodne ulazne podatke a da svoje odluke i postupke pritom evaluiraju prema načelima zadanima s vrha”. No, prije nego doĎe do toga, morat ćemo dokučiti kako programirati računala tako da iskazuju “supraracionalna” svojstva - računala koja imaju emocije, društvene vještine, svijest i osjećaj “ugraĎenosti u svijet”.309 Drugim riječima, morat ćemo postati bogovi. Malo je vjerojatno da će vojske htjeti čekati tako dugo. U svom članku objavljenom u časopisu Parameters, glasilu Ratne škole Vojske SAD-a, vojni strateg i umirovljeni pukovnik Thomas Adams tvrdi: “logika koja vodi s potpuno autonomnim sustavima čini se nezaustavljivom”. Zahvaljujući brzini, veličini i osjetljivosti robotskog naoruţanja, ratovanje “izlazi iz područja ljudskih osjetila” i “prelazi granice ljudskih brzina reakcija”. Uskoro će ono biti “previše sloţeno za istinsko ljudsko razumijevanje”. Kako ljudi postaju najslabijom karikom vojnog sustava, kaţe on u odjek argumenata civilnih programera koji se sluţe tehnologijom kao okosnicom, odrţavanje “smislene ljudske kontrole” nad odlukama na bojišnici postat će gotovo nemoguće. “Jedan odgovor na to je, naravno, naprosto prihvatiti sporiju obradu informacija kao cijenu koju valja platiti da bi ljudi uopće ostali uključeni u vojno odlučivanje. Problem je u tome što će neki protivnik sasvim sigurno zaključiti da se sustav s okosnicom u čovjeku moţe pobijediti ako ga se napadne sustavima koji takvih ograničenja nemaju”. Na kraju ćemo, vjeruje Adams, “taktičko vojno djelovanje moţda početi smatrati nečim što je zapravo posao za strojeve, a za ljude je upravo neprikladno”.310 Primjenu SAR-ova naročito će oteţati upravo njihova taktička djelotvornost, ali ne samo to: riječ je i o tome da bi njihova primjena imala stanovite etičke prednosti neovisne o njihovom moralnom ustrojstvu. Za razliku od ljudskih vojnika, roboti nemaju nikakve temeljne instinkte koji bi ih opterećivali u ţaru i kaosu borbe. Oni ne doţivljavaju stres, depresiju ni navale adrenalina. “Tipično”, piše Christof Heyns, “oni ne bi djelovali iz osvete, panike, ljutnje ili prkosa, zbog predrasuda ili iz straha. Nadalje, osim u slučaju da ih se za to konkretno programira, roboti ne bi prouzročili

namjernu patnju civilnom stanovništvu, primjerice mučenjima. A roboti i ne siluju.”311 K tome, roboti ne laţu, niti na kakav drugi način pokušavaju prikriti svoje namjere. Moţe ih se programirati tako da “ostavljaju digitalni trag”, i tako je vojsku u pravilu i najlakše pozivati na odgovornost za njezine postupke. A što je najvaţnije, upotrebom SAR-ova u ratovanju drţave izbjegavaju pogibanje i ranjavanje vlastitih vojnika. Roboti ubojice oduzimaju ţivote ali ih i štede. Čim ljudima postane jasno da će automatizirano oruţje i automatizirani vojnici smanjiti vjerojatnost da im u bitci budu ozlijeĎena ili poginu njihova djeca, pritisak na vlade da automatiziraju ratovanje mogao bi postati neizdrţljiv. Na kraju svega, moţda više i neće biti vaţno što, Heynsovim riječima, robotima manjkaju “ljudska prosudba, zdrav razum, obuhvaćanja šire slike, razumijevanje namjera koje stoje iza ljudskih postupaka, te shvaćanje vrijednosti”. Da strojevi imaju ljudske kvalitete mišljenja i osjećanja ne bismo ih tako mirno ni slali u razna razaranja. Teren tu postaje samo još skliskiji. Vojne i političke prednosti robotskih vojnika sa sobom nose i navlastite moralne prijepore. Primjena SAR-ova neće samo promijeniti to kako se vode okršaji i bitke, ističe Heyns. Time će se promijeniti i računica političara i generala kad je riječ o donošenju odluke da se uopće krene u rat. Negodovanje javnosti zbog ţrtava oduvijek je odvraćalo od borbi i poticalo na pregovaranje. Budući da će SAR-ovi ublaţiti “ljudsku cijenu oruţanog sukoba”, javnost će se moţda “jače isključiti” iz vojnih rasprava i “prepustiti odluku o upotrebi sile svojoj drţavi, kao prije svega financijskom i diplomatskom pitanju, što bi dovelo do normalizacije oruţanog sukobljavanja. SAR-ovi bi tako snizili prag odlučivanja drţave u prilog oruţanom sukobu i drugim primjenama smrtonosne sile, što bi vodilo tome da vojni sukob prestane biti samo krajnje sredstvo”.312 UvoĎenje nove klase naoruţanja uvijek mijenja narav ratovanja, a oruţja koja se ispaljuju ili detoniraju izdaleka - katapulti, mine, granate, rakete - na nju su u pravilo najjače utjecala, što namjerno što nenamjerno. Posljedice autonomnih strojeva za ubijanje u tom bi smislu vjerojatno bile veće nego išta što im je prethodilo. Prvi pucanj koji robot samostalno ispali po svoj će se prilici čuti po cijelom svijetu. I zauvijek će promijeniti ratovanje, a moţda i društvo.

Duboka automatizacija Društveni i etički izazovi što ih sa sobom donose roboti ubojice i samoupravljani automobili ukazuju na nešto vaţno i uznemirujuće po pitanju smjera u kojem ide automatizacija. Mit o supstituciji tradicionalno se definira kao pogrešna pretpostavka da se neki posao moţe razdijeliti na zasebne zadaće i da se te zadaće mogu automatizirati malo-pomalo tako da se pritom ne promijeni priroda posla kao cjeline. Tu će definiciju trebati proširiti. Kako se opseg automatizacije širi saznajemo i to da je pogrešno pretpostaviti da se društvo moţe razdijeliti na odjelita područja aktivnosti recimo, što je struka a što hobi, ili do kuda seţu granice nadleţnosti drţave - kako bi se ta područja automatizirala a da se ne promijeni priroda društva kao cjeline. Sve je povezano - promijenite naoruţanje i izmijenili ste ratovanje - i te se povezanosti još učvršćuju kad ih se eksplicira u računalnim mreţama. U nekom trenutku, automatizacija doseţe kritičnu masu. Ona počinje oblikovati društvene norme, pretpostavke i etiku. Ljudi sebe i svoje odnose s drugima sagledavaju u drugom svjetlu, i svoj osjećaj osobnog postupanja i odgovornosti prilagoĎavaju tako da on obuhvati i tu proširenu ulogu tehnologije. Drugačije se i ponašaju. Sada očekuju pomoć računala, a u rijetkim prilikama kad ona ne stigne osjećaju se smeteno. Softver postaje nešto “neodloţno i hitno”, kako je to formulirao računalni znanstvenik s MIT-a Joseph Weizenbaum. Postaje “tvar od koje si čovjek gradi svoj svijet”.313 Devedesetih godina, negdje u doba kad se balon internetskih dot-com poduzeća počeo ispuhavati, s velikim se uzbuĎenjem naveliko govorilo o “sveprisutnom računarstvu”. Mikročipovi će, uvjeravali su nas navijački nastrojeni komentatori, uskoro biti posvuda - ugraĎivat će se u tvornička postrojenja i police skladišta, urede, trgovine i stanove, bit će ukopani u tlo i letjet će zrakom, ugraĎivat će se u robu široke potrošnje i tkati u odjeću, čak će i kolati našim tijelom. Opremljena senzorima i primopredajnicima, mala će računala mjeriti svaku zamislivu varijablu, od zamora materijala preko temperature tla do razine šećera u krvi, i svoja će očitanja preko Interneta slati u centre za obradu podataka u kojima će pak veća računala ţvakati sve te brojke i slati instrukcije kako da se sve to zadrţi unutar gabarita i pod sinkronizacijom. Računarstvo će prodrijeti u sve; automatika će bit ambijent u kojem ţivimo, a ţivjet ćemo u kompjuteraškom raju, svijetu programirljivog stroja. Jedan od glavnih izvora pomame bio je Xeroxov PARC, proslavljeni

istraţivački laboratorij Silicijske doline u kojemu je Steve Jobs pronašao inspiraciju na Macintosh. PARC-ovi inţenjeri i informacijski znanstvenici objavili su seriju članaka u kojima opisuju budućnost u kojoj će računala biti tako duboko utkana u “tkivo svakodnevice” da ih se “od nje više neće moći razlučiti”.314 Više ne bismo čak ni primjećivali sva ta proračunavanja koja se odvijaju svuda oko nas. Bili bismo toliko zasićeni podacima, toliko opsluţivani softverom da bismo, umjesto da doţivljavamo tjeskobu zbog preopterećenosti informacijama, od nje osjećali “umirenost”.315 Zvučalo je idilično. Ali PARC-ovi istraţivači nisu bili Pollyanna. I oni su izraţavali bojazni zbog svijeta koji su predviĎali. Brinulo ih je to što bi sveprisutan računalni sustav bio idealno mjesto za skrivanje Velikog brata. “Ako je računalni sustav ekstenzivan ali istodobno i nevidljiv”, napisao je glavni tehnolog PARC-a Mark Weiser u članku objavljenom 1999. u časopisu IBM Systems Journal, “postaje teško znati što je pod kontrolom čega, što je s čime povezano, kamo teku informacije i kako se koriste”.316 Veliko je povjerenje koje bismo morali polagati u tvrtke i ljude koji upravljaju takvim sustavom. UzbuĎenje oko sveprisutnog računarstva pokazalo se preuranjenim, jednako kao i zabrinutost zbog njega. Tehnologija 1990- ih nije bila dorasla tome da se svijet učini strojno čitljivim, i nakon pucanja balona dot-com tvrtki, ulagači nisu bili raspoloţeni financirati ugradnju skupih mikročipova i senzora u sve i sva. No u idućih se petnaest godina mnogošta promijenilo. Ekonomske su računice sada drugačije. Cijena računalne opreme strmoglavo je pala, a isto se dogodilo i s troškovima brzog prijenosa podataka. Tvrtke kao što su Amazon, Google i Microsoft pretvorile su obradu podataka u komunalnu djelatnost. Načinile su mreţu računala “u oblaku” s kojom je moguće prikupljati i obraĎivati goleme količine informacija u efikasnim centraliziranim posluţiteljskim sustavima, koje se onda šalju aplikacijama na pametnim telefonima i tabletračunalima, ili u kontrolno sklopovlje radnih strojeva.317 ProizvoĎači troše milijarde dolara na opremanje tvornica tako umreţenim senzorima, a tehnološki divovi poput GE-a, IBM-a i Cisca, u nadi da će pokrenuti stvaranje “interneta stvari” ţure s razvojem standarda za razmjenu tako dobivenih podataka. Računala su danas manje-više svuda i čak se i najbeznačajniji pomaci u svijetu biljeţe kao nizovi digitalnih znamenaka. To nas moţda ne umiruje, ali nas zato zasićuje. PARC-ovi istraţivači sada izgledaju kao proroci. Velika je razlika izmeĎu nekog niza alata i infrastrukture.

Industrijska je revolucija dobila puni zamah tek nakon što su njezine operativne pretpostavke postale ugraĎene u sveobuhvatne sustave i mreţe. Gradnja ţeljeznica sredinom devetnaestog stoljeće povećala je opseg trţišta koja tvrtke mogu opsluţivati, dajući tako zamah mehaniziranoj masovnoj proizvodnji i ekonomiji velikih razmjera, koji su postali još veći. Izgradnja električne mreţe nekoliko desetljeća kasnije otvorila je put pokretnoj tvorničkoj traci i učinila je svakovrsne električne ureĎaje isplativima za proizvodnju i dostupnima potrošačima, potaknula je konzumerizam i dotjerala industrijalizaciju do svakog doma. Te nove prijevozne i energetske mreţe, uz telegraf, telefon i sustave za emitiranje koji su nastali s njima, društvu su podarile nova obiljeţja. Izmijenile su način razmišljanja o radu, zabavi, putovanju, obrazovanju pa čak i o organizaciji obitelji i zajednice. Ritam i tkanje ţivota one su preobrazile još puno više nego svojedobno parni tvornički strojevi. Thomas Hughes, prikazujući posljedice nadolaska električne mreţe u svojoj knjizi Mreže energije, opisuje kako su se prvo inţenjerska kultura a onda i poslova pa konačno i opća kultura formirale u skladu s tim novim sustavom. “Ljudi i ustanove razvili su obiljeţja koja su im odgovarala u vezi s obiljeţjima tehnologije”, piše Hughes. “A sustavna interakcija ljudi, ideja i ustanova, i tehničkih i netehničkih, dovela je do razvoja nadsistema - sociotehnološkog nadsistema - s masovnim kretanjem i usmjerenjem.” U tom je trenutku tehnologija uhvatila puni zamah, jednako za energetsku djelatnost i za načine proizvodnje i ţivljenja koji su se na njoj razvijali. “Taj se univerzalni sustav gibao konzervativno. Rastao je u pravilu stabilno, a promjene su se odvijale kao grananja različitih funkcija” Napredak si je usjekao brazdu.318 Na jednom smo se sličnom kriţanju već bili našli u povijesti automatizacije. Društvo se prilagoĎava univerzalnoj računalnoj infrastrukturi - brţe nego što se prilagodilo električnoj mreţi - i formira se novi status quo. Pretpostavke koje leţe u podlozi rada industrije i trgovinskih odnosa već su se promijenile. “Poslovni procesi koji su se prije dogaĎali meĎu ljudskim bićima sada se izvršavaju elektronički”, objašnjava W. Brian Arthur, ekonomist i teoretičar tehnologije na Institutu Santa Fe. “Odvijaju se u nevidljivom prostoru koji je strogo digitalan.”319 Kao primjer ukazuje na proces kretanja pošiljke nekog tereta kroz Europu. Prije nekoliko godina za to je trebala cijela legija činovnika s blokovima i klamericama. Oni su vodili dnevnike odlazaka i dolazaka, provjeravali deklaracije, obavljali inspekcije, davali ovjere, biljege i pečate, popunjavali

i urudţbirali obrasce, vodili korespondenciju i telefonirali s raznim drugim sluţbenicima uključenima u koordinaciju ili regulaciju meĎunarodnog teretnog prometa. Bilo kakva izmjena trase zahtijevala je dugotrajnu komunikaciju meĎu predstavnicima raznih zainteresiranih strana dostavljača, prijevoznika, primalaca, drţavnih sluţbi - i nove hrpe papirologije. Svaki teret danas pak sa sobom nosi radiofrekvencijske identifikacijske oznake. Kad pošiljka proĎe kroz luku ili kakvu drugu tranzitnu postaju, skeneri očitaju oznake i prenesu informacije u računala. Računala ih dalje prenose drugim računalima koja koordinirano provedu sve potrebne provjere, daju odgovarajuća odobrenja, po potrebi izmijene rokove i ispitaju imaju li sve strane aţurne podatke o stanju pošiljke. Ako bude potrebno preusmjeriti pošiljku, novi se smjer odreĎuje automatski, a oznake i s njima povezani podaci aţuriraju se još jednom. Takve su automatizirane i sveobuhvatne razmjene informacija postale rutinom u čitavoj ekonomiji. Trgovinom se sve više upravlja kao, kako kaţe Arthur, “ogromnom konverzacijom koja se u potpunosti odvija meĎu strojevima”.320 Poslovati znači imati umreţena računala koja su u stanju sudjelovati u toj konverzaciji. “Da ste stvorili izvrstan digitalni ţivčani sustav”, priopćio je Bili Gates svojim direktorima, “znate po tome što vašom organizacijom informacije tada teku jednako brzo i prirodno kao i misli u ljudskom biću”.321 Svaka veća tvrtka, ako ţeli ostati odrţivom, nema drugog izbora nego automatizirati, i onda još malo automatizirati. Svoje radne procese i proizvode mora preustrojiti tako da dopuštaju sve veći računalni nadzor i upravljanje, i mora uvesti ograničenja pristupa ljudima u dobavljački i proizvodni lanac. Na kraju krajeva, ljudi su ti koji ne mogu odrţavati tempo čavrljanja meĎu računalima; njihovu konverzaciju oni samo usporavaju. Pisac znanstvene fantastike Arthur Clarke jednom je pitao: “Moţe li sinteza čovjeka i stroja uopće biti stabilna, ili će njezina čisto organska sastavnica postati takvom smetnjom da će je se morati odbaciti?”322 Bar kad je riječ o poslovnom svijetu, čini se da stabilnost podjele rada nije ni na pomolu. Prevladavajuće metode kompjuterizirane komunikacije i koordinacije manje-više jamče da će se uloga ljudi sve više smanjivati. Ako se u predstojećim godinama tehnološka nezaposlenost još poveća, bit će to više rezultat naše nove, podzemne infrastrukture automatizacije nego bilo kojeg konkretnog uvoĎenja robota u tvornice, ili softvera za potporu odlučivanju u urede. Roboti i programi su vidljiva flora jednog dubokog, razgranatog, nevidljivog i invazivnog sustava.

Taj korijenski sustav osim toga hrani širenje automatizacije u širu kulturu. Od pruţanja usluga drţave pa do odrţavanja prijateljstava i obiteljskih veza, društvo se preoblikuje tako da se uklopi u obrise nove računalne infrastrukture. Tom se pak infrastrukturom provode i usklaĎuju trenutačne podatkovne transakcije bez kojih flote samoupravljanih automobila i vojske robota-ubojica ne bi bile moguće. Njome se dovodi materijal kojim se hrane prediktivni algoritmi na temelju kojih pojedinci i društva donose odluke. Na njoj se zasniva automatizacija učionica, knjiţnica, bolnica, trgovina, crkava, stanova i kuća - mjesta koja se tradicionalno vezuju za ljudski kontakt. Ona omogućava rad NSA i drugih špijunskih sluţbi, kao i zločinačkih udruţenja i nametljivih korporacija, a sve da bi se provodilo nadziranje i špijuniranje dosad neviĎenih razmjera. Ona je ta koja je preusmjerila velik dio privatnih razgovora i javnog diskursa na malene ekrane. I ona svim tim računalnim ureĎajima daje sposobnost da nas vode kroz ţivot, nudeći nam postojan dotok personaliziranih upozorenja, instrukcija i savjeta. Ljudi i institucije i opet razvijaju takva obiljeţja kojima će se uklopiti u obiljeţja prevladavajuće tehnologije. Industrijalizacija nas nije pretvorila u postrojenja pa nas ni automatizacija neće pretvoriti u automate. Nismo, eto, tako jednostavni. Širenjem automatizacije, meĎutim, naš ţivot postaje sve više programatski. Imamo manje prilike iskazati svoju vještinu i domišljatost, kao i vlastiti integritet koji se nekoć smatrao glavnom značajkom ljudskog karaktera. Ako ne počnemo barem sumnjati u to kamo smjeramo, taj će se trend samo ubrzavati.

Kroz staklo Bio je to neobičan govor. Odrţao se krajem veljače u Centru za izvedbene umjetnosti Long Beach pokraj Los Angelesa na TED konferenciji 2013. Raščupan tip na sceni se vrpoljio i zastajkivao u govoru: bio je to Sergey Brin, na glasu kao opušteniji od dvojice osnivača Googlea. Posao na konferenciji mu je bio odrţati marketinško izlaganje o Googleovim naočalama Glass, “računalu koje se drţi na nosu”. Nakon što je pustio kratak promotivni video, bacio se na prezrivu kritiku pametnog mobitela, ureĎaja za čiji je ulazak u sferu široke potrošnje uz ostale zasluţan i Google, svojim operativnim sustavom Android. Brin je izvadio mobitel iz dţepa i podrugljivo ga pogledao. Imati mobitel “nekako je muţevno”, izjavio je. “Znate, ono kad samo sjedite i fino gladite taj komad stakla bez mogućnosti”. Osim što “socijalno izolira”, zurenje u ekran kao u pod u

ljudima slabi i osjećaj angaţmana u fizičkom svijetu, primijetio je nadalje. “Zar bi čovjek baš to trebao raditi sa svojim tijelom?”323 Odloţivši mobitel, Brin se bacio na izvikivanje prednosti Glassa. Novi će ureĎaj unijeti izrazito superioran “format” u osobno računarstvo, rekao je. Oslobodit će ljudima ruke i pustiti ih da drţe glavu gore, da gledaju preda se i ponovno se poveţu s onim što ih okruţuje. Vratit će se u svijet. Ima Glass i drugih prednosti. Budući da zaslon računala trajno smještaju u vidno polje, kompjuterizirane naočale Googleu će omogućiti da uslugom Google Now i drugim funkcijama za praćenje i personalizaciju ljudima ponudi relevantne informacije kad god ureĎaj zaključi da im je potrebna pomoć ili kakav savjet. Tvrtka će ispuniti svoju najveću ambiciju: automatizirati dotok informacija u misli. Zaboravite funkcije automatskog dovršavanja što ih nudi Google Suggest. S Glassom na glavi, rekao je Brin, u odjek svog kolege Raya Kurzweila, više nećete ni morati pretraţivati Web. Nećete morati formulirati upite ni pregledavati rezultate ni slijediti tragove ni poveznice općenito. “Informacije će vam jednostavno pristizati kad god vam budu trebale.”324 Osim sveprisutnosti, računalo će steći i sveznanje. Brinova nespretna prezentacija priskrbila mu je izrugivanje tehnoloških blogera. Unatoč tome, u nečem je imao pravo. Mobitel nas očarava ali i podraţava. Ljudski mozak nije sposoban koncentrirati se na dvije stvari odjednom. Svaki pogled na ekran, svaki potez dodirom odvlači nas od našeg neposrednog okruţenja. S mobitelom u ruci postajemo pomalo nalik na duha, i vrludamo izmeĎu dva svijeta. Ljudima je, naravno, uvijek moguće odvlačiti paţnju. Um i inače zna vrludati a paţnja odlutati. Ali nikad na sebi dosad nismo nosili alatku koja nam toliko neumorno okupira osjetila i odvaja paţnju. Vezujući nas za neko simboličko drugdje, mobitel nas odvodi u progonstvo od ovoga ovdje i sada, što je Brin razumio. Tako gubimo moć prisutnosti. Brinovo uzdanje u to da će Glass taj problem riješiti manje je uvjerljivo. Nema sumnje da bi nekad bilo korisno imati slobodne ruke dok se sluţimo računalom ili fotoaparatom. Ali virkanje u ekran koji pred vama lebdi ne traţi ništa manje paţnje nego gleduckanje na ekran koji drţite u krilu. Dapače. Istraţivanja na pilotima i vozačima koji se koriste naglavnim zaslonima pokazalo je da, kad ljudi gledaju tekst i slike koje im se prikazuju na podlozi vlastitog okoliša, postaju podloţni takozvanom “tuneliranju paţnje”. Ţarište paţnje im se smanjuje, oči se zaustavljaju na prikazanoj slici i više ne zapaţaju ništa drugo što im se naĎe u vidnom

polju.325 U jednom takvom pokusu izvedenom u simulatoru letenja, pilotima koji su se pri slijetanju sluţili naglavnim zaslonom trebalo je više vremena da uoče velik avion koji im se ispriječio na pisti nego pilotima koji su morali pogledavati na instrumente na kontrolnoj ploči. A dva pilota s naglavnim zaslonima uopće nisu primijetila avion koji je stajao točno pred njima.326 “Percepcija treba i oko i um”, kako objašnjavaju profesor psihologije Daniel Simons i Christopher Chabris u svom članku iz 2013. o opasnostima Glassa, “i ako vam je um nečime zaokupljen moguće je da ne uočite nešto što bi inače bilo savršeno očigledno”327 Uz to, Glassov je prikaz namjerno teško ne gledati. Lebdi vam nad okom, uvijek pripravan, i već na najmanji pokret oka vam ulazi u vidno polje. Mobitel barem moţete strpati u dţep ili torbicu, ili ga staviti u drţač za čaše u automobilu. Činjenica da s Glassom općite izgovorenim riječima, pokretima glave, gestama ruku i dodirima prstiju još više steţe obruč nad našim umom i osjetilima. Kad je pak riječ o zvučnim signalima koji javljaju o pristiglim upozorenjima i porukama - a oni vam se šalju, kako se pohvalio Brin u svom govoru na TED-u, “ravno kroz kosti lubanje” - oni teško da bi bili manje agresivni od zvonjave i vibriranja mobitela. Ma koliko mobitel, metaforički govoreći, bio muţevan, kompjuter koji vam je prikvačen za čelo je garantirano gori. Nosiva računala, bilo da nam se koče na glavi kao Googleov Glass ili Facebookov Oculus Rift, ili se veţu za zglob kao pametni satovi (npr. Pebble), nova su, a njihova je privlačnost time i neprovjerena. Ako im i slijedi velika popularnost, pred njima su još neke velike prepreke. Mogućnosti su im ovog časa još mršave, izgledaju nespretno - londonski Guardian o Glassu piše kao “tim jezivim naočalama”328 - a zbog njihovih su sićušnih ugraĎenih kamera mnogi ljudi ţivčani. No, kao i druga osobna računala prije njih, brzo će se poboljšavati i gotovo će se sigurno uobličiti u nešto manje upadljivo i korisnije. Ideja da računalo gotovo pa odijevamo danas moţda zvuči čudno, ali za deset godina to bi moglo biti uobičajeno. Moţda čak doĎemo na to da gutamo tablete s nanoračunalima koja će nam pratiti biokemiju i funkcije organa. Brin se, meĎutim, vara kad kaţe da Glass i drugi slični ureĎaji predstavljaju neki raskid s prošlosti računarstva. Već postojećem tehnološkom trendu oni daju još više silovitosti. Sada kad su mobitel i tablet-računalo postali svenamjenski, a umreţena računala lakše prenosiva i osobnija, softverskim tvrtkama postaje moguće programirati još mnogo više aspekata našega ţivota. Zajedno s jeftinim, prijateljskim aplikacijama,

to je omogućilo da se infrastruktura računarstva u oblaku iskoristi za automatizaciju čak i najbanalnijih poslova. Kompjuterizirane naočale i ručni satovi još su proširili doseg automatizacije. S njima je lakše primati upute na svakom koraku navigacije u, primjerice, voţnji biciklom ili šetnji, ili algoritamski generirati savjete o tome gdje u blizini nešto pojesti ili kupiti odjeću za izlaske. Ona sluţe i kao tjelesni senzori, jer se preko njih u oblak prenose podaci o vašoj lokaciji, vašim razmišljanjima i vašem zdravlju. Programerima i poduzetnicima to pak otvara još više prilika za automatizaciju svakodnevice.

Posrtanje volje Na dobro ili na zlo - to ovisi o perspektivi - ušli smo u začarani krug. Kako se sve više oslanjamo na aplikacije i algoritme, sve smo manje u stanju postupati bez njihove pomoći: i paţnja i vještine stišću nam se u tunele. Softver tako postaje još presudniji. Automatizacija raĎa automatizaciju. Budući da svatko očekuje da će svojim ţivotom baratati preko ekrana, društvo prirodno prilagoĎava svoje rutine i procedure računalnim rutinama i procedurama. Ono što se ne moţe postići softverski, sve što nije izračunljivo pa se time opire automatizaciji, sada se počinje činiti suvišnim i bespredmetnim. PARC-ovi su istraţivači još 1990-ih ustvrdili da bismo da je računarstvo sveprisutno znali po tome što više ne bismo bili svjesni njegova prisustva. Računala bi bila toliko prepletena s našim ţivotom da bi nam postala nevidljiva. Njima bismo se i nesvjesno sluţili u obavljanju svakodnevnih zadataka.329 Dok su glomazni PC-jevi na sebe još i svraćali paţnju kad bi se smrznuli, srušili ili se na koji drugi način ponašali neubrojivo, to je zvučalo sasvim utopijski. Danas više baš i ne zvuči. Mnoge računalne kompanije i softverske kuće sada govore da rade na tome da im proizvod bude u što većoj mjeri nevidljiv. “Silno sam uzbuĎen oko tehnologija koje potpuno nestanu iz vida”, izjavljuje Jack Dorsey, ugledni poduzetnik iz Silicijske doline. “To mi radimo s Twitterom, ali i sa Squareom (uslugom obrade kreditnih kartica na Internetu).”330 Kad Mark Zuckerberg Facebook naziva “komunalnom” uslugom, što čini često, time daje do znanja da ţeli da se društvena mreţa pretopi s našim ţivotom onako kako se to dogodilo s telefonskim sustavom i električnom mreţom.331 Apple je svoj iPad promovirao kao ureĎaj koji nam se “sklanja s puta”. U istom tonu Google reklamira Glass kao način da nam se “tehnologija makne s puta”. U nedavno je odrţanom govoru u San

Franciscu glavni inţenjer tvrtke Vic Gundotra istu parolu čak servirao i djeci cvijeća: “Tehnologija bi nam se trebala micati s puta kako bismo mogli ţivjeti, učiti i voljeti se.”332 Tehničare tu moţda moţemo optuţivati za bombastičnost ali ne i za cinizam. Oni zaista vjeruju da bismo bivali to sretniji što bi nam ţivot bio više kompjuteriziran. Uostalom, govore iz vlastitog iskustva. No, njihove su teţnje svejedno svrha same sebi. Da bi popularna tehnologija postala nevidljiva, ona prvo mora postati ljudima toliko bliska da se bez nje više ne mogu ni zamisliti. Tehnologija će nam postati neuočljiva tek onda kad nas posve okruţi. Justin Rattner, Intelov glavni tehnološki direktor, izjavio je kako očekuje da proizvodi njegove tvrtke ljudima postanu u toj mjeri dijelom “konteksta” da će im Intel uspijevati pruţati “sveobuhvatnu asistenciju”.333 Stavljanje kupaca u toliko ovisan poloţaj bi, nije teško pogoditi, slilo gomilu novca k Intelu i drugim računalnim kompanijama. Za tvrtku nema ništa bolje nego kad se mušterija pretvori u molitelja. Mogućnost da neka komplicirana tehnologija izblijedi u drugi plan, tako da se moţe upotrebljavati s minimalnim trudom i razmišljanjem, moţe biti jednako privlačna i onima koji bi se njome koristili i onima koji bi je prodavali. “Kad nam se tehnologija makne s puta, od nje bivamo osloboĎeni”, napisao je kolumnist New York Timesa Nick Bilton.334 Ali nije to tako jednostavno. Tehnologiju nećete učiniti nevidljivom pukim pritiskom na dugme. Ona nestaje tek nakon sporog postupka kulturne i osobne aklimatizacije. Dok se na nju navikavamo, tehnologija nad nama zadobiva sve veću moć. Ograničenja što ih ona postavlja našem ţivotu mi moţda ne primjećujemo, ali to ne znači da ih nema. Kako je istaknuo francuski sociolog Bruno Latour, nevidljivost tehnologije koju poznajemo je “neka vrsta optičke varke”. Ona nam zakriva pogled na to kako smo otvarajući se tehnologiji izmijenili sebe. Sredstvo kojim smo se izvorno koristili da bismo proveli neku našu namjeru počinje nam nametati svoje namjere, odnosno namjere svoga tvorce. “Ako ne uvidimo”, piše Latour, “u kojoj je mjeri upotreba neke tehnike, ma koliko jednostavne, izmjestila, prevela, izmijenila ili iskrivila izvornu namjeru, tomu je razlog naprosto taj da smo mijenjajući sredstvo promijenili cilj, kao i taj da smo, uz popuštanje volje, počeli ţeljeti nešto sasvim drugo od onoga što smo u početku htjeli”.335 Teška etička pitanja što ih otvara moguća budućnost programiranja robotskih automobila i vojnika - tko kontrolira softver? tko bira što će se optimizirati? čije namjere i interese kod odraţava? - jednako su relevantna

i za razvoj aplikacija kojima se sluţimo pri automatizaciji vlastitog ţivota. Kako se programi svojom snagom sve više razmahuju nad nama - oblikuju nam način rada, utječu na to koje informacije vidimo, kojim rutama putujemo, i djeluju na naše interakcije s drugima - oni se pretvaraju u neku vrstu daljinskog upravljača. Za razliku od robota i bespilotnih letjelica, mi imamo slobodu odbaciti softverske zapovijedi i prijedloge. Teško je, meĎutim, umaknuti njihovu utjecaju. Kad pokrećemo aplikaciju mi traţimo da nas se vodi - dajemo se na brigu stroju. Pogledajte pobliţe Googleove Karte. Kada putujete gradom i potraţite pomoć aplikacije, ona vam ne daje samo navigacijske savjete; daje vam i jedan način razmišljanja o gradovima. U softver je ugraĎena stanovita filozofija mjesta koja uz ostalo odraţava Googleove komercijalne interese, subjektivnost i pristranost njegovih programera, te snage i slabosti softvera kad je riječ o prikazivanju prostora. Google je 2013. izbacio novu verziju Karti: u njoj više ne nudi svakome isti prikaz grada, nego za vas generira posebnu kartu prilagoĎenu onome što Google percipira kao vaše ţelje i potrebe na temelju informacija koje je tvrtka prikupila o vama. Aplikacija će istaknuti obliţnje restorane i druga potencijalno zanimljiva mjesta koja su preporučivali prijatelji u vašoj društvenoj mreţi. Davat će vam upute koje odraţavaju vaše prijašnje odluke u navigaciji. Ono što vidite je, kaţe tvrtka, “uvijek jedinstveno prilagoĎeno vama u skladu s onim što ţelite obaviti upravo ovog časa”336 To zvuči privlačno, ali je ograničavajuće. Google izbacuje slučajnost u korist izoliranosti. Stišava tu zaraznu zbrku grada svojim algoritamskim antiseptikom. Ono što je, moţe se tvrditi, najvaţniji način gledanja na grad kao javno mjesto koje ne dijelite samo sa svojim kompanjonima nego i s neizmjerno raznolikom skupinom stranaca, gubi se. “Googleov urbanizam”, komentira kritičar tehnologije Evgenij Morozov, “urbanizam je osobe koja samoupravljanim automobilom hoće doći do trgovačkog centra. Karakter mu je dubinski utilitaran, čak sebičan, s malo ili nimalo brige za to kako se doţivljava javni prostor. U Googleovom svijetu javni prostor je naime samo nešto što se ispriječilo izmeĎu vaše kuće i restorana koji je dobio dobre preporuke, a vi umirete od ţelje da stignete do njega.”337 Ekspeditivnost iznad svega. Društvene mreţe na nas vrše neku vrstu pritiska da se prikaţemo onako kako to odgovara interesima i pristranostima tvrtki koje ih vode. Kroz vremensku crtu i druge dokumentarne funkcije Facebook potiče svoje članove da o svojoj slici u javnosti razmišljaju kao o nečem neodvojivom

od njihova identiteta. Hoće ih utjerati u jedno i jednoobrazno “ja” koje traje čitav ţivot i odvija se kao koherentna pripovijest koja počinje u djetinjstvu i završava se, pretpostavljam, smrću. To se uklapa u suţenu koncepciju ljudskoga ja i njegovih mogućnosti, koju zagovara tvorac Facebooka Mark Zuckerberg: “Imate jedan identitet. Danima u kojima ste jednu sliku ostavljali prijateljima i kolegama s posla a drugu ostalim ljudima koje poznajete vjerojatno se vrlo brzo bliţi kraj.” On čak tvrdi da je “imati za sebe dva identiteta primjer nedostatka integriteta”.338 To se gledište, što i ne iznenaĎuje, savršenu uklapa u Facebookovu ţelju da svoje članove zapakira kao uredne i koherentne skupove podataka, koje će isporučiti oglašivačima. Za tvrtku to predstavlja dodatnu korist utoliko što se briga o privatnosti tako doima manje utemeljenom. Ako imanje više nego jednog identiteta ukazuje na manjak integriteta, onda htijenje da se odreĎene misli i aktivnosti drţe i izvan pogleda javnosti ukazuje na neku karakternu slabost. No, koncepcija jastva koju Facebook svojim softverom nameće moţe gušiti. Naše ja rijetko je fiksno. Njega krasi stanovita mnogostranost. Ona izvire iz osobnog istraţivanja i mijenja se ovisno o okolnostima. To osobito vrijedi za mladost, kad je koncepcija sebe fluidna i podloţna ispitivanju, eksperimentiranju i revidiranju. Biti uguran u neki identitet, osobito već početkom ţivota, zna zatvoriti prilike za razvoj i ispunjenje osobe. Svaki softver u sebi sadrţi takve prikrivene pretpostavke. Pretraţivači, automatizirajući intelektualno traganje, daju prvenstvo popularnosti i recentnosti nad raznolikosti stavova, strogosti argumentacije i kakvoće izraţavanja. Kao i svi analitički programi, oni su pristrani u korist onih kriterija koji su podloţni statističkoj analizi, a na štetu onih koji podrazumijevaju iskazivanje ukusa ili drugih subjektivnih prosudbi. Algoritmi za automatizirano ocjenjivanje učeničkih sastava potiču na suho svladavanje mehanike pisanja. Takvi su programi gluhi za ton teksta, nezainteresirani za produbljenost znanja, i upravo sputavaju kreativno izraţavanje. Namjerno kršenje gramatičkih pravila moţe biti pravi uţitak za čitatelja, ali za računalo ono će biti oslobodiboţe. Sustavi preporuka, bilo da je riječ o filmu ili potencijalnom ljubavnom interesu, obraćaju se našim već formiranim ţeljama umjesto da nas stavljaju pred izazov nečeg novog i neočekivanog. On pretpostavljaju da nam je običaj draţi od pustolovine a predvidljivost od maštovitosti. Tehnologije kućne automatizacije, koje omogućuju da se stvari kao što su osvjetljenje, grijanje, kuhanje i kućna zabava detaljno programiraju, ţivotu u kući

nameću metronomski mentalitet. Oni suptilno potiču ljude na to da se adaptiraju na uvrijeţene rutine i rasporede, čime dom pretvaraju u nešto što više nalikuje na radno mjesto. Pristranosti u softveru mogu uzdrmati i društveno odlučivanje, ne samo osobno. Promovirajući samoupravljane automobile Google nabacuje ideju da će takva vozila dramatično smanjiti broj sudara, a moţda će ih i sasvim eliminirati. “Znate li da su automobilske nesreće najčešći uzrok smrti za mladog čovjeka?” kazao je Sebastian Thrun u svom govoru 2011. godine. “I znate li da su one gotovo sve posljedica ljudske greške, a ne strojne, i da ih strojevi utoliko mogu i spriječiti?”339 Thrunov je argument privlačan. Regulacijom opasnih aktivnosti kakva je voţnja društvo već odavna daje prednost sigurnosti, i svatko prihvaća ulogu koju tehnološka inovacija ima u smanjivanju rizika od nesreća i ozljeda. Ali čak ni ovdje stvari nisu tako crno-bijele kako se to Thrunu hoće. Mogućnost autonomnih automobila u prevenciji smrtonosnih i ostalih prometnih nesreća u ovom je trenutku još uvijek teoretska. Kako smo vidjeli, odnos izmeĎu strojeva i ljudskih pogrešaka je kompliciran i rijetko se odvija prema očekivanjima. Nadalje, društveni ciljevi nikad nisu jednodimenzionalni. Čak i ţelja za sigurnošću zahtijeva propitivanje. Oduvijek je jasno da zakoni, kao i norme u ponašanju, u sebi sadrţe kompromise izmeĎu sigurnosti i slobode, izmeĎu štićenja i riskiranja. Mi dopuštamo, katkad čak potičemo ljude da se upuštaju u opasne hobije, sportove i druge aktivnosti. Ispunjen ţivot, kako znamo, nije ţivot u savršenoj izolaciji. Čak i kad je riječ o donošenju ograničenja brzine na cesti, mi balansiramo izmeĎu sigurnosnih i drugih razmatranja. Teški i često politički prijeporni, takvi kompromisi utječu na to u kakvom društvu ţivimo. Pitanje je ţelimo li prepustiti softverskim tvrtkama da odlučuju o tome? Kad na automatizaciju gledamo kao na lijek za sve ljudske mane, iz vida nam izmiču druge opcije. Ţurba da se prihvate autonomni automobili mogla bi dovesti ne samo do sputavanja osobne slobode i odgovornosti; time nas se i odvraća od istraţivanja alternativnih načina da se smanji vjerojatnost prometnih nezgoda, primjerice boljom edukacijom vozača ili promicanjem masovnog prijevoza. A vrijedi primijetiti i to da je briga Silicijske doline za sigurnost u prometu, iako nedvojbeno iskrena, bila i selektivna. Ometenost uslijed upotrebe pametnih i ostalih mobilnih telefona posljednjih je godina postala jednim od glavnih uzročnika automobilskih sudara. Analiza Drţavnog vijeća za sigurnost pokazala je da četvrtina svih nesreća na cestama u SAD-u u 2011.

uključuje upotrebu mobitela.340 Google i druge tehnološke tvrtke su, meĎutim, uloţile malo ili nimalo truda u razvoj softvera koji bi preventivno djelovao na ljude da u voţnji ne telefoniraju, da se ne dopisuju i da ne pokreću aplikacije - što bi svakako bio skroman napor u usporedbi s projektiranjem automobila koji sam vozi. Trebamo pozdraviti vaţne doprinose koje računalne kompanije mogu dati društvu, ali ne bismo smjeli pobrkati njihove interese s našima.

Tajni kod Ako ne opaţamo komercijalnu, političku, intelektualnu ili etičku motiviranost ljudi koji pišu naš softver, kao i ograničenja svojstvena automatiziranoj obradi podataka, postajemo otvoreni za manipulaciju. Kako piše Latour, time riskiramo da pobrkamo svoje i tuĎe namjere i a da i ne primijetimo da je došlo do zamjene. A što se na tehnologiju više navikavamo, taj rizik se povećava. Jedna je stvar kad nam iz vida nestaju vodovod i kanalizacija, na čiju se prisutnost s veseljem adaptiramo. I ako ne znamo sami popraviti slavinu koja curi ili izaći na kraj s tvrdoglavim zahodom, obično nam je prilično jasno što te instalacije rade u našem domu, i zašto su tu. Takva je većina tehnologija koje su svojom sveprisutnošću postale nevidljive. Njihov je rad naočigled razumljiv - ili bar razaznatljiv - a to su i pretpostavke i interesi na kojima se temelji njihovo funkcioniranje. Tehnologije mogu imati nenamjeravane posljedice - slavina i zahod u stanu promijenili su način na koji ljudi razmišljaju o higijeni i privatnosti341 - ali rijetko su imale skrivenih namjera. Kad informacijske tehnologije postanu nevidljive dogaĎa se nešto sasvim drugo. I onda kad smo svjesni njihove prisutnosti u našem ţivotu, računalni sustavi su nam nepronični. Programski se kod ne izvršava nama pred očima, a u mnogim slučajevima je i zakonski štićen kao poslovna tajna. Čak i kad bismo ih i vidjeli, tekstovi programa većini nas ne bi ništa značili: pisani su jezicima koje ne razumijemo. Od nas su skriveni i podaci kojima se ti algoritmi hrane; oni se često spremaju u dalekim i dobro čuvanim podatkovnim centrima. Ne znamo mnogo o tome kako se podaci prikupljaju, za što se koriste, ni tko im moţe pristupiti. Sada kad se podaci pohranjuju u oblaku, a ne više na osobnim čvrstim diskovima, više čak ne moţemo sa sigurnošću znati ni kada se izmijenio ustroj sustava. Izmjene i dopune popularnih programa često se provode bez našeg znanja. Aplikacija kojom se sluţimo danas vjerojatno više nije ista ona aplikacija kojom smo

se sluţili jučer. Moderni svijet je oduvijek kompliciran. Fragmentiran na specijalizirana područja vještina i znanja, ovijen ekonomskim i drugim sistemima, on odbija svaki pokušaj da ga se shvati u potpunosti. Ali danas je sama ta kompleksnost skrivena od nas, u mjeri daleko većoj no što smo ikad prije doţivjeli. Zakrivena je iza umješno sačinjene jednostavnosti ekrana i prijateljskog, glatko sučelja. Okruţeni smo onime što politolog Langdon Winner naziva “prikrivena elektronička kompleksnost”. “Odnosi i veze” koji su “nekad bili dio svakodnevnog doţivljaja svijeta” kao manifestni u neposrednim interakcijama meĎu ljudima te onima izmeĎu ljudi i stvari, postali su “obavijeni apstrakcijom”.342 Kad nepronična tehnologija postane još i nevidljiva, mudro je zabrinuti se. Pretpostavke i namjere takve tehnologije tada se infiltriraju u naše ţelje i postupke. Više ne znamo da li nam softver pomaţe ili nas kontrolira. Mi jesmo za volanom ali ne moţemo sa sigurnošću znati tko je vozač.

9. Ljubav što livadu zbija Ima jedan stih kojemu se uvijek vraćam, a otkad radim na rukopisu ove knjige na umu mi je čak i češće nego inače. Djelo je najslaĎi san što trud ga znade. To je predzadnji stih jedne od najranijih i najboljih pjesama Roberta Frosta, soneta “Košnja”. Napisao ga je netom po prelasku u dvadeseto stoljeće kao mladić u dvadesetim godinama i mladi otac. Radio je kao poljodjelac, uzgajao kokoši i odrţavao nekolicinu stabala jabuka na maloj parceli u Derryju u drţavi Hampshire, koju je za nj bio kupio djed. Bilo je to teško razdoblje njegova ţivota. Imao je malo novca i ne mnogo mogućnosti. Prekinuo je studij na dva fakulteta, Dartmouthu i Harvardu, ne stekavši diplomu. Bio je neuspješan u nizu manjih poduzetničkih pokušaja. Bio je boleţljiv. Imao je noćne more. PrvoroĎeno mu je dijete, sin, s tri godine umrlo od kolere. Imao je teţak brak. “Ţivot je bio neopoziv” zapisat će kasnije Frost, “a meni je donosio zbrku”.343 No, baš se tih osamljenih godina u Derryju bio osovio kao pisac i kao umjetnik. U poljodjelstvu ga je nešto nadahnjivalo - moţda dugotrajan, samotan rad s mnogo ponavljanja, ili blizina ljepoti i nehajnosti prirode. Teret rada olakšavao mu je teret ţivota. “Ako se osjećam bezvremeno i besmrtno, to je zbog toga što sam tamo na pet ili šest godina bio izgubio osjećaj za vrijeme”, napisat će o svom boravku u Derryju. “Bili smo prestali navijati satove. Misli nam više nisu išle ukorak s vremenom jer smo zadugo prestali čitati novine. Da smo planirali ili predviĎali ono što nam se spremalo, od toga ne bi moglo biti ništa bolje.”344 U pauzama izmeĎu poslova na imanju Frost je nekako uspio napisati većinu pjesama za svoju prvu zbirku Dječakova oporuka; oko polovice pjesama za drugu, Sjeverno od Bostona; kao i lijep broj drugih pjesama koje će naći svoje mjesto u kasnijim zbirkama. “Košnja” iz Dječakove oporuke najveća je pjesma njegova derryjevskog razdoblja. To je pjesma u kojoj je pronašao svoj osobit glas: govorni i razgovorni, ali istodobno potajan i promišljen. (Da biste zaista razumjeli Frosta - ili bilo što, uključujući same sebe - potrebno je

nepovjerenja koliko i povjerenja.) Kao i mnoga njegova najbolja djela, “Košnja” ima enigmatičnu, gotovo halucinatornu kakvoću koju prikriva jednostavna i kućevna slika koju oslikava - u ovom slučaju muškarca koji kosi travnjak i prikuplja sijeno. Što je više čitate, postaje sve čudnija i čudnija: Samo jedan zvuk se pokraj šume čuo, Samo šapat zemlji moje duge kose. Što je šaptala? To nisam znao reći; Moţda nešto tek o sunčanoj vrućini, Nešto, moţda, kako svijet je utihnuo Zato je i šaptala bez glasa riječi. Ne bješe to san što lijene ure nose, Ni zlato što daju vile i patuljci: Išta svrh istine preslabo se čini Za iskrenu ljubav što livadu zbija U redove gdjeno venu cvjetni tuljci (Blijede orhideje), i gdje šmugne zmija. Djelo je najslaĎi san što trud ga znade. Iza duge kose sijeno šaptom pade.345 Danas rijetko traţimo pouku u poeziji, ali tu vidimo kako pjesnikov uvid u svijet moţe biti suptilniji i probirljiviji nego znanstvenikov. Frost je shvaćao značenje onoga što danas nazivamo “tok”, kao i bit onoga što danas nazivamo “otjelovljeno znanje” još puno prije nego su psiholozi i neurobiolozi za to ponudili empirijske dokaze. Njegov kosac nije nikakav retuširani seljak, romantična karikatura. On je poljodjelac, muškarac koji radi teţak posao po ljetnoj ţezi. On ne sanja o “lijenoj uri” niti “zlatu”. Njegove su misli na radu - tjelesni ritam košnje, teţina alata kojim rukuje, i otkosima što ih ostavlja oko sebe. On ne traţi neku veću istinu onkraj svoga posla. Rad je istina. Djelo je najslaĎi san što trud ga znade. U tom stihu ima tajne. Njegova snaga počiva na odbijanju da znači išta više ili manje od onoga što kaţe. No, čini se jasnim da Frost tim stihom, a i pjesmom, cilja na centralno mjesto djelovanja i u ţivljenju i u saznavanju. Samo se kroz rad koji nas dovodi u svijet pribliţavamo istinskom shvaćanju egzistencije, “djela” i činjenice. Razumijevanje se ne

stavlja u riječi. Ono se ne moţe eksplicirati. Ono nije ništa više nego šapat. Da biste ga čuli, trebate se posve pribliţiti njegovu izvoru. Rad, bilo umni bilo tjelesni, više je nego samo obavljanje posla. To je oblik promišljanja, način viĎenja svijeta sučelice, ne kroz staklo. Djelovanjem se ukida ono posredovno u percepciji, njime se pribliţavamo samoj stvari. Ono nas vezuje za tlo, implicira Frost, onako kako nas ljubav vezuje jedno za drugo. U antitezi transcendencije, radom stavljamo sebe na mjesto. Frost je pjesnik rada. On se uvijek vraća na te trenutke otkrivenja u kojima se djelatno ja proţima sa svijetom - kako će nezaboravno napisati u jednoj drugoj pjesmi, “za smrtne zaloge u igri kad se radi”. 346 Knjiţevni kritičar Richard Poirier u knjizi Robert Frost: Rad saznavanja s velikim je senzibilitetom opisao pjesnikovo viĎenje bitnosti i biti radnoga truda: “Svaki intenzivan rad koji je bio ovjenčan u njegovoj poeziji, poput košnje ili branja jabuka, dopire do vizija, snova, mitova koji su srţ stvarnosti, i svaki predstavlja njihov artikulirani oblik za onoga tko ga umije čitati s potrebnim izostankom izvjesnosti i s ravnodušnošću prema puko praktičnoj posesivnosti.” Znanje stečeno takvim trudom moţe izmicati poput kakva mutnog sna - što bi bilo upravo suprotno od algoritamskog i računalačkog ali “svojim mitskim nagnućem to je znanje manje sporedno nego što su to naizgled praktičniji rezultati rada, primjerice hrana ili novac”347 Kad se upustimo u neki posao, bilo tijelom bilo umom, sami ili uz koga drugoga, obično smjeramo nekom praktičnom cilju. Pogled nam je uperen ka proizvodu na kojem radimo - moţda je to stog sijena kojim ćemo hraniti ţivotinje. Ali kroz sam rad doći ćemo do dubljeg razumijevanja sebe i svoje situacije. Tu je najvaţnija košnja, a ne sijeno.

Radost u alatima Ništa od svega toga ne bi trebalo shvatiti kao napad na materijalni progres ili kao njegovo odbacivanje. Frost ne romantizira neku daleku, predtehnološku prošlost. Iako je očajavao nad onima koji su si dopustili da postanu “licemjeri u oslanjanju na sveto pismo moderne znanosti”,348 osjećao je blisko srodstvo sa znanstvenicima i izumiteljima. Kao pjesniku, s njima su mu zajednički bili i cilj i duh. Svi su oni bili istraţivači tajni zemaljskog ţivota, izlučitelji smisla iz materije. Svi su se bavili poslom koji, kako opisuje Peirier, “moţe proširiti sposobnosti čovjekova snivanja”.349 Za Frosta, najveća vrijednost “djela”, činjenice - bilo da ih se dohvaća riječima, izraţava umjetničkim radom ili se čine manifestnima alatom ili kakvim drugim izumom - u njihovoj je sposobnosti da proširuju

doseg individualnog znanja i time otvaraju nove putove opaţanja, zamišljanja i činjenja. U dugoj poemi “Kitty Hawk”, napisanoj potkraj ţivota, Frost slavi let braće Wright “U nepoznato / U uzvišeno”. Doţivljaj letenja te doţivljaj bezgraničnosti što ga on budi svojim su “prijelazom / u beskraj”, braća omogućila i svima nama. Njihov je pothvat bio prometejski. U odreĎenom smislu, napisao je Frost, Wrightovi su taj beskraj učinili “racionalno našim”.350 Tehnologija je jednako presudna za rad saznavanja kao i za proizvodni rad. Ljudsko je tijelo u svom priroĎenom, neokićenom stanju krhko. Ograničeno je; snagom, spretnošću, rasponom osjetila, računskom umješnošću, pamćenjem, i do granica svojih mogućnosti stiţe brzo. Ali tijelo obuhvaća um koji moţe zamišljati, ţeljeti i planirati postignuća koja samo tijelo ne bi moglo ispuniti. Na toj napetosti izmeĎu onoga što tijelo moţe postići i onoga što um moţe providjeti nastala je tehnologija, i ta napetost nju i danas oblikuje i gura naprijed. To je poriv čovječanstva da proširi sebe i svoje znanje i umijeće u prirodi. Ne čini nas tehnologija “poslijeljudskima” i “transhumanima”, kao što su nedavno dometnuli neki znanstvenici i pisci. Ona nas čini ljudskima. Nama je tehnologija u prirodi. Svojim alatima dajemo oblik našim snovima. Mi njih donosimo na svijet. Praktičnost tehnologiju moţda razlikuje od umjetnosti, ali i jedno i drugo izviru iz sličnog, navlastito ljudskog htijenja. Košenje trave je jedan od mnogih poslova za koje je ljudsko tijelo neprikladno. (Ako mi ne vjerujete, pokušajte.) Ono što koscu omogućava da obavlja taj posao, što mu dopušta da bude kosac, alat je kojim zamahuje, kosa. Kosac jest i mora biti unaprijeĎen tehnologijom. Kosca koscem čini njegov alat, a koščeva vještina u baratanju alatom ono je što za njega mijenja svijet. Svijet postaje mjesto u kojem on moţe djelovati kao kosac, u kojem moţe otkosima zbijati livadu. Ta ideja, koja se površinski moţe doimati trivijalnom pa čak i tautološkom, ukazuje na nešto elementarno o ţivotu i tvorbi našega ja. “Tijelo je naše općenito sredstvo imanja svijeta”, napisao je francuski filozof Maurice Merleau-Ponty u svojemu majstorskom djelu iz 1945. Fenomenologija percepcije.351 Naše fizičko ustrojstvo - činjenica da hodamo uspravno na dvije noge i na stanovitoj visini, da imamo par ruku sa sučelice smještenim palčevima, da imamo oči koje vide na odreĎeni način, da imamo stanovitu toleranciju na vrućinu i hladnoću - odreĎuje našu percepciju svijeta na način koji prethodi našim svjesnim mislima o

svijetu, a potom ih i oblikuje. Planine vidimo kao uznosite ne zato što bi one bile uznosite nego zato što našu percepciju njihove forme i visine oblikuje naš stas. Kamen pak vidimo, uz ostalo, i kao oruţje zato što nam upravo ovakva graĎa ruke i šake omogućuje da ga podignemo s tla i bacimo. Opaţanje je, baš kao i spoznavanje, otjelovljeno. Iz toga slijedi da svaki put kad ovladamo nekim novim umijećem mi ne mijenjamo samo naše tjelesne sposobnosti, nego i svijet. Svoj poziv ocean šalje plivaču ali ne i osobi koja plivati nije naučila. Sa svakom novom vještinom svijet se za nas preoblikuje otkrivajući sve veće mogućnosti. Postaje sve zanimljiviji, i sve nas više ispunjava. Moţda je na to ciljao Spinoza, nizozemski filozof sedamnaestog stoljeća koji se pobunio protiv Descartesova razdjeljivanja uma i tijela, napisavši: “Ljudski um sposoban je opaţati mnogošto, i ta mu je sposobnost to veća što mu je za to tijelo spremnije.”352 John Edward Huth, profesor fizike s Harvarda, svjedoči regeneraciji koja prati ovladavanje vještinom. Prije desetak godina, pod nadahnućem inuitskih lovaca i drugih velikih snalaţljivaca u prirodi, prihvatio se “samonametnutog programa učenja orijentacije pomoću obiljeţja okoliša”. Nakon više mjeseci rigoroznog promatranja i uvjeţbavanja na otvorenom, naučio se očitavati dnevno i noćno nebo, tumačiti kretanja oblaka i valova, dešifrirati sjene koje bacaju stabla. “Nakon godinu dana bavljenja time”, prisjeća se, “nešto mi je sinulo: način na koji vidim svijet opipljivo mi se promijenio. Sunce mi je izgledalo drugačije, baš kao i zvijezde. Hutha se ta bogatija percepcija okoliša stečena nekom vrstom “primarne empirije” dojmila kao “slična onome što ljudi opisuju kao duhovno buĎenje”.353 Omogućujući nam da postupamo i na način koji nadmašuje naša tjelesna ograničenja, tehnologija mijenja i našu percepciju svijeta i ono što svijet za nas znači. Transformativna moć tehnologije najvidljivija je u otkrivačkim alatima, od mikroskopa do ubrzivača čestica znanstvenika, do kanua i svemirskog broda istraţivača, ali tu moć ima svaki alat, uključujući one kojima se sluţimo u svakodnevnom ţivotu. Svaki put kad nam instrument omogući da njegujemo neko novo umijeće, svijet postaje drugačiji i primamljiviji, te poprištem još većih mogućnosti. Mogućnostima prirode nadodaju se mogućnosti kulture. “Ponekad se”, pisao je Merleau-Ponty, “značenje na koje ciljamo ne moţe postići prirodnim sredstvom tijela. Tada moramo konstruirati instrument, i tijelo će oko sebe onda projicirati kulturni svijet.”354 Vrijednost valjano sačinjenog i valjano korištenog alata počiva ne samo u onome što se njime

za nas stvara, nego i u tome što on stvara u nama. U najboljim izdanjima, tehnologija otvara nove prostore. Daje nam svijet koji je istodobno razumljiviji našim osjetilima i primjereniji našim namjerama - svijet u kojemu smo više na svome. “Moje tijelo je ugoĎeno svijetu onda kad mi percepcija daje njegov što je moguće raznolikiji i jasniji prikaz”, objašnjava Merleau-Ponty, “i kad moje motoričke namjere ostvarujući se primaju onaj odgovor prirode koji i očekuju. Taj maksimum jasnoće u percepciji i djelovanju odreĎuje percepcijsku osnovu, nit moga ţivota, opći milje koegzistencije moga tijela i svijeta.”355 Kad se koristi promišljeno i umješno, tehnologija postaje mnogo više nego sredstvo proizvodnje ili potrošnje. Ona postaje sredstvom doţivljavanja, i nudi nam više načina da nam ţivot bude bogat i angaţiran. Razmotrimo izbliza kosu. To je jednostavan ali veoma domišljat alat. Kosu su oko 500. pr. n. e. izumili Rimljani ili Gali, a sastoji se od zakrivljene oštrice, iskovane od ţeljeza ili čelika te pričvršćene za jedan kraj duge drvene motke, drţala. Drţalo obično pri polovini duljine ima malu drvenu ručicu, ili hvat, uz čiju pomoć cijelu napravu drţimo i njome baratamo dvjema rukama. Kosa je varijacija mnogo starijeg srpa, sličnog alata za sječu ali s mnogo kraćim zamahom, koji je izumljen u kamenom dobu i koji će kasnije imati bitnu ulogu u počecima razvoja poljoprivrede pa onda i civilizacije. Ono što kosu čini vrhunskim izumom samom po sebi je to što njezino dugo drţalo omogućuje rataru ili drugom radniku da travu s tla podsijeca u uspravnom poloţaju. Sijeno se tako moglo kositi, ţito ţeti a pašnjaci krčiti puno brţe nego prije. Poljoprivreda je napravila velik korak naprijed. Kosa je povećala produktivnost poljskog radnika, ali dobrobiti što ih je donijela seţu dalje od onoga što bi se moglo mjeriti prinosima. Kosa je bila pogodan alat, znatno prikladniji za tjelesni rad nego prije nje srp. Umjesto da se zgiba i povija, ratar je s njome mogao prirodno hodati s noge na nogu sluţeći se u radu objema rukama kao i punom snagom trupa. Kosa je sluţila i kao pomagalo u radu i kao poziv na vješt rad što ga je omogućila. U njezinu se obliku nazire model tehnologije u ljudskim razmjerima, model alata koji proširuje produktivne mogućnosti društva a da pojedincu pritom ne podsiječe domašaj djelovanja i opaţanja. Štoviše, kako u “Košnji” pojašnjava Frost, kosa intenzivira angaţiranost svog korisnika u svijetu, kao i njegovo shvaćanje svijeta. Kosac koji zamahuje kosom čini više, ali i zna više. Usprkos vanjskom prividu, kosa je alat uma

jednako koliko i tijela. Nisu nam svi alati toliko pogodni. Neki nas odvraćaju od umješnoga djelovanja. Digitalne tehnologije automatizacije, umjesto da nas pozivaju u svijet i potiču na razvoj novih umijeća koja nam uvećavaju percepciju i šire mogućnosti, često imaju suprotan učinak. One se projektiraju tako da nas ne pozivaju ni na što, dapače, one nas izvlače iz svijeta. To je posljedica ne samo prevladavajućih projektantskih obrazaca koji smjeraju tehnologiji, ikoji lakoću upotrebe i efikasnost stavljaju iznad svega ostalog. To odraţava i činjenicu da u našem osobnom ţivotu računalo postaje medijski ureĎaj, a njegov se softver pomnjivo programira tako da nam privuče i zadrţi paţnju. Kao što većina ljudi iz iskustva zna, računalni zaslon je intenzivno privlačan, ne samo zbog svojih korisnih svojstava nego i zbog mogućnosti razbibrige.356 Uvijek se nešto dogaĎa, i u svakom se trenutku na to moţemo priključiti uz najmanji napor. A ipak, ekran je iza svu svoju poticajnost i privlačnost, pust okoliš - on jest brz, djelotvoran, čist, ali otkriva tek sjenu svijeta. To vrijedi čak i za najbriţljivije izraĎene simulacije prostora kakve nalazimo u aplikacijama virtualne stvarnosti kao što su igre, CAD, trodimenzionalna kartografija te programi kojima se koriste kirurzi i drugi a kojima se upravlja robotima. Umjetni prikazi prostora moţda nam stimuliraju oči, a u manjoj mjeri i uši, ali ostala nam osjetila - dodira, mirisa i okusa - u pravilu ostavljaju bez ičega, i znatno nam ograničavaju tjelesne pokrete. Jedno istraţivanje na glodavcima, objavljeno u časopisu Science 2013., ukazuje na to da su stanice mjesta u mozgu mnogo manje aktivne kad se ţivotinje probijaju kroz računalno generirani krajolik nego kad se orijentiraju u stvarnom svijetu.357 “Polovina neurona jednostavno ušuti”, izvješćuje jedan od istraţivača, neurofizičar sa sveučilišta UCLA Mayank Mehta. On vjeruje da pad mentalne aktivnosti vjerojatno potiče od manjka “proksimalnih obiljeţja” - mirisa, zvukova i tekstura koji daju biljeg nekom mjestu - u digitalnom prostoru.358 “Karta nije teritorij što ga ona predstavlja”, slavno je primijetio poljski filozof Alfred Korzbynski,359 pa ni virtualni prikaz nije teritorij koji on predstavlja. Kad uĎemo u stakleni kavez, od nas se traţi da odbacimo velik dio svojega tijela. To nas ne oslobaĎa; to nas isisava. Tako dobiveni svijet u sebi ima i manje smisla. Kako se prilagoĎavamo na svoj pročišćeni okoliš, postajemo nesposobni opaţati ono što svijet nudi svojim najvjernijim stanovnicima. Nalik na onog mladog Inuita kojeg navode sateliti, mi putujemo vezanih očiju. Rezultat je

egzistencijalno osiromašenje, a priroda i kultura više nam ne šalju pozive na opaţanje i djelovanje. Naše ja moţe bujati, moţe rasti, jedino kad se susreće s “otporom okoline” i prevlada ga, napisao je John Dewey. “Okolina koja je uvijek i svuda pogodna izravnom izvršavanju naših poriva okončala bi rast jednako izvjesno kao što bi ga ometala i uništavala ona stalno neprijateljska. Poriv, svagda tjeran dalje, bezumno bi i lišeno svakog osjećaja išao svojim putem.”360 Naše vrijeme moţda jest vrijeme materijalnog komfora i čuda tehnike, ali je i doba apatije i besciljnosti. U prvom je desetljeću ovog stoljeća broj Amerikanaca koji uzimaju lijekove za depresiju i tjeskobu narastao za gotovo četvrtinu. Svaka peta odrasla osoba danas takve lijekove konzumira redovito.361 Prema izvještaju Centara za kontrolu i sprečavanje bolesti, stopa samoubojstava meĎu Amerikancima srednjih godina povećala se za gotovo 30 posto u istih deset godina. 362 Više od 10 posto američke školske djece i gotovo 20 posto dječaka srednjoškolske dobi dobilo je dijagnozu poremećaja nedostatka paţnje, a dvije trećine od te skupine uzimaju lijekove za ta stanja, kakvi su Ritalin i Adderall.363 Razloga za naše nezadovoljstvo je više i ne poznajemo ih ni izbliza dobro. Ali jedan od njih moţda je taj što u potrazi za egzistencijom bez otpora uspijevamo pretvoriti, kako kaţe Merleau-Ponty, tlo našega ţivota u pustaru. Lijekovi koji umrtvljuju ţivčani sustav način su ovladavanja našim vitalnim ţivotinjskim ćutilima, koja se tako skupljaju na veličinu koja bolje odgovara našoj skučenoj okolini.

Gospodari i robovi Frostov sonet, kao jedan od njegovih mnogih šapata, sadrţi upozorenje o etičkim opasnostima tehnologije. U koščevoj kosi ima i nešto brutalno. Ona će bez razlike sasjeći cvijeće - one njeţne, blijede orhideje - skupa s busenima trave.364 Ona straši neduţne ţivotinje, poput one svijetlozelene zmije. Tehnologija otjelovljuje naše snove, ali to čini i s drugim, manje dobroćudnim kvalitetama našega ustrojstva, kao što je naša volja za moći te arogancija i bešćutnost koji je prate. Frost se na tu temu u zbirci Dječakova oporuka vraća nekoliko stranica kasnije, u drugoj pjesmi o košnji sijena “Stručak cvijeća” Pripovjedač u pjesmi dolazi a svjeţe pokošenu livadu i, okom prateći let leptira u prolazu, usred pokošene trave spazi mali cvjetni otočić, “sabljasti cvat što kosa nije ţela”: Koscu tako bješe drag po rosi danas, Te ga ostavi da cvjeta, al ne za nas,

Ni da k njemu koja misao nam ode, Već od pukog milja jutarnjeg kraj vode.365 Raditi alatom nikad nije samo praktična stvar, kazuje nam Frost, delikatno kako mu je i svojstveno. To sa sobom uvijek nosi i moralne odluke i moralne posljedice. Na nama je, kao na tvorcima i korisnicima alata, da humaniziramo tehnologiju, da mudro ciljamo njenom hladnom oštricom. Od nas to traţi pozornost i briţnost. U mnogim se dijelovima svijeta kosa još uvijek upotrebljava u obiteljskom gospodarstvu. No, njoj nema mjesta na modernoj farmi, čiji je razvoj, kao i razvoj moderne tvornice, ureda i doma, zahtijevao sve kompleksniju i sve efikasniju opremu. Vršilica je izumljena 1780-ih, kosilica 1835. a balirka par godina kasnije, dok se kombajn počeo komercijalno proizvoditi potkraj devetnaestog stoljeća. Ritam tehničkog napretka u kasnijim se desetljećima samo ubrzavao, a danas taj trend doseţe svoj logični dovršetak kompjuterizacijom poljoprivrede. Rad na zemlji, koji je Thomas Jefferson smatrao najţivotnijim i najkreposnijim od svih zvanja, gotovo je potpuno prešao na strojeve. Ruke se u polju zamjenjuju “samovoznim traktorima” i drugim robotskim sustavima koji pomoću senzora, satelitskih signala i softvera sade bilje, gnoje i plijeve polja, ţanju i pakiraju urod, muzu krave i opsluţuju drugu stoku.366 U razvoju su robotizirani pastiri koji bi vodili stada kroz pašnjake. Da kose još i šapuću poljima industrijskih farmi, ne bi bilo nikoga blizu da ih čuju. Pogodnost pri sluţenju ručnim alatom ohrabruje nas na to da preuzmemo odgovornost za njihovu upotrebu. Budući da alat osjećamo kao produţetak vlastita tijela, dio sebe, nemamo ni izbora nego biti intimno uključeni u etičke odluke što ih pred nas postavlja. Kako u rukovanju alatom postajemo sve vještiji, prirodno nam jača osjećaj odgovornosti za njega. Kosac početnik kosu u ruci moţda osjeća kao strani objekt; umješnome koscu ruke i kosa postaju jedno. Vještina učvršćuje vezi izmeĎu alata i onoga tko ga upotrebljava. Taj osjećaj fizičkog i etičkog preplitanja ne mora izostati kako tehnologija postaje kompleksnija. Izvješćujući o svom samačkom preletu Atlantika 1929. godine Charles Lindbergh o svom avionu i sebi govori kao da su jedno te isto: “Mi smo preletjeli ocean, ne ja ili on.”367 Zrakoplov je bio kompliciran sustav koji obuhvaća mnoge sastavnice, ali za vještoga pilota još uvijek je imao

kakvoću ručnoga alata. Ljubav što zbija livadu je i ljubav koja, za čovjeka za upravljačkom palicom, putuje oblacima. Automatizacijom se ta veza izmeĎu alata i korisnika oslabljuje ne zato što su računalno upravljani sustavi kompleksni nego zato što oni od nas traţe tako malo. Svoj rad kriju u tajnom kodu. Opiru se svakom angaţmanu operatera osim minimalnom, tako obeshrabrujući razvoj vještine u njihovu korištenju. Automatizacija na kraju počinje djelovati kao anestetik. Naše alate više ne osjećamo kao dijelove sebe. U svom temeljnom članku iz 1960. pod naslovom “Simbioza računala i čovjeka” psiholog i inţenjer J. C. R. Licklider dobro opisuje taj pomak u našem odnosu prema tehnologiji. “U sustavima čovjek-stroj u prošlosti”, piše on, “ljudski operater je pruţao inicijativu, zacrtavao smjer, djelovao integracijski i postavljao kriterije. Mehanički dijelovi sustava bili su tek produţeci, prvo ljudske ruke a potom i ljudskog oka.” UvoĎenjem računala sve se to promijenilo. “„Mehanički produţetak‟ sada je postao automatizirana zamjena za ljude, a preostali ljudi su više netko kome treba pomoć nego netko tko pomaţe.”368 Što automatiziranije sve postaje, to lakše biva vidjeti tehnologiju kao neku nezamjenjivu, nezemaljsku silu koja je izvan naše kontrole i utjecaja. Pokušati mijenjati put njezina razvoja čini se uzaludno. Mi pritišćemo gumb i slijedimo programiranu putanju. Prihvatiti takav podloţnički stav, koliko god to bilo shvatljivo, značilo bi izbjegavati odgovornost za proces upravljanja. Robotizirani ţetelački stroj moţda nema nikoga na vozačkom sjedalu ali je proizvod svjesne ljudske misli jednako koliko i skromna kosa. Taj stroj moţda nismo ugradili u svoje moţdane karte ali na etičkoj razini on još uvijek funkcionira kao produţetak naše volje. Njegove namjere su naše namjere. Ako robot prestraši neku svijetlozelenu zmiju (ili joj učini nešto gore), krivica je i dalje na nama. Izbjegavamo i jednu dublju odgovornost: da nadziremo uvjete izgradnje vlastitoga ja. Računalni sustavi i softverske aplikacije pomalo preuzimaju sve veću ulogu u oblikovanju naših ţivota i svijeta, pa je naša duţnost biti više a ne manje uključeni u odluke o njihovu projektiranju i upotrebi - prije nego zamah tehnologije tu mogućnost zatvori. Trebamo paziti što stvaramo. Ako to zvuči naivno ili beznadno, razlog je tome to što nas je zavela metafora. Naš smo odnos s tehnologijom definirali ne kao odnos tijela i udova, čak ni kao odnos subraće i sestara, nego kao odnos gospodara i roba. Ta je zamisao veoma stara. Uhvatila je korijen u zoru filozofske misli Zapada: kako piše Langdon Winner, pojavila se s antičkim Atenjanima.369

Raspravljajući o funkcioniranju kućnog gospodarstva na početku svoje Politike, Aristotel je ustvrdio da su robovi i alati u biti jedno te isto, samo što robovi funkcioniraju kao “ţiva sredstva” a alati kao “neţiva sredstva” na usluzi gospodaru kućanstva. Kad bi alati nekako postali ţivi, mogli bi izravno nadomjestiti rad robova. “Samo je jedan uvjet pod kojim moţemo zamisliti da upravitelji ne trebaju podreĎene a gospodari robove” mudruje on dalje, anticipirajući dolazak računalne automatizacije pa čak i strojnog učenja. “Taj bi uvjet bio da svako [neţivo] sredstvo radi svoj posao, bilo na zapovijed bilo umnim predviĎanjem.” Bilo bi to “kao kad bi tkogod sjajnu i lijepu glazbu pripisa radije glazbalu negoli umijeću [glazbenika]”.370 Naše je mišljenje sve do danas ostalo obojeno poimanjem alata kao robova. S njime na umu društvo uvijek iznova sanja o emancipaciji od rada, koju su izricali Marx, Wilde i Keynes, a koja i dalje nalazi svoj izraz u djelima kako tehnofila tako i tehnofoba. “Wilde je bio u pravu”, napisao je kritičar tehnologije Evgeny Morozov u svojoj knjizi iz 2013. Ako želite snimite sve, kliknite ovdje: “mehaničko ropstvo ono je što omogućuje ljudsko osloboĎenje”.371 “Trebamo pustiti robotima da preuzmu stvar”, izjavio je u Wiredu iste godine tehno-entuzijast Kevin Kelly. “Oni će raditi poslove koje smo dosad radili mi, i radit će ih puno bolje nego mi to moţemo.” I više od toga, oni će nas osloboditi za otkrivanje “novih zadaća koje proširuju ono što jesmo. Dat će nam da se usredotočimo na to da postanemo ljudskiji nego prije.”372 Kevin Drum iz časopisa Mother Jones, takoĎer 2013., proglasio je da nas “očekuje robotski raj dokolice i kontemplacije”. Do 2040. će nas, predviĎa on, od rada izbaviti i u aţuriranu verziju Edenskog vrta uvesti naši superpametni, superpouzdani, superposlušni računalni robovi - “oni se nikad ne umaraju, nikad nisu loše volje i nikada ne griješe”. “Dane ćemo provoditi kako nam se prohtje, moţda u učenju, moţda u igranju kompjuterskih igara. To će biti na nama.”373 S tako obrnutim ulogama, iz te se metafore crpe noćne more društva o tehnologiji. Razmišljanje bi išlo ovako: time što postajemo ovisni o našim tehnološkim robovima, sami se pretvaramo u robove. Od osamnaestog stoljeća nadalje društveni kritičari rutinski oslikavaju tvornička postrojenja kao nešto što tjera radnike u kmetstvo. “Mase radnika”, pišu Marx i Engels u Komunističkom manifestu, “svakoga dana i svakoga sata porobljuje stroj”.374 Ljudi se danas svako toliko ţale da se osjećaju kao robovi svojih ureĎaja. “Pametni ureĎaji su nešto

oslobaĎajuće”, primjećuje The Economist u članku “Robovi mobitela” iz 2012. “Ali za većinu ljudi sluga je postao gospodar.”375 I još dramatičnije, ideja o ustanku robota, u kojoj se računala s umjetnom inteligencijom preobraţavaju iz naših robova u naše gospodare, već je cijelo stoljeće središnja tema distopijskih fantazija o budućnosti. I sama riječ robot, a 1920. ju je skovao pisac znanstvene fantastike, potječe od češkog robota, kmetstvo. Metafora gospodara i roba, osim što je moralno opterećena, iskrivljuje i način na koji promatramo tehnologiju. Ona raspiruje osjećaj da su naši alati nešto odjelito od nas samih, da naši instrumenti obavljaju neku o nama neovisnu djelatnost. Naše tehnologije počinjemo prosuĎivati ne po tome što nam omogućuju nego po njihovim navlastitim svojstvima kao proizvoda - po njihovoj pametnosti, novosti, stilu. Alat biramo po tome što je nov, moderan ili brz, a ne zato što bi nas potpunije unio u svijet i proširio nam osnovu za doţivljaje i opaţaje. Postajemo puki konzumenti tehnologije. Općenitije, ta metafora potiče društvo na simplističko i fatalističko gledanje na tehnologiju i progres. Ako pretpostavimo da naši alati djeluju u naše ime kao robovi, i uvijek rade ono što je nama u interesu, onda postaje teško braniti bilo koji pokušaj uspostave ograničenja tehnologiji. Svako nam njezino napredovanje daje više slobode i dovodi nas mrvicu bliţe, ako ne utopiji, onda bar najboljem od svih mogućih svjetova. Svaki pogrešan korak, govorimo sebi, ubrzo će se korigirati daljnjim inovacijama. Ako samo pustimo napredak da učini svoje, on će već naći lijeka za probleme što ih stvara. “Tehnologija nije neutralna nego sluţi kao u golemoj mjeri pozitivna snaga u ljudskoj kulturi”, piše Kelly, izraţavajući tako ideologiju Silicijske doline po kojoj je tehnologija svrha sama sebi, a koja je posljednjih godina ušla i u širi optjecaj. “Mi smo moralno obavezni imati sve jaču tehnologiju jer ona donosi sve više novih prilika.”376 Osjećaj moralne obaveze povećava se s napredovanjem automatizacije koja nam, naposljetku, donosi taj najţivlji mogući instrument, sredstvo, alat: robove koji, kako je anticipirao Aristotel, imaju najveću mogućnost da nas oslobode od rada. Vjerovanje u tehnologiju kao dobrohotnu, samozacjeljujuću, autonomnu silu moţe zavesti. Ono nam omogućuje da osjećamo optimizam prema budućnosti tako da nas istovremeno oslobodi odgovornosti za tu budućnost. Ona osobito dobro sluţi interesima onih koji su postali izvanredno bogati zbog efekata ušteda na radu i koncentracije dobiti, koje

donose automatizacija i računala koja je kontroliraju. Našim novim plutokratima ona pruţa junačku pripovijest u kojoj oni imaju glavne uloge: nedavni gubici radnih mjesta moţda jesu nezgodni, ali su nuţno zlo na putu ka konačnoj emancipaciji ljudske rase pomoću kompjuteriziranih robova koje pak proizvode naše dobrohotne korporacije. Peter Thiel, uspješan poduzetnik i investitor koji je postao jednim od najzapaţenijih mislilaca Silicijske doline, slaţe se da bi “revolucija u robotici u osnovi imala učinak gubitka radnih mjesta”. Ali, kako se poţurio dodati, “ona bi imala i pozitivnu posljedicu: ljudi bi dobili slobodu da se bave mnogim drugim stvarima”.377 Dobiti slobodu zvuči puno bolje nego dobiti otkaz. Takav grandiozni futurizam nije lišen bešćutnosti. Kako nas uči povijest, lebdeća retorika o upotrebi tehnologije radi oslobaĎanja radnika često prikriva prijezir prema radu. Pravi je napor za maštu i zamisliti da bi se današnji tehnološki moguli, sa svojim libertarijanskim sklonostima i nestrpljivošću prema drţavi sloţili s tako golemim sustavom redistribucije koji bi bio nuţan da se financira potraga za samoaktualizacijom u slobodnom vremenu nagomilanog mnoštva ljudi bez posla. Čak i kad bi društvo smislilo neku čarobnu formulu, ili magični algoritam, za ravnomjernu diobu plijena od automatizacije, itekako ima smisla sumnjati u to da bi time uslijedilo išta što bi imalo podsjećalo na “ekonomsko blaţenstvo” kakvo je zamišljao Keynes. U jednom vidovitom odlomku iz Vite active Hannah Arendt je primijetila da bi, kad bi se utopijsko obećanje automatizacije i obistinilo, rezultat bi vjerojatno više sličio neslanoj i okrutnoj šali nego raju. Cjelina je modernog društva organizirana kao “društvo najamnika” u kojemu je rad za plaću, pa onda trošenje te plaće, način na koji ljudi definiraju sami sebe i kojim mjere vlastitu vrijednost. Većina “viših i smislenijih aktivnosti” koje smo u daljnjoj prošlosti štovali izgurana je na marginu i zaboravljena, i “jedino samačke osobe još uvijek ocjenjuju ono što rade prema kriterijima rada a ne prema kriterijima zaraĎivanja za ţivot”. Kad bi tehnologija ispunila ustrajnu ţelju čovječanstva “da se oslobodi od „mnoţi jada rada”, u ovom bi trenutku to bilo perverzno. To bi nas bacilo još dublje u čistilište mrtvila. Automatizacija nas, zaključuje Arendt, suočava s “mogućnošću društva najamnih radnika bez najamnog rada, to jest bez jedine aktivnosti koja im je preostala. Nema sumnje, ništa gore od toga.”378 Utopizam je, shvaćala je, oblik pogrešno usmjerenog ţeljenja. Društveni i ekonomski problemi što ih automatizacija uzrokuje ili pogoršava neće se riješiti tako da na njih bacamo još novog softvera. Naši

neţivi robovi neće nas šofirati do utopije komfora i harmonije. Ako će se problemi riješiti, ili bar ublaţiti, javnost će se s njima morati suočiti u njihovoj punoj kompleksnosti. Da bi se osigurala dobrobit društva u budućnosti, moţda ćemo morati nametnuti ograničenja automatizaciji. Moţda ćemo morati učiniti pomak u gledanju na progres, odnosno pomaknuti naglasak s tehnološkog napretka na društveni i osobni procvat. Moţda čak budemo morali porazmisliti o nečemu što je postalo nepojmljivo, barem u poslovnim krugovima: da ljudima damo primat nad strojevima.

Parabola Godine 1986. kanadski je etnograf Richard Kool napisao pismo Mihalyju Csikszentmihalyiju. Kool je pročitao neke profesorove rane radove o toku i oni su ga podsjetili na istraţivanja koja je bio proveo na plemenu Shushwap koje ţivi u dolini rijeke Thompson u današnjoj pokrajini Britanska Kolumbija. Teritorij Shushwapa je “bogata zemlja”, piše Kool. Blagoslovljena je obiljem ribe i divljači, jestivog korijenja i bobica. Shushwapi nisu morali mnogo tragati za hranom da bi preţivjeli. Gradili su sela i smišljali “domišljate tehnike kojima se vrlo domišljato sluţe resursima svoga okoliša”. Svoj ţivot smatraju dobrim i bogatim. No, plemenski su starješine zaključili da tako lagodne okolnosti u sebi nose opasnost. I tako se Shushwapi svakih tridesetak godina, predvoĎeni starješinama, iskorjenjuju. Odlaze od kuća, napuštaju sela i kreću u divljinu. “Cijela bi se populacija”, izvještava Kool, “preselila na neki drugi dio teritorija koji im pripada”. I tamo bi otkrili novi niz izazova. “Trebalo je proučiti nove potoke, otkriti nove staze, pronaći gdje balzamov korijen ovdje raste u izobilju. Ţivot je sada opet imao smisla i vrijedit će ţivljenja. Svatko se osjećao pomlaĎeno i sretno.”379

Razbijanje kaveza E. J. Meade, arhitekt iz Colorada, rekao mi je nešto vrlo lucidno kad sam s njime razgovarao o uvoĎenju sustava za računalno projektiranje u njegovu tvrtku. Teţak dio posla nije bio naučiti sluţiti se softverom. To je bilo čak prilično lako. Teško je bilo naučiti kako se njime ne sluţiti. Brzina, lakoća i čista novost CAD-a činili su ga uzbudljivim. Prvi poriv projektanata tvrtke bio je zasjesti za računalo odmah na početku posla. Ali kad su se zagledali u svoj rad, uvidjeli su da im softver sputava kreativnost. Ubrzavao im je ritam rada ali im je i zatvarao estetske i funkcionalne mogućnosti. Kako su

Meade i njegovi kolege sve kritičnije razmišljali o učincima automatizacije, počeli su se opirati iskušenjima tehnologije. Počeli su “sve kasnije i kasnije prelaziti na kompjuter” u radu na projektu. U ranim su se, formativnim fazama rada vratili blokovima za skiciranje, folijama, kartonskim modelima i stiroporu. “U završnom dijelu je briljantan”, rekao je Meade sumirajući što je naučio o CAD-u. “Faktor pogodnosti je sjajan.” MeĎutim, “ekspeditivnost” računala moţe biti pogubna. Za neoprezne i nekritične, ona moţe zakriti druge, vaţnije probleme. “Da biste izbjegli da alat vama manipulira, morate se u njega itekako udubiti.” Otprilike godinu dana prije nego što sam razgovarao s Meadeom taman sam bio počeo raditi na ovoj knjizi - imao sam se priliku susresti s fotografom slobodnjakom kojeg su angaţirali na nekom sveučilišnom kampusu. Besposleno je stajao pod stablom čekajući da mu se nekakav nekooperativni oblak makne sa sunca. Primijetio sam da ima filmsku kameru velikog formata na glomaznom stativu - a bilo je to teško ne primijetiti jer je izgledalo apsurdno staromodno - pa sam ga pitao zašto još uvijek koristi film. Rekao mi je kako je prije nekoliko godina sav sretan bio prešao na digitalnu fotografiju. Filmske aparate i tamnu komoru zamijenio je digitalnom kamerom i računalom s najnovijom verzijom softvera za obradu slike. Nakon nekoliko mjeseci se vratio na staro. Nije bila riječ o tome da bi bio nezadovoljan radom nove opreme, ili razlučivošću i preciznošću slika. No, promijenio mu se pristup poslu, i ne na bolje. Ograničenja svojstvena fotografiranju na film i razvijanju takvih fotografija - cijena, trud, neizvjesnost - poticala su ga da na snimanju radi polako, promišljeno, odmjereno, s dubokim i fizičkim osjećajem prisutnosti. Prije nego bi nešto uslikao detaljno bi u glavi razradio kompoziciju, pazeći na osvjetljenje, boju, kadriranje i formu svakog prizora. Paţljivo bi pričekao pravi trenutak prije nego pritisne okidač. S digitalnim aparatom radio je brţe. Napravio bi gomilu slika jednu za drugom, i potom bi ih za računalom probirao pa doraĎivao one koje najviše obećavaju. Postupak kompozicije odvijao se nakon što je fotografija već bila načinjena. Ta je promjena isprva djelovala opojno. Ali rezultati su bili razočaravajući. Slike su ga ostavljale ravnodušnim. Film, shvatio je, nameće disciplinu u percepciji, u gledanju, koja dovodi do umjetnički bogatijih i dojmljivijih fotografija. Film je od njega zahtijevao više. I tako se vratio starijoj tehnologiji.

Ni arhitekt ni fotograf nisu bili ni najmanje neprijateljski raspoloţeni prema računalima. Ni jedan ni drugi nije bio motiviran apstraktnim razmatranjima o gubitku autonomije djelovanja. Nisu oni bili nikakvi kriţari. Obojica su samo htjela alat kojim najbolje obavljaju posao - alat koji bi im omogućavao da naprave nešto što ih najviše ispunjava najbolje što mogu, i da ih on na to potiče. No, spoznali su da najnoviji, najekspeditivniji alat s najviše automatike nije uvijek i najbolji izbor. Iako sam siguran da bi se nakostriješili da ih se usporedi s ludditima, njihova odluka da napuste najnoviju tehnologiju, bar u nekim fazama rada, bio je čin pobune koji podsjeća na pobunu tih starih engleskih razbijača strojeva, makar bez bijesa i nasilja. Kao i ludditi, i oni su shvatili da su odluke o tehnologiji istodobno i odluke o načinu ţivota i rada - i u tim su odlukama preuzeli kontrolu, umjesto da je predaju drugima ili se prepuste zamahu napretka. Napravili su korak natrag i kritički promislili o tehnologiji. Kao društvo, mi smo prema takvim postupanjima postali sumnjičavi. Zbog neznanja, lijenosti ili strašljivosti, luddite smo pretvorili u karikaturu, u znamen natraţnjaštva. Unaprijed pretpostavljamo da je svatko tko novi alat odbaci u korist staroga nostalgičar, netko tko odluke donosi sentimentalno a ne racionalno. Ali prava je pogreška sentimentalnosti baš ta pretpostavka da je nešto novo uvijek primjerenije našim ciljevima i namjerama nego ono staro. To je gledište djeteta, naivnog i povodljivog. To po čemu je jedan alat bolji od drugoga nema ništa s tim koliko je nov. Radi se o tome koliko nas on širi ili skuplja, kako oblikuje naš doţivljaj prirode i kulture te drugog čovjeka. Prebaciti odlučivanje o tkivu našeg svakodnevnog ţivota na neku velebnu apstrakciju zvanu napredak je budalaština. Tehnologija oduvijek potiče ljude na razmišljanje o tome što im je u ţivotu vaţno. Potiče ih da se upitaju, kako sam natuknuo na samom početku ove knjige, što znači biti ljudsko biće. Automatizacijom se taj ulog još više podiţe, jer se ona širi i zahvaća i najintimnija područja našeg ţivljenja. Moţemo si dopustiti da nas nosi struja tehnologije, kamo god nas vodila, ili moţemo zaplivati protiv nje. Opirati se invenciji nije isto što i odbacivati je. Riječ je o tome da se u invenciju unese skromnost, da se napredak prizemlji. “Otpor je uzaludan”, kako glasi skliski klišej iz Zvjezdanih staza, koji tehničari oboţavaju. Ali to je baš suprotno od istine. Otpor nikad nije uzaludan. Ako je izvor naše vitalnosti, kako nas je učio Emerson, “aktivna duša”,380onda je naša najuzvišenija duţnost opirati se svakoj sili, institucionalnoj, komercijalnoj ili tehnološkoj, koja tu dušu čini

nemoćnom i mlitavom. Jednu je od najdivnijih stvari u vezi s nama najlakše previdjeti: sa svakim srazom s realnim mi produbljujemo svoje razumijevanje svijeta i potpunije postajemo njegovim dijelom. Kad se hrvamo s nekim izazovom, u tome nas moţda motivira iščekivanje cilja naših napora, ali kako je Frost shvaćao, rad nas - dakle, sredstvo - čini onime što jesmo. Automatizacijom se ciljevi razdvajaju od sredstava. Dobiti ono što ţelimo postaje lakše, ali njome se udaljavamo od rada saznavanja. Dok se preobraţavamo u bića zaslona, suočavamo se s istim egzistencijalnim pitanjem s kojim su se borili Shushwapi: prebiva li bit još uvijek u onome što znamo, ili se odsad zadovoljavamo time da nas definira ono što moţemo? To zvuči vrlo ozbiljno. Ali cilj je radost. Aktivna duša je laka srca. Uzimajući alate natrag sebi, tako da ponovno postanu dijelom nas, moţemo uţivati u slobodi koju pogodna tehnologija nudi kad za nas potpunije otvara svijet. Zamišljam si da je to ona sloboda koju su, mora biti, osjećali Lawrence Sperry i Emil Cachin onog proljetnog dana u Parizu prije stotinu godina, kad su se verali po krilima svoga dvokrilca Curtiss C-2 sa ţiroskopskim stabilizatorom i, puni straha i uţitka, nadlijetali sudačke klupe i ispod sebe vidjeli lica u mnoštvu, u divljenju okrenuta nebu.

Zahvale Moto ove knjige je završna kitica pjesme Williama Carlosa Williamsa “Za Elsie”, objavljene 1923. godine u časopisu Spring and Ali. Duboko sam zahvalan onima koji su mi, kao sugovornici, recenzenti ili korespondenti pruţili svoju pomoć i ponudili svoje uvide. To su: Claudio Aporta, Henry Beer, Véronique Bohbot, George Dyson, Gerhard Fischer, Mark Gross, Katherine Hayles, Charles Jacobs, Joan Lowy, E. J. Meade, Raja Parasuraman, Lawrence Port, Jeff Robbins, Jeffrey Rowe, Ari Schulman, Evan Selinger, Betsy Sparrow, Tim Swan, Ben Tranel i Christof van Nimwegen. Stakleni kavez je moja treća knjiga koja je izašla pod ravnanjem uredničke ruke Brendana Curryja u W. W. Nortonu. Brendanu i njegovim kolegama zahvaljujem na trudu. Na mudrim savjetima i podršci zahvaljujem i mom agentu Johnu Brockmanu i njegovim suradnicima u tvrtci Brockman. Pojedini odlomci ove knjige u drukčijem su obliku već objavljivani u časopisima i novinama Atlantic, Washington Post, MIT Technology Review, te na mom blogu Rough Type.

Kazalo 60 minuta (TV emisija) 36 Abbott, Kathy 64 Adams, Thomas 214 adaptivna automatizacija 185-186 ADHD, poremećaj hiperaktivnosti uslijed nedostatka paţnje 245 Airbus A320, putnički avion 59-61, 175 Ako ţelite snimite sve, kliknite ovdje (Morozov) 249 alati 76-78, 89, 94-95, 120-123, 167, 179, 242-243, 247-250, 255-256 Albaugh, James 68 algoritmi za provjeru pravopisa 203 algoritmi i etika 209, 213 prediktivni 44, 128-129, 134-136 algoritmi za ocjenjivanje pismenih sastava 229 Amazon 130, 218 American Machinist (časopis) 42, 195 Andreessen, Marc 48 Android 174, 222 aplikacije 19-20, 24, 89, 130, 196, 202-203, 227-228, 248 i ludifikacija 202 Aporta, Claudio 144 Apple 38, 130, 153, 226 Arendt, Hannah 120, 252 arhitekti, arhitektura 19, 80, 154-158, 159-164, 187-188, 253-254, 255 Aristotel 161, 248-249, 251 Aronowitz, Stanley 35

Arthur D. Little 45 Arthur, W. Brian 219-220 Asimov, Isaac 212 Asimovljeva pravila robotike 207, 212, 233 Associated Press 37 automatičnost 92-96, 118, 196 “Automation Surprises” (Sarter, Woods i Billings) 182-183 automatizacija definicija i etimologija 41-42, 51 hijerarhija 123, 127 i Yerkes-Dodsonov zakon 102-104, 186 ograničenja 252 slabljenje spone alata i korisnika 247-248 s okosnicom u tehnologiji, odnosno u čovjeku 214 automatizacija (Illingworthova karikatura) 27, 41 Automatizacija i upravljanje (Bright) 123-124 Automatizacija: prijatelj ili neprijatelj? (Macmillan) 27-28 automatizacijska pristranost 80-82, 95, 117, 134, 177 automatiziranje (proceduralizacija) 92 automatski mjenjač brzina 20 automobili i voţnja automobila automatizacijska pristranost 83 autorova iskustva 11 -13, 20, 91 GPS u automobilu 145-147, 153 i pospanost 82 nesreće 15, 83, 103, 174, 175, 209, 230 ručni i automatski mjenjač brzina 11-13, 20 samoupravljajući 13-16, 177, 206-207, 231 autonomija 25, 45, 70, 119, 120, 145, 202 autopilot 9, 16, 53, 56-59, 61, 71, 174, 175 Autor, David 40 Bainbridge, Lisanne 177-178

banke, bankarstvo 88, 127-128, 191 Baxter, Gordon 88 Berardi, Franco 130 bespilotne letjelice, napadi 68, 210-212, 227 Bhana, Hemant 62 Bhide, Amar 88 bicikli 17, 23, 60, 70, 225 Big Data (Cukier i Myer-Schonberger) 134 Billings, Charles 182-183, 198 Bilton, Nick 226 Boeing 35, 69, 189-190 Boeing 737 65 bogatstvo 30, 37, 40, 130 Bogatstvo naroda (Smith) 29 bolest 81, 114, 118, 126 Bombardier Q400 turbopropelerac 53-54 Bonin, Pierre-Cédric 55, 190 Braverman, Harry 121-122 Bright, James 123-124, 125, 127 Brillhart, Jacob 163 Brin, Sergey 222-224 Brooks, David 145, 149 Brynjolfsson, Erik 36, 37 Budućnost bez posla (Aronowitz i DiFazio) 35 burzovno trgovanje, brokeri 88, 128, 130, 135, 177, 191-192, 193 Bush, George W. 106 Buzsaki, György 151 C-54 Skymaster, transportni avion 58-59

Cachin, Emil 56 CAD, računalno potpomognuto projektiranje 155-158, 159, 161-162, 187188, 244, 253 Campbell, Donald T. 134 Canadiers, Felix P 194-195 Chabris, Christopher 223 Churchill, Winston 156 CIA 132 Cisco 218 Clark, Andy 166, 167 Clarke, Arthur C. 220 Colgan Air 54 Concours de la Sécurité en Aéroplane 56 Continental Connection (avioprijevoznik) 53, 54 Cowen, Tyler 38 Crawford, Kate 135 Crawford, Matthew 164 Cross, Nigel 160 crtanje i skiciranje 147, 155, 159-162, 188, 254 Csikszentmihalyi, Mihaly 21-23, 25, 96, 253 Cukier, Kenneth 134 Curtiss C-2, dvokrilac 56 čitanje, učenje 92-93 DARPA 186 Dassault 157 Deep Blue 19 demencija 152 depresija 245

Descartes, René 165, 241 Designerly Ways of Knowing (Cross) 160 Dewey, John 165, 166, 244 DiFazio, William 35 Digitalni Apolon (Mindell) 69-70 dijabetes 138 dislociranost 150 Dječakova oporuka (Frost) 237, 246 dobrobit 24, 110, 252 Dodson, John Dillingham 101-102 doktor Algoritam 174, 176 Dorsey, Jack 225 Dorsey, Julie 188 dosada 13, 22-23, 30, 69, 178 Dostrovsky, Jonathan 150 dot-com, balon 35, 130, 216, 218 Dreyfus, Hubert 93 Drum, Kevin 249 društvene mreţe 129, 157, 204-205, 226, 228 Dyson, Freeman 196 Dyson, George 28, 125 Ďainizam 208 Eagle, Alan 196 Ebbatson, Matthew 65, 67 ekonomija, ekonomika 129, 183- 184, 192-194, 218-220, 252 ekonomisti 16, 25, 30, 32, 34, 36-38, 39, 121 ekonomska kriza 1930-ih 33-34, 36, 46 ekonomska kriza 2008. 35-36, 88

ekonomska stabilnost 28, 34 ekonomski rast 30, 35, 37-38, 40-41, 130 ekspertni sustavi 87-88, 127, 186-187 električna mreţa 218-219, 226 Emerson, Ralph Waldo 23, 256 ergonomija i inţenjerstvo ljudskog faktora 64, 103, 178-184, 185-186, 191 evolucija 152, 154 Experience Music Project 156 Facebook 23, 204-205, 224, 226, 228-229 Farrell, Simon 85 Fenomenologija percepcije (Merleau- Ponty) 241 Financijski slom (2008) 35, 88 Fitts, Paul 179 Flow (Csikszentmihâlyi) 21 Ford, Motor Company 41-42 Ford Pinto 13 fotografija, filmska/digitalna 254-255 Francuska 180, 192 Frankenstein, Julia 146 Frost, Robert 236-238, 239-240, 243, 245-246 futurizam 251 Gallagher, Shaun 167 Gates, Bill 220 Gawande, Atul 117 Gehry, Frank 156-157 General Electric 38, 109, 195, 218 General Motors 35 Gensler 187

Giedion, Sigfried 51 Gilbert, Daniel 22 Goldberger, Paul 158 Google 196, 218 Google automobili 13-16, 18, 19, 20, 174, 175, 230, 231 Google Glass 153, 222-224, 226 Google Maps 149, 153, 227-228 Google Now 222 Google Suggest 204, 222 Google Ventures 128 Gorman, James 151 GPS 19, 61, 79, 80, 81, 142-143, 144, 145-147, 148-154 “GPS i kraj puta” (Schulman) 150 Graves, Michael 159, 160, 162 Gray, J. Macfarlane 44 Groopman, Jerome 110, 118 Gross, Mark 188 Gundotra, Vic 226 Harris, Don 62, 72 Hartzband, Pamela 110 Hayles, Katherine 20 Heidegger, Martin 164 Hendren, Sara 147 Heyns, Christof 211, 214-215 Hipokrat 178 Hoff, Timothy 113, 114 Hoover, Herbert 33 Hughes, Thomas 192, 219 humanizam 180, 181, 185-187, 246

Huth, John Edward 241 iBeacon 153 IBM 35, 131-132, 218 identitet 69, 228 IEX 191 Illingworth, Leslie 27 industrija alatnih strojeva 194-195 industrijska revolucija 29, 32, 35, 39, 44, 180, 218 industrijski planeri 45, 179 informacije i samozadovoljstvo automatizacijom te automatizacijska pristranost 83 podopterećenje 103, 186 preopterećenje 94, 186, 217 informatičari 177, 180 infrastruktura 218-222, 224 Ingold, Tim 149 integrirana razvojna okolina (IDE) 89 Intel 226 inteligencija 126, 134, 168 ljudska i umjetna 18 vidi i umjetna inteligencija 250 Internet 20, 40, 90, 168, 186, 196 internet stvari 218 intuicija 66, 118, 132, 133, 160 inuitski lovci 142-143 iPad 153, 174, 226 iPhone 20, 153 Izazov! (TV-kviz) 131, 132 Jacquardov tkalački stroj 44

jednostavnost 203, 232 Jefferson, Thomas 180, 246 “Jesu li ljudska bića nuţna?” (Russell) 46 jezik 93, 128 obrada prirodnog jezika 126 Jobs, Steve 217 Jones, Michael 149, 153, 168 Kako mislimo (Hayles) 20 Kako razmišljaju liječnici (Groopman) 118 kapitalizam 30, 35, 39, 121, 180 kapitalna ulaganja 25, 36, 38, 40 karte kognitivne 146, 152 računalne i papirne 62, 144, 145-147, 149, 153, 227 kartezijanski dualizam 165 kaskadne pogreške 176 Kasparov, Garry 19 Katsuyama, Brad 191 Kay, Rory 68 Kelly, Kevin 174, 249, 250 Kennedy, John 34 Kessler, Andy 174 Keynes, John Maynard 34, 249 Khosla, Vinod 174 Kibernetika i društvo: ljudska upotreba ljudskih bića (Wiener) 44-46 kiborzi 9 Kina 38, 187 “Kitty Hawk” (Frost) 239 Klein, Gary 135

Knight Capital Group 177 kockarski automati 202 Komunistički manifest (Marx i Engels) 249 koncentracija 223 kontrola zračnog prometa 191, 193 kosa 240, 242-243, 246-247, 248 kosilice, robotske 208 košnja 238, 240, 246 “Košnja” (Frost) 236, 237-238, 243, 245 Kraj rada (Rifkin) 35 kriva ţelja 22 Krueger, Alan 38 Krugman, Paul 40 kultura 136, 148, 221 Kurzweil, Ray 204, 222 Langewiesche, William 60, 190 Latour, Bruno 227, 231 Lee, John 184, 186, 187, 189 LeFevre, Judith 21, 22, 25 Levasseur, Émile 32 Leveson, Nancy 176 Levesque, Hector 133, 134 Levy, Frank 16, 18 Lewandowsky, Stephan 85 Lex Machina 129 Licklider, J. C. R. 247 Lieberman, Matthew 165 liječnici 39, 106-108, 118, 193 “doktor Algoritam” 174, 176

e-kartoni 106-112, 112-117, 125-127, 135 i tzv. medicina temeljena na dokazima 127 komunikacija s pacijentima 115-117 medicinska dijagnostika 18, 81-82, 112, 113-115, 117, 125, 126-127, 132, 176 medicinske pretrage 111, 112, 138 lijekovi 116, 176, 245 Lindbergh, Charles 247 Lown, Beth 115, 116, 117 ludditi 30-31, 118, 255 ludifikacija (gejmifikacija) 202 Ludlam, Ned 31 MacCormac, Richard 159 Macmillan, Robert Hugh 27-28, 29, 46 mamografija 81, 112 Marcantonio, Dino 158 Marcus, Gary 92, 207 Marx, Karl 28, 31, 49, 77, 249 Marx, Leo 180 matematičari 131, 177 materijalnost 161, 162, 163 Mayer-Schönberger, Viktor 134 McAfee, Andrew 36, 37 Meade, E. J. 163, 253-254 Medicare 111 meĎuzavisne mreţe 176 Mehanički pijanino (Vonnegut) 46 Mehta, Mayank 244 Meinz, Elizabeth 94 Meister, David 180

menadţment 87-88, 121, 127, 129, 186 Mercedes-Benz 153 Merholz, Peter 203 Merleau-Ponty, Maurice 240, 242, 245 metafora gospodara i roba 249-251 Microsoft 218 mikročipovi 15, 19, 216, 218 mikrolokacijsko praćenje 153 Mindell, David 69-70 miševi koji plešu 100-102 Miš koji pleše (Yerkes) 100 MIT 195 Mitchell, William J. 155 mit o supstituciji 78, 110, 216 mobitel 20, 148, 218, 222, 223, 224, 231, 250 Mooreov zakon 47, 48 Morozov, Evgeny 228, 249 Moser, Edvard 151 Moser, May-Britt 151 motivacija 21, 95, 128, 136, 178, 202, 231 motiv dobiti 24, 180 mozak hipokampus 150-154 i koncentracija 223-224 i orijentacija 150-152, 244 i računalo 94-95, 168, 193, 204-205 i znanje 90-91, 165-167 m. pilota 66, 189-190, 223 računala u usporedbi s m. 47, 131-132, 168, 204 moţdana kora unutarnji nosni dio 151, 152 vidni dio moţdane kore 93

Murnane, Richard 16, 18 Musk, Elon 16 Nadin, Mihai 91 naočale, kompjuterizirane 153, 222-224 NASA 60, 64, 67 navigacijski sustavi 79, 80, 143, 144-147, 153-154, 227-228 navoĎenje bombi 58 nesreća u Buffalu 53-54 nesvjesni um 66, 94, 165 neuralne mreţe 126, 131 neuroergonomski sustavi 186 neuromorfni čipovi 126 neuroni 92 “stanice mjesta” 150-151, 153, 244 “stanice rešetke” 151 neuroznanost 85, 150, 166 Nimwegen, Christof van 86-87, 203 Noble, David 194 Norman, Donald 181 Nova podjela rada (Levy i Murnane) 16 Noyes, Jan 64 NSA 132, 221 numerička kontrola 195 Njemačka ideologija (Marx) 49 Oakeshott, Michael 136 Obama, Barack 107 obrazovanje 132, 219

Oculus Rift 224 oči 223-224 mreţnica 166 Ofri, Danielle 114-115 O‟Keefe, John 150, 151 otjelovljena spoznaja 166-167, 238 Ovisnost s namjerom (Schüll) 202 Pallasmaa, Juhani 162 pametni sat 224 paradoks automatizacije 103 Parameswaran, Ashwin 128 Parameters (vojni časopis) 214 parametrizam 157 “manifest parametrizma” (Schumacher) 158 Parasuraman, Raja 63, 78, 82, 187, 196 parobrod 44 Pavlov, Ivan 100 percepcija 16, 134, 142, 161, 223, 243 Piano, Renzo 155, 158, 159 piloti i tuneliranje paţnje 223 plaće 69 plaće i nadnice 27, 32, 34, 35-40, 41, 109, 129, 252 u pilota 69 Platon 165 podatkovni fundamentalizam 135 Poirier, Richard 238 pokretna traka 218 Politika (Aristotel) 248-249 poljoprivreda 119, 242-243, 246-247 Popular Science (časopis) 57

posao, zaposlenje 22-23, 41, 239 kako se mijenja s automatizacijom 24, 29-31, 41-42, 62, 68-69, 8081, 216 onestručavanje 30, 64, 69, 89, 119-123, 127-130, 178 tehnološka nezaposlenost 34, 35-40, 221 Post, Wiley 57, 63, 66, 71, 93 povratna sprega 43-44, 123, 189 pravnici, pravo 128-129, 186 Predator (bespilotna letjelica) 210 prepoznavanje obrazaca 16, 19, 66, 67, 92, 94, 126, 130 pretraţivači 89-90, 203, 229 preuranjena fiksacija 161 Priestley, Joseph 180 pripravništvo 121-122, 125, 128, 143, 163-164 programeri 40, 89, 177, 180, 182, 184, 195, 203, 214 programi za obradu teksta 113, 155 program za provjeru pravopisa 78, 203 Proizvodne snage (Noble) 194 projektiranje i dizajn parametarsko 157-158 Projektiranje sigurnijeg svijeta (Leveson) 176 proksimalna obiljeţja 244 prometne nesreće: automobilske 15, 83, 103, 174, 175, 209, 230 avionske 9, 53-55, 63-66, 175, 190-191, 193 proročki stroj 132 prosvjetiteljstvo 180 psihologija, psiholozi 16, 18, 21-22, 55, 64, 85, 94, 116, 131, 135, 165, 166, 177-178 i istraţivanja na ţivotinjama 100-102 kognitivna 22, 83, 86, 92 psihomotoričke vještine 67, 92

“Racionalizam u politici” (Oakeshott) 136 računalne igre 86, 200-202 računalne igre kao model 244 računalni simulacijski modeli 106, 110 računarstvo u oblaku 218, 225, 232 računovoĎe, računovodstvene tvrtke 87-88 Rad i monopolski kapital (Braverman) 121-122 radnici informacijski 40, 129 metalski 123 radnici sa znanjem 123-124, 194 radnička zanimanja 31-32, 35-41, 119-123, 251 radnički sindikati 33, 44-45, 195 radnički štrajkovi 44 rak 81, 132 RAND 106-108, 109-110 Rattner, Justin 226 Reaper (bespilotna letjelica) 210 recesija, kriza 35, 39-40 Red Dead Redemption (igra) 200 rendgen 81, 112 Renslow, Marvin 53, 54 Revit (program) 163 revizori u korporacijama 87, 127 Rifkin, Jeremy 35 Robert, David 55, 190 Robert Frost (Poirier) 238, 239 Roberts, J. O. 71 robotika, roboti 38, 40, 47-48, 221 bit 43

etička pitanja 206-209, 227, 248 mogućnosti 16, 28, 36, 174, 177 roboti kao replike ljudi 43, 45 ubojice 210-215 Rodriguez, Dayron 115 Roomba (usisavač) 207 ropstvo, robovi 29, 33, 248-251, 252 Royal Bank of Canada (RBC) 191 Rubin, Charles 209 Ruka koja misli (Pallasmaa) 162 Russell, Bertrand 29, 46 Saint-Exupéry, Antoine de 61, 63 samoobnavljanje 149 samozadovoljstvo automatizacijom 78-80, 85, 156 samozadovoljstvo automatizacijom i automatizacijska pristranost 78, 82, 83, 95 Sarter, Nadine 97, 182-183, 198 Scerbo, Mark 103 Schön, Donald 159, 161 Schüll, Natasha Dow 202 Schulman, Ari 150 Schumacher, Patrik 158 Science (časopis) 84, 90, 244 senzori 15, 43, 44, 45, 47, 55, 61, 123, 176, 208, 218 Shaw, Rebecca 53, 54 Shop Class as Soulcraft (Crawford) 164 Shushwap (pleme) 253 sigurnosno upozorenje avioprijevoznicima (SAFO) 9 Silicijska dolina 40, 149, 231, 250 “Simbioza računala i čovjeka” (Licklider) 247

Simons, Daniel 223 Singhal, Amit 89 Sketchpad (program) 155 SketchUp (program) 163 Skidelsky, Robert 39 Skinner, B. R 202 Slamecka, Norman 83, 85 sloboda 29, 227, 249-251, 256 slobodno vrijeme 19 i rad 21-23 Small, Willard 100 Smith, Adam 29-30, 34, 119-120 smrtonosni autonomni roboti (SAR) 211-212 sociologija, sociolozi 35, 80, 121, 134 sociotehnološki nadsistem, razvoj 219 Specialmatic 194-195 Spence, Michael 37 Sperry, Elmer A. 56 Sperryjev autopilot 56-58 Sperry, Lawrence 56, 63 Sperry (tvrtka) 58 Spinoza, Baruch 241 stabla odlučivanja 126 standardizacija 120, 121, 127, 204 Stanton, Neville 103 strojno učenje 126, 212 “Stručak cvijeća” (Frost) 246 Sullenberger, Chesley 175, 190 Sutherland, Ivan 155

šah 19, 134 tablet (računalo) 19, 174, 188, 218, 224 Talisse, Robert 96 Taylor, Frederick Winslow 120, 121 TED (konfencija, 2013) 222-224 teretni promet 219-220 Tesla Motors 16 Thiel, Peter 251 Thomis, Malcolm 30 THOR (program) 191 Thrun, Sebastian 13-14, 230 tjeskoba 22, 27, 245 tkanje, tkalci 30, 44, 77 tok 95, 102, 201, 202, 238, 253 Toyota Prius 13, 20, 175 Tranel, Ben 187 tuneliranje 223 Turing, Alan 132, 133 Turkle, Sherry 80 tvornice 29-31, 32, 38, 45, 118-121, 130, 194, 218, 249 učenje 84, 95, 121-122, 196 i istraţivanja na ţivotinjama 101-102 u medicini 114 učinak generiranja 83-85, 91, 95, 185 učinak degeneriranja 91 učitelji, poučavanje 19, 39, 174 umjetna inteligencija 18, 126, 131, 131-132, 136, 250 umjetničke vještine 17

UPS 129 uspješnost, i Yerkes-Dodsonov zakon 101-103, 186 Utrka sa strojevima (Brynjolfsson i McAfee) 36 Uvod u matematiku (Whitehead) 76 “uzorkovanje doţivljaja”, studija 21 Velika Britanija bombardiranja 1940 42 kompjuterizacija u javnom zdravstvu 108 ludisti 30-31 virtualizacija 130 Vita activa (Arendt) 120, 252 vojska 44, 55, 57, 195 bespilotne letjelice 210-211 i roboti 211-215, 227 protuzračni topovi 42-43 vojni planeri 45, 179 Vokabular, i učinak generiranja 83-84 Voltaire 180 Volvo 15 Vonnegut, Kurt 46 Voss, Bill 62 Wall Street 88, 127, 177 Wall Street Journal 69 Watson (superračunalo) 131-132 Watt, James 44 Weed, Lawrence 135, 141 Weiser, Mark 217 Weizenbaum, Joseph 216 Wells, Thomas J. 58, 59 Whitehead, Alfred North 76-78, 94-95 Wiener, Norbert 44-46, 47-48, 130, 179, 182

Wilde, Oscar 32-33, 249 Williams, Serena 93 Williams, William Carlos 260 Winner, Langdon 232, 248 Wired (časopis) 153, 174, 249 Wordsworth, William 154 Wright, Orville 70, 239 Wright, Wilbur 69-70, 239 Xerox 129 Xerox PARC 217, 218, 225 Yerkes-Dodsonov zakon i krivulja 101-103, 186 Yerkes, Robert M. 100-103 Young, Mark 103 Zaha Hadid 158 zamor upozorenjima 116-117 Zieger, Bernard 190 znanstveni menadţment (tejlorizam) 120, 127 znanje 85-87, 90-91 dizajnersko 161 eksplicitno (deklarativno) 17-18, 91, 94 i medicina 113, 126, 135 prešutno (proceduralno) 17-18, 92, 94, 132 zemljopisno 142 Zuckerberg, Mark 204, 226, 228 Zvjezdane staze 256 ţivotinje: istraţivanja na ţivotinjama 100-102, 150-151, 244 proţimanje tijela i predmeta 167

ubijanje 208

CIP zapis dostupan u računalnom katalogu Nacionalne i sveučilišne knjiţnice u Zagrebu pod brojem 000946006.

Bilješke

1

Federal Aviation Administration, SAFO 13002, 4. siječnja 2013, faa. gov/other_visit/aviation_industry/airline_operators/airline_safety/safo/all_safos/media/20 13/S AFO13002.pdf. 2

Sebastian Thrun, “What Were Driving At”, Google Official Blog, 9. listopada 2010, googleblog.blogspot.com/2010/10/what-were-dri- ving-at.html. V. takoĎer Tom Vanderbilt, “Let the Robot Drive: The Autonomous Car of the Future Is Here”, Wired, veljača 2012. 3

Daniel DeBolt, “Googles Self-Driving Car in Five-Car Crash”, Mountain View Voice, 8. kolovoza 2011. 4

Richard Waters i Henry Foy, “Tesla Moves Ahead of Google in Race to Build SelfDriving Cars”, Financial Times, 17. rujna 2013, ft.com/ intl/cms/s/0/70d26288-lfaf-l Ie38861-00144feab7de.html. 5

Frank Levy i Richard J. Murnane, The New Division of Labor: How Computers Are Creating the Next Job Market (Princeton: Princeton University Press, 2004), 20. 6

Tom A. Schweizer et al., “Brain Activity during Driving with Distraction: An Immersive fMRI Study”, Frontiers in Human Neuroscience, 28. veljače 2013, frontiersin.org/Human_Neuroscience/10.3389/fn- hum.2013.00053/full. 7

N. Katherine Hayles, How We Think: Digital Media and Contemporary Technogenesis (Chicago: University of Chicago Press, 2012), 2. 8

Mihaly Csikszentmihalyi i Judith LeFevre, “Optimal Experience in Work and Leisure”, Journal of Personality and Social Psychology 56, br. 5 (1989): 815-822. 9

Daniel T. Gilbert i Timothy D. Wilson, “Miswanting: Some Problems in the Forecasting of Future Affective States”, u: Joseph P. For- gas, ur., Feeling and Thinking: The Role of Affect in Social Cognition (Cambridge, U.K.: Cambridge University Press, 2000), 179. 10

Csikszentmihalyi i LeFevre, “Optimal Experience in Work and Leisure”.

11

Navedeno u John Geirland, “Go with the Flow”, Wired, rujan 1996.

12

Mihaly Csikszentmihalyi, Flow: The Psychology of Optimal Experience (New York: Harper, 1991), 157-162. Usp. Flow. Očaravajuća obuzetost (Zagreb: Slap, 2006).

13

R. H. Macmillan, Automation: Friend or Foe? (Cambridge, U.K.: Cambridge University Press, 1956), 1. 14

Ibid., 91.

15

Ibid., 1-6. Kurziv je Macmillanov.

16

Ibid., 92.

17

George B.Dyson, Darwin among the Machines: The Evolution of Global Intelligence (Reading, Mass.: Addison-Wesley, 1997), x. 18

Bertrand Russell, “Machines and the Emotions”, u: Sceptical Essays (London: Routledge, 2004), 64. 19

Adam Smith, The Wealth of Nations (New York: Modern Library, 2000), 7-10. Usp. Istraţivanje prirode i uzroka bogatstva naroda (Zagreb: Poslovni dnevnik, 2007). 20

Ibid., 408.

21

Malcolm I. Thomis, The Luddites: Machine-Breaking in Regency England (Newton Abbot, U.K.: David & Charles, 1970), 50. V. takoĎer E. J. Hobsbawm, “The Machine Breakers”, Past and Present 1, br. 1 (1952): 57-70. 22

Karl Marx, Capital: A Critique of Political Economy, sv. 1 (Chicago: Charles H. Kerr, 1912), 461-462. Usp. Kapital: kritika političke ekonomije (Beograd: Prosveta/BIGZ, 1979). 23

Karl Marx, “Speech at the Anniversary of the Peoples Paper”, 14. travnja 1856, marxists.org/archive/marx/works/1856/04/14.htm. 24

Nick Dyer-Witheford, Cyber-Marx: Cycles and Circuits of Struggle in High Technology Capitalism (Champaign, 111.: University of Illinois Press, 1999), 40. 25

26

Marx, “Speech at the Anniversary of the Peoples Paper”.

Navedeno u Dyer-Witheford, Cyber-Marx, 41.U slavnom je odlomku iz Njemačke ideologije objavljene 1846. Marx predviĎao dan kad će čovjek biti slobodan “raditi jedno danas a drugo sutra, loviti jutrom a ribariti poslijepodne, okupljati stoku predvečer a nakon večere baviti se kritikom, već stoga što posjedujem um, a da nikad ne postanem ni lovac ni ribar ni pastir ni kritičar.” Pogrešno usmjereno ţeljenje rijetko zvuči tako rapsodično.

27

E. Levasseur, “The Concentration of Industry, and Machinery in the United States”, Publications of the American Academy of Political and Social Science, br. 193 (1897): 178-197. 28

Oscar Wilde, “The Soul of Man under Socialism”, u: The Collected Works of Oscar Wilde (Ware, U.K.: Wordsworth Editions, 2007), 1051. 29

Navedeno u Amy Sue Bix, Inventing Ourselves out of Jobs? Americas Debate over Technological Unemployment, 1929-1981 (Baltimore: Johns Hopkins University Press, 2000), 117-118. 30

Ibid., 50.

31

Ibid., 55.

32

John Maynard Keynes, “Economic Possibilities for Our Grandchildren”, u: Essays in Persuasion (New York: W. W. Norton, 1963), 358-373. 33

John F. Kennedy, “Remarks at the Wheeling Stadium”, u: John F. Kennedy: Containing the Public Messages, Speeches, and Statements of the President (Washington, D.C.: U.S. Government Printing Office, 1962), 721. 34

Stanley Aronowitz i William DiFazio, The Jobless Future: Sci-Tech and the Dogma of Work (Minneapolis: University of Minnesota Press, 1994), 14. Kurziv je Aronowitzev i DiFaziov. 35

Jeremy Rifkin, The End of Work: The Decline of the Global Labor Force and the Dawn of the Post-Market Era (New York: Putnam, 1995), xv-xviii. 36

Erik Brynjolfsson i Andrew McAfee, Race against the Machine: Flow the Digital Revolution Is Accelerating Innovation, Driving Productivity, and Irreversibly Transforming Employment and the Economy (Lexington, Mass.: Digital Frontier Press, 2011). Brynjolfsson i McAfee svoj su argument proširili u knjizi The Second Machine Age: Work, Progress, and Prosperity in a Time of Brilliant Technologies (New York: W. W. Norton, 2014). 37

March of the Machines”, 60 Minutes, CBS, 13. siječnja 2013, cb- snews.com/830118560_162-57563618/are-robots-hurting-job- growth/. 38

Bernard Condon i Paul Wiseman, “Recession, Tech Kill Middle-Class Jobs”, AP, 23. siječnja 2013, bigstory.ap.org/article/ap-impact-re- cession-tech-kill-middle-class-jobs. 39

Paul Wiseman i Bernard Condon, “Will Smart Machines Create a World without Work?”, AP, 25. siječnja 2013, bigstory.ap.org/article/ will-smart-machines-create-world-

without-work. 40

Michael Spence, “Technology and the Unemployment Challenge”, Project Syndicate, 15. siječnja 2013, project-syndicate.org/commen- tary/global-supply-chains-on-the-moveby-michael-spence. 41

V. Timothy Aeppel, “Man vs. Machine, a Jobless Recovery”, Wall Street Journal, 17. siječnja 2012. 42

Navedeno u Thomas B. Edsall, “The Flollowing Out”, Campaign Stops (blog), New York Times, 8. srpnja 2012, campaignstops.blogs. nytimes.com/2012/07/08/the-future-ofjoblessness/. 43

See Lawrence V. Kenton, ur., Manufacturing Output, Productivity and Employment Implications (New York: Nova Science, 2005); te Judith Banister i George Cook, “Chinas Employment and Compensation Costs in Manufacturing through 2008”, Monthly Labor Review, March 2011. 44

Tyler Cowen, “What Export-Oriented America Means”, American Interest, svibanj/lipanj 2012. 45

Robert Skidelsky, “The Rise of the Robots”, Project Syndicate, 19. veljače 2013, project-syndicate.org/commentary/the-future-of-work- in-a-world-of-automation-byrobert-skidelsky. 46

Ibid.

47

Chrystia Freeland, “China, Technology and the U.S. Middle Class”, Financial Times, 15. veljače 2013. 48

Paul Krugman, “Is Growth Over?”, The Conscience of a Liberal (blog), New York Times, 26. prosinca 2012, krugman.blogs.nytimes. com/2012/12/26/is-growth-over/. 49

* Internet je, kako se često primjećuje, ljudima otvorio prilike da zarade novac vlastitom inicijativom, s malim kapitalnim ulaganjima. Mogu prodavati rabljenu robu na eBayu ili rukotvorine na Etsyju. Ako imaju sobu viška, mogu je iznajmiti preko Airbnb-a ili pretvoriti osobni automobil u potajni taksi preko Lyfta. Mogu pronalaziti sitne poslove preko TaskRabbita. MeĎutim, takvim je skromnim poduzetništvom lako stvoriti tek dodatnu zaradu, i malo je onih koji će takvim radom doći do plaće srednje klase. Pravi novac ide softverskim tvrtkama koje koordiniraju posao preko Interneta i spajaju kupce i prodavatelje, odnosno iznajmljivače i unajmljivače - a za tu je koordinaciju, budući da je izrazito automatizirana, potrebno vrlo malo zaposlenih. 50

James R. Bright, Automation and Management (Cambridge, Mass.: Harvard University, 1958), 4-5.

51

Ibid., 5.

52

Ibid., 4, 6. Kurziv je Brightov. Brightova definicija automatizacije odraţava raniju definiciju mehanizacije Sigfrieda Giediona: “Mehanizacija je čimbenik - poput vode, vatre, svjetla. Ona je slijepa i sama po sebi neusmjerena. Poput prirodnih sila, mehanizacija ovisi o ljudskoj sposobnosti da je iskoristi i da se zaštiti od njoj svojstvenih opasnosti. Budući da je mehanizacija u potpunosti plod ljudskoga uma, time je za čovjeka još opasnija.” Giedion, Mechanization Takes Command (New York: Oxford University Press, 1948), 714. 53

David A. Mindell, Between Human and Machine: Feedback, Control, and Computing before Cybernetics (Baltimore: Johns Hopkins University Press, 2002), 247. 54

Stuart Bennett, A History of Control Engineering, 1800-1930 (London: Peter Peregrinus, 1979), 99-100. 55

Norbert Wiener, The Human Use of Human Beings: Cybernetics and Society (New York: Da Capo, 1954), 153. Usp. Kibernetika i društvo: ljudska upotreba ljudskih bića (Beograd: Nolit, 1964). 56

Eric W. Leaver i J. J. Brown, “Machines without Men”, Fortune, studeni 1946. V. takoĎer David E Noble, Forces of Production: A Social History of Industrial Automation (New York: Alfred A. Knopf, 1984), 67-71. 57

Noble, Forces of Production, 234.

58

Ibid., 21-40.

59

Wiener, Human Use of Human Beings, 148-162.

60

Navedeno u Flo Conway i Jim Siegelman, Dark Hero of the Information Age: In Search of Norbert Wiener, the Father of Cybernetics (New York: Basic Books, 2005), 251. 61

Marc Andreessen, “Why Software Is Eating the World”, Wall Street Journal, 20. kolovoza 2011. 62

Prikaz pada aviona Continental Connectiona temelji se prije svega na National Transportation Safety Boards Accident Report AAR-10/01: Loss of Control on Approach, Colgan Air, Inc., Operating as Continental Connection Flight 3407, Bombardier DHC 8400, N200WQ, Clarence, New York, February 12, 2009 (Washington, D.C.: NTSB, 2010), te na www.ntsb.gov/doclib/reports/2010/ aarl001.pdf. V. takoĎer Matthew L. Wald, “Pilots Chatted in Moments before Buffalo Crash”, New York Times, 12. svibnja 2009.

63

Associated Press, “Inquiry in New York Air Crash Points to Crew Error”, Los Angeles Times, 13. svibnja 2009. 64

Prikaz pada aviona Air Francea temelji se prije svega na BEA, Final Report: On the Accident on 1st June 2009 to the Airbus A330-203, Registered F-GZCP, Operated by Air France, Flight AF447, Rio de Janeiro to Paris (sluţbeni engl, prijevod), 27. srpnja 2012, www.bea. aero/docspa/2009/f-cp090601.en/pdf/f-cp090601.en.pdf. V. takoĎer Jeff Wise,”What Really Happened Aboard Air France 447”, Popular Mechanics, 6. prosinca 2011, www.popularmechanics.com/tech- nology/aviation/crashes/what-really-happenedaboard-air-fran- ce-447-6611877. 65

BEA, Final Report, 199.

66

William Scheck, “Lawrence Sperry: Genius on Autopilot”, Aviation History, studeni 2004; Dave Higdon, “Used Correctly, Autopilots Offer Second-Pilot Safety Benefits”, Avionics News, svibanj 2010; te “George the Autopilot”, Historic Wings, 30. kolovoza 2012, fly.histo- ricwings.com/2012/08/george-the-autopilot/. 67

“Now—The Automatic Pilot”, Popular Science Monthly, veljača 1930.

68

“Posts Automatic Pilot”, New York Times, 24. srpnja 1933.

69

James M. Gillespie, “We Flew the Atlantic „No Hands”, Popular Science, prosinac 1947. 70

“Automatic Control”, Flight, 9. listopada 1947.

71

Detaljan prikaz NASA-inog rada daje Lane E. Wallace, Airborne Trailblazer: Two Decades with NASA Langleys 737 Flying Laboratory (Washington, D.C.: NASA History Office, 1994). 72

William Langewiesche, Fly by Wire: The Geese, the Glide, the “Miracle” on the Hudson (New York: Farrar, Straus & Giroux, 2009), 103. 73

Antoine de Saint-Exupéry, Wind, Sand and Stars (New York: Reynal & Hitchcock, 1939), 20. 74

Don Harris, Human Performance on the Flight Deck (Surrey, U.K.: Ashgate, 2011), 221. 75

“How Does Automation Affect Airline Safety?”, Flight Safety Foundation, 3. lipnja 2012, flightsafety.org/node/4249.

76

Hemant Bhana, “Trust but Verify”, AeroSafety World, lipanj 2010.

77

Navedeno u Nick A. Komons, Bonfires to Beacons: Federal Civil Aviation Policy under the Air Commerce Act 1926-1938 (Washington, D.C.: U.S. Department of Transportation, 1978), 24. 78

Scott Mayerowitz i Joshua Freed, “Air Travel Safer than Ever with Death Rate at Record Low”, Denverpost.com, 1. siječnja 2012, denverpost.com/nationworld/ci_19653967. Podaci ne uključuju smrti of terorističkih činova. 79

Autorov intervju s Rajom Parasuramanom, 18. prosinca 2011.

80

Jan Noyes, “Automation and Decision Making”, u: Malcolm James Cook et al., ur., Decision Making in Complex Environments (Aldershot, U.K.: Ashgate, 2007), 73. 81

Earl L. Wiener, Human Factors of Advanced Technology (“Glass Cockpit”) Transport Aircraft (Moffett Field, Calif.: NASA Ames Research Center, lipanj 1989). 82

V. primjerice Earl L. Wiener i Renwick E. Curry, “Flight-Deck Automation: Promises and Problems”, NASA Ames Research Center, lipanj 1980; Earl L. Wiener, “Beyond the Sterile Cockpit”, Human Factors 27, br. 1 (1985): 75-90; Donald Eldredge et al., A Review and Discussion of Flight Management System Incidents Reported to the Aviation Safety Reporting System (Washington, D.C.: Federal Aviation Administration, veljača 1992); i Matt Ebbatson, “Practice Makes Imperfect: Common Factors in Recent Manual Approach Incidents”, Human Factors and Aerospace Safety 6, br. 3 (2006): 275-278. 83

Andy Pasztor, “Pilot Reliance on Automation Erodes Skills”, Wall Street Journal, 5. studenog 2010. 84

Operational Use of Flight Path Management Systems: Final Report of the PerformanceBased Operations Aviation Rulemaking Committee / Commercial Aviation Safety Team Flight Deck Automation Working Group (Washington, D.C.: Federal Aviation Administration, 5. rujna 2013), www.faa.gov/about/office_org/headquarters_offices/avs/offices/afs/afs400/parc/parc_reco/media/2013/130908_ PARC_FltDAWG_Final_Report_Recommendations.pdf. 85

Matthew Ebbatson, “The Loss of Manual Flying Skills in Pilots of Highly Automated Airliners” (dotorska disertacija, Cranfield University School of Engineering, 2009). V. takoĎer M. Ebbatson et al., “The Relationship between Manual Handling Performance and Recent Flying Experience in Air Transport Pilots”, Ergonomics 53, br. 2 (2010): 268-277. 86

Navedeno u David A. Mindell, Between Human and Machine: Feedback, Control, and Computing before Cybernetics (Baltimore: Johns Hopkins University Press, 2002), 77. 87

S. Bennett, A History of Control Engineering, 1800-1930 (Stevenage, U.K.: Peter

Peregrinus, 1979), 141. 88

Tom Wolfe, The Right Stuff (New York: Picador, 1979), 152-154.

89

Ebbatson, “Loss of Manual Flying Skills”.

90

European Aviation Safety Agency, “Response Charts for „EASA Cockpit Automation Survey”‟, 3. kolovoza 2012, easa.europa.eu/sa- fety-andresearch/docs/EASA%20Cockpit%20Automation%20Sur- vey%202012%20%20Results.pdf. 91

Joan Lowy, “Automation in the Air Dulls Pilot Skill”, Seattle Times, 30. kolovoza 2011. 92

Dobar pregled promjena veličine posade zrakoplova daje Delmar M. Fadden et al., “First Hand: Evolution of the 2-Person Crew Jet Transport Flight Deck”, IEEE Global History Network, 25. kolovoz, 2008, ieeeghn.org/wiki/index.php/FirstHand:Evolution_of_the_2- Person_Crew_Jet_Transport_Flight_Deck. 93

Navedeno u Philip E. Ross, “When Will We Have Unmanned Commercial Airliners?”, IEEE Spectrum, prosinac 2011. 94

Scott McCartney, “Pilot Pay: Want to Know How Much Your Captain Earns?”, The Middle Seat Terminal (blog), Wall Street Journal, 16. lipnja 2009, blogs.wsj.com/middleseat/2009/06/16/pilot-pay-want- to-know-how-much-your-captainearns/. 95

Dawn Duggan, “The 8 Most Overpaid & Underpaid Jobs”, Salary, com, bez datuma, salary.com/the%2D8%2Dmost%2Doverpaid%2D underpaid%2Djobs/slide/9/. 96

David A. Mindell, Digital Apollo: Human and Machine in Spaceflight (Cambridge, Mass.: MIT Press, 2011), 20. 97

Wilbur Wright, pismo 13. svibnja 1900, u: Richard Rhodes, ur., Visions of Technology: A Century of Vital Debate about Machines, Systems, and the Human World (New York: Touchstone, 1999), 33. 98

Mindell, Digital Apollo, 20.

99

Navedeno u ibid., 21.

100

Wilbur Wright, “Some Aeronautical Experiments”, govor odrţan pred Western Society of Engineers, 18. rujna 1901, www.wright-ho- use.com/wrightbrothers/Aeronautical.html.

101

Mindell, Digital Apollo, 21.

102

J. O. Roberts, “ „The Case against Automation in Manned Fighter Aircraft”, SETP Quarterly Review 2, br. 3 (jesen 1957): 18-23. 103

Navedeno u Mindell, Between Human and Machine, 77.

104

Harris, Human Performance on the Flight Deck, 221.

105

Alfred North Whitehead, An Introduction to Mathematics (New York: Henry Holt, 1911 ), 61. 106

Navedeno u Frank Levy i Richard J. Murnane, The New Division of Labor: How Computers Are Creating the Next Job Market (Princeton: Princeton University Press, 2004), 4. 107

Raja Parasuraman et al., “Model for Types and Levels of Human Interaction with Automation”, IEEE Transactions on Systems, Man, and Cybernetics—Part A: Systems and Humans 30, br. 3 (2000): 286-297. V. takoĎer Nadine Sarter et al., “Automation Surprises”, u Gavriel Sal- vendy, ur., Handbook of Human Factors and Ergonomics, 2. izdanje (New York: Wiley, 1997). 108

Dennis F. Galletta et al., “Does Spell-Checking Software Need a Warning Label?” Communications of the ACM 48, br. 7 (2005): 82-86. 109

National Transportation Safety Board, Marine Accident Report: Grounding of the Panamanian Passenger Ship Royal Majesty on Rose and Crown Shoal near Nantucket, Massachusetts, 10. lipnja 1995 (Washington, D.C.: NTSB, 2. travnja 1997). 110

Sherry Turkle, Simulation and Its Discontents (Cambridge, Mass.: MIT Press, 2009), 55-56. 111

Jennifer Langston, “GPS Routed Bus under Bridge, Company Says”, Seattle PostIntelligencer, 17. travnja 2008. 112

A. A. Povyakalo et al., “How to Discriminate between Computer-Aided and ComputerHindered Decisions: A Case Study in Mammography”, Medical Decision Making 33, br. 1 (siječanj 2013): 98-107. 113

E. Alberdi et al., “Why Are Peoples Decisions Sometimes Worse with Computer Support?”, u Bettina Buth et al., ur., Proceedings of SAFE- COMP 2009, the 28th International Conference on Computer Safety, Reliability, and Security (Hamburg, Germany: Springer, 2009), 18-31.

114

See Raja Parasuraman et al., “Performance Consequences of Automation-Induced „Complacency‟”, International Journal of Aviation Psychology 3, br. 1 (1993): 1-23. 115

Raja Parasuraman i Dietrich H. Manzey, “Complacency and Bias in Human Use of Automation: An Attentional Integration”, Human Factors 52, br. 3 (lipanj 2010): 381-410. 116

Norman J. Slamecka i Peter Graf, “The Generation Effect: Delineation of a Phenomenon”, Journal of Experimental Psychology: Human Learning and Memory 4, br. 6 (1978): 592-604. 117

Jeffrey D. Karpicke i Janell R. Blunt, “Retrieval Practice Produces More Learning than Elaborative Studying with Concept Mapping”, Science 331 (2011): 772-775. 118

Britte Haugan Cheng, “Generation in the Knowledge Integration Classroom” (dotorska disertacija, Kalifornijsko sveučilište Berkeley, 2008). 119

Simon Farrell i Stephan Lewandowsky, “A Connectionist Model of Complacency and Adaptive Recovery under Automation”, Journal of Experimental Psychology: Learning, Memory, and Cognition 26, br. 2 (2000): 395-410. 120

O van Nimwegenovom sam radu već pisao u knjizi Plitko. Što Internet čini našem mozgu (Zagreb: Jesenski i Turk, 2011). 121

Christof van Nimwegen, “The Paradox of the Guided User: Assistance Can Be Counter-effective” (SIKS Dissertation Series No. 2008- 09, Sveučilište u Utrechtu, 31. oţujka 2008). takoĎer Christof van Nimwegen i Herre van Oostendorp, “The Questionable Impact of an Assisting Interface on Performance in Transfer Situations”, International Journal of Industrial Ergonomics 39, br. 3 (svibanj 2009): 501-508; te Daniel Burgos i Christof van Nimwegen, “Games-Ba- sed Learning, Destination Feedback and Adaptation: A Case Study of an Educational Planning Simulation”, u Thomas Connolly et al., ur., Games-Based Learning Advancements for Multi-Sensory Human Computer Interfaces: Techniques and Effective Practices (Hershey, Penn.: IGI Global, 2009), 119130. 122

Carlin Dowling et al., “Audit Support System Design and the Declarative Knowledge of Long-Term Users”, Journal of Emerging Technologies in Accounting 5, br. 1 (prosinac 2008): 99-108. 123

V. Richard G. Brody et al., “The Effect of a Computerized Decision Aid on the Development of Knowledge”, Journal of Business and Psychology 18, br. 2 (2003): 157174; i Holli McCall et al., “Use of Knowledge Management Systems and the Impact on the Acquisition of Explicit Knowledge”, Journal of Information Systems 22, br. 2 (2008): 77-101.

124

Amar Bhide, “The Judgment Deficit”, Harvard Business Review 88, br. 9 (rujan 2010): 44-53. 125

Gordon Baxter i John Cartlidge, “Flying by the Seat of Their Pants: What Can High Frequency Trading Learn from Aviation?”, u G. Brat et al., ur., ATACCS-2013: Proceedings of the 3rd International Conference on Application and Theory of Automation in Command and Control Systems (New York: ACM, 2013), 64-73. 126

Vivek Haidar, “Sharp Tools, Dull Minds”, This Is the Blog of Vivek Haidar, 10. studenog 2013, blog.vivekhaldar.com/post/66660163006/ sharp-tools-dull-minds. 127

Tim Adams, “Google and the Future of Search: Amit Singhal and the Knowledge Graph”, Observer, 19. siječnja 2013. 128

Betsy Sparrow et al., “Google Effects on Memory: Cognitive Consequences of Having Information at Our Fingertips”, Science 333, br. 6043 (5. kolovoza 2011): 776-778. Još jedno istraţivanje ukazuje na to da već i to što znamo da je neki doţivljaj fotografiran digitalnim aparatom u nama slabi pamćenje tog doţivljaja: Linda A. Henkel, “Point-andShoot Memories: The Influence of Taking Photos on Memory for a Museum Tour”, Psychological Science, 5. prosinca 2013, pss.sagepub.com/content/early/2013/12/04/0956797613504438.full. 129

Mihai Nadin, “Information and Semiotic Processes: The Semiotics of Computation”, Cybernetics and Human Knowing 18, br. 1-2 (2011): 153-175. 130

Gary Marcus, Guitar Zero: The New Musician and the Science of Learning (New York: Penguin, 2012), 52. 131

Za podroban opis toga kako mozak uči čitati v. Maryanne Wolf, Proust and the Squid: The Story and Science of the Reading Brain (New York: HarperCollins, 2007), osobito 108-133. 132

Hubert L. Dreyfus, “Intelligence without Representation—Merleau- Ponty s Critique of Mental Representation”, Phenomenology and the Cognitive Sciences 1 (2002): 367-383. 133

Marcus, Guitar Zero, 103.

134

David Z. Hambrick i Elizabeth J. Meinz, “Limits on the Predictive Power of DomainSpecific Experience and Knowledge in Skilled Performance”, Current Directions in Psychological Science 20, br. 5 (2011): 275-279. 135

K. Anders Ericsson et al., “The Role of Deliberate Practice in the Acquisition of Expert Performance”, Psychological Review 100, br. 3 (1993): 363-406.

136

Nigel Warburton, “Robert Talisse on Pragmatism”, Five Books, 18. rujna 2013, fivebooks.com/interviews/robert-talisse-on-pragma- tism. 137

Jeanne Nakamura i Mihaly Csikszentmihalyi, “The Concept of Flow”, u: C. R. Snyder i Shane J. Lopez, ur., Handbook of Positive Psychology (Oxford, U.K.: Oxford University Press, 2002), 90-91. 138

Robert M. Yerkes, The Dancing Mouse: A Study in Animal Behavior (New York: Macmillan, 1907), vii-viii, 2-3. 139

Ibid., vii.

140

Robert M. Yerkes i John D. Dodson, “The Relation of Strength of Stimulus to Rapidity of Habit-Formation”, Journal of Comparative Neurology and Psychology 18 (1908): 459482. 141

Ibid.

142

Mark S. Young i Neville A. Stanton, “Attention and Automation: New Perspectives on Mental Overload and Performance”, Theoretical Issues in Ergonomics Science 3, br. 2 (2002): 178-194. 143

Mark W. Scerbo, “Adaptive Automation”, u: Raja Parasuraman i Matthew Rizzo, ur., Neuroergonomics: The Brain at Work (New York: Oxford University Press, 2007), 239252. 144

“RAND Study Says Computerizing Medical Records Could Save $81 Billion Annually and Improve the Quality of Medical Care”, Izvještaj za medije, RAND, 14. rujna 2005. 145

Richard Hillestad et al., “Can Electronic Medical Record Systems Transform Health Care? Potential Health Benefits, Savings, and Costs”, Health Affairs 24, br. 5 (2005): 1103-1117. 146

Reed Abelson i Julie Creswell, “In Second Look, Few Savings from Digital Health Records”, New York Times, 10. siječnja 2013. 147

Jeanne Lambrew, “More than Half of Doctors Now Use Electronic Health Records Thanks to Administration Policies”, The White House Blog, 24. svibnja 2013, whitehouse.gov/blog/2013/05/24/more- half-doctors-use-electronic-health-records-thanksadministration- policies. 148

Arthur L. Kellermann and Spencer S. Jones, “What It Will Take to Achieve the AsYet-Unfulfilled Promises of Health Information Technology”, Health Ajfairs 32, br. 1 (2013): 63-68.

149

Ashly D. Black et al., “The Impact of eHealth on the Quality' and Safety of Health Care: A Systematic Overview”, PLOS Medicine 8, br. 1 (2011), plosmedicine.org/article/info%3Adoi%2F10.1371%2Fjournal. pmed. 1000387. 150

Melinda Beeuwkes Buntin et al., “The Benefits of Health Information Technology: A Review of the Recent Literature Shows Predominantly Positive Results”, Health Ajfairs 30, br. 3 (2011): 464-471. 151

Dean F. Sittig et al., “Lessons from „Unexpected Increased Mortality after Implementation of a Commercially Sold Computerized Physician Order Entry System‟”, Pediatrics 118, br. 2 (1. kolovoza 2006): 797-801. 152

Jerome Groopman i Pamela Hartzband, “Obamas $80 Billion Exaggeration”, Wall Street Journal, 12. oţujka 2009. V. takoĎer (isti autori) “Off the Record—Avoiding the Pitfalls of Going Electronic”, New England Journal of Medicine 358, no. 16 (2008): 16561658. 153

V. Fred Schulte, “Growth of Electronic Medical Records Eases Path to Inflated Bills”, Center for Public Integrity, 19. rujna 2012, publicintegrity.org/2012/09/19/10812/growth-electronic-medical-recor- ds-eases-path-inflatedbills; and Reed Abelson et al., “Medicare Bills Rise as Records Turn Electronic”, New York Times, 22. rujna 2012. 154

Daniel R. Levinson, CMS and Its Contractors Have Adopted Few Program Integrity Practices to Address Vulnerabilities in EHRs (Washington, D.C.: Office of the Inspector General, Department of Health and Human Services, siječanj 2014), oig.hhs.gov/oei/reports/oei-01- 11-00571.pdf. 155

Danny McCormick et al., “Giving Office-Based Physicians Electronic Access to Patients‟ Prior Imaging and Lab Results Did Not Deter Ordering of Tests”, Health Affairs 31, br. 3 (2012): 488-496. Jedno je prijašnje istraţivanje pratilo terapiju dijabetičkih pacijenata tijekom pet godina u dvije klinike, od kojih je jedna bila uvela sustav za elektroničku dokumentaciju a druga nije. Pokazalo se da su liječnici u klinici opremljenoj EMR sustavom naručili više pretraga a nisu postigli bolju kontrolu glicerola svojih pacijenata. “Podaci ukazuju na to da unatoč nezanemarivim troškovima i većoj tehničkoj sloţenosti EMR-a, EMR sustavi nisu postigli poţeljnu razinu kliničkog poboljšanja”, napisali su istraţivači. Patrick J. O‟Connor et al., “Impact of an Electronic Medical Record on Diabetes Quality of Care”, Annals of Family Medicine 3, br. 4 (srpanj 2005): 300-306. 156

Timothy Hoff, “Deskilling and Adaptation among Primary Care Physicians Using Two Work Innovations”, Health Care Management Review 36, br. 4 (2011): 338-348. 157

Schulte, “Growth of Electronic Medical Records”.

158

Hoff, “Deskilling and Adaptation”.

159

Danielle Ofri, “The Doctor vs. the Computer”, New York Times, 30. prosinca 2010.

160

Thomas H. Payne et al., “Transition from Paper to Electronic Inpatient Physician Notes”, Journal of the American Medical Information Association 17 (2010): 108-111. 161

Ofri, “Doctor vs. the Computer”.

162

Beth Lown i Dayron Rodriguez, “Lost in Translation? How Electronic Health Records Structure Communication, Relationships, and Meaning”, Academic Medicine 87, br. 4 (2012): 392-394. 163

Emran Rouf et al., “Computers in the Exam Room: Differences in Physician-Patient Interaction May Be Due to Physician Experience”, Journal of General Internal Medicine 22, no. 1 (2007): 43-48. 164

Avik Shachak et al., “Primary Care Physicians‟ Use of an Electronic Medical Record System: A Cognitive Task Analysis”, Journal of General Internal Medicine 24, br. 3 (2009): 341-348. 165

Lown i Rodriguez, “Lost in Translation?”

166

V. Saul N. Weingart et al., “Physicians‟ Decisions to Override Computerized Drug Alerts in Primary Care”, Archives of Internal Medicine 163 (24. studenog 2003): 26252631; Alissa L. Russ et al., “Preservers‟ Interactions with Medication Alerts at the Point of Prescribing: A Multi-method, In Situ Investigation of the Human- Computer Interaction”, International Journal of Medical Informatics 81 (2012): 232-243; M. Susan Ridgely i Michael D. Greenberg, “Too Many Alerts, Too Much Liability: Sorting through the Malpractice Implications of Drug-Drug Interaction Clinical Decision Support”, Saint Louis University Journal of Health Law and Policy 5 (2012): 257-295; i David W. Bates, “Clinical Decision Support and the Law: The Big Picture”, Saint Louis University Journal of Health Law and Policy 5 (2012): 319-324. 167

Atul Gawande, The Checklist Manifesto: How to Get Things Right (New York: Henry Holt, 2010), 161-162. 168

Lown and Rodriguez, “Lost in Translation?”

169

Jerome Groopman, How Doctors Think (New York: Houghton Mifflin, 2007), 34-35.

170

Adam Smith, The Wealth of Nations (New York: Modern Library, 2000), 840. Usp. Istraţivanje prirode i uzroka bogatstva naroda (Zagreb: Poslovni dnevnik, 2007).

171

Ibid., 4.

172

Frederick Winslow Taylor, The Principles of Scientific Management (New York: Harper & Brothers, 1913), 11. 173

Ibid., 36.

174

Hannah Arendt, The Human Condition (Chicago: University of Chicago Press, 1998), 147. Usp. Vita activa (Zagreb: August Cesarec, 1991), 120. 175

Harry Braverman, Labor and Monopoly Capital: The Degradation of Work in the Twentieth Century (New York: Monthly Review Press, 1998), 307. 176

Jezgrovit prikaz debate o Bravermanu daje Peter Meiksins, “Labor and Monopoly Capital for the 1990s: A Review and Critique of the Labor Process Debate”, Monthly Review, studeni 1994. 177

James R. Bright, Automation and Management (Cambridge, Mass.: Harvard University, 1958), 176-195. 178

Ibid., 188.

179

James R. Bright, “The Relationship of Increasing Automation and Skill Requirements”, u: National Commission on Technology, Automation, and Economic Progress, Technology and the American Economy, Appendix II: The Employment Impact of Technological Change (Washington, D.C.: U.S. Government Printing Office, 1966), 201221. 180

George Dyson, komentar na Edge.org, 11. srpnja 2008, edge.org/discourse/carr_google.html#dysong. 181

Za lucidno objašnjenje strojnog učenja, v. šesto poglavlje u John Ma- cCormick, Nine Algorithms That Changed the Future: The Ingenious Ideas That Drive Todays Computers (Princeton: Princeton University Press, 2012). 182

Max Raskin and Ilan Kolet, “Wall Street Jobs Plunge as Profits Soar” Bloomberg News, 23. travnja 2013, bloomberg.com/news/2013-04- 24/wall-street-jobs-plunge-asprofits-soar-chart-of-the-day.html. 183

Ashwin Parameswaran, “Explaining the Neglect of Doug Engelbarts Vision: The Economic Irrelevance of Human Intelligence Augmentation”, Macroresilience, 8. srpnja 2013, macroresilience.com/2013/07/08/ explaining-the-neglect-of-doug-engelbartsvision/.

184

V. Daniel Martin Katz, “Quantitative Legal Prediction—or—How I Learned to Stop Worrying and Start Preparing for the Data-Driven Future of the Legal Services Industry”, Emory Law Journal 62, br. 4 (2013): 909-966. 185

Joseph Walker, “Meet the New Boss: Big Data”, Wall Street Journal, 20. rujna 2012.

186

Franco “Bifo” Berardi, The Soul at Work: From Alienation to Automation (Los Angeles: Semiotext(e), 2009), 96. 187

* Upotreba naziva kakvi su neuralna mreţa ili neuromorfna obrada podataka ostavlja dojam da računalo funkcionira poput mozga (ili obratno). Te nazive ipak ne treba shvatiti doslovno; to je samo način izraţavanja. Budući da nam način rada mozga zasad nije poznat, niti znamo kako iz meĎuigre neurona nastaju misao i svijest, ne moţemo izraĎivati računala koja bi funkcionirala onako kako funkcionira mozak. 188

A. M. Turing, “Systems of Logic Based on Ordinals”, Proceedings of the London Mathematical Society 45, br. 2239 (1939): 161-228. 189

Ibid.

190

Hector J. Levesque, “On Our Best Behaviour”, predavanje odrţano na International Joint Conference on Artificial Intelligence, Peking, 8. kolovoza 2013. 191

V. Nassim Nicholas Taleb, Antifragile: Things That Gain from Disorder (New York: Random House, 2012), 416-419. 192

Donald T. Campbell, “Assessing the Impact of Planned Social Change”, Occasional Paper Series, br. 8 (prosinac 1976), Public Affairs Center, Dartmouth College, Hanover, N.H. 193

Viktor Mayer-Schonberger i Kenneth Cukier, Big Data: A Revolution That Will Transform How We Live, Work, and Think (New York: Houghton Mifflin Harcourt, 2013), 166. 194

Kate Crawford, “The Hidden Biases in Big Data”, HBR Blog Network, 1. travnja 2013, hbr.org/cs/2013/04/the_hidden_biases_in_big_ data.html. 195

U članku iz 1968. Weed piše: “Ako se korisni povijesni podaci uz pomoć novih računala i tehnika u anamnezi mogu prikupljati i pohranjivati jeftino, iscrpno i točno, bez značajnijeg dodatnog utroška vremena liječnika, treba ih ozbiljno razmotriti.” Lawrence L. Weed, “Medical Records That Guide and Teach”, New England Journal of Medicine 278 (1968): 593-600, 652-657.

196

Lee Jacobs, “Interview with Lawrence Weed, MD—The Father of the ProblemOriented Medical Record Looks Ahead”, Permanente Journal 13, br. 3 (2009): 84-89. 197

Gary Klein, “Evidence-Based Medicine”, Edge, 14. siječnja 2014, edge.org/responses/what-scientific-idea-is-ready-for-retirement. 198

Michael Oakeshott, “Rationalism in Politics”, Cambridge Journal 1 (1947): 81-98, 145157. Članak je otisnut i u Oakeshottovoj knjizi iz 1962. Rationalism in Politics and Other Essays (New York: Basic Books). 199

William Edward Parry, Journal of a Second Voyage for the Discovery of a North-West Passage from the Atlantic to the Pacific (London: John Murray, 1824), 277. 200

Claudio Aporta i Eric Higgs, “Satellite Culture: Global Positioning Systems, Inuit Wayfinding, and the Need for a New Account of Technology”, Current Anthropology 46, br. 5 (2005): 729-753. 201

Autorov intervju s Claudiom Aportom, 25. siječnja 2012.

202

Gilly Leshed et al., “In-Car GPS Navigation: Engagement with and Disengagement from the Environment”, u Proceedings of the SIGC- HI Conference on Human Factors in Computing Systems (New York: ACM, 2008), 1675-1684. 203

David Brooks, “The Outsourced Brain”, New York Times, 26. listopada 2007.

204

Julia Frankenstein et al., “Is the Map in Our Head Oriented North?” Psychological Science 23, br. 2 (2012): 120-125. 205

Julia Frankenstein, “Is GPS All in Our Heads?”, New York Times, 2. veljače 2012.

206

Gary E. Burnett i Kate Lee, “The Effect of Vehicle Navigation Systems on the Formation of Cognitive Maps”, u Geoffrey Underwood, ur., Traffic and Transport Psychology: Theory and Application (Amsterdam: Elsevier, 2005), 407-418. 207

Elliot P. Fenech et al., “The Effects of Acoustic Turn-by-Turn Navigation on Wayfinding”, Proceedings of the Human Factors and Ergonomics Society Annual Meeting 54, br. 23 (2010): 1926-1930. 208

Toru Ishikawa et al., “Wayfinding with a GPS-Based Mobile Navigation System: A Comparison with Maps and Direct Experience”, Journal of Environmental Psychology 28, br. 1 (2008): 74-82; i Stefan Miinzer et al., “Computer-Assisted Navigation and the Acquisition of Route and Survey Knowledge”, Journal of Environmental Psychology 26, br. 4 (2006): 300-308.

209

Sara Hendren, “The White Cane as Technology”, Atlantic, 6. studenog 2013, theatlantic.com/technology/archive/2013/11/the-white- cane-as-technology/281167/. 210

Tim Ingold, Being Alive: Essays on Movement, Knowledge and Description (London: Routledge, 2011), 149-152. Kurziv je Ingoldov. 211

Navedeno u James Fallows, “The Places You‟ll Go”, Atlantic, siječanj/ veljača 2013.

212

Ari N. Schulman, “GPS and the End of the Road”, New Atlantis, proljeće 2011.

213

John O‟Keefe i Jonathan Dostrovsky, “The Hippocampus as a Spatial Map: Preliminary Evidence from Unit Activity in the Freely-Moving Rat”, Brain Research 34 (1971): 171-175. 214

John O‟Keefe, “A Review of the Hippocampal Place Cells”, Progress in Neurobiology 13, br. 4 (2009): 419-439. 215

Edvard I. Moser et al., “Place Cells, Grid Cells, and the Brains Spatial Representation System”, Annual Review of Neuroscience 31 (2008): 69-89. 216

V. Christian F. Doeller et al., “Evidence for Grid Cells in a Human Memory Network”, Nature 463 (2010): 657-661; Nathaniel J. Killian et al., “A Map of Visual Space in the Primate Entorhinal Cortex”, Nature 491 (2012): 761-764; te Joshua Jacobs et al., “Direct Recordings of Grid-Like Neuronal Activity in Human Spatial Navigation”, Nature Neuroscience, 4. kolovoza 2013, nature.com/neuro/journal/ vaop/ncurrent/full/nn.3466.html. 217

James Gorman, “A Sense of Where You Are”, New York Times, 30. travnja 2013.

218

György Buzsaki i Edvard I. Moser, “Memory, Navigation and Theta Rhythm in the Hippocampal-Entorhinal System”, Nature Neuroscience 16, br. 2 (2013): 130-138. V. takoĎer Neil Burgess et al., “Memory for Events and Their Spatial Context: Models and Experiments”, u Alan Baddeley et al., ur., Episodic Memory: New Directions in Research (New York: Oxford University Press, 2002), 249-268. Čini se poučno da jedna od najdjelotvornijih mnemo- ničkih tehnika, koja seţe do klasičnog doba, funkcionira tako da se mentalne slike predmeta ili činjenica smještaju na zamišljene poloţaje, primjerice u neku zgradu ili grad. Lakše je prizvati nešto iz sjećanja kad je to upamćeno u vezi s nekom fizičkom lokacijom, makar i onom iz mašte. 219

V. primjerice Jan M. Wiener et al., “Maladaptive Bias for Extrahip- pocampal Navigation Strategies in Aging Humans”, Journal of Neuroscience 33, br. 14 (2013): 6012-6017. 220

V. primjerice A. T. Du et al., “Magnetic Resonance Imaging of the Entorhinal Cortex and Hippocampus in Mild Cognitive Impairment and Alzheimer‟s Disease”, Journal of

Neurology, Neurosurgery and Psychiatry 71 (2001): 441-447. 221

Kyoko Konishi i Véronique D. Bohbot, “Spatial Navigational Strategies Correlate with Gray Matter in the Hippocampus of Healthy Older Adults Tested in a Virtual Maze”, Frontiers in Aging Neuroscience 5(2013): 1-8. 222

E-mail Véronique Bohbot autoru, 4. lipnja 2010.

223

Quoted in Alex Hutchinson, “Global Impositioning Systems”, Walrus, studeni 2009.

224

Kyle VanHemert, “4 Reasons Why Apples iBeacon Is About to Disrupt Interaction Design”, Wired, 11. prosinca 2013, www.wired.com/ design/2013/12/4-use-cases-foribeacon-the-most-exciting-tech- you-havent-heard-of/. 225

Navedeno u Fallows, “Places You‟ll Go”.

226

Damon Lavrinc, “Mercedes Is Testing Google Glass Integration, and It Actually Works”, Wired, 15. kolovoza 2013, wired.com/auto- pia/2013/08/google-glass-mercedesbenz/. 227

William J. Mitchell, “Foreword”, u Yehuda E. Kalay, Architectures New Media: Principles, Theories, and Methods of Computer-Aided Design (Cambridge, Mass.: MIT Press, 2004), xi. 228

Robert Ivy, “Piano Nobile”, Architectural Record, 1. siječnja 2008. architecturalinterviews.blogspot.co.ke/2009/12/renzo-piano-speaks- with-architectural.html 229

Navedeno u Gavin Mortimer, The Longest Night (New York: Penguin, 2005), 319.

230

Dino Marcantonio, “Architectural Quackery at Its Finest: Parametrici- sm”, Marcantonio Architects Blog, 8. svibnja 2010, blog.marcantonioarchitects.com/architectural-quackery-at-its-finest-parametricism/. 231

Paul Goldberger, “Digital Dreams”, New Yorker, 12. oţujka 2001.

232

Patrik Schumacher, “Parametricism as Style - Parametricist Manifesto”, blog Patrika Schumachera, 2008, patrikschumacher.com/Texts/ Parametricism%20as%20Style.htm. 233

Robert Ivy, “Piano Nobile”.

234

Witold Rybczynski, “Think before You Build”, Slate, 30. travnja 2011, slate.com/articles/arts/architecture/2011/03/think_before_you_bu- ild.html. 235

Navedeno u Bryan Lawson, Design in Mind (Oxford, U.K.: Architectural Press, 1994),

66. 236

Michael Graves, “Architecture and the Lost Art of Drawing”, New York Times, 2. rujna 2012. 237

D. A. Schön, “Designing as Reflective Conversation with the Materials of a Design Situation”, Knowledge-Based Systems 5, br. 1 (1992): 3-14. V. takoĎer Schönovu knjigu The Reflective Practitioner: How Professionals Think in Action (New York: Basic Books, 1983), osobito 157-159. 238

Graves, “Architecture and the Lost Art of Drawing.” V. takoĎer Ma- saki Suwa et al., “Macroscopic Analysis of Design Processes Based on a Scheme for Coding Designers‟ Cognitive Actions”, Design Studies 19 (1998): 455-483. 239

Nigel Cross, Designerly Ways of Knowing (Basel: Birkhäuser, 2007), 58.

240

Schön, “Designing as Reflective Conversation”.

241

Ibid.

242

Joachim Walther et al., “Avoiding the Potential Negative Influence of CAD Tools on the Formation of Students‟ Creativity”, u Proceedings of the 2007 AaeE Conference, Melbourne, Australia, prosinac 2007, ww2.cs.mu.oz.au/aaee2007/papers/paper_40.pdf. 243

Graves, “Architecture and the Lost Art of Drawing”.

244

Juhani Pallasmaa, The Thinking Hand: Existential and Embodied Wisdom in Architecture (Chichester, U.K.: Wiley, 2009), 96-97. 245

Autorov intervju s E. J. Meadeom, 23. srpnja 2013.

246

Jacob Brillhart, “Drawing towards a More Creative Architecture: Mediating between the Digital and the Analog”, izlaganje na skupu Association of Collegiate Schools of Architecture, Montreal, Canada, 5. oţujka 2011. 247

Matthew B. Crawford, Shop Class as Soulcraft: An Inquiry into the Value of Work (New York: Penguin, 2009), 164. 248

Ibid., 161.

249

John Dewey, Essays in Experimental Logic (Chicago: University of Chicago Press, 1916), 13-14. 250

Matthew D. Lieberman, “The Mind-Body Illusion”, Psychology Today, 17. svibnja

2012, psychologytoday.com/blog/social-brain-so- cial-mind/201205/the-mind-bodyillusion. V. takoĎer Matthew D. Lieberman, “What Makes Big Ideas Sticky?”, u Max Brockman, ur., What's Next? Dispatches on the Future of Science (New York: Vintage, 2009), 90-103. 251

“Andy Clark: Embodied Cognition” (video), University of Edinburgh: Research in a Nutshell, bez datuma, nutshell-videos.ed.ac.uk/an- dy-clark-embodied-cognition. 252

Tim Gollisch i Markus Meister, “Eye Smarter than Scientists Believed: Neural Computations in Circuits of the Retina”, Neuron 65 (28. sijecnja 2010): 150-164. 253

V. Vittorio Gallese i George Lakoff, “The Brains Concepts: The Role of the SensoryMotor System in Conceptual Knowledge”, Cognitive Neuropsychology 22, br. 3/4 (2005): 455-479; i Lawrence W. Barsa- lou, “Grounded Cognition”, Annual Review of Psychology 59 (2008): 617-645. 254

“Andy Clark: Embodied Cognition”.

255

Shaun Gallagher, How the Body Shapes the Mind (Oxford, U.K.: Oxford University Press, 2005), 247. 256

Andy Clark, Natural-Born Cyborgs: Minds, Technologies, and the Future of Human Intelligence (New York: Oxford University Press, 2003), 4. 257

Navedeno u Fallows, “Places You‟ll Go”.

258

Kevin Kelly, “Better than Human: Why Robots Will—and Must- Take Our Jobs”, Wired, siječanj 2013. 259

Jay Yarow, “Human Driver Crashes Googles Self Driving Car”, Business Insider, 5. kolovoza 2011, businessinsider.com/googles-self-dri- ving-cars-get-in-their-first-accident2011-8. 260

Andy Kessler, “Professors Are About to Get an Online Education”, Wall Street Journal, 3. lipnja 2013. 261

Vinod Khosla, “Do We Need Doctors or Algorithms?” TechCrunch, 10. siječnja 2012, techcrunch.com/2012/01/10/doctors-or-algorithms. 262

Gerald Traufetter, “The Computer vs. the Captain: Will Increasing Automation Make Jets Less Safe?” Spiegel Online, 31. srpnja 2009, spiegel.de/international/world/thecomputer-vs-the-captain-will- increasing-automation-make-jets-less-safe-a-639298.html. 263

V. Adam Fisher, “Inside Googles Quest to Popularize Self-Driving Cars”, Popular

Science, listopad 2013. 264

Tosha B. Weeterneck et al., “Factors Contributing to an Increase in Duplicate Medication Order Errors after CPOE Implementation”, Journal of the American Medical Informatics Association 18 (2011): 774-782. 265

Sergey V. Buldyrev et al., “Catastrophic Cascade of Failures in Interdependent Networks”, Nature 464 (15. travnja 2010): 1025-1028. V. takoĎer Alessandro Vespignani, “The Fragility of Interdependency”, Nature 464 (April 15, 2010): 984-985. 266

Nancy G. Leveson, Engineering a Safer World: Systems Thinking Applied to Safety (Cambridge, Mass.: MIT Press, 2011), 8-9. 267

Lisanne Bainbridge, “Ironies of Automation”, Automatica 19, br. 6 (1983): 775-779.

268

Za pregled istraţivanja pozornosti, uključujući ona provedena u Drugom svjetskom ratu, v. D. R. Davies i R. Parasuraman, The Psychology of Vigilance (London: Academic Press, 1982). 269

Bainbridge, “Ironies of Automation”.

270

V. Magdalen Galley, “Ergonomics—Where Have We Been and Where Are We Going”, govor bez datuma, taylor.it/meg/papers/50%20 Years%20of%20Ergonomics.pdf; te Nicolas Marmaras et al., “Ergonomic Design in Ancient Greece”, Applied Ergonomics 30, br. 4 (1999): 361-368. 271

David Meister, The History of Human Factors and Ergonomics (Ma- hwah, N.J.: Lawrence Erlbaum Associates, 1999), 209, 359. 272

Leo Marx, “Does Improved Technology Mean Progress?”, Technology Review, siječanj 1987. 273

Donald A. Norman, Things That Make Us Smart: Defending Human Attributes in the Age of the Machine (New York: Perseus, 1993), xi. 274

Norbert Wiener, I Am a Mathematician (Cambridge, Mass.: MIT Press, 1956), 305.

275

Nadine Sarter et al., “Automation Surprises”, u: Gavriel Salvendy, ur., Handbook of Human Factors and Ergonomics, 2. izdanje (New York: Wiley, 1997). 276

277

Ibid.

John D. Lee, “Human Factors and Ergonomics in Automation Design”, u: Gavriel Salvendy, ur., Handbook of Human Factors and Ergonomics, 3. izdanje (Hoboken, N.J.:

Wiley, 2006), 1571. 278

Više o automatizaciji koja smjera ljudima u Charles E. Billings, Aviation Automation: The Search for a Human-Centered Approach (Ma- hwah, N.J.: Lawrence Erlbaum Associates, 1997); te Raja Parasura- man et al., “A Model for Types and Levels of Human Interaction with Automation”, IEEE Transactions on Systems, Man, and Cybernetics 30, br. 3 (2000): 286-297. 279

David B. Kaber et al., “On the Design of Adaptive Automation for Complex Systems”, International Journal of Cognitive Ergonomics 5, br. 1 (2001): 37-57. 280

Mark W. Scerbo, “Adaptive Automation”, u: Raja Parasuraman i Matthew Rizzo, ur., Neuroergonomics: The Brain at Work (New York: Oxford University Press, 2007), 239252. Više o tom projektu DAR- PA-e u Mark St. John et al., “Overview of the DARPA Augmented Cognition Technical Integration Experiment”, International Journal of Human-Computer Interaction 17, br. 2 (2004): 131-149. 281

Lee, “Human Factors and Ergonomics”.

282

Intervju Raje Parasuramana s autorom, 18. prosinca 2011.

283

Lee, “Human Factors and Ergonomics”.

284

Autorov intervju s Benom Tranelom, voĎen 13. lipnja 2013.

285

Mark D. Gross i Ellen Yi-Luen Do, “Ambiguous Intentions: A Paperlike Interface for Creative Design”, u Proceedings of the ACM Symposium on User Interface Software and Technology (New York: ACM, 1996), 183-192. 286

Julie Dorsey et al., “The Mental Canvas: A Tool for Conceptual Architectural Design and Analysis”, u Proceedings of the Pacific Conference on Computer Graphics and Applications (2007), 201-210. 287

William Langewiesche, Fly by Wire: The Geese, the Glide, the “Miracle” on the Hudson (New York: Farrar, Straus & Giroux, 2009), 102. 288

Lee, “Human Factors and Ergonomics”.

289

CBS News, “Faulty Data Misled Pilots in „09 Air France Crash”, 5. srpnja 2012, cbsnews.com/8301-505263_162-57466644/faulty-data- misled-pilots-in-09-air-francecrash/. 290

Langewiesche, Fly by Wire, 109.

291

Federal Aviation Administration, “NextGen Air Traffic Control/ Technical Operations Human Factors (Controller Efficiency & Air Ground Integration) Research and Development Plan”, prva verzija, travanj 2011. 292

Nathaniel Popper, “Bank Gains by Putting Brakes on Traders”, New York Times, 26. srpnja 2013. 293

Thomas P. Hughes, “Technological Momentum”, u Merritt Roe Smith i Leo Marx, ur., Does Technology Drive History? The Dilemma of Technological Determinism (Cambridge, Mass.: MIT Press, 1994), 101-113. 294

Gordon Baxter i John Cartlidge, “Flying by the Seat of Their Pants: What Can High Frequency Trading Learn from Aviation?”, u: G. Brat et al., ur., ATACCS-2013: Proceedings of the 3rd International Conference on Application and Theory of Automation in Command and Control Systems (New York: ACM, 2013), 64-73. 295

David F. Noble, Forces of Production: A Social History of Industrial Automation (New York: Alfred A. Knopf, 1984), 144-145. 296

Ibid., 94.

297

Navedeno u Noble, Forces of Production, 94.

298

Ibid., 326.

299

Taj je komentar Dyson iznio u domentarnom filmu The Day after Trinity (1981). Navedeno u Bill Joy, “Why the Future Doesn‟t Need Us”, Wired, travanj 2000. 300

Matt Richtel, “A Silicon Valley School That Doesn‟t Compute”, New York Times, 23. listopada 2011. 301

* Kad kaţem da su kompjuterske igre dobar model za programiranje, ne ţelim reći da se slaţem s polupopularnom praksom u projektiranju softvera, ruţno nazvanom “gejmifikacija” ili ludifikacija. Riječ je, naime, o tome da bi aplikacije ili web-stranice trebale rabiti sustav nagraĎivanja sličan onom u igrama, a kako bi motivirale ljude (odnosno, ljudima manipulirale) da ponavljaju neku propisanu aktivnost. Nastavljajući se na eksperimente operantnog uvjetovanja psihologa B. F. Skinnera, ludifikacijom se iskorištava tamna strana bivanja u stanju toka. Nastojeći zadrţati ugodu i zadovoljstvo bivanja u stanju toka, ljudi se mogu početi opsesivno sluţiti softverom. Kompjuterizirani kockarski automati, da se posluţim poznatim i zloglasnim primjerom, pomnjivo su projektirani za to da potiču igrače na taj adiktivni oblik toka, što opisuje Natasha Dow Schüll u svojoj jezovitoj knjizi Ovisnost s namjerom: kockanje za automatima u Vegasu (Addiction by Design: Machine Gambling in Las Vegas. Princeton: Princeton University Press, 2012). Doţivljaj koji bi u normalnim okolnostima bio “afirmativan, okrepljujuć i obogaćujući za ţivot”, piše ona, u kockara postaje “iscrpljujuć, prijetvoran i povezan s

gubitkom autonomije”. Čak i kad se rabi s naoko benignim ciljevima, primjerice za drţanje radi pravilnije prehrane, ludifikacija sa sobom donosi svoju ciničnu moć. Umjesto da bude protuotrov za projektiranje koje smjera tehnologiji, ona ga naprotiv dovodi do ekstrema. Kraj toga puta je automatizacija ljudske volje. 302

Peter Merholz, “„Frictionless‟ as an Alternative to „Simplicity‟ in Design”, Adaptive Path (blog), 21. srpnja 2010, adaptivepath.com/ideas/ friction-as-an-alternative-tosimplicity-in-design. 303

David J. Hill, “Exclusive Interview with Ray Kurzweil on Future AI Project at Google”, Singularity HUB, 10. siječnja 2013, singulari- tyhub.com/2013/01/10/exclusiveinterview-with-ray-kurzweil-on- future-ai-project-at-google/. 304

Asimovljeva se pravila robotike, “tri zakona koja su najdublje ugraĎena u pozitronski mozak robota”, prvi put spominju u njegovoj pripovijetci “Runaround” iz 1942., koja se moţe pronaći u zbirci /, Robot (New York: Bantam, 2004), 37. 305

Gary Marcus, “Moral Machines”, News Desk (blog), New Yorker, 27. studenog 2012, newyorker.com/online/blogs/newsdesk/2012/11/ google-driverless-car-morality.html. 306

Charles T. Rubin, “Machine Morality and Human Responsibility”, New Atlantis, ljeto 2011. 307

Christof Heyns, “Report of the Special Rapporteur on Extrajudicial, Summary or Arbitrary Executions”, za Human Rights Council of the United Nations General Assembly, 9. travnja 2013, wwAv.ohchr.org/ Documents/HRBodies/HRCouncil/RegularSession/Session23/A- HRC-23-47_en.pdf. 308

Patrick Lin et al., “Autonomous Military Robotics: Risk, Ethics, and Design”, v. 1.0.9, za U.S. Department of Navy, Office of Naval Research, 20. prosinca 2008. 309

Ibid.

310

Thomas K. Adams, “Future Warfare and the Decline of Human Decisionmaking”, Parameters, zima 2001-2002. 311

Heyns, “Report of the Special Rapporteur”.

312

Ibid.

313

Joseph Weizenbaum, Computer Power and Human Reason: From Judgment to Calculation (New York: W. H. Freeman, 1976), 20. 314

Mark Weiser, “The Computer for the 21st Century”, Scientific American, rujan 1991.

315

Mark Weiser i John Seely Brown, “The Coming Age of Calm Technology”, u P. J. Denning i R. M. Metcalfe, ur., Beyond Calculation: The Next Fifty Years of Computing (New York: Springer, 1997), 75-86. 316

M. Weiser et al., “The Origins of Ubiquitous Computing Research at PARC in the Late 1980s”, IBM Systems Journal 38, br. 4 (1999): 693-696. 317

V. Nicholas Carr, The Big Switch: Rewiring the World, from Edison to Google (New York: W. W. Norton, 2008). 318

Thomas P. Hughes, Networks of Power: Electrification in Western Society, 1880-1930 (Baltimore: Johns Hopkins University Press, 1983), 140. 319

W. Brian Arthur, “The Second Economy”, McKinsey Quarterly, listopad 2011.

320

Ibid.

321

Bill Gates, Business @ the Speed of Thought: Using a Digital Nervous System (New York: Warner Books, 1999), 37. Usp. Poslovanje brzinom misli - uporaba digitalnog nervnog sistema (Zagreb: Izvori, 1999) 322

Arthur C. Clarke, Profiles of the Future: An Inquiry into the Limits of the Possible (New York: Harper & Row, 1960), 227. Usp. Profili budućnosti (Zagreb: Stvarnost, 1976) 323

Sergey Brin, “Why Google Glass?”, govor na konferenciji TED2013, Long Beach, Calif., 27. veljače 2013, youtube.com/watch?v=rie- hPVJ7Sw. 324

Ibid.

325

V. Christopher D. Wickens i Amy L. Alexander, “Attentional Tunneling and Task Management in Synthetic Vision Displays”, International Journal of Aviation Psychology 19, br. 2 (2009): 182-199. 326

Richard F. Haines, “A Breakdown in Simultaneous Information Processing”, u Gerard Obrecht i Lawrence W. Stark, ur., Presbyopia Research: From Molecular Biology to Visual Adaptation (New York: Plenum Press, 1991), 171-176. 327

Daniel J. Simons i Christopher F. Chambris, “Is Google Glass Dangerous?”, New York Times, 26. svibnja 2013. 328

“Amanda Rosenberg: Google Co-Founder Sergey Brins New Girlfriend?”, Guardian, 30. kolovoza 2013, theguardian.com/technology/short- cuts/2013/aug/30/amandarosenberg-google-sergey-brin-girlfriend.

329

Weiser, “Computer for the 21st Century”.

330

Intervju s Charlieom Roseom, 24. travnja 2012, charlierose.com/ watch/60065884.

331

David Kirkpatrick, The Facebook Effect (New York: Simon & Schuster, 2010), 10.

332

Josh Constine, “Google Unites Gmail and G+ Chat into „Hangouts‟ Cross-Platform Text and Group Video Messaging App”, TechCrun- ch, 15. svibnja 2013, techcrunch.com/2013/05/15/google-hangouts- messaging-app/. 333

Larry Greenemeier, “Chipmaker Races to Save Stephen Hawking‟s Speech as His Condition Deteriorates”, Scientific American, 18. oţujka 2013, www.scientificamerican.com/article.cfm?id=intel-helps- hawking-communicate. 334

Nick Bilton, “Disruptions: Next Step for Technology Is Becoming the Background”, New York Times, 1. srpnja 2012, bits.blogs.nytimes. com/2012/07/01/google‟s-projectglass-lets-technology-slip-into- the-background/. 335

Bruno Latour, “Morality and Technology: The End of the Means”, Theory, Culture and Society 19 (2002): 247-260. Kurziv je Latourov. 336

Bernhard Seefeld, “Meet the New Google Maps: A Map for Every Person and Place”, Google Lat Long (blog), 15. svibnja 2013, google- latlong.blogspot.com/2013/05/meetnew-google-maps-map-for- every.html. 337

Evgeny Morozov, “My Map or Yours?”, Slate, 28. svibnja 2013, slate. com/articles/technology/future_tense/2013/05/google_maps_personalization_will_hurt_public_space_and_engagement.html. 338

Kirkpatrick, Facebook Effect, 199.

339

Sebastian Thrun, “Google‟s Driverless Car”, govor na konferenciji TED2011, oţujak 2011, ted.com/talks/sebastian_thrun_google_s_ driverless_car.html. 340

National Safety Council, “Annual Estimate of Cell Phone Crashes 2012”, izvještaj, 2014. 341

V. Sigfried Giedion, Mechanization Takes Command (New York: Oxford University Press, 1948), 628-712. 342

Langdon Winner, Autonomous Technology: Technics-out-of-Con- trol as a Theme in Political Thought (Cambridge, Mass.: MIT Press, 1977), 285

343

Navedeno u Richard Poirier, Robert Frost: The Work of Knowing (Stanford, Calif.: Stanford University Press, 1990), 30. Pojedinosti o Frostovu ţivotu crpio sain iz Poirierove knjige, te William H. Pritchard, Frost: A Literary Life Reconsidered (New York: Oxford University Press, 1984); i Jay Parini, Robert Frost: A Life (New York: Henry Holt, 1999). 344

Navedeno u Poirier, Robert Frost, 30.

345

Robert Frost, “Košnja”, u: The Scent of Apples/Miris jabuka. Prijevod s engleskoga, bilješke uz pjesme i predgovor Mate Maras. Crteţi Robert Budor. Artresor Naklada, Zagreb, 2006, 40-41. 346

Robert Frost, “Dvije skitnice u doba blata”, u: The Scent of Apples/ Miris jabuka, 255259, prev. Mate Maras. 347

Poirier, Robert Frost, 278.

348

Robert Frost, “Some Science Fiction”, u: In the Clearing (New York: Holt, Rinehart & Winston, 1962), 89-90. 349

Poirier, Robert Frosty 301.

350

Robert Frost, “Kitty Hawk”, u: In the Clearing, 41-58.

351

Maurice Merleau-Ponty, Phenomenology of Perception (London: Routledge, 2012), 147. Usp. Fenomenologija percepcije (Sarajevo: Veselin Masleša, 1990). Moje čitanje Merleau-Pontyja oslanja se na komentar Huberta L. Dreyfusa, “The Current Relevance of Merle- au-Pontys Phenomenology of Embodiment”, Electronic Journal of Analytic Philosophy 4 (proljeće 1996), ejap.louisiana.edu/ejap/1996. spring/dreyfus. 1996.spring.html. 352

Benedict de Spinoza, Ethics (London: Penguin, 1996), 44. Usp. Etika: dokazana geometrijskim redom (Zagreb: Demetra, 2000). 353

John Edward Huth, “Losing Our Way in the World”, New York Ti- mes, 21. srpnja 2013. V. takoĎer Huthovu prosvjetljujuću knjigu The Lost Art of Finding Our Way (Cambridge, Mass.: Harvard University Press, 2013). 354

Merleau-Ponty, Phenomenology of Perception, 148.

355

Ibid., 261.

356

V. Nicholas Carr, Plitko. Što Internet čini našem mozgu (Zagreb: Jesenski i Turk, 2011).

357

Pascal Ravassard et al., “Multisensory Control of Hippocampal Spa- tiotemporal Selectivity”, Science 340, br. 6138 (2013): 1342-1346. 358

“Living in The Matrix Requires Less Brain Power”, Science Now, 2. svibnja 2013, news.sciencemag.org/physics/2013/05/living-matrix- requires-less-brain-power. 359

Alfred Korzybski, Science and Sanity: An Introduction to Non-Aristotelian Systems and General Semantics, 5. izdanje (New York: Institute of General Semantics, 1994), 58. 360

John Dewey, Art as Experience (New York: Perigee Books, 1980), 59.

361

Medco, “Americas State of Mind”, 2011, apps.who.int/medicinedocs/documents/sl9032en/sl9032en.pdf. 362

Erin M. Sullivan et al., “Suicide among Adults Aged 35-64 Years— United States, 1999-2010”, Morbidity and Mortality Weekly Report, 3. svibnja 2013. 363

Alan Schwarz i Sarah Cohen, “A.D.H.D. Seen in 11% of U.S. Children as Diagnoses Rise”, New York Times, 1. travnja 2013. 364

* Destruktivni potencijal kose stječe to veću simboličku rezonancu kad se prisjetimo da naziv za orhideju, gomoljastu biljku, potječe od grčke riječi za testis, orkhis. Frost je bio vrlo dobro upućen u klasične jezike i knjiţevnost. A mora da je znao i za popularnu prispodobu o sablasnom koscu i njegovoj kosi. 365

Robert Frost, “Stručak cvijeća”, u: The Scent of Apples/Miris jabuka, 45-47, prev. Mate Maras. 366

V. “Fields of Automation”, Economist, 10. prosinca 2009; i Ian Berry, “Teaching Drones to Farm”, Wall Street Journal, 20. rujna 2011. 367

Charles A. Lindbergh, The Spirit of St. Louis (New York: Scribner, 2003), 486. Kurziv je Lindberghov. 368

J. C. R. Licklider, “Man-Computer Symbiosis”, IRE Transactions on Human Factors in Electronics 1 (oţujak 1960): 4-11. 369

Langdon Winner, Autonomous Technology: Technics-out-of-Con- trol as a Theme in Political Thought (Cambridge, Mass.: MIT Press, 1977), 20-21. 370

Aristotel, Politika (Zagreb: Hrvatska sveučilišna naklada, 1992), 1332a25, prev. Tomislav Ladan.

371

Evgeny Morozov, To Save Everything, Click Here: The Folly of Technological Solutionism (New York: PublicAffairs, 2013), 323. 372

Kevin Kelly, “Better than Human: Why Robots Will - and Must - Take Our Jobs”, Wired, siječanj 2013. 373

Kevin Drum, “Welcome, Robot Overloads. Please Don‟t Fire Us?”, Mother Jones, svibanj/lipanj 2013. 374

Karl Marx and Frederich Engels, The Communist Manifesto (New York: Verso, 1998), 43. Usp. Manifest Komunističke partije, Ekono- mija/Economics 15 (3) str. 565-596 (2008). 375

“Slaves to the Smartphone”, Economist, 10. travnja 2012.

376

Kevin Kelly, “What Technology Wants”, Cool Tools, 18. listopada 2010, kk.org/cooltools/archives/4749. 377

George Packer, “No Death, No Taxes”, New Yorker, 28. studenog 2011.

378

Hannah Arendt, The Human Condition (Chicago: University of Chicago Press, 1998), 4-5. Usp. Vita activa (Zagreb: August Cesarec, 1991). 379

Mihaly Csikszentmihalyi, Flow: The Psychology of Optimal Experience (New York: Harper, 1991), 80. Usp. Flow. Očaravajuća obuzetost (Zagreb: Slap, 2006). 380

Ralph Waldo Emerson, “The American Scholar”, u: Essays and Lectures (New York: Library of America, 1983), 57.