“ELIZA, vaš digitalni psihoterapevt”

Skriti sistemi, ki so »zamrznili« čas in nam preprečili spreminjanje sveta

Če ste danes ameriški politik, imate tudi nov sodoben dodatek, nekoga, ki se imenuje »digitalni sledilec«. Ta vam povsod sledi z video kamero visoke ločljivosti in so ga angažirali ljudje, ki želijo uničiti vašo politično kariero. To se imenuje »raziskovanje opozicije« in ima za cilj beleženje vsega, kar rečete in naredite. Datoteke so konec dneva posredovane v velike anonimne pisarne v Washingtonu, kjer desetine raziskovalcev potem sistematično primerja vse, kar ste ta dan povedali, s tem, kar ste povedali v preteklosti. Iščejo protislovja in če kakšno najdejo, to kot video dokaz posredujejo medijem. Po eni strani je to dokaj stara politika kopanja po umazaniji svojega nasprotnika, vendar je to tudi del nečesa novega, kar je veliko večje kot je politika. Po vsem zahodnem svetu so se vzpostavili novi sistemi, katerih naloga je nenehno evidentiranje in spremljanje sedanjosti, ki se jo nato primerja s posneto preteklostjo. Cilj je odkriti vzorce, naključja in korelacije ter na podlagi tega poiskati načine, kako ustaviti spremembe, da stvari ostanejo enake. Da se ohrani »status quo«.

Ne moremo dobro videti, kaj se dogaja, saj ti sistemi delujejo na zelo različnih področjih – od potrošništva do upravljanja z vašim telesom, napovedovanja kaznivih dejanj in celo v poskusih  stabilizacije svetovnega finančnega sistema -, kot tudi v politiki. Toda kumulativni učinek je podoben velikemu hladilniku, ki nas in tiste, ki nam vladajo, »zamrzne« v stanje negibnosti, ki nenehno ponavljajo preteklost in ki se bojijo sprememb in prihodnosti. Ta sistem lahko bolje spoznamo, če pogledamo, kako je s kombinacijo povsem običajnega vohljanja za zadevami drugih in visoke matematične teorije, do njega sploh prišlo.

Paranoja glede nadzora v naših družbah v zadnjih desetletjih opravičeno narašča. V tem času se je uspešno uveljavil nov sistem za gledanje in spremljanje ljudi. Dela veliko tega, kar so v preteklosti počeli vohuni in zasebnih detektivi, ampak še veliko več. Snema ne le vsa naša dejanja, ampak lahko veliko tega, kar se dogaja v naših glavah, tudi razume – naše želje, naša hrepenenja ter kaj nam je všeč in kaj ne. Imenuje se internet. Težava tovrstnih sistemov na internetu je v tem, da delujejo le z našimi privoljenjem. Toda namesto da bi jih javnost že na začetku zavrnila, smo jih medse sprejeli in so vzcveteli. Ključ, zakaj se je to zgodilo, leži v čudnem eksperimentu, ki so ga leta 1966 izvedli v računalniškem laboratoriju v Kaliforniji. Računalničar Joseph Weizenbaum je raziskoval umetno inteligenco. Ideja je bila, da bi se računalniki lahko naučili razmišljati in bi postali kot ljudje.

V tistem času je bilo na področju umetne inteligence veliko navdušencev. Sanjali so o ustvarjanju novega hibridnega tehnološko-človeškega sveta, v katerem bi lahko računalniki komunicirali z ljudmi in se odzivali na njihove potrebe in želje. Weizenbaum je bil glede tega zelo skeptičen. Leta 1966 je zgradil inteligentni računalniški sistem, ki ga je imenoval ELIZA. To je bil po njegovih besedah računalniški psihoterapevt, ki je lahko poslušal vaše občutke in se nanje odzival, tako kot to počnejo terapevti. ELIZO je zasnoval na modelu resničnega psihoterapevta po imenu Carl Rogers, ki je bil znan po tem, da je pacientu zgolj ponavljal nazaj tisto, kar mu je ta povedal. To pa je počela tudi ELIZA. Sedel si pred zaslon in s tipkovnico vpisal kaj občutiš ali razmišljaš, program pa je tisto, kar si napisal, pogosto v obliki vprašanja enostavno ponovil nazaj. Weizenbaum je želel na ta način, da je pokazal poenostavljeno interakcijo, ki je potrebna za to, da bi lahko rekli, da stroj »misli«, parodirati celotno idejo umetne inteligence. Toda, ko so začeli ljudje ELIZO uporabljati, je odkril nekaj zelo čudnega, česar ni predvidel.

http://www.bbc.co.uk/programmes/p023kpf8/player

Ugotovil je, da izkušnja njegove tajnice ni bila nič nenavadnega. Bil je presenečen ko je ugotovil, da je njegove učence in ostale, ki so ga preizkusili, program popolnoma posrkal vase. Povsem dobro so vedeli kako deluje, da se v resnici pogovarjajo sami s seboj, vendar so kljub temu ure in ure stroju pripovedovali o svojem življenju in svojih občutkih ter pogosto pri tem razkrivali neverjetno osebne informacije. Njegov odziv na to je bil, da je glede ideje človeka in stroja postal zelo pesimističen. Weizenbaum je v 1970-ih napisal knjigo z naslovom »Computer Power and Human Reason« (Moč računalnikov in človeški razum), v kateri je zapisal, da do sveta razmišljajočih strojev ne bomo prišli tako, da bodo računalniki postali kot ljudje, ampak nasprotno, ljudi bomo morali nekako prepričati, da se poenostavijo in postanejo bolj podobni strojem. Drugi pa so trdili, da je Weizenbaum za ljudi v času »jaza« izumil novo vrsto ogledala, da raziščejo svoj notranji svet. Prostor, kjer bi se posamezniki lahko osvobodili in raziskovali svoje občutke brez pokroviteljskega elitizma in zmot tradicionalnih avtoritet. Ko je novinar vprašal nekega računalniškega inženirja kaj si misli o tej računalniški terapiji, je dejal, da je ta na nek način boljša, ker »računalnik ne pregori, ne gleda na vas zviška ali ne poskuša z vami spati«.

Iz ELIZE in veliko drugih podobnih programov je izšla ideja, da bi računalniki lahko spremljali kaj ljudje počnejo in kaj pravijo ter nato te podatke ustrezno analizirali, na podlagi česar bi lahko predvidevali, kaj bi ljudje morali narediti ali kaj bi si želeli.

Ključnega pomena za tovrstno delovanje računalnikov je bil sistem imenovan »Booleova algebra«. To je že leta 1847 izumil angleški matematik George Boole. Nekega dne se je sprehajal po polju blizu Doncasterja, ko je doživel, kot je opisal, »mistično izkušnjo«. Boole je dejal, da je čutil, kot da je bil »poklican, da izrazi delovanje človeškega uma v simbolični ali matematični formi«. Booleova ideja je bila, da vse, kar se dogaja v človeškem umu, lahko reducira na vrsto »da ali ne« odločitev, ki jih je mogoče s simboli zapisati na papir. Njegova ideja je bila več kot sto let precej spregledana, razen za Lewisa Carrolla, ki je ob »Alice’s Adventures in Wonderland« (Alica v čudežni deželi) napisal tudi knjigi z naslovom »Symbolic Logic« (Simbolična logika), v katerih je predstavil in naprej razvijal Boolove ideje.

Ko so izumili računalnik, so takoj prepoznali, da bi lahko Boolovo idejo uporabili, da bi računalnikom omogočili »misliti« na razumen način. Računalniki so bili digitalni – bili so v stanju bodisi 0 ali 1 -, kar je enako kot »da ali ne«. Tako je Booleova algebra postala osrednjega pomena pri tem kako računalniki delujejo danes – polni so neskončnih odločitvenih dreves, ki gredo nekako tako: »če se zgodi to, potem to in ne to«.

To je fotografija Georgea Boolea posneta leta 1864 malo preden je umrl in velja za eno prvih portretnih fotografij.

V začetku 1990ih so bili raziskovalci prepričani, bi bodo lahko računalniki kmalu napovedovali kaj bi si ljudje lahko želeli. Začelo se je leta 1992 z majhno ekipo na univerzi v Minnesoti. Imenovali so se »GroupLens«. Njihova ideja je bila, da če bi lahko zbirali informacije o tem, kaj je ljudem všeč in nato primerjali te podatke, bi lahko našli vzorce na podlagi katerih bi lahko delali napovedi. To se je imenovalo »kolaborativno filtriranje«, logika za tem pa je bila čudovito v skladu z Booleovo algebro. Kot je to lepo povedal nek raziskovalec: »Če ima Jack rad A in B in ima Jill rada A, B in C, potem je za Jacka bolj verjetno, da bo imel rad C«. Začeli so s primerjavo člankov, ki so jih ljudje priporočali v spletnih novičarskih skupinah: »GroupLens je spremljal uporabniške ocene člankov. Ko je uporabnik ocenil več člankov je GroupLens lahko pripravil priporočila o drugih člankih, ki bi uporabniku lahko bili všeč. Rezultati so bili osupljivi. Uporabniki so članke, ki smo jih priporočali, brali tri do štirikrat bolj pogosto, kot tiste, ki jih nismo«.

V istem času, leta 1994, je mlada profesorica na MIT naredila podobno z glasbo. Pattie Maes je oblikovala sistem imenovan RINGO. Vzpostavila je spletno stran, na kateri so ljudje lahko naštevali pesmi in skupine, ki so jim všeč. Eden od uporabnikov je opisal, kako je to delovalo: »RINGO ti je ponudil okoli 20 glasbenih naslovov, nato pa te je za vsakega posebej vprašal ali ti je všeč, ti ni všeč in ali ga sploh ne poznaš. To je sistem opremilo z majhnim DNA tega kar imate radi. Po tem, ko ste prosili za priporočila, je program vaš DNK primerjal z drugimi v sistemu. Če kakšna priporočila niso bila uspešna, bi informacija o tem še izboljšala vaš niz podatkov, tako da bi vam naslednjič lahko ponudil še boljše priporočilo.« Vse skupaj je ponovno presenetljivo dobro delovalo. Maesova je zato naredila podobno še s filmi. Nato je skupina na univerzi v Minnesoti dobila zamisel. Če vam ti sistemi lahko povedo katere članke in pesmi bi lahko imeli radi, zakaj vam ne bi mogla povedati tudi katere izdelke bi imeli raje? Tako so leta 1997 ustanovil podjetje z imenom »Net Perceptions« in ena njihovih prvih strank je bilo podjetje Amazon. Toda eden od mladih inženirjev programske opreme pri Amazonu po imenu Greg Linden je kmalu spoznal, da imajo ti sistemi določeno težavo. Moral si porabiti veliko časa, da si ugotovil, kaj ljudje pravijo, da jim je všeč in ko so ti sistemi postajali večji in večji, se je to izkazalo za vse večjo težavo, ob tem pa so ljudje tudi zelo omahljivi in si pogosto premislijo oziroma v žargonu računalniških inženirjev, so zelo »dinamični«. Linden je vedel kaj je rešitev. Odpoveš se ugotavljanju kaj ljudje pravijo, da jim je všeč in namesto tega pogledaš kaj so delali v preteklosti. Vse potrebne podatke pridobiš iz njihove zgodovine – vse stvari, ki so jih gledali in kupili v preteklosti – in to potem primerjaš s preteklostjo drugih ljudi. Iz tega so izhajali vzorci in korelacije, ki jih človeški možgani ne bi mogli videti, toda iz teh povezav so lahko potem napovedali kaj bi si posameznik lahko želeli v prihodnosti. Linden je bil del skupine, ki se je pri Amazonu imenovala skupina za personifikacijo. Nekoč je dejal: »v skupini je krožila šala, da če bi sistem deloval perfektno, bi vam Amazon moral znati ponuditi samo eno knjigo, ki je ravno tista naslednja knjiga, ki jo boste kupili«. In je delovalo. Prodaja se je povečala in Jeff Bezos, ki vodi Amazon, naj bi baje pred Lindenom padel na kolena in mu dejal »nisem te vreden«.

V poznih 1990ih so tako pri Amazonu in številnih drugih podjetjih na svojih računalniških strežnikih začeli graditi ogromen svet preteklosti. Zgodovinsko vesolje, po katerem so nenehno kopali, da bi našli nove načine, kako bi vam danes z različnimi variacijami vrnili, kar vam je bilo všeč včeraj.

Zanimivo je, da je bila ena prvih, ki je zaradi nenamernih vplivov na družbo kritizirala tovrstne »sisteme za priporočila«, prav Patti Maes, ki je izumila RINGO. Dejala je, da je neizogiben učinek teh sistemov zoženje in poenostavljanje vaše izkušnje, ki slednjič vodi v to, da ostanete statična, vedno bolj omejena različica samih sebe -, da obstanete v neskončni »jaz« zanki, tako kot testiranci v primeru ELIZE.

Vendar, podobno kot toliko drugega sodobnega digitalnega sveta, so ti novi sistemi zelo abstraktni. Malo tega, razen prstov na tipkovnici, je mogoče dejansko pokazati. Tem učinkom je tako zelo težko posvetiti kakršno koli resno pozornost.

Za vse spletne družbe, ki te sisteme uporabljajo, je dejstvo, da zavirajo spremembe, nenamerna posledica. Vendar pa obstajajo tudi drugi, še bolj zmogljivi sistemi, ki so nastali v 1990ih, katerih izrecni namen je natančno to – preprečiti, da bi se svet spreminjal in da bi ostal stabilen. Delujejo pa na povsem enak način -, nenehno spremljajo svet in nato po svojih obsežnih podatkovnih bazah iščejo vzorce in korelacije.

ALADDIN je ime neverjetno močnega računalniškega omrežja, ki ima sedež v majhnem mestecu East Wenatchee – to je mestece sredi ničesar v državi Washington na severu ZDA. ALADDIN po vsem svetu usmerja naložbe v višini več kot 11 trilijonov dolarjev.

Zaradi tega je neverjetno močan. ALADDIN je v lasti največje investicijske družbe na svetu, ki se imenuje Blackrock. Upravlja s toliko denarja, kot vsi »hedge skladi« in zasebna kapitalska podjetja na svetu skupaj. Njihov računalnik spremlja več kot 7% vseh naložb na svetu. To je moč brez primere in kot je nismo videli še nikoli. Toda Blackrocka ne vodi požrešen, plenilski finančnik, kot je običajna podoba tovrstnih ljudi v medijih. Ravno nasprotno, Blackrock vodi zelo previden človek, imenovan gospod Fink. Njegovo polno ime je Larry Fink.

Leta 1986 je bil gospod Fink na poti proti vrhu pri First National Bank of Boston, ko je nepredviden padec obrestnih mer banki povzročil katastrofo. Prisegel je, da se to ne bo nikoli več ponovilo in naslednjih 20 let je gradil ALADDINa. V svojem spominu ima računalnik ne le finančno zgodovino zadnjih 50 let, beleži vse vrste dogodkov. Kar počne je, da ves čas analizira stvari, ki se zgodijo v določenem dnevu in jih primerja z dogodki v preteklosti. Od milijonov različnih korelacij ALADDIN potem zazna mogoče katastrofe, mogoče prihodnosti in premika naložbe, da bi se izognil morebitnim nepredvidljivim dogodkom. Ni mogoče dovolj poudariti, kako močan sistem v oblikovanju sveta je to. V nekaterih pogledih je močnejši od tradicionalne politike, kar postavlja nekatera zelo pomembna vprašanja. Njegov cilj ni spremeniti sveta, ampak ga ohranjati stabilnega – preprečiti vsak razvoj, ki bi lahko bil preveč tvegan. Ko s tem namenom naokrog premikate 11 trilijonov dolarjev, je to res pomembna nova sila, vendar je tudi zelo dolgočasna. Pri tem ni nobene zgodbe, so samo vzorci. Prikaz te moči je abstrakten, skoraj ga ni mogoče vizualno pokazati. Samo dolge, neskončne vrste serverejv, ki jih obkrožajo velike baterije, ki bi sistem vzdrževale pri življenju, če bi zmanjkalo energije.

To je sodoben svet moči in je neverjetno dolgočasen. Ničesar zanimivega ni mogoče posneti, nič zanimivega se ne zgodi, vse skupaj pa vodi človek, ki na noben način ni volk iz Wall Streeta. To je način, kako danes deluje moč. S čisto dolgočasnostjo in pustostjo se skriva vsem na očeh. Ni čudno, da nam je tako težko o tem povedati zgodbo.

http://www.bbc.co.uk/programmes/p023ksf0/player

Obstaja pa tudi vedno večje število sistemov, ki uporabljajo podatke iz preteklosti, da bi poskušali napovedati ali bodo posamezniki v prihodnosti storili kazniva dejanja. Na površini se to zdi hvalevredno, vendar je tudi precej čudno in v nekaterih primerih narobe in zelo nevarno. V vsakem primeru sistemi spremljajo obnašanje posameznikov in potem preverijo, če si delijo podobne značilnosti s skupinami drugih ljudi, shranjenih v podatkovnih bazah, ki so se v preteklosti obnašali nevarno. Ministrstvo za delo uporablja programsko opremo, ki goljufe zaznava z analizo glasov ljudi, ki uporabljajo njihove klicne centre. Če vprašate napačno vprašanje ali pa celo pravo vprašanje na napačen način, vas to uvrsti v skupino potencialno nevarnih. Vlada ima tudi, čemur pravijo enoto za socialno izključene, ki ima svoj akcijski načrt. Njihov cilj je uporaba podatkov, da bi tako celo že pred rojstvom lahko napovedali, kdaj bi v revnih družinah stvari lahko šle narobe. V eni od takšnih shem bi lahko bil še nerojen otrok noseče matere kategoriziran kot potencialni kriminalec. Tak rezultat temelji na podatkih kot so starost matere, njeni slabi izobraževalni dosežki, uporaba drog in družinska zgodovina. Če se sistem odloči, da je še nerojeni otrok potencialno nevaren kriminalec, odziv ni ravno tak, kot ga v »Minority Report« (Posebno poročilo) predvidi Philip K. Dick. Staršem je dodeljena medicinska sestra, ki jim svetuje o starševstvu.

Toda med najbolj nenavadne gotovo sodi program STATIC-99. To je način za napovedovanje ali bodo spolni prestopniki ponovili kaznivo dejanje tudi po tem, ko so bili že izpuščeni. V Ameriki ga uporabljajo pri odločitvah ali koga obdržati v zaporu tudi po tem, ko je že odslužil polno kazen. STATIC-99 deluje tako, da posameznike razvršča po merilih, kot so starost, število spolnih prestopkov in spol žrtev. Te nato vnesejo v podatkovno zbirko, ki prikazuje stopnje povratništva različnih skupin spolnih prestopnikov s podobnimi lastnostmi v preteklosti. Sodniku je nato v odstotkih sporočeno kako verjetno je, da bo storilec prestopek ponovil. Problem je, da rezultat pogosto ne drži. Kar sodniku v resnici povedo, je verjeten odstotek ljudi v skupini, ki bodo ponovili prestopek. Nikakor pa ni mogoče, da bi sistem lahko napovedal, kaj bo posameznik dejansko naredil. Nedavno zelo kritično poročilo do tovrstnih sistemov je sklenilo, da je stopnja napake teh sistemov med 5% in 95%. Z drugimi besedami, rezultat je popolnoma neuporaben. Toda ljudje so na podlagi tega, kar takšni sistemi napovejo, da bi lahko v prihodnosti storili slabega, kljub temu zadržani v zaporu.

Raziskava opozicije, nenehno  evidentiranje vsega, kar politik pove, deluje po istem vzorcu. Toda to je sistem nadzora, ki gre še dlje, ker ima nepredvidene posledice za politika. Prisili ga namreč, da se obnaša kot stroj. Politike to vodi v to, da nenehno ponavljajo, kar so povedali včeraj in ne morejo narediti nobenega domiselnega in ustvarjalnega preskoka. Vsak večer digitalni sledilnik pošlje v bazo to, kar je politik povedal ali storil čez dan. Prvi cilj tega sledenja je, da bi v posnetku dneva našli nekaj nezaslišanega, kar bi lahko posredovali medijem. Toda druga, večja naloga raziskovanja opozicije je, da preživijo ure v primerjanju tega, kar je politik dejal danes, s tem, kar je bilo zabeleženo v preteklosti  in je shranjeno v računalnikih. Iščejo protislovja in če kakšnega najdejo, medijem posredujejo posnetek in politik je (vsaj v teoriji) osramočen. Na ta način so zato, ker morajo imeti brezmadežno zgodovino, politiki postali »zamrznjeni« in »statični«. Na površju se to ponovno zdi hvalevredno, vendar to pomeni tudi, da ne smejo nikoli spremeniti svojega stališča. Ne morejo se prilagoditi svetu, ko se ta spreminja, čeprav, če ima ALADDIN pri tem kakšno besedo, to sploh ni pomembno.

Povzeto po:
http://www.bbc.co.uk/blogs/adamcurtis/entries/78691781-c9b7-30a0-9a0a-3ff76e8bfe58

Adam Curtis

Napotili:
http://zofijini.net/obadova-etika/
https://postaja.wordpress.com/2015/01/15/zagate-digitalne-ekonomije/

Advertisements

Oddajte komentar

Fill in your details below or click an icon to log in:

WordPress.com Logo

Komentirate prijavljeni s svojim WordPress.com računom. Odjava / Spremeni )

Twitter picture

Komentirate prijavljeni s svojim Twitter računom. Odjava / Spremeni )

Facebook photo

Komentirate prijavljeni s svojim Facebook računom. Odjava / Spremeni )

Google+ photo

Komentirate prijavljeni s svojim Google+ računom. Odjava / Spremeni )

Connecting to %s