Kako algoritam tiho oblikuje naše mišljenje i odnose?

Takvi programski računi nemaju loše namjere, ne planiraju niti osjećaju, nego isključivo teže postići najveću moguću djelotvornost. Upravo u toj potrazi za potpunim prilagođavanjem leži zamka koju je iznimno teško uočiti jer se prikriva iza mrežnih stranica koje djeluju sasvim obično i neusmjereno.

Stroj koji zna što ćete kliknuti prije vas

Sva suvremena mrežna mjesta za razmjenu snimki, slušanje glazbe i društveno povezivanje djeluju prema istome načelu. Sustav neprestano prikuplja podatke o ponašanju pojedinca, bilježeći koliko se dugo zadržava na pojedinome sadržaju, što preskače, a što označava odobravanjem ili dijeli s drugima. Na temelju tih podataka računalni naputak procjenjuje buduće želje i u tome ostvaruje iznimno visoku točnost.

Stručnjaci koji proučavaju takve sustave za preporuku sadržaja već godinama opisuju pojavu zatvorenoga kruga povratnih obavijesti. Svaki pritisak tipke ili odabir poveznice poučava sustav nečemu novome, dok on zauzvrat nudi građu koja korisnika zadržava što dulje. To nije posljedica slučajnosti nego promišljene izradbe u kojoj se uspjeh mjeri isključivo minutama provedenima uz zaslon, a ne stvarnom vrijednošću ili kvalitetom doživljenoga sadržaja.

U svemu tome nastaje privid slobode jer ljudi vjeruju da sami biraju, iako je ponuđeni izbor već unaprijed određen. Razlika između te dvije pojave znatno je dublja i ozbiljnija nego što je većina spremna prihvatiti.

Mjehur koji ne vidite izvana

Kada računalni naputak neprestano utvrđuje i pojačava postojeća uvjerenja, nastaje zatvoreno okruženje u kojemu do pojedinca dopiru samo istomišljenički stavovi, dodatno naglašeni i potvrđeni.

Način djelovanja vrlo je jednostavan: praćenjem pojedinih mrežnih stranica određenoga usmjerenja sustav bilježi zanimanje te počinje ponudom prevladavati sličan sadržaj. Drugačija viđenja postupno nestaju iz prikaza, ne zbog njihova izostanka u stvarnosti, nego zato što sustav procjenjuje da nisu od interesa. Tjednima poslije Slika svijeta postaje sve uža, dok se pojedincu čini kako je okruženje doista upravo takvo kakvim ga vidi na zaslonu.

Jednak se postupak bilježi i tijekom političkih izbora. Mrežna mjesta usmjerena na najveći odaziv korisnika učestalo ističu sadržaje s naglašenim osjećajima, pa podjela društva nije slučajna pojava nego izravna posljedica utrke za pamtljivim odabirima. Zagovornici jedne mogućnosti uglavnom prate građu koja potiče oduševljenje, dok nepovoljni prikazi o suparnicima smanjuju odaziv onih koji bi inače glasovali. Time računalni naputci posredno oblikuju društvene ishode koji znatno premašuju obične osobne odabire u zabavi.

Zašto dating aplikacije ne pronalaze ljubav

Aplikacije za upoznavanje nisu osmišljena kako bi korisnicima pronašla životnoga suputnika, nego kako bi ih zadržala u upotrebi što je dulje moguće.

Računalni naputak koji upravlja takvim mrežnim uslugama usmjeren je na kratkoročno privlačenje pozornosti kroz brzo pregledavanje, spajanje i razmjenu poruka, a ne na stvaranje trajne i stabilne povezanosti. Prikazi pojedinaca svedeni su na nekoliko fotografija i kratke navode, pa se odluke donose u djeliću sekunde. Sustav pritom povezuje ljude na temelju procjene trenutnoga privlačenja, a ne stvarne usklađenosti potrebne za izgradnju vrijednoga odnosa.

Posljedica takva pristupa sasvim je očita. Ljudi nakon dugotrajne primjene takvih usluga često osjećaju iscrpljenost i razočaranje. Svaka zabilježena osoba postaje tek još jedna mogućnost u nizu, čime se lako upada u obrazac puke razmjene u kojoj se neprestano traži najpovoljnija ponuda, iako stvarna i vrijedna bliskost rijetko kada izgleda savršeno na samome početku.

Identitet koji se oblikuje bez naše dozvole

Svaki programski račun djeluje kao ustroj koji prikuplja podatke, procjenjuje buduće postupke, nudi građu te mjeri odaziv pojedinca, ponavljajući taj postupak bez prestanka. Takvo stalno obnavljanje ne predstavlja samo odabir građe nego postupno vodi do preoblikovanja same osobnosti.

Ljudski um gradi svoja uvjerenja na temelju pojava koje najčešće promatra, pa svakodnevno praćenje građe koja potiče netrpeljivost ili poistovjećuje brigu o sebi s neprestanim kupovanjem novih stvari polako usmjerava stavove u tome pravcu. To se ne događa zbog ljudske slabosti, nego zbog prirodne podložnosti ponavljanju, dok o učestalosti pojedinih prikaza odlučuje sam sustav.

Poznati mislioci isticali su da se čovječnost ne stječe samim rođenjem nego odabirima koji se donose tijekom života. Međutim, kada se ti odabiri suze na ono što računalni ustroj smatra vjerojatnim, sama sloboda odlučivanja postaje tek privid prikriven iza privlačnoga izgleda mrežnih stranica.

Obrazovanje koje zaboravlja na znatiželju

Suvremene mrežne usluge za podučavanje primjenjuju razvijene računalne obrasce kako bi gradivo prilagodile svakome polazniku osobno. Na prvi pogled takav pristup djeluje besprijekorno jer pruža usklađeni korak rada, prilagođenu građu i trenutne obavijesti o uspjehu. Međutim, usmjerenost na puko ostvarivanje boljih bodovnih učinaka, umjesto na dubinsko razumijevanje i samostalno istraživanje, uzrokuje neprimjetno smanjenje širine znanja.

Kada sustav neprestano odabire najjednostavniji put do točnoga odgovora, polaznik gubi naviku suočavanja sa složenim zahtjevima. Upravo je to zahtjevno traženje rješenja, koje ne dolazi bez truda, stvarna podloga svakoga temeljitog obrazovanja. Stoga računalni naputak koji učeće pošteđuje početnih poteškoća zapravo sprječava njihov stvarni napredak i razvitak.

Nije problem tehnologija

Računalni naputak običan je radni pribor, pa se stoga glavno pitanje ne odnosi na njegovu dobrotu ili zloću, nego na cilj prema kojemu je ugođen.

Kada se uspješnost mjeri isključivo najvećim mogućim zadržavanjem korisnika uz tehnologijo tj. zaslon, usmjerenost razvoja ide u jednome pravcu. S druge strane, kada bi se uspjeh mjerio dugoročnim zadovoljstvom ili izloženošću različitim stajalištima, sam bi sustav djelovao potpuno drugačije. Suvremene računalne usluge u zdravstvu, primjerice, mogu odrediti prilagođene načine liječenja spajanjem nasljednih podataka i zdravstvenih zapisa. Kada je mjerilo uspjeha usklađeno s istinskim ljudskim potrebama, primjena suvremenih pomagala donosi stvarnu dobrobit, što jednako vrijedi za sva druga područja, od odgoja i obavješćivanja do osobnih odnosa.

Što možete učiniti s tim znanjem

Prepoznavanje načina na koji sustav djeluje predstavlja prvi korak prema promjeni. Kada čovjek shvati da prikaz građe nije slučajan nego namjerno složen, počinje ga promatrati na potpuno drugačiji način.

Povremeno valja samostalno potražiti sadržaje izvan uobičajenoga kruga te pratiti izvore s čijim se stavovima ne slažete, samo kako bi se upoznali razlozi druge strane. Pri istraživanju važne teme uputno je primjenjivati izravnu pretragu umjesto prihvaćanja ponuđenih prijedloga. Male svakodnevne navike postupno mijenjaju obrazac koji računalni naputak gradi, jer sustav uči iz svih postupaka, pa tako i iz onih koji se namjerno izvode drugačije.

Jednako je važno razgovarati s ljudima u stvarnome životu, jer računalni naputci ne mogu upravljati neposrednim susretom ili običnom šetnjom. Upravo u takvim trenutcima nastaje stvarna razmjena viđenja, u kojoj netko može iznenaditi, potaknuti na razmišljanje ili navesti na nov način gledanja na stvari. Budite svjesni da i vlastita uvjerenja imaju svoju povijest, pri čemu su neka izgrađena samostalno, dok su druga neprimjetno ugrađena kroz tisuće sati provedenih uz zaslon.

Sustav ne može biti kriv ako mu se dopusti da razmišlja umjesto čovjeka, no svatko može samostalno odlučiti hoće li ovladati tom mrežnom uslugom ili dopustiti da ona ovlada njime.