"Promatraju vas. Bilježe apsolutno svaku riječ": Zaposlenici pod stalnim nadzorom AI-ja

U sustavu koji je jedan zviždač opisao kao "represivan i distopijski", Co-op Legal Services koristi modele umjetne inteligencije za snimanje, analiziranje i dodjeljivanje postotnih ocjena razgovorima između svojih djelatnika i klijenata koji traže savjete o ostavinskim postupcima, oporukama i nasljedstvu.

Model tvrtke OpenAI obučen je za procjenu više od 50 zasebnih elemenata svakog telefonskog razgovora te nadređenima dostavlja ocjene o tome jesu li pojedini kriteriji zadovoljeni ili nisu. Menadžeri zatim te podatke koriste za analizu radne uspješnosti zaposlenika.

Jedan zaposlenik rekao je da takav sustav znači da umjetna inteligencija može nadzirati njegov rad nekoliko sati dnevno dok odgovara na upite klijenata, među kojima su često ljudi koji su nedavno izgubili blisku osobu.

"Nadziru apsolutno svaku riječ koju izgovorite"

Ovaj slučaj dolazi nakon što je Guardian prošlog tjedna otkrio da je tvrtka za edukaciju o umjetnoj inteligenciji Multiverse, koju je osnovao Euan Blair, počela koristiti umjetnu inteligenciju za sveobuhvatan nadzor nastave koja se održava putem interneta.

Predavači su takav sustav opisali kao "nemilosrdan" i "uznemirujući", dok je Multiverse priopćio da "koristi umjetnu inteligenciju kako bi poboljšao iskustvo polaznika i klijenata".

Stručnjaci su izrazili zabrinutost da sve rašireniji nadzor zaposlenika uz pomoć umjetne inteligencije može povećati razinu stresa na radnom mjestu.

"Promatraju vas", rekao je zaposlenik Co-opa koji je za Guardian govorio pod uvjetom anonimnosti, dodajući da umjetna inteligencija stvara osjećaj nepovjerenja.

"To je drukčije od situacije u kojoj netko povremeno preslušava vaše razgovore kako bi provjerio poštujete li pravila. Ovdje se nadzire apsolutno svaka riječ koju izgovorite, svaki put kada nešto kažete. Sve to djeluje doista distopijski. To je tek početak nečega mnogo većeg", rekao je.

Co-op odbacuje kritike

Co-op, koji posluje u sektorima maloprodaje, pogrebnih usluga, osiguranja i pravnih usluga, priopćio je da se ne slaže s kritikama te da su njegovi savjetnici za ostavinske postupke vrlo angažirani u svojem poslu.

Tvrtka navodi da zaposlenicima pruža podršku uz pomoć umjetne inteligencije, koja je "ključan dio naših postupaka osiguravanja kvalitete" i pomaže da "naši klijenti dosljedno dobivaju stručne savjete pružene s empatijom".

Prema dostupnim informacijama, nadzor umjetnom inteligencijom uveden je tijekom posljednjih nekoliko mjeseci u rad nekoliko desetaka zaposlenika odjela pravnih usluga.

Sustav se djelomično koristi i za prepoznavanje načina na koje zaposlenici mogu poboljšati svoje prodajne rezultate.

Co-op tvrdi da se umjetna inteligencija koristi isključivo kao pomoćni alat, da ne donosi odluke te da rukovoditeljima omogućuje da "pružaju podršku zaposlenicima i kontinuirano poboljšavaju iskustvo koje nudimo klijentima".

Sindikati upozoravaju na posljedice nadzora

Sindikati su se počeli protiviti sve raširenijoj primjeni umjetne inteligencije za nadzor zaposlenika.

U veljači je američki lanac brze hrane Burger King objavio da će koristiti takvu tehnologiju za praćenje komunikacije zaposlenika restorana s gostima.

Ovoga ljeta Meta je, zbog zabrinutosti oko zaštite privatnosti podataka i protivljenja zaposlenika, privremeno obustavila praćenje tipkanja svojih zaposlenika na računalnim tipkovnicama.

"Umjetna inteligencija prodaje se kao rješenje za svaki problem, ali primjeri poput ovoga jasno pokazuju da može narušiti razumne prakse na radnom mjestu i bez ikakvog razloga dodatno otežati radni život", rekao je John Chadfield, nacionalni dužnosnik sindikata Communication Workers Union.

"Računalni sustavi koji nikome ne odgovaraju ne bi smjeli biti nadređeni ljudima, a ovi vrijedni zaposlenici zaslužuju mnogo više poštovanja", dodao je.

"Ured sve više nalikuje tvornici"

Hayfa Mohdzaini, viša savjetnica za politike i praksu u britanskom Chartered Institute of Personnel and Development, smatra da umjetna inteligencija mijenja način na koji se prati i ocjenjuje rad zaposlenika.

"Ured sada sve više nalikuje tvornici jer povratne informacije o našoj radnoj uspješnosti mogu biti strukturiranije", rekla je.

"Jasno je da neki ljudi imaju problem s time. Bit će zanimljivo vidjeti kako će se situacija razvijati i u kojoj će mjeri menadžeri morati prilagoditi svoj pristup", zaključila je.