Dok prelazimo granice s najnovijim tehnološkim trendovima i uživamo u mnogim pozitivnim utjecajima i koristima koje mogu imati na način na koji radimo, igramo se i živimo, uvijek moramo imati na umu opasnosti te se pripremiti za moguće negativne utjecaje i potencijalnu zlouporabu tehnologije.

1. Rojevi dronova

Britanske, kineske i američke oružane snage testiraju kako se međusobno povezane, suradničke bespilotne letjelice mogu upotrijebiti u vojnim operacijama. Inspirirani rojem insekata koji rade zajedno, rojevi dronova mogli bi revolucionirati buduće sukobe, bilo da je riječ o preplavljivanju neprijateljskih senzora njihovim brojem ili da učinkovito pokriju veliko područje za misije pretraživanja i spašavanja.

Razlika između rojeva i načina na koji se bespilotne letelice danas koriste u vojsci je ta što bi se roj mogao organizirati na temelju situacije i međusobnim interakcijama kako bi postigao neki cilj. Dok je ova tehnologija još uvijek u fazi eksperimentiranja, stvarnost roja koji je dovoljno pametan da koordinira vlastito ponašanje približava se stvarnosti.

Osim pozitivnih koristi rojeva dronova kako bi se smanjile žrtve i učinkovitije postigao cilj potrage i spašavanja, pomisao da će strojevi opremljeni oružjem za ubijanje biti u stanju da “misle” za sebe potiče noćne more. Unatoč negativnim mogućnostima, čini se da nema sumnje da će se vojna tehnologija koristiti rojem dronova u budućim sukobima.

2. Pametni kućni uređaji koji vas mogu špijunirati

Da bi pametni kućni uređaji mogli odgovoriti na upite i biti što korisniji, oni trebaju slušati i pratiti podatke o vama i vašim uobičajenim navikama. Kad ste u sobu dodali ‘Echo (odjek) uređaj’ kao radio i budilicu (ili bilo koji drugi pametni uređaj spojen na Internet), dozvoljavate i špijunu da uđe u vaš dom.

Pametni uređaji prikupljaju sve podatke o vašim navikama, poput povijesti pregledavanja na Netflixu; gdje živite i kojim putem krećete kući kako bi vam Google rekao kako izbjeći promet; i u koje vrijeme obično stižete kući kako bi vaš pametni termostat mogao podići temperaturu koju preferirate.

Naravno, ti podaci čine vaš život ugodnijim, ali postoji i potencijal zloupotrebe. Teoretski, uređaji virtualnih pomoćnika čekaju vašu riječ prije nego što se aktiviraju, ali postoje slučajevi kad bi mogli pomisliti da ste izgovorili riječ i započeti snimati. Svaki pametni uređaj u vašem domu, uključujući igraće konzole i pametne televizore, mogao bi biti polazna točka za zlouporabu vaših osobnih podataka. Postoje neke obrambene strategije poput prikrivanja kamera, isključivanja uređaja kad nisu potrebni i isključivanja mikrofona, ali nijedna od njih nije 100% sigurna.

3. Prepoznavanje lica

Postoje neke nevjerojatno korisne aplikacije za prepoznavanje lica, ali mogu se jednako lako koristiti u zlokobne svrhe. Kina je optužena da koristi tehnologiju prepoznavanja lica za nadzor i rasno profiliranje.

Kineske kamere ne samo da opažaju pješake koji ne prelaze cestu na zebri, već su nadgledale i kontrolirale ujgurske muslimane koji žive u zemlji. Ruske kamere skeniraju ulice “ljudima od interesa”, a postoje izvještaji da Izrael prati Palestince unutar Zapadne obale.

Osim što prate ljude bez njihovog znanja, prepoznavanje lica muči pristranost. Kad se algoritam obučava na skupu podataka koji nije raznolik, manje je precizan i više će pogrešno identificirati ljude.

4. AI kloniranje

Uz podršku umjetne inteligencije (AI), sve što je potrebno za stvaranje klona nečijeg glasa samo je isječak zvuka. Slično tome, AI može snimiti nekoliko fotografija ili videozapisa osobe, a zatim stvoriti potpuno novi, klonirani, videozapis koji se čini originalnim.

AI je postao prilično jednostavan za stvaranje umjetne osobe, a rezultati su toliko uvjerljivi da naši mozgovi imaju problema s razlikovanjem onoga što je stvarno i onoga što je klonirano. Tehnologija Deepfake koja koristi mapiranje lica, strojno učenje i umjetnu inteligenciju za stvaranje predodžbi o stvarnim ljudima koji rade i izgovaraju stvari koje nikad nisu radili sada ciljaju “obične” ljude.

Slavne osobe bile su osjetljivije na DeepFake tehnologije, jer je bilo dosta video i audio zapisa koji su se koristili za treniranje algoritama. Međutim, tehnologija je napredovala do točke da ne zahtijeva toliko podataka za stvaranje uvjerljivog lažnog video zapisa, a osim toga, postoji puno više slika i videozapisa običnih ljudi s interneta i kanala društvenih medija koji se koriste.

5. Ucjenjivanje i hakiranje pomoću Ransomwarea i AI-a

Kad napredna tehnologija padne u pogrešne ruke, može biti vrlo učinkovita u postizanju kriminalnih, nemoralnih i zlonamjernih aktivnosti. Ransomware, gdje se zlonamjerni softver koristi za sprečavanje pristupa računalnom sustavu dok se otkupnina ne plati, povećava se sve više prema CISA (Cybersecurity and Infrastructure Security Agency).

Umjetna inteligencija može automatizirati zadatke kako bi ih se učinkovitije obavilo. No zloupotrebljena ona može slati lažne e-poruke kako bi ljude navela na davanje privatnih podataka. Jednom kada je softver ugrađen, ponavljanje tih zadatka je jeftino i jednostavno. AI može brzo i učinkovito ucjenjivati ​​ljude ili provaliti u sustave. Iako AI igra značajnu ulogu u borbi protiv zlonamjernog softvera i drugih prijetnji, cyber-kriminalci ga također koriste za počinjenje zločina.

6. Pametna prašina

Mikroelektromehanički sustavi (MEMS), veličine zrna soli, u sebi imaju senzore, komunikacijske mehanizme, autonomna napajanja i kamere. Ova pametna prašina nudi mnoštvo pozitivnih koristi u zdravstvu, sigurnosti i još mnogo stvari, ali bilo bi zastrašujuće ako se iskoristi za zlo.

Iako bi špijuniranje poznatog neprijatelja pametnom prašinom moglo biti ocijenjeno kao dobra stvar, njom bi se mogla lako napraviti i invazija na privatnost privatnog građanina.

7. ‘Botovi’ lažnih vijesti

GROVER je jedan od AI sustava sposoban za pisanje lažnog članka na temelju samo jednog naslova. AI sustavi poput GROVER-a stvaraju članke vjerodostojnije od onih koje pišu ljudi. OpenAI, neprofitna tvrtka koju je podržao Elon Musk, stvorila je “DeepFakes za tekst” koji proizvode tako dobre vijesti i fantastična djela da je organizacija u početku odlučila da javnosti ne objavi rezultate istraživanja kako bi spriječila opasnu zlouporabu tehnologije.

Kad se lažni članci promoviraju kao istiniti, to može imati ozbiljne posljedice za pojedince, tvrtke i vlade. Uz pozitivnu uporabu današnje tehnologije, nema sumnje da u pogrešnim rukama može biti vrlo opasna, prenosi Poslovni dnevnik.

N1 pratite putem aplikacija za Android | iPhone/iPad | Windows| i društvenih mreža Twitter | Facebook | Instagram.