Društvena rasprava: Umjetna inteligencija, mnogo velikih opasnosti, dosta koristi! Dolazak u živo Orwellova “Velikog brata”?

Distopijski roman 1984. Georgea Orwella iz 1949. godine ukazao je na opasnosti od totalitarizma zbog represivnog načina reguliranja ljudskog ponašanja i gubitka individualne slobode. Da li se puno više ljudi boji „na brzinu“ dovedene umjetne inteligencije, nego li ima pobornika? UI se ne bi smio razmnožavati i širiti kao obična „tržišna roba“, što znači – bez regulative i dogovora čovječanstva, pogotovu ako se akcpetira da možda UI iznimno snažno gura u stranu značaj i uzvišenost ove mudre civilizacije (homo sapiens). Uostalom, što će tijekom svog života raditi milijarde ljudi kojima UI prijeti zamjenom!? Sad treba govoriti o svemu.

Značajni rizici uslijed neprovjerene i neregulirane umjetne inteligencije:

• gubitak radnih mjesta uzrokovan automatizacijom
• kršenje privatnosti
• stvaranje uvjerljivog krivotvorenog sadržaja (deep fakes)
• algoritamska pristranost zbog nekvalitetnih podataka
• socio-ekonomska nejednakost
• nepredvidljivost tržišta
• automatizacija oružja.

Danas sveprisutne nadzorne kamere s ugrađenom umjetnom inteligencijom prate naše kretanje u gotovo svim svjetskim gradovima.¹ Doživljava li svijet povratak Orwellova “Velikog brata”? Što je umjetna inteligencija (AI – Artificial Intelligence) u odnosu na strojno učenje (Machine Learning)² ? Koje su prednosti umjetne inteligencije i jesu li njezine prednosti sporne zbog opasnosti njezina monopola nad velikim bazama podataka (Big Data) i očiglednog nedostatka međunarodnih i državnih propisa i kontrola?

Što je “umjetna inteligencija” (AI)?

Umjetna inteligencija je računalna znanost koja stvara sustave koji oponašaju ljudsku inteligenciju. Sastoji se od dvije riječi: “umjetna” i “inteligencija”. Stoga je to tehnologija koja kreira i simulira “ljudsku inteligenciju”. Sustavi umjetne inteligencije nisu nužno una­prijed programirani, već su zasnovani na inteligentnim algoritmima (npr. a + b/y = c). Umjetna inteligencija se trenutačno koristi u mnogobrojnim aplikacijama poput “Siri” (asistent na Apple uređajima), Googleovog programa AlphaGo³, kao i u igri Go⁴ ili šahu (sjetimo se da je IBM-ovo računalo “Deep Blue” pobijedilo Garija Kasparova 1997. godine).

Strojno učenje (ML) u odnosu na umjetnu inteligenciju (AI)

Strojno učenje je podskup umjetne inteligencije koji stroju omogućuje učenje iz postojećih podataka bez dodatnog programiranja. Cilj je da strojevi “uče” iz podataka kako bi dali točne rezultate. Strojno učenje ima ograničen opseg i obavlja samo određene programirane zadatke.

Aplikacije strojnog učenja uključuju online sustave preporuka, kao npr. Google pretraživač.

Aktualne aplikacije umjetne inteligencije uključuju, osim gore navedenih, pozivne sustave korisničke podrške, ekspertne sustave (koji oponašaju ljude iz struke) i inteligentnu humanoidnu robotiku⁵.

Ukratko, umjetna inteligencija je grana računalne znanosti koja stvara inteligentne strojeve koji se ponašaju, misle i donose odluke nalik ljudskima. Umjetna inteligencija je prisutna kad god stroj “stekne” ljudske vještine, uključujući učenje, rezoniranje i rješavanje problema.

Prednosti umjetne inteligencije

Glavne prednosti su rasterećenje zaposlenika od mnogih jednostavnih, ali i složenih “ponavljajućih radnji” koje obično dovode do opadanja pažnje, zamora i pogrešaka. Umjetna inteligencija povećava učinkovitost zaposlenika, poboljšava radni proces, podiže produktivnost, smanjuje ljudske pogreške, povećava profitabilnost rutinskih poslova i štiti zdravlje radnika pri opasnim radovima.

Umjetna inteligencija također poboljšava donošenje odluka korištenjem kvalitetnih i raznovrsnih podataka. Očito je da to može dovesti do gašenja radnih mjesta, ali i stvaranja novih – što zahtijeva nove radne vještine i obuke. Kako pronaći ravnotežu između zatvaranja i otvaranja radnih mjesta, otvoreno je pitanje.

Rizici koje nosi umjetna inteligencija

Brojne su prednosti umjetne inteligencije – iako one blijede u usporedbi s rizicima invazije na individualnu privatnost i slobodu mišljenja.

Stephen Hawking, dobitnik Nobelove nagrade za fiziku, izjavio je da bi utjecaj umjetne inteligencije mogao biti kataklizmičan ako ne bude etički strogo kontroliran i da bi “umjetna inteligencija mogla biti najgori događaj u povijesti naše civilizacije”⁶.

Tajvanski računalni znanstvenik Kai-Fu Lee tvrdi da će umjetna inteligencija zamijeniti gotovo sve aktivnosti koje zahtijevaju više od pet sekundi razmišljanja − što bi moglo dovesti do golemog ukidanja rutinskih poslova, ali i istovremeno stvoriti snažnu potražnju za visokokvalificiranom radnom snagom. To bi moglo pogoršati već ionako velike nejednakosti u dohotku, unutar i između zemalja, podići socijalne tenzije, jer bi rastući udio dobiti nacionalnog dohotka bio koncentriraniji na jednom mjestu.

Umjetna inteligencija u sudnicama i svakodnevnom životu

Umjetna inteligencija se sve više koristi u procjeni ponavljajućih kaznenih djela, budući da je manji postotak stanovništva obično odgovoran za većinu kaznenih djela. Međutim, korišteni pravosudni algoritmi često se ne ispituju na specifičnim podskupinama, a manjine se tretiraju kao zaseban entitet; stoga se njihova točnost ne provjerava u odnosu na relevantnu populaciju. Ova pristranost može dovesti do kontinuirane diskriminacije manjina, održavajući tako njihov drugorazredni status. U Francuskoj postoji slična bojazan od uvođenja algoritma “DataJust” u sudnice 2020. godine. Dapače, ista bojazan zbog diskriminirajućih algoritama vrijedi i za niz drugih aktivnosti.

Stoga su zahtjevi za bankovne zajmove, životno i zdravstveno osiguranje te hipoteke sustavno predmet algoritamske provjere s nepravednim ishodom. S obzirom na ove nedosljednosti, sve se više koriste “anonimni životopisi” i audicije za orkestre iza zastora itd. – kako bi se osigurala objektivnost.

Ukratko, gore navedena pitanja koja se tiču umjetne inteligencije relevantna su ne samo za pravosudni sustav, društvene medije, zdravstvenu skrb, obrazovanje i korporativno upravljanje već i za niz drugih područja, kao što su rizici od “sustava automatiziranog oružja” i dominacije algoritamskog trgovanja na burzama. Zaključno, kao što je rekao Eric Schmidt, bivši glavni izvršni direktor Googlea: “Trebamo kontrolirati umjetnu inteligenciju prije nego što ona počne kontrolirati nas.” Trebamo raspravljati o korištenju umjetne inteligencije u svakodnevnom životu prije nego što tehnologija postane toliko brza i pametna da može odlučivati o stvarima koje utječu na sve nas – prije nego što uopće shvatimo da smo imali izbora!

¹ London je imao najviše nadzornih kamera sa 68.4 kamera na tisuću stanovnika u 2019. godini; Pariz je bio 9. u Europi s 3.1 kamera na tisuću stanovnika. Pogledajte “10 najviše nadziranih europskih gradova”
² Strojno učenje je grana računalne znanosti i tehnologije koja se bavi automatskim izvođenjem zaključaka iz podataka bez eksplicitne instrukcije. Cilj strojnog učenja je stvaranje modela koji je u stanju naučiti iz primjera i koristiti ta znanja za predviđanje ishoda u novom skupu podataka. Više…
³ AlphaGo je računalni program za igranje društvene igre Go. To je prvi računalni program koji je pobijedio profesionalnog Go igrača.
⁴ Go je kompleksna misaona igra na ploči za dva igrača, porijeklom iz Kine.
⁵ Humanoidni roboti su dizajnirani da izgledaju poput ljudi i da intuitivno surađuju, više o tome
⁶ Pogledajte Mike Douglas: “7 opasnih rizika od umjetne inteligencije; AI je hvaljena kao revolucionarna i ona koja mijenja svijet, ali također ima svoja ograničenja” 28/7/21.

Autor: James Chan-Lee
S engleskog prevela: Danijela Popović Šušić

Izvor: Umjetna inteligencija ili povratak Orwellova “Velikog brata” – Nova Akropola