Želimo li u budućnosti imati sustav društvenog rejtinga građana kakav danas postoji u Kini? Želimo li sada ili u budućnosti dozvoliti manipulativne AI sustave koji iskorištavaju bilo kakvu ranjivost određene skupine (dob, fizički ili mentalni nedostatak)? Želimo li na ulicama Hrvatske i EU-a vidjeti masovnu upotrebu tehnologije prepoznavanja lica i šarenice?
Želimo li da nam u budućnosti AI bez ikakvih ograničenja i pravila savjetuje suce oko toga koliku kaznu u kaznenom ili prekršajnom postupku (npr. u slučaju prometne nesreće) treba izreći? Želimo li da AI bez ikakvih ograničenja i pravila odlučuje hoće li nas se pozvati na razgovor na temelju skena našeg životopisa?
Ta pitanja postavlja Stefan Martinić, pravnik s diplomom s Harvarda i član Upravnog odbora udruge CroAI.
‘Ako je odgovor na prethodno navedena pitanja, kao i na niz sličnih – ‘ne’, onda nam je potrebna zakonska regulativa, ali i društvene norme. S obzirom na to da je hrvatsko tržište premalo da bi utjecalo na ponašanje utjecajnih tehnoloških kompanija i ‘AI igrača’, u interesu Hrvatske jest da se pravila o umjetnoj inteligenciji donesu na razini Europske unije.
Ne samo zato što je Unija zajedno jača od zbroja pojedinih država članica, već i zato što bi donošenjem zakona o umjetnoj inteligenciji na neki način postavila globalni standard koji bi u konačnici kopirale mnoge države iz cijelog svijeta, kao što je to bio slučaj s GDPR-om i njegovim tzv. briselskim učinkom (engl. Brussels effect)’, navodi Martinić.
Nacrt zakona o umjetnoj inteligenciji do kraja ožujka
Europski parlament trebao bi glasati o nacrtu zakona o umjetnoj inteligenciji do kraja ožujka 2023. Nakon glasanja se očekuje da će rasprave između država članica, tj. Vijeća EU-a, Parlamenta i Komisije (tzv. trijalog) započeti u travnju. Ako se taj rok ispuni, konačna verzija zakona o umjetnoj inteligenciji teoretski bi mogla biti usvojena do kraja 2023. godine.
No Martinić upozorava da treba imati na umu to da je od prvotnog Komisijina prijedloga GDPR-a do izglasavanja tog istog GDPR-a prošlo više od četiri godine. Tim tempom izglasavanja, izglednije je da će se zakon o umjetnoj inteligenciji donijeti u 2025. godini.
‘Sa svakim novim tehnološkim skokom, poput ChatGPT-a, ili nekim skandalom, poput Cambridge Analytice, moguće je da se politički pejzaž promijeni te da različiti politički akteri (poput NGO-ova, pojedinih država članica, tehnoloških kompanija itd.) promijene sadržaje svojih inicijalnih zahtjeva, ali i da se promijeni njihova politička moć pri utjecaju na zakonodavni postupak. Čim se promijeni ravnoteža moći i/ili sadržajni zahtjevi u toj igri kompromisa i pregovaranja, koju nazivamo zakonodavnim postupkom EU-a, potrebno je dodatno vrijeme za rekalibriranje i usuglašavanje kompromisnog teksta kojim bi bili zadovoljni pojedine države članice, Parlament, Komisija, NGO-ovi, lobisti, tj. privatni sektor’, pojašnjava potanko Martinić.
Izvor: Društvene mreže / Autor: LinkedIn
Kako povećati transparentnost AI programa?
Podsjeća pritom da EU zaostaje u globalnoj AI utrci za Kinom i SAD-om, stoga su nam potrebne društvene norme i zakoni koji predstavljaju ‘najbolje od oba svijeta’; norme koje pokušavaju postići delikatan balans između interesa poduzetnika, developera, IT sektora u Hrvatskoj i EU te zaštite temeljnih sloboda i prava, kao i ‘europskog načina života’.
‘Postoji niz mjera pomoću kojih možemo povećati transparentnost AI programa, npr. propisati obavezu obavještavanja korisnika da komunicira s AI-jem, a ne da se faktički bez njegova znanja provodi tzv. Turingov test dok npr. komunicira s korisničkom podrškom putem chata ili e-maila. Treba propisati obavezu obavještavanja korisnika da je u interakciji s AI sustavom za prepoznavanje emocija ili s tehnologijom za prepoznavanje lica i/ili šarenica.
Osim toga, treba propisati obavezu obavještavanja korisnika u slučaju korištenja deep fake tehnologije itd. Kao i uvijek u pravu, bit će potrebno ne samo propisati dobar propis, nego će biti još važnije pravilno primjenjivati taj propis. Je li Republika Hrvatska spremna za tako nešto u doba umjetne inteligencije? Je li bolje delegirati primjenu takvih propisa na Bruxelles, koji bi mogao okupiti potrebno ljudstvo, materijalna sredstva i know how? Je li centralizacija prljava riječ?’ navodi Martinić, ostavljajući društvu da razmisli o tim pitanjima.
Opasne odluke, ali i brojni pozitivni primjeri
Za razliku od dobro napisanog programskog koda nekog inženjera, AI sustavi uglavnom nemaju jasno ljudski intepretabilne prikaze svoje logike. To u praksi uzrokuje cijeli niz izazova po pitanju garancije pouzdanosti i sigurnosti, kao i probleme pristranosti u podacima, pa tako i AI rješenjima koja se uče na tim podacima.
‘Pretjerano oslanjanje na odluke AI modela, koji je pristran, uvodi vrlo suptilne, ali opasne oblike, naprimjer diskriminacije, dok bi drugi, manje suptilan primjer bio sustav autonomnog vozila koji može prouzročiti fatalnu nesreću ako nije zadovoljio određenu razinu robusnosti na sve uvjete u prometu. Drugi, možda i ozbiljniji oblik opasnosti dolazi od ljudske zlouporabe moćnih AI alata.
Već danas imamo primjere AI sustava koji su u stanju oponašati čovjeka u razgovoru, i to uz popratni generirani videoprikaz te osobe. Donedavno su prevare na internetu uglavnom bilo lako uočljive i dok god ste pazili na kakve mailove odgovarate ili na kakve linkove klikate, bili ste sigurni. Već danas je potrebna puno veća razina opreza jer i tijekom dužeg razgovora neće biti lako razaznati AI sustav od čovjeka’, pojašnjava nam Matija Ilijaš, član Upravnog odbora udruge CroAI (Hrvatska udruga za umjetnu inteligenciju) i engineering manager za strojno učenje u Microblinku.
S druge strane AI sustav može u puno domena riješiti značajno teže probleme od inženjera koji koristi klasične metode razvoja. Ilijaš kaže da ta prednost rapidno raste sve većim količinama dostupnih podataka, sve naprednijim metodama strojnog učenja te značajnim povećanjem hardverske moći koja sve to mora podržati.
‘Možda najznačajniji primjer pozitivne AI tehnologije je DeepMindov sustav za otkrivanje strukture proteina jer je u svega 18 mjeseci postao alat za preko milijun znanstvenika u raznim granama istraživanja. Ovakvom primjenom AI-ja mogu se očekivati mnogi pozitivni doprinosi, između ostalog u bržem pronalasku novih lijekova. Drugi primjeri pozitivnih utjecaja, koji već danas doprinose u praksi, su automatski sustavi za kočenje u automobilima, aplikacije koje nam pomažu u učenju jezika ili matematike, kao i one čiji je cilj značajno uštedjeti ljudima vrijeme za ono što su ranije bili primorani raditi ručno, poput plaćanja računa, unošenja podataka kreditne kartice, otvaranja bankovnog računa i slično’, navodi Ilijaš.
Kaže i da u struci ne postoje indikacije da trenutni AI sustavi mogu samostalno promijeniti svoje ponašanje u nešto izvan zadataka za koje su namijenjeni.
‘No zahvaljujući novim metodama samonadziranog strojnog učenja, koje omogućuju korištenje dosad neviđenih količina podataka, sposobnosti AI sustava u izvođenju raznih zadataka već su sada u nekim slučajevima na ljudskoj razini. Koji je točno cilj nekog AI sustava, još uvijek definiraju inženjeri programskim kodom ili dodatnim učenjem na podacima koje su označili ljudi, što omogućuje konkretnu primjenu i u konačnici impresivne rezultate’, kaže Ilijaš.
‘Ako tvrtke žele biti konkurentne, moraju početi s implementacijom AI-ja’
Hrvatska udruga za umjetnu inteligenciju (CroAI) redovno mapira tržište kompanija i startupa koji rade na razvoju AI-ja, također svih onih koji su započeli implementaciju AI-ja u svoje procese i šireg ekosustava koji podržava taj razvoj. Prije tri godine evidentirano je oko 70 startupa, a cijeli ekosustav obuhvaćao je 200 kompanija, uključujući startupe, kompanije koje rade na razvoju AI-ja, fakultete, investitore i konferencije koje podržavaju spomenuti ekosustav.
‘Na zadnjem popisu u 2022. evidentirali smo 130 startupa, a cijeli ekosustav obuhvaća preko 440 aktera. Evidentno je to da je on iznimno narastao i sve više kompanija primjećuje da, ako žele i dalje biti konkurentne, moraju početi s implementacijom AI-ja’, ističe izvršna direktorica udruge Martina Silov.
Kaže da se među ljudima redovito javljaju nedoumice kad se pojavi neka nova tehnologija koja puno brže rješava probleme i procese, za koje bi nam inače bili potrebni sati. ‘Slično je sa sustavom ChatGPT; u nekoliko sekundi dobijete prijedlog pitanja za ovaj intervju, razradu projekta, savjet oko financija, za što su vam prije bili potrebni sati ili čak dani, a sad je to gotovo u nekoliko sekundi. No ChatGPT daje dobar kostur, on je podloga prema kojoj se svojim znanjem i iskustvom oblikuje daljnja ideja’, pojašnjava Silov.
Poručuje da od novih tehnologija i alata ne bismo trebali strahovati, već učiti kako olakšati svoj život i ubrzati procese na kojima radimo. Ista stvar, kaže, vrijedi za obrazovanje.
‘Umjesto da zaziremo od njih i strahujemo od korištenja novih tehnologija, moramo se okrenuti pitanju – kako na siguran način implementirati alate poput ChatGPT-a u obrazovanje i naučiti klince kako koristiti suvremenu tehnologiju. Upravo o tome kako će AI utjecati na obrazovanje ili kako već kroz primjere kao što je ChatGPT utječe na njega raspravit ćemo na sljedećem meetupu CroAI-ja 15. veljače‘, najavljuje Silov.
‘AI ima cikluse uspona i padova’
‘Ljudi su fragilna bića lako podložna utjecajima, a svaka tehnologija, posebice ona digitalna, ima velik utjecaj na naše živote. Sve je očitiji negativan učinak digitalne tehnologije, vođene poslovnim modelom iskorištavanja ljudske pažnje’, ističe Jan Šnajder, profesor s Fakulteta elektrotehnike i računarstva (FER) te stručnjak za umjetnu inteligenciju.
On, naime, smatra da nagli razvoj AI-ja te njezino ‘nekritično i nepromišljeno usvajanje’ mogu samo povećati postojeće probleme. ‘Pored toga, šira primjena AI-ja povlači niz drugih problema povezanih sa sigurnošću, transparentnošću, dezinformacijama, pristupačnošću tehnologije itd. Zakonske regulative nam trebaju kako bismo osigurali to da tehnologija služi čovjeku i društvu, umjesto da vodi otupljivanju ljudi i dezintegraciji demokratskih institucija i vrijednosti’, ističe Šnajder.
Umjetna inteligencija kao grana znanosti i kao industrija ima cikluse uspona i padova. Kako se pokazalo u povijesti, često je izazivala velik interes i nadu, nakon čega je nastupilo razočarenje, popraćeno smanjenim financiranjem istraživanja i razvoja. Šnajder se nada da će ovaj put biti drugačije jer su i znanstvena zajednica i industrija oprezniji, odnosno realističniji u procjenama dosega AI-ja.
Ranije se u raspravama često postavljalo i pitanje ima li umjetna inteligencija svijest. Šnajder pojašnjava da trenutačni AI sustavi ne pretendiraju biti kognitivno vjerodostojni, odnosno ti sustavi ne rješavaju probleme na isti način kao što to čine ljudi.
‘Drugim riječima, činjenica da AI uspješno rješava neki problem ne znači da to radi koristeći iste kognitivne procese kao čovjek. U tom smislu diskutabilno je u kojoj mjeri ima smisla govoriti o postojanju kognitivnih fenomena kakve nalazimo kod ljudi u AI-ju. To, međutim, ne znači da je pitanje svijesti u AI besmisleno ili irelevantno.
Pojavom velikih jezičnih modela kao što je ChatGPT ta se tema ponovno aktualizirala. Većina znanstvenika u području AI-ja, a posebno u području filozofije uma, smatra da trenutačni sustavi AI-ja nemaju razumijevanje, pa posljedično ni svijest u uobičajenom smislu tih riječi, te da su svijest i inteligencija međusobno nezavisni fenomeni. Ako je to doista tako, moguć je razvoj visokointeligentnih sustava AI-ja koji nemaju svijest’, pojašnjava Šnajder.
Prilagodba obrazovnih sustava
Komentirajući podrobnije popularni ChatGPT, profesor ističe da se obrazovni sustavi trebaju prilagođavati svijetu u kojem živimo, uključujući tehnologiju koju razvijamo.
‘Često smo, nerijetko i s razlogom, nezadovoljni jer smatramo da su obrazovni sustavi prespori. Međutim sporost je nekad i prednost. Obrazovanje je enormno složeno, pozadinski fenomeni podučavanja i usvajanja znanja su sofisticirani, broj aktera i uloga u sustavu je vrlo velik, paradigme podučavanja su brojne, a učinci promjena manifestiraju se tek nakon nekoliko desetljeća.
Razvoj i široka primjena AI-ja dovode do preslagivanja odgovornosti za kognitivne vještine: neke vještine delegirat ćemo na AI, neke ćemo željeti zadržati za sebe jer su važne i instrumentalne za druge vještine, a istovremeno će se razviti neke nove vještine sukladno novim potrebama na tržištu rada’, navodi Šnajder.
ChatGPT može umjesto nas napisati esej, no ako eseje ne pišemo sami, nećemo usvojiti ni vježbati vještinu pisanja ekspozitornog teksta, čitanja radova, istraživanja literature, pisanja na računalu, naglašava profesor.
‘Ako tu vještinu potpuno delegiramo na AI, gubimo priliku usvajanja i vježbanja niza vještina koje su instrumentalne za mnoge druge zadatke koje obavljamo. Tako bismo zaključili da, premda u nekim situacijama ima smisla koristiti ChatGPT za pisanje teksta, treba inzistirati na usvajanju tih vještina, a obrazovni sustavi će se morati prilagoditi kako bi osigurali da se to doista događa.
Istovremeno – a tu je dobro da se promjena događa sporo – obrazovni sustavi polako će se prilagoditi i napraviti svojevrsnu ‘trijažu kognitivnih vještina’ kako bi se podučavale one koje su potrebne u eri AI-ja. Na putu do toga otvaraju se već sada fantastične mogućnosti primjene AI-ja u podučavanju, kako u okviru institucionaliziranih sustava, tako i u samoučenju, i bila bi velika šteta ne iskoristiti te mogućnosti’, smatra profesor.
‘Veliki igrači hrabrije će zakoračiti u integraciju AI rješenja’
Premda su predviđanja za umjetnu inteligenciju teška i nezahvalna, Šnajder smatra da je u ovoj godini razumno očekivati razvoj jezičnih modela kako bi se povećala njihova iskoristivost u domeni pretraživanja i obrade informacija kombiniranjem jezičnih modela i tražilica, baza znanja i sustava za simboličko zaključivanje. Šnajder vjeruje da ćemo, paralelno s time, vjerojatno svjedočiti platformizaciji takvih sustava i razvoju cijelog ekosustava aplikacija.
‘AI platforme temeljene su na jezičnom modelu za rješavanje specifičnih zadatka koji uključuju komunikaciju jezikom, generiranje sadržaja, pretraživanje informacija ili zdravorazumsko zaključivanje. Veliki igrači, poput Googlea i Mete, koji moraju paziti na svoju reputaciju pa zato imaju puno više toga izgubiti od nekog startupa kao što je OpenAI, vjerojatno će sada ipak hrabrije zakoračiti u integraciju AI rješenja u svoje postojeće proizvode ako uspiju razviti odgovarajući poslovni model’, smatra Šnajder.
Photo by Tara Winstead
