Međunarodna znanstvena konferencija posvećena informacijskim i inteligentnim sustavima CECIIS 2025 (Central European Conference on Information and Intelligent Systems), kojoj je i ove godine bio organizator Fakultet organizacije i informatike Sveučilišta u Zagrebu ima tradiciju od čak 36 godina, a izvrstan je primjer međunarodno prepoznatljivog skupa na kojem se okupljaju znanstvenici i stručnjaci iz industrije s ciljem razmjene znanja i iskustva o ključnim izazovima digitalnog doba, počevši od pametne industrije i umjetne inteligencije, preko digitalne transformacije pa do razvoja inteligentnih sustava i novih trendova u softverskom inženjerstvu. Predsjednica Programskog odbora CECIIS 2025 prof. dr. sc. Nina Begičević Ređep, koja je nositeljica kolegija vezanih uz poslovno odlučivanje i teoriju odlučivanja te strateško planiranje na FOI-u, tim povodom govori o utjecaju novih tehnologija na gospodarstvo, znanost i obrazovanje te društvo općenito u kojima se danas najviše ističe umjetna inteligencija.
-Ovogodišnje izdanje konferencije CECIIS, na kojoj je prihvaćeno 87 znanstvenih radova od 230 autora i koautora iz čak 21 zemlje svijeta i pet kontinenata, imalo je temu “Designing Innovation through Productive Disruptions”, a cilj je bio istražiti kako se nove tehnologije, poput umjetne inteligencije kao i pametna industrija, mogu iskoristiti za poticanje i dizajniranje inovacija u znanosti, tehnologiji i društvu te stvoriti platformu za napredak.
Nove tehnologije, uključujući umjetnu inteligenciju, već su neke vrijeme prisutne u gospodarstvu, znanosti i društvu općenito. Koji su dobri učinci novih tehnologija?
Umjetna inteligencija (AI) i druge nove tehnologije radikalno mijenjaju industriju i znanstvena istraživanja. Pametna industrija kao i primjena umjetne inteligencije izaziva fundamentalne promjene u gospodarstvu, znanosti i obrazovanju, donoseći prednosti u obliku optimizacije procesa, ali i značajne društvene rizike.
Jedna od najvećih snaga AI-a je njezina sposobnost da donese novu razinu učinkovitosti i personalizacije. U industriji, AI omogućuje automatizaciju, optimizaciju procesa i personalizaciju proizvoda. Tvrtke je koriste za analizu ogromnih količina podataka, prepoznavanje tržišnih trendova i donošenje informiranih odluka, što im pomaže da budu učinkovitije. U znanosti, AI transformira istraživački proces na način da omogućuje bržu obradu kompleksnih podataka i simulaciju eksperimenata, ubrzavajući otkrića u područjima poput medicine i genetike. U današnjem svijetu, gdje se inovacije događaju brže nego ikad, produktivna disrupcija je ključna jer nam omogućuje da djelujemo proaktivno i oblikujemo budućnost umjesto da je pasivno promatramo.
Tema ovogodišnje CECIIS konferencije je bila “Designing innovation through productive disruptions” (Dizajniranje inovacija kroz produktivne disrupcije). Što je uopće produktivna disrupcija?
Produktivna disrupcija bi značila da inovacija izaziva pozitivne, društvene i gospodarske učinke. Odnosi se na strateško korištenje promjena i novih tehnologija, poput umjetne inteligencije, s ciljem stvaranja pozitivnih pomaka umjesto disrupcija. To znači da ne prihvaćamo promjene nasumično, već ih usmjeravamo kako bismo poboljšali sustave i potaknuli napredak. Nažalost, disruptivne inovacije imaju i efekte koji mogu uništiti neke dijelove gospodarstva. Robotizacija i umjetna inteligencija imaju sposobnost masovnog utjecaja na tržište rada i gospodarstvo, što može izazvati val društvenog nezadovoljstva, ali isto tako mogu i unaprijediti naš život i poslovanje na bolje. Zato se na konferenciji govorilo kako iskoristiti nove tehnologije za stvaranje inovacija te očuvati zdravo gospodarstvo i društvo.
Je li moguće uvoditi nešto novo, i to naglo te toliko drukčijeg od dosadašnjeg, kao što je umjetna inteligencija (UI) - bez neželjenih posljedica?
Istina je da je brzina napredovanja umjetne inteligencije toliko intenzivna zadnjih nekoliko godina da nismo sigurni kako će sve utjecati na budućnost. No, znamo da će svi zadaci koji neće stvarno tražiti kreativni napor čovjeka u rješavanju problema biti izloženi izazovima. U industriji će to ići brze. Industrija postaje sve više produktivna, ali s manje radne snage. Pitanje je tko će biti kupci i kako će općenito izgledati tržište rada? Kakav će biti novi društveni dogovor? Kakva će biti geopolitička ravnoteža? Postoje novi imperiji koji imaju data centre i velike količine podataka, a ostale države kaskaju za njima. Znanost će se sigurno očuvati, a mnoga će znanstvena istraživanja biti ubrzana poput, recimo, genetskih istraživanja te farmaceutskih istraživanja.
Osim pitanja o budućnosti tržišta rada, obrazovanju, moramo biti fokusirani na aktivno upravljanje rizicima koje UI donosi, a kao odgovor na njih ističem potrebu za ulaganje u cjeloživotno učenje kako bi se zaposlenici usmjerili na kreativne i komplementarne uloge kao i upravljanje etičkim rizicima na koje odgovaramo između ostalog i osiguravanjem transparentnosti sustava i borbom protiv algoritamske pristranosti. Samo aktivnim prihvaćanjem promjena i promišljenim minimiziranjem rizika, možemo osigurati da ova tehnološka transformacija pozitivno oblikuje našu budućnost.[MOU2]
Što donosi AI, odnosno mijenja u obrazovanju koje vam je zacijelo najbliskije?
Nužna je promjena načina učenja i poučavanja u čemu smatram da FOI itekako prednjači i da ima veliku kompetitivnu prednost u primjeni inovacija u učenju i poučavanju. Cilj nam je studente naučiti rješavanju problema i kritičkom razmišljanju, čime ih pripremamo za svijet u kojem je agilno odlučivanje ključno, a brza prilagodba i rješavanje problema te stavljanje novih tehnologija u smjeru ostvarenja zadanih ciljeva, brzo i efikasno.
U obrazovanju je potrebno napraviti prilagodbe kroz kulturu inovacija i to na način da stvaramo okruženje koje potiče i nagrađuje kreativno razmišljanje i nove ideje. AI alati mogu omogućiti prilagodbu individualnim potrebama studenata, mogu se obraditi velike količine podataka o studentima što može biti pomoć donositeljima odluke da prepoznaju izazove i prilagode svoje metode poučavanja kao i odluke s ciljem postizanja boljih rezultata. Korištenjem AI rješenja, može se smanjiti administrativno opterećenje nastavnika i službi. Integracija AI-a, potaknuta i profesionalnim razvojem nastavnika, može omogućiti studentima da kroz projekte temeljene na rješavanju problema koriste AI za razvijanje novih vještina i kritičkog razmišljanja o podacima. Kao jedan od primjera na FOI-ju, ističem povezivanje predmeta Umjetna inteligencija u poslovanju s informatičkog studija i predmeta Poslovnog odlučivanja s ekonomskog studija. Studenti imaju priliku raditi u interdisciplinarnim i komplementarnim timovima te polagati ispite na način da rade projektno i rješavaju konkretne probleme iz prakse donoseći različite perspektive i vještine potrebne za pronalazak cjelovitih rješenja. Studenti unutar svojih timova, analiziraju zadane poslovne probleme i pripadajuće skupove podataka, a njihov je zadatak predložiti rješenja koristeći metode umjetne inteligencije i metode višekriterijskog odlučivanja.
U doba umjetne inteligencije postaje nužno da studenti svladaju koncepte, kritičko razmišljanje i vještine rješavanja problema, budući da će rutinske zadatke sve više preuzimati neka vrsta automatiziranih sustava. Vrijeme u kojima smo studentima zadavali seminare, eseje ili pitanja da navedu definicije ili podjele, odavno su prošla. Umjesto toga, ključno je promijeniti način učenja i poučavanja. Važno je zadavati im složene probleme, primjenjivati projektni način rada, davati zadatke u kojima kritički sagledavaju i prepoznaju naučene elemente i sl.
FOI upravo na taj način i djeluje, te primjenjujemo način učenja i poučavanja koji razvija kritičko mišljenje i rješavanje problema kod studenata. Primjerice na predmetima iz Poslovnog odlučivanja, više nema klasičnih seminara već se studenti kroz niz metoda uče kritičkom razmišljanju. Ako koriste AI, njena primjena mora biti transparentna, ona služi samo kao pomoć, a studenti su ti koji moraju riješiti problem, argumentirati rješenje i uvjeriti nas u svoju odabranu alternativu.
FOI zahvaljujući svojoj kontinuiranoj suradnji i integraciji IT industrije u sva područja djelovanja, od znanosti do nastave, brzo odgovara na izazove tržišta rada.
Neki alati, koji se zasnivaju na umjetnoj inteligenciji, mogu dati prilično čude rezultate, kažemo da haluciniraju.
Unatoč velikim prednostima, primjena AI-a nosi značajne rizike. AI alati često “haluciniraju” što znači da izmišljaju netočne informacije. Ne možemo se pouzdati na AI zbog halucinacija i implicitne pristranosti u algoritmima, dok detektori za AI sadržaj često griješe. Najveći rizik je potencijalno prekomjerno oslanjanje studenata na AI za izvršavanje zadataka, čime se zaobilazi ključni proces učenja i ne razvijaju se vještine poput rješavanja problema i odlučivanja.
Također, algoritmi mogu sadržavati pristranost i diskriminaciju, a nedostatak odgovornosti i transparentnosti za odluke temeljene na AI-u povećava rizik. Brzina razvoja AI-a stvara probleme zbog nedostatka regulacije i postavlja geopolitička pitanja o ravnoteži moći, s obzirom na to da države koje posjeduju velike podatkovne centre stječu značajnu prednost. Stoga je ključno stvoriti sigurno okruženje otvorenom komunikacijom o etičkim pitanjima i privatnosti podataka. Nekontrolirana upotreba AI-a predstavlja problem i može štetiti samim studentima, uskraćujući im razvoj kognitivnih sposobnosti ključnih za budućnost.
Je li rješenje ograničenje ili zabrana AI u nastavi?
Zabrana AI-a nije rješenje. Mi na FOI-ju AI možemo upotrebljavati, ali poštujući preporuke institucije i nastavnika, uz transparentnost korištenja, vodeći računa o privatnosti i sigurnosti kao i etičkim smjernicama primjene AI-a u obrazovanju. Bili smo prvi fakultet koji je donio Okvir korištenja alata umjetne inteligencije u nastavi, studentskim radovima i istraživanju na FOI-ju, a na FOI-ju je na trećoj godini studija, moguće upisati i modul Primjena umjetne inteligencije u poslovanju. Suradnja s IT tvrtkama u svim područjima djelovanja FOI-ja, od nastave u kojoj sudjeluju, reviziji programa, projektnom načinu rada pa sve do velikog broja međunarodnih i nacionalnih znanstvenih projekata, naša je kompetitivna prednost u odnosu na ostale fakultete.
To dokazuje i novih šest milijuna investicije u Centar za predinkubaciju u pametnoj industriji kao i 25 aktivnih međunarodnih i nacionalnih istraživačkih projekata FOI-ja. U okviru Centra za predinkubaciju u pametnoj industriji će studenti podizati svoja poduzetnička znanja i vještine, tehnološka znanja u pametnoj industriji, razvijati nove ideje i transformirati ih u konkretne projekte i startupe spremne za tržište, uz mentorsku podršku naših stručnjaka na FOI-ju kao i stručnjaka iz industrije. Fakultet organizacije i informatike također prednjači u primjeni inovativnih metoda učenja i poučavanja, poput učenja temeljenog na radu, projektnog načina rada, obrnute učionice, a sve s ciljem poticanja kritičkog mišljenja, rješavanja problema i prijenosa praktičnih znanja i iskustva našim studentima.
Robotizacija i umjetna inteligencija stvaraju masovni utjecaj na tržište rada i gospodarstvo, što nosi rizik od društvenog nezadovoljstva, ali i potencijal za značajno unapređenje života. Budući da je brzina napredovanja UI izuzetno intenzivna, a svi zadaci bez stvarnog kreativnog napora čovjeka bit će automatizirani (posebno u industriji), ključno je da odgovorimo agilno i proaktivno u svim područjima djelovanja. Osim pitanja o budućnosti tržišta rada, obrazovanju, moramo biti fokusirani na aktivno upravljanje rizicima koje UI donosi, a od kojih izdvajam nastanak novih imperija podataka koji kontroliraju globalnu moć, ulaganje u cjeloživotno učenje i prekvalifikaciju kako bi se radna snaga usmjerila na kreativne i komplementarne uloge, kao i etičke rizike na koje odgovaramo osiguravanjem transparentnosti sustava i borbom protiv algoritamske pristranosti. Samo aktivnim prihvaćanjem promjena i promišljenim minimiziranjem rizika, možemo osigurati da ova tehnološka transformacija pozitivno oblikuje našu budućnost.
Rizici primjene umjetne inteligencije obuhvaćaju pitanja pristranosti i diskriminacije kao i nedostatka odgovornosti i transparentnosti. Osim toga, veliku zabrinutost izazivaju ugrožavanje privatnosti i sigurnosti podataka, kao i rizik od prekomjernog oslanjanja na AI, što dovodi u pitanje dubinsko razumijevanje gradiva od strane studenata. U širem kontekstu, postoji i prijetnja zamjene određenih poslova te problem nedostatka regulacije koja bi pratila brzi tehnološki napredak. Kako bi se ti rizici ublažili, ključno je razvijanje jasnih etičkih smjernica za korištenje AI-a u obrazovanju, s fokusom na zaštitu privatnosti i smanjenje pristranosti u algoritamskim sustavima. Primjerice, u jednom od mojih posljednjih znanstvenih radova, dokazali smo visok rizik korištenja algoritama umjetne inteligencije u upravljanju ljudskim resursima, posebno pri zapošljavanju. Budući da su ti algoritmi trenirani na velikim količinama postojećih podataka i izvješća (naročito u SAD-u) u kojima je već bila identificirana diskriminacija po boji kože i spolu kod zapošljavanja, generirani podaci i preporuke AI sustava sadržavali su veliku vjerojatnost nastavljanja takve diskriminacije.Rizici primjene umjetne inteligencije obuhvaćaju pitanja pristranosti i diskriminacije kao i nedostatka odgovornosti i transparentnosti. Osim toga, veliku zabrinutost izazivaju ugrožavanje privatnosti i sigurnosti podataka, kao i rizik od prekomjernog oslanjanja na AI, što dovodi u pitanje dubinsko razumijevanje gradiva od strane studenata. U širem kontekstu, postoji i prijetnja zamjene određenih poslova te problem nedostatka regulacije koja bi pratila brzi tehnološki napredak. Kako bi se ti rizici ublažili, ključno je razvijanje jasnih etičkih smjernica za korištenje AI-a u obrazovanju, s fokusom na zaštitu privatnosti i smanjenje pristranosti u algoritamskim sustavima. Primjerice, u jednom od mojih posljednjih znanstvenih radova, dokazali smo visok rizik korištenja algoritama umjetne inteligencije u upravljanju ljudskim resursima, posebno pri zapošljavanju. Budući da su ti algoritmi trenirani na velikim količinama postojećih podataka i izvješća (naročito u SAD-u) u kojima je već bila identificirana diskriminacija po boji kože i spolu kod zapošljavanja, generirani podaci i preporuke AI sustava sadržavali su veliku vjerojatnost nastavljanja takve diskriminacije.
Gotovo cijeli korporativni svijet, akademska zajednica i znanost u potpunosti su svjesni neminovnosti novih tehnologija te smatram da na globalnoj razini u gospodarstvu teško da će se moći funkcionirati bez njih. Poslovi i organizacije koje uspiju opstati bez integracije novih tehnologija bit će oni koji se oslanjaju isključivo na jedinstvenu ljudsku kreativnost, umjetnost ili duboku interpersonalnu interakciju, no i oni će vjerojatno koristiti barem AI kao pomoćni alat za poboljšanje procesa.
Umjetna inteligencija najčešće se koristi u područjima gdje su potrebne informacije za analizu rizika te efikasno donošenje odluka. U financijskom sektoru, AI je ključan za automatsko trgovanje i učinkovito otkrivanje prevara. U zdravstvu, AI je postigao najveći napredak u dijagnostici te u ubrzanju istraživanja novih lijekova i genetike kao i precizne medicine. Značajna primjena vidljiva je i u maloprodaji gdje AI pokreće sustave personaliziranih preporuka, kao i u korisničkoj podršci putem chatbotova. Najveći iskorak u posljednje vrijeme postignut je naravno u generativnoj AI uz primjenu velikih jezičnih modela.
Generativna umjetna inteligencija (AI) predstavlja vrstu umjetne inteligencije koja može samostalno proizvoditi različite vrste sadržaja – slike, tekstove, sintetičke podatke, računalni kod i zvukove. AI to postiže kroz intenzivan trening na ekstremno velikim skupovima postojećih podataka gdje njezini modeli identificiraju složene statističke obrasce i strukture koje definiraju ulazni sadržaj te zatim, na temelju korisničkog upita (tzv. prompta), koriste te naučene obrasce za stvaranje potpuno novog sadržaja prema zahtjevu korisnika.
Prema rezultatima prvog nacionalnog istraživanja o percepciji i primjeni umjetne inteligencije u gospodarstvu, čak 70 posto hrvatskih poduzeća vidi umjetnu inteligenciju kao izvor konkurentske prednosti, a gotovo polovica ju aktivno koristi u svakodnevnom poslovanju. U Hrvatskoj ima također niz etabliranih tvrtki i agencija koji aktivno razvijaju i izvoze inovativne AI tehnologije. Primjerice, TIS grupa s kojom FOI odlično surađuje, primjenjuje umjetnu inteligenciju u financijskoj industriji i medicini. Na području logistike i automatizacije tvrtka Gideon proizvodi robote za skladišta, a Robotiq.ai razvija platformu za automatizaciju robotskih procesa. Ne smijemo zaboraviti ni značajnu ulogu start-upova, poput tvrtke airt koja koristi tehnologije velikih jezičnih modela (LLM), dok je VelebitAI bila prva agencija u Hrvatskoj koja je klijentima ponudila rješenja temeljena na umjetnoj inteligenciji. Ovi primjeri jasno pokazuju da Hrvatska ima snažnu jezgru poduzeća koja ne samo da prate, već i aktivno razvijaju i izvoze inovativne AI tehnologije. Veliku ulogu u Hrvatskoj igra i CroAI Croatian AI Association, u kojoj je i FOI aktivan član.
Stil odlučivanja dinamički prilagođavati
Trenutno se cijela paradigma odlučivanja mijenja na način da iz pasivne i reaktivne mora postati proaktivna, što je nužno u današnje dinamično doba u kojem veliku ulogu igraju nove tehnologije. Danas je za kvalitetu odlučivanja i ostvarenje ciljeva, ključno usvajanje vještina agilnosti odlučivanja što podrazumijeva brzo reagiranje, prilagođavanje promjenama te donošenje odluka pod vremenskim pritiskom i rizikom, ali na temelju informacija.
Uspješno odlučivanje zahtijeva lidere koji su sposobni primijeniti situacijski stil odlučivanja. To znači da se stil odlučivanja (od autoritativnog do participativnog) treba prilagođavati konkretnoj situaciji, stupnju rizika i zrelosti tima. Ne postoji univerzalno najbolji stil već se lider mora dinamički prilagođavati. Istodobno, ključan je transformacijski stil liderstva, kroz koji lideri inspiriraju i motiviraju timove da prihvate viziju i potaknu promjene na bolje. Trenutno zaostajemo u primjeni ovih koncepata te je važno reaktivni pristup zamijeniti proaktivnim i fleksibilnim odlučivanjem.
Prema Aktu o umjetnoj inteligenciji, visokorizični AI sustavi u području obrazovanja i strukovnog osposobljavanja su oni koji imaju značajan utjecaj na pristup pojedinca resursima i njihov napredak. Visokorizični su sljedeće sustavi: AI sustavi namijenjeni za odlučivanje o pristupu ili upisu ili za razvrstavanje fizičkih osoba u ustanove ili programe za obrazovanje i strukovno osposobljavanje, AI sustavi namijenjeni za evaluaciju ishoda učenja, AI sustavi namijenjeni za procjenu odgovarajuće razine obrazovanja koju će pojedinci primiti ili kojoj će moći pristupiti, AI sustavi namijenjeni za praćenje i otkrivanje zabranjenog postupanja studenata tijekom testiranja.
