Dok veštačka inteligencija olakšava brojne poslove i ubrzava pristup informacijama, sve više se otvaraju pitanja o tome šta se dešava sa podacima koje joj poveravamo.
Istraživali smo koliko su građani i institucije spremni da odgovore na nove izazove, ko je odgovoran za zaštitu podataka i da li razvoj novih tehnologija prati dovoljno snažan sistem zaštite.
O tome smo razgovarali sa direktorom Regionalnog inovacionog smart siti centra (RISSC), Šemsudinom Plojovićem, ali i sa rukovodiocem Grupe za sprovođenje projekata u Povereniku za zaštitu ravnopravnosti, Bogdanom Banjcem.
Sagovornici portala Free media smatraju da građani i institucije nisu u dovoljnoj meri spremni da odgovore na izazove ubrzanog razvoja savremenih tehnologija, te da je neophodna kontinuirana edukacija.
Šemsudin Plojović, direktor RISSC-a, koji okuplja najveći broj stručnjaka u oblasti informacionih tehnologija (IT), kaže da nivo njenog korišćenja zavisi od nivoa tehničke pismenosti svakog pojedinca.
“Posebno oni koji se bave razvojem softvera imaju timove koje, zapravo, čine agenti veštačke inteligencije i koji za njih obavljaju određene poslove. Smatram da se kod nas koristi više od 90 odsto mogućnosti koje ovi alati pružaju“, kaže Plojović.
Upozorava da podaci i upiti koje poveravamo veštačkoj inteligenciji ostaju sačuvani, te da je stepen zaštite, između ostalog, povezan i sa vrstom naloga koji se koristi.
“Ukoliko imate plaćenu verziju, kao kompanija ste nešto bolje zaštićeni. Međutim, postoji i drugi problem, a to je dostupnost i bezbednost baza podataka u kojima se čuvaju informacije o nama“, objašnjava on.
Kao primere navodi sajber napade na sisteme u kojima se nalaze podaci građana, uključujući zdravstvene kartone, katastarsku evidenciju i podatke telekomunikacionih kompanija. Poseban rizik vidi u tome što napadači sve više koriste alate veštačke inteligencije kako bi automatizovali napade i učinili ih efikasnijim.
“Napadači danas koriste agente veštačke inteligencije kako bi napade na postojeću infrastrukturu sprovodili na mnogo višem nivou specijalizacije. To je poseban segment koji će biti sve značajniji kada govorimo o veštačkoj inteligenciji i čuvanju podataka“, ističe Plojović.
Kao dodatnu ranjivost izdvaja internet prodavnice i veb-sajtove koji prikupljaju velike količine informacija o kupcima, od adresa za isporuku i kontakt telefona do podataka o načinu plaćanja.
“Malo je verovatno da će neko od nas u ChatGPT ukucati JMBG, adresu, broj kartice ili PIN. Međutim, ako neko preuzme te podatke sa sajta na kojem kupujemo, može da dođe do mnogo više informacija o nama. Zato nije dovoljno razmišljati samo o tome šta unosimo u AI alate, već i o tome koliko su bezbedni sistemi u kojima ostavljamo svoje podatke“, upozorava direktor RISSC-a.
Napadači spremniji od onih koji treba da se brane
Da zaštita podataka nije samo pitanje posedovanja odgovarajućih programa i stručnog kadra, već i spremnosti da se odgovori na sve sofisticiranije napade, Plojović objašnjava kroz ono što naziva tehnološkom neravnopravnošću.
Prema njegovim rečima, kompanije i javne institucije često nemaju dovoljno novca i kapaciteta da angažuju stručnjake i razvijaju sisteme zaštite koji mogu da odgovore na mogućnosti kojima raspolažu napadači.
“Imate čoveka koji je zadužen za IT podršku u nekom preduzeću i ima standardnu platu. Sa druge strane, imate IT stručnjaka sa gotovo neograničenom procesorskom moći, koji plaća AI model da bi ukrao podatke. Imate čoveka koji se svakodnevno priprema i trenira, potpuno spremnog za napad, i nekoga ko je zadužen za odbranu, a nikada za to nije trenirao. Tako trenutno živimo u tehnološkoj disproporciji, u kojoj su napadači mnogo spremniji“, smatra Plojović.
Zbog toga, dodaje, ne treba pretpostavljati da su podaci bezbedni samo zato što se nalaze u sistemima institucija ili kompanija kojima građani veruju. Kao jedan od pokazatelja navodi podatke iz Srbije koji se, kako kaže, povremeno pojavljuju na dark vebu.
Najveća opasnost, prema njegovim rečima, jeste gubitak podataka i nemogućnost da institucija ili preduzeće nastavi da pruža usluge.
“Zamislite da odete kod lekara, a on zbog sajber napada ne može da pristupi vašem kartonu i nema uvid u istoriju bolesti. Ili da banka, Poreska uprava ili neko preduzeće izgubi pristup svojim podacima. Ako ste vlasnik firme, a ne znate ko vam je dužan, kome ste platili, šta ste fakturisali i šta imate u evidenciji, možete da zamislite kolika je šteta“, navodi on.
Zbog toga, smatra, jedan od osnovnih vidova zaštite mora biti redovno pravljenje rezervnih kopija podataka, odnosno bekapa, i njihovo čuvanje na fizički odvojenim uređajima koji nisu stalno povezani sa internetom.
“Važno je da pravna lica i institucije imaju proceduru koja podrazumeva da se sistem u određenom trenutku isključi sa interneta, a podaci sačuvaju na posebnom serveru ili drugom mestu koje nije dostupno spolja. Tako bi, ukoliko dođe do napada, imali sačuvane podatke iz prethodnog perioda. Za to je potrebno imenovati osobu koja će biti zadužena za sprovođenje procedure. Nažalost, toga se najčešće setimo tek kada ostanemo bez pristupa podacima“, upozorava Plojović.
Građani nedovoljno svesni opasnosti
Iako su institucije i preduzeća izloženi ozbiljnim rizicima, Plojović smatra da ni građani ne vode dovoljno računa o bezbednosti na internetu. Posebno upozorava na otvaranje sumnjivih mejlova i poruka, kao i na pokušaje prevara u kojima se napadači predstavljaju kao zaposleni u bankama.
“Većina ljudi danas otvara gotovo sve mejlove koje dobije, bez obzira na to od koga dolaze. Često me zovu i pitaju da li treba da pošalju podatke, jer im je stigao mejl koji navodno dolazi iz banke. Banka vam nikada neće tražiti da mejlom dostavite broj kartice ili PIN“, naglašava on.
Slične prevare, dodaje, sprovode se i telefonom, kada se prevaranti predstavljaju kao zaposleni u tehničkoj podršci banaka i pokušavaju da dođu do poverljivih informacija.
Posebno rizično ponašanje zaposlenih u kompanijama i institucijama jeste korišćenje privatnih mejlova i aplikacija za komunikaciju na službenim računarima i telefonima, kao i unošenje ličnih podataka u poslovne sisteme.
“Najveća greška je korišćenje privatnih kanala komunikacije na službenom računaru ili telefonu. Napadi često dolaze kroz naizgled bezazlene promotivne poruke. Zaposleni pomisle da je reč o ponudi za kupovinu, otvore link, ostave podatke i tako omoguće napadačima pristup sistemu. Zbog toga zaposleni vrlo često mogu biti uzrok sajber napada“, upozorava Plojović.
Navodi primer jednog univerziteta u regionu, gde je zaposleni, gledajući sadržaje na striming platformi, preuzeo zlonamerni program koji je omogućio pristup podacima o zaposlenima. Problem je otkriven tek kada je instituciji stigao zahtev za otkup podataka, uz pretnju da će u suprotnom biti javno objavljeni.
Lokalne institucije i preduzeća, prema oceni Plojovića, nemaju dovoljno finansijskih mogućnosti za ozbiljniju primenu skupih AI alata i naprednih sistema zaštite, jer grad čine uglavnom mala i mikro preduzeća, od kojih samo manji broj ima razvijenu onlajn prodaju i savremenu digitalnu infrastrukturu.
Ipak, upozorava da to ne znači da su njihovi podaci bezbedni. Naprotiv, poslovne evidencije, knjigovodstveni programi i drugi sistemi mogu biti meta napada i kada se u njima ne koriste AI alati.
“Ne možemo svi da kupimo skupe alate koji će nas štititi, ali svako ko se nalazi na rukovodećoj poziciji može da razmisli o tome kako da svoju instituciju ili preduzeće učini manje ranjivim. Kada pročitate da je neka institucija bila izložena napadu, treba da se zapitate šta bi se dogodilo da se isto desi vama i šta možete da uradite kako biste pretrpeli što manju štetu“, kaže Plojović.
Edukacija građana i privrede u najavi
Zbog nedovoljne svesti o opasnostima, u RISSC-u planiraju da od početka naredne godine pokrenu kampanju usmerenu na edukaciju građana i privrednih subjekata o digitalnoj bezbednosti.
Planirano je organizovanje radionica i predavanja, kao i izrada kratkih video-sadržaja koji bi kroz konkretne primere ukazivali na moguće opasnosti i načine zaštite.
“Mi kao Regionalni inovacioni smart siti centar imamo deo odgovornosti da povećamo svest građana i privrednih subjekata o izazovima koji dolaze sa inovacijama, a veštačka inteligencija je njihov važan deo. To nismo predvideli u budžetskim stavkama, jer se stvari veoma brzo menjaju, ali planiramo da od Nove godine, kada obezbedimo sredstva, organizujemo edukativne radionice i predavanja“, najavljuje Plojović.
Govoreći o granici između korisne primene veštačke inteligencije i zadiranja u privatnost, on ističe da namera korisnika mora biti jedan od osnovnih kriterijuma za procenu načina na koji se tehnologija koristi.
Upozorava da zakonska regulativa ne prati dovoljno brzo tehnološke promene, što ostavlja prostor za različite oblike zloupotreba.
Kao jedan od primera navodi mogućnost kreiranja fotografija i video-snimaka koji veoma verno prikazuju neku osobu, ali je predstavljaju u situacijama u kojima nikada nije bila.
“Danas pomoću veštačke inteligencije možete da napravite sliku koja veoma liči na neku osobu, da je pokrećete, da pleše, skače ili radi nešto sasvim drugo, a zatim takav sadržaj objavite u javnosti. To može da nanese ozbiljnu nematerijalnu štetu, a regulativa još ne prati dovoljno brzo takve promene“, kaže on.
Plojović smatra da će u narednim godinama biti sve više tekstova, fotografija i video-sadržaja generisanih veštačkom inteligencijom, zbog čega će građanima biti sve teže da procene šta je autentično. Ipak, veruje da će ozbiljne kompanije voditi računa o sadržajima koje objavljuju i da neće olako posezati za generisanim materijalima.
Oprez prema nepoznatim profilima i sadržajima
Direktor ovog inovacionog centra građanima savetuje da budu oprezni prema nepoznatim profilima i sadržajima na društvenim mrežama, posebno onima koji privlače pažnju velikim brojem zanimljivih objava.
“Iza 30 zabavnih klipova, fotografija ili drugih sadržaja može da se pojavi jedan opasan, koji može da preuzme vaše podatke, slike, video-snimke ili finansijske informacije. Zlonamerni korisnici veštačke inteligencije kreiraju sadržaje koji privlače pažnju, a zatim kroz njih mogu da plasiraju i štetne programe. Zato treba biti oprezan i ne pratiti automatski sve što nam se učini zanimljivim“, upozorava Plojović.
Kao dve konkretne mere koje bi građani trebalo da primene izdvaja redovnu promenu lozinki i čuvanje važnih podataka na fizički odvojenim uređajima, poput eksternih diskova i fleš memorija.
Govoreći o budućnosti privrede Novog Pazara, kao tradicionalno trgovačkog centra, Plojović smatra da ubrzana primena novih tehnologija može biti prilika da lokalna preduzeća preskoče pojedine faze digitalnog razvoja i odmah prihvate savremenija rešenja.
“Nadam se da ćemo biti kao zemlje koje su odmah prešle na televizore u boji, a da nikada nisu imale crno-bele. Mi smo, u velikoj meri, preskočili prvi deo digitalizacije i tek sada ozbiljnije ulazimo u onlajn prodaju i primenu informacionih tehnologija u poslovanju. Ovo je prilika da odmah prihvatimo nove tehnologije, pre svega veštačku inteligenciju, ali i druge njene oblike i inovacije, kako bi naša preduzeća postala konkurentnija“, zaključuje Plojović.
Ravnopravnost i veštačka inteligencija
Na nedavno održanoj radionici “Ravnopravnost i veštačka inteligencija“, koju su u skladu sa nacionalnom Strategijom razvoja veštačke inteligencije organizovali RISSC i kancelarija Poverenika za zaštitu ravnopravnosti, ukazano je na brojne izazove koje primena novih tehnologija donosi u oblasti zaštite prava građana. Posebno je istaknuto da Srbija još uvek nema zaokružen zakonski okvir koji bi regulisao ovu oblast.
Rukovodilac Grupe za sprovođenje projekata u Povereniku za zaštitu ravnopravnosti, Bogdan Banjac, kaže da je jedan od važnih zadataka ove institucije da spreči da postojeći stereotipi i predrasude iz društva budu preneti u sisteme veštačke inteligencije, kao i da se pronađu odgovarajući mehanizmi zaštite od diskriminacije.
“Treba izbegavati unošenje ličnih podataka bilo kog tipa, imajući u vidu da oni kasnije mogu postati deo korpusa podataka koje će taj sistem koristiti. Oprez je posebno važan za državne organe i firme, jer u sisteme mogu greškom uneti poslovne tajne, lične podatke ili čak baze građana“, upozorava Banjac.
On smatra da je teško utvrditi šta se dešava sa podacima nakon što dospeju u sistem, kao i da li građani mogu da zahtevaju njihovo pojedinačno brisanje.
Prema njegovom mišljenju, podaci koji postanu deo procesa treniranja modela mogu biti veoma teško uklonjivi, a rizici nisu ograničeni samo na privatnost.
“Veštačka inteligencija može biti korišćena i za unapređenje sajber bezbednosti, ali i za napade i zloupotrebe. Obe mogućnosti su podjednako važne za razumevanje njenog uticaja“, naglašava.
Posebno upozorava na opasnost od diskriminacije koja može nastati kada se sistemi veštačke inteligencije razvijaju na osnovu podataka koji već sadrže društvene stereotipe i nejednakosti.
“Postoje mnogi primeri o kojima razgovaramo na nivou Evropske mreže tela za ravnopravnost. U Holandiji je algoritam diskriminisao ljude koji imaju migrantsko poreklo, procenjujući ih kao veći rizik kada je reč o prevarama prilikom ostvarivanja prava na finansijsku pomoć ili dečiji dodatak. To je izazvalo veliki odjek u javnosti“, kaže Banjac.
Sličan problem, dodaje, može se pojaviti i prilikom zapošljavanja. Ukoliko se algoritam obučava na podacima o ranije uspešnim kandidatima, među kojima nema dovoljno žena, može se dogoditi da one budu eliminisane iz daljeg postupka selekcije.
“Sa aspekta ravnopravnosti, uglavnom nisu građani ti koji prave greške, već oni koji implementiraju određene sisteme. To nije greška građanina, već onoga ko je takav sistem postavio i pustio u upotrebu“, ističe Banjac.
Zbog toga, prema njegovim rečima, granica između korisne primene veštačke inteligencije i ugrožavanja ljudskih prava zavisi i od toga koliko su sistemi prethodno provereni i da li je adekvatno procenjen njihov uticaj.
“Granica je tamo gde implementirate sistem koji niste dovoljno testirali i za koji niste završili procenu uticaja kako treba. Tada može doći do različitih vrsta narušavanja ljudskih prava, uključujući pravo na privatnost i ravnopravnost“, objašnjava on.
Banjac podseća da se na nivou Evropske unije već primenjuje regulativa koja uređuje oblast veštačke inteligencije, dok se u Srbiji radi na pripremi zakonskog rešenja koje bi trebalo da definiše obaveze onih koji razvijaju i primenjuju takve sisteme.
U nedostatku informacija AI ih izmišlja
Kada je reč o svakodnevnom korišćenju AI alata, građanima savetuje da u njih ne unose lične podatke, ali i da odgovore koje dobijaju ne prihvataju bez provere. Posebno upozorava da veliki jezički modeli mogu da daju netačne, pa i potpuno izmišljene informacije, što može biti naročito opasno kada se koriste za pitanja u vezi sa zdravljem ili donošenjem važnih odluka.
“Ljudi moraju da budu svesni da to nije bezgrešan model. On često halucinira, odnosno, kada nema dovoljno informacija, može da ih izmisli. Zato treba biti oprezan i ne donositi odluke samo na osnovu podataka koje je dala veštačka inteligencija“, naglašava Banjac.
Uprkos brzini tehnološkog razvoja, on kaže da je teško predvideti kako će izgledati život u narednih pet ili deset godina, posebno jer i oni koji razvijaju veštačku inteligenciju teško mogu da procene u kom pravcu će se ona dalje razvijati.
“Zakonodavstvo širom sveta trenutno kaska za tehnološkim napretkom i pokušava da uhvati korak. Ono što možemo da obećamo jeste da ćemo se truditi da, zajedno sa drugim telima za ravnopravnost na evropskom nivou, pratimo te promene i zaštitimo građane Srbije od diskriminacije koju ovi modeli mogu da prouzrokuju“, zaključuje Banjac.
S. Ljajić
Tekst i video izjave urađeni su u okviru projekta “Novi Pazar u eri veštačke inteligencije“, koji realizuje Udruženje građana Free media, a sufinansiran je iz budžeta Grada Novog Pazara za 2026. godinu.
Stavovi izneti u podržanom medijskom projektu nužno ne izražavaju stavove organa koji je dodelio sredstva.
Iz arhive Free media:
