Kako sveučilišta mogu prihvatiti inovacije temeljene na umjetnoj inteligenciji, a istodobno zaštititi privatnost, sigurnost podataka i stratešku autonomiju?
Budući da umjetna inteligencija (UI) nastavlja mijenjati sektor visokog obrazovanja i istraživanja, ovo pitanje postaje sve važnije. Sveučilišta ne moraju samo uvoditi inovacije, već i zadržati svoju ulogu pouzdanih čuvara etičkih vrijednosti, privatnosti i kibernetičke sigurnosti.
Za Marlona Domingusa, službenika za zaštitu podataka i voditelja za umjetnu inteligenciju na Sveučilištu Erasmus u Rotterdamu, suočavanje s tim izazovima uz istodobno iskorištavanje potencijala umjetne inteligencije nalazi se u središtu njegova rada.
„I privatnost i umjetna inteligencija vrlo su dinamična područja i još uvijek puno toga nije jasno ni ustaljeno, ni pravno ni tehnički. Srećom, budući da je umjetna inteligencija trenutačno vrlo popularna tema, ljudi su spremni razgovarati o njoj, čak i o teškim etičkim i sigurnosnim pitanjima.”
Marlon ovdje govori o tome kako umjetna inteligencija mijenja zaštitu podataka u obrazovanju i istraživanju, kako sveučilišta mogu odgovoriti na etičke izazove koje ona donosi te zašto je promišljena i odgovorna uporaba umjetne inteligencije važnija nego ikada prije.
Utjecaj umjetne inteligencije na zaštitu podataka u obrazovanju i istraživanju
Marlon ističe tri glavna područja u kojima umjetna inteligencija utječe na strategije i prakse zaštite podataka i upravljanja podacima u sektoru obrazovanja i istraživanja:
- Algoritmi umjetne inteligencije u istraživanju: UI omogućuje nove mogućnosti, poput personalizirane medicine, putem algoritama usmjerenih na istraživanja
- Alati umjetne inteligencije u obrazovanju: alati UI-ja, poput velikih jezičnih modela (LLM-ova) kao što je ChatGPT, izazivaju zabrinutost zbog plagiranja i zahtijevaju preispitivanje strategija ocjenjivanja.
- Nabava i uporaba platformi pokretanih umjetnom inteligencijom: sve veće oslanjanje na vanjske platforme otvara pitanja sigurnosti podataka, transparentnosti i strateške autonomije.
Svako od tih područja donosi posebne prilike i izazove. Marlon ih detaljnije objašnjava u nastavku:
1. Algoritmi umjetne inteligencije u istraživanju: napredak i zaštita podataka
Na Sveučilištu Erasmus, kao i drugdje, umjetna inteligencija koristi se u razvoju algoritama za istraživanja, uključujući javno-privatne suradnje u područjima poput logistike, prevencije kriminala i zdravstva.
„Zahvaljujući umjetnoj inteligenciji sada možemo raditi stvari koje su ljudi željeli ostvariti godinama, poput pružanja personalizirane medicine. Ti pomaci imaju velik utjecaj na društvo, ali i na način na koji provodimo istraživanja.”
Međutim, sve veće oslanjanje na algoritme znači i prikupljanje te obradu sve većih količina podataka uz pomoć umjetne inteligencije, što predstavlja nove sigurnosne rizike. Budući da se istraživački procesi razvijaju, strategije zaštite podataka moraju se ažurirati kako bi se osigurala odgovarajuća zaštita osobnih podataka pojedinaca i osjetljivih istraživačkih podataka.
2. Alati umjetne inteligencije u nastavi: redefiniranje poučavanja i ocjenjivanja
Alati UI-ja poput ChatGPT-a postaju sastavni dio sveučilišnog života i koriste se za sve, od planiranja nastave do uključivanja studenata u nastavni proces.
„Veliki jezični modeli imaju velik utjecaj na obrazovanje. Ponovno definiramo kako promatramo obrazovanje, kako želimo provjeravati i ocjenjivati znanje i vještine studenata”, kaže Marlon.
Iako su prve reakcije na široku pojavu velikih jezičnih modela bile usmjerene na zabrinutost zbog plagiranja, ubrzo su postale jasne prednosti koje takvi alati donose.
„Vidimo pozitivne strane tih inovacija, primjerice način na koji nastavnici koriste alate poput ChatGPT-a za stvaranje prilagođenijih i zanimljivijih nastavnih sadržaja za studente različitih disciplina. To zahtijeva više vremena za pripremu, ali moglo bi se reći da pruža i kvalitetnije obrazovanje.”
Potencijal umjetne inteligencije za pružanje personaliziranijih i prilagođenijih iskustava učenja osobito je obećavajući, iako Marlon upozorava na rizik da bi to moglo dovesti do veće izoliranosti.
„Izazov je izbjeći stvaranje društva nepovezanih pojedinaca, od kojih svaki ima vlastitog UI asistenta. Moramo paziti da ne izgubimo ljudsku povezanost u obrazovanju. Ne radi se samo o hedonizmu 2.0.”
Sveučilište Erasmus razvilo je vlastiti Erasmus Language Model (ELM), pri čemu su studenti uključeni u svaku fazu, od prikupljanja podataka do primjene modela. ELM pomaže studentima razumjeti kako funkcioniraju veliki jezični modeli, njihov ugljični otisak i potrošnju energije. Korištenjem licenciranih publikacija izbjegavaju se problemi povezani s intelektualnim vlasništvom.
3. Platforme pokretane umjetnom inteligencijom: nabava i strateška autonomija
Sve veće oslanjanje sveučilišta na vanjske platforme UI-ja, od kojih su mnoge smještene izvan Europe koje možda nisu usklađene sa standardima GDPR-a, otvara pitanja sigurnosti podataka, transparentnosti i strateške autonomije.
Ti alati često funkcioniraju kao „crne kutije”, s algoritmima koji nisu potpuno dokumentirani ni transparentni. Zbog toga je sveučilištima teško u potpunosti razumjeti koji se podaci prikupljaju, kako se koriste i jesu li dovoljno zaštićeni. Nedostatak transparentnosti i kontrole čini sveučilišta ranjivijima na kibernetičke napade, povrede podataka i druge sigurnosne prijetnje.
„Svi smo sve ovisniji o vanjskim rješenjima, posebno onima iz SAD-a”, kaže Marlon. „To potiče vrlo važne rasprave o strateškoj autonomiji i o tome što ona znači za sigurnost naših podataka.
„Jedna pozitivna strana jest to što usput redefiniramo mnoge stvari. A Europski akt o umjetnoj inteligenciji pomaže u snalaženju u tim izazovima.”
Etička odgovornost i sigurnost ugrađena u sustav od samog početka
Marlon zagovara pristup „sigurnost od samog dizajna” kojim se osigurava da je kibernetička sigurnost ugrađena u sustave UI-ja od samog početka, uz oslanjanje na stroge etičke standarde.
Ističe sljedeće: „Društvo očekuje da akademska zajednica bude pouzdana, etična i profesionalna. Naše publikacije i savjeti su vjerodostojni, a izvore uvijek možemo otkriti i potvrditi svoje tvrdnje.” Takav pristup ne samo da održava akademsku rigoroznost, nego pomaže i u suzbijanju širenja netočnih informacija nastalih zbog „halucinacija” velikih jezičnih modela.
Transparentnost, privatnost podataka i odgovornost ključne su sastavnice proaktivnog i etičkog pristupa. Samo poštivanje zakonskih propisa nije dovoljno za očuvanje predanosti sveučilišta akademskom integritetu i javnom interesu.
„Naše je etičko stajalište da nismo poslovni subjekt, nego djelujemo u javnom interesu pa ono što radimo ne bi smjelo biti u suprotnosti s tim načelima. Mnoge stvari koje su tehnički moguće ujedno su i zakonski dopuštene, ali neke spadaju u kategoriju „lawful awful“ - zakonito, ali etički neprihvatljivo.”
„Na Sveučilištu Erasmus razvili smo etičko-pravni okvir kako bismo usmjeravali odluke povezane s uporabom umjetne inteligencije”, objašnjava Marlon. „Ne radi se samo o ispunjavanju zakonskih zahtjeva, nego i o osiguravanju da sustavi koje koristimo budu sigurni i etični.”
Primjerice, kada je Sveučilište Erasmus razmatralo uporabu analitike učenja na digitalnim platformama, nije bilo dovoljno samo uključiti tu mogućnost. Marlon, njegov tim i skupina dionika, studenata, nastavnika, istraživača i donositelja politika, godinama su raspravljali i postupno testirali kako uskladiti prednosti analitike učenja s pitanjima privatnosti studenata.
„Kada su ljudi prvi put predložili uključivanje funkcije analitike učenja, morali smo se zapitati: koja je svrha prikupljanja tih podataka?”, kaže Marlon.
„Je li cilj poboljšati kvalitetu kolegija? Služi li to ranom prepoznavanju studenata kojima je potrebna posebna podrška ili dodatni izazovi? Jesu li podaci potrebni za postavljanje pitanja dostupni u okruženju za učenje; jesu li stvoreni događaji koji prikupljaju relevantne informacije? Postavljamo li relevantna i etički opravdana pitanja?
„Na kraju smo osnovali odbor za privatnost i etiku kako bi usmjeravao donošenje tih odluka i osigurao da pitanja kibernetičke sigurnosti budu u središtu pozornosti.”
Postavljanje standarda za širu etičku uporabu umjetne inteligencije
Razvoj i procjena takvih metodologija, okvira i alata jedno je od područja u kojima sveučilišta mogu imati ključnu ulogu. Ne radi se samo o osiguravanju vlastite predanosti etičnoj i sigurnoj uporabi umjetne inteligencije, nego i o pružanju potpore i osposobljavanju drugih za takav pristup, unutar i izvan obrazovnog sektora.
Primjerice, Marlon ističe da izraze poput „rad temeljen na podacima” ne treba prihvaćati zdravo za gotovo, jer zaključci izvedeni iz dostupnih podataka često dovode do upitnih rezultata.
„Podaci sami po sebi obično ne ‘pokazuju’ mnogo. Najprije treba postaviti relevantno pitanje, odlučiti koji bi podaci bili važni za odgovor na to pitanje te procijeniti kvalitetu dostupnih podataka.
„Zatim moramo razumjeti odnos između pitanja i podataka: jesmo li utvrdili uzročnost ili samo korelaciju? Ako je riječ samo o korelaciji, nalazimo se na skliskom terenu koji može dovesti do pristranosti jer koristimo nerelevantne podatke za donošenje odluke o studentskom radu”, dodaje.
„Temeljito razumijevanje problema te razvoj odgovarajućih pristupa, metodologija i alata zahtijeva mnogo rada i skupo je. No upravo je to područje u kojem sveučilišta imaju prednost – nismo pod pritiskom komercijalnog sektora da što brže plasiramo proizvod na tržište.”
Podizanje javne kritičke svijesti o umjetnoj inteligenciji
Povećana javna svijest o mogućim opasnostima umjetne inteligencije oblikovana je nedavnim kontroverzama, poput afere kinderopvangtoeslagaffaire (skandala s dječjim naknadama) u Nizozemskoj. Pogrešni državni algoritmi nepravedno su optužili obitelji za prijevaru, što je dovelo do financijskih poteškoća za tisuće ljudi i raspada obitelji zbog pristranih, neprovjerenih podataka i nepotpunih profila.
„Ljudi su sada svjesniji mogućih učinaka umjetne inteligencije i algoritama na društvo. Više nemaju osjećaj da ih njihova država štiti”, kaže Marlon.
Taj slučaj, zajedno s porastom marketinških alata i strategija temeljenih na umjetnoj inteligenciji, pridonio je većoj javnoj svijesti da umjetna inteligencija sama po sebi nije neutralna ni nužno dobronamjerna u svojim učincima. „Umjetnu inteligenciju koristimo kako bismo razumjeli svijet i same sebe, ali ona mora služiti čovječanstvu.”
„Studenti i potrošači posebno zauzimaju kritičniji stav prema algoritmima. Iako alati poput ChatGPT-a mogu djelovati prijateljski i gotovo ljudski, ljudi vide i ružnu stranu algoritama kada se loše upotrebljavaju. Velika je prednost što ljudi imaju takvu kritičku svijest o umjetnoj inteligenciji.”
Sveučilišta kao inovatori i etički predvodnici u području umjetne inteligencije
Marlon smatra da će budućnost umjetne inteligencije u visokom obrazovanju i istraživanju ovisiti o sposobnosti sveučilišta da budu primjer drugima. To znači prihvaćanje inovacija uz istodobno postavljanje strogih etičkih standarda, ugrađivanje kibernetičke sigurnosti i privatnosti od samog dizajna u svaku primjenu umjetne inteligencije koja koristi osobne podatke i/ili strateške informacije te poticanje kulture kritičkog promišljanja o novim tehnologijama.
Zauzimanjem proaktivnog i promišljenog pristupa etici i sigurnosti umjetne inteligencije sveučilišta mogu premostiti jaz između tehnološkog potencijala i društvenog utjecaja. Suradnjom tehničkih, etičkih i pravnih disciplina te dijeljenjem najboljih praksi i alata mogu postaviti standarde odgovorne uporabe umjetne inteligencije, kako unutar svojih ustanova tako i u drugim sektorima. To zahtijeva postavljanje teških pitanja na svim razinama – ljudima, tehnologiji i procesima pritom ne dopuštajući da stručna terminologija pojedine discipline zamagli širu sliku.
U razdoblju brzog razvoja umjetne inteligencije sveučilišta imaju i priliku i odgovornost oblikovati način na koji će se umjetna inteligencija integrirati u naš svijet, osiguravajući da bude snaga pozitivnih promjena.
Napomena: Ovaj je članak prvi put objavljen na engleskom jeziku na GÉANT CONNECT Online.
Naslovna slika: Master1305/Shutterstock
