Umjetna inteligencija u obrazovanju – revolucija ili rizik?

Sažetak

Nedavna eksplozija popularnosti velikih jezičnih modela usmjerila je rasprave o ulozi umjetne inteligencije u budućnosti obrazovanja. Umjetna inteligencija mijenja paradigmu učenja i poučavanja zato je ključno razumjeti pozitivne i negativne učinke ove tehnologije za obrazovni sustav. Istraživanja o ulozi umjetne inteligencije u obrazovanju obuhvaćaju širok spektar tema, od analize sustava umjetne inteligencije koji se primjenjuju u obrazovanju, preko preporuka za implementaciju ove tehnologije u obrazovni proces, do etičkih izazova. Međutim, znatno manje istraživanja obuhvaća pravnu stranu primjene umjetne inteligencije u obrazovanju. Pravna strana umjetne inteligencije postaje značajnija otkako sve više država započinje s pravnom regulacijom ove tehnologije. Stoga ovaj rad ima za cilj analizirati dosadašnju primjenu umjetne inteligencije kroz Opću uredbu o zaštiti osobnih podataka i Akt o umjetnoj inteligenciji kao prvi sveobuhvatni regulator ove tehnologije kako bi se pridonijelo razumijevanju pravne strane implementacije sustava umjetne inteligencije u obrazovanje. Rad se usredotočuje na primjenu sustava umjetne inteligencije u obrazovanju koja spada u neprihvatljiv rizik prema Aktu o umjetnoj inteligenciji kao što su sustavi za prepoznavanje emocija i lica u obrazovanju te visokorizične sustave kao što su automatsko ocjenjivanje, nadziranje učenika tijekom ispita putem sustava umjetne inteligencije, selekciju učenika sustavima umjetne inteligencije. Također, kroz rad se otvara tema primjene sustava umjetne inteligencije koji nisu ciljano razvijeni da se pronađu u učionici, potencijalne pristranosti sustava umjetne inteligencije i njena utjecaja na pravo na obrazovanje te izazove zaštite osobnih podataka kroz personalizaciju obrazovanja. To omogućuje izvještavanje o mogućim negativnim i rizičnim aspektima primjene umjetne inteligencije u obrazovanju. U konačnici, rad ističe pozitivne i negativne učinke implementacije umjetne inteligencije u obrazovanje i ističe važnost zakonskih okvira koji će spriječiti zloupotrebe ove tehnologije.