Lekcije preteklosti za dobo umetne inteligence

Organizacije javnega sektorja po vsem svetu že desetletja uporabljajo na algoritmih zasnovane informacijske rešitve za podporo odločanju – med drugim pri upravnih postopkih, odločanju o pravicah iz javnih sredstev, presoji kandidatov za pomilostitev, prediktivnem policijskem delu in v enem primeru celo pri določanju zaključnih ocen srednješolskih izpitov. Čeprav so bila pričakovanja ob uvedbi teh rešitev pogosto povezana z večjo učinkovitostjo, objektivnostjo in poenotenjem odločanja, se je v praksi pokazalo, da lahko taki sistemi povzročijo resne težave, kot so pristranskost, netransparentnost delovanja in druge neželene posledice za posameznike ter družbo. Prispevek osvetljuje nekatere bolj znane primere uspešnosti in neuspešnosti na algoritmih zasnovanih informacijskih rešitev ter iz njih izpeljuje ključna tveganja in izzive, s katerimi se bomo soočali ob uvedbi sodobnih rešitev, ki bodo temeljile na tehnologijah umetne inteligence.

mag. Maja Hmelak

SIR*IUS 5/2025