Cilji in kompetence
Cilj tega predmeta je zagotoviti celovito razumevanje etike, pravičnosti, varnosti in usklajenosti sistemov umetne inteligence, s poudarkom na njihovem vplivu v panogah, na delovnih mestih in v vsakdanjem življenju. Študenti bodo spoznali tehnike za ocenjevanje učinkovitosti sistemov umetne inteligence, etične vidike ter strategije za obravnavo pristranskosti in pravičnosti v umetni inteligenci. Predmet se bo poglobil tudi v usklajevanje UI, preglednost in vključevanje človeškega nadzora v procese odločanja, ki jih poganja UI, hkrati pa se bo dotaknil vloge generativnih modelov UI, kot so veliki jezikovni modeli (LLM).
Vsebina
Pregled trenutnega stanja generativnih modelov umetne inteligence (kot so veliki jezikovni modeli LLM) in njihovega vpliva na industrijo, delo in vsakdanje življenje.
• Tehnike za ocenjevanje učinkovitosti in natančnosti sistemov umetne inteligence, vključno s primerjalno analizo in meritvami uspešnosti.
• Etika na področju umetne inteligence in morebitne posledice odločanja, ki ga poganja umetna inteligenca
• Vloga pravičnosti v umetni inteligenci in načini, na katere je mogoče v sisteme UI vnesti pristranskost.
• Trenutna prizadevanja za obravnavo pravičnosti UI, vključno z revizijo algoritmov in odkrivanjem pristranskosti.
• Problem usklajevanja umetne inteligence ter njegove posledice za varnost in dolgoročno sprejemanje odločitev
• Tehnike za gradnjo preglednih in razložljivih sistemov umetne inteligence, vključno z interpretacijo modelov in tehnikami vizualizacije.
• Vpliv kakovosti in razpoložljivosti podatkov na odločanje na področju umetne inteligence ter tehnike za zagotavljanje kakovosti in popolnosti podatkov.
• Vloga človeškega nadzora in odločanja v sistemih umetne inteligence ter najboljše prakse za vključevanje umetne inteligence v procese odločanja.
Metode poučevanja in učenja
• Predavanja
• Študije primerov
• Računalniške vaje
• Individualno delo
Predvideni študijski rezultati - znanje in razumevanje
Po zaključku tega predmeta bo študent sposoben
• Razumevanje trenutnega stanja generativnih modelov umetne inteligence, njihovega vpliva na različne sektorje in tehnik za ocenjevanje učinkovitosti umetne inteligence.
• Prepoznati etične vidike, pravičnost in pristranskost pri umetni inteligenci ter analizirati prizadevanja za reševanje teh vprašanj, vključno z revizijo algoritmov.
• Razumevanje problema usklajevanja umetne inteligence, njegovih posledic in strategij za gradnjo preglednih, razložljivih sistemov z možnostjo interpretacije modelov.
• Ocenite kakovost podatkov in njen vpliv na odločanje z umetno inteligenco ter vključite človeški nadzor in najboljše prakse v procese, ki jih poganja UI.
Prenosljive/ključne spretnosti in drugi atributi:
• Kritično razmišljanje in prilagodljivost: Analiza vpliva generativnih modelov umetne inteligence na panoge in ocenjevanje učinkovitosti sistemov umetne inteligence z uporabo primerjalne analize in meril uspešnosti.
• Etično razmišljanje in odgovornost: Ocenjevanje etičnih vidikov, morebitnih posledic in pravičnosti pri odločanju, ki ga poganja umetna inteligenca, ter ugotavljanje in odpravljanje pristranskosti v sistemih umetne inteligence.
• Tehnično znanje in sodelovanje: Uporaba tehnik za oblikovanje preglednih in razložljivih sistemov UI, zagotavljanje kakovosti podatkov in vključevanje človeškega nadzora v postopke odločanja z UI.
Temeljni literatura in viri
• Christian, B., 2020. The alignment problem: Machine learning and human values. WW Norton & Company.
• Tegmark, M., 2018. Life 3.0: Being human in the age of artificial intelligence. Vintage.
• O'neil, C., 2017. Weapons of math destruction: How big data increases inequality and threatens democracy. Crown.
• Karakatič, Sašo, Fister, Iztok. Strojno učenje: s Pythonom do prvega klasifikatorja. 1. izd. Maribor: Univerza v Mariboru, Univerzitetna založba: Fakulteta za elektrotehniko, računalništvo in informatiko, 2022.
Pogoji za vključitev v delo oz. za opravljanje študijskih obveznosti
Ni pogojev.
