Cilji in kompetence
Cilj tega predmeta je, da bodo študentje razumeli teorijo o informacijah in teoretične osnove komunikacijskega modela, znali analizirati njegove komponente, jih uporabiti v praksi in izpeljati nove variante kodirnih algoritmov.
Vsebina
• Uvod: definicija informacije, koda, kodiranja in komunikacijskega sistema.
• Entropija: entropija diskretnih naključnih sistemov, entropija diskretnih naključnih spremenljivk, Fanojeva neenačba, entropija zveznih naključnih spremenljivk.
• Informacija: povprečna lastna informacija, povprečna medsebojna informacija diskretnih spremenljivk, povprečna medsebojna informacija zveznih spremenljivk.
• Diskretni viri informacije: entropija stacionarnega vira, ergodični stacionarni viri, vir brez spomina, vir s spominom, odvečnost vira.
• Komunikacijski kanali I: diskretni komunikacijski kanali, kapaciteta diskretnega kanala brez spomina, zvezni komunikacijski kanali, kapaciteta zveznega kanala.
• Kodiranje vira informacije: enakomerni in neenakomerni kodi, Kraftova neenačba, Huffmanov kod, kod LZW, aritmetični kod, kod RLE.
• Tajno kodiranje: kriptografski sistemi s tajnim ključem, kriptografska sistema DES in AES, kriptografski sistemi z javnim ključem, kriptografski sistem RSA, digitalni podpis.
• Komunikacijski kanali II: dekodiranje z odkrivanjem napak, dekodiranje s popravljanjem napak, optimalni postopki dekodiranja, Shannonov izrek o varnem kodiranju, obrat Shannonovega izreka.
• Varno kodiranje: linearni bločni kodi, Hammingov kod, ciklični kodi, Golayev kod, kodi Reeda in Mullerja, konvolucijski kodi.
Metode poučevanja in učenja
• Predavanja: pri predavanjih študentje spoznajo teoretične vsebine predmeta. Predavanja se izvajajo kot klasična predavanja v frontalni obliki z diskusijo.
• Seminarske vaje: pri seminarskih vajah študentje utrjujejo teoretično znanje s skupinskim reševanjem računskih nalog. Študentje tudi izpopolnjujejo prenosljive spretnosti računanja.
• Računalniške vaje: pri računalniških vajah študentje uporabljajo usvojeno znanje na primerih iz telekomunikacij. Študentje tudi izpopolnjujejo prenosljive spretnosti uporabe integriranega razvojnega orodja.
• Domače naloge: pri domačih nalogah študentje utrjujejo teoretično znanje s samostojnim reševanjem računskih nalog.
Predvideni študijski rezultati - znanje in razumevanje
Po zaključku tega predmeta bo študent sposoben
• razložiti teoretične osnove gradnje matematičnih modelov za opisovanje poglavitnih pojavov v tehničnih komunikacijskih sistemih,
• razložiti teoretične osnove mere informacije in drugih parametrov za kvantitativno opisovanje komunikacijskih in informacijskih sistemov,
• izbrati najustreznejše metode kodiranja informacij in kriptografije za dani problem,
• načrtovati nove variante kodirnih algoritmov.
Predvideni študijski rezultati - Prenosljive/ključne spretnosti in drugi atributi
• Spretnosti komuniciranja: ustni zagovor računalniškega dela, pisno izražanje pri pisnem izpitu.
• Uporaba informacijske tehnologije: uporaba razvojnih orodij in okolij za programiranje.
• Reševanje problemov: analiza problema, načrtovanje algoritma, implementacija programa in testiranje programa.
• Delo v skupini: organizacija in vodenje skupine, aktivno sodelovanje v skupini.
Temeljni literatura in viri
• N. Pavešić: Informacija in kodi, Univerza v Ljubljani, druga izdaja, Založba FE in FRI, Ljubljana, 2010.
• T. M. Cover, J. A. Thomas: Elements of Information Theory, Wiley-Interscience, New York, 1991.
• R. Wells: Applied Coding and Information Theory for Engineers, Prentice-Hall, Upper Saddle River, 1999.
• D. Welsh: Codes and Cryptography, Oxford University Press, New York, 1989.
Pogoji za vključitev v delo oz. za opravljanje študijskih obveznosti
Priporočeno je osnovno znanje matematike in teorije verjetnosti.Pogoji za opravljanje študijskih obveznosti: za pristop k izpitu mora študent izpolnjevati 80 % prisotnost na laboratorijskih vajah in pozitivno oceno laboratorijskih vaj.
Podrobnosti o izvedbi in ocenjevanju Pisni izpit se lahko nadomesti s sprotnim preverjanjem in ocenjevanjem znanja.
