EN2500 Informationsteori och källkodning 7,5 hp
Denna kurs är avvecklad.
Sista planerade examination: VT 2018
Avvecklingsbeslut:
Ingen information tillagdInnehåll och lärandemål
Kursinnehåll
Informationsteori av diskreta och kontinuerliga variabler: entropi, Krafts olikhet, relativ entropi, entropitakt, redundans, ömsesidig information, asymptotisk ekvipartition. Estimering av sannolikhetsfunktioner och täthetsfunktioner. Expectation Maximization-algoritmen. Principen om maximal entropi.
Ickedestruktiv kodning: icke-adaptiva koder: Shannon, Huffmann, aritmetiska koder. Universella och adaptiva koder: Ziv-Lempel-koder.
Rate-distortion-teori: rate-distortions-funktionen, Shannons undre gräns, rate-distortion av oberoende variabler, "reverse waterfilling", Blahuts algoritm.
Fin-kvantisering: kvantiering genom begränsning av upplösning och begränsning av entropi. Vektor- och skalärkvantisering. Tillämpad fin-kvantisering: mixture- och gitter-kvantisering, kompandering.
Kvantisering med låg datahastighet: Lloyds algoritm för begränsad upplösning och begränsad entropi. Strukturerad vektorkvantisering (trästruktur, multi-steg, "gain-shape", gitter). Snabba sökmetoder.
Transformer och filterbankar: baser och ramar. Fasta tranformer: DFT, DCT, MLT, Gabor-ramar, Balian-Lows sats. A-priori-adaption: Karhunen-Loeve, a-priori energikoncentrering. A-posteriori adaption: a-posteriori energikoncentrering, sökning efter bästa bas, "matching pursuit".
Linjär prediktion: återkopplad prediktion, brusformning, "analysis-by-synthesis", "spectral flatness", Kolmogorovs formel, redundans, framåt- och bakåt-prediktion.
Lärandemål
Att ge en förståelse för de teoretiska grunderna för källkodning.
Kurslitteratur och förberedelser
Särskild behörighet
För fristående kursstudent: 120 hp samt Engelska B eller motsvarande
Rekommenderade förkunskaper
EQ1220 Signalteori eller motsvarande kunskaper.
Utrustning
Kurslitteratur
W.B. Kleijn, A basis for source coding, KTH-S3 (2004).
Examination och slutförande
När kurs inte längre ges har student möjlighet att examineras under ytterligare två läsår.
Betygsskala
Examination
- HEM1 - Hemuppgift, 1,5 hp, betygsskala: P, F
- TEN1 - Tentamen, 6,0 hp, betygsskala: A, B, C, D, E, FX, F
Examinator beslutar, baserat på rekommendation från KTH:s handläggare av stöd till studenter med funktionsnedsättning, om eventuell anpassad examination för studenter med dokumenterad, varaktig funktionsnedsättning.
Examinator får medge annan examinationsform vid omexamination av enstaka studenter.
Övriga krav för slutbetyg
Skriftlig examen.
Hemuppgift.
Möjlighet till komplettering
Möjlighet till plussning
Examinator
Etiskt förhållningssätt
- Vid grupparbete har alla i gruppen ansvar för gruppens arbete.
- Vid examination ska varje student ärligt redovisa hjälp som erhållits och källor som använts.
- Vid muntlig examination ska varje student kunna redogöra för hela uppgiften och hela lösningen.