Kursplan för
Informationsteori
Information Theory
EITN45, 7,5 högskolepoäng, A (Avancerad nivå)
Gäller för: Läsåret 2013/14
Beslutad av: Utbildningsnämnd A
Beslutsdatum: 2013-04-15
Allmänna uppgifter
Huvudområde: Kommunikationssystem.
Valfri för: C4, C4-ks, D4, D4-ks, E4, E4-ks, E4-f, F4, MWIR1, Pi4, Pi4-ssr
Undervisningsspråk: Kursen ges på begäran på engelska
Syfte
Målet med kursen är att ge studenterna insikt i principer för
informationslagring och transmission, samt hur information kan
representareas binärt. Kursen skall också ge förståelse för
prestanda och fundamentala begränsningar i dagens och framtidens
kommunikations system.
Mål
Kunskap och förståelse
För godkänd kurs skall studenten
- kunna identifiera och formulera problem inom området
Informationsteori.
- kunna klassificera problemens svårighetsgrad i förhållande
till den egna kunskapsnivån.
Färdighet och förmåga
För godkänd kurs skall studenten
- kunna visa prov på förmåga att hantera för studenten nya
metoder och resultat.
- kunna ställa upp krav för implementering av algoritmerna i
kursen.
- på egen hand kunna realisera system för de i kursen
presenterade algoritmerna.
Värderingsförmåga och förhållningssätt
För godkänd kurs skall studenten
- på egen hand kunna klassificera problemens svårighetsgrad i
förhållande till den egna kunskapsnivån.
- vara medveten om vilka parametrar som är begränsande för
tillförlitlig kommunikation samt kompressionsgraden av en
källa.
Kursinnehåll
Definitionen av information går tillbaka till Shannons
publikation 1948. Hans teorier för hur information kan behandlas
är basen i alla, både dagens och morgondagens,
kommunikationssystem. Kursen ger en modern introduktion till ämnet
informationsteori. Den betonar både den formella teorin i ämnet
och de ingenjörsmäsiga metoderna för design kommunikationssystem
och annan informationsbehandling. Kursen innehåler.
- Shannons informationsmått och dess släktingar, både för det
diskreta och det kontinuerliga fallet.
- Tre fundamentala satser: Typiska följder, källkodningsssatsen
och kanalkodningssatsen.
- Källkodning: Optimal källkodning och Huffmans konstruktion,
men även universell källkodning så som Ziv-Lempel-kodning (zip,
osv).
- Kanalkodning: Principer för feldetektering och felkorrigering
för brusiga kanaler, främst åskådliggjort med
Hammingkoder.
- Gausskanalen: Kontinuerliga källor och additivt vitt brus
över både bandbegränsade och frekvensselektiva kanaler.
Beräkning av Shannons fundamentala gräns.
- Rate distortion-teori: Kanalkodningssatsen och den fundamentala
gränsen för fallet då viss distortion är accepterad.
Kursens examination
Betygsskala: TH
Prestationsbedömning: Inlämningsuppgifer och hemtenta.
Antagningsuppgifter
Förutsatta förkunskaper: FMS012 Matematisk statistik, allmän kurs.
ETT051 Digital kommunikation
Begränsat antal platser: Nej
Kursen överlappar följande kurser: EIT080
Kurslitteratur
- Thomas Cover and Joy Thomas: Elements of Information Theory (2nd Ed). Wiley, 2006, ISBN: 13-978-0-471-24195-9.
- Additional material.
Kontaktinfo och övrigt
Kursansvarig: Universitetslektor Stefan Höst, stefan.host@eit.lth.se