Antal högskolepoäng: 7,5. Betygsskala: TH. Nivå: G2 (Grundnivå, fördjupad). Huvudområde: Teknik. Undervisningsspråk: Kursen ges på begäran på engelska. Valfri för: C4, C4ks, D4, D4ks, E3, E3f, F4, MFOT1, MWIR1, Pi4, Pi4ssr. Kursansvarig: Universitetslektor Stefan Höst, stefan.host@eit.lth.se, Inst för elektro- och informationsteknik. Förutsatta förkunskaper: FMS012 Matematisk statistik, allmän kurs. Prestationsbedömning: Hemtentamen och inlämningsuppgifter. Hemsida: http://www.eit.lth.se/kurs/eit080.

Syfte
Kursen skall förmedla kunskap om de grundläggande principerna för lagring och överföring av information och om Claude Shannons insikt att de binära symbolerna, representerade som nollor och ettor, kan tas till grund för all representation av information. Kursen ger en bredd och ett djup som gör att många av de idag förekommande metoderna samt en stor del av morgondagens kan förstås.

Mål

Kunskap och förståelse
För godkänd kurs skall studenten

• kunna identifiera och formulera problem inom området Informationsteori.

• kunna klassificera problemens svårighetsgrad i förhållande till den egna kunskapsnivån.

Färdighet och förmåga
För godkänd kurs skall studenten

• kunna visa prov på förmåga att hantera för studenten nya metoder och resultat.

• på egen hand kunna realisera system för de i kursen presenterade algoritmerna.

Värderingsförmåga och förhållningssätt
För godkänd kurs skall studenten

Innehåll
Shannon gav 1948 en kvantitativ definition av information. Med denna definition kan vi ge gränser för antalet meddelanden som kan överföras eller lagras. Såväl perfekta som störda överförings- och minnesmedia behandlas. Vi behandlar först fallet med en källa och en mottagare. I kursen ingår:

Informationsteorins grunder: Shannons informationsmått, Fanos lemma, data processing lemma.

Tre fundamentala kommunikationssatser: Typiska följder, källkodningssatsen, kanalkodningssatsen, symmetriska kanaler, summakanaler.

Källkodning: Prefixfri kodning och Krafts olikhet, Huffmankodning, universell källkodning (så som Ziv-Lempel-kodning).

Kanalkodning: Blockfelsannolikhet och avkodningskriterier (maximum a posteriori och maximum likelihood).

Gausskanalen: Differentiell entropi, tidsdiskret Gausskanal, bandbegränsad Gausskanal, Water-filling.

Litteratur
Cover T and Thomas J: Elements of Information Theory, 2nd Ed, Wiley, 2006.