Corso di Informatica 3 (IN3 - Teoria dell'Informazione)

Le lezioni

Diario delle lezioni dell'anno accademico 2008-2009

Le lezioni si tengono nel secondo semestre con il seguente orario:

  • lunedì ore 9.00-11.0012.00 (lezione, Aula 009100);
  • mercoledì ore 11.00-13.00 (lezione, Aula C);
  • giovedì ore 14.00-16.00 17.00 (lezione, Aula 100).
Lezione n. 1 - Monday 2 March 2009

  • Presentazione del corso; argomenti introduttivi sulla teoria dell'informazione.
    - Applicazioni della teoria dell'informazione alle telecomunicazioni.
    - Applicazioni della teoria dell'informazione alla compressione dei dati.
    -
Lezione n. 2 - Monday 9 March 2009

  • Modello di Shannon; Canale Binario Simmetrico; Esempio di Codice a Ripetizione; Calcolo della Ottimalita' della decodifica a maggioranza per il codice R3.
    - Generalizzazione a codici RN. Approssimazione del calcolo del fattoriale; Distribuzione di Poisson; Distribuzione Gaussiana; Formula di Stirling.
    -
Lezione n. 3 - Thursday 12 March 2009

  • Modello di Shannon; Canale Binario Simmetrico.
    - Esempio di Codice a Blocchi: il codice (7,4) di Hamming.Matrice di generazione di un codice; Sindromi; Decodifica del codice (7,4).
    - Decodifica per sindromi;Matrice di Parita'.
    - Codici Ciclici.
    -
Lezione n. 4 - Monday 16 March 2009

  • Codici Aritmetici.
    - Esempi di codifica.
    -
Lezione n. 5 - Thursday 19 March 2009

  • Codici Huffman.
    - Disuguaglianza di Kraft.
    - Entropia Relativa; Codici Prefissi; Teorema di Codifica della Sorgente per Codici Prefissi.
    -
Lezione n. 6 - Monday 23 March 2009

  • Considerazioni sui codici a blocchi.
    - Oltre i codici simbolici.
    - Codifica a flusso.
    -
Lezione n. 7 - Thursday 26 March 2009

  • Codici simbolici: definizione di codifica simbolica.
    - Univocita' della decodifica, estensione della codifica a parole.
    - Esempi di codifiche simboliche. Esercizi in preparazione all'esonero
    -
Lezione n. 8 - Monday 30 March 2009

  • Codici Prefissi; Disuguaglianza di Kraft.
    - Lunghezza attesa di un codice; probabilita' implicita.
    - Teorema di codifica della sorgente (nel caso dei codici simbolici.
    -
Lezione n. 9 - Monday 6 April 2009

  • Codici Lineari.
    -
Lezione n. 10 - Monday 20 April 2009

  • Codici Lineari e limiti alla correzione degli errori.
    - Esercizi.
    - Definizione e proprieta' dell'entropia condizionata.
    -
Lezione n. 11 - Monday 4 May 2009

  • esempi di calcolo di entropia condizionata, calcolo della marginale a partire dalla matrice di transizione.
    - entropia condizionata, entropia alla sorgente, entropia a destinazione, mutua informazione.
    - applicazione a diversi tipi di canale: BSC, BEC, Z; definizione di capacita' di canale.
    -
Lezione n. 12 - Monday 11 May 2009

  • Discussione informale sul teorema di Shannon per canale con rumore.
    - Definizione degli errori di decodifica: errore, probabilita' di errore nel blocco; massimo errore nel blocco.
    - Decodifica ottimale; Probabilita' di errore nel singolo bit.
    -
Lezione n. 13 - Monday 18 May 2009

  • Paradosso del compleanno. Applicazione ai codici.
    - Enunciato completo del Teorema di Shannon sul canale con rumore.
    - Sequenze con tipicita' congiunta. Stime sulla cardinalita' degli insiemi di tipicita'.
    -
Lezione n. 14 - Monday 25 May 2009

  • DImostrazione del teorema di codifica per canali con rumore.
    - Calcolo della capacia' del canale in vari esempi.
    - Classificazione dei codici in funzione della probabilita' di errore e della dimensione del blocco.
    -
Lezione n. 15 - Monday 1 June 2009

  • Proprieta della distanza di Hamming;
    - Proprieta' della distanza di Hamming.
    - Codici Perfetti.
    -
Lezione n. 16 - Thursday 4 June 2009

  • Dimostrazione che i codici perfetti sono rari; Codici di Hamming.
    - Concatenazione di Codici Hamming.
    - Random Linear Codes; Distanza di Gilbert-Varshamov; Bounded distance decoder.
    - Codici Duali.
    - Codici Duali di Codici Hamming.
    -

Per informazioni e commenti: pedicini@mat.uniroma3.it - Torna alla Home page - Ultima modifica: Mon Jul 13 15:44:44 CEST 2009