Il corso tratta in modo elementare dei Fondamenti della Teoria dell'Informazione, introducendo concetti come Entropia, Codifica, Compressione correzione di errori,
dovrebbe servire come prerequisito per gli studi successivi che trattano la generazione la codifica e la trasmissione dell'informazione.
Programma
Concetti generali di Teoria dell'Informazione. La funzione entropia. La proprietà di equiripartizione asintotica.
Sorgenti d'informazione discreta. Codifica in assenza di rumore: codici istantanei e codici univocamente decifrabili.
Il teorema della codifica in assenza di rumore. Costruzione dei codici ottimali: il metodo di Huffman. Codifica aritmetica
Il canale discreto senza memoria. Capacità, Schemi di decisione e probabilità di errore. La codifica del canale. Il teorema fondamentale.
I codici correttori a blocchi. I codici lineari, algoritmi di decodifica, capacità correttiva, probabilità di errore.
I Codici ciclici, I codici BCH, i codici di Reed Solomon, applicazioni.