Docente/i: Carlo Bertoluzza  

Denominazione del corso: Teoria dell'informazione
Codice del corso: 503039
Corso di laurea: Ingegneria Elettronica
Settore scientifico disciplinare: ING-INF/05
Crediti formativi: CFU 6
Sito web del corso: n.d.

Obiettivi formativi specifici

Concetti e risultati di base riguardanti la trasmissione dell’informazione in canali disturbati e non.

Programma del corso

Parte I - Teoria dell’informazione

• Trasmissione in assenza di rumore. Codici a lunghezza variabile, problema della decifrabilità (disuguaglianza di Kraft), codici ottimali (disuguaglianze di Shannon), algoritmi di Huffmann e di Shannon.
• Misure di incertezza. Entropia di Shannon (introduzione euristica e formale). Proprietà: additività (debole e forte), massimalità, monotonia, condizionamento, diramatività. Cenni a possibili estensioni.
• Canali disturbati. Canali senza memoria, informazione mutua e capacità, teorema di codifica del canale, tasso di distorsione, codifica della sorgente.

Parte II - Codici a correzione

• Il problema generale. Distanza di Hamming, osservatore ideale. Cenni sull’algebra di Boole e sui campi finiti.
• Codici algebrici. Introduzione e proprietà fondamentali. Codici di Hamming, codici BCH, codici di Reed-Muller, codici ciclici, cenni sui codici a convoluzione.
• Codici non lineari di Hadamard.

Prerequisiti

Concetti e risultati elementari di calcolo delle probabilità in spazi finiti (fino al teorema di Bayes e alla legge dei gradi numeri)

Tipologia delle attività formative

Lezioni (ore/anno in aula): 40
Esercitazioni (ore/anno in aula): 0
Attività pratiche (ore/anno in aula): 0

Materiale didattico consigliato

R.J. McEliece. Information and Coding. Addison Wesley, 1977.

J.I. Hall. Notes on coding theory. Michigan State University, 2001.

J.Gill. Information course. Stanford University, 2002.

Modalità di verifica dell'apprendimento

Solo colloquio di verifica finale