Docente/i: Giuseppe De Nicolao  

Denominazione del corso: Identificazione dei modelli e analisi dei dati
Codice del corso: 500543
Corso di laurea: Ingegneria Elettronica e Informatica
Sede: Pavia
Settore scientifico disciplinare: ING-INF/04
L'insegnamento è caratterizzante per: Ingegneria Elettronica e Informatica
Crediti formativi: CFU 12
Sito web del corso: http://sisdin.unipv.it/labsisdin/teaching/teaching.php

Obiettivi formativi specifici

Conoscenza delle nozioni di base di: teoria della stima (stima a massima verosimiglianza, stima a posteriori); identificazione di modelli mediante reti neurali; processi casuali (media, autocovarianza, densità spettrale di potenza, predizione ottima); identificazione di modelli ARMAX. Capacità di risolvere problemi di identificazione e predizione a partire dalla formalizzazione del problema di identificazione fino all’uso di strumenti informatici per stimare i parametri ed effettuare simulazioni.

Programma del corso

La teoria dell'identificazione raggruppa un insieme di metodologie che consentono di costruire modelli matematici di sistemi e segnali a partire dalla rilevazione di dati sperimentali. In presenza di sistemi complessi il cui comportamento è difficilmente riconducibile a leggi note, il ricorso a tecniche di identificazione è spesso l'unico modo per ottenere modelli matematici da usare per la previsione, la simulazione e il controllo. I metodi presentati nel corso sono largamente applicati in settori eterogenei quali i controlli automatici, l'econometria, l'idrologia, la bioingegneria, la geofisica e le telecomunicazioni. Vengono richiamate alcune nozioni fondamentali di probabilità, teoria della stima e processi casuali. Vengono anche presentate le principali proprietà (stabilità e relazioni ingresso-uscita nel dominio del tempo e delle frequenze) dei sistemi lineari a tempo discreto. Nell'ambito dell'identificazione parametrica, ampio spazio è dedicato alla validazione dei modelli e alla scelta della loro complessità. Vengono anche illustrati e discussi alcuni metodi di identificazione basati sull'uso di reti neurali, analizzando vantaggi e svantaggi rispetto alle tecniche di identificazione tradizionali. Lo studio dei modelli dinamici affronta tre argomenti principali: la predizione ottima di processi casuali stazionari (filtraggio alla Wiener), l'identificazione di sistemi dinamici a tempo discreto e la stima spettrale (sia non parametrica che a massima entropia).

Fondamenti di calcolo delle probabilità:

• nozione di probabilità;
• indipendenza statistica, probabilità condizionata, teorema della probabilità totale e di Bayes;
• prove di Bernoulli, eventi di Poisson;
• nozione di variabile casuale (V.C.), funzione di distribuzione e densità di probabilità, funzioni di V.C.;
• moda, mediana e momenti di una V.C.,
• V.C. congiunte: distribuzione, densità, momenti, indipendenza, incorrelazione, funzioni di V.C. congiunte;
• legge dei grandi numeri, V.C. gaussiane, teorema fondamentale della convergenza stocastica.

Fondamenti di statistica:

• Nozione di stimatore, proprietà degli stimatori;
• momenti campionari e loro proprietà principali
• intervalli di confidenza per la media campionaria, la V.C. "t di Student"

Identificazione di modelli lineari nei parametri

• Il metodo dei minimi quadrati, equazioni normali, identificabilità;
• Best Linear Unbiased Estimator: stimatore, varianza dei parametri;
• Validazione e scelta della complessità: test chi quadrato, test F, criteri FPE, AIC, MDL.

Teoria della stima:

• il criterio della massima verosimiglianza: proprietà ed esempi;
• stima "a posteriori": stimatore di Bayes;
• crossvalidazione, effetti della complessità dei modelli su polarizzazione e varianza;
• identificazione di modelli non lineari nei parametri.

Identificazione mediante reti neurali:

• reti neurali a base radiale;
• reti di percettroni;
• generalizzazione, overfitting, dimensionamento delle reti.

Processi casuali e predizione ottima:

• media, autocorrelazione, autocovarianza, indipendenza, incorrelazione;
• rumore bianco, passeggiata casuale, processi MA, AR, ARMA, equazioni di Yule-Walker;
• stazionarietà, densità spettrale di potenza, stima spettrale non parametrica;
• teorema della fattorizzazione spettrale, predittore ottimo.

Identificazione di modelli dinamici:

• modelli a errore di uscita, ARX, ARMAX;
• l'approccio predittivo all'identificazione;
• stima ai minimi quadrati di modelli ARX: analisi probabilistica, persistente eccitazione.

Prerequisiti

Nozioni base di teoria degli insiemi, logica, nozione di limite, derivata e integrale, massimizzazione di funzioni di una o più variabili.

Tipologia delle attività formative

Lezioni (ore/anno in aula): 75
Esercitazioni (ore/anno in aula): 25
Attività pratiche (ore/anno in aula): 8

Materiale didattico consigliato

A. Papoulis. Probability, Random Variables, and Stochastic Processes. McGraw-Hill.

M. Bramanti. Calcolo delle probabilità e statistica. Esculapio.

T. Söderstrom, P. Stoica. . System identification. Prentice-Hall.

Modalità di verifica dell'apprendimento

Esame scritto. Non è consentita la consultazione di libri o appunti; durata di 2 ore; prova consistente di 4 sezioni che valutano conoscenza e comprensione degli argomenti del corso e la capacità di applicarli alla risoluzione di problemi. Ogni sezione viene valutata indipendentemente. La soglia per il superamento dell'esame è 18/30 e il voto massimo 30/30 e lode. Il voto finale è la media pesata dei voti assegnati a ciascuna sezione.