Apprendimento
Automatico
Anno
Accademico 1999/2000
Primo
Semestre
Prof. Alessandro Sperduti
Dipartimento di
Informatica, Corso Italia 40, Pisa
In questo corso si
presentano alcuni dei concetti fondamentali che caratterizzano l'Apprendimento
Automatico, cioè quella classe di tecniche ed algoritmi in grado
di migliorare automaticamente le loro prestazioni sulla base dell'esperienza.
A causa della durata semestrale del corso, non tutti gli aspetti e tecniche
esistenti sono presentate. In particolare, il corso non tratta le Reti
Neurali, che sono già ampiamente coperte dai corsi di Reti Neurali
I e Reti Neurali II. Gli argomenti coperti dal corso possono essere
caratterizzati, a parte il caso degli Alberi di Decisione, come appartenenti
alla classe dei metodi sub-simbolici, cioè che non utilizzano
regole simboliche per rappresentare la conoscenza appresa. Gli Alberi di
Decisione sono stati inclusi a causa della loro diffusa utilizzazione in
applicazioni pratiche. Il corso tratta anche concetti teorici necessari
per una migliore comprensione della materia.
I principali
algoritmi e tecniche esposte saranno chiariti, per quanto possibile, attraverso
esempi e esercizi risolti durante le lezioni.
Lezioni:
Giorno
|
Ora
|
Aula
|
Lunedì |
16-18 |
A1 |
Venerdì |
11-13 |
B1 |
Libro di
testo:
Machine
Learning,
Tom Mitchell, McGraw Hill, 1997. (disponibile in Biblioteca)
Programma del Corso:
-
Lez 01: Introduzione
ai Concetti Fondamentali (27/9, 16-18) (Cap. 1)
-
Lez 02: Apprendimento
di Concetti, Spazio delle Ipotesi (1/10, 11-13) (Cap. 2)
-
Lez 03: Spazio
delle Ipotesi e Algoritmo Find-S; Esempio di Esecuzione di Find-S
(4/10, 16-18) (Cap. 2)
-
Lez 04: Version
Space e Algoritmo Candidate-Elimination; Esempi ed Esercizi (11/10, 16-18)
(Cap. 2)
-
Lez 05: Risoluzione
Esercizi su Version Space; Apprendimento PAC (15/10, 11-13)(Cap. 2 e Cap.
7)
-
Lez 06: Apprendimento
PAC e VC-dimension; Esempi ed Esercizi (18/10, 16-18)(Cap. 7) esercizio svolto
-
Lez 07: VC-dimension, Esempi ed Esercizi; Bound al Numero di Errori (22/10, 11-13)(Cap. 7)
-
Lez 08: Soluzione esercizio su VC-dimension; Algoritmi Halving e Weighted Majority, Teorema per
Weighted Majority (25/10, 16-18)(Cap. 7)
-
Lez 09: Alberi di Decisione, Schema di ID3, Information Gain (29/10, 11-13)(Cap. 3) esempio compitino prima parte
soluzione esercizio 3
-
Lez 10: Esempio di Costruzione di un Albero di Decisione; Bias Induttivo per ID3; Criteri di Stop e Pruning (5/11, 11-13)(Cap. 3)
altro esempio di compitino prima parte
-
Lez 11: Rule Post-Pruning, Gain Ratio, Attributi Continui e Mancanti, Costi; soluzione di esercizi (12/11, 11-13)(Cap. 3)
-
Lez 12: compitino (15/11, 16-18:30)
Testo del compitino prima parte
-
Lez 13: Boosting (19/11, 11-13)
-
Lez 14: Correzione Compitino (22/11, 16-18)
-
Lez 15: Esercizio sul Boosting; Uso delle probabilità: Bayes, ipotesi MAP e ML (26/11, 11-13)
-
Lez 16: Esempio di
ragionamento probabilistico, classificatore ottimo di Bayes (29/11, 16-18)
-
Lez 17: Esercizio su
Bayes; Algoritmo di Gibbs; Naive Bayes, esempio di Naive Bayes (2/12, 11-13)
-
Lez 18: Reti Bayesiane; Apprendimento con Ascesa di Gradiente ed Algoritmo EM (3/12, 11-13)
Esercizio risolto
-
Lez 19: Algoritmi Genetici (6/12, 14-18)
-
Lez 20: Apprendimento con Rinforzo (10/12, 9-11)
-
Lez 21: Esercizi su Apprendimento con Rinforzo (10/12, 11-13)
-
esercizi risolti I
esercizi risolti II
-
spedite una e-mail per sapere il risultato del SECONDO COMPITINO
pagina
corso 99/98