Apprendimento
Automatico
Anno
Accademico 2000/2001
Primo
Semestre
Prof. Alessandro
Sperduti
Dipartimento di
Informatica, Corso Italia 40, Pisa
In questo corso si
presentano alcuni dei concetti fondamentali che caratterizzano l'Apprendimento
Automatico, cioè quella classe di tecniche ed algoritmi in grado
di migliorare automaticamente le loro prestazioni sulla base dell'esperienza.
A causa della durata semestrale del corso, non tutti gli aspetti e tecniche
esistenti sono presentate. In particolare, il corso non tratta le Reti
Neurali, che sono già ampiamente coperte dai corsi di Reti Neurali
I e Reti Neurali II. Gli argomenti coperti dal corso possono essere
caratterizzati, a parte il caso degli Alberi di Decisione, come appartenenti
alla classe dei metodi sub-simbolici, cioè che non utilizzano
regole simboliche per rappresentare la conoscenza appresa. Gli Alberi di
Decisione sono stati inclusi a causa della loro diffusa utilizzazione in
applicazioni pratiche. Il corso tratta anche concetti teorici necessari
per una migliore comprensione della materia.
I principali
algoritmi e tecniche esposte saranno chiariti, per quanto possibile, attraverso
esempi e esercizi risolti durante le lezioni.
Lezioni:
Giorno
|
Ora
|
Aula
|
Lunedì |
9-11 |
L1 |
Giovedì |
14-16 |
E () |
Libro di
testo:
Machine
Learning,
Tom Mitchell, McGraw Hill, 1997. (disponibile in Biblioteca)
Programma del Corso:
-
Lez 01: Introduzione
ai Concetti Fondamentali (Cap. 1) (28/9, 14-16)
-
Lez 02: Apprendimento
di Concetti, Spazio delle Ipotesi (Cap. 2)(2/10, 9-11)
-
Lez 03: Spazio
delle Ipotesi e Algoritmo Find-S; Esempio di Esecuzione di Find-S;
Version Space (Cap. 2)(5/10, 14-16)
-
Lez 04: Algoritmo
Candidate-Elimination; Esempi ed Esercizi (Cap. 2)(9/10, 9-11)
-
Lez 05: Proprietà
algoritmo Candidate-Elimination, Risoluzione Esercizi su Version Space;
(Cap. 2)(12/10, 14-16)
-
Lez 06: Esercizi
su Version Space; (Cap. 2), Introduzione al PAC Learning (Cap. 7) (16/10,
9-11) esercizio svolto
-
Lez 07: PAC Learning,
Bound sul numero di esempi, Esempi ed Esercizi; (Cap. 7) (19/10, 14-16)
-
Lez 08: VC-dimension;
Esempi ed Esercizi; Bound che utilizza VC-dimension (Cap. 7) (23/10, 9-11)
-
Lez 09: esercizi
su VC-dimension; Mistake Bound, Algoritmo Halving (Cap. 7)(27/10, 14-16)
-
Lez 10: Weighted
Majority, Teorema per Weighted Majority (Cap. 7) Alberi di Decisione, Entropia
(Cap. 3) (30/10, 9-11) esempio compitino
prima parte
soluzione
esercizio 3
-
Lez 11: Algoritmo
di Costruzione di un Albero di Decisione; Bias Induttivo per ID3; esempio
(2/11, 14-16) (Cap. 3) raccolta
esercizi
altro
esempio di compitino prima parte SOLUZIONI
ESERCIZI: parte-1parte-2
-
Lez 12: Gain
Ratio, Attributi Continui e Mancanti; soluzione di esercizi (Cap. 3) (9/11,
14-16)
-
Lez 13: Overfitting,
Reduced-error Pruning, Rule Post-Pruning, Costi; soluzione di esercizi
(Cap. 3) (13/11, 9-11)
-
compitino (16/11, 14-16)
soluzione
compitino
-
Lez 14: Boosting:
Filtering e Adaboost (20/11, 9-11)
-
correzione compitino
(23/11, 14-16)
-
Lez 15: Uso delle
probabilità: Bayes, ipotesi MAP e ML (Cap. 6) (27/11, 9-11)
-
Lez 16: Classificatore
Ottimo di Bayes; Algoritmo di Gibbs; Naive Bayes, esempio di Naive Bayes
(Cap. 6) (30/11, 14-16)
-
Lez 17: m-stima,
Reti Bayesiane; (Cap. 6) (4/12, 9-11)
Esercizio
risolto
-
Lez 18: Apprendimento
con Ascesa di Gradiente ed Algoritmo EM, Apprendimento con Rinforzo (Cap.6/Cap.13)
(7/12, 14-16)
-
Lez 19: Q-learning,
esercizi di preparazione al compitino (Cap. 13) (11/12, 9-11)
-
Lez 20: compitino
-
esercizi risolti Iesercizi
risolti IIesempi di esercizi (senza soluzioni)
LE SOLUZIONI, IN ARRIVO...MARTEDI soluzioni
RISULTATI SECONDO COMPITINO
pagina
corso 99/00