21210514 - Statistical learning

Il corso mira ad esplorare i concetti fondamentali dell'apprendimento statistico, introducendo una vasta gamma di strumenti e tecniche, quali modelli lineari e non lineari, alberi decisionali, reti neurali e metodi di riduzione della dimensionalità. L'obiettivo principale è quello di fornire sia conoscenze teoriche che competenze pratiche nella manipolazione e nell'analisi dei dati, nonché nella valutazione e nell'interpretazione dei risultati dei modelli con particolare attenzione ai problemi di apprendimento supervisionato. Saranno affrontati problemi reali, al fine di comprendere i principi teorici alla base degli algoritmi di apprendimento ed apprenderne l'applicazione efficace utilizzando specifiche librerie del software statistico R.

Curriculum

scheda docente | materiale didattico

Programma

Introduzione allo statistical learning. Errore di training ed errore di test: implicazioni sulla flessibilità del modello nella regressione. Scomposizione dell’errore di test. Trade-off tra bias e varianza.
Richiami di modelli di regressione lineare multipla. Funzioni base per la regressione: polinomi, polinomi a tratti e splines. Truncated basis e scelta del numero di nodi.
Stima indiretta dell’errore di test: statistiche di Mallow, AIC e BIC. Stima diretta dell’errore di test: validation set, LOOCV, K-fold CV e bootstrap. Regressione ridge e regressione lasso.
Introduzione ai problemi di classificazione. Classificatore di Bayes e Naive Bayes. Metodo dei vicini più vicini, KNN, matrice di confusione e metriche derivate.
Introduzione agli alberi decisionali di regressione e di classificazione. Potatura dell’albero. Metodi ensemble: bagging, random forest e boosting.
Laboratorio R sugli argomenti trattati.


Testi Adottati

James, G., Witten, D., Hastie, T., Tibshirani, R. (2021). Introduzione all'apprendimento statistico. Con applicazioni in R. Springer.



Modalità Valutazione

Esame orale. Durante il corso si svolgeranno due prove intermedie.

scheda docente | materiale didattico

Mutuazione: 21210514 Statistical learning in Economia e Gestione della Trasformazione Digitale LM-56 R FORTUNA FRANCESCA

Programma

Introduzione allo statistical learning. Errore di training ed errore di test: implicazioni sulla flessibilità del modello nella regressione. Scomposizione dell’errore di test. Trade-off tra bias e varianza.
Richiami di modelli di regressione lineare multipla. Funzioni base per la regressione: polinomi, polinomi a tratti e splines. Truncated basis e scelta del numero di nodi.
Stima indiretta dell’errore di test: statistiche di Mallow, AIC e BIC. Stima diretta dell’errore di test: validation set, LOOCV, K-fold CV e bootstrap. Regressione ridge e regressione lasso.
Introduzione ai problemi di classificazione. Classificatore di Bayes e Naive Bayes. Metodo dei vicini più vicini, KNN, matrice di confusione e metriche derivate.
Introduzione agli alberi decisionali di regressione e di classificazione. Potatura dell’albero. Metodi ensemble: bagging, random forest e boosting.
Laboratorio R sugli argomenti trattati.


Testi Adottati

James, G., Witten, D., Hastie, T., Tibshirani, R. (2021). Introduzione all'apprendimento statistico. Con applicazioni in R. Springer.



Modalità Valutazione

Esame orale. Durante il corso si svolgeranno due prove intermedie.