Apprendimento Automatico: 1. Reti Bayesiane: Modello generativo, Variabili discrete, Modelli lineari Gaussiani
2. Indipendenza condizionale: D-separazione
3. Markov Random Fields (Reti di Markov): Indipendenza condizionale, Fattorizzazione, Relazione con le Reti Bayesiane
4. Inferenza nei modelli grafici: Inferenza su catene, alberi e factor graphs, L’algoritmo somma-prodotto, L’algoritmo max-sum, Inferenza esatta in grafi generici, Propagazione ciclica di belief, Apprendimento della struttura del grafo
5. Modelli misti e Algoritmo EM: Algoritmo K-Means, Miscela di Gaussian, EM per miscele di Gaussiane, Una visione alternativa dell’EM, Algoritmo EM generico
6. Modelli di Markov e Modelli di Markov nascosti (HMM): Massima verosimiglianza nei Modelli di Markov, Algoritmo forward-backward, Algoritmo somma-prodotto per gli HMM, Algoritmo di Viterbi, Estensione degli HMM
7. Modelli dinamici lineari (LDS): Inferenza negli LDS, Apprendimento negli LDS, Estensione degli LDS
Estrazione della Conoscenza: 1. Linguaggi logici e inferenza: Nozioni di base sulla Logica dei Predicati, Sussunzione
2. Reti di Markov come distribuzioni di probabilità. Reti di Markov logiche.
3. Inferenza approssimata: Markov chain Monte Carlo, Rejection sampling, Gibbs sampling
4. Apprendimento di modelli relazionali probabilistici: Definizione del problema, Apprendimento della struttura, Apprendimento dei parametri.
5. Apprendimento di Reti di Markov: Operazioni per l’apprendimento di modelli grafici
6. Apprendimento di programmi logici Bayesiani: Apprendimento della struttura, Apprendimento dei parametri, Metodo dei test di indipendenza. Apprendimento di Reti di Markov Logiche.
Automatic Learning: 1. Bayesian Networks: Generative models, Discrete variables, Linear-Gaussian models
2. Conditional Independence: Three example graphs, D-separation.
3. Markov Random Fields: Conditional independence properties, Factorization properties, Relation to Bayesian Networks.
4. Inference in Graphical Models: Inference on a chain, Trees, Factor graphs, The sum-product algorithm, The max-sum algorithm, Exact inference in general graphs, Loopy belief propagation, Learning the graph structure.
5. Mixture Models and EM: K-means Clustering, Mixtures of Gaussians ,EM for Gaussian mixtures, An Alternative View of EM, he EM Algorithm in general.
6. Markov Models and Hidden Markov Models: Maximum likelihood for the HMM, The forward-backward algorithm, The sum-product algorithm for the HMM, The Viterbi algorithm, Extensions of the hidden Markov model.
7. Linear Dynamical Systems: Inference in LDS, Learning in LDS, Extensions of LDS.
Knowledge Extraction: 1. Basic notion of Predicate Logics
2. Markov networks as probability distributions. Logical Markov Networks.
3. Approximate inference: Markov Chain Monte Carlo, Rejection sampling, Gibbs sampling.
4. Learning probabilistic relational model: Problem position, Structure learning, Parameter learning.
5. Learning Markov networks: Operations for Learning with Graphical Models
6. Principles of learning Bayesian logic programs: Learning the structure and the parameters
Learning based on independence tests. Learning Logical Markov Networks.
Seguici: