|
Docente
|
RUNDO FRANCESCO
(programma)
1) Robust & Adaptive Deep Learning (RA-DL):
Introduzione e richiami teorici;Input sensitivity; Adversarial attack: Fast Gradient Sign Method (FGSM)/Projected Gradient Descent (PGD); Altri metodi di Adversarial Attack (cenni) Regolarizzazione di Lipschitz (cenni); Analisi di stabilità (Lipschitz/Lyapunov – cenni); Regolarizzazione dello Jacobiano; Richiami di Domain shift/adaptation;
2) Continual Learning (CL) – Problematiche di Stabilità–Plasticità nel “Robust & Adaptive Deep Learning”:
Definizioni e scenari. Catastrophic Forgetting; Metodi CL: regularization-based, Replay, metodi ibridi ed adattativi; Lipschitz analysis e Meta-plasticità (cenni); Bio-inspired models / Neuro-modulazione (cenni);
3) Generative AI Models:
Autoencoder (AE): Denoising Autoencoder (DAE), Contractive Auto-Encoder (CAE); spazi latenti e controlli di regolarità; Variational Autoencoder (VAE): Evidence Lower Bound (ELBO), Beta-Variational Autoencoder (β-VAE), Conditional Variational Autoencoder (cVAE); Generative Adversarial Networks (GANs); Diffusion Models;
4) LLM, Transformers, Embeddings & Retrieval
Transformer models: Richiami di teoria, Architetture Encoder/Decoder; meccanismi di Attention; Applicazioni; Large Language Models (LLMs): Introduzione e descrizione, paradigmi di learning; Embeddings semantici; Utilizzo dei motori LLMs: Prompting, Indexing, Re-Ranking, Retrieval-Augmented Generation (RAG), Chain of Thought. Cenni alle problematiche di privacy, sicurezza, robustezza;
5) “Robust & Adaptive Deep Learning” e Generative AI: Applicazioni
Knowledge Distillation (KD) per sistemi di AI sostenibili/embedded: Teacher–student model, paradigmi di KD, Hyper-complex deep learning (cenni); “Robust & Adaptive Deep Learning” in spazi geometrici non-convenzionali (cenni) “Robust & Adaptive Deep Learning“ e Generative AI nel settore industriale; “Robust & Adaptive Deep Learning” e Generative AI nel settore Legale/Finanziario;
 1. Slides fornite dal Docente
2. I. Goodfellow et al., Deep Learning
3. D. Foster, Generative Deep Learning (2a edizione)
4. R. Gupta et al,Generative AI: Techniques, Models and Applications, ISSN 2367-4512
5. Pubblicazioni scientifichesuggerite/fornite dal Docente;
|