Ateneo - UPO

L’insegnamento fornisce metodologie trasversali per utilizzare in modo critico, verificabile e responsabile i foundation models e gli strumenti di intelligenza artificiale generativa in contesti scientifici, tecnologici, ingegneristici e matematici. Il corso affronta la formulazione dei problemi, la costruzione e il raffinamento delle richieste, la decomposizione dei compiti, la lettura e la sintesi di testi tecnico-scientifici, l’uso dell’AI con dati, tabelle, grafici, formule e codice, nonché la verifica indipendente degli output e la documentazione del processo.

La componente etica approfondisce principi, diritti, responsabilità, bias, fairness, privacy, copyright, veridicità, sicurezza, impatti sociali e ambientali, governance e gestione del rischio. Sono esaminati strumenti operativi quali datasheet, model card, schede di rischio, audit, controllo umano e due diligence, con particolare attenzione all’AI Act, ai sistemi di intelligenza artificiale per finalità generali e agli usi dell’AI generativa nello studio, nella ricerca e nei contesti professionali.

Testi principali e di inquadramento:
- N. Dhamani, M. Engler, Introduction to Generative AI, 2nd edition, Manning, 2025/2026.
- S. Raaijmakers, Large Language Models, MIT Press Essential Knowledge, 2025.
- P.-Y. Chen, S. Liu, Introduction to Foundation Models, Springer, 2025.
- F. Fossa, V. Schiaffonati, G. Tamburrini, Automi e persone. Introduzione all’etica dell’intelligenza artificiale e della robotica, Carocci, 2021.
- L. Floridi, Etica dell’intelligenza artificiale. Sviluppi, opportunità, sfide, Raffaello Cortina, 2023.

Riferimenti avanzati e materiali istituzionali:
- C. Huyen, AI Engineering: Building Applications with Foundation Models, O’Reilly, 2025.
- Q. Miao, F.-Y. Wang, Artificial Intelligence for Science, Springer, 2024.
- OECD AI Principles, aggiornamento 2024.
- Council of Europe, Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law, 2024.
- UNESCO, AI Competency Framework for Students, 2024.
- NIST, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, 2024.
- European Commission, materiali ufficiali sull’AI Act e General-Purpose AI Code of Practice, 2024-2026.
- OECD, Due Diligence Guidance for Responsible AI, 2026.
- Berkeley CLTC, AI Risk-Management Standards Profile for GPAI/Foundation Models, v. 1.1, 2025.

Sono inoltre utilizzati articoli e survey su foundation models, LLM, sicurezza, bias, fairness, documentazione dei dataset e dei modelli, uso educativo dell’AI generativa e governance. I materiali specifici, gli estratti e le letture obbligatorie o facoltative sono messi a disposizione sulla piattaforma didattica.

L’insegnamento concorre agli obiettivi formativi del Corso di Studio fornendo strumenti metodologici per usare l’intelligenza artificiale generativa in modo consapevole, controllabile e responsabile, senza considerarla una fonte automatica di verità.

Al termine dell’insegnamento, la studentessa o lo studente dovrà essere in grado di:
1. distinguere foundation models, sistemi generativi, motori di ricerca, banche dati, calcolatori, simulatori e strumenti disciplinari, individuandone capacità, limiti e ambiti d’uso;
2. formulare problemi e richieste in modo chiaro, esplicitando obiettivi, vincoli, dati disponibili, assunzioni, formato dell’output e criteri di verifica;
3. utilizzare i modelli per decomporre problemi, analizzare testi tecnico-scientifici e lavorare con dati, tabelle, grafici, formule, codice e altre rappresentazioni, mantenendo il controllo sul processo;
4. verificare gli output mediante fonti, dati originali, calcoli, test, strumenti esterni e confronto con riferimenti affidabili;
5. riconoscere rischi etici, sociali, giuridici e di sicurezza relativi a bias, discriminazione, privacy, copyright, allucinazioni, misuse, sostenibilità e controllo umano;
6. applicare principi e strumenti di governance, documentazione, audit e gestione del rischio a casi d’uso realistici;
7. motivare le proprie scelte, comunicare limiti e incertezze e documentare in modo trasparente il contributo dell’AI al lavoro svolto.

L’insegnamento attribuisce complessivamente 3 CFU, corrispondenti a 24 ore di attività didattica e al relativo impegno di studio individuale previsto dalla normativa.

Non sono richieste conoscenze specialistiche di progettazione o programmazione di sistemi di intelligenza artificiale. È tuttavia utile possedere:
- competenze digitali di base;
- capacità di leggere testi tecnico-scientifici e interpretare semplici tabelle, grafici, formule o frammenti di codice;
- conoscenze disciplinari di base coerenti con il proprio percorso di studio;
- capacità di distinguere tra dato, ipotesi, inferenza e conclusione.

Eventuali propedeuticità formali sono quelle previste dal Regolamento didattico del Corso di Studio.

L’insegnamento combina lezioni, analisi guidate, esercitazioni e attività laboratoriali. Le lezioni introducono concetti, modelli, criteri metodologici, principi etici e strumenti di governance. Le attività interattive comprendono:
- confronto tra richieste deboli ed efficaci;
- analisi di risposte corrette, incomplete, plausibili ma false o prive di fonti;
- decomposizione di problemi STEM e individuazione di dati mancanti, assunzioni e casi limite;
- lettura, sintesi e confronto di testi tecnico-scientifici;
- interpretazione di dati, tabelle, grafici, formule e codice;
- verifica di output mediante fonti, calcoli, strumenti esterni e test indipendenti;
- analisi di casi relativi a bias, fairness, privacy, copyright, sicurezza e uso responsabile;
- compilazione di datasheet, model card e schede di rischio etico-tecnico;
- laboratorio finale sul ciclo completo di utilizzo critico di un sistema di AI generativa.

Le attività richiedono la partecipazione attiva delle studentesse e degli studenti, la motivazione delle scelte e la discussione critica di soluzioni alternative. I materiali resi disponibili sulla piattaforma consentono anche a chi non frequenta di seguire l’intero percorso formativo.

I materiali didattici, gli estratti delle letture, le schede di lavoro, gli esempi e le indicazioni organizzative sono resi disponibili attraverso la piattaforma istituzionale. Quando vengono utilizzati strumenti di AI generativa nelle attività didattiche, il loro impiego deve essere dichiarato e documentato secondo le indicazioni fornite, distinguendo il contributo personale da quello prodotto o suggerito dal sistema.

Le studentesse e gli studenti con disabilità, Disturbi Specifici dell’Apprendimento (DSA) o Bisogni Educativi Speciali (BES) possono richiedere servizi e strumenti specifici rivolgendosi allo Staff Sviluppo e Coordinamento Carriere e Servizi alle Studentesse e agli Studenti e consultando la pagina dedicata del sito di Ateneo. Dopo avere preso contatto con lo Staff, possono rivolgersi alla docente o al docente titolare per concordare la concreta applicazione delle misure previste con riferimento agli aspetti didattici e alle modalità di esame.

L’esame consiste in una prova individuale integrata, volta a verificare sia la conoscenza dei principi e degli strumenti trattati sia la capacità di applicarli a casi realistici. La prova comprende quesiti teorico-metodologici e l’analisi guidata di uno o più scenari relativi all’uso di foundation models o sistemi di AI generativa in ambito STEM.

Alla studentessa o allo studente può essere richiesto di:
- formulare o migliorare una richiesta;
- individuare dati mancanti, assunzioni, vincoli e casi limite;
- valutare un output generato, riconoscendone errori, affermazioni non supportate e necessità di verifica;
- indicare fonti, calcoli, test o strumenti esterni adeguati al controllo dell’output;
- identificare rischi relativi a bias, privacy, copyright, sicurezza, trasparenza o controllo umano;
- proporre misure di mitigazione e documentazione;
- motivare le scelte compiute con terminologia appropriata.

La valutazione è espressa in trentesimi e considera:
1. correttezza e completezza delle conoscenze;
2. capacità di applicare il metodo a problemi e casi d’uso;
3. qualità delle verifiche proposte o effettuate;
4. capacità di riconoscere rischi, limiti e implicazioni etiche;
5. autonomia di giudizio e motivazione delle scelte;
6. chiarezza, organizzazione e proprietà del linguaggio tecnico.

La prova è superata con almeno 18/30.
- 18-20/30: conoscenze essenziali e applicazione di procedure semplici, con errori non gravi;
- 21-23/30: conoscenze abbastanza complete e applicazione generalmente corretta;
- 24-26/30: conoscenze solide, verifiche appropriate e motivazioni chiare;
- 27-29/30: conoscenze approfondite e integrate, autonomia di analisi e valutazione critica;
- 30/30 e 30 e lode: padronanza completa e critica, capacità di affrontare casi complessi o non ripetitivi e argomentazione particolarmente rigorosa, trasparente e ben documentata.

Una preparazione frammentaria, l’incapacità di distinguere output plausibili da informazioni verificate, l’assenza di adeguate procedure di controllo o la mancata individuazione di rischi rilevanti comportano una valutazione insufficiente.

Per la preparazione sono indicati lo studio dei testi e dei documenti istituzionali, la revisione degli esempi discussi, lo svolgimento delle esercitazioni e l’uso delle schede metodologiche e di rischio rese disponibili sulla piattaforma didattica.

1. Foundation models e AI generativa
- Concetto di foundation model.
- Differenze tra modello generativo, motore di ricerca, banca dati, calcolatore, simulatore e strumento disciplinare.
- Capacità, limiti, natura probabilistica e distinzione tra plausibilità e conoscenza verificata.
- Criteri per decidere quando usare o non usare un modello.

2. Formulazione dei problemi e interrogazione del modello
- Struttura di una richiesta: contesto, obiettivo, vincoli, dati, livello di dettaglio e formato dell’output.
- Esplicitazione delle assunzioni e dei criteri di verifica.
- Raffinamento iterativo, versionamento e confronto tra strategie di prompting.
- Cautele nella gestione di dati riservati o personali.

3. Decomposizione e ragionamento assistito
- Scomposizione in sottoproblemi.
- Variabili, parametri, dati noti, incognite e vincoli.
- Assunzioni implicite, dati mancanti, casi limite e controesempi.
- Confronto tra strategie alternative e individuazione dei punti fragili.

4. Lettura e sintesi tecnico-scientifica
- Riassunto controllato ed estrazione di problema, metodo, dati, risultati e limiti.
- Costruzione di glossari e confronto tra testi.
- Distinzione tra contenuto della fonte, sintesi del modello e inferenza aggiuntiva.
- Riconoscimento di conclusioni non supportate e citazioni inventate.

5. Dati, rappresentazioni e strumenti disciplinari
- Tabelle, grafici, formule, schemi, diagrammi e serie temporali.
- Passaggio tra linguaggio naturale, formalismo, pseudocodice e rappresentazioni visuali.
- Calcolo simbolico e numerico, fogli di calcolo e linguaggi di programmazione.
- Generazione, test e debug di codice; controllo di unità, tipi, intervalli e casi limite.
- Riproducibilità e documentazione del procedimento.

6. Verifica, affidabilità e gestione dell’errore
- Errori fattuali, logici, numerici, metodologici e bibliografici.
- Allucinazioni, overconfidence e informazione priva di supporto.
- Verifica mediante fonti, dati originali, calcoli, simulazioni, test e strumenti esterni.
- Valutazione dell’incertezza, tracciamento delle modifiche e revisione umana.

7. Fondamenti di etica dell’AI
- Principi di AI affidabile e responsabile.
- Diritti, dignità, autonomia, trasparenza, accountability e controllo umano.
- Responsabilità lungo il ciclo di vita del sistema.
- Competenze critiche per studentesse, studenti e professionisti.

8. Bias, fairness e discriminazione algoritmica
- Origine dei bias nei dati, nelle etichette, nei target, nelle metriche e nelle soglie.
- Proxy sensibili e discriminazione indiretta.
- Metriche disaggregate, gruppi svantaggiati e limiti delle diverse nozioni di fairness.
- Datasheet per documentare origine, composizione, usi previsti e limiti dei dataset.

9. Etica e sicurezza dell’AI generativa
- Veridicità, privacy, copyright, bias, misuse e integrità dell’informazione.
- Robustezza, attacchi avversari, agenti e rischi di automazione.
- Impatti sullo studio, sulla ricerca, sulla valutazione e sul benessere delle persone.
- Criteri per l’uso di fonti, RAG, logging, human review o divieto d’uso.

10. Governance, AI Act e gestione del rischio
- Approccio basato sul rischio dell’AI Act.
- Ruoli, responsabilità e obblighi di fornitori e utilizzatori.
- Sistemi di AI per finalità generali e General-Purpose AI Code of Practice.
- NIST AI RMF: Govern, Map, Measure, Manage.
- Risk assessment, audit, documentazione, human oversight e due diligence.
- Model card, datasheet e schede di rischio etico-tecnico.

11. Laboratorio metodologico integrato
- Definizione e contestualizzazione di un problema.
- Interrogazione, decomposizione e generazione dell’output.
- Verifica indipendente, correzione e confronto con fonti o strumenti affidabili.
- Analisi dei rischi e delle misure di mitigazione.
- Documentazione finale di utilità, limiti, incertezze e contributo dell’AI.

Integrazione della dimensione di genere
L’insegnamento richiama l’attenzione sulle modalità con cui dati, metriche, proxy e sistemi automatizzati possono produrre o amplificare disparità di genere e altre forme di discriminazione. Le attività sui bias e sulla fairness prevedono l’analisi disaggregata degli impatti e la valutazione di misure di prevenzione e mitigazione. È inoltre promosso un linguaggio tecnico inclusivo e non discriminatorio.

Conoscenza e capacità di comprensione
Al termine dell’insegnamento, la studentessa o lo studente dovrà conoscere e comprendere:
- caratteristiche, capacità e limiti dei foundation models e dei sistemi di AI generativa;
- principi di formulazione delle richieste, decomposizione dei problemi e verifica degli output;
- modalità d’uso dei modelli con testi, dati, rappresentazioni scientifiche, calcolo e codice;
- principali errori, rischi e limiti relativi ad affidabilità, bias, privacy, copyright, sicurezza e sostenibilità;
- principi, strumenti e quadri di riferimento per etica, governance, documentazione, audit e gestione del rischio.

Capacità di applicare conoscenza e comprensione
La studentessa o lo studente dovrà essere in grado di:
- costruire e raffinare richieste chiare e verificabili;
- decomporre problemi e rendere espliciti dati, variabili, assunzioni, vincoli e casi limite;
- usare criticamente i modelli per analizzare testi, dati, grafici, formule e codice;
- verificare gli output mediante fonti, calcoli, test e strumenti indipendenti;
- individuare rischi etici e tecnici e proporre misure di mitigazione;
- documentare dataset, modelli, decisioni e processi mediante strumenti appropriati.

Autonomia di giudizio
La studentessa o lo studente dovrà saper decidere se e come impiegare un sistema di AI, valutare l’affidabilità dei suoi output, distinguere contenuto supportato e inferenze non giustificate, confrontare alternative, riconoscere conflitti tra prestazioni e valori e motivare le proprie scelte.

Abilità comunicative
La studentessa o lo studente dovrà saper descrivere in modo chiaro e tecnicamente corretto il problema, il metodo seguito, il ruolo dell’AI, le verifiche effettuate, i limiti, le incertezze, i rischi e le misure di mitigazione.

Capacità di apprendimento
La studentessa o lo studente dovrà essere in grado di aggiornarsi autonomamente su modelli, strumenti, normative e pratiche emergenti, utilizzando documentazione tecnica, letteratura scientifica e fonti istituzionali affidabili.

Livello minimo per il superamento
Per raggiungere il livello minimo di sufficienza, la studentessa o lo studente deve dimostrare di conoscere i concetti fondamentali, formulare richieste comprensibili, riconoscere gli errori e i rischi più evidenti, applicare semplici procedure di verifica e descrivere in modo essenziale le scelte compiute.

Livello avanzato
Un livello avanzato richiede la capacità di integrare aspetti metodologici, tecnici ed etici; affrontare casi non ripetitivi; scegliere verifiche adeguate al tipo di output; confrontare criticamente alternative; proporre misure di governance e mitigazione; documentare il processo in modo rigoroso, trasparente e riproducibile.