Le potenzialità dell’Intelligenza Artificiale generativa nel contesto scolastico e, in particolare, universitario sono ampie ed attraenti. L’IA può arricchire l’apprendimento, migliorare l’accessibilità e la personalizzazione dei percorsi didattici, estendere le opportunità di ricerca accademica e, più in generale, favorire la promozione e diffusione della cultura.
Prima di dotarsi di questi strumenti, però, è bene che tutti gli istituti scolastici si interroghino sulle sfide e sulle azioni da intraprendere per la compliance, sulle questioni etiche relative alla qualità dei dati e sulla tutela delle informazioni personali, temi che richiedono una riflessione approfondita e un piano per l’adeguamento. Da dove partire? Vediamo insieme le 10 regole da seguire per la conformità.
Il framework normativo
Come abbiamo visto in questo articolo, l’utilizzo di sistemi di intelligenza artificiale, così come l’immissione sul mercato o la messa in servizio di tali sistemi, comporta l’applicazione del c.d. “AI ACT”, il Regolamento (UE) 2024/1689 sull’Intelligenza Artificiale.
Per meglio contestualizzare di cosa stiamo parlando, il Regolamento fornisce una definizione di “sistema di IA”, da intendersi come “un sistema automatizzato progettato per funzionare con livelli di autonomia variabili e che può presentare adattabilità dopo la diffusione e che, per obiettivi espliciti o impliciti, deduce dall’input che riceve come generare output quali previsioni, contenuti, raccomandazioni o decisioni che possono influenzare ambienti fisici o virtuali”. Negli ultimi anni abbiamo assistito al diffondersi di molteplici strumenti di questo tipo, da “ChatGPT” a “Gemini”, sino ad arrivare al più recente “DeepSeek”, modello di IA open source cinese (già bloccato, lo scorso 30 gennaio, dal Garante privacy). In ambito accademico, le indagini condotte da alcune università italiane (fra cui l’Università Statale di Milano) hanno evidenziato un utilizzo importante di “Microsoft Copilot” per l’attività didattica e di “DeepL” per le attività di ricerca.
Applicazioni e opportunità dell’IA
In generale, possiamo dire che tutte le moderne soluzioni di IA sono potenzialmente in grado di apportare benefici significativi nell’intero spettro delle attività industriali e sociali. L’uso dell’IA, si legge fra i “considerando” all’AI ACT, garantendo un miglioramento delle previsioni, l’ottimizzazione delle operazioni e dell’assegnazione delle risorse e la personalizzazione delle soluzioni digitali disponibili, può condurre a risultati vantaggiosi anche sul piano dell’istruzione e della formazione.
Le applicazioni dell’AI in questo settore, infatti, sono molteplici, così come i benefici che ne possono derivare.
| Esempio obiettivo uso IA | Esempio valore aggiunto / beneficio derivante dall’IA
|
| Favorire l’accessibilità dei contenuti di studio |
|
| Valorizzare competenze, iniziative e progettualità |
|
| Sostenere l’innovazione digitale e la ricerca |
|
| Potenziare le attività di tutoraggio e assistenza virtuale |
|
| Facilitare l’accesso alle risorse e allo studio autonomo |
|
| Personalizzare l’apprendimento |
|
| Supportare le attività di autovalutazione |
|
Le sfide dell’IA: prima la privacy
L’IA rappresenta chiaramente un mezzo formidabile in grado di favorire una didattica personalizzata, adattata alle esigenze di ciascun studente e, per questo, promotrice di uguaglianza e inclusione. Al contempo, a seconda delle circostanze relative alla sua applicazione, al suo utilizzo e al suo livello di sviluppo tecnologico, può comportare rischi e pregiudicare i diritti fondamentali tutelati dal diritto dell’Unione. Tale pregiudizio può essere sia materiale sia immateriale, fisico, psicologico, sociale o economico.
«Le cose da tenere ben presenti quando si parla di intelligenza artificiale nelle scuole sono la trasparenza e la garanzia dell’effettiva autodeterminazione di studenti e genitori, anche se la corsa al digitale è ormai avviata non significa che dobbiamo accettare qualsiasi cosa senza senso critico» ha dichiarato Guido Scorza, docente di diritto delle nuove tecnologie e privacy e membro dell’Autorità Garante per la protezione dei dati personali. Un primo rischio derivante dall’uso di sistemi di IA, infatti, riguarda proprio l’opacità degli algoritmi che ne caratterizzano il funzionamento e, più in generale, la carenza di informazioni e dettagli sui trattamenti svolti dai gestori di tali piattaforme.
I rischi in ambito scolastico e universitario
In aggiunta, nel settore della didattica possono manifestarsi rischi ulteriori e specifici. A titolo esemplificativo:
- il rischio di una dipendenza eccessiva dall’IA potrebbe ridurre l’interazione tra studenti e docenti, impoverendo il valore della relazione educativa;
- il rischio di plagio e frodi accademiche aumenta, rendendo più difficile valutare l’effettiva preparazione degli studenti;
- se gli studenti si affidano troppo all’IA per trovare risposte immediate, potrebbero perdere la capacità di ragionare in modo critico e autonomo;
- gli algoritmi di IA si basano su dati storici che possono contenere pregiudizi impliciti, portando a decisioni discriminatorie;
- se le domande sono troppo specifiche le risposte possono essere imprevedibili;
- i risultati generati possono includere errori e contenuti solo apparentemente veritieri;
- i riferimenti documentali suggeriti possono non essere corretti;
- etc.
Sorge quindi l’esigenza di regolamentare gli utilizzi dell’IA in ambito scolastico e accademico, al fine di promuoverne un utilizzo etico, sicuro, consapevole e conforme alle norme applicabili. L’IA, infatti, “dovrebbe essere una tecnologia antropocentrica” e “fungere da strumento per le persone” (considerando 6 all’AI ACT). Come sfruttare i benefici dell’AI minimizzando i rischi che ne derivano?
Obiettivo: governare l’IA
Al fine di supportare istituzioni scolastiche ed Atenei nell’uso degli strumenti di IA, abbiamo individuato 10 regole fondamentali da seguire.
- In primo luogo, è essenziale effettuare una ricognizione dei sistemi di IA già in uso o che si intende utilizzare. La mappatura dovrebbe includere dettagli sullo strumento (ad esempio, il tipo di licenza) e l’ambito di utilizzo (ad esempio ricerca, didattica, terza missione, etc.);
- In base all’ambito di utilizzo, verificare i dati che saranno dati in pasto all’AI e prevedere regole al fine di tutelare le informazioni più riservate o sensibili. Minimizzare la raccolta e l’uso dei dati come misura preventiva;
- Assicurarsi che il trattamento dei dati rispetti le normative vigenti. Verificare la conformità della piattaforma utilizzata mediante analisi delle condizioni legali, delle informazioni relative al trattamento dei dati, delle garanzie poste alla base dei trasferimenti effettuati, dei tempi di conservazione dei dati salvati sui server, etc.;
- Implementare adeguate misure tecniche ed organizzative volte a garantire la sicurezza dei trattamenti svolti con ausilio dell’IA, nonché la tutela dei diritti e delle libertà degli interessati coinvolti;
- Valutare attentamente gli strumenti di IA utilizzati e i relativi rischi. Condurre la DPIA (Data Protection Impact Assessment) e, ove previsto, la FRIA (Fundamental Rights Impact Assessment);
- Definire in modo chiaro e trasparente gli scopi per cui viene utilizzata l’IA a fini didattici ed informare tutti gli utenti (PTA, docenti, studenti, etc.);
- Garantire sempre una supervisione umana nell’utilizzo dell’IA e adottare un approccio antropocentrico, con l’essere umano al centro del processo decisionale;
- Adottare linee guida, vademecum, policy, procedure che formalizzino regole e migliori prassi per l’uso dell’Intelligenza Artificiale in didattica e ricerca, che integrino i principi etici e di data protection;
- Diffondere una conoscenza reale e approfondita degli strumenti di IA e dei processi a tutto il personale e agli studenti. Come previsto dall’AI ACT “l’alfabetizzazione in materia di IA dovrebbe fornire a tutti i pertinenti attori della catena del valore dell’IA le conoscenze necessarie per garantire l’adeguata conformità e la sua corretta esecuzione”. Nel contesto scolastico e accademico, “spiegare ai ragazzi come funzionano gli algoritmi non significa farne degli scienziati ma renderli consapevoli di come vengono utilizzati i loro dati in quanto utenti” (tratto dall’intervista a Guido Scorza su Il Corriere della Sera, 07/11/2023);
- Promuovere un approccio basato sul principio di accountability, garantendo un uso responsabile e conforme alla normativa. Rafforzare la consapevolezza degli strumenti utilizzati attraverso percorsi formativi mirati.
AI Desk Italy affianca organizzazioni, enti ed imprese, con consulenza specialistica e, su richiesta, assume il ruolo di AI Officer esterno. Questa figura supervisiona l’implementazione dell’intelligenza artificiale, assicurandone un utilizzo etico e sicuro all’interno dell’organizzazione. L’AI Officer si occupa di garantire la conformità alle normative, gestire i rischi, definire strategie e monitorare costantemente le prestazioni dei sistemi di IA. Clicca qui per ulteriori informazioni.
