L’Intelligenza Artificiale nel settore scolastico e universitario: 10 regole per sfruttare le opportunità dell’IA rispettando le norme

mani di bambino che utilizza uno smartphone con un bot AI e fa i compiti
Ritratto Federico Corti, Labor Project.

Federico Corti

Data Protection Consultant

Tabella dei contenuti

Le potenzialità dell’Intelligenza Artificiale generativa nel contesto scolastico e, in particolare, universitario sono ampie ed attraenti. L’IA può arricchire l’apprendimento, migliorare l’accessibilità e la personalizzazione dei percorsi didattici, estendere le opportunità di ricerca accademica e, più in generale, favorire la promozione e diffusione della cultura.

Prima di dotarsi di questi strumenti, però, è bene che tutti gli istituti scolastici si interroghino sulle sfide e sulle azioni da intraprendere per la compliance, sulle questioni etiche relative alla qualità dei dati e sulla tutela delle informazioni personali, temi che richiedono una riflessione approfondita e un piano per l’adeguamento. Da dove partire? Vediamo insieme le 10 regole da seguire per la conformità.

Il framework normativo

Come abbiamo visto in questo articolo, l’utilizzo di sistemi di intelligenza artificiale, così come l’immissione sul mercato o la messa in servizio di tali sistemi, comporta l’applicazione del c.d. “AI ACT”, il Regolamento (UE) 2024/1689 sull’Intelligenza Artificiale.

Per meglio contestualizzare di cosa stiamo parlando, il Regolamento fornisce una definizione di “sistema di IA”, da intendersi come “un sistema automatizzato progettato per funzionare con livelli di autonomia variabili e che può presentare adattabilità dopo la diffusione e che, per obiettivi espliciti o impliciti, deduce dall’input che riceve come generare output quali previsioni, contenuti, raccomandazioni o decisioni che possono influenzare ambienti fisici o virtuali”. Negli ultimi anni abbiamo assistito al diffondersi di molteplici strumenti di questo tipo, da “ChatGPT” a “Gemini”, sino ad arrivare al più recente “DeepSeek”, modello di IA open source cinese (già bloccato, lo scorso 30 gennaio, dal Garante privacy). In ambito accademico, le indagini condotte da alcune università italiane (fra cui l’Università Statale di Milano) hanno evidenziato un utilizzo importante di “Microsoft Copilot” per l’attività didattica e di “DeepL” per le attività di ricerca.

Applicazioni e opportunità dell’IA

In generale, possiamo dire che tutte le moderne soluzioni di IA sono potenzialmente in grado di apportare benefici significativi nell’intero spettro delle attività industriali e sociali. L’uso dell’IA, si legge fra i “considerando” all’AI ACT, garantendo un miglioramento delle previsioni, l’ottimizzazione delle operazioni e dell’assegnazione delle risorse e la personalizzazione delle soluzioni digitali disponibili, può condurre a risultati vantaggiosi anche sul piano dell’istruzione e della formazione.

Le applicazioni dell’AI in questo settore, infatti, sono molteplici, così come i benefici che ne possono derivare.

Esempio obiettivo uso IA Esempio valore aggiunto / beneficio derivante dall’IA

 

Favorire l’accessibilità dei contenuti di studio
  •  Funzioni di traduzione automatica e sottotitoli in tempo reale consentono l’accesso ai contenuti didattici a studenti di diverse lingue e con esigenze specifiche.
  •  L’IA fornisce soluzioni come sintesi vocale, riconoscimento vocale e lettura facilitata per garantire un’educazione accessibile anche a studenti con disabilità.
Valorizzare competenze, iniziative e progettualità
  • L’IA ottimizza la pianificazione, il monitoraggio e l’organizzazione delle attività, migliorando l’efficienza nei progetti accademici.
  • Piattaforme basate su IA favoriscono l’incontro tra studenti, ricercatori e docenti di diverse discipline per sviluppare progetti innovativi.
  • Modelli di IA possono prevedere i trend accademici e tecnologici, aiutando università e ricercatori a sviluppare progetti in linea con le future esigenze del mercato del lavoro e della società.
Sostenere l’innovazione digitale e la ricerca
  • L’IA promuove e potenzia il sapere attraverso strumenti innovativi e strategie educative avanzate.
  • L’IA accelera l’analisi di grandi quantità di dati, facilita la scoperta di nuove connessioni tra argomenti e suggerisce fonti rilevanti per le ricerche.
  • Strumenti di IA generativa possono stimolare la creatività, suggerendo nuove prospettive e approcci su temi di studio e ricerca.
Potenziare le attività di tutoraggio e assistenza virtuale
  • I tutor virtuali basati sull’intelligenza artificiale forniscono risposte immediate alle domande degli studenti, garantendo un supporto costante per ottimizzare i processi di apprendimento e comprensione.
Facilitare l’accesso alle risorse e allo studio autonomo
  • Le piattaforme intelligenti assicurano un accesso semplice e inclusivo alle risorse educative, incentivando l’autonomia dello studente e tutelando il diritto allo studio.
Personalizzare l’apprendimento
  •  L’assistenza virtuale consente di adattare il percorso didattico alle esigenze individuali degli studenti, nel rispetto della loro autodeterminazione e libertà di apprendimento.
  • L’analisi dei dati permette di identificare bisogni e preferenze, migliorando l’efficacia dell’insegnamento.
  • Le piattaforme educative personalizzano i contenuti in base ai progressi e alle preferenze degli studenti, rendendo l’apprendimento più efficace e coinvolgente.
  • Un approccio didattico su misura aumenta motivazione e interesse, migliorando i risultati accademici.
Supportare le attività di autovalutazione
  • L’automazione rende il processo di autovalutazione più rapido ed efficiente.
  • Grazie all’IA, gli studenti ricevono feedback immediati sulle loro performance.
  • Strumenti di IA possono valutare il livello di preparazione e suggerire percorsi di apprendimento mirati per colmare eventuali lacune.
  • Gli strumenti di IA aiutano a identificare le aree di miglioramento su cui concentrarsi per progredire nel proprio percorso di apprendimento.
Le sfide dell’IA: prima la privacy

L’IA rappresenta chiaramente un mezzo formidabile in grado di favorire una didattica personalizzata, adattata alle esigenze di ciascun studente e, per questo, promotrice di uguaglianza e inclusione. Al contempo, a seconda delle circostanze relative alla sua applicazione, al suo utilizzo e al suo livello di sviluppo tecnologico, può comportare rischi e pregiudicare i diritti fondamentali tutelati dal diritto dell’Unione. Tale pregiudizio può essere sia materiale sia immateriale, fisico, psicologico, sociale o economico.

«Le cose da tenere ben presenti quando si parla di intelligenza artificiale nelle scuole sono la trasparenza e la garanzia dell’effettiva autodeterminazione di studenti e genitori, anche se la corsa al digitale è ormai avviata non significa che dobbiamo accettare qualsiasi cosa senza senso critico» ha dichiarato Guido Scorza, docente di diritto delle nuove tecnologie e privacy e membro dell’Autorità Garante per la protezione dei dati personali. Un primo rischio derivante dall’uso di sistemi di IA, infatti, riguarda proprio l’opacità degli algoritmi che ne caratterizzano il funzionamento e, più in generale, la carenza di informazioni e dettagli sui trattamenti svolti dai gestori di tali piattaforme.

I rischi in ambito scolastico e universitario

In aggiunta, nel settore della didattica possono manifestarsi rischi ulteriori e specifici. A titolo esemplificativo:

  • il rischio di una dipendenza eccessiva dall’IA potrebbe ridurre l’interazione tra studenti e docenti, impoverendo il valore della relazione educativa;
  • il rischio di plagio e frodi accademiche aumenta, rendendo più difficile valutare l’effettiva preparazione degli studenti;
  • se gli studenti si affidano troppo all’IA per trovare risposte immediate, potrebbero perdere la capacità di ragionare in modo critico e autonomo;
  • gli algoritmi di IA si basano su dati storici che possono contenere pregiudizi impliciti, portando a decisioni discriminatorie;
  • se le domande sono troppo specifiche le risposte possono essere imprevedibili;
  • i risultati generati possono includere errori e contenuti solo apparentemente veritieri;
  • i riferimenti documentali suggeriti possono non essere corretti;
  • etc.

Sorge quindi l’esigenza di regolamentare gli utilizzi dell’IA in ambito scolastico e accademico, al fine di promuoverne un utilizzo etico, sicuro, consapevole e conforme alle norme applicabili. L’IA, infatti, “dovrebbe essere una tecnologia antropocentrica” e “fungere da strumento per le persone” (considerando 6 all’AI ACT). Come sfruttare i benefici dell’AI minimizzando i rischi che ne derivano?

Obiettivo: governare l’IA

Al fine di supportare istituzioni scolastiche ed Atenei nell’uso degli strumenti di IA, abbiamo individuato 10 regole fondamentali da seguire.

  • In primo luogo, è essenziale effettuare una ricognizione dei sistemi di IA già in uso o che si intende utilizzare. La mappatura dovrebbe includere dettagli sullo strumento (ad esempio, il tipo di licenza) e l’ambito di utilizzo (ad esempio ricerca, didattica, terza missione, etc.);
  • In base all’ambito di utilizzo, verificare i dati che saranno dati in pasto all’AI e prevedere regole al fine di tutelare le informazioni più riservate o sensibili. Minimizzare la raccolta e l’uso dei dati come misura preventiva;
  • Assicurarsi che il trattamento dei dati rispetti le normative vigenti. Verificare la conformità della piattaforma utilizzata mediante analisi delle condizioni legali, delle informazioni relative al trattamento dei dati, delle garanzie poste alla base dei trasferimenti effettuati, dei tempi di conservazione dei dati salvati sui server, etc.;
  • Implementare adeguate misure tecniche ed organizzative volte a garantire la sicurezza dei trattamenti svolti con ausilio dell’IA, nonché la tutela dei diritti e delle libertà degli interessati coinvolti;
  • Valutare attentamente gli strumenti di IA utilizzati e i relativi rischi. Condurre la DPIA (Data Protection Impact Assessment) e, ove previsto, la FRIA (Fundamental Rights Impact Assessment);
  • Definire in modo chiaro e trasparente gli scopi per cui viene utilizzata l’IA a fini didattici ed informare tutti gli utenti (PTA, docenti, studenti, etc.);
  • Garantire sempre una supervisione umana nell’utilizzo dell’IA e adottare un approccio antropocentrico, con l’essere umano al centro del processo decisionale;
  • Adottare linee guida, vademecum, policy, procedure che formalizzino regole e migliori prassi per l’uso dell’Intelligenza Artificiale in didattica e ricerca, che integrino i principi etici e di data protection;
  • Diffondere una conoscenza reale e approfondita degli strumenti di IA e dei processi a tutto il personale e agli studenti. Come previsto dall’AI ACT “l’alfabetizzazione in materia di IA dovrebbe fornire a tutti i pertinenti attori della catena del valore dell’IA le conoscenze necessarie per garantire l’adeguata conformità e la sua corretta esecuzione”. Nel contesto scolastico e accademico, “spiegare ai ragazzi come funzionano gli algoritmi non significa farne degli scienziati ma renderli consapevoli di come vengono utilizzati i loro dati in quanto utenti” (tratto dall’intervista a Guido Scorza su Il Corriere della Sera, 07/11/2023);
  • Promuovere un approccio basato sul principio di accountability, garantendo un uso responsabile e conforme alla normativa. Rafforzare la consapevolezza degli strumenti utilizzati attraverso percorsi formativi mirati.

AI Desk Italy affianca organizzazioni, enti ed imprese, con consulenza specialistica e, su richiesta, assume il ruolo di AI Officer esterno. Questa figura supervisiona l’implementazione dell’intelligenza artificiale, assicurandone un utilizzo etico e sicuro all’interno dell’organizzazione. L’AI Officer si occupa di garantire la conformità alle normative, gestire i rischi, definire strategie e monitorare costantemente le prestazioni dei sistemi di IA. Clicca qui per ulteriori informazioni.

Condividi ora

Related news