{"id":7144,"date":"2024-08-09T10:10:33","date_gmt":"2024-08-09T08:10:33","guid":{"rendered":"https:\/\/laborproject.it\/?p=7144"},"modified":"2026-09-15T07:36:16","modified_gmt":"2026-09-15T07:36:16","slug":"come-si-realizza-una-dpia-su-un-sistema-di-intelligenza-artificiale-la-guida-dellico","status":"publish","type":"post","link":"https:\/\/laborproject.it\/en\/blog\/come-si-realizza-una-dpia-su-un-sistema-di-intelligenza-artificiale-la-guida-dellico\/","title":{"rendered":"Come si realizza una DPIA su un sistema di Intelligenza Artificiale? La guida dell\u2019ICO"},"content":{"rendered":"<p>Lo scorso 19 giugno l\u2019<em>Information Commissioner&#8217;s Office<\/em> (\u201cICO\u201d), Autorit\u00e0 Garante inglese per la protezione dei dati, ha pubblicato la decisione sul caso \u201cMy AI\u201d, il chatbot sviluppato da Snap Inc. per gli utenti di Snapchat.<\/p>\n<p>Dal provvedimento dell\u2019ICO si ricavano le aspettative delle Autorit\u00e0 di controllo in merito alla realizzazione di una Valutazione d\u2019impatto sulla protezione dei dati (DPIA) conforme alla normativa inglese in materia di <em>data protection<\/em> (simile al GDPR), ma soprattutto indicazioni di dettaglio per lo sviluppo di DPIA relative a sistemi di Intelligenza Artificiale.<\/p>\n<h5><strong>Le caratteristiche di My AI<\/strong><\/h5>\n<p>My AI \u00e8 un bot conversazionale (chatbot) alimentato dalla tecnologia c.d. \u201c<em>generative pre-trained transformer<\/em>\u201d (\u201cGPT\u201d) di OpenAI. La tecnologia GPT costituisce un insieme di sistemi algoritmici in grado di riconoscere, riassumere, tradurre, prevedere e generare contenuti utilizzando insiemi di dati molto grandi.<\/p>\n<p>Il chatbot My AI, implementato per tutti gli utenti della piattaforma Snapchat dal 19 aprile 2023, consente di raccogliere informazioni personali, fra cui i dati biografici, la fascia d\u2019et\u00e0 dell\u2019utente, i dati di localizzazione, i metadati, i dati di interazione, le parole chiave estratte dalle query per mostrare gli annunci e i ricordi delle interazioni.<\/p>\n<h5><strong>L\u2019istruttoria dell\u2019Autorit\u00e0<\/strong><\/h5>\n<p>Proprio in considerazione delle <em>features<\/em> incluse in My AI, del ricorso a sistemi di Intelligenza Artificiale generativa, dei molteplici ed eterogenei dati raccolti, della larga scala di soggetti coinvolti (fra cui minori di et\u00e0 compresa fra i 13 e i 17 anni), nonch\u00e9 del rischio per i diritti e le libert\u00e0 degli utenti, la Commissione inglese per la protezione dei dati provvedeva, sin dalle prime interlocuzioni con Snap Inc., a richiedere alla stessa la condivisione della DPIA effettuata. Mediante un avviso di esecuzione preliminare (\u201c<em>Preliminary Enforcement Notice<\/em>\u201d) l\u2019ICO rilevava alcune non conformit\u00e0 relative al mancato rispetto dell\u2019articolo 35 del Regolamento generale sulla protezione dei dati del Regno Unito (assimilabile all\u2019articolo 35 del GDPR europeo) in relazione al contenuto della DPIA, oltre alla violazione dell\u2019articolo 36 dell\u2019UK GDPR (assimilabile all\u2019articolo 36 del GDPR europeo) per non aver consultato l\u2019Autorit\u00e0 nonostante la rilevazione di un rischio elevato per le persone fisiche coinvolte.<\/p>\n<p>In risposta all\u2019avviso di esecuzione preliminare, il 3 novembre 2023 Snap Inc. presentava all\u2019ICO le proprie osservazioni, poi integrate in data 11 dicembre 2023 e seguite da un\u2019audizione orale il 14 dicembre 2023. Terminato lo scambio di informazioni con l\u2019Autorit\u00e0, la societ\u00e0 californiana condivideva la DPIA, ormai giunta alla quinta revisione.<\/p>\n<h5><strong>Una decisione significativa<\/strong><\/h5>\n<p>In seguito all\u2019analisi della quinta revisione della DPIA, l\u2019ICO rilevava la complessiva conformit\u00e0 del documento, in quanto rivisto in modo tale da recepire le indicazioni dell\u2019Autorit\u00e0 ed i requisiti normativi.<\/p>\n<p>La decisione finale dell\u2019ICO, recentemente pubblicata e disponibile <a href=\"https:\/\/ico.org.uk\/media\/about-the-ico\/documents\/4029988\/snap-my-ai-non-confidential-decision-21-may-2024-20240619-redacted.pdf\" target=\"_blank\" rel=\"noopener\"><strong><u>qui<\/u><\/strong>,<\/a> risulta particolarmente interessante proprio per via delle indicazioni e dei commenti dell\u2019Autorit\u00e0 relativi agli step da seguire per la conduzione di una DPIA e alle informazioni di dettaglio da includere nella valutazione di impatto.<\/p>\n<p>L\u2019ICO, oltre a definire i requisiti di base per realizzare una DPIA conforme, ha manifestato alcune preoccupazioni relative ai trattamenti che coinvolgono l\u2019uso di sistemi di Intelligenza Artificiale generativa ed utenti minori di et\u00e0. Per prevenire forme di abuso digitale e tutelare gli interessati, l\u2019Autorit\u00e0 ha ritenuto opportuno chiarire i requisiti minimi obbligatori per la realizzazione di DPIA relative ai sistemi di Intelligenza Artificiale.<\/p>\n<h5><strong>I requisiti generali per una DPIA conforme<\/strong><\/h5>\n<p>In merito ai requisiti di base richiesti per una DPIA conforme, l\u2019ICO ha valutato, in particolare, l\u2019applicazione dei criteri inclusi nell\u2019allegato 2 alle linee guida del WP29 (wp248 rev.01) e dei sette step operativi elencati all\u2019interno della <a href=\"https:\/\/ico.org.uk\/for-organisations\/uk-gdpr-guidance-and-resources\/accountability-and-governance\/data-protection-impact-assessments-dpias\/how-do-we-do-a-dpia\/\" target=\"_blank\" rel=\"noopener\">pagina informativa<\/a> intitolata \u201c<em>How do we do a DPIA<\/em><em>?<\/em>\u201d, disponibile sul sito web dell\u2019Autorit\u00e0.<\/p>\n<p><em>STEP 1: How do we decide whether to do a DPIA?<\/em><\/p>\n<p><em>STEP 2: How do we describe the processing?<\/em><\/p>\n<p><em>STEP 3: Do we need to consult individuals?<\/em><\/p>\n<p><em>STEP 4: Do we need to consult anyone else?<\/em><\/p>\n<p><em>STEP 5: How do we assess necessity and proportionality?<\/em><\/p>\n<p><em>STEP 6: How do we identify and assess risks?<\/em><\/p>\n<p><em>STEP 7: How do we identifying mitigating measures?<\/em><\/p>\n<p><em>STEP 8: How do we conclude our DPIA?<\/em><\/p>\n<p>Partendo da tali step, l\u2019Autorit\u00e0 ha formulato osservazioni di dettaglio per la realizzazione di una DPIA relativa ai sistemi di Intelligenza Artificiale.<\/p>\n<h5><strong>Requisiti specifici per realizzare una DPIA sull\u2019IA<\/strong><\/h5>\n<p>La quinta revisione della DPIA di Snap Inc. \u00e8 stata giudicata conforme in quanto ha soddisfatto tutte le aspettative richieste dall\u2019ICO.<\/p>\n<p>In particolare, <u>in merito alle operazioni di trattamento svolte<\/u>, la DPIA revisionata:<\/p>\n<ul>\n<li>conteneva una ripartizione significativamente pi\u00f9 dettagliata delle operazioni di trattamento condotte da Snap Inc.;<\/li>\n<li>suddivideva il trattamento in varie fasi ed elencava le categorie di dati personali trattati per ciascuna di queste;<\/li>\n<li>elencava tutti i soggetti che avevano accesso ai dati, sia esterni (per My AI, OpenAI e Microsoft), che interni, con una spiegazione di come sono stati decisi e gestiti i vari profili di accesso ai dati;<\/li>\n<li>includeva i periodi di conservazione dei dati per ciascuna categoria di dati trattati, oltre ai periodi stabiliti mediante i contratti con i responsabili del trattamento nominati;<\/li>\n<li>indicava chiaramente le statistiche dettagliate con il numero di utenti medi giornalieri e mensili nel Regno Unito, nell\u2019UE e a livello globale;<\/li>\n<li>specificava tutte le categorie di interessati coinvolti;<\/li>\n<li>includeva le riflessioni pi\u00f9 significative da prendere in considerazione sulle preoccupazioni che il sistema generava sull\u2019opinione pubblica, tratte da approfondimenti, articoli di cronaca e altre risorse. Dall\u2019analisi di tali riflessioni Snap Inc. ha rilevato come gli interessati si mostrassero pi\u00f9 cauti nella condivisione di dati sensibili con My AI rispetto a quando si trovavano ad utilizzare sistemi come chat tradizionali o strumenti di ricerca.<\/li>\n<\/ul>\n<p><u>In merito alla necessit\u00e0 e proporzionalit\u00e0 delle operazioni di trattamento rispetto alle finalit\u00e0<\/u>, la DPIA revisionata:<\/p>\n<ul>\n<li>includeva una comparazione fra My AI e gli strumenti utilizzati da Snap Inc. in precedenza per scopi simili. La comparazione valutava l\u2019impatto del passaggio dalle tradizionali funzionalit\u00e0 di ricerca e di interrogazione online all\u2019uso dell\u2019Intelligenza Artificiale.<\/li>\n<\/ul>\n<p><u>In merito alla liceit\u00e0 dei trattamenti<\/u>, Snap Inc. ha fatto riferimento a molteplici basi giuridiche (consenso, necessit\u00e0 contrattuale e interessi legittimi). In questo caso l\u2019ICO non si \u00e8 espressa nel merito ma ha solo rilevato la presenza di tale indicazione nella DPIA.<\/p>\n<p>A riguardo si segnala che, nel mese di maggio 2024, l\u2019EDPB ha pubblicato il <a href=\"https:\/\/www.edpb.europa.eu\/system\/files\/2024-05\/edpb_20240523_report_chatgpt_taskforce_en.pdf\" target=\"_blank\" rel=\"noopener\"><strong><u>report<\/u><\/strong> <\/a>realizzato in seguito alle investigazioni condotte dalla c.d. \u201cTaskforce ChatGPT\u201d. Il Comitato ha chiarito che la base giuridica va determinata in relazione alle diverse fasi di trattamento (dalla raccolta dei dati per l\u2019addestramento dei sistemi di IA, alla generazione di uno specifico output) e che il ricorso all\u2019interesse legittimo, ex art. 6 par. 1 lett. f) del GDPR, \u00e8 possibile solo se in presenza di un accurato test di bilanciamento, il cui esito, per\u00f2, pu\u00f2 variare da caso a caso. Il dibattito sul tema \u00e8 ancora in corso, con varie Autorit\u00e0 di controllo che stanno affrontando la questione (se ti interessa restare informato, clicca <a href=\"https:\/\/laborproject.it\/en\/newsletter\/\"><strong><u>qui<\/u><\/strong>).<\/a><\/p>\n<p><u>In merito alla valutazione dei rischi<\/u>, la DPIA revisionata:<\/p>\n<ul>\n<li>conteneva una valutazione del rischio sufficientemente ampia da ricomprendere tutti i principali rischi rilevati (ad esempio, i rischi derivanti da risposte dell\u2019AI basate su pregiudizi; da violazioni della sicurezza in caso di breach di dati particolari; dall\u2019uso non autorizzato dei contenuti; dal fatto che i ragazzi tra i 13 e i 17 anni si possano sentire isolati o soli a causa dell\u2019eccessivo affidamento all\u2019Intelligenza Artificiale per il supporto emotivo; dalla preoccupazione degli utenti che l\u2019Intelligenza Artificiale generica sia attiva quando in realt\u00e0 non lo \u00e8; dalla sicurezza nel contesto dell\u2019utilizzo dei dati di localizzazione; dal trattamento effettuato da terze parti; etc.);<\/li>\n<li>non si limitava ad abbinare ad uno specifico rischio la probabilit\u00e0 che lo stesso si verificasse, la gravit\u00e0 ed il punteggio finale, ma includeva un\u2019analisi dettagliata degli elementi considerati e delle risultanze derivanti, con le azioni da porre in essere. Ad esempio, in relazione ai rischi derivanti dalla targhettizzazione pubblicitaria nei confronti dei giovani di et\u00e0 compresa tra i 13 e i 17 anni, Snap Inc. ha deciso di esibire, tramite My AI, esclusivamente annunci contestuali e non mirati.<\/li>\n<\/ul>\n<p><u>In merito alle misure di mitigazione dei rischi rilevati<\/u>, la DPIA revisionata:<\/p>\n<ul>\n<li>identificava chiaramente misure di mitigazione pertinenti al rischio identificato (senza basarsi su risposte standardizzate);<\/li>\n<li>includeva spiegazioni su come e in che misura sarebbero state efficaci;<\/li>\n<li>si focalizzava sulle azioni specifiche per mitigare i trattamenti relativi a dati di minori e prevedeva misure quali filtri per i contenuti in base all\u2019et\u00e0, avvisi \u201cjust-in-time\u201d adattati a questa fascia d\u2019et\u00e0, controllo e sorveglianza da parte dei genitori sull\u2019uso di My AI da parte degli adolescenti, oltre ad altre misure di mitigazione contro l\u2019uso di My AI per lo svolgimento dei compiti a casa e per la stesura di saggi;<\/li>\n<\/ul>\n<p>prevedeva l\u2019introduzione di avvisi per gli utenti volti a sensibilizzare rispetto all\u2019uso di My AI (in particolare, un avviso \u201cjust-in-time\u201d che avvertiva gli utenti che la tecnologia era nuova e che non dovevano fornire informazioni riservate o sensibili).<\/p>\n<h5><strong>Come si realizza una DPIA sull\u2019IA?<\/strong><\/h5>\n<p>Realizzare una DPIA relativa a sistemi di Intelligenza Artificiale pu\u00f2 risultare un processo particolarmente complesso. Da un lato la difficolt\u00e0 di spiegare il contesto, le logiche dietro gli algoritmi, la presenza di sistemi interconnessi e di molteplici stakeholder coinvolti nelle varie fasi; dall\u2019altro lato la necessit\u00e0 di valutare i rischi per gli utenti interessati, che possono costituire una larga scala di soggetti, talvolta anche minori, e di introdurre misure di mitigazione pertinenti.<\/p>\n<p>Per questo, in considerazione delle peculiarit\u00e0 che caratterizzano tutti i trattamenti svolti mediante sistemi di IA, \u00e8 essenziale:<\/p>\n<ul>\n<li>seguire i rilievi e le indicazioni fornite dall\u2019Autorit\u00e0 inglese mediante la decisione esaminata ed attraverso la pagina informativa sopra citata (\u201c<em>How do we do a DPIA\u201d<\/em>);<\/li>\n<li>seguire i criteri di cui alle linee guida del WP29 (wp248 rev.01);<\/li>\n<li>evitare l\u2019utilizzo di modelli standardizzati di DPIA;<\/li>\n<li>differenziare la realizzazione delle DPIA pi\u00f9 semplici da quelle che richiedono pi\u00f9 tempo, in quanto devono soddisfare requisiti pi\u00f9 esigenti;<\/li>\n<li>comprendere quali figure \u00e8 opportuno coinvolgere;<\/li>\n<li>assicurarsi di spiegare la logica, le modalit\u00e0 di realizzazione ed i vari passaggi della valutazione del rischio condotta;<\/li>\n<li>evitare di fare riferimenti incrociati ad altre fonti senza chiare spiegazioni. Citare per intero i passaggi tratti dalle specifiche fonti esterne e\/o dalle altre policy interne;<\/li>\n<li>assicurarsi di inserire, nella valutazione dei rischi le principali aree di preoccupazione e di impatto sugli interessati.<\/li>\n<\/ul>\n<p>Se la tua azienda utilizza sistemi di Intelligenza Artificiale o ha intenzione di implementare processi basati sull\u2019IA, scrivici. Il nostro Team interdisciplinare ti fornir\u00e0 supporto nella valutazione degli adempimenti necessari e nella realizzazione di una DPIA conforme alle norme.<\/p>","protected":false},"excerpt":{"rendered":"<p>Lo scorso 19 giugno l\u2019Information Commissioner&#8217;s Office (\u201cICO\u201d), Autorit\u00e0 Garante inglese per la protezione dei dati, ha pubblicato la decisione sul caso \u201cMy AI\u201d, il chatbot sviluppato da Snap Inc. per gli utenti di Snapchat. Dal provvedimento dell\u2019ICO si ricavano le aspettative delle Autorit\u00e0 di controllo in merito alla realizzazione di una Valutazione d\u2019impatto sulla [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":11267,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"tags":[],"categoria-servizio":[],"class_list":["post-7144","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry"],"acf":[],"_links":{"self":[{"href":"https:\/\/laborproject.it\/en\/wp-json\/wp\/v2\/posts\/7144","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/laborproject.it\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/laborproject.it\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/laborproject.it\/en\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/laborproject.it\/en\/wp-json\/wp\/v2\/comments?post=7144"}],"version-history":[{"count":0,"href":"https:\/\/laborproject.it\/en\/wp-json\/wp\/v2\/posts\/7144\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/laborproject.it\/en\/wp-json\/wp\/v2\/media\/11267"}],"wp:attachment":[{"href":"https:\/\/laborproject.it\/en\/wp-json\/wp\/v2\/media?parent=7144"}],"wp:term":[{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/laborproject.it\/en\/wp-json\/wp\/v2\/tags?post=7144"},{"taxonomy":"categoria-servizio","embeddable":true,"href":"https:\/\/laborproject.it\/en\/wp-json\/wp\/v2\/categoria-servizio?post=7144"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}