L’AI punti di discussione ai triloghi
di Francesco Scorrano
In questo momento L’UE sta procedendo alla trasformazione del regolamento europeo sull’intelligenza artificiale.
Un passo indietro: Il regolamento Europeo del 21 Aprile 2021 AIA (Artificial Intelligence Act) cita “Bisogna creare un ecosistema di fiducia che si sposa con un ecosistema di eccellenza. Occorre favorire lo sviluppo della tecnologia ma mettendo al primo posto l’uomo, le sue libertà, i suoi diritti, il suo benessere, secondo i principi dell’accountability e del self assesment (responsabilizzazione e autovalutazione). Nella regolamentazione c’è una piramide con dentro 4 livelli di rischio (Rischio minimo, limitato, alto, inaccettabile).
Le norme incluse nel provvedimento si fondano sul CRITERIO DEL RISCHIO e fissano obblighi per utenti e fornitori che si differenziano in base al livello di pericolo che può essere generato dall’AI.
È fatto divieto di:
- L’uso di sistemi di identificazione biometrica remota “a posteriori” in spazi accessibili al pubblico, se non previa di autorizzazione giudiziaria e strettamente necessario per investigare uno specifico reato grave;
- I sistemi di categorizzazione biometrica basati su caratteristiche sensibili;
- I sistemi di polizia predittiva;
- I sistemi di riconoscimento delle emozioni utilizzati dalle forze dell’ordine, nella gestione di frontiere, nel luogo di lavoro e negli istituti d’istruzione;
- L’estrazione non mirata di dati biometrici da internet o dai filmati di telecamere a circuito chiuso per creare database di riconoscimento facciale.
Nei casi il livello di rischio risulti inaccettabile per la sicurezza delle persone, i relativi sistemi di AI sarebbero categoricamente vietati.
Le aziende dovranno considerare molteplici aspetti come: privacy, sicurezza informatica, proprietà intellettuale, sicurezza dei prodotti di AI, tutela del consumatore, responsabilità civile in caso di danni. Per quanto riguarda la privacy il Parlamento Europeo ritiene opportuno richiamare l’articolo 16 del Trattato sul funzionamento dell’Unione europea TFUE, che prevede l’adozione di regole per la protezione delle persone fisiche con riguardo al trattamento dei dati personali.
Le imprese che intendono usare l’AI devono scrivere documenti a mezzo dei quali dimostrare (articolo 25 Gdpr) di avere osservato sia la privacy by design sia la privacy by default. Bisogna confezionare anche una valutazione di impatto privacy (Dpia, articolo 35 Gdpr) molto severa e tesa a verificare se effettivamente l’impresa sia in grado di gestire idoneamente i rischi per i diritti e le libertà delle persone. Oltre questo, l’impresa deve scrivere il trattamento nel registro dei trattamenti e scrivere informative ad hoc per gli interessati.
Parlando della nuova regolamentazione in corso, si distinguerà tra i sistemi FOUNDATION MODELS e i sistemi GENERAL PURPOSE AI SYSTEM.
Nel primo sistema l’AI non crea ma utilizzano dati progettati per fornire risultati di tipo generale che possono essere adattati per seguire specifiche attività.
Nel secondo sistema invece, l’AI utilizza reti neutrali per generare testo, immagini, o suoni nuovi che possono essere utilizzati. Quest’ultimo sistema deve rispettare i requisiti di trasparenza, distinguere immagini deepfake da quelle reali, fornire salvaguardie per evitare la creazione di contenuti illegali e pubblicare le sintesi dettagliate dei dati protetti dal diritto d’autore. I deputati hanno riformato il ruolo dell’Ufficio dell’Ue per l’AI.
I punti di discussione ai triloghi saranno 4:
- La definizione di AI (L’art 3 della proposta di AIA formulata dalla Commissione contiene 44 definizioni);
- L’elenco delle attività vietate ad alto rischio con gli obblighi che la tassonomia comporta (L’art 5, nel delineare le attività vietate, proibisce l’immissione sul mercato, la messa in servizio o l’uso di un sistema di AI che utilizza tecniche subliminali);
- La regolamentazione di AI Generativa (General Purpose AI System);
- Le eventuali “regulatory sandbox”.
<<Preso spunto dalla lezione di Avvocato360 su IA, Regolamento Europeo e Cooperazione Italia Usa.>>
