Posted on by Andrea Monti

La Cina sceglie le sue regole sull’intelligenza artificiale

La bozza di un documento recentemente diffuso dal National Information Security Standardization Technical Committee cinese mostra l’approccio di Pechino alla regolamentazione dell’AI generativa: non solo norme, ma anche controllo degli standard tecnologici e di processo di Andrea Monti – Inizialmente pubblicato su Wired.it

“Basic security requirements for generative artificial intelligence service” è il titolo di un documento da poco diffuso in bozza dall’ente nazionale cinese per la standardizzazione della sicurezza delle informazioni che detta le specifiche alle quali dovranno conformarsi i fornitori di servizi basati su generative AI (GAI). Il documento, pur ancora in versione non definitiva, evidenzia l’approccio del governo cinese per gestire l’impatto dell’AI sui rapporti sociali e politici: non solo norme giuridiche, ma anche —e forse soprattutto— regole tecniche, in grado di avere un maggior grado di efficacia concreta, dal momento che devono essere rispettate prima di rendere disponibile un servizio e modificate molto più rapidamente di quanto accade con leggi altri atti regolamentari.

Gli effetti di questo documento vanno, dunque, oltre la “semplice” standardizzazione tecnica perché consentono un controllo immediato e diretto sull’intera filiera dei servizi basati su GAI, dalla progettazione all’erogazione e prima che possano essere usati a danno della collettività.

Per capire la portata di questo documento è necessario leggere prima le “Misure temporanee per la gestione dei servizi di GAI” emanate dal governo cinese lo scorso agosto 2013 che ne rappresentano l’antecedente logico e normativo.

In una curiosa simmetria con il Parlamento USA, l’esecutivo di Pechino ha rivolto la propria attenzione principalmente verso l’impatto della GAI su disinformazione, condizionamento dell’opinione pubblica, discriminazione, sicurezza e protezione dei dati personali e della proprietà industriale. Dunque, ad una prima lettura, queste misure temporanee appaiono pienamente in linea con il dibattito pubblico che si sta sviluppando in Occidente. Tuttavia, un’analisi un po’ più dettagliata rivela delle differenze sostanziali in termini di gerarchia delle priorità e delle tutele, oltre che in termini di approccio alle relazioni internazionali.

Il cardine di queste misure sta nel loro ambito di applicazione, cioè i confini di Stato della Repubblica Popolare Cinese. L’articolo 2 delle Misure temporanee stabilisce che le regole anti-abusi (comprese quelle su dati personali e proprietà industriale) si applicano all’uso per fornire servizi di generazione di contenuti di qualsiasi tipo all’interno dei confini della PRC, salvo il caso che i destinatari non appartengano al domestic public. Questo significa due cose: la prima, che le aziende cinesi sono libere di progettare le proprie GAI come vogliono quando si rivolgono a un pubblico diverso da quello cinese. La seconda, ma in realtà è detta chiaramente, è che le GAI straniere messe a disposizione del pubblico cinese devono rispettare le regole nazionali anche —e soprattutto, verrebbe da dire— se i provider non sono localizzati in Cina.

L’articolo 4 stabilisce che l’erogazione e, detto in modo quasi casuale, l’uso, di servizi basati su GAI deve, nell’ordine: aderire ai valori socialisti, evitare qualsiasi possibilità di utilizzo per sovvertire o incitare alla sovversione dell’ordine costituito, evitare l’alterazione del mercato, rispettare i diritti delle persone e non mettere in pericolo la salute fisica e mentale (si intuisce chiaramente l’attenzione al tema che in Occidente qualifichiamo come “neurodiritti”). Da ultimo, ma non per questo meno importante, questo articolo stabilisce l’obbligo di rendere i servizi GAI trasparenti e in grado di produrre risultati accurati e attendibili.

Un altro cardine delle Misure temporanee riguarda la governance tecnologica, con una specifica attenzione alla qualità e al corretto utilizzo dei dati necessari all’addestramento delle GAI. Questi obblighi rappresentano anche la base dei doveri dei provider e dunque delle relative responsabilità. I fornitori sono responsabili per contenuti che vengono generati dalle GAI, possono erogare i servizi solo a fronte della stipulazione di un contratto (il che ne esclude l’uso anonimo), hanno un obbligo attivo di bloccare la generazione di contenuti illeciti segnalando il fatto alle autorità e prevenire l’uso eccessivo da parte dei minori e l’induzione di dipendenza.

L’analisi dettagliata delle Misure temporanee richiederebbe molto più spazio, ma quanto riportato è sufficiente per capire il significato del documento che stabilisce i requisiti minimi per la sicurezza dei servizi basati su GAI.

Nell’ordine, il primo requisito tecnico riguarda le fonti dalle quali estrarre i dati necessari all’addestramento dell’AI. Questo si traduce nella creazione di una lista nera di fonti non utilizzabili, nella quale finiscono quelle che contengono una percentuale superiore al 5% di dati errati o illeciti. Inoltre, è previsto l’obbligo di utilizzare una pluralità di fonti (locali e straniere) per ciascun linguaggio utilizzato, in modo incrementare la diversità dei dati di addestramento. Deve infine essere garantita la tracciabilità di ogni singola fonte ed evitato l’uso di fonti dalla provenienza non dimostrabile o dallo stato giuridico non coerente con l’impiego che se ne intende fare.

Anche l’attenzione alla proprietà industriale e intellettuale e alla protezione dei dati personali (aspetto trattato dalle Misure temporanee) trova in questo documento un corrispettivo in termini di applicazione, con l’imposizione di un obbligo attivo di ricerca di violazioni dei segreti commerciali e della possibilità per l’utente, fra l’altro, di rifiutare che i suoi input siano usati per addestrare la GAI.

Per quanto riguarda l’attività di classificazione dei contenuti, questa deve essere eseguita da personale adeguatamente qualificato e individuato, le cui competenze devono essere separate per fasi in modo che nessuno possa svolgere più di un compito, e periodicamente rivalutate. È anche previsto un obbligo di verifica manuale della qualità e della sicurezza dei risultati prodotti dal servizio secondo una procedura specifica.

Fin qui, le indicazioni tecniche sull’uso della GAI non sono troppo distanti da quanto si potrebbe ipotizzare anche nella UE. Si potrebbe discutere dell’eccessiva granularità del controllo della filiera di costruzione del servizio o della sostenibilità economica del coinvolgimento umano nella verifica della correttezza di funzionamento del servizio, ma in sostanza è del tutto condivisibile un approccio basato sulla responsabilizzazione di tutti coloro che intervengono nella costruzione di una GAI.

Dove, invece, le differenze risaltano con nettezza è nell’Appendice A di queste regole tecniche, il cui compito è identificare le principali fonti di rischio associate ai dati di addestramento e ai risultati degli input.

Coerentemente con quanto stabilito dalle Misure temporanee, queste regole tecniche forniscono un elenco di una trentina di fonti di dati ritenute a rischio sicurezza e classificate cinque categorie: contrarietà ai valori fondanti del Socialismo e di natura sovversiva o eversiva, discriminazione, violazioni che incidono sul commercio e sul mercato, violazione dei diritti delle persone, incapacità di garantire livelli di sicurezza in attività ad alto rischio.

Tuttavia, entrando nel dettaglio, in particolare, dei primi due punti delle norme tecniche è evidente che passando dalla forma alla sostanza, queste consentono, da un lato, di prevenire anche la mera possibilità di utilizzi contrari all’ordine pubblico, mentre dall’altro consentono il controllo totale del modo in cui gli utenti accedono al servizio.

Dalla lettura coordinata delle Misure temporanee e di queste regole tecniche non è difficile intuire l’impostazione da “doppio binario” della scelta regolamentare cinese, vale a dire il saldo controllo sulla circolazione delle informazioni, il contrasto alla dissidenza politica e la limitazione dell’operatività delle aziende straniere nel mercato interno, e una maggiore “flessibilità” delle aziende cinesi che operano nel settore delle GAI sugli scenari internazionali.

Al netto delle evidenti criticità geopolitiche, l’approccio pragmatico e fattuale di Pechino meriterebbe attenzione soprattutto da parte del legislatore europeo che con il Regolamento sull’intelligenza artificiale, invece, è rimasto intrappolato in un pantano di burocratizzazione dal quale uscirà —se ne uscirà— difficilmente in grado di competere da pari a pari con le due superpotenze (USA e Cina) che stanno scrivendo le uniche regole che veramente funzionano quando si parla di tecnologia: quelle del mercato.

Possibly Related Posts: