Cina: la legge che limita l’IA e difende il cittadino

Le IA sono da un po’ di tempo al centro della bufera per via della loro scarsa regolamentazione e delle possibili sconvenienti conseguenze che questo può avere sul resto della società. Ne abbiamo parlato a proposito delle Intelligenze artificiali che producono immagini o video spesso violando il diritto d’autore, ma i casi del genere sono diversi e legati a diversi settori. Ad essere onesti, però, alcuni paesi hanno già da mesi, talvolta perfino anni, iniziato a cercare soluzioni per normare il settore e l’utilizzo delle macchine.

Su questo giornale è già stata affrontata la riforma nata in seno all’Unione europea, una legge che si propone come una prima regolamentazione del settore in Occidente. Tuttavia, già a marzo del 2022, in Cina sono entrate in vigore le Internet Information Service Algorithmic Recommendation Management Provisions, considerate la prima legge al mondo che disciplina l’uso dell’Intelligenza Artificiale.

Le previsioni menzionate nel testo di legge sono diverse, la più importante però è sicuramente quella che riguarda la pubblicazione degli algoritmi utilizzati dalle macchine su un database trasparente, accompagnati dalle descrizioni circa il loro funzionamento. Si tratta di un vero e proprio registro pubblico in cui, ad ogni algoritmo, è affiancato un codice identificativo.

Il registro serve innanzitutto a permettere al governo cinese di controllare ed eventualmente modificare i codici e dunque l’utilizzo degli algoritmi, una misura preventiva circa eventuali opposizioni al partito cinese. Ma a ciò si aggiunge un fine più nobile: il governo ha infatti da tempo intrapreso una lotta contro l’utilizzo eccessivo dei digital devices e delle app, accusati di creare dipendenza. Il Presidente Xi Jinping ha recentemente affermato: “Nel rapido sviluppo dell’economia digitale del nostro paese, si sono verificate alcune tendenze disordinate e malsane”. Uno degli obiettivi di questa riforma è dunque quello degli “Algorithms for good”, ovvero algoritmi utili a diffondere energie positive tra gli utenti, senza indurli al consumo sfrenato come spesso avviene sulle piattaforme.

A dimostrazione di ciò, nella normativa è previsto che gli algoritmi siano accompagnati da un’informativa trasparente che renda conto all’utente qualora utilizzi i suoi dati, gli utenti devono essere in grado di controllare l’algoritmo selezionando o deselezionando i tag ed è inoltre vietata, come si diceva, la promozione di contenuti che creano dipendenza.

A ciò si aggiungono altri punti a beneficio della tutela del consumatore: sono vietate ad esempio attività come la determinazione automatica del prezzo da parte dell’algoritmo sulla sola base di dati. Questo genere di attività è quella che caratterizza almeno in parte settori come la vendita di biglietti aerei o il settore alberghiero. Ma spesso le aziende si servono di questi algoritmi anche per operazioni interne alla propria struttura, come le risorse umane. Non è di molto tempo fa lo scandalo che investì Amazon, accusata di discriminazione verso le donne e le persone afroamericane perché escluse a priori dalla possibilità di assunzione. L’algoritmo di cui si era servita la società per “scremare” i curricula da valutare aveva decretato che queste categorie fossero statisticamente un rischio per l’azienda che non avrebbe dunque ottimizzato i propri profitti.

La normativa cinese va a colpire principalmente alcune grandi compagnie tech del paese, come Byte Dance (la compagnia proprietaria di TikTok) e Tencent (l’azienda che possiede WeChat), ma tocca anche tutte le imprese straniere operanti in Cina. Ciononostante, molte di queste imprese avevano già incominciato un processo interno di revisione del proprio business model, rimettendo al centro il consumatore e il suo benessere.

Bisogna infatti considerare che questo del governo è solo l’ultimo tassello di una serie di riforme nel settore dei big data: dalla legge sulla cybersecurity del 2017 a quella sulla protezione dei dati personali e la privacy del 2021.

Alle motivazioni di cui sopra di controllo e tutela del cittadino, si aggiunge ovviamente quella puramente economica. Queste scelte permettono al paese di essere all’avanguardia nel settore, superando il principale avversario: gli Stati Uniti. Un settore che ha ricadute su tutti gli altri (vedi quello militare in cui gli algoritmi iniziano ad avere un ruolo dominante) e che potrebbe portare la Cina in testa alle potenze economiche.

Al di là degli sviluppi che questa legge avrà (o non avrà) sull’economia cinese, c’è un dato che è già possibile ammirare: le riforme a tutela del consumatore, seppur varate da un paese dittatoriale col doppio fine di manipolare e sorvegliare il mondo digitale, mettono in cattiva luce l’Occidente democratico che finora ben poco è riuscito a fare nel limitare lo strapotere delle piattaforme. Chissà che non dovranno ispirarsi ad una dittatura per sembrare più vicini al popolo…