Soros, i rischi del social credit system cinese e l’analogia con Black Mirror

La notizia circola ormai dal 2014, ma si è riproposta agli osservatori dopo che George Soros ne ha fatto il centro di un suo discorso al World Economic Forum di Davos, la settimana scorsa.

“Voglio portare la vostra attenzione – dice Soros durante una cena privata – sul pericolo mortale che le società aperte si trovano a fronteggiare a causa degli strumenti di controllo che il machine learning e l’intelligenza artificiale possono mettere nelle mani dei regimi repressivi. Il social credit system non è ancora pienamente operativo ma è già chiaro verso cosa ci stiamo dirigendo. Il destino individuale verrà subordinato agli interessi dello Stato-partito in modi che la storia non ha ancora conosciuto”. Queste le allarmate parole di Soros a proposito del “social credit system”, il meccanismo che il Governo cinese sta sperimentando da tempo per valutare, attraverso un complicato sistema di feedback e ratings, l’”affidabilità” dei propri cittadini.
Il meccanismo è semplice e si fonda su un’idea vecchia quanto il mondo, quella di “reputazione”. Dalle società primordiali, alle prime esperienze di interazioni economiche a lunga distanza, fino alle moderne piattaforme di e-commerce, il capitale reputazionale è ciò che ha reso possibile l’esplosione degli scambi commerciali minimizzandone il rischio e moltiplicando le opportunità di guadagno. La stessa logica che ci fa ritornare dal meccanico o dal parrucchiere “di fiducia”, favorisce i miliardi di transazioni che avvengono su Amazon o Aliexpress. Affinché quel meccanico diventi il nostro meccanico “di fiducia” dobbiamo giocare con lui un gioco ripetuto, giorno dopo giorno valutiamo la sua affidabilità con il sottointeso condiviso che alla prima fregatura il rapporto si interromperà. In questo modo il meccanico, nonostante l’asimmetria informativa che lo mette in netto vantaggio sul cliente, dovrà scegliere tra un forte, ma singolo, guadagno, o minori profitti, ma ripetuti nel tempo. La teoria dei giochi, il folk theorem in particolare, mostra che sotto certe condizioni il meccanico avrà un forte incentivo a investire in reputazione. A rinunciare, cioè, al guadagno immediato e preferirne uno maggiore, ma diluito nel tempo.
Il commercio elettronico si basa sulla stessa logica, con la differenza che l’informazione sulla reputazione del venditore non è più esclusivamente confinata ad una relazione personale tra le due parti, ma, grazie alla rete, questa ora è diventata pubblica. A costo praticamente nullo, ogni potenziale compratore può conoscere la storia passata e l’affidabilità di ogni potenziale venditore; è questo l’elemento che ha consentito una crescita esponenziale dell’incentivo reputazionale.
I guai, però, nascono quando la stessa logica viene applicata estensivamente e da un regime non pienamente democratico, anche al di fuori della sfera degli scambi economici. La nostra digital footprint, le immagini delle telecamere di sicurezza, le valutazioni di conoscenti e vicini di casa, i commenti sui social, le trasmissioni che guardiamo alla TV, quanto tempo passiamo coi videogame, le cose che compriamo, etc., tutto potrà essere processato istantaneamente da sofisticati algoritmi per definire il tuo livello di “affidabilità”, il tuo punteggio personale.Questo è ciò che sta alla base del “credit score system”. Il governo cinese conta di utilizzare questo punteggio per garantire o escludere i cittadini e le imprese dall’accesso a diversi servizi. Finire sulla lista nera significa, per esempio, non poter viaggiare all’estero, non poter soggiornare in certi alberghi o non poter mandare i propri figli in determinate scuole, avere un collegamento a internet rallentato e perfino penalizzazioni nei siti di dating online.

FONTE: Il Sole 24 Ore

Posted in: Cronaca

Annunci

Rispondi

Inserisci i tuoi dati qui sotto o clicca su un'icona per effettuare l'accesso:

Logo WordPress.com

Stai commentando usando il tuo account WordPress.com. Chiudi sessione /  Modifica )

Google photo

Stai commentando usando il tuo account Google. Chiudi sessione /  Modifica )

Foto Twitter

Stai commentando usando il tuo account Twitter. Chiudi sessione /  Modifica )

Foto di Facebook

Stai commentando usando il tuo account Facebook. Chiudi sessione /  Modifica )

Connessione a %s...