La dittatura digitale

Se un governo ordinasse una scansione generale del DNA di tutti i cittadini e concentrasse questi dati in una memoria centrale, otterrebbe un immenso vantaggio nella ricerca genetica. D’altro canto, oltre alla perfetta conoscenza della salute di ciascun individuo, un governo potrebbe disporre di un potere di controllo mai avveratosi nel corso della storia dell’umanità. Non soltanto saprà con esattezza qual è lo stato di salute di ciascuno di noi, ma potrebbe anche farci dimenticare qualsiasi evidenza ritenga utile. Potrebbe non fornire ai cittadini servizi di prima necessità o eludere il problema delle disuguaglianze, ma potrebbe fare in modo che – ugualmente – i cittadini lo amino.
C’è da chiedersi se la democrazia, nella sua forma attuale, potrà sottrarsi al mix esplosivo tra tecnologie biologiche e tecnologiche digitali. Ho l’impressione che, o la democrazia sarà capace di reinventarsi in una qualche forma nuova, o noi finiremo per vivere in una dittatura digitale. Già oggi, quando chiediamo un prestito in banca la nostra domanda viene valutata da un algoritmo, noi non sappiamo se l’algoritmo discrimina le persone. Se ha trovato qualcosa che non gli piace nel mio DNA o nella pagina FB, o qualcos’altro che mi riguarda che l’algoritmo non condivide. Comunque sia, quel qualcosa tocca da vicino me, e non altri. Questo significa che invece della storica discriminazione in forma collettiva (i neri piuttosto che le donne, visti come categoria complessiva), nel prossimo futuro dovremmo affrontare il problema della discriminazione individuale.
Parlare di dittatura non significa che torneremo ai tempi di Hitler e di Stalin, o a quelli di Luigi XIV. Luigi era un autocrate centralizzatore, ma non aveva la tecnologia per costruire davvero uno stato totalitario. Nessuno si oppose alla sua autorità, ma in assenza di radio, TV, telefonini e rete aveva poco controllo sulla vita quotidiana dei cittadini, specialmente nei remoti villaggi bretoni, ma anche dei cittadini che vivevano nel cuore di Parigi. Non possiamo prevedere quali saranno i poteri delle dittature digitali del prossimo futuro, ma certamente non si limiteranno a copiare Hitler, Stalin o Luigi XIV. Con ogni probabilità, ai livelli superiori dell’autorità, rimarranno comunque figure umane, che ci daranno l’illusione che gli algoritmi siano solo dei servitori e che il potere ultimo sia ancora ben stretto nelle mani dei sapiens. Direi che possiamo sensatamente escludere che verrà nominato un robot come Cancelliere tedesco o come AD di Google, però le decisioni prese dai due saranno plasmate dall’IA. Il Cancelliere e l’AD potranno certo scegliere tra differenti opzioni, ma queste deriveranno da analisi effettuate dai Big Data e rifletteranno il modo in cui l’IA legge il mondo, e non il modo in cui lo leggiamo noi, il mondo. Magari è meglio così. Chissà.