Google potrebbe aver creato l'Internet della tirannia

Alla più recente presentazione sfarzosa di Google, alla sua conferenza "I/O" Developer, la società ha mostrato nuove app e funzionalità per molti dei suoi prodotti, ma ciò che è stato più sorprendente è stata la tecnologia alla base. Basandosi su ciò che ha mostrato in precedenza, ha dimostrato quanto fossero avanzate le sue tecniche di apprendimento automatico, in particolare la loro capacità di comprendere ed elaborare il linguaggio naturale. E come dimostra abilmente Google Foto, la tecnologia è già sempre più brava a riconoscere gli oggetti nelle foto.

Pochi istanti dopo aver dimostrato questo livello di intelligenza, la società ha rivelato un nuovo prodotto chiamato Google Home. Questo è un oratore che si trova nella tua casa e risponderà ai comandi vocali. In altre parole, ascolterà tutto ciò che dici: usando quelle capacità di elaborazione del linguaggio avanzate per capire cosa stai richiedendo. Google non è l'unica azienda che lavora su questo: Amazon, Facebook e altri stanno tutti lavorando su una tecnologia simile.

“Che la società lo realizzi o no, sta costruendo gli strumenti per una perfetta sorveglianza."

Sarebbe facile respingere questo come solo un altro po 'di tecnologia fantastica, un altro passo verso un futuro alimentato dall'IoT. Dopotutto, a Google piace presentarsi come uno che è amichevole e divertente. È marchiato con colori vivaci, le sue pubblicità di twee presentano adorabili famiglie e colonne sonore ukulele. Ma uno ti rendi conto di quali sono le sue tecnologie in grado, assume un aspetto più sinistro. Che la società lo realizzi o no, sta costruendo gli strumenti per una perfetta sorveglianza. Grazie a Google e al resto dell'industria tecnologica moderna, l'Internet of Things potrebbe facilmente diventare Internet della tirannia.

Non devi pensare troppo a immaginare come questa stessa tecnologia possa essere utilizzata per la sorveglianza, specialmente se si considerano le tecnologie che sappiamo che i governi stanno già impiegando sulla scia delle rivelazioni di Edward Snowden.

Se c'è un microfono in ogni casa, ascoltando tutto ciò che facciamo e alcuni algoritmi intelligenti al lavoro che raccoglieno parole chiave e frasi, sarebbe facilmente per un aspirante governo totalitario usare tali tecnologie per prevenire l'opposizione politica legittima e non solo il crimine. Se un governo sufficientemente malevolo volesse impiegare tale sorveglianza, la polizia segreta della Germania dell'Est sembrava dilettanti.

Questo suono paranoico? Forse - ma guardando indietro alla storia e guardando le attuali tendenze in politica, e ci sono ragioni molto reali per sentirsi un po 'nervosi.

La fine della storia

Nel 1989, Francis Fukuyama ha scritto un saggio provocatorio intitolato The End of History?, in cui sosteneva che seguendo la fine della guerra fredda e la sconfitta del comunismo, era chiaro che la democrazia e il capitalismo sono il modo migliore per gestire gli affari umani.

Ma quasi tre decenni e questa tesi ha affrontato sfide significative. Tutto, dall'ascesa dell'islamismo, all'ascesa non democratica della Cina e del presidente russo Vladimir Putin che diventa un po 'più felice, tutti suggeriscono che la democrazia non era la fine della storia - solo una parte della sua continuazione.

È forse possibile pensare alla nostra democrazia moderna come qualcosa di incidente storico. È il risultato della confluenza delle giuste tendenze politiche, economiche e tecnologiche. Affinché la nostra democrazia esista, abbiamo bisogno di ciò che gli scienziati politici chiamano istituzioni politiche ed economiche "inclusive" - ​​quelle che distribuiscono potere tra tutti nella società, in modo che tutti abbiano voce in capitolo e tutti hanno la possibilità di renderlo grande.

“La tecnologia fa quella cosa su cui i tipi della Silicon Valley si bloccano sempre: interruzione."

Questa inclusività è guidata dalla tecnologia. Perché? Perché la tecnologia fa quella cosa su cui i tipi della Silicon Valley sono sempre su: interruzione. Senza il cambiamento tecnologico che scuote il modo in cui la società è strutturata, ci sarebbe per sempre un'élite radicata in cima con tutto il potere. Se la stampa di stampa non fosse mai stata inventata, i tassi di alfabetizzazione sarebbero rimasti molto più bassi, rendendoci così più facili da controllare. Senza la rivoluzione industriale, non ci sarebbero mai stati organizzati gruppi di lavoratori ordinari per chiedere il voto per i proprietari di non terra e le donne. Senza i mass media, non sarebbe possibile per le persone fare scelte informate alle elezioni. Questi sono tutti ingredienti essenziali in una democrazia.

Ma questo non significa che quelle innovazioni tecnologiche abbiano solo buoni risultati. La stampa di stampa ha permesso la trasmissione delle idee che hanno causato la guerra dei trent'anni - una delle guerre più devastanti della storia che ha ucciso 8 milioni di persone. La rivoluzione industriale ha portato con sé lo sfruttamento dei lavoratori nelle fabbriche. E mass media? Bene, questo ci ha portato i Kardashian.

Attualmente viviamo il più grande periodo di cambiamento tecnologico nella storia umana. Apparentemente ogni giorno vediamo progressi nella connettività, archiviazione e potenza di elaborazione. Sarebbe sciocco pensare che man mano che la nostra tecnologia cambia, la nostra politica rimarrà la stessa.

Ci sentiamo fortunati?

Così potrebbero uscire la democrazia e la libertà? Spaziosamente, non dobbiamo nemmeno immaginare davvero un tale futuro distopico - ci sono già segni che sta iniziando ad accadere. Di recente in Russia, ad esempio, c'è stata un'enorme controversia su un'app chiamata FindFace che ti consente di scattare una foto di chiunque e quindi utilizzerà la tecnologia di riconoscimento facciale per cercare la persona su Vkontakte, l'equivalente russo di Facebook.

Secondo il Guardian, la società dietro di essa sta già parlando al governo della città di Mosca di collegare la tecnologia di riconoscimento facciale alle 150.000 telecamere CCTV della città. Anche se sei abbastanza ingenuo da fidarti del governo britannico (o occidentale) con tali poteri, ti fideresti davvero di Vladimir Putin per esercitare tale moderazione sui suoi avversari politici?

È inevitabile che prima o poi un regime meno piacevole utilizzerà queste tecnologie per tracciare tutti i suoi cittadini tutto il tempo.

Il passato non è un paese così straniero

E questo mi riporta alla democrazia britannica. La risposta ottimistica a questointegrante è che a differenza della Russia, della Cina o in Gran Bretagna del passato, le nostre moderne istituzioni politiche sono forti. La Gran Bretagna e i britannici all'interno hanno un forte senso di stato di diritto e comprendono la necessità di proteggere le libertà e le libertà che sono state lentamente vinte nel corso della storia. Sicuramente non c'è rischio che noi scivoli nella dittatura?

Sfortunatamente, è difficile essere ottimisti. La crescita dei poteri di sorveglianza e la nostra volontà di scambiare ulteriormente la nostra privacy con le comodità del mondo digitale è un processo graduale.

“La crescita dei poteri di sorveglianza e la nostra volontà di scambiare la nostra privacy per le comodità del mondo digitale è un processo graduale."

Possiamo già vedere questo accadere: il disegno di legge sui poteri investigativi sta attualmente facendo strada attraverso il Parlamento. L'intenzione è che fornirà al governo la legittimità legale per il sorveglianza sulla scala esposta di Edward Snowden, anche se con quelli che potrebbero essere controlli e saldi tokenistici. Mentre ci sono alcuni gruppi impegnati che fanno una campagna contro di esso (come la non spia sulla coalizione degli Stati Uniti), l'opposizione politica sembra essere limitata. Frustrantemente il partito laburista - la presunta opposizione - astenuta nella prima lettura.

Il prossimo passo - e uno di cui abbiamo già sentito il governo fare rumori - sta legiferando per consentire di bloccare siti Web e servizi. Dopo le rivolte del 2011 ci sono state chiamate per dare al segretario di casa il potere di bloccare le app di messaggistica durante i periodi di crisi. Certo - Potresti fidarti dell'attuale ministro Theresa May ... ma come puoi sapere che ti fidi del suo successore o dei successori del suo successore tra 10 o 20 anni?

Anche idee apparentemente benigne potrebbero avere risultati sfortunati. Prendi le proposte comprensibili per richiedere alla polizia di indossare telecamere per il corpo, ad esempio. Sembra sicuramente un buon modo per garantire la responsabilità e prevenire la violenza (in particolare contro le minoranze disproporzionate) in una società libera e democratica. Ma se avessimo un governo più autoritario, quelle stesse tecnologie che stiamo abilitando oggi assumevano un significato molto diverso.

Ciò che è pericoloso di queste attuali manovre politiche non è ciò che dice di per sé, ma il fatto che significhi che la tecnologia sarà in atto in modo che un futuro governo abbia la capacità tecnica, se non esplicitamente legale, di sfruttarlo il futuro. È come la scommessa che un paese fa con le armi nucleari: potrebbero stare bene se qualcuno è affidabile, ma nelle mani di qualcuno più sfrenato, potrebbero essere estremamente pericolosi.

Algoritmi polarizzanti

C'è un altro argomento da considerare: solo perché la tecnologia esiste per una perfetta sorveglianza non significa che il governo lo userebbe effettivamente.

E questo è quando torniamo alla politica. L'interruzione causata dai progressi tecnologici del 21 ° secolo: Internet e la globalizzazione sono già in generale in modo di cambiare la politica.

Ciò che è sempre più chiaro nel secondo decennio del 21 ° secolo è che i temperamenti politici stanno cambiando a livello globale. Per un breve periodo all'inizio del millennio sembrava che l'ideologia non fosse più importante - e il lavoro dei politici, che si tratti di lavoro, Tory o qualsiasi altra cosa, riguardava la gestione. Non fare nulla di radicale, ma modificare le leve del potere per mantenere tutto ciò che si soffoca.

Ma questo non è più il caso: il consenso è morto. In tutto il mondo i movimenti radicali stanno guadagnando potere o modellando significativamente eventi politici. L'estrema destra sta andando in modo inquietante in Francia e Austria. L'estrema sinistra è ora estremamente potente in Grecia e Spagna. In Gran Bretagna, Jeremy Corbyn e Nigel Farage sono ora figure importanti, nonostante sedessero bene dal centro politico.

“Quando accediamo a Facebook la mattina vediamo una dieta di politica algoritmicamente programmata per dirci cosa vogliamo sentire."

Anche questo è parzialmente il risultato del cambiamento tecnologico. Quando accediamo a Facebook al mattino vediamo una dieta di politica algoritmicamente programmata per dirci cosa vogliamo sentire. Piuttosto che far sfidare le nostre visioni del mondo, li abbiamo rafforzati dai nostri amici affini. Siamo diventati più polarizzati e più estremi. (Anche altri movimenti, come l'islamismo, il gamergate e l'ala autoritaria del movimento di giustizia sociale sono un'ulteriore espressione di questa tendenza.)

Questa polarizzazione di opinioni significa che con i "nemici" così demonizzati, la politica non riguarda il pluralismo - l'idea che dovremmo creare istituzioni che facilitano una politica di più punti di vista - ma sulla vittoria totale sugli avversari. Questo è il tipo di pensiero, il che significa che chiudere i tuoi avversari politici a qualsiasi costo è ciò che è più importante. Immagina se un gruppo radicale con queste viste rigide prendesse il potere e scoprisse che avevano il controllo dell'apparato tecnologico in grado di spiare i loro avversari - probabilmente sarebbero meno reticenti per usarlo. Se questa visione non ti spaventa, immagina che il gruppo in carica sia uno che ti oppondi.

Mi piacerebbe dire che c'è speranza: sicuramente emergerà un movimento robusto e elettibile che prometterà di proteggere i nostri diritti digitali e le nostre libertà civili. Ma data la codardia del partito laburista sulla questione e l'irrilevanza dei democratici liberali, è difficile vedere da dove potrebbe venire. Forse inizieremo a preoccuparci solo quando è troppo tardi?

Mettiamo tutto insieme. Viviamo in un momento in cui sono state sviluppate nuove tecnologie che possono consentire un futuro autoritario e abbracciato con entusiasmo dai consumatori, concedendo allo stesso tempo lo stato sempre maggiore potere legale per sviluppare la capacità di sorvegliarci e limitare ciò che possiamo fare. Dato questo, qual è la prognosi per la democrazia? Se un nuovo movimento radicale o demagogo dovesse emergere da questa volatilità - il che non è impossibile dato l'attuale clima politico - quali strumenti avrebbero i cittadini per sfidare i leader autoritari?

Forse il punto qui può essere riassunto con una domanda che gli americani potrebbero trovare piuttosto pertinenti: ti fideresti dello stato per sorvegliarti e accedere a tutti i tuoi dati, dal vivo e in tempo reale? E se la persona responsabile fosse qualcuno come Donald Trump?

Potremmo non essere alla fine della storia, ma questa potrebbe presto essere la fine della democrazia.