https://comedonchisciotte.org
Distopia digitale: L’algoritmo che punisce i poveri
Bosque Primario di Ed Pilkington 25 Ottobre 2019 The Guardian.com
In tutto il mondo, dalla più piccola città dell’Illinois, a Rochdale in Inghilterra, da Perth, in Australia, a Dumka nel nord dell’India, ovunque è in atto una rivoluzione nel modo in cui i governi stanno trattando i poveri.
Nessuno si accorge che cosa sta succedendo e forse non se ne è sentito nemmeno parlare. E’ una cosa programmata da ingegneri e da programmatori a porte chiuse, in luoghi governativi segreti e lontano dalla vista della gente.
Solo matematici e informatici riescono a comprendere appieno questo cambiamento epocale, alimentato dalla intelligenza artificiale (AI), da algoritmi che fanno previsioni, da modelli di rischio e dalla biometria. Ma se qualcuno di voi fa parte dei milioni di persone più vulnerabili che stanno in fondo alla catena di chi subisce questa rimodulazione radicale delle prestazioni assistenziali, saprà riconoscere che è una cosa reale e che le sue conseguenze possono essere gravi – persino mortali.
The Guardian ha indagato per gli ultimi tre mesi sul modo in cui vengono spesi miliardi per l’innovazionei AI per cercare di comprendere come interagisce con lo stato il ceto a più basso reddito. Allo stesso tempo i reporter in USA, UK India e Australia hanno preso atto della nascita di uno stato di welfare digitale.
Leggendo i vari articolo si vede che i sussidi di disoccupazione, di sostegno per figli, casa e alimentazione vengono codificati insieme a tanti altri dati on-line. Enormi somme vengono spese dai governi di tutto il mondo industrializzato e in via di sviluppo per trovare il sistema su come automatizzare la povertà e per studiare il processo per trasformare le esigenze dei cittadini più poveri in numeri, su come sostituire la parola di un assistente sociale umano con un freddo, esangue processo decisionale prodotto dalle macchine.
Ci sono situazioni raccontate dai reporter del Guardian che dipingono un quadro del 21° secolo di una distopia dickensiana che si sta diffondendo ad una velocità pazzesca. Il politologo americano Virginia Eubanks lo ha definito: “ospizio digitale”.
Date retta ai governi, e sentirete grandi promesse su come le nuove tecnologie trasformeranno la povertà in una nobile e munifica impresa. I pagamenti saranno più veloci, l’efficienza e la trasparenza saranno maggiori, si ridurranno gli sprechi, si risparmieranno soldi dei contribuenti, si sradicheranno gli errori e i pregiudizi degli umani, e sarà garantito che le poche risorse raggiungeranno i più bisognosi. Ma spesso, queste promesse sono cadute nel vuoto.
Nel momento in cui l’austerità domina il panorama politico, milioni di persone si sono viste tagliare o bloccare i sussidi da programmi informatici che operano in un modo che solo pochi sembrano capaci di controllare o addirittura di comprendere. Errori che sono diventati endemici non lasciano alle vittime nessuna alternativa e nessun risarcimento.
Questa settimana, l’automazione della povertà sarà portata sulla scena mondiale. Philip Alston, un avvocato per i diritti umani, osservatore ONU per la povertà estrema, presenterà all’Assemblea generale delle Nazioni Unite a New York un rapporto innovativo che dà l’allarme sulle implicazioni, per i diritti umani, nella corsa alla digitalizzazione della protezione sociale.
L’analisi di Alston si basa in parte sugli studi ufficiali svolti dall’ONU sulla povertà in UK e USA e in parte su dati governativi, di organizzazioni dei diritti umani e di esperti provenienti da più di 34 paesi. E possibile che forniscano una istantanea definitiva su dove si trova adesso il mondo e dove sta andando, con cenni alle vessazioni e allo scotto a cui vanno incontro quelle persone che vivono in una casa dei poveri (ospizio) digitale che si allarga sempre più rapidamente.
In Illinois, The Guardian ha scoperto che i governi statali e federali hanno unito le loro forze per chiedere che molti destinatari dei fondi per l’assistenza sociale restituiscano i “pagamenti-non-dovuti”, in certi casi per gli ultimi 30 anni. Questo sistema di “debito-alla-zombie”, che si può riconoscere con ricerche tecnologiche, crea paura e disagio per la parte più vulnerabile della società.
Come ha detto uno di quei assistiti: “Dovete restituire quello che avete mangiato.”
Nel Regno Unito, il Guardian ha indagato sul sito del governo relativo a Newcastle, dove sono stati spesi milioni per lo sviluppo di una nuova generazione di robot del welfare per sostituire gli esseri umani. Aziende private tra cui una impresa di New York guidata dal primo miliardario-robotico al mondo, stanno perfezionando un processo che ha generato un nuovo gergo “forza lavoro virtuale”, “Augmented decision-making”, “automazione del processo-robotico”.
Il governo sta spingendo molto la sua missione digitale malgrado i danni già inflitti a milioni di inglesi-a-basso-reddito per effetto della sua agenda “digital by default”. Chi si lamenta parla di una situazione di fame, di sporcizia, di paura e di panico che sta vivendo.
Attiviste indiane protestano contro la decisione del governo di dare ai bambini un pasto gratis solo se in possesso della carta biometrica nazionale Aadhaar.
In Australia, dove il Guardian ha scritto ampiamente sul robodebt, lo schema accusato di aver recuperato a torto debiti storici, riconosciuti da un algoritmo difettoso, vediamo che il governo ha aperto un nuovo fronte digitale, usando l’automazione per sospendere milioni di pagamenti del welfare system. I destinatari si vedono tagliati i sussidi senza preavviso.
La storia più inquietante arriva da Dumka in India. Qui, si apprende qual è stato l’orribile impatto umano che ha colpito le famiglie a seguito della Aadhaar, il numero unico di identificazione a 12 cifre che il governo indiano ha rilasciato a tutti i residenti nella zona dove si è svolto il più grande esperimento di biometria del mondo.
La nuova high-tech mette tutto insieme nell’assistenza sociale, lavoro, disabilità e salute, spesso senza un minimo dibattito pubblico.
Motka Manjhi ha pagato il prezzo più alto quando un computer si è impallato e la sua identificazione digitale – la sua chiave per Aadhaar – non lo ha più riconosciuto. Hanno bloccato il suo sussidio di sopravvivenza, è stato costretto a saltare i pasti e ha cominciato a perdere peso. Il 22 maggio, è crollato ed è morto davanti a casa sua. La sua famiglia è convinta che sia morto per fame.
Le indagini di The Guardian fanno luce sui requisiti comuni di questi nuovi sistemi, sia nei paesi in via di sviluppo o in quelli già sviluppati, sia in oriente che in occidente. La somiglianza più evidente è che tutto succede alla velocità della luce, con approcci hi-tech che attraversano trasversalmente i servizi sociali, il lavoro, le pensioni, la disabilità e la salute, spesso senza nemmeno un dibattito pubblico minimo o una qualche assunzione di responsabilità.
Nell’ambito di questa rivoluzione, l’elemento umano del welfare viene a perdersi. Anziché parlare con un essere umano che valuta personalmente le reali esigenze della persona, ora tutto viene messo on line, dove una analisi stimerà e assegnerà un punteggio di rischio per il futuro e un algoritmo deciderà quale sarà il destino della persona.
Nel nuovo mondo, la disuguaglianza e la discriminazione possono rafforzarsi. Che cosa ti succede se sei uno dei cinque milioni di adulti che, nel Regno Unito, non hanno regolare accesso a Internet o che non hanno una bassa o solo una minima alfabetizzazione con il computer? Che cosa succede se l’algoritmo, semplicemente, accentua le attuali distorsioni di razza e di classe esistenti, rendendo ancora più marcato il divario tra chi ha studiato e chi fa un lavoro manuale, tra ricchi e poveri, tra bianchi e neri?
Ma c’è anche un qualcosa di kafkiano e di agghiacciante che abbraccia tutto il mondo. Come ha scoperto in modo tanto tragico Manjhi, gli errori si fanno. Le macchine si sbagliano. Se non c’è nessuno intorno a noi che ci guarda come si guarda una persona e non come un numero a 12 cifre che deve essere elaborato, il risultato può essere fatale. lack out” e ciao ciao algoritmi...
Il computer dice: “Non si paga”. E adesso che facciamo?
Nessuno si accorge che cosa sta succedendo e forse non se ne è sentito nemmeno parlare. E’ una cosa programmata da ingegneri e da programmatori a porte chiuse, in luoghi governativi segreti e lontano dalla vista della gente.
Solo matematici e informatici riescono a comprendere appieno questo cambiamento epocale, alimentato dalla intelligenza artificiale (AI), da algoritmi che fanno previsioni, da modelli di rischio e dalla biometria. Ma se qualcuno di voi fa parte dei milioni di persone più vulnerabili che stanno in fondo alla catena di chi subisce questa rimodulazione radicale delle prestazioni assistenziali, saprà riconoscere che è una cosa reale e che le sue conseguenze possono essere gravi – persino mortali.
The Guardian ha indagato per gli ultimi tre mesi sul modo in cui vengono spesi miliardi per l’innovazionei AI per cercare di comprendere come interagisce con lo stato il ceto a più basso reddito. Allo stesso tempo i reporter in USA, UK India e Australia hanno preso atto della nascita di uno stato di welfare digitale.
Leggendo i vari articolo si vede che i sussidi di disoccupazione, di sostegno per figli, casa e alimentazione vengono codificati insieme a tanti altri dati on-line. Enormi somme vengono spese dai governi di tutto il mondo industrializzato e in via di sviluppo per trovare il sistema su come automatizzare la povertà e per studiare il processo per trasformare le esigenze dei cittadini più poveri in numeri, su come sostituire la parola di un assistente sociale umano con un freddo, esangue processo decisionale prodotto dalle macchine.
Ci sono situazioni raccontate dai reporter del Guardian che dipingono un quadro del 21° secolo di una distopia dickensiana che si sta diffondendo ad una velocità pazzesca. Il politologo americano Virginia Eubanks lo ha definito: “ospizio digitale”.
Date retta ai governi, e sentirete grandi promesse su come le nuove tecnologie trasformeranno la povertà in una nobile e munifica impresa. I pagamenti saranno più veloci, l’efficienza e la trasparenza saranno maggiori, si ridurranno gli sprechi, si risparmieranno soldi dei contribuenti, si sradicheranno gli errori e i pregiudizi degli umani, e sarà garantito che le poche risorse raggiungeranno i più bisognosi. Ma spesso, queste promesse sono cadute nel vuoto.
Nel momento in cui l’austerità domina il panorama politico, milioni di persone si sono viste tagliare o bloccare i sussidi da programmi informatici che operano in un modo che solo pochi sembrano capaci di controllare o addirittura di comprendere. Errori che sono diventati endemici non lasciano alle vittime nessuna alternativa e nessun risarcimento.
Questa settimana, l’automazione della povertà sarà portata sulla scena mondiale. Philip Alston, un avvocato per i diritti umani, osservatore ONU per la povertà estrema, presenterà all’Assemblea generale delle Nazioni Unite a New York un rapporto innovativo che dà l’allarme sulle implicazioni, per i diritti umani, nella corsa alla digitalizzazione della protezione sociale.
L’analisi di Alston si basa in parte sugli studi ufficiali svolti dall’ONU sulla povertà in UK e USA e in parte su dati governativi, di organizzazioni dei diritti umani e di esperti provenienti da più di 34 paesi. E possibile che forniscano una istantanea definitiva su dove si trova adesso il mondo e dove sta andando, con cenni alle vessazioni e allo scotto a cui vanno incontro quelle persone che vivono in una casa dei poveri (ospizio) digitale che si allarga sempre più rapidamente.
In Illinois, The Guardian ha scoperto che i governi statali e federali hanno unito le loro forze per chiedere che molti destinatari dei fondi per l’assistenza sociale restituiscano i “pagamenti-non-dovuti”, in certi casi per gli ultimi 30 anni. Questo sistema di “debito-alla-zombie”, che si può riconoscere con ricerche tecnologiche, crea paura e disagio per la parte più vulnerabile della società.
Come ha detto uno di quei assistiti: “Dovete restituire quello che avete mangiato.”
Nel Regno Unito, il Guardian ha indagato sul sito del governo relativo a Newcastle, dove sono stati spesi milioni per lo sviluppo di una nuova generazione di robot del welfare per sostituire gli esseri umani. Aziende private tra cui una impresa di New York guidata dal primo miliardario-robotico al mondo, stanno perfezionando un processo che ha generato un nuovo gergo “forza lavoro virtuale”, “Augmented decision-making”, “automazione del processo-robotico”.
Il governo sta spingendo molto la sua missione digitale malgrado i danni già inflitti a milioni di inglesi-a-basso-reddito per effetto della sua agenda “digital by default”. Chi si lamenta parla di una situazione di fame, di sporcizia, di paura e di panico che sta vivendo.
Attiviste indiane protestano contro la decisione del governo di dare ai bambini un pasto gratis solo se in possesso della carta biometrica nazionale Aadhaar.
In Australia, dove il Guardian ha scritto ampiamente sul robodebt, lo schema accusato di aver recuperato a torto debiti storici, riconosciuti da un algoritmo difettoso, vediamo che il governo ha aperto un nuovo fronte digitale, usando l’automazione per sospendere milioni di pagamenti del welfare system. I destinatari si vedono tagliati i sussidi senza preavviso.
La storia più inquietante arriva da Dumka in India. Qui, si apprende qual è stato l’orribile impatto umano che ha colpito le famiglie a seguito della Aadhaar, il numero unico di identificazione a 12 cifre che il governo indiano ha rilasciato a tutti i residenti nella zona dove si è svolto il più grande esperimento di biometria del mondo.
La nuova high-tech mette tutto insieme nell’assistenza sociale, lavoro, disabilità e salute, spesso senza un minimo dibattito pubblico.
Motka Manjhi ha pagato il prezzo più alto quando un computer si è impallato e la sua identificazione digitale – la sua chiave per Aadhaar – non lo ha più riconosciuto. Hanno bloccato il suo sussidio di sopravvivenza, è stato costretto a saltare i pasti e ha cominciato a perdere peso. Il 22 maggio, è crollato ed è morto davanti a casa sua. La sua famiglia è convinta che sia morto per fame.
Le indagini di The Guardian fanno luce sui requisiti comuni di questi nuovi sistemi, sia nei paesi in via di sviluppo o in quelli già sviluppati, sia in oriente che in occidente. La somiglianza più evidente è che tutto succede alla velocità della luce, con approcci hi-tech che attraversano trasversalmente i servizi sociali, il lavoro, le pensioni, la disabilità e la salute, spesso senza nemmeno un dibattito pubblico minimo o una qualche assunzione di responsabilità.
Nell’ambito di questa rivoluzione, l’elemento umano del welfare viene a perdersi. Anziché parlare con un essere umano che valuta personalmente le reali esigenze della persona, ora tutto viene messo on line, dove una analisi stimerà e assegnerà un punteggio di rischio per il futuro e un algoritmo deciderà quale sarà il destino della persona.
Nel nuovo mondo, la disuguaglianza e la discriminazione possono rafforzarsi. Che cosa ti succede se sei uno dei cinque milioni di adulti che, nel Regno Unito, non hanno regolare accesso a Internet o che non hanno una bassa o solo una minima alfabetizzazione con il computer? Che cosa succede se l’algoritmo, semplicemente, accentua le attuali distorsioni di razza e di classe esistenti, rendendo ancora più marcato il divario tra chi ha studiato e chi fa un lavoro manuale, tra ricchi e poveri, tra bianchi e neri?
Ma c’è anche un qualcosa di kafkiano e di agghiacciante che abbraccia tutto il mondo. Come ha scoperto in modo tanto tragico Manjhi, gli errori si fanno. Le macchine si sbagliano. Se non c’è nessuno intorno a noi che ci guarda come si guarda una persona e non come un numero a 12 cifre che deve essere elaborato, il risultato può essere fatale. lack out” e ciao ciao algoritmi...
Il computer dice: “Non si paga”. E adesso che facciamo?
Un Commento
 |
| ! Algoritmi ! |
Prendiamo un'ascia e facciamo fuori i computer. Sono macchine, non animali. Niente sangue. Provochiamo anche un “black out” e ciao ciao algoritmo !
classico
Nessun commento:
Posta un commento