Datificati e profilati di Eleonora Pantò

Da questo mese a prende il via una nuova rubrica Eleonora Pantò: Appunti Selvaggi : sotto vi spieghiamo di cosa si tratta e in breve chi è e cosa fa la nostra autrice: siamo certi che sarà preziosa per i nostri lettori e le nostre lettrici

Appunti Selvaggi Le tecnologie digitali cambiano le nostre vite e le nostre relazioni, in un processo di mutuo adattamento di cui non conosciamo le conseguenze. Che impatto avranno sulle prossime generazioni? Che cosa ci serve e cosa ci danneggia? cosa dobbiamo imparare per sopravvivere nel futuro? Quali sono le domande giuste che dobbiamo imparare a farci?

Eleonora Pantò si occupa di progetti di innovazione tecnologica e di ricerca sull’applicazione delle tecnologie nell’apprendimento, per l’inclusione e la diversità a scuola, sull’uso dei videogiochi nella didattica e per la formazione online aperta e massiva. Ha lavorato per i  servizi educativi e scolastici della Città di Torino e nella formazione professionale sulle competenze digitali. E’ direttrice dell’Associazione Dschola – Le scuole per le scuole.

Buona lettura!

1. Datificazione e profilazione

Datificazione e profilazione sono due concetti a cui dobbiamo prestare la nostra attenzione, ancora di più dopo che la pandemia ha modificato la nostra routine quotidiana, abituandoci a passare molto più tempo online e creandoci una visione filtrata della realtà.

Google è stata la prima azienda nel 2000 a capire che “data are the new oil” – i dati sono il nuovo carburante –  e ha  apertol’era del “capitalismo estrattivo” o data economy, fondata sul  valore che si estrae dai dati, Dati generati per buona parte da dispositivi intelligenti che sono sempre più diffusi nelle nostre case e intorno a  noi.  A differenza del petrolio, i dati non si consumano, ma si accumulano.  Più aumenta la quantità di dati disponibili più aumenta il loro valore e la precisione degli algoritmi predittivi, cioè i programmi che attraverso metodologie di machine learning sono in grado di fare previsioni sui mercati, sul meteo e sui comportamenti e le decisioni future delle persone.

I dispositivi intelligenti che producono i dati includono gli esseri umani: secondo Treccani la datificazione è il “Processo tecnologico che trasforma vari aspetti della vita sociale o della vita individuale in dati che vengono successivamente trasformati in informazioni dotate di nuove forme di valore anche economico”. Tutte le nostre azioni come acquisti, viaggi, opinioni costituiscono la materia prima che una volta elaborata, crea il nostro “profilo” che permette di fare previsioni sul nostro comportamento.

La profilazione non serve solo a proporci le scarpe o la vacanza che incontrano meglio i nostri gusti: anche la nostra esposizione ad opinioni e temi politici passa da questi filtri. Il 95% degli italiani passa almeno 3 ore al giorno su Internet  e il 64% usa i propri canali social per informarsi. Già nel 2009 Eli Pariser aveva illustrato il meccanismo delle bolle informative che contribuiscono a rafforzare le idee già presenti e non favoriscono il confronto, rendendo i dibattiti sempre più polarizzati, soprattutto su temi di natura etica per loro natura divisivi.

Oggi le principali piattaforme digitali, sintetizzate nell’acronimo GAFAM che indica Google, Apple, Facebook, Amazon e Microsoft hanno raggiunto posizioni dominanti sull’intero mercato digitale ed hanno dimensioni superiori a quelle dei singoli stati.  L’Europa contribuisce con i suoi oltre 700 milioni di utenti ad alimentare i big data ma è in ritardo nello sviluppo della sua industria digitale: ecco perché l’Unione europea ha bisogno di creare nuove strategie e nuovi approcci. Nel 2020 ha approvato una propria Data Strategy che si basa sui principio della sovranità, interoperabilità e apertura dei dati e sta lavorando alla Digital Service Act, per proteggere meglio i cittadini e garantire una maggiore trasparenza delle piattaforme online.

• I figli dell’algoritmo

La datificazione è ancora più grave per lenuove generazioni che sono profilate ancora prima di nascere, a partire dai dati che riguardano la provenienza, il reddito, il titolo di studio dei loro genitori.

Nel libro “I figli dell’algoritmo” l’autrice Veronica Barassi racconta del ritrovamento della pagella in cui l’insegnante la definiva “distratta e poco portato per lo studio” e di altre tracce della sua vita  da adolescente e ragazza che raccontano “una me stessa in cui oggi stento a riconoscermi” e quindi dell’importanza di proteggere i bambini dalla profilazione, anche se spesso le famiglie si chiedono “perché è così importante se i dati personali dei miei figli vengono usati e raccolti fin dalla loro nascita? non abbiamo niente da nascondere”. Il suo lavoro consiste nel dimostrare perché è davvero importante preoccuparsi di come questi dati sono  usati per decisioni fondamentali sulla nostra  e sulla loro vita.

Barassi è un’antropologa che ha iniziato la sua ricerca occupandosi di democrazia e partecipazione politica, allieva di David Graeber, antropologo e attivista famoso per gli studi sull’iper-burocrazia che uccide la cooperazione spontanea e il proliferare dei lavori definiti “senza senso” (bullshit jobs) da chi li svolge.

L’attenzione di Barassi alla raccolta dei dati dei bambini è iniziata con la nascita delle sue figlie: confrontandosi con le altre mamme si è resa conto che l’uso di app per il monitoraggio della gravidanza permetteva di tracciare i bambini prima della nascita e anticipava il trattamento dei loro dati da parte di sistemi educativi e sanitari, con l’aggravante che in questi casi non si tratta di dati anonimi. Il suo primo lavoro è del 2020, intitolato “Child Data Citizen -How Tech Companies Are Profiling Us from before Birth” edito dal MIT e frutto di tre anni di lavoro. Il libro raccoglie cinquanta interviste in profondità, lo studio dello “sharenting” – ossia l’abitudine di condividere sui social immagini dei propri figli – e il processo di datificazione delle sua famiglia.

• Il capitalismo della sorveglianza

L’impatto dei dati raccolti su di noi non si ferma alla formazione delle opinioni sempre più le decisioni che ci riguardano sono il frutto di elaborazioni dei nostri dati, dati che non sono neutri, ma che  riproducono decisioni e stereotipi di chi li ha raccolti e portano a decisioni basate su presupposti errati.

Il “capitalismo estrattivo” diventa “capitalismo della sorveglianza”, come teorizzato da Shoshana Zuboff, in cui il comportamenti degli utenti è la materia prima nel mercato dei comportamenti futuri, che vede i  capitalisti proprietari di  conoscenza e gli utenti senza o alcun controllo su come i dati siano raccolti, elaborati ed usati,

La datificazione  può determinare le nostre scelte politiche e non solo: il database CLEAR di Thompson Reuter che contiene dati relativi a 40 milioni di cittadini statunitensi è alimentato da 80 servizi di tecnologie per la casa, come smart meter, smart tv, assistenti vocali. Clear è utilizzato per individuare frodi fiscali, frodi migratorie e anche per decidere l’affidamento dei bambini.

• Bambini e IA

La profilazione è un’attività da tempo studiata nel contesto antropologico, perché consente di individuare i soggetti a rischio: la ricerca di Mary Douglas nel secolo scorso aveva evidenziato i processi di classificazione nelle società al fine di creare confini, attribuendo valori positivi e negativi ad alcuni elementi, ed è necessariamente un’attività discriminatoria. La differenza è che oggi si sta affidando questo compito alle macchine, cercando di insegnare alle macchine i valori e il pensiero simbolico, una questione molto delicata.

Il tema dei valori è fondamentale se pensiamo a quanto le IA siano già entrate anche nella quotidianità attraverso gli assistenti vocali o gli smart toys e a come i bambini interagiscono con loro. 

“Alessa ti voglio bene” dice il bambino di 4 anni, abituato a interagire con la voce – femminile, che è stata progettata per incentivare acquisti: Alexa, come tutti gli assistenti vocali, registra tutte le interazioni della famiglia ed è in grado di riconoscere le impronte vocali di tutti i membri, i gusti musicali e gli interessi. Si tratta di datu molto interessanti per il mercato, e altri soggetti sono interessati ad acquisirili: la società Appen che lavora nell’IA offre opportunità di lavoro anche per microtask: una di queste prevede la retribuzione per la trascrizione delle proprie registrazioni di Google Home o  Amazon Echo.

Conclusioni

Il tema della raccolta dei dati e su come siano usati per alimentare decisioni sulla nostra vita è al centro di numerosi dibattiti etico e filosofici, ma anche di natura regolamentare. L’aumento delle sanzioni verso le multinazionali dimostra una consapevolezza dei legislatori. Non è accettabile che la privacy sia il prezzo da pagare per i servizi gratuiti accessibili in rete, ma diventa “la difesa di uno spazio intangibile e sottratto alle ingerenze esterne” come dichiarato da Pasquale Stanzione, Presidente del Garante per la protezione dei dati personali, e in nessun caso può essere una questione affrontata a livello del singolo individuo.

Eleonora Pantò

18 febbraio 2022