Mantenere il controllo 2: la situazione si complica...

Riprendo un pensiero che avevo in qualche modo archiviato. Proprio sulla base delle riflessioni sull'esigenza di mantenere il controllo, voglio ripensare in modo critico ad un altro oggetto tecnologico che, a prima vista ha caratteristiche analoghe alla videocamera, ma che si differenzia in modo radicale per il tipo di rischio che comporta.

La frontiera degli apparati Always-on ha fatto un balzo in avanti e si potrebbe pensare ad un balzo evoluzionistico.
La telecamera sempre accesa, intelligente, che decide cosa è rilevante e manda nel cloud frammenti della mia vita, è pur sempre un oggetto che richiede una facoltà attiva: devo ricordare di prenderla, caricarla, metterla in tasca, attaccarla da qualche parte in modo che possa seguirmi. Magari posso dimenticarmi di averla addosso, ma effettivamente un margine di controllo lo mantengo e se la lascio scaricare, o se la chiudo nel cassetto, quell'oggetto invadente smette di essere un pensiero o un problema.

Questo limite mi piace, mi serve. Non rende l'oggetto più umano, ma rende l'umano a proprio agio con l'oggetto.

Oggi però lo scenario si è complicato e, di colpo, mi trovo a pensare all'oggetto che, più di ogni altro, ci mette a proprio agio, che ti guarda mentre sei indifeso, ti veglia nel sonno, non si muove mai e che trovi sempre lì, tutte le sere e tutte le mattine: un oggetto così comune che smette di essere notato e, discretamente, ti accompagna ogni giorno... la radiosveglia.

Ricordo ancora ogni singola volta che sono andato a comprare una radiosveglia nuova. Quella con i numeretti rotanti a caduta che faceva "Flip" ogni minuto, quella con le lancette silenziose a movimento continuo, una con numeri rossi luminosi, una che proiettava sul soffitto l'orario, un'altra bellissima, gialla, dotata di rumorosi campanacci e martelletto che mia moglie ha odiato ma che era l'unica in grado di svegliarmi, una da viaggio che avevo vinto ad un concorso fotografico, e tante altre. 
Tutte loro mi hanno accompagnato per anni e sono diventate una defilata e discreta tessera del mosaico di uno sfondo permanente e immutabile nelle mie giornate. Molto rassicurante in effetti!

La mia sveglia non ha mai risposto ai tanti insulti che le ho rivolto al risveglio, non ha mai interpretato i miei sogni o ascoltato i miei respiri ne valutato la qualità o la quantità del mio sonno e non ha mai curiosato nel mio letto. La mia radiosveglia non ha mai avuto le orecchie.
E' sempre stata molto discreta e non ha mai detto nulla a nessuno di ciò di cui è stata testimone. Una radiosveglia Privacy By Design.

Oggi con pochi euro può arrivare sul comodino un oggetto connesso, un orecchio sempre attivo che ascolta e interpreta ogni suono, ogni conversazione, inviando ogni suono su database remoti e decidendo come comportarsi. Non sono così ottimista da sperare che sia intelligente, e so che alle spalle c'è la programmazione che, per quanto sofisticata, è pur sempre la creazione di uomo... dalla sua abilità, dai suoi desideri, delle sue paure, dalle sue priorità, dai suoi doveri.

"Fin qui tutto bene... fin qui tutto bene... fin qui tutto bene" si ripete ossessivamente chi sta precipitando senza paracadute.

Fin qui tutto bene, almeno finché questo oggetto sarà sotto il controllo di una persona e questa persona sarà abbastanza corretta da non fare pieno uso delle sue potenzialità, da non voler curiosare nei dati discretamente acquisiti e da non rendere reali i rischi che questo oggetto porta con sè.

Lo schianto sarà fragoroso è devastante nel momento in cui sì toccherà il fondo e, in questa metafora, il fondo è rappresentato dalla sola idea di poter utilizzare i dati che queste orecchie captano al di fuori delle regole, al di fuori della consapevolezza, del controllo e del consenso dell'utente, al di fuori dell'etica che deve illuminare questo tipo di oggetto e di servizio.

Purtroppo la maggior parte dei produttori affonda le proprie radici in nazioni dove il dato personale appartiene a chi riesce ad ottenerlo, a capirlo,  e non al soggetto a cui il dato si riferisce.

Il GDPR, rispecchia una matrice molto differente, europea, che fa prevalere il governo del dato da parte dell'interessato e la trasparenza, ma questa barriera, certamente rispondente ad un'etica, é appena nata e non ferma chi non la condivide, chi non la capisce, chi decide di violarla...

Posso chiudere la videocamera nel cassetto... ma sopra al cassetto c'è l'occhio di Sauron.

Uscendo da questa metafora, mi trovo di fronte ad una miriade di oggetti connessi, tipicamente diffusori audio o casse acustiche, connesse, collegate sia con il wifi  che con la rete elettrica e queste portano sul comodino un sistema sempre in ascolto, pronto ad interpretare parole come "Ok Google", o "Hei Siri" o "Ciao Alexa", ma anche pronto ad interpretare ogni suono, a registrarlo, a condividerlo con il rispettivo gestore, giorno e notte, senza tregua, senza batterie che possano scaricarsi, senza pulsanti di accensione... molto discretamente.
(NB: in questo momento i sistemi in commercio comprendono: Google Home, Google Now, Apple’s Siri, Windows Cortana, Amazon Echo, oltre ad alcune smart TV,  gli irrigatori per giardini, videocamere di sorveglianza, frigoriferi, lavatrici ecc.)

Forse siamo di fronte ad una svolta, si utilizza il concetto della DISCREZIONE per poter effettuare un trattamento dati effettivamente INVASIVO.
Normalmente, pensando a queste tecnologie, preoccupa fin da subito la loro vulnerabilità e si sviluppano in parallelo sofisticate tecnologie di protezione. Certamente è un tema da affrontare, ma non è forse più complicato da gestire l'aspetto della consapevolezza dell'utilizzo, del rapido e distratto consenso rilasciato dall'utente all'atto dell'installazione senza aver ben compreso la sua portata, o il fatto che quell'oggetto continua a generare e acquisire dati, a mandarli su server altrui...  e che tu vivi la tua vita, liberamente, mentre i dati fluiscono?
Che lo strumento sia sicuro è necessario. Che l'utente sia consapevole è tuttavia più importante e ben più difficile da realizzare, specialmente se l'utente viene rassicurato mostrandogli che è utilizzata la massima tecnologia di sicurezza e  la più raffinata protezione tecnologica.

E' triste constatarlo, ma vantare la massima sicurezza su questi dispositivi è una ingenua illusione. Un dispositivo può essere blindatissimo rispetto alle connessioni, ma può essere nel contempo molto vulnerabile a nuove forme di aggressione. La fantasia non manca e sono già disponibili nuove tipologie di attacco, impensabili fino a poco tempo fa, basate su segnali acustici non udibili (ultrasuoni o infrasuoni) contenenti ordini che il dispositivo ascolta, interpreta ed esegue, senza dover bucare un server, decifrare un sistema crittografico, senza dover violare una connessione o affrontare le sofisticate protezioni che ammiccano sulla confezione del prodotto facendolo sembrare inespugnabile.


Oggi, alcuni sistemi di condivisione permanente della localizzazione geografica (come google maps) avvisano periodicamente l'utente che sta condividendo la propria posizione con amici e parenti... mi domando se questi sistemi da comodino che tutto ascoltano o vedono, saranno altrettanto gentili e rispettosi da ricordare all'utente che tutto ciò che viene detto sarà registrato e inviato ai server del produttore?
Saranno dotati di un indicatore (non modificabile via software) che renda manifesta ed esplicita l'attività del microfono? Per ora ne dubito, anche perchè ho potuto constatare che i produttori fanno di tutto per mistificare il significato del messaggio o, quanto meno, per applicare una logica non orientata alla protezione dei dati personali. 
Il led rosso, tipico nelle videocamere in fase di registrazione, è attribuito ora all'evento "guasto". Il led verde, rassicurante e discreto, è attribuito al regolare funzionamento (ascolto, invio di dati, esecuzione di ordini). Il led blu, che genera curiosità e sospetto, è associato a problemi di connessione o attività di setup.

Mi chiedo, questi dispositivi saranno dotati di un sistema semplice, come un interruttore on-off, per permettere all'utente di disabilitare le funzioni più invasive? Anche  solo lo spegnimento è spesso ostacolato. Non ci sono interruttori, occorre un sistema complicato (app o computer) per accedere al controllo e la spina non la stacca mai nessuno perchè, di solito, è dietro al mobile!

Sarà privilegiata la possibilità di gestire il riconoscimento vocale sulla macchina, localmente e offline,  senza dover inviare i dati su un server remoto?

Il software che governa l'apparato sarà trasparente, aperto e conoscibile, verificabile come forma di garanzia della sua attività?

In passato, sono stati gestiti problemi analoghi facendo leva sulla consapevolezza del pubblico, sino ad arrivare a paradossi quali le foto shock sui pacchetti di sigarette o i cartelloni pubblicitari per disincentivare l'uso di alcohol.

Ritengo che la consapevolezza sia fondamentale e che l'alfabetizzazione sia lo strumento per guidare qualsiasi intervento di prevenzione. Ma in questo caso siamo di fronte ad un oggetto che ha caratteristiche particolari e può facilmente ingannare anche il più accorto dei tecnici.
Mi sono trovato in prima persona a cadere vittima di un inganno: "L'ho comperato... lo devo usare". Questo pensiero mi ha condizionato e mi ha spinto a giudicare accettabili dei trattamenti e dei termini di servizio completamente sbilanciati o affatto rispettosi del dato personale. 
Il fatto stesso di aver acquistato un oggetto prevale sulle ragioni per le quali l'oggetto dovrebbe essere restituito. In effetti, la restituzione è possibile ma è anche scomoda, complicata e, di fatto, disincentivata. 
Inoltre è difficile ammettere con se stessi di aver sbagliato e di essersi fatti prendere la mano, è molto più comodo cliccare e procedere, attivare il servizio sperando che, alla fine, non succederà nulla di brutto.

E così, l'occhio di Sauron,  discretamente, prende possesso del comodino, della stanza, della vita di chi pensa ancora di essere il suo padrone.

CB