.

.

Ciao

Benvenuta e benvenuto nel Blog di Christian Bernieri. Sei in un posto dove riflettere e rimuginare in libertà su privacy, sicurezza, protezione dei dati personali e sui fatti che accadono nel mondo, sempre in salsa privacy. Con una tempistica assolutamente randomica, con format per nulla omogenei, con un linguaggio decisamente inappropriato, senza alcuna padronanza della grammatica e della sintassi, ti propongo articoli che nessun editore accetterebbe mai di pubblicare... Divertiti.

11 marzo 2018

Regola numero uno: mantenere il controllo!

Oggi, navigando nella posta elettronica, ho aperto una news ed ho incontrato un prodotto non particolarmente ammiccante,  simile a tanti altri, una piccola telecamera indossabile, capace di registrare per ore e, naturalmente, connessa. 

Non mi sono soffermato, poi, facendo tutt'altro, mi sono bloccato e ho sentito il bisogno impellente di approfondire: era troppo ordinaria per essere una novità, non poteva nascere con una tecnologia già superata, nessuno pubblicizza un prodotto se questo non ha qualche caratteristica che lo rende interessante, appetibile, desiderabile. Cosa mi sfugge?

Subito, dopo aver approfondito qualche dettaglio, come spesso accade, ho capito che proprio nei dettagli si annida la differenza. 

Si tratta a prima vista di una telecamera come le altre, ma dotata di un algoritmo, o meglio, di un sistema di intelligenza artificiale per il riconoscimento delle immagini e possiede la caratteristica di essere Always On: sempre accesa. Tecnicamente si può spegnere, ma è concepita per essere accesa, indossata e dimenticata.

Normalmente, acquistando una telecamera, scelgo io quando accenderla, quando spegnerla, dove puntarla, cosa riprendere. Il fatto che una telecamera sia always-on e che decida lei quali immagini conservare, la trasforma da un oggetto che, normalmente, è sotto il pieno controllo del proprietario, in un oggetto non più controllabile, autonomo, libero.

Dapiù parti (link - link - link - link - link) sono stati notati i rischi per la privacy degli utenti, specialmente perchè il sistema di intelligenza artificiale non si limita a valutare e decidere sulla base di aspetti di tipo tecnico dell'immagine (illuninazione corretta, contrasto ottimale, movimento e dinamicità della scena, presenza di sorrisi, ecc) ma permette di riconoscere parenti, volti interessanti o significativi per il proprietario... questo ovviamente implica un trattamento di elevato impatto (apprendimento, acquisizione dati, interconnessione dati, geolocalizzazione, acquisizione di dati che possono essere sensibili, o particolari, scelte automatizzate del dispositivo).

Condivido queste ansie in modo limitato: se l'utente è consapevole, informato e consenziente, non ci trovo nulla di scandaloso nel vendere un oggetto capace di tutto ciò. 

Ciò che continua a turbarmi non è la privacy in sè, quanto la perdita del controllo sul mio stesso consenso che, anche se posso essere inizialmente consenziente, mi priva di un reale controllo e, questo dettaglio,  muta la natura del mio consenso stesso.

Tutti noi siamo abituati ad acconsentire più o meno implicitamente ai trattamenti, anche estremamente critici, che gli oggetti di uso comune comportano. Penso al cellulare, tutti sappiamo che il cellulare trasmette l'audio alla persona a cui stiamo telefonando. Siamo consapevoli del nostro controllo: se non vogliamo trasmettere nulla, basta non telefonare, basta spegnere il telefono, basta premere il tasto mute durante una conversazione.

Ma se il telefono decidesse di registrare in autonomia i rumori o le conversazioni alle quali ha accesso per il solo fatto di essere fisicamente presente e attivo, a prescindere dall'effettivo nostro controllo, dalla pressione di un tasto, dall'azione positiva che determina l'effettivo esercizio del consenso? 
Se se ce lo dimentichiamo acceso e continuiamo la nostra giornata mentre continua a trasmettere?

Con questa telecamera, il consenso diventa permanente, senza più barriere. Una cambiale in bianco. 

Il consenso cambia rispetto quello che siamo abituati a rilasciare e a gestire.

Questo nuovo consenso non ha un nome, mi piacerebbe chiamaro in modo diverso perchè, a mio modo di vedere, è diverso: consenso permanente, consenso dimenticato o, peggio, consenso cieco.

Non sono sicuro che questo consenso cieco possa esser gestito come un consenso di tipo tradizionale che, di fatto, mantiene un collegamento molto stretto tra l'utente e l'esercizio del consenso stesso.

Nel caso del consenso cieco, anche se ho ricevuto un'informativa completa, articolata, anche se ho manifestato di aver compreso e ho autorizzato il trattamento, di fatto, perdo quella signoria sull'azione che attiva o disattiva il trattamento (il consenso stesso), delegando un altro soggetto (in questo caso una macchina) a decidere se e quando esercitare il consenso che ha ricevuto.

Non mi riferisco a quelle "firmette" o consenso distratti che vengono quotidianamente accordati e che rimangono abbastanza innocui.

Penso al fatto che venga meno quel memento quotidiano, quell'elemento concreto di gestione attiva che ogni individuo è abituato a gestire, magari in modo inconsapevole o inconscio, ma che funge da garanzia per arginare ogni abuso, per ricondurre alla persona la gestione dei suoi dati, delle sue scelte.

Se muta la natura del mio consenso, non dovrebbe mutare e adeguarsi anche l'informativa, in modo da riportare la piena consapevolezza e il controllo all'utente?

Peraltro, uno scenario simile si verifica con la condivisione della posizione di Google maps. Utilissima funzione per visualizzare sulla mappa la posizione di amici e parenti con i quali si desidera condividere la propria posizione. In questo caso, chi attiva il servizio riceve periodicamente un avviso, solo per ricordare che la condivisione è attiva. Così, ciascuno, ritorna padrone della propria scelta, in modo trasparente. Nel caso della telecamera, l'unico avviso è una sommessa lucetta bianca lampeggiante che nessuno assocerà mai alla registrazione in corso ma alla mera accensione del dispositivo. Anche perchè il segnale convenzionale di registrazione attiva è una luce rossa, non bianca.

Naturalmente le implicazioni sono note anche al produttore della telecamera che mi ha così tanto impensierito: sono stati correttamente visti e documentati dal produttore tutti i rischi e da subito si dichiara l’assenza di comunicazioni con server esterni  ed che il funzionamento dovrebbe essere possibile unicamente con un telefono associato in modo univoco sicuro, così da escludere l’utilizzabilità dei dati da parte di altri soggetti. 

Tuttavia non si fa cenno a questa permanenza del consenso rilasciato, a questo esercizio autonomo della telecamera, distante dall'azione della persona.

Mi vengono in mente tante altre implicazioni che mutano il peso di quel consenso che passa da ordinario a cieco.
Una per tutte, e tutta da esplorare, riguarda il peso della scelta. 
E' normale per ciascuno di noi scegliere quando fare una foto o quando fare una telefonata e non si tratta di una scelta banale nè universalmente condivisa. E' una scelta fortemente soggettiva.

Come tutti, ho scattato foto con amici e conoscenti in contesti professionali, in contesti familiari e in contesti privati. Posso decidere quando immortalare una situazione, posso decidere di non farlo se non lo ritengo opportuno.
Posso arrabbiarmi se il giudizio di un'altra persona non coincide con il mio e mi ritrovo immortalato in un contesto privato che posso giudicare inopportuno che venga condiviso o anche solo ricordato.

Ho ricevuto telefonate in orari inopportuni, ma avevo la facoltà di non rispondere e non far sentire i rumori ambientali, di non far ascoltare il parlato di sottofondo, di non far sentire gli schiamazzi della mia famiglia. Posso scegliere quando fare le mie telefonate, anche in relazione all'interlocutore: al capo non farei sentire rumori di fondo non professionali, all'amico posso far sentire le grida gioiose dei giochi domestici.
Ciò che per me è opportuno o inopportuno, per qualcun altro potrebbe essere valutato diversamente, però rimango libero di frequentare e condividere (acconsentire) la mia vita con persone cone le quali condivido anche valutazioni di questo tipo. 

Questa telecamera è diversa per un dettaglio: questo oggetto fa quello che vuole, a prescindere dalla volontà delle persone che sono davanti al suo obbiettivo, a prescindere dal contesto, dall'opportunità e dal giudizio soggettivo. Senza dircelo, senza ricordarcelo, sulla base di un consenso che non controlliamo più.

Questa telecamera richiede una consapevolezza alla quale non siamo abituati.

06 marzo 2018

IL PUZZLE DEI SISTEMI INFORMATIVI

Recenti attacchi di phishing (vedi qui) mi fanno riflettere su quanto siano vulnerabili le aziende che utilizzano una serie di micro-servizi in appoggio alla tecnologie principali. Quasi sempre, senza accorgersene, apriamo le porte digitali dei nostri sistemi senza avere una mappa precisa di dove queste siano e di chi abbia le chiavi.
Il caso specifico dell’attacco basato su mailchimp, principalmente localizzato in Italia, mostra come sia possibile sfruttare le vulnerabilità di semplici programmi, nati per estendere le funzionalità dei ben più articolati (e protetti) software con i quali sono costruiti siti o che servono per navigare su di essi… fino ai sistemi operativi che stanno alla base del funzionamento degli smartphone che tutti usiamo.
Si tratta di add-on, estensioni, plugin, applicazioni reperite sui marketplace che tutti conosciamo e che consideriamo attendibili e verificati e che, al contrario, si rivelano essere potenzialmente dannosi.
Non sempre le verifiche riescono ad escludere gli add-on dannosi in tempi rapidi e questo, unito a meccanismi sempre più rapidi e automatici di installazione, permette di diffondere malware facendo leva su quelli che, a tutti gli effetti, sono degli errori di gestione dei sistemi informativi aziendali o personali.
Pensando a come proteggersi da questi rischi, è necessario fare i conti con il fattore umano che, per me come per tutti, è fortemente condizionato dalla pigrizia: quanto è difficile gestire una miriade di piccoli fornitori di piccoli pezzettini di software? Quanto è difficile gestire chi produce o distribuisce add-on ed estensioni trovate sui marketplace ufficiali? Quanto è difficile mappare e analizzare individualmente tutti i trattamenti che questi add-on generano, specialmente quando è così semplice ed allettante considerarli inclusi in un più ampio software al quale, in realtà, si affiancano?
Penso che anche il più rigoroso amministratore di sistema faccia fatica a monitorare o gestire la proliferazione di questi software sui propri computer, tanto più se consideriamo che molti di essi hanno un funzionamento indipendente dalla singola macchina e vanno ad integrarsi con sistemi web-based, interfacce web di applicativi complessi o applicazioni completamente cloud.
Per comprendere la difficoltà di assicurare una protezione elevata, basta pensare ai componenti aggiuntivi di Gmail o alle funzioni Labs che possono essere facilmente attivate in modo invisibile rispetto alle configurazioni e alle protezioni dei computer utilizzati.
Il caso da cui sono partito non è nemmeno particolarmente sofisticato e si basa su normali Plugin di wordpress che vengono installati in abbondanza su ogni sito basato su questa tecnologia.
Come spesso accade, il progresso si nutre di errori costati lacrime e sangue e l’attenzione alla protezione che ieri poteva essere considerata una paranoia, oggi è una necessità.

Nasce Il Pensatoio

Nasce il pensatoio, un mio spazio, privato ma non troppo, autarchico, indipendente, critico e privo di freni inibitori o condizionamenti.
Non ho risposte ma ho un sacco di domande.
Il pensatoio nasce come personale necessità di ragionare liberamente, commettendo enormi errori, a volte esponendomi, alla ricerca di pallide tracce di possibili soluizioni.
Il pensatoio è accessibile, liberamente consultabile da chiunque perchè ho bisogno di condividere le ruminazioni, sia per un necessario confronto, sia nella speranza di poter offrire spunti di riflessione ad amici e colleghi.
Da appassionato cinefilo, il pensatoio trae ispirazione da un oggetto magico utilizzato dal Prof. Albus Dumbledore (in italiano, il Prof. Silente). Da appassionato e studioso di data protection, il pensatoio vuole accostarsi all'opera del, ben più reale, Prof Peter Fleischer il cui lavoro seguo ormai da 20 anni e che ha donato al mondo incredibili spunti di riflessione.
E sia… le danze sono aperte.