Regola numero uno: mantenere il controllo!

Oggi, navigando nella posta elettronica, ho aperto una news ed ho incontrato un prodotto non particolarmente ammiccante,  simile a tanti altri, una piccola telecamera indossabile, capace di registrare per ore e, naturalmente, connessa. 

Non mi sono soffermato, poi, facendo tutt'altro, mi sono bloccato e ho sentito il bisogno impellente di approfondire: era troppo ordinaria per essere una novità, non poteva nascere con una tecnologia già superata, nessuno pubblicizza un prodotto se questo non ha qualche caratteristica che lo rende interessante, appetibile, desiderabile. Cosa mi sfugge?

Subito, dopo aver approfondito qualche dettaglio, come spesso accade, ho capito che proprio nei dettagli si annida la differenza. 

Si tratta a prima vista di una telecamera come le altre, ma dotata di un algoritmo, o meglio, di un sistema di intelligenza artificiale per il riconoscimento delle immagini e possiede la caratteristica di essere Always On: sempre accesa. Tecnicamente si può spegnere, ma è concepita per essere accesa, indossata e dimenticata.

Normalmente, acquistando una telecamera, scelgo io quando accenderla, quando spegnerla, dove puntarla, cosa riprendere. Il fatto che una telecamera sia always-on e che decida lei quali immagini conservare, la trasforma da un oggetto che, normalmente, è sotto il pieno controllo del proprietario, in un oggetto non più controllabile, autonomo, libero.

Dapiù parti (link - link - link - link - link) sono stati notati i rischi per la privacy degli utenti, specialmente perchè il sistema di intelligenza artificiale non si limita a valutare e decidere sulla base di aspetti di tipo tecnico dell'immagine (illuninazione corretta, contrasto ottimale, movimento e dinamicità della scena, presenza di sorrisi, ecc) ma permette di riconoscere parenti, volti interessanti o significativi per il proprietario... questo ovviamente implica un trattamento di elevato impatto (apprendimento, acquisizione dati, interconnessione dati, geolocalizzazione, acquisizione di dati che possono essere sensibili, o particolari, scelte automatizzate del dispositivo).

Condivido queste ansie in modo limitato: se l'utente è consapevole, informato e consenziente, non ci trovo nulla di scandaloso nel vendere un oggetto capace di tutto ciò. 

Ciò che continua a turbarmi non è la privacy in sè, quanto la perdita del controllo sul mio stesso consenso che, anche se posso essere inizialmente consenziente, mi priva di un reale controllo e, questo dettaglio,  muta la natura del mio consenso stesso.

Tutti noi siamo abituati ad acconsentire più o meno implicitamente ai trattamenti, anche estremamente critici, che gli oggetti di uso comune comportano. Penso al cellulare, tutti sappiamo che il cellulare trasmette l'audio alla persona a cui stiamo telefonando. Siamo consapevoli del nostro controllo: se non vogliamo trasmettere nulla, basta non telefonare, basta spegnere il telefono, basta premere il tasto mute durante una conversazione.

Ma se il telefono decidesse di registrare in autonomia i rumori o le conversazioni alle quali ha accesso per il solo fatto di essere fisicamente presente e attivo, a prescindere dall'effettivo nostro controllo, dalla pressione di un tasto, dall'azione positiva che determina l'effettivo esercizio del consenso? 

Se se ce lo dimentichiamo acceso e continuiamo la nostra giornata mentre continua a trasmettere?

Con questa telecamera, il consenso diventa permanente, senza più barriere. Una cambiale in bianco. 

Il consenso cambia rispetto quello che siamo abituati a rilasciare e a gestire.

Questo nuovo consenso non ha un nome, mi piacerebbe chiamaro in modo diverso perchè, a mio modo di vedere, è diverso: consenso permanente, consenso dimenticato o, peggio, consenso cieco.

Non sono sicuro che questo consenso cieco possa esser gestito come un consenso di tipo tradizionale che, di fatto, mantiene un collegamento molto stretto tra l'utente e l'esercizio del consenso stesso.

Nel caso del consenso cieco, anche se ho ricevuto un'informativa completa, articolata, anche se ho manifestato di aver compreso e ho autorizzato il trattamento, di fatto, perdo quella signoria sull'azione che attiva o disattiva il trattamento (il consenso stesso), delegando un altro soggetto (in questo caso una macchina) a decidere se e quando esercitare il consenso che ha ricevuto.

Non mi riferisco a quelle "firmette" o consenso distratti che vengono quotidianamente accordati e che rimangono abbastanza innocui.

Penso al fatto che venga meno quel memento quotidiano, quell'elemento concreto di gestione attiva che ogni individuo è abituato a gestire, magari in modo inconsapevole o inconscio, ma che funge da garanzia per arginare ogni abuso, per ricondurre alla persona la gestione dei suoi dati, delle sue scelte.

Se muta la natura del mio consenso, non dovrebbe mutare e adeguarsi anche l'informativa, in modo da riportare la piena consapevolezza e il controllo all'utente?

L'informativa che ho potuto vedere mi ascia perplesso.

Peraltro, uno scenario simile si verifica con la condivisione della posizione di Google maps. Utilissima funzione per visualizzare sulla mappa la posizione di amici e parenti con i quali si desidera condividere la propria posizione. In questo caso, chi attiva il servizio riceve periodicamente un avviso, solo per ricordare che la condivisione è attiva. Così, ciascuno, ritorna padrone della propria scelta, in modo trasparente. Nel caso della telecamera, l'unico avviso è una sommessa lucetta bianca lampeggiante che nessuno assocerà mai alla registrazione in corso ma alla mera accensione del dispositivo. Anche perchè il segnale convenzionale di registrazione attiva è una luce rossa, non bianca.

Naturalmente le implicazioni sono note anche al produttore della telecamera che mi ha così tanto impensierito: sono stati correttamente visti e documentati dal produttore tutti i rischi e da subito si dichiara l’assenza di comunicazioni con server esterni  ed che il funzionamento dovrebbe essere possibile unicamente con un telefono associato in modo univoco sicuro, così da escludere l’utilizzabilità dei dati da parte di altri soggetti. 

Tuttavia non si fa cenno a questa permanenza del consenso rilasciato, a questo esercizio autonomo della telecamera, distante dall'azione della persona.

Mi vengono in mente tante altre implicazioni che mutano il peso di quel consenso che passa da ordinario a cieco.

Una per tutte, e tutta da esplorare, riguarda il peso della scelta. 

E' normale per ciascuno di noi scegliere quando fare una foto o quando fare una telefonata e non si tratta di una scelta banale nè universalmente condivisa. E' una scelta fortemente soggettiva.

Come tutti, ho scattato foto con amici e conoscenti in contesti professionali, in contesti familiari e in contesti privati. Posso decidere quando immortalare una situazione, posso decidere di non farlo se non lo ritengo opportuno.

Posso arrabbiarmi se il giudizio di un'altra persona non coincide con il mio e mi ritrovo immortalato in un contesto privato che posso giudicare inopportuno che venga condiviso o anche solo ricordato.

Ho ricevuto telefonate in orari inopportuni, ma avevo la facoltà di non rispondere e non far sentire i rumori ambientali, di non far ascoltare il parlato di sottofondo, di non far sentire gli schiamazzi della mia famiglia. Posso scegliere quando fare le mie telefonate, anche in relazione all'interlocutore: al capo non farei sentire rumori di fondo non professionali, all'amico posso far sentire le grida gioiose dei giochi domestici.

Ciò che per me è opportuno o inopportuno, per qualcun altro potrebbe essere valutato diversamente, però rimango libero di frequentare e condividere (acconsentire) la mia vita con persone cone le quali condivido anche valutazioni di questo tipo. 

Questa telecamera è diversa per un dettaglio: questo oggetto fa quello che vuole, a prescindere dalla volontà delle persone che sono davanti al suo obbiettivo, a prescindere dal contesto, dall'opportunità e dal giudizio soggettivo. Senza dircelo, senza ricordarcelo, sulla base di un consenso che non controlliamo più.

Questa telecamera richiede una consapevolezza alla quale non siamo abituati.