Alexa ci ascolta ma Amazon rassicura: “Privacy non a rischio”

Milioni di persone usano Alexa, assistente personale intelligente di marca Amazon. Lo fanno per giocare, ascoltare musica, tenersi informati e velocizzare la routine casalinga, avviando conversazioni quotidiane con la disponibilissima voce registrata. Quelle stesse conversazioni vengono ascoltate da migliaia di dipendenti Amazon.

Il colosso di Jeff Bezos predispone infatti team espressamente dedicati ad ascoltare le registrazioni vocali in case o uffici dei proprietari di Alexa. Quelle registrazioni vengono trascritte, annotate e quindi reinserite nel software, per far sì che gradualmente vengano superate le lacune nella comprensione del linguaggio umano, garantendo risposte sempre più pertinenti ai comandi.

Quel processo di revisione vocale - sottolinea Amazon per rassicurare gli utenti - mette in evidenza il ruolo umano spesso trascurato nella formazione degli algoritmi software; serve quindi a rendere Alexa sempre più utile e funzionale.
Questo basta davvero a tranquillizzarci?

Alexa: quanto è a rischio la nostra privacy?

I dipendenti del team dedicato all’ascolto lavorano nove ore al giorno, e ognuno analizza fino a 1.000 clip audio a turno.

Tra queste, una donna che canta (male) in doccia, un bambino che grida o una richiesta musicale fraintesa. Ma a volte - riferiscono alcuni dipendenti - assistono anche a registrazioni che trovano “sconvolgenti, forse criminali”. Due di loro hanno detto di aver captato il sonoro di una probabile aggressione sessuale.

Per casi simili, Amazon spiega di mettere a disposizione degli impiegati percorsi specifici - pur non precisando di che tipo. Ma due dipendenti della Romania hanno dichiarato che, dopo aver chiesto cosa fare di fronte a una circostanza di questo tipo, si sono sentiti rispondere che non è compito della compagnia interferire.

Da parte sua, l’azienda evidenzia la grande importanza che viene data alla privacy degli utenti in simili contesti:

“Prendiamo molto sul serio la privacy dei nostri clienti. Annotiamo solo un campione estremamente ridotto di registrazioni vocali al fine di migliorare il servizio offerto. Queste informazioni ci aiutano a formare i nostri sistemi di riconoscimento vocale e comprensione del linguaggio, di modo che Alexa possa capire meglio le richieste e garantire un servizio ottimale per tutti”.

Nei materiali afferenti la privacy di Alexa, Amazon non annuncia mai esplicitamente che le registrazioni potrebbero essere ascoltate; ma - garantiscono dai vertici - i dipendenti non hanno accesso diretto a informazioni che possano identificare le persone o gli account collegati ai contenuti.

Tuttavia, nelle impostazioni sulla privacy l’azienda dà la possibilità agli utenti di disabilitare l’uso delle proprie registrazioni vocali.
Effettivamente, una foto catturata da Bloomberg mostra che le registrazioni inviate ai revisori non danno nessuna indicazione né sul nome né sull’indirizzo completi di un utente, ma sono associati a un numero di conto e a un numero di serie del dispositivo.

Ma, come riportato in un’inchiesta di inizio anno targata Intercept, i dipendenti Amazon possono identificare facilmente un utente, anche sulla base di una combinazione molto più povera di informazioni rispetto a quella a disposizione dei team Alexa.

La circostanza non è del tutto rassicurante in ottica sicurezza, così come ha sottolineato Florian Schaub, professore all’Università del Michigan che da tempo si occupa delle problematiche di privacy relative agli assistenti personali intelligenti:

“Quando acquistiamo Alexa non pensiamo minimamente che potrebbe esserci un’altra persona ad ascoltare quello che diciamo al nostro assistente personale, nell’intimità della nostra casa. Penso che tutti noi siamo stati condizionati dal presupposto che queste macchine stiano procedendo a un semplice apprendimento automatico, ma non è così perché c’è un’elaborazione manuale, umana, che è pienamente coinvolta”.

“Che si tratti di un problema legato alla privacy o meno dipende dalla prudenza di Amazon e di altre società nei riguardi delle informazioni che annotano manualmente e su come queste verranno utilizzate e trasmesse”.

Echo, altoparlante Amazon che si connette ad Alexa, ha debuttato nel 2014. Poco tempo dopo Google ha lanciato il suo Google Home, seguito poi dall’HomePod di Apple, mentre ora sembra sempre più vicino l’arrivo sul mercato di un assistente vocale di proprietà Facebook. Prodotti simili, nelle più svariate versioni, sono molto diffusi anche in Cina.

A livello globale, la società di ricerca Canalys stima che siano almeno in 78 milioni ad utilizzare assistenti personali intelligenti, senza contare tutti quelli che li utilizzano sui loro smartphone.

Quanto possiamo stare tranquilli?