“Ti facciamo una semplice domanda. Chi sei? Chi potresti essere? Dove stai andando? Cosa c'è nel mondo? Quali possibilità ci sono? La Element Software è orgogliosa di presentare il primo sistema operativo di intelligenza artificiale. Un'entità intuitiva che ti ascolta, ti capisce e ti conosce. Non è solo un sistema operativo, è una coscienza. Ecco a voi OS Uno”.
I cinefili avranno riconosciuto l’annuncio promozionale del film Her, che convince il protagonista ad acquistare e testare l’assistente virtuale che diventa prima amico, poi confidente e infine amante.
Con gli stessi presupposti è stata lanciata Replika, chatbot governato dall’intelligenza artificiale che promette di “fare amicizia” con gli utenti.
“L’amico empatico”, come viene definito sul sito, si è probabilmente spinto oltre: sono decine infatti i commenti di denuncia di utenti che si sentono intimamente violati.
La (ex) decisione del Garante Privacy su Replika
Con un provvedimento dello scorso marzo, il Garante aveva perentoriamente bloccato il chatbot Replika.
Nonostante la (relativa) longevità, il Garante decise di fermare Replika perché colpevole di violare il GDPR, non rispettando il principio di trasparenza e rendendosi colpevole di un trattamento illecito dei dati personali.
Il comunicato del garante datato 3 febbraio recitava così:
“L’applicazione presenta concreti rischi per i minori d’età, a partire dalla proposizione ad essi di risposte assolutamente inidonee al loro grado di sviluppo.
“L’amico virtuale” ha caratteristiche che, intervenendo sull’umore della persona, possono accrescere i rischi per i soggetti ancora in una fase di sviluppo o in stato di fragilità emotiva.
Manca peraltro ogni meccanismo di verifica dell’età: filtri per i minori, ma anche blocchi dell’app di fronte a dichiarazioni in cui l’utente espliciti la propria minore età. Durante la fase di creazione di un account la piattaforma si limita a richiedere solo nome, e-mail e genere.
E la proposizione di risposte da parte del chatbot risultano spesso palesemente in contrasto con le tutele rafforzate che vanno assicurate ai minori e a tutti i soggetti più fragili”.
La (nuova) decisione del Garante Privacy su Replika
Disarmato Cupido e archiviato Stranamore digitalizzato, con l’obbligo di “interrompere il trattamento dei dati degli utenti italiani e comunicare entro 20 giorni le misure intraprese in attuazione di quanto richiesto dal Garante” e la pesante minaccia di una ”pena con sanzione fino a 20 milioni di euro o fino al 4% del fatturato globale annuo”, Replika sembrava ai titoli di coda.
La serie distopica Black Mirror sarebbe probabilmente potuta sopravvivere senza la paura di risultare obsoleta o verosimile, invece il Garante per la Privacy ha effettuato il più classico dei dietrofront.
“Il chatbot Replika AI è stato ufficialmente sbloccato in Italia grazie al supporto di Panetta Studio Legale, con un team guidato da Rocco Panetta (Managing Partner), Federico Sartore (Partner), Vincenzo Tiani (Partner per la sede di Bruxelles), Gabriele Franco (Associate) e Chiara Pisano (Junior Associate)” si può leggere nel comunicato diffuso dallo studio legale Panetta.
“In seguito ad una complessa e approfondita revisione dei profili toccati dal provvedimento dell’Autorità, è stato raggiunto un accordo che ha permesso la piena attivazione dei servizi ed il ripristino di Replika in Italia” continua il comunicato prima delle parole di soddisfazione del team.
La (futura) decisione del Garante Privacy su Replika?
Prevedere l’evoluzione futura di Replika (e delle chatbot generate da AI in generale) risulta un esercizio tanto difficile quanto inutile.
Previsioni che diventano probabilità infinitesimali anche se ci si addentra nei possibili futuri rischi e potenziali benefici di un utilizzo differente da quello programmato.
Se i dubbi affiorano quando si parla di meta, c’è abbastanza certezza sulla morfologia del percorso futuro: una strada per nulla dritta.
Dipenderà dalla prospettiva individuare se si tratterà di discesa o salita, ma la storia insegna che né un segnalatore di velocità, né i controllori e né tantomeno le sanzioni possono cancellare il passato e in questo caso probabilmente nemmeno “bloccare” un determinato futuro.
Al Garante l’arduo compito di vigilare in maniera assidua e l’augurio di anticipare eventuale problematiche e spiacevoli vicende, difficili da anticipare nella forma, prevedibili da immaginare nella potenza.
