Snapchat sta affrontando il rischio di un divieto nel Regno Unito a causa della sua funzione “My AI”, a seguito delle preoccupazioni che potrebbe mettere a rischio la privacy dei bambini. Questo segue l’indignazione degli utenti per l’integrazione di ChatGPT e le preoccupazioni suscitate quando il chatbot ha iniziato a comportarsi in modo inaspettato.
Dettagli sulla funzione “My AI”
La funzione “My AI” di Snapchat rappresenta l’integrazione di ChatGPT, aggiunta all’app a febbraio. “Oggi lanciamo My AI, un nuovo chatbot che utilizza l’ultima versione della tecnologia GPT di OpenAI, personalizzata per Snapchat. My AI è disponibile come funzione sperimentale per gli abbonati a Snapchat+, con il rilascio previsto per questa settimana”. Tuttavia, già all’epoca, la società aveva sentito la necessità di avvertire gli utenti di non condividere segreti con l’IA, poiché le informazioni condivise non sono private. Tutte le conversazioni con “My AI” vengono archiviate e potrebbero essere esaminate per migliorare l’esperienza del prodotto.
Il Regno Unito sollecita una revisione sulla privacy
Il regolatore della privacy del Regno Unito, l’Information Commissioner’s Office (ICO), ha dichiarato che sembra che la società non abbia effettuato una corretta valutazione dei rischi in relazione alla privacy dei bambini. “L’indagine dell’ICO ha trovato in modo provvisorio che Snap non ha adeguatamente identificato e valutato i rischi per diversi milioni di utenti ‘My AI’ nel Regno Unito, compresi i bambini di età compresa tra 13 e 17 anni”. L’ICO sottolinea che questa è solo una conclusione provvisoria e che è aperta alle rappresentazioni dell’azienda per dimostrare che le sue conclusioni sono errate. Tuttavia, se la società non riesce a farlo, la funzione potrebbe essere vietata nel Regno Unito.
Possibili conseguenze
Se venisse adottato un avviso di esecuzione finale, Snap potrebbe essere obbligata a interrompere l’elaborazione dei dati in relazione a “My AI”. Ciò significherebbe non offrire il prodotto “My AI” agli utenti del Regno Unito fino a quando Snap non avrà effettuato una valutazione del rischio adeguata.