Sommario
Meta ha presentato un nuovo strumento AI chiamato ‘Voicebox’, che rappresenta un passo avanti nella generazione del linguaggio alimentata da AI. Tuttavia, l’azienda ha deciso di non rilasciarlo al pubblico per ora, poiché potrebbe avere conseguenze disastrose.
Capacità di Voicebox
Voicebox è attualmente in grado di produrre clip audio di discorsi in sei lingue europee. Secondo un post sul blog di Meta, è il primo modello AI del suo genere in grado di completare compiti oltre a quelli per cui è stato specificamente addestrato. Meta sostiene che Voicebox supera di gran lunga le AI di generazione del linguaggio concorrenti in quasi tutti gli aspetti.
Potenziale distruttivo
Voicebox può produrre repliche di testo in voce ragionevolmente accurate della voce di una persona utilizzando un file audio di esempio lungo appena due secondi. Questa capacità, apparentemente innocua, potrebbe avere un enorme potenziale distruttivo se finisse nelle mani sbagliate.
Potere del Dubbio dell’AI
Questa è la tipologia di tecnologia che potrebbe letteralmente iniziare una guerra. Dopo tutto, la maggior parte delle figure pubbliche, compresi i politici, hanno molte registrazioni audio disponibili su internet. Non sarebbe difficile raccogliere alcune clip di discorsi di un leader politico in carica e utilizzare Voicebox per produrre una replica della loro voce sorprendentemente realistica, che potrebbe poi essere utilizzata per scopi nefasti.
Benefici potenziali
Nonostante Meta sottolinei il “potenziale di abuso e danno involontario” di strumenti come Voicebox, è importante non perdere di vista i potenziali benefici che la generazione del linguaggio AI potrebbe avere in futuro. Voicebox potrebbe fornire un linguaggio molto più naturale a persone mute o altrimenti incapaci di comunicare, rimuovendo alcuni degli ostacoli all’interazione causati dalla voce ‘robotica’ del testo al parlato resa famosa dal fisico Stephen Hawking. Potrebbe anche eseguire traduzioni in tempo reale, avvicinandoci a dispositivi di ‘traduzione universale’ che attualmente esistono solo nella fantascienza.
