Sommario
Jan Leike, co-direttore del team Superalignment di OpenAI, ha annunciato le sue dimissioni dalla società. Questa decisione rappresenta un colpo significativo per OpenAI, un’azienda leader nella ricerca e nello sviluppo dell’intelligenza artificiale. Leike, noto per il suo ruolo cruciale nel garantire la sicurezza e l’allineamento dei sistemi AI con le intenzioni umane, ha espresso profonde preoccupazioni riguardo al cambio di priorità di OpenAI.
Il ruolo del team Superalignment
Il team Superalignment è stato istituito da OpenAI nel luglio 2023 con l’obiettivo principale di garantire che i sistemi AI con “superintelligenza” e “più intelligenti degli esseri umani” possano seguire le intenzioni umane. Al momento della sua creazione, OpenAI si era impegnata a investire il 20% della sua potenza di calcolo nei successivi quattro anni per garantire la sicurezza dei modelli AI, un’iniziativa vista come cruciale per lo sviluppo di tecnologie AI responsabili e sicure.
Turbolenze recenti in OpenAI
Le dimissioni di Leike arrivano in un periodo di turbolenze per OpenAI. Nel novembre 2023, quasi tutti i dipendenti di OpenAI avevano minacciato di dimettersi e seguire l’ex leader Sam Altman a Microsoft, in risposta alla decisione del consiglio di rimuovere Altman come CEO. La situazione è stata risolta con il ritorno di Altman come CEO e un rimpasto nel consiglio di amministrazione del ramo nonprofit dell’azienda.
Risposta della leadership di OpenAI
In risposta alle preoccupazioni di Leike, Greg Brockman e Sam Altman di OpenAI hanno dichiarato di aver aumentato la loro consapevolezza dei rischi legati all’AI e di continuare a migliorare il lavoro di sicurezza per affrontare i rischi di ogni nuovo modello. Tuttavia, le dimissioni di Leike e lo scioglimento del team Superalignment sollevano dubbi sulla capacità dell’azienda di dare priorità alla sicurezza e alla sicurezza nella sua ricerca di avanzamenti nell’AI.
Un estratto della loro risposta congiunta recita: “Siamo molto grati per tutto ciò che Jan ha fatto per OpenAI e sappiamo che continuerà a contribuire alla nostra missione esternamente. Alla luce di alcune delle domande sollevate dalla sua partenza, vorremmo spiegare il nostro pensiero sulla nostra strategia complessiva.”
Le dimissioni di Jan Leike evidenziano le sfide e le tensioni in corso all’interno della comunità di ricerca sull’AI. Man mano che le tecnologie AI continuano a progredire rapidamente, aziende come OpenAI devono dare priorità alla sicurezza e mantenere elevati standard di sicurezza per garantire che queste tecnologie siano utilizzate in modo responsabile. Le preoccupazioni di Leike riguardo al cambiamento di priorità di OpenAI servono come promemoria della necessità di trasparenza e responsabilità, con un impegno verso pratiche etiche nella ricerca e nello sviluppo dell’AI.
