Sommario
Meta Llama Stack, un framework open-source per lo sviluppo e il deployment di applicazioni generative AI, è stato al centro di un’importante scoperta di sicurezza. La vulnerabilità, denominata CVE-2024-50050, è stata identificata da Oligo Security e rappresenta un rischio significativo, con un punteggio CVSS di 9.3 (critico). Questo problema riguarda l’implementazione dell’API di inference, che utilizza il metodo recv_pyobj della libreria pyzmq in modo non sicuro, esponendo i server al rischio di esecuzione di codice arbitrario.
Come funziona la vulnerabilità
Il problema principale deriva dal modo in cui Meta Llama Stack deserializza oggetti Python utilizzando pickle, un modulo noto per essere intrinsecamente insicuro quando utilizzato con dati non affidabili.
- Processo vulnerabile: Il metodo
recv_pyobj, responsabile della ricezione di dati serializzati, utilizza il modulo pickle per deserializzare gli oggetti ricevuti. Se un attaccante invia dati malevoli attraverso la rete, può forzare il server a eseguire codice arbitrario durante il processo di deserializzazione. - Implicazioni: La vulnerabilità permette di compromettere il server, portando a furti di dati, utilizzo illecito delle risorse o controllo completo dei modelli AI ospitati.
Llama Stack: innovazione con un’ombra di rischio
Meta ha lanciato Llama Stack nel 2024 per supportare la famiglia di modelli Llama e offrire un ecosistema robusto per sviluppare applicazioni AI. Il framework ha rapidamente guadagnato popolarità grazie alla sua capacità di integrare funzionalità avanzate come inference, gestione della memoria e sicurezza. Tuttavia, l’uso non sicuro di pyzmq nella sua implementazione di riferimento ha esposto una debolezza che gli sviluppatori devono affrontare.
Risposta e mitigazione
Meta ha risposto rapidamente alla segnalazione di Oligo Security, correggendo la vulnerabilità con il rilascio della versione 0.0.41 del framework Llama Stack.
- Cambiamenti principali: La serializzazione tramite pickle è stata sostituita da un’implementazione JSON type-safe basata su Pydantic, che riduce notevolmente il rischio di exploit.
- Raccomandazioni agli utenti: Gli utenti sono invitati a eseguire immediatamente l’aggiornamento a Llama Stack 0.0.41 o versioni successive per proteggere i propri sistemi.
La lezione sulla sicurezza nell’open-source
Questo caso evidenzia l’importanza della sicurezza negli ambienti open-source, specialmente per tecnologie emergenti come i framework di intelligenza artificiale. Anche i giganti come Meta, pionieri di modelli come Llama, non sono immuni da vulnerabilità che sfruttano dipendenze di terze parti.
Il lavoro di manutentori come quelli di pyzmq, che hanno migliorato la documentazione per incoraggiare pratiche sicure, sottolinea l’importanza della collaborazione nella comunità open-source.
