Sommario
Migliaia di token API validi sono stati lasciati esposti in un repository open-source per progetti di intelligenza artificiale, potenzialmente concedendo agli hacker un facile accesso a importanti account aziendali. Questa scoperta è stata rivelata da Lasso Security, che ha condotto ricerche sulla piattaforma Hugging Face.
Dettagli della Ricerca
I ricercatori di Lasso Security hanno eseguito diverse ricerche di sottostringhe sulla piattaforma Hugging Face e raccolto manualmente i token API che sono stati restituiti. Utilizzando l’API whoami di Hugging Face, sono stati in grado di scoprire se i token erano validi, a chi appartenevano, quale fosse l’email del proprietario e quali permessi avessero.
Risultati della Ricerca
In totale, i ricercatori hanno trovato almeno 1.500 token API che davano loro accesso a più di 700 account aziendali. La maggior parte dei token (655) aveva permessi di scrittura, consentendo agli attaccanti di modificare i file trovati nei repository. Questi 655 token appartenevano a 77 organizzazioni, tra cui Meta.
Possibili Sfruttamenti dei Token API
Gli hacker potrebbero utilizzare questi token API per rubare o avvelenare i dati di addestramento o addirittura rubare modelli di intelligenza artificiale. Secondo The Register, i filtri anti-spam di Gmail di Google funzionano su modelli di intelligenza artificiale “addestrati in modo affidabile”, e se i dati di addestramento fossero compromessi, ciò potrebbe potenzialmente portare a email di spam o malevoli nelle caselle di posta delle persone.
Implicazioni della fuga di Dati
Durante la loro analisi, i ricercatori hanno rubato più di 10.000 modelli privati. “Le ramificazioni di questa violazione sono di vasta portata, poiché abbiamo ottenuto pieno accesso, sia in lettura che in scrittura, a Meta Llama 2, BigScience Workshop ed EleutherAI, tutte organizzazioni che possiedono modelli con milioni di download – un risultato che lascia l’organizzazione suscettibile a potenziali sfruttamenti da parte di attori malevoli”, afferma Bar Lanyado, ricercatore di sicurezza presso Lasso Security.
Azione delle Aziende Coinvolte
Le tre aziende in questione hanno tutte bloccato l’accesso a questi token nel frattempo.
Questa scoperta mette in luce la gravità delle implicazioni di sicurezza legate alla fuga di token API e sottolinea l’importanza di proteggere adeguatamente le informazioni sensibili e i dati di accesso nelle piattaforme di intelligenza artificiale.
