Sommario
OpenAI ha confermato di aver sviluppato nuovi strumenti per rilevare contenuti scritti utilizzando ChatGPT. L’azienda ha creato nuovi algoritmi che aggiungono elementi simili a watermark nel testo generato da ChatGPT, rendendo più facile identificare tali scritti.
Dilemma di OpenAI per l’inserimento di watermark nei Testi AI-Generati
In un post sul blog ufficiale, OpenAI ha menzionato di aver sviluppato nuove tecniche per alcuni tipi di watermark testuali per i contenuti scritti da ChatGPT. L’algoritmo utilizza un formato specifico di parole e frasi che rende più facile ed efficace per OpenAI rilevare che un particolare testo è stato curato dai suoi modelli GPT.
Tuttavia, OpenAI ha anche detto che queste tecniche possono essere manomesse utilizzando strumenti di parafrasi AI di terze parti. Quindi, se un utente genera contenuti di testo in ChatGPT e poi li parafrasa utilizzando uno strumento esterno, OpenAI non sarà in grado di identificare che il contenuto riformulato è stato originariamente scritto da ChatGPT.
È importante notare che OpenAI non ha ancora implementato questi algoritmi. L’azienda ha sviluppato gli strumenti necessari ma sta decidendo se implementarli. OpenAI afferma che l’inserimento di watermark nel testo potrebbe danneggiare gli utenti non anglofoni di ChatGPT che utilizzano il chatbot per compiti produttivi e per scopi di traduzione.
Impatti e controversie
L’inserimento dei watermark potrebbe anche influenzare negativamente gli utenti che potrebbero essere criticati per l’uso di ChatGPT. D’altra parte, ChatGPT viene utilizzato ampiamente da studenti, creatori di contenuti, marketer, ecc., per la scrittura dei loro contenuti. Nel caso degli studenti, viene utilizzato per imbrogliare in alcuni esami e saggi, il che è diventato un problema.
OpenAI non ha divulgato una tempistica specifica per l’implementazione dei watermark testuali. Secondo un report del WSJ, un altro motivo per cui questa funzione non viene implementata è la preoccupazione che alcuni utenti smetterebbero di affidarsi agli strumenti se fossero presenti watermark.
Identificazione delle Immagini Generata da ChatGPT
OpenAI ha iniziato ad aggiungere metadati alle immagini generate utilizzando il modello AI DALL-E 3. Viene aggiunto un contesto come “Questo contenuto è stato generato utilizzando uno strumento AI”, menzionando il nome dello strumento e l’API utilizzata. L’azienda sta anche aggiungendo watermark a prova di manomissione alle sue immagini.
OpenAI utilizzerà ora algoritmi speciali per generare immagini, rendendole facili da rilevare. Anche se l’utente cerca di modificare l’immagine cambiandone i colori, il contrasto e altri elementi, OpenAI può ora identificare facilmente che una specifica immagine è stata creata utilizzando i modelli DALL-E 3 e GPT.
Questa tecnica è simile ai watermark invisibili trovati sulle banconote. OpenAI estenderà anche i suoi strumenti per rilevare le immagini AI-generate. I ricercatori e gli sviluppatori potranno presto accedere a questi strumenti per filtrare i media generati dall’AI.
