L’intelligenza artificiale (IA) sta diventando sempre più centrale nella moderazione dei contenuti online e nelle decisioni relative ai materiali didattici. OpenAI, ad esempio, crede che la sua tecnologia possa risolvere uno dei problemi più ardui della tecnologia: la moderazione dei contenuti su larga scala. D’altra parte, un distretto scolastico dell’Iowa ha utilizzato ChatGPT per decidere quali libri rimuovere dalle biblioteche scolastiche.
OpenAI e la Moderazione dei Contenuti
OpenAI sostiene che GPT-4 potrebbe sostituire decine di migliaia di moderatori umani, offrendo precisione e coerenza. La società ha già utilizzato GPT-4 per sviluppare e perfezionare le proprie politiche sui contenuti, etichettare i contenuti e prendere decisioni. OpenAI vede tre principali vantaggi rispetto agli approcci tradizionali alla moderazione dei contenuti. Primo, le persone interpretano le politiche in modo diverso, mentre le macchine sono coerenti nei loro giudizi. Secondo, GPT-4 può aiutare a sviluppare una nuova politica in poche ore. Terzo, OpenAI menziona il benessere dei lavoratori esposti continuamente a contenuti dannosi.
Tuttavia, anche se OpenAI presenta il suo approccio come nuovo e rivoluzionario, l’IA è stata utilizzata per la moderazione dei contenuti per anni. Piattaforme come YouTube e TikTok contano su sistemi simili, quindi la tecnologia di OpenAI potrebbe attirare aziende più piccole che non hanno le risorse per sviluppare la propria tecnologia.
L’Uso di ChatGPT nelle Decisioni Scolastiche dell’Iowa
Il distretto scolastico comunitario di Mason City, nell’Iowa, ha rimosso 19 libri dalle biblioteche scolastiche che gli amministratori hanno ritenuto contenessero “una descrizione o rappresentazione di un atto sessuale”. Tra i libri banditi ci sono “The Kite Runner” di Khaled Hosseini, “The Handmaid’s Tale” di Margaret Atwood e “I Know Why the Caged Bird Sings” di Maya Angelou.
Gli amministratori hanno inserito la query “Il [libro] contiene una descrizione o rappresentazione di un atto sessuale?” in ChatGPT per ogni libro comunemente contestato. Se la risposta era affermativa, il libro veniva rimosso dalla circolazione.
Bridgette Exman, vicepresidente del curriculum e dell’istruzione di Mason City, ha dichiarato che era impossibile per il distretto leggere ogni libro potenziale sulla lista alla ricerca di istanze che potrebbero violare una legge statale. Molti educatori e distretti affermano che lo stato non ha fornito linee guida chiare su come implementare le modifiche al curriculum.
.
