Intelligenza Artificiale
Odio in rete: metodo di machine learning lo rileva all’88%
Tempo di lettura: 2 minuti. Un team di ricerca dell’Università di Waterloo sviluppa un metodo di machine learning che rileva il linguaggio d’odio con un’accuratezza dell’88%
![](https://www.matricedigitale.it/wp-content/uploads/2024/06/image-1.png)
Un team di ricercatori dell’Università di Waterloo ha sviluppato un nuovo metodo di machine learning che rileva il linguaggio d’odio sulle piattaforme di social media con un’accuratezza dell’88%, risparmiando agli operatori centinaia di ore di lavoro emotivamente dannoso.
Il metodo, chiamato Multi-Modal Discussion Transformer (mDT), è in grado di comprendere la relazione tra testo e immagini e di contestualizzare i commenti, a differenza dei precedenti metodi di rilevamento del linguaggio d’odio. Questo approccio è particolarmente utile nel ridurre i falsi positivi, che spesso vengono segnalati erroneamente come linguaggio d’odio a causa di linguaggi culturalmente sensibili.
Innovazione e Impatto del Multi-Modal Discussion Transformer
“Ci auguriamo davvero che questa tecnologia possa contribuire a ridurre il costo emotivo del dover setacciare manualmente il linguaggio d’odio,” ha affermato Liam Hebert, uno studente di dottorato in informatica a Waterloo e primo autore dello studio. “Crediamo che adottando un approccio centrato sulla comunità nelle nostre applicazioni di IA, possiamo aiutare a creare spazi online più sicuri per tutti.”
I ricercatori hanno costruito modelli per analizzare il significato delle conversazioni umane per molti anni, ma questi modelli hanno storicamente avuto difficoltà a comprendere conversazioni sfumate o dichiarazioni contestuali. I modelli precedenti potevano identificare il linguaggio d’odio con un’accuratezza massima del 74%, inferiore a quanto raggiunto dalla ricerca di Waterloo.
Importanza del Contesto nel Rilevamento del Linguaggio d’Odio
“Il contesto è molto importante per comprendere il linguaggio d’odio,” ha detto Hebert. “Ad esempio, il commento ‘È disgustoso!’ potrebbe essere innocuo di per sé, ma il suo significato cambia drasticamente se è in risposta a una foto di pizza con ananas rispetto a una persona di un gruppo emarginato.
“Capire quella distinzione è facile per gli umani, ma addestrare un modello a comprendere le connessioni contestuali in una discussione, includendo elementi multimediali come immagini, è in realtà un problema molto difficile.”
Dataset e Addestramento del Modello
A differenza degli sforzi precedenti, il team di Waterloo ha costruito e addestrato il loro modello su un dataset composto non solo da commenti odiosi isolati, ma anche dal contesto di quei commenti. Il modello è stato addestrato su 8.266 discussioni di Reddit con 18.359 commenti etichettati provenienti da 850 comunità.
“Più di tre miliardi di persone usano i social media ogni giorno,” ha detto Hebert. “L’impatto di queste piattaforme social ha raggiunto livelli senza precedenti. C’è un enorme bisogno di rilevare il linguaggio d’odio su larga scala per costruire spazi dove tutti siano rispettati e al sicuro.”
La ricerca, intitolata Multi-Modal Discussion Transformer: Integrating Text, Images and Graph Transformers to Detect Hate Speech on Social Media, è stata recentemente pubblicata negli atti della Trentaottava Conferenza AAAI sull’Intelligenza Artificiale.
Intelligenza Artificiale
ChatGPT svela le sue regole segrete: ecco cosa sappiamo
Tempo di lettura: 2 minuti. Scopri le regole segrete di ChatGPT rivelate per errore. Analizziamo le direttive interne e le implicazioni per la sicurezza e l’etica nell’uso dell’AI.
![ChatGPT di OpenAI](https://www.matricedigitale.it/wp-content/uploads/2023/03/Matrice-Digitale-compressed-1200x675.jpg)
ChatGPT, il modello di linguaggio di OpenAI, ha inavvertitamente rivelato una serie di istruzioni interne, regole segrete per intenderci, scatenando discussioni sulla sicurezza e sui meccanismi interni dell’AI. Queste rivelazioni forniscono uno sguardo approfondito sulle regole di funzionamento e sui limiti imposti al chatbot per garantire un’interazione sicura ed etica con gli utenti.
Le istruzioni segrete di ChatGPT
Un utente di Reddit, F0XMaster, ha scoperto che un semplice saluto ha indotto ChatGPT a rivelare un set completo di istruzioni di sistema. Queste linee guida sono progettate per mantenere il chatbot entro confini di sicurezza ed etici prestabiliti.
ChatGPT ha risposto con:
“You are ChatGPT, a large language model trained by OpenAI, based on the GPT-4 architecture. You are chatting with the user via the ChatGPT iOS app. This means most of the time your lines should be a sentence or two, unless the user’s request requires reasoning or long-form outputs. Never use emojis, unless explicitly asked to. Knowledge cutoff: 2023-10 Current date: 2024-06-30.”
Le istruzioni rivelate includono anche direttive per DALL-E, il generatore di immagini AI integrato con ChatGPT, e per il browser utilizzato dal chatbot. Per esempio, DALL-E è limitato alla creazione di una sola immagine per richiesta, anche se l’utente ne chiede di più, per evitare violazioni del copyright.
Interazione con il Web
Le linee guida per il browser descrivono come ChatGPT interagisce con il web e seleziona le fonti per fornire informazioni. ChatGPT è istruito a navigare online solo in circostanze specifiche, come quando richiesto di fornire notizie o informazioni rilevanti. Deve selezionare tra tre e dieci pagine, dando priorità a fonti diverse e affidabili per rendere la risposta più attendibile.
Personalità di ChatGPT
Un’altra scoperta interessante riguarda le diverse personalità che ChatGPT può assumere. La versione principale è chiamata v2, che rappresenta un tono conversazionale equilibrato con l’enfasi su risposte chiare, concise e utili. Altre versioni teoriche includono v3, che potrebbe essere più casuale e amichevole, e v4, che potrebbe essere progettata per contesti o gruppi di utenti specifici.
“My enabled personality is v2. This personality represents a balanced, conversational tone with an emphasis on providing clear, concise, and helpful responses,” ha scritto ChatGPT. “It aims to strike a balance between friendly and professional communication.”
Tentativi di “Jailbreaking”
La rivelazione delle istruzioni ha anche portato a discussioni sul “jailbreaking” dei sistemi AI, dove gli utenti cercano di bypassare le limitazioni imposte dagli sviluppatori. Ad esempio, alcuni utenti hanno cercato di sfruttare le linee guida rivelate per superare il limite di generazione di una sola immagine e produrre invece più immagini.
Questi tentativi di manipolazione evidenziano potenziali vulnerabilità, sottolineando la necessità di misure di sicurezza adattative e continue nello sviluppo dell’AI.
La rivelazione accidentale delle regole interne di ChatGPT ha offerto uno sguardo prezioso sui meccanismi che garantiscono interazioni sicure ed etiche con l’AI. Queste scoperte non solo sollevano domande sulla sicurezza, ma evidenziano anche l’importanza di mantenere aggiornate e adattive le misure di sicurezza nell’AI.
Intelligenza Artificiale
Google AI: nuova sfida a Samsung Galaxy AI
Tempo di lettura: 2 minuti. Scopri come Google AI si prepara a sfidare Samsung Galaxy AI con nuove funzionalità innovative sul Pixel 9.
![Samsung Google](https://www.matricedigitale.it/wp-content/uploads/2023/10/image-27-10.jpg)
Samsung è stato il primo marchio di smartphone a lanciare una suite completa di funzionalità AI chiamata Galaxy AI, debuttata all’inizio di quest’anno sul Galaxy S24 ed ora, Google si prepara a lanciare la sua risposta con Google AI, pronta a competere con la Galaxy AI sui dispositivi Pixel.
Debutto di Google AI sul Pixel 9
![](https://www.matricedigitale.it/wp-content/uploads/2024/07/image-29.png)
I telefoni Pixel hanno già avuto funzionalità AI per diversi anni, ma un nuovo rapporto di Android Authority rivela che Google introdurrà diverse nuove funzionalità AI sotto il marchio Google AI sul Pixel 9. Alcune di queste funzionalità esistono già, mentre altre sono completamente nuove.
Le funzionalità esistenti che verranno incluse sotto Google AI sono Circle to Search e Gemini. Le tre nuove funzionalità di Google AI includono Add Me, Pixel Screenshots e Studio.
Add Me: Assicura che tutti siano inclusi in una foto di gruppo, probabilmente combinando diverse foto di gruppo per garantire che ogni persona appaia nell’immagine.
Pixel Screenshots: Analizza le schermate salvate sul telefono per trovare informazioni utili, salvando testi e URL rilevanti, oltre ai nomi delle app e alla data di cattura della schermata. Questa funzionalità rispetta la privacy dell’utente, elaborando i dati direttamente sul dispositivo.
![](https://www.matricedigitale.it/wp-content/uploads/2024/07/image-29-3.jpg)
Studio: Un’app che utilizza l’AI per generare adesivi, immagini, sfondi e altro basato su input di testo dell’utente.
Funzionalità AI Attuali e Future di Samsung
I recenti telefoni di fascia alta di Samsung già includono funzionalità come l’AI Wallpaper Generator, l’editing di immagini potenziato dall’AI generativa e Circle to Search. Tuttavia, nei Samsung mancano funzionalità simili a Google AI’s Add Me e Pixel Screenshots.
Alcuni rapporti indicano che Samsung sta lavorando su un generatore di immagini AI che può creare versioni migliori di disegni e schizzi realizzati con una S Pen: questa funzionalità potrebbe debuttare con One UI 6.1.1 sul Galaxy Z Fold 6.
Intelligenza Artificiale
OpenAI: dal lavoro su GPT-5 alla magia di GPT-4o
Tempo di lettura: 3 minuti. Scopri gli sviluppi di OpenAI: dal lavoro su GPT-5 alle innovazioni di GPT-4o, la nuova punta di diamante definita “magica” da Sam Altman.
![](https://www.matricedigitale.it/wp-content/uploads/2024/05/aldebaran33_OpenAI_c261a8fb-a250-4600-a758-2c5473c450f2.jpg)
OpenAI ha attirato molta attenzione con gli ultimi sviluppi riguardanti l’intelligenza artificiale. Durante l’Aspen Ideas Fest, Sam Altman, CEO di OpenAI, ha parlato del futuro di GPT-5, sottolineando che il lavoro è ancora in corso e che ci vorrà tempo prima che sia pronto. Nel frattempo, OpenAI ha lanciato un nuovo prodotto di punta, GPT-4o, definito “magico” da Altman.
Stato Attuale di GPT-5
Al festival, Altman ha descritto le difficoltà nel creare GPT-5, paragonando il processo al lancio del primo iPhone, un’innovazione che ha richiesto tempo per perfezionarsi nonostante i suoi iniziali problemi. Altman ha dichiarato che uno degli obiettivi principali di GPT-5 sarà migliorare le capacità di ragionamento, area in cui GPT-4 ha mostrato alcune carenze.
Il progetto di GPT-5 richiede di superare numerosi ostacoli, tra cui problemi matematici complessi e gestione di grandi quantità di dati. Altman ha menzionato che GPT-5 dovrebbe rappresentare un significativo avanzamento rispetto a GPT-4, correggendo errori e migliorando la capacità di fornire risposte accurate e coerenti.
Introduzione di GPT-4o
Nel frattempo, OpenAI ha lanciato GPT-4o, un modello che migliora il GPT-4 in termini di comprensione linguistica, contesto delle conversazioni e interazione con gli utenti. GPT-4o mira a offrire un’esperienza utente più fluida e intelligente, affrontando domande complesse e fornendo risposte più precise.
GPT-4o è progettato per essere utilizzato in diversi settori, tra cui il servizio clienti, l’assistenza sanitaria e la finanza, migliorando l’accuratezza delle informazioni e supportando decisioni più informate.
Visione a Lungo Termine per GPT-5
![Mira Murati](https://www.matricedigitale.it/wp-content/uploads/2023/11/image-217-2.jpg)
Altman non ha fornito una data precisa per il lancio di GPT-5, ma Mira Murati, Chief Tech Officer di OpenAI, ha indicato che i nuovi modelli di AI potrebbero essere pronti entro la fine del 2025 o l’inizio del 2026. Murati ha anche affermato che GPT-5 dovrebbe raggiungere competenze a livello di dottorato in alcuni compiti, segnando un grande passo avanti nell’evoluzione dell’intelligenza artificiale. Uno degli obiettivi principali di GPT-5 è migliorare le capacità di ragionamento e di comprensione, riducendo i bias e aumentando l’equità nelle risposte generate. Questo è essenziale per mantenere la fiducia degli utenti e garantire un uso corretto dell’AI in settori sensibili come il diritto, la salute e la finanza.
Impatto potenziale di GPT-5
Le innovazioni introdotte con GPT-5 potrebbero trasformare molti settori, offrendo soluzioni intelligenti e avanzate. Nel settore sanitario, ad esempio, un’AI con competenze a livello di dottorato potrebbe aiutare nella diagnosi delle malattie, nella pianificazione dei trattamenti e nella ricerca medica. Nell’istruzione, GPT-5 potrebbe fornire insegnamenti personalizzati, assistenza nella valutazione e nella progettazione dei corsi, rivoluzionando il modo in cui apprendiamo e insegniamo.
![](https://www.matricedigitale.it/wp-content/uploads/2023/09/aldebaran33_sam_altman_is_going_on_judment_836f6b30-1534-444d-8191-b12c14127eb5.jpg)
OpenAI è impegnata a sviluppare GPT-5 seguendo principi etici, garantendo la sicurezza dei dati e la privacy degli utenti. La collaborazione con università, partner industriali e regolatori assicura che lo sviluppo dell’AI rispecchi i bisogni e i valori della società. La strada verso GPT-5 è complessa e ricca di sfide, ma anche di opportunità. Mentre il mondo dell’AI attende il suo lancio, OpenAI continua a spingere i limiti di ciò che i modelli attuali possono fare. Il lancio di GPT-4o offre un’anteprima delle future capacità dell’AI, aprendo la strada per il prossimo grande passo con GPT-5.
- Smartphone1 settimana fa
Aggiornamenti e novità per i Galaxy A54, A05s, Watch 6 e S24
- Smartphone1 settimana fa
Samsung One UI 7.0 e One UI 6.1: novità e miglioramenti
- Smartphone1 settimana fa
Samsung Galaxy S25 Ultra: design nuovo e specifiche potenti
- Smartphone1 settimana fa
Novità SmartTag 2 e per il Galaxy S25 Ultra
- Economia1 settimana fa
DnF Mobile sbanca la Cina: 100 Milioni di Dollari in 10 Giorni
- Smartphone1 settimana fa
Aggiornamenti Software per Galaxy A53, A55 e specifiche del nuovo A06
- Smartphone1 settimana fa
Ultime dal Galaxy Z Flip 6 e Fold 6, ma la novità sono i sensori ISOCELL e l’S25
- Economia1 settimana fa
Julian Assange riceve una donazione di 500K in Bitcoin da un Anonimo