Tempo di lettura: 2 minuti. Uno studio di Cambridge evidenzia l'importanza di misure proattive per garantire che i chatbot AI siano sicuri per i bambini, proponendo un quadro di 28 punti per la sicurezza.">Chatbot AI e sicurezza dei bambini: analisi approfondita -
Connect with us

Intelligenza Artificiale

Chatbot AI e sicurezza dei bambini: analisi approfondita

Tempo di lettura: 2 minuti. Uno studio di Cambridge evidenzia l’importanza di misure proattive per garantire che i chatbot AI siano sicuri per i bambini, proponendo un quadro di 28 punti per la sicurezza.

Pubblicato

in data

Tempo di lettura: 2 minuti.

Recenti studi condotti dall’Università di Cambridge hanno evidenziato la necessità di misure proattive per garantire che i chatbot AI siano sicuri per i bambini. Nonostante le risposte rapide delle aziende nell’implementare misure di sicurezza, emerge la necessità di un approccio sistematico e a lungo termine.

La Ricerca di Dr Kurian

Dr Nomisha Kurian, durante il suo dottorato di ricerca sul benessere dei bambini presso la Facoltà di Educazione dell’Università di Cambridge, ha sviluppato un quadro di 28 punti per aiutare aziende, insegnanti, leader scolastici, genitori, sviluppatori e politici a riflettere sistematicamente su come mantenere i giovani utenti al sicuro quando interagiscono con i chatbot AI.

Innovare Responsabilmente

Dr Kurian, ora presso il Dipartimento di Sociologia di Cambridge, sottolinea nel suo articolo sulla rivista “Learning, Media and Technology” che l’AI ha un potenziale enorme, il che rende ancora più cruciale l’innovazione responsabile. I bambini sono probabilmente gli stakeholder più trascurati dell’AI. Pochi sviluppatori e aziende hanno politiche ben stabilite su come dovrebbe essere e suonare un’AI sicura per i bambini.

Necessità di Politiche Strutturali

La tecnologia AI è stata adottata su larga scala solo recentemente, il che spiega la mancanza di politiche consolidate. Tuttavia, ora che l’uso è diffuso, la sicurezza dei bambini dovrebbe informare l’intero ciclo di progettazione per ridurre il rischio di incidenti pericolosi. Dr Kurian sottolinea l’importanza di non aspettare che le aziende si correggano dopo che i bambini sono stati messi a rischio, ma di integrare la sicurezza dei bambini fin dall’inizio del processo di sviluppo.

Implementazione del Quadro di Sicurezza

Il quadro di 28 punti proposto da Dr Kurian offre linee guida dettagliate per garantire la sicurezza dei bambini quando interagiscono con i chatbot AI. Questo quadro può essere utilizzato da vari attori, inclusi sviluppatori di software, educatori e genitori, per creare ambienti digitali più sicuri per i giovani utenti. L’adozione di misure di sicurezza proattive per i chatbot AI è essenziale per proteggere i bambini e garantire che possano beneficiare delle tecnologie emergenti senza rischi. L’approccio sistematico proposto da Dr Kurian rappresenta un passo avanti significativo verso un’innovazione responsabile nell’era dell’intelligenza artificiale.

Link all’articolo completo su Cambridge

Intelligenza Artificiale

Mozilla e Apple commissionano studi sull’AI

Tempo di lettura: 3 minuti. Mozilla esamina i limiti dell’accesso ai modelli AI da parte dei ricercatori e la concentrazione di potere nelle mani delle Big Tech. Apple rivela i limiti logici degli attuali modelli di AI nel risolvere semplici problemi matematici.

Pubblicato

in data

Tempo di lettura: 3 minuti.

L’intelligenza artificiale (AI) è al centro di innovazioni tecnologiche fondamentali, ma solleva domande critiche sul controllo e sull’accesso ai modelli avanzati. Da un lato, Mozilla ha commissionato studi per esaminare come i grandi player tecnologici, come Google e OpenAI, limitino l’accesso agli strumenti AI, dall’altro, Apple ha dimostrato i limiti logici degli attuali modelli di AI, incapaci di risolvere problemi matematici scolastici di base.

Accesso ai modelli AI: il problema dell’innovazione concentrata

Mozilla ha pubblicato due rapporti chiave che affrontano l’accesso agli strumenti AI da parte di ricercatori esterni e la crescente concentrazione di potere nelle mani di poche aziende tecnologiche. Il primo studio, intitolato External Researcher Access to Closed Foundation Models, evidenzia come i ricercatori indipendenti abbiano difficoltà ad accedere ai modelli di base sviluppati da giganti come Google o OpenAI. Questi modelli, che formano il cuore di molte applicazioni AI, sono spesso riservati a progetti allineati agli interessi aziendali, limitando la ricerca pubblica e indipendente. Anche quando l’accesso è concesso, i costi elevati e la mancanza di trasparenza impediscono un’analisi approfondita.

Mozilla
Mozilla

Il secondo rapporto, Stopping Big Tech From Becoming Big AI, esplora come le grandi aziende tecnologiche controllino i principali strumenti necessari per sviluppare l’AI, come potenza di calcolo, dati e infrastrutture cloud. Questa concentrazione ostacola l’innovazione, poiché le piccole imprese non riescono a competere. Il rapporto propone interventi governativi per prevenire la creazione di un monopolio dell’AI simile a quello osservato nei mercati digitali negli ultimi venti anni.

Apple: i limiti matematici dell’intelligenza artificiale

Dall’altra parte, uno studio condotto da Apple ha rivelato le gravi carenze dei modelli linguistici avanzati (LLM) nell’affrontare problemi matematici elementari. Il rapporto intitolato GSM-Symbolic: Understanding the Limitations of Mathematical Reasoning in Large Language Models ha testato i modelli di AI su una serie di 8.000 problemi matematici scolastici. Il semplice cambiamento della formulazione dei problemi, senza alterare la logica, ha causato cali significativi nelle prestazioni dei modelli, con riduzioni fino al 65.7%.

Questo risultato mostra che gli LLM non risolvono i problemi attraverso una vera comprensione logica, ma si affidano a modelli di riconoscimento di schemi. La loro incapacità di gestire variazioni semantiche semplici mette in discussione l’efficacia dell’AI attuale, che sembra ancora lontana dall’ottenere capacità di ragionamento avanzato, come la manipolazione simbolica utilizzata in algebra e programmazione.

Mozilla
Mozilla

Sia lo studio di Mozilla sull’accesso ai modelli di AI, sia la ricerca di Apple sui limiti logici di questi strumenti, evidenziano problematiche cruciali nel campo dell’intelligenza artificiale. Da un lato, pochi giganti tecnologici stanno monopolizzando l’accesso e lo sviluppo delle tecnologie AI, soffocando l’innovazione e limitando la ricerca indipendente. Dall’altro, i modelli AI attuali, nonostante i progressi, mostrano ancora gravi limiti nella loro capacità di ragionare e risolvere problemi matematici di base.

Prosegui la lettura

Intelligenza Artificiale

UroBot: LLM che supera i medici nella diagnosi urologica

Tempo di lettura: 3 minuti. UroBot, il chatbot AI sviluppato dal DKFZ, supera i medici esperti nell’accuratezza delle risposte in ambito urologico.

Pubblicato

in data

Tempo di lettura: 3 minuti.

Recentemente, il Centro Tedesco di Ricerca sul Cancro (DKFZ) ha annunciato uno straordinario progresso nel campo della medicina assistita dall’intelligenza artificiale. In collaborazione con l’Ospedale Universitario di Mannheim, il team ha sviluppato UroBot, un chatbot basato su intelligenza artificiale che ha dimostrato di poter rispondere a domande specialistiche in urologia con una precisione superiore rispetto ai medici esperti. UroBot è stato testato su un ampio spettro di quesiti clinici, rispondendo con una precisione dell’88,4%, un risultato che lo rende superiore a modelli di linguaggio generici come GPT-4o e alla media delle prestazioni degli urologi umani.

UroBot e la complessità delle linee guida urologiche

Con il progresso dell’oncologia personalizzata, le linee guida per il trattamento urologico sono diventate estremamente complesse. Questo rende sempre più difficile per i medici rimanere aggiornati su tutte le opzioni terapeutiche disponibili, soprattutto nei contesti clinici dove il tempo è limitato. La necessità di un sistema di supporto basato su intelligenza artificiale, capace di offrire secondi pareri e assistenza in decisioni complesse, è evidente.

UroBot nasce proprio da questa esigenza. Basato sul modello GPT-4o di OpenAI, il chatbot è stato migliorato con l’ausilio di una metodologia chiamata retrieval-augmented generation (RAG). Questo metodo permette a UroBot di consultare centinaia di documenti rilevanti, tra cui le linee guida della European Society of Urology, per fornire risposte accurate e giustificate da fonti affidabili.

Le prestazioni di UroBot rispetto agli urologi umani

Durante i test, UroBot è stato valutato su 200 domande provenienti dall’esame specialistico dell’European Board of Urology. La sua capacità di fornire risposte corrette ha superato di 10,8 punti percentuali il modello GPT-4o standard, dimostrando che l’integrazione delle linee guida urologiche migliora significativamente la performance. Inoltre, l’accuratezza del chatbot è stata verificata con attenzione dagli esperti clinici, i quali hanno potuto constatare la sua affidabilità e consistenza.

Con una precisione del 88,4%, UroBot non solo ha superato il modello GPT-4o (77,6%), ma ha anche mostrato prestazioni superiori rispetto alla media degli urologi umani, che è di circa il 68,7%. Questa differenza indica il potenziale dell’intelligenza artificiale nel fornire assistenza clinica nelle decisioni complesse, riducendo l’incertezza diagnostica e migliorando la qualità della cura.

L’importanza dell’intelligenza artificiale nella medicina futura

Titus Brinker, leader del progetto al DKFZ, ha evidenziato l’importanza di sistemi come UroBot nell’assistenza medica del futuro. Con l’aumento della complessità nelle decisioni terapeutiche e la necessità di personalizzare i trattamenti oncologici, l’uso di modelli di linguaggio in grado di consultare le linee guida mediche sarà cruciale per garantire cure basate su evidenze scientifiche. UroBot, con la sua precisione e verificabilità, rappresenta un passo avanti nell’uso di tecnologie AI per migliorare l’assistenza clinica.

L’evoluzione di UroBot e le future applicazioni

La squadra di ricerca ha reso pubblici i codici sorgente e le istruzioni per l’uso di UroBot, per promuovere ulteriori sviluppi nel campo dell’urologia e in altre discipline mediche. Questo rende possibile l’adattamento di UroBot a diverse specialità, potenzialmente estendendo i benefici dell’intelligenza artificiale a molte altre aree della medicina.

Prosegui la lettura

Intelligenza Artificiale

Modello computazionale curerà malattie neurodegenerative?

Tempo di lettura: 3 minuti. Modelli computazionali avanzati simulano la crescita neuronale, offrendo nuove opportunità per il trattamento delle malattie neurodegenerative.

Pubblicato

in data

Tempo di lettura: 3 minuti.

L’approfondimento dei modelli di crescita neuronale attraverso strumenti di simulazione sta offrendo nuove opportunità per la comprensione dello sviluppo del cervello e il trattamento delle malattie neurodegenerative. La ricerca, come dimostrato nell’articolo “Calibration of stochastic, agent-based neuron growth models” pubblicato sul Journal of Mathematical Biology, presenta un sofisticato modello computazionale basato su agenti (ABM) che mira a simulare accuratamente la crescita dei neuroni, partendo da premesse biologiche, per arrivare alla calibrazione dei dati reali.

L’approccio descritto in questo studio si basa su un processo stocastico e viene risolto mediante approssimazioni Bayesiane, rendendo possibile la determinazione delle incertezze nei parametri biologici. In particolare, l’algoritmo riesce a rappresentare in modo realistico le diverse fasi di crescita neuronale, quali l’estensione e la ramificazione dei dendriti, il tutto influenzato dalla disponibilità di risorse interne e dall’interazione con segnali guida esterni. Ciò consente una comprensione più profonda dei meccanismi che regolano la formazione delle reti neurali e offre potenziali applicazioni nello studio di patologie neurologiche.

Crescita Neurale: modelli stocastici e biologici

Il modello proposto utilizza simulazioni 3D agent-based per la crescita neuronale, in cui gli agenti rappresentano segmenti cilindrici corrispondenti a porzioni di dendriti e assoni, iniziando dal soma (corpo cellulare). La crescita è determinata da regole stocastiche basate su dati biologici e risorse disponibili, con un’attenzione particolare al consumo di tubulina, proteina essenziale per la costruzione del citoscheletro. Il modello analizza il comportamento di “elongazione” o “retracting” dei coni di crescita neuronale, enfatizzando come i fattori esterni e le risorse interne determinino la complessità delle ramificazioni neurali.

Lo studio conferma che i neuroni, durante la fase di crescita, mostrano una competizione per le risorse che influenza la morfologia finale, come documentato da esperimenti precedenti (Hirokawa et al., 2010). Le simulazioni hanno riprodotto accuratamente le complesse strutture ramificate dei neuroni sensoriali, aprendo la strada a una comprensione dettagliata della neurogenesi.

La simulazione della crescita neurale nel contesto del Trattamento delle Malattie

Parallelamente, l’Università di Surrey ha recentemente sviluppato un nuovo metodo di simulazione che imita la crescita neuronale del cervello umano, con un chiaro obiettivo applicativo nella cura delle malattie neurodegenerative come l’Alzheimer e il Parkinson. La simulazione proposta rappresenta un grande passo avanti nel fornire modelli che possano essere utilizzati per testare nuovi farmaci e trattamenti terapeutici, senza dover ricorrere esclusivamente a modelli biologici complessi e spesso costosi.

Il nuovo approccio computazionale potrebbe accelerare notevolmente lo sviluppo di terapie mirate, dato che è capace di simulare non solo la crescita, ma anche le interazioni neuronali in un ambiente controllato. Questo tipo di simulazioni è essenziale per comprendere le cause alla base della degenerazione neuronale e per testare nuovi interventi.

L’integrazione di modelli stocastici basati su agenti con la simulazione della crescita neuronale offre una nuova frontiera per lo studio e il trattamento delle malattie neurodegenerative. Queste tecniche non solo permettono una maggiore comprensione dei processi biologici alla base della neurogenesi, ma forniscono anche strumenti fondamentali per il testing di nuovi approcci terapeutici. La sinergia tra biologia computazionale e applicazioni cliniche potrà offrire un futuro più promettente per il trattamento delle malattie del sistema nervoso centrale.

Prosegui la lettura

Facebook

CYBERSECURITY

Sicurezza Informatica1 giorno fa

CISA: vulnerabilità SolarWinds e linee guida sulla sicurezza degli ICS

Tempo di lettura: 3 minuti. CISA rilascia linee guida sulla trasparenza dei componenti software e avvisi critici su vulnerabilità nei...

Sicurezza Informatica2 giorni fa

ATM hackerati, TrickBot e robot domestici violati

Tempo di lettura: 4 minuti. Dalla nuova variante di FASTCash che ruba denaro dagli ATM a TrickMo che ruba PIN...

Sicurezza Informatica3 giorni fa

Vulnerabilità critiche in Veeam, Mongolian Skimmer

Tempo di lettura: 5 minuti. Le vulnerabilità critiche in Veeam e le nuove tecniche di attacco come il Mongolian Skimmer...

Sicurezza Informatica6 giorni fa

Attacchi ransomware e vulnerabilità critiche in ICS, GitLab e Veeam

Tempo di lettura: 4 minuti. Le minacce alla sicurezza informatica continuano a rappresentare una sfida globale, con nuove vulnerabilità che...

Sicurezza Informatica7 giorni fa

Mozilla e Microsoft: vulnerabilità risolte su Firefox e Word

Tempo di lettura: 2 minuti. Aggiornamenti critici per Firefox, Windows 11 e Microsoft Word risolvono vulnerabilità e bug che potevano...

Sicurezza Informatica7 giorni fa

Nuove vulnerabilità sfruttate su Fortinet, Ivanti e Palo Alto Networks

Tempo di lettura: 2 minuti. CISA segnala vulnerabilità critiche in Fortinet e Ivanti, mentre Palo Alto Networks avverte di possibili...

Sicurezza Informatica1 settimana fa

Perchè è importante fare backup nel cloud?

Tempo di lettura: 6 minuti. Perchè è importante fare il backup nel cloud? Per non incorrere in danni irreversibili in...

Microsoft CoPilot Microsoft CoPilot
Sicurezza Informatica1 settimana fa

Mamba 2FA e Microsoft Edge Copilot Vision: novità e rischi

Tempo di lettura: 2 minuti. Mamba 2FA e Microsoft Edge Copilot Vision: nuove tecnologie di phishing e funzionalità avanzate di...

Sicurezza Informatica1 settimana fa

Scanner per vulnerabilità CUPS e rischi su Apache HTTP Server

Tempo di lettura: 2 minuti. Scanner per vulnerabilità CUPS e Apache HTTP Server: nuove minacce di esecuzione di codice remoto...

Sicurezza Informatica1 settimana fa

Aggiornamenti Adobe, vulnerabilità e attacchi iraniani segnalati da CISA

Tempo di lettura: 3 minuti. CISA segnala aggiornamenti di sicurezza Adobe e nuove vulnerabilità sfruttate, raccomandando protezioni contro le minacce...

Truffe recenti

Sicurezza Informatica1 settimana fa

Qualcomm, LEGO e Arc Browser: Sicurezza sotto attacco e misure di protezione rafforzate

Tempo di lettura: 3 minuti. Qualcomm corregge una vulnerabilità zero-day, LEGO affronta una truffa in criptovalute e Arc Browser lancia...

Sicurezza Informatica1 mese fa

Truffa “Il tuo partner ti tradisce”: chiedono di pagare per vedere le prove

Tempo di lettura: < 1 minuto. Una nuova truffa "Il tuo partner ti tradisce" chiede il pagamento per vedere prove...

Sicurezza Informatica3 mesi fa

Scam internazionale tramite Facebook e app: ERIAKOS e malware SMS stealer

Tempo di lettura: 4 minuti. Analisi delle campagne di scam ERIAKOS e del malware SMS Stealer che mirano gli utenti...

Sicurezza Informatica3 mesi fa

Meta banna 60.000 Yahoo Boys in Nigeria per sextortion

Tempo di lettura: 3 minuti. Meta combatte le truffe di estorsione finanziaria dalla Nigeria, rimuovendo migliaia di account e collaborando...

Inchieste3 mesi fa

Idealong.com chiuso, ma attenti a marketideal.xyz e bol-it.com

Tempo di lettura: 2 minuti. Dopo aver svelato la truffa Idealong, abbiamo scoperto altri link che ospitano offerte di lavoro...

Inchieste3 mesi fa

Idealong.com spilla soldi ed assolda lavoratori per recensioni false

Tempo di lettura: 4 minuti. Il metodo Idealong ha sostituito Mazarsiu e, dalle segnalazioni dei clienti, la truffa agisce su...

Sicurezza Informatica4 mesi fa

Truffa lavoro online: Mazarsiu sparito, attenti a idealong.com

Tempo di lettura: 2 minuti. Dopo il sito Mazarsiu, abbandonato dai criminali dopo le inchieste di Matrice Digitale, emerge un...

fbi fbi
Sicurezza Informatica4 mesi fa

FBI legge Matrice Digitale? Avviso sulle truffe di lavoro Online

Tempo di lettura: 2 minuti. L'FBI segnala un aumento delle truffe lavoro da casa con pagamenti in criptovaluta, offrendo consigli...

Sicurezza Informatica5 mesi fa

Milano: operazione “Trust”, frodi informatiche e riciclaggio di criptovaluta

Tempo di lettura: 2 minuti. Scoperta un'organizzazione criminale transnazionale specializzata in frodi informatiche e riciclaggio di criptovaluta nell'operazione "Trust"

Inchieste5 mesi fa

Truffa lavoro Online: analisi metodo Mazarsiu e consigli

Tempo di lettura: 4 minuti. Mazarsiu e Temunao sono solo due portali di arrivo della truffa di lavoro online che...

Tech

Tech13 minuti fa

Apple e Samsung: due approcci divergenti nel terzo trimestre del 2024

Tempo di lettura: 2 minuti. Apple perde il Chief People Officer, mentre Samsung mantiene la leadership nel mercato degli smartphone...

Intelligenza Artificiale2 ore fa

Mozilla e Apple commissionano studi sull’AI

Tempo di lettura: 3 minuti. Mozilla esamina i limiti dell'accesso ai modelli AI da parte dei ricercatori e la concentrazione...

Tech3 ore fa

Apple Business Connect, iPhone SE, iPad 11 – notizie LIVE del 17 Ottobre

Tempo di lettura: 3 minuti. Apple espande le opportunità per le imprese con Business Connect, mentre progetti come Apple Car...

Smartphone4 ore fa

Galaxy Z Fold 6 Special Edition, A36: notizie Samsung del 26 ottobre – LIVE

Tempo di lettura: 3 minuti. Il Galaxy Z Fold 6 Special Edition, il Galaxy A36 e la memoria GDDR7 di...

Robotica1 giorno fa

Nuovo sistema di visione ispirato agli occhi dei gatti sviluppato dai ricercatori del GIST

Tempo di lettura: 2 minuti. Un nuovo sistema di visione ispirato agli occhi dei gatti migliora la rilevazione di oggetti...

Galaxy AI Galaxy AI
Tech1 giorno fa

Aggiornamenti per Galaxy A25, S23 ed evoluzione One UI 7

Tempo di lettura: 2 minuti. Samsung introduce nuove opzioni per Galaxy A25, aggiornamenti di sicurezza per Galaxy S23 e personalizzazioni...

Tech1 giorno fa

Aggiornamenti VirtualBox 7.1.4 e Fwupd 2.0.1: Novità e correzioni

Tempo di lettura: 2 minuti. VirtualBox 7.1.4 e fwupd 2.0.1 introducono nuove funzionalità e correzioni di bug per migliorare la...

Android 15 logo Android 15 logo
Tech1 giorno fa

Android 15: tutte le nuove funzionalità e sicurezza contro i furti

Tempo di lettura: 12 minuti. Android 15 introduce nuove funzionalità di sicurezza contro i furti, miglioramenti per il business e...

Meta logo Meta logo
Tech1 giorno fa

Meta illustra il futuro dell’Hardware AI

Tempo di lettura: 4 minuti. Meta svela nuove soluzioni hardware aperte per AI e reti all'OCP Summit 2024, incluse la...

Tech1 giorno fa

Apple Intelligence, macOS Sequoia 15.1, smart home e firmware per AirPods Pro 2

Tempo di lettura: 4 minuti. Apple lancia macOS Sequoia 15.1 beta 7, nuova strategia smart home per il 2025 e...

Tendenza