Nvidia ha annunciato martedì «NeMo Guardrails», un nuovo software basato sull’intelligenza artificiale che potrebbe impedire a ChatGPT di «allucinare».
Il colosso della tecnologia Nvidia ha annunciato martedì di aver escogitato un modo per impedire ai software di intelligenza artificiale di «allucinare». Nvidia è un’azienda cruciale nel settore tecnologico grazie alla fornitura di microchip. Secondo CNBC, Nvidia rappresenta il 95% della quota di mercato dei chip per l’IA.
Martedì, Nvidia ha annunciato un software che potrebbe risolvere uno dei maggiori problemi dell’IA. I generatori di testo alimentati dall’intelligenza artificiale come ChatGPT hanno un potenziale rivoluzionario, ma hanno anche un difetto fatale.
ChatGPT spesso ha le «allucinazioni», nel senso che spesso inventa le sue risposte solo per evitare di ammettere l’ignoranza. Qualsiasi utente che abbia cercato una risposta oggettiva da ChatGPT lo sa.
Un errore simile ha causato una perdita di 100 miliardi di dollari a Google quando hanno annunciato il loro embrionale software IA: Bard.
Bard avrebbe dovuto essere la risposta di Google per ChatGPT, ma il software ha risposto con un fatto così palesemente sbagliato che gli investitori hanno subito perso interesse. Durante l’annuncio, a Bard è stato chiesto per cosa è famoso il telescopio James Webb e il software ha risposto che aveva scattato la prima foto di un pianeta al di fuori del sistema solare. Sarebbe una risposta interessante se non fosse che il James Webb è stato lanciato 20 anni dopo lo scatto di una simile foto.
NeMo Guardrail
La soluzione di Nvidia alle allucinazioni dell’IA si chiama «NeMo Guardrail». È essenzialmente un altro livello di intelligenza artificiale in grado di «guidare» il software di riferimento.
NeMo Guardrails è un Large Language Model (LLM), il che significa che utilizza grandi quantità di dati per «apprendere» il suo compito. Anche ChatGPT e Bard sono LLM, ma NeMo funzionerebbe diversamente.
Mentre ChatGPT utilizza i suoi dati per prevedere quale risultato «sputerà fuori», NeMo li userebbe per controllare la correttezza della risposta. In altre parole, ChatGPT utilizzerà i dati per sviluppare una risposta, mentre NeMo eseguirà gli stessi dati per verificarne la plausibilità.
Se NeMo non trova dati corrispondenti, la risposta sarà semplicemente «Non lo so».
Nvidia afferma che NeMo può essere utilizzato anche per impedire al software di dare determinate risposte. Se, ad esempio, un chatbot IA viene utilizzato come servizio clienti, NeMo può impedirgli di menzionare la concorrenza.
«Puoi impostarlo in modo che risponda in un certo modo qualora gli venisse chiesto di un determinato argomento», ha dichiarato il vicepresidente di Nvidia Jonathan Cohen.
Nvidia ha una posizione consolidata nella Silicon Valley come uno dei suoi maggiori produttori. Ora, vuole mantenere questo ruolo nella corsa all’IA. Durante la corsa all’oro in California del 1848, coloro che ne trassero veramente profitto furono i venditori di pale. Oggi le pale sono diventate microchip e l’oro è diventato intelligenza artificiale.
Articolo pubblicato su Money.it edizione internazionale il 2023-04-25 17:45:47. Titolo originale: Nvidia to solve one of AI, ChatGPT’s biggest problems with a new software
© RIPRODUZIONE RISERVATA
