// TOM'S HARDWARE ITALIA — INTELLIGENZA ARTIFICIALE
TypeSafe AI presenta Jev: addio agli LLM per le decisioni?
TypeSafe AI ha presentato Jev, un modello di intelligenza artificiale progettato per prendere decisioni probabilistiche all'interno di applicazioni software. Anziché sostenere conversazioni o generare testi aperti, riceve domande circoscritte e restituisce risposte strutturate con un livello di confidenza. L'azienda dichiara prestazioni fino a 194 volte superiori e costi fino a 445 volte inferiori rispetto ai modelli di frontiera.
Il progetto nasce da Diogo Almeida, ex ingegnere di OpenAI coinvolto nelle tecniche di addestramento alla base di ChatGPT. Jev appartiene alla categoria definita System One ed è addestrato tramite RLCD, Reinforcement Learning for Calibrated Decisions. Le domande contenute nella stessa richiesta possono beneficiare dell'elaborazione parallela, mentre un modello linguistico genera normalmente i token in sequenza.
L'integrazione avviene tramite API: il codice fornisce uno stato, cioè i dati che descrivono una determinata situazione, e sottopone una serie di affermazioni da valutare. Jev restituisce risultati in JSON, associando a ogni risposta una percentuale di confidenza. Non utilizza una memoria globale e non conserva automaticamente il contesto tra una chiamata e quella successiva.
Un servizio clienti potrebbe, per esempio, inviare le transazioni di una carta, alcune informazioni sull'account e l'ultimo messaggio dell'utente, chiedendo se sia stata richiesta una restituzione. Jev risponderebbe sì o no con una percentuale; superata una soglia fissata dallo sviluppatore, una seconda richiesta potrebbe produrre una distribuzione di probabilità tra rimborso, credito nel negozio e intenzione non chiara.
La gestione delle date, la lettura dei database e la preparazione degli input rimangono responsabilità dell'applicazione. Il contesto può raggiungere 64.000 token, ma fornire informazioni estranee può ridurre l'accuratezza perché il modello è costruito per valutare soltanto lo stato necessario. Jev può comunque classificare male i dati, subire attacchi avversari o interpretare letteralmente una formulazione ambigua.
TypeSafe indica tra gli impieghi possibili l'intent routing, la verifica delle citazioni e i flussi condizionali basati su soglie di confidenza. Il programma chiamante decide cosa fare con il risultato: può eseguire automaticamente un'operazione, chiedere chiarimenti all'utente oppure interrompere il processo quando la probabilità non supera il valore richiesto.
Jev può quindi sostituire un LLM quando il problema è chiuso, le risposte ammesse sono definite e il software deve ricevere dati prevedibili. Per attività aperte, ragionamenti estesi e produzione di rapporti rimane invece indicato un modello linguistico: in un sistema di monitoraggio, Jev potrebbe rilevare la probabilità di un guasto e attivare successivamente un LLM incaricato di analizzare i log e formulare una diagnosi.
Aggiungi Tom's Hardware alle tue fonti preferite su Google