// MACITYNET — INTELLIGENZA ARTIFICIALE
Arriva su Mac l’assistente offline di Google che trascrive le riunioni
Questo sito contiene link di affiliazione per cui può essere compensato
Due idee diverse di casa, due aziende che ne parlano. Apple, con un breve video di Greg Joswiak, il suo responsabile marketing, ha confermato per martedì 13 ottobre un evento intitolato «Welcome home», dedicato alla casa intelligente e, secondo le indiscrezioni, a una nuova Siri basata sull’intelligenza artificiale. Praticamente nelle stesse ore Google, con meno cerimonia, ha messo sul Mac un’app che tiene l’AI dentro il portatile e non le fa chiamare un server.
L’app si chiama Google AI Edge Foresight. È il secondo strumento del gruppo di Google che lavora sui modelli locali: ad aprile era uscita un’app di dettatura, rimasta sperimentale e mai arrivata a un pubblico ampio. Stavolta il terreno è quello di Granola, il popolare blocco note con AI per le riunioni, e il prodotto, gratuito, ne riprende l’impostazione.
Come detto, il funzionamento è quello di Granola. Da un lato l’utente scrive appunti abbreviati mentre la riunione viene trascritta, dall’altro compaiono le note generate dall’AI. Le riunioni possono svolgersi dentro altre app oppure di persona, e a catturarle provvede, secondo TechCrunch, EmbeddingGemma 2, un modello da 740 milioni di parametri che gira sul computer. A fine incontro si legge la trascrizione completa o si fanno domande a un assistente basato su Gemma 4.
La funzione più curiosa è la base di conoscenza. L’utente può caricare pdf, Google Docs, file di Microsoft Office, testo semplice, Markdown e segnalibri web, e quando in riunione si parla di qualcosa che sta in quei documenti l’assistente risponde in tempo reale alle domande. Nella pagina delle domande frequenti Google scrive che l’app è ottimizzata per Apple Silicon e funziona interamente offline, quindi gli appunti restano consultabili anche in viaggio.
La taglia del modello merita un’osservazione. Il confronto con i vari Gemini, ChatGPT e gli altri non è omogeneo, perché un modello di embedding e un modello generativo fanno mestieri diversi, ma come ordine di grandezza il modello locale presentato da Apple nel giugno 2024 insieme ad Apple Intelligence contava tre miliardi di parametri, circa quattro volte tanto. Piccolo vuol dire veloce e leggero, e di solito anche meno sofisticato: è il compromesso dell’AI fatta in casa, dove i modelli ridotti rispondono in fretta ma senza la finezza dei giganti che abitano nei data center.
Perché accettare il compromesso è facile da spiegare: la maggior parte degli strumenti concorrenti si affida al cloud, e Google punta sul fatto che alcuni utenti preferiscano un assistente che tiene l’audio delle riunioni e i documenti direttamente sul portatile. Il pubblico naturale è quello che in riunione parla di cose che preferirebbe non far passare per i server altrui. C’è anche una ragione di costi: ogni minuto di trascrizione eseguito sul portatile è un minuto che non passa dai data center di chi offre il servizio, e per un’app gratuita la voce dei costi conta.
Perché questo prodotto e perché proprio adesso? Foresight potrebbe servire soprattutto a mostrare che cosa sanno fare i modelli Gemma, quelli di Google pensati per funzionare anche offline, e che l’azienda potrebbe comunque lanciare nelle app Gemini uno strumento per prendere appunti rivolto ai consumatori, compatibile con i servizi di videochiamata e basato sui modelli nel cloud. Le due strade corrono in parallelo da tempo. A gennaio Apple ha confermato che la nuova Siri userà i modelli Gemini, eseguiti sui server Private Cloud Compute, in un contratto pluriennale che il Financial Times valuta in svariati miliardi di dollari complessivi, mentre OpenAI avrebbe scelto di non fare da fornitore.
Il risultato è un’azienda che a gennaio ha conquistato Apple con i modelli nel cloud e che oggi offre agli utenti del Mac la dimostrazione dell’idea opposta, a rete spenta.
Altra domanda: perché su Mac? Che la vetrina sia un Mac ha le sue ragioni. A luglio un report di Bloomberg ha indicato che l