Ma a cosa serve l'intelligenza artificiale che funziona senza internet?

Il telefono nuovo arriva con l’intelligenza artificiale già dentro: riscrive un messaggio, riassume le notifiche mentre eri via, cancella il passante di troppo da una foto, trascrive una telefonata. Nelle pubblicità c’è una parola che torna sempre: sul dispositivo, oppure in inglese on-device.

Sembra un dettaglio tecnico da addetti ai lavori. In realtà è la cosa che decide dove finiscono le tue frasi, le tue foto e la tua voce, e vale la pena capirla una volta sola.

Perché l’AI del telefono è divisa in due

A parità di come è stato costruito, un modello è tanto più capace quanto più è grande, e i modelli grandi non entrano in un telefono: occupano molta più memoria di quanta ne abbia, e farebbero un lavoro che la batteria non regge. I modelli piccoli di oggi sono comunque molto più bravi di quelli grandi di qualche anno fa, ed è per questo che certe cose il telefono ormai le fa da solo.

Così le aziende hanno diviso il lavoro. I compiti piccoli e frequenti li fa un modello piccolo che vive nel telefono. I compiti che richiedono di ragionare, sapere cose del mondo o scrivere testi lunghi vengono mandati fuori.

La conseguenza pratica è che, quando usi “l’AI del telefono”, a volte non esce niente dal tuo dispositivo e a volte esce tutto. Dall’esterno le due cose si assomigliano.

Cosa succede dentro il telefono

Quello che gira in locale, sui telefoni recenti, è più o meno questo: riscrivere, correggere o accorciare un testo che hai già scritto; riassumere le notifiche arrivate mentre non guardavi; cercare nelle foto a parole e togliere un elemento di troppo da un’immagine; trascrivere e riassumere una registrazione o gli appunti di una telefonata; creare piccole immagini o emoji su misura; e il riconoscimento della voce per i comandi più semplici.

Il segno più chiaro è che una funzione continui a funzionare in aereo, con la connessione spenta: se funziona, il calcolo è dentro il telefono, e vale più di qualsiasi scritta sulla confezione. Il contrario non vale allo stesso modo: una funzione può smettere di funzionare offline anche solo perché le serviva scaricare qualcosa, e alcune decidono di volta in volta se cavarsela da sole o chiedere fuori.

Cosa esce, e dove va

Tutto il resto passa da internet. Le domande vere e proprie all’assistente, le richieste lunghe, quelle che richiedono informazioni aggiornate, e in genere tutto quello che coinvolge un assistente di terze parti collegato al telefono.

Qui c’è una distinzione che merita attenzione, perché è il punto in cui le aziende si differenziano davvero. Alcune, quando devono mandare fuori una richiesta, la mandano a server costruiti apposta per non conservare niente: la promessa dichiarata è che i dati servano solo a produrre la risposta e vengano cancellati subito, senza essere registrati e senza che il personale dell’azienda possa leggerli. Nel caso di Apple questo sistema si chiama Private Cloud Compute, e l’azienda mette a disposizione dei ricercatori di sicurezza il software che gira su quei server, in modo che possano verificare che le cose stiano come dice. È un livello di apertura raro in questo settore.

Resta una promessa tecnica, non una legge di natura. Ma è una promessa verificabile, ed è molto diversa dal silenzio.

A cosa serve davvero, allora

Serve a tre cose concrete, tutte noiose e tutte utili.

Serve alla privacy nei casi che contano. La correzione di un messaggio in cui parli di salute, di soldi o di una persona non esce dal telefono. È una differenza reale, non di marketing.

Serve alla velocità e alla batteria. Un lavoro fatto in locale risponde subito e non richiede rete. Chi ha una connessione ballerina se ne accorge.

Serve a farti usare queste cose senza pensarci. Il riassunto delle notifiche o la ricerca a parole nelle foto funzionano meglio proprio perché non devi decidere di “usare l’AI”: sono lì.

La parte scomoda: il tuo telefono potrebbe non averla

Queste funzioni richiedono memoria e un processore recente, e i produttori tagliano fuori i modelli più vecchi anche di soli due o tre anni. Sui telefoni Apple la linea passa tra iPhone 15 normale e iPhone 15 Pro, nel senso che il modello non Pro resta fuori; in campo Android le funzioni più nuove richiedono quantità di memoria che i modelli di due anni fa spesso non hanno.

Non è una scusa commerciale: un modello, anche piccolo, deve stare in memoria per intero. Ma la conseguenza pratica è che questa è la prima volta da molti anni in cui la differenza tra un telefono di tre anni fa e uno nuovo si vede in cose che si usano ogni giorno, e non solo nella fotocamera.

Questo però non è un motivo per cambiare telefono adesso. È un motivo per guardare la questione quando lo cambierai comunque.

Se vuoi controllare cosa esce

Nelle impostazioni del telefono, alla voce dell’assistente o dell’intelligenza artificiale, di solito c’è un interruttore per limitare l’elaborazione al dispositivo e uno per disattivare gli assistenti esterni collegati. Spegnerli fa perdere qualche funzione, e la scelta dipende da quanto ti servono.

Se la cosa ti interessa nella direzione opposta, cioè avere un’AI tutta tua che non parla con nessuno, si può fare anche sul computer: ne parlo in ma a cosa serve un’intelligenza artificiale che gira sul tuo computer. E se invece vuoi capire come mai queste cose a volte sbagliano con tanta sicurezza, la spiegazione è in cos’è un modello linguistico.