Chiedi al Mac quali controlli richiede un manuale prima di consegnare un dispositivo di prova. L’assistente cerca il passaggio, indica la fonte e lo trasforma in una lista. Quando aggiorni il manuale, può usare la nuova versione.
Per provare un piccolo modello spesso sono sufficienti 16 GB su un Mac con chip Apple. Per un uso abituale, Mac mini M4 Pro con 48 GB e SSD da 1 TB è una scelta equilibrata. Per modelli da 70 miliardi di parametri o più modelli grandi valuta un Mac Studio con almeno 96 GB.
Che cosa significa locale, autonomo e capace di imparare
Locale significa che il Mac esegue il modello e consulta i tuoi file. Autonomo significa che, dopo aver scaricato programmi, modelli e dipendenze, le funzioni configurate vanno anche senza Internet. Per un Mac isolato puoi usare un supporto verificato. Dati in tempo reale come lo stato di una consegna richiedono una copia locale aggiornata.
L’assistente impara dalle correzioni consultando una fonte aggiornata. Nel RAG, o generazione con recupero di informazioni, un modello di embedding trasforma porzioni di testo in numeri, così la ricerca trova passaggi con significato simile. Il modello riceve la domanda e i passaggi recuperati. I suoi parametri rimangono uguali. Per riusare una correzione in altre chat, inseriscila nella base di conoscenza dopo averla verificata.
Prima prova offline senza Terminale
- Installa LM Studio su un Mac con chip Apple e verifica i requisiti. Scarica un modello piccolo nell’app, per esempio Qwen3 4B o 8B a 4 bit. La quantizzazione risparmia memoria rappresentando i parametri con meno precisione e può ridurre la qualità.
- Allega un PDF, DOCX o TXT senza dati sensibili. Chiedi quali passaggi precedono la consegna e dove sono documentati. Chiedi di segnalare ciò che manca. Un file piccolo può entrare nel contesto, mentre per uno grande si cercano gli estratti. Se nel PDF scansionato non puoi selezionare testo, esegui prima il riconoscimento ottico locale (OCR).
- Controlla la fonte e fai anche una domanda senza risposta nel file. Spegni il Wi-Fi, scollega Ethernet, riapri l’app e ripeti la prova in una nuova chat.
Crea una base di conoscenza con Ollama e Open WebUI
Ollama esegue i modelli. Open WebUI offre la chat nel browser e gestisce i documenti. All’inizio rendi i servizi accessibili solo sul Mac via 127.0.0.1. Installa e avvia Ollama, poi esegui nel Terminale, con Internet, i comandi seguenti.
ollama pull qwen3:8b
ollama pull qwen3-embedding:0.6b
ollama run qwen3:8b
Esci dalla chat con /bye. Secondo la guida Ollama, aggiungi "disable_ollama_cloud": true all’oggetto JSON in ~/.ollama/server.json mantenendo gli altri valori. Riavvia Ollama. L’indirizzo locale tipico è http://127.0.0.1:11434.
Installa uv e consulta la guida Open WebUI. Esegui il primo comando. Apri http://127.0.0.1:8080 e crea un account amministratore locale. Collega Ollama all’indirizzo indicato. Nelle impostazioni dei documenti, scegli Ollama per gli embedding e qwen3-embedding:0.6b come modello. Estrai il testo localmente.
DATA_DIR="$HOME/.open-webui" uvx --python 3.12 open-webui@latest serve --host 127.0.0.1 --port 8080
DATA_DIR="$HOME/.open-webui" OFFLINE_MODE=true uvx --offline --python 3.12 open-webui@latest serve --host 127.0.0.1 --port 8080
In Workspace → Knowledge, crea una raccolta, carica documenti approvati e selezionala in chat. Dopo il test, ferma Open WebUI con Ctrl+C e rilancialo dalla stessa cartella con il secondo comando. Disattiva ricerca web, fornitori di IA remoti e strumenti esterni. La modalità offline blocca alcuni download e controlli di versione. Per isolare il Mac, scollegalo o blocca le connessioni in uscita e ripeti il test dopo il riavvio.
Come riutilizzare le correzioni verificate
- Dai ai file nomi e versioni chiari. Scegli una fonte autorevole per argomento e mantieni solo la versione corrente nella raccolta attiva.
- Il manuale dice 30 minuti di ricarica, il responsabile ne conferma 45. Aggiorna il manuale, sostituisci la vecchia versione e controlla l’indicizzazione. Va bene anche una domanda con risposta approvata e datata. Rimuovi le voci obsolete dalla raccolta interrogata.
- In una nuova chat chiedi durata, fonte e data. Prova anche una domanda di controllo e una senza risposta. Puoi automatizzare l’importazione da una cartella locale di file approvati, aggiornando i file modificati e togliendo dall’indice quelli eliminati.
Prepara 10–20 domande con risposte e fonti attese. Dopo ogni modifica verifica passaggi, risposte e attesa. Se manca il passaggio, controlla OCR, documenti e suddivisione. Se la fonte c’è ma la risposta è errata, cambia le istruzioni o prova un altro modello. Un contesto più lungo richiede memoria e tempo.
Il fine-tuning adatta il comportamento, ad esempio per rispondere sempre in formato tabellare. MLX LM con LoRA può addestrare un piccolo adattatore su Mac compatibili. Usa esempi verificati e tienine alcuni per il confronto con l’originale. Mantieni i fatti variabili nella base di conoscenza. Addestrare un modello da zero richiede molte più risorse.
Quanta memoria, SSD e banda servono?
CPU e GPU condividono la memoria unificata con macOS e le app. Deve contenere il modello e il contesto temporaneo. La banda di memoria in GB/s indica quanti dati la CPU e la GPU possono spostare al secondo. Un modello denso rilegge i parametri per generare testo, perciò più banda può aiutare. Contano anche architettura, GPU, software, contesto e attività concorrenti. Il solo valore del Neural Engine non basta.
I download standard di Qwen3 8B, 14B e 32B su Ollama occupano circa 5,2, 9,3 e 20 GB su SSD. B sta per miliardi di parametri. In esecuzione serve più RAM. I parametri grezzi di un 70B a 4 bit occupano circa 35 GB, prima di aggiungere formato, contesto e sistema. Prova 4.000–8.000 token, cioè frammenti di testo, se il lavoro ci sta. Controlla pressione memoria e swap in Monitoraggio Attività.
Un SSD da 256 GB con spazio libero può bastare per provare. Se acquisti, valuta 512 GB per iniziare, 1 TB per più modelli e 2 TB per raccolte grandi. Un SSD esterno è utile se l’app supporta la posizione. La RAM non è espandibile. La ricerca porta nel contesto solo gli estratti rilevanti, mentre la raccolta resta su SSD.
Quale Mac scegliere per l’IA locale?
16–32 GB: un Mac mini M4 da 16 GB è adatto per provare modelli 4B o 8B. Con 24–32 GB hai più spazio per un 14B e altre app. Se possiedi già un Mac da 8 GB, limitalo a piccole prove. Confronta Mac mini M4 e M4 Pro e tutti i Mac mini usati.
48–64 GB: il Mac mini M4 Pro è indicato per documenti e modelli da 14B a 32B. Confrontalo con Mac Studio M1 o M2 Max da 64 GB e 400 GB/s. Per lavorare in mobilità, cerca un MacBook Pro con chip Apple Pro o Max. Questa guida riguarda Apple Silicon.
Da 96 GB: un M3 Ultra da 96 GB o un Max da 128 GB dà spazio a modelli 70B, contesti più lunghi e modelli simultanei. Valuta 192–512 GB quando il lavoro lo richiede. Scopri i Mac Studio M4 Max e M3 Ultra, tutti i Mac Studio usati e la guida all’acquisto di un Mac per l’IA. La tabella riporta dati tecnici. Le offerte mostrano le configurazioni effettive.
| Mac e chip | Opzioni RAM (GB) | Banda di memoria (GB/s) |
|---|---|---|
| Mac mini M4 | 16 / 24 / 32 | 120 |
| Mac mini M4 Pro | 24 / 48 / 64 | 273 |
| Mac mini M6 | 16 · 24 / 32 | 153 · 170 |
| Mac mini M5 Pro | 24 / 48 / 64 | 307 |
| Mac Studio M1 Max | 32 / 64 | 400 |
| Mac Studio M2 Max | 32 / 64 · 96 (GPU 38 core) | 400 |
| Mac Studio M1 Ultra | 64 / 128 | 800 |
| Mac Studio M2 Ultra | 64 / 128 / 192 | 800 |
| Mac Studio M4 Max · GPU 32 core | 36 | 410 |
| Mac Studio M4 Max · GPU 40 core | 48 / 64 / 128 | 546 |
| Mac Studio M3 Ultra · GPU 60 core | 96 | 819 |
| Mac Studio M3 Ultra · GPU 80 core | 96 / 256 / 512 | 819 |
| Mac Studio M5 Max · GPU 32 core | 36 | 460 |
| Mac Studio M5 Max · GPU 40 core | 48 / 64 / 128 | 614 |
| Mac Studio M5 Ultra · GPU 64 core | 96 | 1200 |
| Mac Studio M5 Ultra · GPU 80 core | 96 / 256 / 512 | 1200 |
| MacBook Pro 16″ M4 Pro | 24 / 48 | 273 |
| MacBook Pro 16″ M4 Max · GPU 32 core | 36 | 410 |
| MacBook Pro 16″ M4 Max · GPU 40 core | 48 / 64 / 128 | 546 |
Usare l’assistente offline ogni giorno
Tieni i file fuori dalle cartelle sincronizzate se devono restare sul Mac. Attiva FileVault e cifra i backup di documenti, versioni dei modelli, impostazioni, correzioni e database. Prova il ripristino. Con più utenti, separa account e accessi. Tratta il testo ottenuto dai file come dati. Richiedi l’approvazione umana per inviare e-mail o modificare file. Per la ricerca è sufficiente l’accesso in lettura.
Domande frequenti
Serve Apple Intelligence?
LM Studio e Ollama eseguono modelli locali separati e non richiedono un abbonamento a un servizio di IA cloud.
E se l’assistente inventa?
Apri il passaggio citato e controlla che sostenga la risposta. Chiedi nome del file e sezione. Se manca una fonte, l’assistente deve segnalarlo.
Può migliorare ogni notte?
Puoi pianificare l’importazione di file approvati, l’indicizzazione e i test. Fai verificare le correzioni e mantieni una versione precedente.
















Condividi:
Mac mini M1, M2 o M4 usato: quale conviene comprare?