Efterårstilbuddene er her! Lige nu får du 25 € i rabat på hvert køb!

Se indkøbskurv

Spørg din Mac, hvilke kontroller en intern vejledning kræver, inden du afleverer en testenhed. Assistenten finder afsnittet, nævner kilden og laver en tjekliste. Når vejledningen opdateres, kan den bruge den nye udgave.

En Mac med Apple-chip og 16 GB rækker ofte til at prøve en lille model. Til regelmæssigt arbejde med dokumenter er Mac mini M4 Pro med 48 GB og 1 TB et godt valg. Til 70B eller flere store modeller kan du starte ved en Mac Studio med 96 GB.

Hvad betyder lokal, selvstændig og lærende AI?

Lokal betyder, at Macen selv beregner svar og søger i dine filer. Selvstændig betyder her, at funktionerne virker uden internet, efter at apps, modeller og afhængigheder er hentet. På en isoleret maskine kan filer overføres med et kontrolleret medie. En aktuel leveringsstatus kræver stadig en opdateret lokal kopi.

Assistenten lærer af rettelser ved at slå op i opdaterede kilder. I RAG, tekstgenerering med opslag, omdanner en embeddingmodel tekstafsnit til tal. Det gør det muligt at finde passager med lignende betydning. Sprogmodellen får spørgsmålet og de relevante passager. Dens vægte forbliver de samme. Gem en godkendt rettelse i vidensbasen, så den bliver tilgængelig i en ny chat.

Prøv offline uden Terminal

  1. Installér LM Studio på en Mac med Apple-chip, og kontrollér systemkravene. Hent en lille model som Qwen3 4B eller 8B med 4 bit. Kvantisering gemmer vægtene med lavere præcision for at spare hukommelse og kan påvirke svarenes kvalitet.
  2. Vedhæft en PDF-, DOCX- eller TXT-fil uden følsomme data. Spørg, hvad der skal ske før aflevering, og hvor det står. Små filer kan passe direkte i konteksten. I større filer findes udvalgte passager. Kan du ikke markere tekst i en scannet PDF, så prøv først lokal tekstgenkendelse (OCR).
  3. Tjek svaret i filen, og stil et spørgsmål, filen ikke besvarer. Slå Wi-Fi fra, afbryd Ethernet, genstart appen, og prøv igen i en ny chat.

Byg en vidensbase med Ollama og Open WebUI

Ollama kører modellerne, og Open WebUI leverer browserchat og dokumentstyring. Gør i starten kun tjenesterne tilgængelige på Macen via 127.0.0.1. Installér og start Ollama. Kør disse kommandoer i Terminal, mens du har internet.

ollama pull qwen3:8b
ollama pull qwen3-embedding:0.6b
ollama run qwen3:8b

Afslut chatten med /bye. Følg Ollamas vejledning, tilføj "disable_ollama_cloud": true til JSON-objektet i ~/.ollama/server.json, og behold andre indstillinger. Genstart Ollama. Den lokale adresse er normalt http://127.0.0.1:11434.

Installér uv og læs Open WebUI-guiden. Kør den første kommando, og opret en lokal administratorkonto på http://127.0.0.1:8080. Forbind Ollama via adressen ovenfor. Vælg Ollama til embeddings, modellen qwen3-embedding:0.6b og lokal tekstudtrækning.

DATA_DIR="$HOME/.open-webui" uvx --python 3.12 open-webui@latest serve --host 127.0.0.1 --port 8080
DATA_DIR="$HOME/.open-webui" OFFLINE_MODE=true uvx --offline --python 3.12 open-webui@latest serve --host 127.0.0.1 --port 8080

Opret en samling under Workspace → Knowledge, upload godkendte filer, og vælg samlingen i chatten. Efter testen stopper du med Ctrl+C og bruger den anden kommando fra samme mappe. Slå websøgning, eksterne AI-tjenester og værktøjer fra. Offline-tilstand stopper visse downloads og versionskontroller. Afbryd netværket eller blokér udgående trafik, og test igen efter genstart.

Lad assistenten lære af godkendte rettelser

  1. Brug tydelige filnavne, datoer og versioner. Vælg en hovedkilde for hvert emne, og behold den aktuelle version i den aktive samling.
  2. Vejledningen siger 30 minutters opladning. Den ansvarlige bekræfter 45 minutter. Ret vejledningen, erstat den gamle fil, og kontrollér indekseringen. En dateret og godkendt spørgsmål-og-svar-note virker også. Fjern forældede oplysninger fra søgningen.
  3. Spørg i en ny chat efter opladningstid, kilde og dato. Test også et gammelt kontrolspørgsmål og et spørgsmål uden svar. Du kan planlægge import fra en lokal mappe med godkendte filer. Opdatér ændrede filer, og fjern slettede filer fra indekset.

Saml 10–20 spørgsmål med korrekte svar og kilder. Efter ændringer tjekker du fundne passager, svarkvalitet og ventetid. Mangler passagen, så tjek OCR, opdelingen og dokumentvalget. Hvis kilden står der, men svaret er forkert, så justér instruktionen eller prøv en anden model. Større kontekst koster tid og RAM.

Finjustering ændrer modellens adfærd, for eksempel til et fast tabelformat. MLX LM med LoRA kan træne en lille adapter på understøttede Mac-computere. Brug godkendte eksempler, og hold nogle testeksempler tilbage til sammenligning. Gem fakta, der ændrer sig, i vidensbasen. En grundmodel fra bunden kræver langt mere data og regnekraft.

Hvor meget RAM, SSD og hukommelsesbåndbredde har du brug for?

CPU, GPU, macOS og apps deler den fælles hukommelse. Her skal både model og kontekst være. Hukommelsesbåndbredde i GB/s viser, hvor meget data chippen flytter i sekundet. Tætte modeller læser vægtene igen og igen ved tekstgenerering. Båndbredde kan derfor hjælpe sammen med arkitektur, GPU, software og kontekst. Tallene for Neural Engine afgør det ikke alene.

Ollamas standardudgaver af Qwen3 8B, 14B og 32B fylder cirka 5,2, 9,3 og 20 GB på SSD. B står for milliarder parametre. I drift er RAM-forbruget højere. Vægtene i 70B ved 4 bit kræver cirka 35 GB før formatdata, kontekst og system. Prøv 4.000–8.000 tokens, små tekststykker, hvis opgaven kan være der. Se hukommelsestryk og swap i Aktivitetsovervågning.

En SSD på 256 GB kan række til et forsøg med ledig plads. Ved køb er 512 GB et udgangspunkt, 1 TB praktisk til flere modeller og 2 TB velegnet til store samlinger. En ekstern SSD fungerer, hvis appen understøtter placeringen. RAM kan ikke udvides. Kun relevante dokumentudsnit hentes i konteksten.

Hvilken Mac passer til lokal AI?

16–32 GB: Mac mini M4 med 16 GB passer til 4B og 8B. Med 24–32 GB er der mere plads til 14B og andre apps. En eksisterende Mac med 8 GB kan bruges til små forsøg. Sammenlign Mac mini M4 og M4 Pro og alle brugte Mac mini.

48–64 GB: Mac mini M4 Pro passer til regelmæssigt dokumentarbejde og modeller på 14B–32B. Sammenlign en brugt Mac Studio M1 eller M2 Max med 64 GB og 400 GB/s. Til arbejde på farten kan du vælge en MacBook Pro med Apple-chip i Pro- eller Max-udgave. Guiden gælder Apple Silicon.

Fra 96 GB: en M3 Ultra med 96 GB eller en Max med 128 GB giver plads til 70B, længere kontekst og samtidige modeller. Overvej 192–512 GB ved konkret behov. Se Mac Studio M4 Max og M3 Ultra, alle brugte Mac Studio og vores Mac-købsguide til AI. Tabellen er en teknisk reference. Butikken viser de tilbudte konfigurationer.

Mac og chipRAM-muligheder (GB)Båndbredde (GB/s)
Mac mini M416 / 24 / 32120
Mac mini M4 Pro24 / 48 / 64273
Mac mini M616 · 24 / 32153 · 170
Mac mini M5 Pro24 / 48 / 64307
Mac Studio M1 Max32 / 64400
Mac Studio M2 Max32 / 64 · 96 (38 GPU-kerner)400
Mac Studio M1 Ultra64 / 128800
Mac Studio M2 Ultra64 / 128 / 192800
Mac Studio M4 Max · 32 GPU-kerner36410
Mac Studio M4 Max · 40 GPU-kerner48 / 64 / 128546
Mac Studio M3 Ultra · 60 GPU-kerner96819
Mac Studio M3 Ultra · 80 GPU-kerner96 / 256 / 512819
Mac Studio M5 Max · 32 GPU-kerner36460
Mac Studio M5 Max · 40 GPU-kerner48 / 64 / 128614
Mac Studio M5 Ultra · 64 GPU-kerner961200
Mac Studio M5 Ultra · 80 GPU-kerner96 / 256 / 5121200
MacBook Pro 16″ M4 Pro24 / 48273
MacBook Pro 16″ M4 Max · 32 GPU-kerner36410
MacBook Pro 16″ M4 Max · 40 GPU-kerner48 / 64 / 128546

Offline i daglig brug

Gem filer uden for synkroniserede mapper, hvis de skal blive på Macen. Brug FileVault og krypterede sikkerhedskopier af dokumenter, modeller, indstillinger, rettelser og databasen. Test gendannelse. Adskil brugere og adgang til samlinger. Behandl dokumenttekst som data. Kræv menneskelig godkendelse af e-mails og filændringer. En søgeassistent behøver kun læseadgang.

Ofte stillede spørgsmål

Skal jeg bruge Apple Intelligence?

LM Studio og Ollama kører separate lokale modeller. Der kræves ikke et abonnement på en AI-tjeneste i skyen.

Hvad hvis assistenten finder på noget?

Åbn den angivne passage, og tjek om den underbygger svaret. Bed om filnavn og afsnit. Assistenten skal sige til, når kilden mangler.

Kan den forbedre sig hver nat?

Du kan planlægge import af godkendt materiale, indeksering og test. Lad mennesker godkende rettelser, og behold en tidligere version.

Kilder og vejledninger