Syystarjoukset ovat täällä! Nyt 25 € alennusta jokaisesta ostoksesta!

Näytä ostoskori

Kysy Macilta, mitkä tarkastukset ohje vaatii ennen testilaitteen luovutusta. Avustaja löytää kohdan, kertoo lähteen ja tekee tarkistuslistan. Kun päivität ohjeen, avustaja voi käyttää uutta versiota.

Applen sirulla varustettu 16 GB:n Mac riittää usein pienen mallin kokeiluun. Säännölliseen asiakirjatyöhön sopii Mac mini M4 Pro, jossa on 48 GB muistia ja 1 TB:n SSD. 70B-malleille tai usealle suurelle mallille kannattaa harkita vähintään 96 GB:n Mac Studiota.

Mitä paikallinen, omavarainen ja oppiva tarkoittavat?

Paikallinen tarkoittaa, että Mac ajaa mallia ja hakee tiedostoista. Omavarainen tarkoittaa tässä, että toiminnot toimivat ilman verkkoa, kun ohjelmat, mallit ja riippuvuudet on ladattu. Eristettyyn koneeseen voit siirtää tiedostot tarkistetulla tallennusvälineellä. Tuore toimitustieto vaatii ajantasaisen paikallisen kopion.

Avustaja oppii korjauksista hakemalla päivitettyjä lähteitä. RAG tarkoittaa tiedonhaulla tuettua tekstin tuottamista. Embedding-malli muuttaa tekstikatkelmat luvuiksi, jotta haku löytää samankaltaisen merkityksen eri sanoin. Kielimalli saa kysymyksen ja löydetyt kohdat. Mallin painot pysyvät ennallaan. Hyväksytty korjaus kannattaa tallentaa tietopohjaan, jotta se löytyy uudessa keskustelussa.

Ensimmäinen offline-kokeilu ilman Päätettä

  1. Asenna LM Studio Applen sirulla varustettuun Maciin ja tarkista järjestelmävaatimukset. Lataa esimerkiksi 4-bittinen Qwen3 4B tai 8B. Kvantisointi tallentaa painot pienemmällä tarkkuudella ja säästää muistia. Se voi myös vaikuttaa vastauksiin.
  2. Liitä PDF-, DOCX- tai TXT-tiedosto ilman arkaluonteisia tietoja. Kysy, mitä ennen luovutusta pitää tehdä ja mistä se käy ilmi. Pyydä mainitsemaan puuttuva tieto. Pieni tiedosto voi mahtua sellaisenaan kontekstiin. Suuresta haetaan katkelmia. Jos skannatun PDF:n tekstiä ei voi valita, tee ensin paikallinen tekstintunnistus (OCR).
  3. Tarkista vastaus tiedostosta ja esitä kysymys, johon tiedosto ei vastaa. Sammuta Wi-Fi, irrota Ethernet, käynnistä sovellus uudelleen ja toista koe uudessa keskustelussa.

Rakenna tietopohja Ollamalla ja Open WebUI:lla

Ollama ajaa malleja. Open WebUI hoitaa selainkeskustelun ja dokumenttikokoelman. Rajaa palvelut aluksi omaan Maciin osoitteella 127.0.0.1. Asenna ja käynnistä Ollama ja aja komennot Päätteessä verkkoyhteyden aikana.

ollama pull qwen3:8b
ollama pull qwen3-embedding:0.6b
ollama run qwen3:8b

Poistu keskustelusta komennolla /bye. Lisää Ollaman ohjeen mukaan "disable_ollama_cloud": true tiedoston ~/.ollama/server.json JSON-objektiin. Säilytä muut asetukset ja käynnistä Ollama uudelleen. Paikallinen osoite on yleensä http://127.0.0.1:11434.

Asenna uv ja katso Open WebUI:n ohje. Suorita ensimmäinen komento. Luo paikallinen ylläpitäjätili osoitteessa http://127.0.0.1:8080. Yhdistä Ollama yllä olevaan osoitteeseen. Valitse asiakirja-asetuksissa embedding-palveluksi Ollama ja malliksi qwen3-embedding:0.6b. Pura teksti paikallisesti.

DATA_DIR="$HOME/.open-webui" uvx --python 3.12 open-webui@latest serve --host 127.0.0.1 --port 8080
DATA_DIR="$HOME/.open-webui" OFFLINE_MODE=true uvx --offline --python 3.12 open-webui@latest serve --host 127.0.0.1 --port 8080

Luo kokoelma kohdassa Workspace → Knowledge, lataa hyväksytyt tiedostot ja valitse kokoelma keskusteluun. Testin jälkeen paina Ctrl+C ja aja toinen komento samassa kansiossa. Poista verkkohaku, ulkoiset tekoälypalvelut ja työkalut käytöstä. Offline-tila keskeyttää osan latauksista ja versiokyselyistä. Eristä kone irrottamalla verkko tai estämällä lähtevät yhteydet. Käynnistä uudelleen ja testaa.

Opeta avustajaa tarkistetuilla korjauksilla

  1. Anna tiedostoille selkeät nimet, päivämäärät ja versiot. Valitse ensisijainen lähde kullekin aiheelle. Pidä aktiivisessa kokoelmassa voimassa oleva versio.
  2. Ohjeessa latausaika on 30 minuuttia. Vastuuhenkilö vahvistaa ajaksi 45 minuuttia. Päivitä ohje, korvaa vanha tiedosto ja tarkista indeksointi. Myös päivätty hyväksytty kysymys ja vastaus käy. Poista vanhentuneet kohdat hausta.
  3. Kysy uudessa keskustelussa latausaikaa, lähdettä ja versiota. Lisää vanha tarkistuskysymys ja kysymys ilman vastausta. Voit ajastaa hyväksyttyjen tiedostojen tuonnin paikallisesta kansiosta. Päivitä muuttuneet ja poista hävitetyt tiedostot indeksistä.

Tee 10–20 testikysymystä, joille tunnet vastaukset ja lähteet. Tarkista muutosten jälkeen löydetyt kohdat, vastaukset ja odotusaika. Jos kohta puuttuu, tarkista OCR, tiedostovalinta ja tekstin pilkkominen. Jos kohta löytyy ja vastaus on väärä, muuta ohjetta tai vaihda mallia. Pidempi konteksti vie aikaa ja muistia.

Hienosäätö muuttaa käyttäytymistä, esimerkiksi vastaustaulukon muotoa. MLX LM ja LoRA voivat kouluttaa pienen sovittimen tuetussa Macissa. Käytä tarkistettuja esimerkkejä ja säästä osa vertailutestiin. Pidä muuttuvat tiedot tietopohjassa. Perusmallin koulutus alusta vaatii paljon enemmän dataa ja laskentaa.

Paljonko RAM-muistia, SSD-tilaa ja kaistanleveyttä tarvitaan?

CPU, GPU, macOS ja sovellukset jakavat yhtenäisen muistin. Mallin ja väliaikaisen kontekstin pitää mahtua siihen. Muistin kaistanleveys GB/s kertoo, paljonko siru siirtää dataa sekunnissa. Tiheä malli lukee painoja toistuvasti kirjoittaessaan. Kaistanleveys voi nopeuttaa tulostusta. Myös arkkitehtuuri, GPU, ohjelmisto, konteksti ja muut tehtävät vaikuttavat. Neural Enginen luku yksin ei riitä.

Ollaman Qwen3 8B, 14B ja 32B vievät oletusversioina SSD:ltä noin 5,2, 9,3 ja 20 GB. B tarkoittaa miljardeja parametreja. RAM-tarve on suurempi. 4-bittisen 70B-mallin painot vaativat noin 35 GB ennen tiedostomuodon lisäkuluja, kontekstia ja järjestelmää. Aloita tarvittaessa 4 000–8 000 tokenilla eli tekstin osalla. Seuraa muistipainetta ja sivutusta Järjestelmän valvonnassa.

256 GB:n SSD voi riittää kokeiluun, jos tilaa on. Ostettaessa 512 GB on hyvä lähtötaso, 1 TB kätevä useille malleille ja 2 TB suurille kokoelmille. Ulkoinen SSD käy, jos ohjelma tukee sijaintia. RAM ei ole laajennettavissa. Koko kokoelman sijasta kontekstiin tulevat vain valitut osat.

Mikä Mac sopii paikalliseen tekoälyyn?

16–32 GB: 16 GB:n Mac mini M4 sopii 4B- ja 8B-kokeiluihin. 24–32 GB antaa tilaa 14B:lle ja muille ohjelmille. Jo omistettu 8 GB:n Mac käy pieniin kokeisiin. Vertaa Mac mini M4- ja M4 Pro -malleja ja kaikkia käytettyjä Mac minejä.

48–64 GB: Mac mini M4 Pro sopii asiakirjatyöhön ja 14B–32B-malleille. Vertaa myös 64 GB:n Mac Studio M1- tai M2 Max -mallia, jonka kaistanleveys on 400 GB/s. Liikkuvaan käyttöön harkitse Applen sirulla varustettua MacBook Prota ja Pro- tai Max-sirua. Tämä ohje koskee Applen siruja.

96 GB tai enemmän: 96 GB:n M3 Ultra tai 128 GB:n Max antaa tilaa 70B-malleille, pitkälle kontekstille ja rinnakkaisille malleille. Harkitse 192–512 GB:tä todelliseen tarpeeseen. Katso Mac Studio M4 Max ja M3 Ultra, käytetyt Mac Studiot ja Mac-osto-opas tekoälyyn. Taulukko kertoo tekniset tiedot. Kaupasta näkyvät tarjolla olevat kokoonpanot.

Mac ja siruRAM-vaihtoehdot (GB)Kaistanleveys (GB/s)
Mac mini M416 / 24 / 32120
Mac mini M4 Pro24 / 48 / 64273
Mac mini M616 · 24 / 32153 · 170
Mac mini M5 Pro24 / 48 / 64307
Mac Studio M1 Max32 / 64400
Mac Studio M2 Max32 / 64 · 96 (38 GPU-ydintä)400
Mac Studio M1 Ultra64 / 128800
Mac Studio M2 Ultra64 / 128 / 192800
Mac Studio M4 Max · 32 GPU-ydintä36410
Mac Studio M4 Max · 40 GPU-ydintä48 / 64 / 128546
Mac Studio M3 Ultra · 60 GPU-ydintä96819
Mac Studio M3 Ultra · 80 GPU-ydintä96 / 256 / 512819
Mac Studio M5 Max · 32 GPU-ydintä36460
Mac Studio M5 Max · 40 GPU-ydintä48 / 64 / 128614
Mac Studio M5 Ultra · 64 GPU-ydintä961200
Mac Studio M5 Ultra · 80 GPU-ydintä96 / 256 / 5121200
MacBook Pro 16″ M4 Pro24 / 48273
MacBook Pro 16″ M4 Max · 32 GPU-ydintä36410
MacBook Pro 16″ M4 Max · 40 GPU-ydintä48 / 64 / 128546

Päivittäinen käyttö ilman verkkoa

Säilytä tiedostot synkronoitujen kansioiden ulkopuolella, jos niiden pitää jäädä Maciin. Käytä FileVaultia ja salattuja varmuuskopioita dokumenteille, malliversioille, asetuksille, korjauksille ja tietokannalle. Kokeile palautusta. Erota käyttäjät ja kokoelmien oikeudet. Käsittele asiakirjojen tekstiä datana. Vaadi ihmisen hyväksyntä sähköpostin lähettämiseen ja tiedostojen muuttamiseen. Hakuun riittää lukuoikeus.

Usein kysyttyä

Tarvitsenko Apple Intelligenceä?

LM Studio ja Ollama ajavat erillisiä paikallisia malleja. Pilvipalvelun tilausta ei tarvita.

Mitä teen, jos avustaja keksii vastauksen?

Avaa lähde ja tarkista, tukeeko se vastausta. Pyydä tiedosto ja kohta. Avustajan tulee kertoa, jos lähde puuttuu.

Voiko se parantua joka yö automaattisesti?

Voit ajastaa hyväksyttyjen tiedostojen tuonnin, indeksoinnin ja testit. Tarkista korjaukset ja pidä aiempi versio tallessa.

Lähteet ja ohjeet