Οι φθινοπωρινές προσφορές έφτασαν! Τώρα έκπτωση 25 € σε κάθε αγορά!

Προβολή καλαθιού

Ρώτησε το Mac τι ελέγχους προβλέπει ένα εγχειρίδιο πριν από την παράδοση μιας δοκιμαστικής συσκευής. Ο βοηθός βρίσκει το απόσπασμα, δείχνει την πηγή και φτιάχνει λίστα ελέγχου. Όταν αλλάξει το εγχειρίδιο, μπορεί να χρησιμοποιήσει τη νέα έκδοση.

Ένα Mac με chip Apple και 16 GB συχνά αρκεί για δοκιμή μικρού μοντέλου. Για τακτική εργασία με έγγραφα, το Mac mini M4 Pro με 48 GB και SSD 1 TB είναι ισορροπημένη επιλογή. Για μοντέλα 70B ή πολλά μεγάλα μοντέλα, εξέτασε Mac Studio με τουλάχιστον 96 GB.

Τι σημαίνει τοπικό, αυτόνομο και ικανό να μαθαίνει

Τοπικό σημαίνει ότι το Mac εκτελεί το μοντέλο και ψάχνει τα αρχεία. Αυτόνομο σημαίνει ότι οι ρυθμισμένες λειτουργίες δουλεύουν χωρίς διαδίκτυο αφού κατεβάσεις προγράμματα, μοντέλα και εξαρτήσεις. Σε απομονωμένο Mac μεταφέρεις τα αρχεία με ελεγμένο μέσο. Η τρέχουσα κατάσταση μιας αποστολής απαιτεί ενημερωμένο τοπικό αντίγραφο.

Ο βοηθός μαθαίνει από διορθώσεις αναζητώντας ενημερωμένες πηγές. Στο RAG, δηλαδή παραγωγή κειμένου με ανάκτηση πληροφοριών, ένα μοντέλο embeddings μετατρέπει αποσπάσματα σε αριθμούς. Έτσι η αναζήτηση βρίσκει παρόμοιο νόημα, ακόμη και με διαφορετικές λέξεις. Το γλωσσικό μοντέλο παίρνει την ερώτηση και τα σχετικά αποσπάσματα. Τα βάρη του παραμένουν ίδια. Αποθήκευσε την ελεγμένη διόρθωση στη βάση γνώσης για να τη βρίσκει και σε νέα συνομιλία.

Πρώτη δοκιμή offline χωρίς Τερματικό

  1. Εγκατέστησε το LM Studio σε Mac με chip Apple και έλεγξε τις απαιτήσεις συστήματος. Κατέβασε ένα μικρό μοντέλο, π.χ. Qwen3 4B ή 8B 4 bit. Η κβαντοποίηση μειώνει την ακρίβεια αναπαράστασης των βαρών για οικονομία μνήμης και μπορεί να επηρεάσει την ποιότητα.
  2. Επισύναψε PDF, DOCX ή TXT χωρίς ευαίσθητα στοιχεία. Ρώτησε τι χρειάζεται πριν την παράδοση και σε ποιο σημείο το αναφέρει η πηγή. Μικρά αρχεία μπορεί να χωρέσουν ολόκληρα στο πλαίσιο του μοντέλου. Σε μεγαλύτερα αρχεία γίνεται αναζήτηση αποσπασμάτων. Αν δεν μπορείς να επιλέξεις κείμενο σε σαρωμένο PDF, κάνε πρώτα τοπική οπτική αναγνώριση χαρακτήρων (OCR).
  3. Έλεγξε την απάντηση και κάνε μία ερώτηση που δεν καλύπτεται από το αρχείο. Κλείσε το Wi-Fi, αποσύνδεσε το Ethernet, επανεκκίνησε την εφαρμογή και επανάλαβε σε νέα συνομιλία.

Βάση γνώσης με Ollama και Open WebUI

Το Ollama εκτελεί τα μοντέλα. Το Open WebUI διαχειρίζεται τα έγγραφα και εμφανίζει τη συνομιλία στον browser. Αρχικά κράτησε τις υπηρεσίες αποκλειστικά στο Mac μέσω 127.0.0.1. Εγκατέστησε και άνοιξε το Ollama. Με σύνδεση στο διαδίκτυο εκτέλεσε στο Τερματικό:

ollama pull qwen3:8b
ollama pull qwen3-embedding:0.6b
ollama run qwen3:8b

Βγες από τη συνομιλία με /bye. Σύμφωνα με τον οδηγό του Ollama, πρόσθεσε "disable_ollama_cloud": true στο αντικείμενο JSON στο ~/.ollama/server.json, διατηρώντας τις άλλες ρυθμίσεις. Επανεκκίνησε το Ollama. Η συνηθισμένη τοπική διεύθυνση είναι http://127.0.0.1:11434.

Εγκατέστησε το uv και δες τον οδηγό Open WebUI. Εκτέλεσε την πρώτη εντολή. Στο http://127.0.0.1:8080 δημιούργησε τοπικό λογαριασμό διαχειριστή. Σύνδεσε το Ollama στη διεύθυνση που αναφέρεται παραπάνω. Στις ρυθμίσεις εγγράφων επίλεξε Ollama για embeddings και μοντέλο qwen3-embedding:0.6b. Χρησιμοποίησε τοπική εξαγωγή κειμένου.

DATA_DIR="$HOME/.open-webui" uvx --python 3.12 open-webui@latest serve --host 127.0.0.1 --port 8080
DATA_DIR="$HOME/.open-webui" OFFLINE_MODE=true uvx --offline --python 3.12 open-webui@latest serve --host 127.0.0.1 --port 8080

Στο Workspace → Knowledge δημιούργησε συλλογή, πρόσθεσε εγκεκριμένα αρχεία και επίλεξέ τη στη συνομιλία. Μετά τη δοκιμή πάτησε Ctrl+C και εκτέλεσε τη δεύτερη εντολή από τον ίδιο φάκελο. Απενεργοποίησε αναζήτηση στο διαδίκτυο και εξωτερικές υπηρεσίες AI και εργαλεία. Η λειτουργία offline σταματά ορισμένες λήψεις και ελέγχους εκδόσεων. Για απομόνωση αποσύνδεσε το δίκτυο ή μπλόκαρε εξερχόμενες συνδέσεις. Κάνε νέα δοκιμή μετά την επανεκκίνηση.

Πώς να μαθαίνει ο βοηθός από ελεγμένες διορθώσεις

  1. Δώσε σαφή ονόματα, ημερομηνίες και εκδόσεις στα αρχεία. Διάλεξε κύρια πηγή ανά θέμα και κράτησε την ισχύουσα έκδοση στην ενεργή συλλογή.
  2. Το εγχειρίδιο γράφει 30 λεπτά φόρτισης, ο υπεύθυνος επιβεβαιώνει 45. Ενημέρωσε το αρχείο, αντικατάστησε το παλιό στη συλλογή και έλεγξε ότι ενημερώθηκε το ευρετήριο. Μπορείς επίσης να βάλεις εγκεκριμένη σημείωση ερώτησης και απάντησης με ημερομηνία. Αφαίρεσε ξεπερασμένες καταχωρίσεις.
  3. Ρώτησε σε νέα συνομιλία για χρόνο φόρτισης, πηγή και έκδοση. Δοκίμασε μία γνωστή ερώτηση ελέγχου και μία χωρίς απάντηση. Μπορείς να προγραμματίσεις εισαγωγή από τοπικό φάκελο εγκεκριμένων αρχείων. Ενημέρωνε τα τροποποιημένα και βγάλε τα διαγραμμένα από το ευρετήριο.

Ετοίμασε 10–20 ερωτήσεις με σωστές απαντήσεις και πηγές. Μετά από αλλαγές έλεγξε τα ευρήματα, την ποιότητα και τον χρόνο αναμονής. Αν λείπει το απόσπασμα, έλεγξε OCR, τεμαχισμό και επιλογή εγγράφων. Αν υπάρχει αλλά η απάντηση είναι λάθος, άλλαξε την οδηγία ή δοκίμασε άλλο μοντέλο. Μεγαλύτερο πλαίσιο θέλει μνήμη και χρόνο.

Το fine-tuning αλλάζει τη συμπεριφορά, όπως τη μορφή ενός πίνακα απάντησης. Το MLX LM με LoRA εκπαιδεύει μικρό προσαρμογέα σε συμβατά Mac. Χρησιμοποίησε ελεγμένα παραδείγματα και κράτησε χωριστά παραδείγματα ελέγχου. Διατήρησε τα μεταβαλλόμενα δεδομένα στη βάση γνώσης. Η εκπαίδευση μοντέλου από το μηδέν απαιτεί πολύ περισσότερους πόρους.

Πόση RAM, πόσο SSD και τι εύρος ζώνης χρειάζεσαι;

CPU, GPU, macOS και εφαρμογές μοιράζονται την ενοποιημένη μνήμη. Εκεί πρέπει να χωρούν μοντέλο και προσωρινό πλαίσιο. Το εύρος ζώνης μνήμης σε GB/s δείχνει πόσα δεδομένα μετακινεί το chip ανά δευτερόλεπτο. Τα πυκνά μοντέλα διαβάζουν ξανά τα βάρη κατά την παραγωγή κειμένου. Μεγαλύτερο εύρος μπορεί να βοηθήσει. Μετρούν επίσης η αρχιτεκτονική, η GPU, το λογισμικό, το πλαίσιο και οι παράλληλες εργασίες. Ο αριθμός του Neural Engine από μόνος του δεν αρκεί.

Οι τυπικές εκδόσεις Qwen3 8B, 14B και 32B του Ollama καταλαμβάνουν περίπου 5,2, 9,3 και 20 GB στον SSD. Το B δηλώνει δισεκατομμύρια παραμέτρους. Στην πράξη απαιτείται περισσότερη RAM. Τα ακατέργαστα βάρη μοντέλου 70B στα 4 bit χρειάζονται περίπου 35 GB πριν από επιβάρυνση μορφής, πλαίσιο και σύστημα. Ξεκίνα με 4.000–8.000 tokens, δηλαδή κομμάτια κειμένου, αν χωράει η εργασία. Έλεγξε πίεση μνήμης και swap στην Παρακολούθηση δραστηριότητας.

SSD 256 GB μπορεί να αρκεί για δοκιμή αν έχει ελεύθερο χώρο. Για αγορά, ξεκίνα από 512 GB, σκέψου 1 TB για πολλά μοντέλα και 2 TB για μεγάλες συλλογές. Εξωτερικός SSD βοηθά εφόσον η εφαρμογή υποστηρίζει τη θέση. Η RAM δεν αναβαθμίζεται. Στο πλαίσιο φορτώνονται μόνο τα επιλεγμένα αποσπάσματα.

Ποιο Mac ταιριάζει στην τοπική AI;

16–32 GB: Mac mini M4 με 16 GB για δοκιμές 4B ή 8B. Με 24–32 GB υπάρχει χώρος για 14B και άλλες εφαρμογές. Ένα υπάρχον Mac 8 GB χρησιμεύει για μικρές δοκιμές. Δες Mac mini M4 και M4 Pro και όλα τα μεταχειρισμένα Mac mini.

48–64 GB: Mac mini M4 Pro για τακτική εργασία με έγγραφα και μοντέλα 14B–32B. Σύγκρινε και μεταχειρισμένο Mac Studio M1 ή M2 Max με 64 GB και 400 GB/s. Για εργασία εκτός γραφείου, δες MacBook Pro με chip Apple Pro ή Max. Ο οδηγός αφορά Apple Silicon.

Από 96 GB: M3 Ultra με 96 GB ή Max με 128 GB για 70B, μεγαλύτερο πλαίσιο ή πολλά μοντέλα μαζί. Εξέτασε 192–512 GB όταν το απαιτεί ο φόρτος σου. Δες Mac Studio M4 Max και M3 Ultra, όλα τα μεταχειρισμένα Mac Studio και τον οδηγό αγοράς Mac για AI. Ο πίνακας δίνει τεχνικές προδιαγραφές. Τα προϊόντα δείχνουν τις διαθέσιμες διαμορφώσεις.

Mac και chipΕπιλογές RAM (GB)Εύρος ζώνης (GB/s)
Mac mini M416 / 24 / 32120
Mac mini M4 Pro24 / 48 / 64273
Mac mini M616 · 24 / 32153 · 170
Mac mini M5 Pro24 / 48 / 64307
Mac Studio M1 Max32 / 64400
Mac Studio M2 Max32 / 64 · 96 (38 πυρήνες GPU)400
Mac Studio M1 Ultra64 / 128800
Mac Studio M2 Ultra64 / 128 / 192800
Mac Studio M4 Max · 32 πυρήνες GPU36410
Mac Studio M4 Max · 40 πυρήνες GPU48 / 64 / 128546
Mac Studio M3 Ultra · 60 πυρήνες GPU96819
Mac Studio M3 Ultra · 80 πυρήνες GPU96 / 256 / 512819
Mac Studio M5 Max · 32 πυρήνες GPU36460
Mac Studio M5 Max · 40 πυρήνες GPU48 / 64 / 128614
Mac Studio M5 Ultra · 64 πυρήνες GPU961200
Mac Studio M5 Ultra · 80 πυρήνες GPU96 / 256 / 5121200
MacBook Pro 16″ M4 Pro24 / 48273
MacBook Pro 16″ M4 Max · 32 πυρήνες GPU36410
MacBook Pro 16″ M4 Max · 40 πυρήνες GPU48 / 64 / 128546

Καθημερινή χρήση χωρίς σύνδεση

Φύλαξε τα αρχεία εκτός συγχρονισμένων φακέλων εφόσον πρέπει να μείνουν στο Mac. Ενεργοποίησε το FileVault και κρυπτογράφησε τα αντίγραφα εγγράφων, εκδόσεων μοντέλων, ρυθμίσεων, διορθώσεων και βάσης. Δοκίμασε επαναφορά. Χώρισε λογαριασμούς και πρόσβαση στις συλλογές. Αντιμετώπισε το κείμενο ως δεδομένα. Απαίτησε ανθρώπινη έγκριση πριν από email ή αλλαγή αρχείου. Για αναζήτηση αρκούν δικαιώματα ανάγνωσης.

Συχνές ερωτήσεις

Χρειάζομαι Apple Intelligence;

Το LM Studio και το Ollama χρησιμοποιούν δικά τους τοπικά μοντέλα. Δεν απαιτείται συνδρομή AI στο cloud.

Τι κάνω αν ο βοηθός επινοήσει απάντηση;

Άνοιξε το απόσπασμα και δες αν στηρίζει την απάντηση. Ζήτησε αρχείο και ενότητα. Αν δεν υπάρχει πηγή, ο βοηθός πρέπει να το δηλώνει.

Μπορεί να βελτιώνεται κάθε νύχτα;

Μπορείς να προγραμματίσεις εγκεκριμένες εισαγωγές, ενημέρωση ευρετηρίου και δοκιμές. Άφησε τις διορθώσεις να εγκρίνονται από άνθρωπο και κράτησε παλαιότερη έκδοση.

Πηγές και οδηγοί