🍎 Apple 剛把 M6 Mac mini 推到台前,一般人也能在家搭一台「斷網可用」的私人 AI。
先說結論:不是訓練 ChatGPT,而是把現成的開源模型下載到自己的 Mac 裡執行。聊天、摘要、寫作時,資料不用上傳到第三方伺服器。
【最簡單全流程】
1️⃣ 選機器
已有 Apple 晶片 Mac 就先直接試。準備買新的:統一記憶體 16GB 可跑輕量模型;24–32GB 更從容;大型模型則要再往上加。硬碟建議預留 30GB 以上。
2️⃣ 裝工具
一般人選 Ollama + Open WebUI:
• Ollama 負責在本機執行模型
• Open WebUI 提供像聊天軟體一樣的介面
不想折騰指令,也可以用 LM Studio。
3️⃣ 選模型
先從 7B/8B 量化版開始。中文聊天選 Qwen 系列,綜合用途可試 Llama 系列。別一開始就追最大模型,能流暢使用才重要。
4️⃣ 跑起來
安裝 Ollama → 下載模型 → 開啟聊天介面 → 先問一句「用三句話摘要這段文字」。回答正常,就搭好了。
5️⃣ 加入自己的資料
把 PDF、筆記、產品文件放進知識庫,讓 AI 先檢索資料再回答。這叫 RAG,比重新訓練模型簡單得多。
6️⃣ 守住隱私
關閉雲端模型入口;敏感檔案只放本機;定期更新軟體;真正敏感的任務要斷網測試。
【怎麼選路線】
• 只想聊天:LM Studio
• 想長期使用:Ollama + Open WebUI
• 想做 Apple 原生 App:Foundation Models framework / MLX Swift
Apple 最新一波硬體繼續把重點放在本地 AI 運算能力上,但一般人沒必要一步到頂:先用現有 Mac 跑一個小模型,再依速度和記憶體決定是否升級。
收藏這張流程,週末照著做就行。
#蘋果 #Mac mini #M6 #本地大模型 #AI 教學 #隐私AI #Ollama