图图新闻(TutuNews) @tutunews
🍎 Apple 刚把 M6 Mac mini 推到台前,普通人也能在家搭一台“断网可用”的私人 AI。
先说结论:不是训练 ChatGPT,而是把现成开源模型下载到自己的 Mac 里运行。聊天、总结、写作时,资料不用上传第三方服务器。
【最简单全流程】
1️⃣ 选机器
已有 Apple 芯片 Mac 先直接试。准备新买:统一内存 16GB 可跑轻量模型;24–32GB 更从容;大模型再往上加。硬盘建议留出 30GB 以上。
2️⃣ 装工具
普通人选 Ollama + Open WebUI:
• Ollama 负责在本地运行模型
• Open WebUI 提供像聊天软件一样的界面
不想折腾命令,也可用 LM Studio。
3️⃣ 选模型
先从 7B/8B 量化版开始。中文聊天选 Qwen 系列,综合用途可试 Llama 系列。别一上来追最大模型,能流畅用才重要。
4️⃣ 跑起来
安装 Ollama → 下载模型 → 打开聊天界面 → 先问一句“用三句话总结这段文字”。回答正常,就搭好了。
5️⃣ 加自己的资料
把 PDF、笔记、产品文档放进知识库,让 AI 先检索资料再回答。这叫 RAG,比重新训练模型简单得多。
6️⃣ 守住隐私
关闭云端模型入口;敏感文件只放本机;定期更新软件;真正敏感的任务断网测试。
【怎么选路线】
• 只想聊天:LM Studio
• 想长期使用:Ollama + Open WebUI
• 想做 Apple 原生 App:Foundation Models framework / MLX Swift
Apple 最新一波硬件把重点继续压在本地 AI 算力上,但普通人没必要一步到顶:先用现有 Mac 跑一个小模型,再按速度和内存决定是否升级。
收藏这张流程,周末照着做就行。
#苹果 #Macmini #M6 #本地大模型 #AI教程 #隐私AI #Ollama