Bài viết

🍎 Apple vừa đưa M6 Mac mini lên sân khấu chính, và giờ người dùng phổ thông cũng có thể tự dựng một AI riêng tư tại nhà, “dùng được ngay cả khi mất mạng”. Nói kết luận trước: đây không phải là huấn luyện ChatGPT, mà là tải các mô hình mã nguồn mở có sẵn về và chạy trên chính chiếc Mac của bạn. Khi trò chuyện, tóm tắt hay viết nội dung, dữ liệu không cần được tải lên máy chủ của bên thứ ba. 【Quy trình đầy đủ đơn giản nhất】 1️⃣ Chọn máy Nếu đã có Mac dùng chip Apple, hãy thử trực tiếp trên máy đó trước. Nếu định mua máy mới: unified memory 16GB chạy được mô hình nhẹ; 24–32GB sẽ thoải mái hơn; với mô hình lớn thì cần nâng thêm. Nên chừa ít nhất 30GB dung lượng lưu trữ. 2️⃣ Cài công cụ Với người dùng phổ thông, hãy chọn Ollama + Open WebUI: • Ollama phụ trách chạy mô hình ngay trên máy • Open WebUI cung cấp giao diện giống một ứng dụng chat Nếu không muốn mất công dùng câu lệnh, bạn cũng có thể chọn LM Studio. 3️⃣ Chọn mô hình Hãy bắt đầu với bản lượng tử hóa 7B/8B. Nếu trò chuyện bằng tiếng Trung, chọn dòng Qwen; với nhu cầu tổng hợp, có thể thử dòng Llama. Đừng lao ngay vào mô hình lớn nhất—chạy mượt mới là điều quan trọng. 4️⃣ Khởi chạy Cài Ollama → tải mô hình → mở giao diện chat → thử hỏi trước: “Hãy tóm tắt đoạn văn này trong ba câu.” Nếu câu trả lời bình thường thì bạn đã thiết lập xong. 5️⃣ Thêm tài liệu của bạn Đưa PDF, ghi chú và tài liệu sản phẩm vào kho kiến thức để AI tìm kiếm trong đó trước khi trả lời. Cách này gọi là RAG và đơn giản hơn nhiều so với huấn luyện lại mô hình. 6️⃣ Bảo vệ quyền riêng tư Tắt lối truy cập vào các mô hình đám mây; chỉ lưu tệp nhạy cảm trên máy; cập nhật phần mềm định kỳ; với các tác vụ thực sự nhạy cảm, hãy thử nghiệm khi đã ngắt mạng. 【Nên chọn hướng nào】 • Chỉ muốn trò chuyện: LM Studio • Muốn dùng lâu dài: Ollama + Open WebUI • Muốn làm App native cho Apple: Foundation Models framework / MLX Swift Đợt phần cứng mới nhất của Apple tiếp tục tập trung vào năng lực tính toán AI cục bộ, nhưng người dùng phổ thông không cần phải lên cấu hình cao nhất ngay từ đầu. Hãy chạy thử một mô hình nhỏ trên chiếc Mac hiện có, rồi dựa vào tốc độ và bộ nhớ để quyết định có cần nâng cấp hay không. Lưu lại quy trình này và làm theo vào cuối tuần là được. #Táo #Mac mini #M6 #本地大模型 #Hướng dẫn AI #隐私AI #Ollama