Туту Новости (TutuNews) @tutunews
🍎 Apple вывела M6 Mac mini на первый план, и теперь даже обычный пользователь может развернуть дома персональный ИИ, который «работает без интернета».
Сразу к сути: речь не об обучении ChatGPT. Вы скачиваете готовую модель с открытым исходным кодом и запускаете её на своём Mac. Во время общения, создания кратких изложений и написания текстов данные не нужно загружать на сторонние серверы.
【Самая простая пошаговая инструкция】
1️⃣ Выберите компьютер
Если у вас уже есть Mac с чипом Apple, сначала попробуйте его. Планируете покупать новый? 16 ГБ объединённой памяти хватит для лёгких моделей; с 24–32 ГБ будет комфортнее; для крупных моделей потребуется ещё больше. Рекомендуется оставить не менее 30 ГБ свободного места на диске.
2️⃣ Установите инструменты
Для большинства пользователей подойдёт Ollama + Open WebUI:
• Ollama запускает модели локально
• Open WebUI предоставляет интерфейс, похожий на обычный чат
Если не хочется возиться с командами, можно использовать LM Studio.
3️⃣ Выберите модель
Начните с квантованной версии 7B/8B. Для общения на китайском выбирайте семейство Qwen, а для универсальных задач попробуйте семейство Llama. Не гонитесь сразу за самой большой моделью — важнее, чтобы всё работало плавно.
4️⃣ Запустите систему
Установите Ollama → скачайте модель → откройте интерфейс чата → сначала спросите: «Сделай краткое изложение этого текста в трёх предложениях». Если ответ выглядит нормально, всё готово.
5️⃣ Добавьте свои материалы
Загрузите PDF-файлы, заметки и документацию по продуктам в базу знаний, чтобы ИИ сначала искал информацию там, а затем отвечал. Это называется RAG и намного проще, чем заново обучать модель.
6️⃣ Защитите конфиденциальность
Отключите доступ к облачным моделям; храните конфиденциальные файлы только на своём компьютере; регулярно обновляйте ПО; действительно чувствительные задачи проверяйте без подключения к интернету.
【Какой вариант выбрать】
• Нужен только чат: LM Studio
• Хотите пользоваться постоянно: Ollama + Open WebUI
• Хотите создать нативное приложение для Apple: Foundation Models framework / MLX Swift
В новой волне устройств Apple по-прежнему делает упор на вычислительную мощность для локального ИИ. Но обычному пользователю незачем сразу брать максимальную конфигурацию: сначала запустите небольшую модель на уже имеющемся Mac, а затем решите, нужно ли обновление, исходя из скорости и объёма памяти.
Сохраните эту инструкцию и повторите всё на выходных.
#Яблоко #Mac mini #М6 #本地大模型 #Уроки по ИИ #隐私AI #Оллама