Запускаю DeepSeek на домашнем сервере с видеокартой. Подписка на Chat GPT больше не нужна.
Вы когда-нибудь задумывались, как запускать нейросети прямо у себя на домашнем сервере или обычном компьютере — без облаков, подписок и ограничений и совершенно бесплатно? В этом видео я покажу, как настроить свой сервер на базе Proxmox, подключить видеокарту Nvidia RTX 3060, установить Ollama, подключить WebUI и протестировать популярные LLM-модели, такие как DeepSeek, Gemma (gemini от Google) LLaMA 3 и Qwen прямо на CPU и GPU. Поговорим, на сколько выгоднее своя нейросеть чем готовые Gemini, Claude, ChatGpt, DeepSeek. Сравним несколько моделей и я приведу свой топ моделей для повседневного использования.
Вы когда-нибудь задумывались, как запускать нейросети прямо у себя на домашнем сервере или обычном компьютере — без облаков, подписок и ограничений и совершенно бесплатно? В этом видео я покажу, как настроить свой сервер на базе Proxmox, подключить видеокарту Nvidia RTX 3060, установить Ollama, подключить WebUI и протестировать популярные LLM-модели, такие как DeepSeek, Gemma (gemini от Google) LLaMA 3 и Qwen прямо на CPU и GPU. Поговорим, на сколько выгоднее своя нейросеть чем готовые Gemini, Claude, ChatGpt, DeepSeek. Сравним несколько моделей и я приведу свой топ моделей для повседневного использования.