Всё больше людей запускают нейросети не на своём компьютере, а на арендованном сервере с мощной видеокартой. Сам сервер стоит в дата-центре или у другого владельца, а вы управляете им из дома через браузер или терминал. Возникает закономерный вопрос: хватит ли для этого обычного домашнего интернета и роутера?
Хорошая новость: вычисления идут на удалённой машине, и по вашей сети гоняются в основном команды и результаты. Когда вы работаете в Jupyter или по SSH, трафик измеряется килобайтами. Сгенерированные картинки весят несколько мегабайт, текстовые ответы языковой модели — и того меньше.
Нагрузка на канал появляется в двух случаях: когда вы загружаете на сервер свои данные (датасет для обучения, фотографии, видео) и когда скачиваете результат — например, дообученную модель на несколько гигабайт. Сами модели вроде Stable Diffusion или Llama сервер обычно скачивает напрямую из интернета, через ваш канал они не идут.
Для повседневной работы Wi-Fi вполне подходит, особенно в диапазоне 5 ГГц и рядом с роутером. Но если вы регулярно перекачиваете большие файлы, лучше подключить компьютер кабелем: скорость будет стабильнее, а сессия не оборвётся из-за помех от соседских сетей. Если кабель протянуть нельзя, помогает mesh-система или точка доступа поближе к рабочему месту.
Большие наборы данных удобнее не заливать с домашнего компьютера, а скачивать на сервер напрямую — из облачного хранилища, по ссылке или с Hugging Face. С вашей стороны остаются только код и настройки. Так же стоит поступать и с результатами: архивировать перед скачиванием и забирать только то, что действительно нужно.
Обычного домашнего интернета на 100 Мбит/с с запасом хватает для работы с удалённой видеокартой. Сервер с RTX 4090 или A100 можно арендовать по часам, например у Teraferma, и подключаться к нему через браузер — главное, чтобы соединение было стабильным, а большие файлы по возможности качались напрямую на сервер.
Xrust: Какой интернет нужен, чтобы работать с облачной видеокартой из дома