Як підключитися до виділеного сервера з GPU
підключення до виділеного сервера з GPU від AlexHost – це процес, що складається з декількох етапів: від вибору відповідного тарифу до налаштування та початку роботи. Нижче наведені основні кроки для успішного підключення та використання сервера
Вибір відповідного тарифу
AlexHost пропонує два тарифи на виділені сервери з графічним процесором:
- Oobabooga Text Gen UI
- PyTorch (CUDA 12.4 cuDNN)
- SD Webui A1111
- Ubuntu 22.04 VM: Робочий стіл GNOME RDPXFCE Робочий стіл RDPKDE Робочий стіл Plasma RDP
- Також: За запитом ми можемо встановити будь-яку ОС
Як підключитися до вашого GPU-сервера




Наразі фреймворки та інструменти для роботи з великими мовними моделями (LLM) підтримуються лише в Ubuntu 22.04. При виборі цієї ОС відповідні інсталяційні скрипти для фреймворків LLM стають доступними для вибору під час налаштування.

- Text generation WebUI – це веб-інтерфейс для роботи з моделями генерації тексту, такими як GPT, LLaMA, Mistral та іншими. Він дозволяє завантажувати моделі, налаштовувати параметри та взаємодіяти з текстовими LLM.
- AUTOMATIC1111 Stable Diffusion WebUI – один з найпопулярніших веб-інтерфейсів для генерації зображень з використанням моделі стабільної дифузії. Він надає зручний графічний інтерфейс, в якому можна завантажувати моделі, налаштовувати параметри генерації зображень, використовувати додаткові плагіни та розширення.
- GNOME / XFCE / KDE Plasma Desktop RDP – різноманітні графічні середовища для віддаленого підключення до сервера за протоколом RDP (Remote Desktop Protocol). Вони не мають прямого відношення до LLM, але можуть бути використані для керування та роботи з сервером, на якому працюють моделі ШІ.
- PyTorch (CUDA12.4 cuDNN ) – бібліотека для роботи з нейронними мережами і машинним навчанням. Вона підтримує прискорення GPU (через CUDA) і використовується для навчання та запуску LLM (наприклад, GPT, LLaMA) і моделей генерації зображень (Stable Diffusion).


