Как да се свържете с посветения на GPU сървър

свързването към специален сървър на GPU от AlexHost е процес, състоящ се от няколко етапа: от избора на подходяща тарифа до настройката и започването на работа. По-долу са представени основните стъпки за успешно свързване и използване на сървъра

Избор на подходяща тарифа

АлексХост предлага две тарифи за специализирани сървъри с GPU:

Специализираните сървъри са снабдени с две мощни и модерни видеокарти 2x RTX 4070 Ti SUPER. Друг важен елемент е, че AlexHost предоставя цялостен набор от предварително инсталирани инструменти и рамки, специално разработени за рационализиране на внедряването и използването на големи езикови модели (LLM), което ви позволява да започнете работа с решения за изкуствен интелект веднага. Това ще ви помогне да получите сървър с разгърнат инструмент за ИИ веднага.

Потребителски интерфейс на Oobabooga Text Gen
PyTorch (CUDA 12.4 cuDNN)
SD Webui A1111
Ubuntu 22.04 VM: GNOME Desktop RDPXFCE Desktop RDPKDE Plasma Desktop RDP
Също така: При поискване можем да инсталираме всяка операционна система

Как да се свържете с вашия GPU сървър

При успешно плащане ще получите достъп до сървъра и пълномощни на имейла си. Също така сме готови да ви предоставим инструкции за това как да се свържете с вашия специализиран GPU сървър. Инструкциите са много прости, просто следвайте следващите стъпки, които са описани по-долу.

И така, след като успешно поръчате GPU сървър, можете да отидете в профила си и да го изберете от списъка с активирани услуги. След това я отворете, като щракнете върху избраната услуга.

За да видите данните за влизане в DCIManager, трябва да отидете в раздела “Данни за влизане”

Ще можете да последвате връзката, предоставена в профила ви, и да видите потребителското име и съответната парола.

След като изберете трите точки, трябва да щракнете върху Инсталиране на ОС от шаблон, за да видите наличните модели на ОС и LLM

Можете да инсталирате всяка операционна система, налична в списъка с шаблони, на вашия GPU сървър.
Понастоящем рамките и инструментите за работа с големи езикови модели (LLM) се поддържат само на Ubuntu 22.04. Когато е избрана тази операционна система, съответните инсталационни скриптове за рамки за LLM стават достъпни за избор по време на инсталацията.

Като изберете опцията Изберете други скриптове, ще имате достъп до инсталирането на всички налични модели LLM. Нека разгледаме набързо всеки от тях:

Генериране на текст WebUI е уеб интерфейс за работа с модели за генериране на текст, като GPT, LLaMA, Mistral и други. Той ви позволява да зареждате модели, да конфигурирате параметри и да взаимодействате с LLM за генериране на текст.
AUTOMATIC1111 Stable Diffusion WebUI е един от най-популярните уеб интерфейси за генериране на изображения с помощта на модела Stable Diffusion. Той предоставя удобен графичен интерфейс, в който можете да зареждате модели, да конфигурирате параметри за генериране на изображения, да използвате допълнителни приставки и разширения.
GNOME / XFCE / KDE Plasma Desktop RDP са различни графични среди за отдалечено свързване към сървъра чрез RDP (протокол за отдалечен работен плот). Те не са пряко свързани с LLM, но могат да се използват за управление и работа със сървъра, на който се изпълняват моделите на ИИ.
PyTorch (CUDA12.4 cuDNN ) е библиотека за работа с невронни мрежи и машинно обучение. Тя поддържа ускорение на графични процесори (чрез CUDA) и се използва за обучение и работа на LLM (напр. GPT, LLaMA) и модели за генериране на изображения (Stable Diffusion).