GPU Tahsisli Sunucunuza Nasıl Bağlanırsınız

alexHost’tan bir GPU tahsis edilmiş sunucuya bağlanmak birkaç aşamadan oluşan bir süreçtir: doğru tarifenin seçilmesinden kuruluma ve çalışmaya başlamaya kadar. Aşağıda sunucuya başarılı bir şekilde bağlanmak ve kullanmak için ana adımlar verilmiştir

Doğru tarifenin seçilmesi

AlexHost, GPU’ya adanmış sunucular için iki tarife sunmaktadır:

Özel sunucular iki güçlü ve modern 2x RTX 4070 Ti SUPER ekran kartı ile sağlanır. Bir diğer önemli unsur ise AlexHost’un, Büyük Dil Modellerinin (LLM’ler) dağıtımını ve kullanımını kolaylaştırmak için özel olarak tasarlanmış kapsamlı bir önceden yüklenmiş araç ve çerçeve seti sunması ve AI çözümleriyle hemen çalışmaya başlamanıza olanak sağlamasıdır. Bu, hemen konuşlandırılabilir bir yapay zeka aracına sahip bir sunucu edinmenize yardımcı olacaktır.

Oobabooga Text Gen Kullanıcı Arayüzü
PyTorch (CUDA 12.4 cuDNN)
SD Webui A1111
Ubuntu 22.04 VM: GNOME Masaüstü RDPXFCE Masaüstü RDPKDE Plasma Masaüstü RDP
Ayrıca: Talep üzerine, herhangi bir işletim sistemi kurabiliriz

GPU Sunucunuza Nasıl Bağlanırsınız

Başarılı bir ödemenin ardından, sunucuya erişim ve kimlik bilgileri e-postanıza gönderilecektir. GPU tahsisli sunucunuza nasıl bağlanabileceğinize dair talimatları da vermeye hazırız. Talimatlar çok basittir, sadece aşağıda açıklanan sonraki adımları izleyin.

Bu nedenle, bir GPU sunucusunu başarıyla sipariş ettikten sonra, hesabınıza gidebilir ve etkinleştirilen hizmetler listesinden seçebilirsiniz. Ardından seçilen hizmete tıklayarak açın.

DCIManager‘da oturum açmaya yönelik kimlik bilgilerini görmek için Oturum Açma Ayrıntıları bölümüne gitmeniz gerekir

Hesabınızda verilen bağlantıyı takip edebilecek ve orada Kullanıcı Adı ve ilgili Şifreyi de görebileceksiniz.

Üç noktayı seçtikten sonra, mevcut işletim sistemi ve LLM modellerini görüntülemek için Şablondan İşletim Sistemi Yükle seçeneğine tıklamanız gerekir

GPU sunucunuza şablon listesinde bulunan herhangi bir işletim sistemini kurabilirsiniz.
Şu anda, büyük dil modelleriyle (LLM’ler) çalışmaya yönelik çerçeveler ve araçlar yalnızca Ubuntu 22.04’te desteklenmektedir. Bu işletim sistemi seçildiğinde, LLM çerçeveleri için ilgili kurulum komut dosyaları kurulum sırasında seçilebilir hale gelir.

Başka bir komut dosyası seç seçeneğini belirleyerek mevcut tüm LLM modellerini yükleyebilirsiniz. Her birine hızlıca bir göz atalım:

Metin oluşturma WebUI, GPT, LLaMA, Mistral ve diğerleri gibi metin oluşturma modelleriyle çalışmak için bir web arayüzüdür. Modelleri yüklemenize, parametreleri yapılandırmanıza ve metin LLM’leri ile etkileşime girmenize olanak tanır.
AUTOMATIC1111 Stable Diffusion WebUI, Stable Diffusion modelini kullanarak görüntü oluşturmak için en popüler web arayüzlerinden biridir. Modelleri yükleyebileceğiniz, görüntü oluşturma parametrelerini yapılandırabileceğiniz, ek eklentiler ve uzantılar kullanabileceğiniz kullanışlı bir GUI sağlar.
GNOME / XFCE / KDE Plasma Desktop RDP, RDP (UzakMasaüstü Protokolü) aracılığıyla sunucuya uzaktan bağlantı için çeşitli grafik ortamlardır. Doğrudan LLM ile ilgili değildirler, ancak AI modellerinin çalıştığı sunucuyu yönetmek ve onunla çalışmak için kullanılabilirler.
PyTorch (CUDA12.4 cuDNN) sinir ağları ve makine öğrenimi ile çalışmak için bir kütüphanedir. GPU hızlandırmayı (CUDA aracılığıyla) destekler ve LLM’leri (örn. GPT, LLaMA) ve görüntü oluşturma modellerini (Kararlı Difüzyon) eğitmek ve çalıştırmak için kullanılır.