Īrējiet NVIDIA Q RTX 4000 GPU pa stundām
NVIDIA Q RTX 4000 ir Turing arhitektūras darbstaciju GPU, ko varat nomāt vietnē ONIE sākuma līmeņa AI un grafikas uzdevumiem. Tā nodrošina 8 GB VRAM, aptuveni 7.7 TFLOPS vienas precizitātes aprēķinu veiktspēju un aptuveni 353 GB/s atmiņas joslas platumu ar 125 W jaudas profilu. Šo instanci var izvietot ar gatavām PyTorch/CUDA, vLLM, Ollama un ComfyUI veidnēm, un tā atbalsta CUDA skaitļošanas iespēju 7.5.
Specifikācijas
VRAM katram GPU
Arhitektūra
Skaitļošanas spēja
FP32 skaitļošana
Atmiņas joslas platums
Jaudas ierobežojums
Vērtības, ko par pašlaik piedāvātajiem serveriem norādījis infrastruktūras nodrošinātājs; reālā veiktspēja dažādos serveros var atšķirties.
Pieejamās konfigurācijas
Aktuālie krājumi un cenas, kas tiek atjaunotas nepārtraukti. Galīgā cena tiek apstiprināta pirms pasūtīšanas.
Ielādē aktuālās cenas…
Kam ir piemērots Q RTX 4000
Koda prototipu izstrāde un atkļūdošana
Pārbaudiet un validējiet PyTorch/CUDA konveijerus 8 GB darbstaciju GPU, pirms pāriet uz jaudīgāku aparatūru.
Kompaktu modeļu inferēšana
Izmantojiet maza izmēra valodas modeļus ar Ollama vai vLLM, kas ērti ietilpst 8 GB VRAM.
Vienkārša attēlu ģenerēšana
Izpildiet standarta attēlu ģenerēšanas darbplūsmas ComfyUI, kas nepārsniedz 8 GB atmiņas ierobežojumu.
Darbstaciju grafika un renderēšana
Izmantojiet Turing arhitektūru un aptuveni 353 GB/s atmiņas joslas platumu attālās renderēšanas un vizualizācijas uzdevumiem.
Vai tas ir piemērots GPU Jums?
Izvēlieties Q RTX 4000 vieglai inferēšanai, renderēšanai un koda izstrādei, kas ietilpst 8 GB VRAM un CUDA skaitļošanas iespējas 7.5 robežās. Intensīvai modeļu apmācībai vai liela mēroga inferēšanai izvēlieties jaudīgāku GPU ar vairāk atmiņas un jaunāku arhitektūru, bet vienkāršai attēlošanai vai minimāliem skaitļošanas uzdevumiem — mazāku GPU.
Salīdzināt ar līdzīgiem GPU
Biežāk uzdotie jautājumi
Vai Q RTX 4000 ir piemērots LLM inferēšanai un precīzai pielāgošanai?
Ar 8 GB VRAM un aptuveni 7.7 TFLOPS vienas precizitātes veiktspēju tas ir piemērots kompaktu modeļu inferēšanai, izmantojot Ollama vai vLLM. Lielākiem modeļiem vai pilna apjoma precīzas pielāgošanas uzdevumiem izvēlieties GPU ar vairāk VRAM un lielāku atmiņas joslas platumu nekā aptuveni 353 GB/s.
Vai varu izmantot šo GPU ComfyUI un attēlu ģenerēšanai?
Jā, ONIE piedāvā gatavu ComfyUI veidni, kas darbojas ar šo Turing darbstaciju GPU. Tā izpilda standarta ģenerēšanas konveijerus, kas ietilpst 8 GB atmiņā, taču lielākiem konveijeriem būs nepieciešams GPU ar lielāku atmiņas apjomu.
Kā izveidot savienojumu ar instanci, un kāda programmatūra ir iepriekš instalēta?
Varat izveidot tiešu savienojumu ar darbojošos instanci, izmantojot SSH. ONIE nodrošina iepriekš konfigurētas PyTorch/CUDA, vLLM, Ollama un ComfyUI veidnes, lai varētu sākt darbu uzreiz.
Kā ONIE tiek aprēķināta maksa par Q RTX 4000 izmantošanu?
Maksa par aktīvām instancēm tiek aprēķināta par katru stundu. Tādējādi varat veikt izstrādes vai renderēšanas darbus un pēc to pabeigšanas instanci apturēt.
Nomājiet Q RTX 4000 pa stundām
Izveidojiet kontu, izvēlieties konfigurāciju un pieslēdzieties caur SSH. Norēķini tiek pārtraukti, kad dzēšat GPU.
Nomāt Q RTX 4000