LA COLECCIÓN OMBRAHOST / Cómputo GPU

Cómputo de GPUHaz sitio para ideas más grandes.

Configuraciones NVIDIA de un solo acelerador con 24, 48 o 80 GB de memoria GPU y asignaciones separadas de memoria del host. Adapta la inferencia, el renderizado o las cargas de trabajo de entrenamiento seleccionadas al presupuesto de memoria real y a la imagen compatible.

3configuraciones
4destinos compatibles
$929.10planes mensuales desde
Explora las configuraciones
LOS DETALLES PRIMERO

Encuentra tu opción ideal.

Consulta juntos el acelerador, la memoria de video y los recursos de soporte.

Configuraciones de 3Inclusiones completas. Totales de ciclo completo.
Cómputo de GPU

Spectre 4090

Combina un NVIDIA RTX 4090 con 24 GB de memoria GPU, 64 GB de memoria del host y 1 TB de almacenamiento NVMe para inferencia, renderizado y experimentos. Las opciones de imagen CUDA y un enlace ascendente de 10 Gbps admiten tu stack de software; el ajuste del modelo depende de la precisión, la longitud del contexto y la sobrecarga en tiempo de ejecución.

  • AceleradorUn NVIDIA RTX 4090 con 24 GB VRAM
  • Cómputo8 vCPU (Threadripper)
  • Memoria64 GB DDR5
  • Almacenamiento1 TB NVMe SSD
  • Transferencia20 TB / mes
  • Protección de DDoS40 Gbps
  • IPv4Incluye 1
  • Puerto de red10 Gbps
  • PlataformaBare-Metal
  • IPv6/64 subred
  • Un NVIDIA RTX 4090 con 24 GB VRAM
  • Ubicaciones limitadas a Islandia, Suiza, los Países Bajos y Moldavia
  • Compatibilidad con la pila de PyTorch, vLLM y Ollama
  • 10 Gbps de enlace ascendente
Ubicaciones y software

Ubuntu 22.04 + CUDA 12 · Debian + CUDA 12 · Custom

  • La memoria GPU es independiente de la asignación de 64 GB de memoria del host
  • Las opciones de imagen CUDA se enumeran en la selección del sistema operativo
  • Un modelo 13B FP16 necesita alrededor de 26 GB solo para los pesos y supera los 24 GB VRAM sin una estrategia de memoria diferente
  • La cuantización, la longitud de contexto, la caché KV y la sobrecarga en tiempo de ejecución determinan la adecuación del modelo
$929.10/ mes

Facturado mensualmente

Configurar plan Ver especificaciones completas
Cómputo de GPU

Spectre A6000

Utilice un NVIDIA RTX A6000 con 48 GB de memoria GPU junto con 128 GB de memoria host ECC y 2 TB de almacenamiento NVMe. La mayor asignación de memoria GPU y el enlace ascendente de 10 Gbps se adaptan a flujos de trabajo de inferencia o entrenamiento seleccionados más exigentes, con la memoria del modelo y del optimizador evaluada antes del despliegue.

  • AceleradorUn NVIDIA RTX A6000 con 48 GB VRAM
  • Cómputo16 vCPU (EPYC)
  • Memoria128 GB DDR5
  • Almacenamiento2 TB NVMe SSD
  • Transferencia30 TB / mes
  • Protección de DDoS80 Gbps
  • IPv4Incluye 1
  • Puerto de red10 Gbps
  • PlataformaBare-Metal
  • IPv6/64 subred
  • Un NVIDIA RTX A6000 con 48 GB VRAM
  • memoria del host ECC
  • Flujos de trabajo seleccionados de entrenamiento e inferencia con dimensionamiento dependiente del modelo
  • 10 Gbps de enlace ascendente
Ubicaciones y software

Ubuntu 22.04 + CUDA 12 · Custom

  • La memoria GPU es independiente de la asignación de 128 GB de memoria del host
  • Un modelo 13B FP16 necesita alrededor de 26 GB solo para los pesos; los gradientes, el estado del optimizador y la memoria en tiempo de ejecución son adicionales
  • Las opciones de imagen CUDA se enumeran en la selección del sistema operativo
  • La viabilidad del entrenamiento depende de la precisión, el tamaño del lote, el optimizador y la estrategia de memoria
$2,088.10/ mes

Facturado mensualmente

Configurar plan Ver especificaciones completas
Cómputo de GPU

Spectre H100

Cree cargas de trabajo intensivas de acelerador en torno a una NVIDIA H100 con 80 GB de HBM3, 256 GB de memoria de host y 4 TB de almacenamiento NVMe. Un enlace ascendente de 25 Gbps y una asignación de transferencia mensual de 50 TB admiten grandes conjuntos de datos; los modelos de altos parámetros aún requieren una planificación cuidadosa de precisión, contexto y memoria.

  • AceleradorUn NVIDIA H100 con 80 GB HBM3 GPU de memoria
  • Cómputo32 vCPU (EPYC)
  • Memoria256 GB DDR5
  • Almacenamiento4 TB NVMe SSD
  • Transferencia50 TB / mes
  • Protección de DDoS100 Gbps
  • IPv4Incluye 1
  • Puerto de red25 Gbps
  • PlataformaBare-Metal
  • IPv6/64 subred
  • Un NVIDIA H100 con 80 GB HBM3 GPU de memoria
  • Flujos de trabajo de modelos grandes sujetos al dimensionamiento de memoria
  • 25 Gbps de enlace ascendente
  • objetivo de disponibilidad del catálogo de 99.99%
Ubicaciones y software

Ubuntu 22.04 + CUDA 12 · Custom

  • La memoria GPU es independiente de la asignación de 256 GB de memoria del host
  • Un modelo 70B FP16 necesita alrededor de 140 GB solo para los pesos; un 80 GB H100 requiere cuantización, descarga o una estrategia multidispositivo adecuada
  • NVLink se refiere a una configuración multi-GPU organizada por separado; este plan especifica un acelerador
  • Las opciones de imagen CUDA se enumeran en la selección del sistema operativo
$5,508.10/ mes

Facturado mensualmente

Configurar plan Ver especificaciones completas

Una configuración. Un destino. Tu elección.

Explora las regiones de despliegue y guías prácticas junto con los requisitos exactos de tu proyecto.

Explorar casos de uso
UN POCO MÁS DE CLARIDAD

Antes de tu
siguiente movimiento.

Detalles prácticos para computación GPU, desde la configuración hasta las opciones futuras.

Abrir el centro de conocimiento

Estas son especificaciones de servicio preparadas. La infraestructura, las licencias y los servicios opcionales requieren validación antes de un lanzamiento en vivo.

CÓMPUTO GPU / EN DETALLERespuestas útiles de 7
¿Qué configuraciones de GPU de OmbraHost están preparadas?+

La gama Spectre incluye un RTX 4090 con 24 GB VRAM, RTX A6000 con 48 GB y H100 con 80 GB. Los pesos del modelo, la caché de contexto, el tamaño del lote y la sobrecarga del software afectan a la capacidad. Las ubicaciones y las imágenes varían según el nivel. Los modelos instalados, las tasas de tokens medidas y la asignación de GPU requieren una integración de aprovisionamiento.

¿Cuánta memoria GPU se necesita?+

Los pesos FP16 necesitan aproximadamente dos bytes por parámetro; los pesos de cuatro bits aproximadamente medio byte. Deje espacio adicional para la caché de contexto, el procesamiento por lotes y la sobrecarga en tiempo de ejecución.

¿Cuáles son las opciones de GPU?+

Spectre 4090 especifica 24 GB VRAM, A6000 48 GB y H100 80 GB. Compare el modelo y la precisión reales antes de elegir.

¿Encajará un modelo 70B FP16?+

Solo sus pesos necesitan aproximadamente 140 GB. Un único 80 GB H100 no puede contenerlos; evalúe la cuantización o una configuración multi-GPU adecuada.

¿Puedo solicitar varios GPUs?+

Los arreglos multi-GPU personalizados son una consulta de ventas preparada. El stock, la topología NVLink, la potencia y el plazo de entrega deben confirmarse antes de cualquier compromiso.

¿Hay disponibles ráfagas cortas de investigación?+

La fuente describe un mínimo de siete días según acuerdo. Esto sigue siendo una opción comercial propuesta; el checkout actual utiliza los tres ciclos de facturación publicados.

¿Se puede usar Windows?+

Solo las plantillas del catálogo aparecen en el selector estándar. Las solicitudes de Windows GPU o de imágenes personalizadas requieren verificaciones de elegibilidad de controladores, licencias y despliegue.

Un poco más de flexibilidad.

OPCIONES PREPARADAS

Explore servicios opcionales y sus unidades de facturación. Las solicitudes de servicios opcionales requieren un proveedor conectado antes de su cumplimiento.

Veil Edge

Perfil de red preparado con la asignación de mitigación de 10 Gbps, detección de anomalías y ajuste de latencia. Valide su relación con la protección ya incluida en el plan.

$4.75por mes

Eclipse Shield

Perfil de 100 Gbps preparado con reglas de aplicación y una ruta de filtrado dedicada. Confirme la capacidad efectiva y la compatibilidad; algunos planes base ya especifican mayor capacidad.

$19.00por mes

Iron Veil

Una revisión de referencia dirigida por un ingeniero que abarca la guía CIS, la protección de inicio de sesión, la gestión de claves y las reglas de firewall. Este servicio está preparado y aún no tiene un ingeniero asignado.

$46.55one-time

Vault Mirror

Copias incrementales diarias externas preparadas, retención de siete días y un destino cifrado compatible con S3. El destino y el procedimiento de recuperación requieren validación en producción.

$4.75por mes

Checkpoint

Instantáneas programadas y manuales preparadas con un límite de retención móvil de cinco instantáneas. Esta tarifa de servicio fija es independiente de la tarifa de almacenamiento por GB propuesta.

$2.85por mes

First Light

Una configuración inicial propuesta que cubre instalación, línea base de seguridad y servicios básicos acordados. El alcance único debe confirmarse antes de que comience el trabajo.

$19.00one-time

Shadow Transfer

Un servicio de transferencia preparado incluido sin cargo con un pedido nuevo elegible. El inventario, el acceso, la transición y la reversión se acuerdan antes de la migración.

$0.00one-time

Route Extension

Una dirección IPv4 adicional, sujeta a elegibilidad de asignación y aprobación técnica. Seleccionar la opción no reserva ni enruta una dirección.

$1.90por mes