OMBRAHOST 系列 / GPU 计算

GPU计算为更宏大的构想腾出空间。

单加速器 NVIDIA 配置,配备 24、48 或 80 GB 的 GPU 内存以及独立的主机内存分配。将推理、渲染或选定的训练工作负载与实际内存预算和支持的镜像相匹配。

3配置
4兼容目的地
$929.10月度套餐起价
探索这些配置
细节优先

找到适合您的方案。

查看加速器、视频内存和支持资源。

3 配置完整包含项。全周期总计。
GPU计算

Spectre 4090

将一个 NVIDIA RTX 4090 与 24 GB 的 GPU 内存、64 GB 的主机内存和 1 TB 的 NVMe 存储配对,用于推理、渲染和实验。CUDA 镜像选项和 10 Gbps 上行链路支持您的软件栈;模型适配取决于精度、上下文长度和运行时开销。

  • 加速器一个 NVIDIA RTX 4090,配备 24 GB VRAM
  • 计算8 vCPU (Threadripper)
  • 内存64 GB DDR5
  • 存储1 TB NVMe SSD
  • 传输20 TB / 月
  • DDoS 保护40 Gbps
  • IPv4包含 1 个
  • 网络端口10 Gbps
  • 平台Bare-Metal
  • IPv6/64 个子网
  • 一个 NVIDIA RTX 4090,配备 24 GB VRAM
  • 位置仅限于冰岛、瑞士、荷兰和摩尔多瓦
  • PyTorch、vLLM 和 Ollama 堆栈兼容性
  • 10 Gbps 上行链路
位置与软件

Ubuntu 22.04 + CUDA 12 · Debian + CUDA 12 · Custom

  • GPU 内存与 64 GB 主机内存分配相互独立
  • CUDA 镜像选项列在操作系统选择中
  • 一个 13B FP16 模型仅权重就需要约 26 GB,如果不采用不同的内存策略,会超过 24 GB VRAM
  • 量化、上下文长度、KV 缓存和运行时开销决定模型适配
$929.10/ 月

按月计费

配置套餐 查看完整规格
GPU计算

Spectre A6000

使用一个 NVIDIA RTX A6000,配备 48 GB 的 GPU 内存,以及 128 GB 的 ECC 主机内存和 2 TB 的 NVMe 存储。更大的 GPU 内存分配和 10 Gbps 上行链路适合更苛刻的推理或选定的训练工作流,部署前需评估模型和优化器内存。

  • 加速器一个 NVIDIA RTX A6000,配备 48 GB VRAM
  • 计算16 vCPU (EPYC)
  • 内存128 GB DDR5
  • 存储2 TB NVMe SSD
  • 传输30 TB / 月
  • DDoS 保护80 Gbps
  • IPv4包含 1 个
  • 网络端口10 Gbps
  • 平台Bare-Metal
  • IPv6/64 个子网
  • 一个 NVIDIA RTX A6000,配备 48 GB VRAM
  • ECC 主机内存
  • 选定的训练和推理工作流,规模取决于模型
  • 10 Gbps 上行链路
位置与软件

Ubuntu 22.04 + CUDA 12 · Custom

  • GPU 内存与 128 GB 主机内存分配相互独立
  • 一个 13B FP16 模型仅权重就需要约 26 GB;梯度、优化器状态和运行时内存另计
  • CUDA 镜像选项列在操作系统选择中
  • 训练可行性取决于精度、批量大小、优化器和内存策略
$2,088.10/ 月

按月计费

配置套餐 查看完整规格
GPU计算

Spectre H100

围绕一个 NVIDIA H100 构建密集型加速器工作负载,配备 80 GB 的 HBM3、256 GB 的主机内存和 4 TB 的 NVMe 存储。25 Gbps 上行链路和 50 TB 的月度传输配额支持大型数据集;高参数模型仍然需要仔细的精度、上下文和内存规划。

  • 加速器一个 NVIDIA H100,配备 80 GB HBM3 GPU 内存
  • 计算32 vCPU (EPYC)
  • 内存256 GB DDR5
  • 存储4 TB NVMe SSD
  • 传输50 TB / 月
  • DDoS 保护100 Gbps
  • IPv4包含 1 个
  • 网络端口25 Gbps
  • 平台Bare-Metal
  • IPv6/64 个子网
  • 一个 NVIDIA H100,配备 80 GB HBM3 GPU 内存
  • 大模型工作流受内存规格限制
  • 25 Gbps 上行链路
  • 99.99% 目录可用性目标
位置与软件

Ubuntu 22.04 + CUDA 12 · Custom

  • GPU 内存与 256 GB 主机内存分配相互独立
  • 一个 70B FP16 模型仅权重就需要约 140 GB;一个 80 GB H100 需要量化、卸载或合适的多设备策略
  • NVLink 涉及另行安排的多 GPU 配置;此方案指定一个加速器
  • CUDA 镜像选项列在操作系统选择中
$5,508.10/ 月

按月计费

配置套餐 查看完整规格

一种配置。一个目的地。由您选择。

探索部署区域和实用指南,以及您项目的确切需求。

探索用例
多一点清晰

在您
采取下一步行动之前。

GPU 计算的实用详情,从设置到未来的选择。

打开知识中心

这些是已准备的服务规格。基础设施、许可证和可选服务需要在正式上线前验证。

GPU计算 / 详细说明7 个有用回答
准备了哪些 OmbraHost GPU 配置?+

Spectre 系列列出了一款 RTX 4090,配备 24 GB VRAM、RTX A6000,配备 48 GB,以及 H100,配备 80 GB。模型权重、上下文缓存、批大小和软件开销都会影响适配。位置和镜像因层级而异。已安装的模型、实测的 token 速率和 GPU 分配需要配置集成。

需要多少 GPU 内存?+

FP16 权重每个参数大约需要两个字节;四位权重大约需要半个字节。为上下文缓存、批处理和运行时开销留出额外空间。

GPU 有哪些选择?+

Spectre 4090 指定 24 GB VRAM、A6000 48 GB 和 H100 80 GB。选择前请对实际模型和精度进行基准测试。

70B FP16 型号合适吗?+

仅其权重就需要大约 140 GB。单个 80 GB H100 无法容纳它们;请评估量化或合适的多 GPU 配置。

我可以申请多个 GPUs 吗?+

自定义多 GPU 方案属于预备销售咨询。库存、NVLink 拓扑、电力和交付周期必须在任何承诺之前确认。

是否提供短期研究突发?+

来源说明可按安排提供七天最低期限。这仍是一项拟议的商业选项;当前结账使用已发布的三个计费周期。

可以使用 Windows 吗?+

标准选择器中仅显示目录模板。Windows GPU 或自定义镜像请求需要驱动程序、许可和部署资格检查。

多一点灵活性。

已准备选项

探索可选服务及其计费单位。可选服务请求需要连接提供商才能履行。

Veil Edge

已准备网络配置文件,包含 10 Gbps 缓解分配、异常检测和延迟调优。验证其与方案中已包含的保护之间的关系。

$4.75每月

Eclipse Shield

已准备 100 Gbps 配置文件,包含应用规则和专用过滤路径。确认有效容量和兼容性;一些基础方案已指定更大的容量。

$19.00每月

Iron Veil

由工程师主导的基线审查,涵盖CIS指南、登录保护、密钥处理和防火墙规则。此服务已准备就绪,但尚未分配工程师。

$46.55one-time

Vault Mirror

已准备每日增量异地副本、七天保留期和加密的 S3 兼容目标。目标位置和恢复程序需要生产验证。

$4.75每月

Checkpoint

已准备的定时快照和手动快照,采用滚动五个快照的保留限制。此固定服务费与拟议的按 GB 存储费分开。

$2.85每月

First Light

拟议的初始设置,涵盖安装、安全基线和商定的基本服务。一次性范围必须在工作开始前确认。

$19.00one-time

Shadow Transfer

一项已准备好的迁移服务,随符合条件的新订单免费提供。迁移前会就清单、访问权限、切换和回滚达成一致。

$0.00one-time

Route Extension

一个额外的 IPv4 地址,取决于分配资格和技术批准。选择该选项不会预留或路由地址。

$1.90每月