GPU COMPUTE / EM DETALHE7 respostas úteis
Quais configurações OmbraHost GPU estão preparadas?+
A linha Spectre lista um RTX 4090 com 24 GB VRAM, RTX A6000 com 48 GB e H100 com 80 GB. Pesos do modelo, cache de contexto, tamanho do lote e sobrecarga de software afetam a adequação. Locais e imagens variam por nível. Modelos instalados, taxas de tokens medidas e alocação de GPU exigem uma integração de provisionamento.
Quanta memória GPU é necessária?+
Pesos FP16 precisam de aproximadamente dois bytes por parâmetro; pesos de quatro bits, aproximadamente meio byte. Reserve espaço adicional para cache de contexto, batching e sobrecarga de execução.
Quais são as escolhas de GPU?+
Spectre 4090 especifica 24 GB VRAM, A6000 48 GB e H100 80 GB. Avalie o modelo real e a precisão antes de escolher.
Um modelo 70B FP16 se encaixará?+
Apenas seus pesos precisam de aproximadamente 140 GB. Um único 80 GB H100 não consegue comportá-los; avalie quantização ou uma configuração multi-GPU adequada.
Posso solicitar vários GPUs?+
arranjos multi-GPU personalizados são uma consulta de vendas preparada. Estoque, topologia NVLink, energia e prazo de entrega devem ser confirmados antes de qualquer compromisso.
Surtos curtos de pesquisa estão disponíveis?+
A fonte descreve um mínimo de sete dias por acordo. Isso permanece uma opção comercial proposta; o checkout atual usa os três ciclos de cobrança publicados.
O Windows pode ser usado?+
Apenas os modelos do catálogo aparecem no seletor padrão. Pedidos de Windows GPU ou imagem personalizada exigem verificações de driver, licença e elegibilidade de implantação.
Um pouco mais de flexibilidade.
OPÇÕES PREPARADASExplore serviços opcionais e suas unidades de cobrança. Solicitações de serviços opcionais exigem um provedor conectado antes da execução.
Veil Edge
Perfil de rede preparado com a alocação de mitigação de 10 Gbps, detecção de anomalias e ajuste de latência. Valide sua relação com a proteção já incluída no plano.
$4.75por mês
Eclipse Shield
Perfil de 100 Gbps preparado com regras de aplicação e um caminho de filtragem dedicado. Confirme a capacidade efetiva e a compatibilidade; alguns planos base já especificam capacidade maior.
$19.00por mês
Iron Veil
Uma revisão de linha de base liderada por engenheiro cobrindo orientações CIS, proteção de login, manuseio de chaves e regras de firewall. Este serviço está preparado e ainda não tem engenheiro designado.
$46.55one-time
Vault Mirror
Cópias off-site incrementais diárias preparadas, retenção de sete dias e um destino criptografado compatível com S3. O destino e o procedimento de recuperação exigem validação em produção.
$4.75por mês
Checkpoint
Snapshots agendados e manuais preparados com um limite de retenção de cinco snapshots rotativos. Esta taxa de serviço fixa é separada da taxa de armazenamento por GB proposta.
$2.85por mês
First Light
Uma configuração inicial proposta cobrindo instalação, linha de base de segurança e serviços básicos acordados. O escopo único deve ser confirmado antes do início do trabalho.
$19.00one-time
Shadow Transfer
Um serviço de transferência preparado incluído sem custo com um novo pedido elegível. Inventário, acesso, cutover e rollback são acordados antes da migração.
$0.00one-time
Route Extension
Um endereço IPv4 adicional, sujeito à elegibilidade de alocação e aprovação técnica. Selecionar a opção não reserva nem roteia um endereço.
$1.90por mês
