GPU CALCUL / EN DÉTAIL7 réponses utiles
Quelles configurations OmbraHost GPU sont préparées ?+
La gamme Spectre répertorie un RTX 4090 avec 24 GB VRAM, RTX A6000 avec 48 GB et H100 avec 80 GB. Les poids du modèle, le cache de contexte, la taille du lot et la surcharge logicielle influent tous sur l'adéquation. Les emplacements et les images varient selon le niveau. Les modèles installés, les débits de jetons mesurés et l'allocation GPU nécessitent une intégration de provisionnement.
Quelle quantité de mémoire GPU est nécessaire ?+
Les poids FP16 nécessitent environ deux octets par paramètre ; les poids en quatre bits environ un demi-octet. Prévoyez de l'espace supplémentaire pour le cache de contexte, le traitement par lots et les frais d'exécution.
Quels sont les choix de GPU ?+
Spectre 4090 spécifie 24 GB VRAM, A6000 48 GB et H100 80 GB. Évaluez le modèle et la précision réels avant de choisir.
Un modèle 70B FP16 conviendra-t-il ?+
Ses poids seuls nécessitent environ 140 GB. Un seul 80 GB H100 ne peut pas les contenir ; évaluez la quantification ou une configuration multi-GPU appropriée.
Puis-je demander plusieurs GPUs ?+
Les configurations multi-GPU personnalisées font l'objet d'une demande de vente préparée. Le stock, la topologie NVLink, l'alimentation et le délai de livraison doivent être confirmés avant tout engagement.
Des courtes périodes de recherche sont-elles disponibles ?+
La source décrit un minimum de sept jours sur arrangement. Cela reste une option commerciale proposée ; le paiement actuel utilise les trois cycles de facturation publiés.
Windows peut-il être utilisé ?+
Seuls les modèles du catalogue apparaissent dans le sélecteur standard. Les demandes de GPU Windows ou d'images personnalisées nécessitent des vérifications d'éligibilité des pilotes, des licences et du déploiement.
Un peu plus de flexibilité.
OPTIONS PRÉPARÉESExplorez les services optionnels et leurs unités de facturation. Les demandes de services optionnels nécessitent un fournisseur connecté avant exécution.
Veil Edge
Profil réseau préparé avec l'allocation d'atténuation de 10 Gbps, la détection d'anomalies et le réglage de la latence. Validez sa relation avec la protection déjà incluse dans l'offre.
$4.75par mois
Eclipse Shield
Profil 100 Gbps préparé avec des règles applicatives et un chemin de filtrage dédié. Confirmez la capacité effective et la compatibilité ; certaines offres de base spécifient déjà une capacité supérieure.
$19.00par mois
Iron Veil
Une revue de référence menée par un ingénieur couvrant les recommandations CIS, la protection des connexions, la gestion des clés et les règles de pare-feu. Ce service est préparé et aucun ingénieur ne lui est encore assigné.
$46.55one-time
Vault Mirror
Copies hors site incrémentielles quotidiennes préparées, rétention de sept jours et destination chiffrée compatible S3. La destination et la procédure de récupération nécessitent une validation en production.
$4.75par mois
Checkpoint
Instantanés planifiés et manuels préparés avec une limite de rétention glissante de cinq instantanés. Ces frais de service fixes sont distincts des frais de stockage par GB proposés.
$2.85par mois
First Light
Une configuration initiale proposée couvrant l'installation, la base de sécurité et les services de base convenus. La portée ponctuelle doit être confirmée avant le début des travaux.
$19.00one-time
Shadow Transfer
Un service de transfert préparé inclus sans frais avec une nouvelle commande éligible. L'inventaire, l'accès, la bascule et le retour arrière sont convenus avant la migration.
$0.00one-time
Route Extension
Une adresse IPv4 supplémentaire, sous réserve d’éligibilité à l’attribution et d’approbation technique. Sélectionner l’option ne réserve ni ne route une adresse.
$1.90par mois
