Raum für ein schwereres Experiment
Planen Sie Ressourcen für legitimes Training, Fine-Tuning und wiederholbare Modellarbeit.
Inhalt überarbeitet · Deutsch
- Zu bewertende Architektur
- LoRA / QLoRA / vollständiges Fine-Tuning
- Vorbereitete Ausgangspunkte
- 3 Tarife
- Verantwortlichkeiten
- Anwendung, Rechte und Wiederherstellung
Eine passende Auswahl, keine installierte Software und kein Live-Bestand.
Diese im Blick behalten.
- LoRA / QLoRA / vollständiges Fine-Tuning.
- Den Stack und die Daten reproduzierbar machen.
- Custom-Hardware ist eine Anfrage, kein Lagerbestand.
LoRA / QLoRA / vollständiges Fine-Tuning
Inferenz, Adapter-Tuning und vollständiges Fine-Tuning haben unterschiedliche Speicheranforderungen. Gewichte sind nur ein Teil des Trainingsspeichers: Auch Aktivierungen, Optimierer-Zustand und Gradienten spielen eine Rolle. Prüfen Sie Batch, Sequenzlänge, Präzision und Checkpoint-Strategie am tatsächlichen Experiment.
Den Stack und die Daten reproduzierbar machen
Ein Projekt kann CUDA, PyTorch, Transformers, Accelerate oder verwandte Tools verwenden, nachdem die Kompatibilität geprüft wurde. Erfasse Umgebungsversionen, Datensatzrechte, Zufallsseeds und Evaluierungsergebnisse. Speichere Daten sicher und halte Checkpoints verschlüsselt an einem separaten Wiederherstellungsort.
Custom-Hardware ist eine Anfrage, kein Lagerbestand
Der vorbereitete Katalog zeigt Einzelgeräte-Konfigurationen. Eine Multi-GPU-Topologie, NVLink-Anordnung, kurze Burst-Laufzeit oder ein individuelles Lieferdatum erfordern ein ausdrückliches Angebot und eine Kompatibilitätsprüfung. Es ist kein stündlicher Scheduler oder Multi-H100-Bestand verbunden.
Mit dem Experiment starten
Datensatzgröße, Modellparameter, Batch-Größe und Optimierer-Zustand bestimmen den Speicherbedarf. Prüfen Sie die Framework-Kompatibilität und den installierten GPU-Treiber, bevor Sie sich zu einem langen Lauf verpflichten.
Arbeit reproduzierbar halten
Versionscode, Umgebungsdefinitionen und Datensatzherkunft. Schreiben Sie Checkpoints außerhalb temporärer Arbeitsverzeichnisse und zeichnen Sie genügend Konfiguration auf, um einen fehlgeschlagenen Job fortzusetzen oder ein Ergebnis zu reproduzieren.
Die Datengrenze respektieren
Trainingsmaterial kann geschützte oder personenbezogene Informationen enthalten. Bestätige Rechte, minimiere sensible Eingaben und kontrolliere den Zugriff auf Zwischenartefakte, Logs und Modellausgaben.
Zu berücksichtigende Kapazität.
Ordnen Sie diese Ausgangspunkte der repräsentativen Anwendung zu. Softwareinstallation und Live-Inventar sind nicht verbunden; die exakte Spezifikation und die Periodensumme stammen aus dem Katalog.
Spectre A6000
Verwenden Sie eine NVIDIA RTX A6000 mit 48 GB GPU-Speicher zusammen mit 128 GB ECC-Hostspeicher und 2 TB NVMe-Speicher. Die größere GPU-Speicherzuweisung und der 10 Gbps-Uplink eignen sich für anspruchsvollere Inferenz- oder ausgewählte Trainingsworkflows, wobei Modell- und Optimiererspeicher vor der Bereitstellung bewertet werden.
- Compute
- 16 vCPU (EPYC)
- Arbeitsspeicher
- 128 GB DDR5
- Speicher
- 2 TB NVMe SSD
- Transfer
- 30 TB / Monat
monatlich abgerechnet
Spectre H100
Erstellen Sie intensive Beschleuniger-Workloads rund um eine NVIDIA H100 mit 80 GB HBM3, 256 GB Host-Speicher und 4 TB NVMe-Speicher. Eine 25 Gbps-Uplink und 50 TB monatliches Transferkontingent unterstützen große Datensätze; Modelle mit hoher Parameterzahl erfordern weiterhin sorgfältige Präzisions-, Kontext- und Speicherplanung.
- Compute
- 32 vCPU (EPYC)
- Arbeitsspeicher
- 256 GB DDR5
- Speicher
- 4 TB NVMe SSD
- Transfer
- 50 TB / Monat
monatlich abgerechnet
Eclipse Dual
Reservieren Sie zwei Xeon Gold 6338-Prozessoren für insgesamt 64 physische Kerne und 128 Threads, unterstützt von 256 GB ECC-Speicher. Vier 4 TB NVMe-Laufwerke bilden RAID-10, mit einem 10 Gbps-Port, unbegrenztem Transfer und einer 400 Gbps-Netzwerk-Mitigationsstufe für große parallele Workloads.
- Compute
- 2× Intel Xeon Gold 6338 (32c / 64t je Prozessor)
- Arbeitsspeicher
- 256 GB DDR4 ECC
- Speicher
- 4× 4 TB NVMe (RAID-10)
- Transfer
- Ohne Volumenabrechnung
monatlich abgerechnet
Bevor diese Workload live geht.
- CPU, Speicher, Festplatte, Transfer und Port des exakten Plans prüfen.
- Wählen Sie eine aufgeführte Region und prüfen Sie die zulässige Nutzung der Arbeitslast.
- Die repräsentative Anwendung und eine unabhängige Wiederherstellung testen.
Fragen, beantwortet.
Kann ich mehrere H100-Geräte reservieren?
Eine Multi-Device-Anordnung ist eine individuelle Anfrage zur Prüfung, kein aufgeführter Live-Bestand. Bestätigen Sie Interconnect, Topologie, Framework-Kompatibilität und Lieferung, bevor Sie sich festlegen.
Wird GPU stündlich abgerechnet?
Der vorbereitete Katalog verwendet monatliche, jährliche und zweijährliche Summen. Es ist kein stündlicher Abrechnungs-Scheduler verbunden. Eine spezielle Burst-Laufzeit würde ein eigenes akzeptiertes Angebot erfordern.
Kann ich mit personenbezogenen Daten trainieren?
Datensatzrechte, eine rechtmäßige Verarbeitungsgrundlage, Zugriff, Aufbewahrung und Übermittlungen müssen bewertet werden. Eine bestimmte Region oder ein bestimmtes Gerät schafft diese Erlaubnis nicht.
Sind Frameworks und Berechtigungen für eingeschränkte Geräte enthalten?
Framework-Kompatibilität und etwaige geltende Export- oder Zugriffsbeschränkungen müssen für den tatsächlichen Betreiber und die Workload geprüft werden. Es wird keine pauschale Ausnahme oder vorinstallierte Trainingsumgebung behauptet.
Was wird in meinem Kontoworkspace aufbewahrt?
Deine Konfiguration, der ausgewählte Plan, das Image, der Standort und die Abrechnungsperiode werden zusammen mit den Bestell- und Zahlungsanforderungsreferenzen aufbewahrt. Angebote, Zahlungsstatus-Abfragen und Support-Gespräche bleiben mit deinem Konto verknüpft. Lies Erfüllungsdetails getrennt vom Zahlungsstatus.