Istanze GPU H200
Accelera i tuoi progetti IA con le istanze GPU H200
Prestazioni di punta per l'addestramento, l'inferenza e i workload di dati più esigenti in un cloud europeo, affidabile e trasparente.
Perché scegliere le GPU NVIDIA H200?
Potenti
Fino a 1,4 × più veloci dell'H100 per l'addestramento e l'inferenza di modelli GenAI.
Performanti.
141 Go di memoria HBM3e ultra veloce: 2 × più larghezza di banda della memoria, ideale per modelli di grandi dimensioni.
compatibili
Compatibile con H100: sfrutta i tuoi framework e ottimizzazioni esistenti senza migrazioni complesse.
Sovrano
Disponibili nel nostro Public Cloud, garantendo flessibilità, trasparenza e conformità europea.
Ottimizzato per i tuoi workload IA e dati
LLM su larga scala
Allena e distribuisci modelli fino a 175 B di parametri (GPT-3, Llama 3, Falcon 180 B) grazie ai suoi 141 GB di memoria HBM3e e a una larghezza di banda di 4,8 To/s.
IA generativa avanzata
Genera testo, immagini, audio e video con tempi di risposta stabili, anche in contesti lunghi.
Contesto esteso e RAG
Migliora i tuoi assistenti IA e chatbot con lunghe finestre contestuali.
Specifiche tecniche
Caratteristiche tecniche
GPU
Da 1 a 8 GPU per istanza
Memoria GPU
141 GB di HBM3 ultra veloce per GPU
Storage performante
Passthrough NVMe locale sulla maggior parte delle istanze
Rete pubblica e privata
Fino a 25 Gbps inclusi
Automazione
Gestione tramite il tuo spazio clienti, API, OVHcloud CLI…
Sicuro e privato
Certificazioni ISO27001, SOC, hosting di dati sanitari…
La nostra gamma di Cloud GPU
Massimizza il tuo ROI con un'infrastruttura GPU flessibile
Trasparenza dei prezzi
Paga solo per le risorse che utilizzi, senza costi nascosti. Mantieni il controllo dei tuoi costi mentre godi di prestazioni ottimali.
Scalabilità istantanea
Aumenta o riduci le tue risorse GPU su richiesta, in pochi clic. Adatta la tua capacità ai tuoi workload IA e dati con facilità.
Sovranità e conformità
I tuoi dati sono ospitati su un cloud europeo certificato, garantendo sicurezza, trasparenza e rispetto delle normative (GDPR, ISO, HDS).
Accessibilità senza barriere all'ingresso
GPU H200 accessibili a tutti: dal proof of concept al deployment in produzione, senza impegno di volume né vincoli hardware.
Come scegliere la propria GPU per fare inferenza?
Modelli compatti
Fino a 7 B di parametri, un A100 offre un eccellente rapporto qualità-prezzo.
Modelli voluminosi
Da 65 B+ o finestre pop-up estese, il H200 fornisce la larghezza di banda di memoria necessaria per tempi di risposta stabili.
Configura le tue istanze GPU
Le risposte alle tue domande
Qual è l'impegno di livello di servizio (SLA) garantito da OVHcloud su un'istanza GPU?
L'impegno di livello di servizio (SLA) è del 99,99% di disponibilità mensile sulle istanze GPU. Per maggiori informazioni, consulta le Condizioni Generali di Servizio.
Quale hypervisor viene utilizzato per la virtualizzazione delle istanze?
Le istanze GPU, proprio come le altre, sono virtualizzate dall'hypervisor KVM del kernel Linux.
Che cos'è il PCI Passthrough?
Le schede con processori grafici sono accessibili tramite il bus PCI del server fisico. PCI Passthrough è una funzionalità dell'hypervisor che permette di dedicare un hardware a una macchina virtuale dando l'accesso direttamente al bus PCI, senza passare per la virtualizzazione.
È possibile ridimensionare un'istanza Cloud GPU?
Sì, le istanze Cloud GPU possono evolversi verso un modello superiore dopo un riavvio, ma non passare a un modello inferiore.
Le istanze Cloud GPU usufruiscono di una protezione anti-DDoS?
Sì, il nostro sistema anti-DDoS è incluso su tutte le soluzioni OVHcloud, senza costi aggiuntivi.
È possibile modificare la fatturazione di un'istanza da mensile a oraria?
Se è attivo il forfait mensile, non è possibile passare a una fatturazione oraria. Prima di avviare l'istanza, è quindi importante selezionare con la massima attenzione la modalità di fatturazione più adatta al proprio progetto.
Cos'è il Cloud GPU?
Cloud GPU indica un servizio di calcolo nel cloud che fornisce unità di elaborazione grafica (GPU) per l'esecuzione di attività che hanno bisogno di una grande potenza di calcolo. Queste attività possono includere rendering grafico, apprendimento automatico, analisi dei dati e simulazioni scientifiche. A differenza delle GPU on site, che richiedono un investimento importante in hardware, le Cloud GPU offrono una certa flessibilità e scalabilità. Gli utenti possono così accedere on demand a risorse di calcolo ad alte prestazioni e pagare solo ciò che utilizzano.
Cos'è un server H100 e A100?
I server dotati di GPU NVIDIA H100 e A100 sono sistemi progettati per fornire prestazioni eccezionali nei settori del calcolo ad alte prestazioni (HPC), dell'Intelligenza Artificiale (IA) e dell'analisi dei dati.
Cos'è NGC?
NVIDIA GPU Cloud (NGC) è una piattaforma di cloud computing proposta da NVIDIA. Fornisce un catalogo completo di software ottimizzati per l'accelerazione tramite GPU per l'Intelligenza Artificiale (IA), il machine learning (ML) e i calcoli ad alte prestazioni (HPC). NGC mira a semplificare e accelerare il deploy delle applicazioni di IA e di calcolo scientifico fornendo container, modelli pre-addestrati, SDK e altri strumenti ottimizzati per sfruttare appieno le GPU NVIDIA.
Perché utilizzare un Cloud GPU?
L'utilizzo di un Cloud GPU presenta numerosi vantaggi, in particolare per aziende, team di ricerca e team di sviluppo che si muovono in domini esigenti come l'Intelligenza Artificiale (IA), il rendering grafico, il machine learning (ML) e il calcolo ad alte prestazioni (HPC).