custom background image

Istanze GPU H200


Accelera i tuoi progetti IA con le istanze GPU H200

Prestazioni di punta per l'addestramento, l'inferenza e i workload di dati più esigenti in un cloud europeo, affidabile e trasparente.

Perché scegliere le GPU NVIDIA H200?

Potenti

Fino a 1,4 × più veloci dell'H100 per l'addestramento e l'inferenza di modelli GenAI.

Performanti.

141 Go di memoria HBM3e ultra veloce: 2 × più larghezza di banda della memoria, ideale per modelli di grandi dimensioni.

compatibili

Compatibile con H100: sfrutta i tuoi framework e ottimizzazioni esistenti senza migrazioni complesse.

Sovrano

Disponibili nel nostro Public Cloud, garantendo flessibilità, trasparenza e conformità europea.

Ottimizzato per i tuoi workload IA e dati

LLM su larga scala

Allena e distribuisci modelli fino a 175 B di parametri (GPT-3, Llama 3, Falcon 180 B) grazie ai suoi 141 GB di memoria HBM3e e a una larghezza di banda di 4,8 To/s.

IA generativa avanzata

Genera testo, immagini, audio e video con tempi di risposta stabili, anche in contesti lunghi.

Contesto esteso e RAG

Migliora i tuoi assistenti IA e chatbot con lunghe finestre contestuali.

Specifiche tecniche

Caratteristiche tecniche

GPU

Da 1 a 8 GPU per istanza

Memoria GPU

141 GB di HBM3 ultra veloce per GPU

Storage performante

Passthrough NVMe locale sulla maggior parte delle istanze

Rete pubblica e privata

Fino a 25 Gbps inclusi

Automazione

Gestione tramite il tuo spazio clienti, API, OVHcloud CLI…

Sicuro e privato

Certificazioni ISO27001, SOC, hosting di dati sanitari…

Massimizza il tuo ROI con un'infrastruttura GPU flessibile

Trasparenza dei prezzi

Paga solo per le risorse che utilizzi, senza costi nascosti. Mantieni il controllo dei tuoi costi mentre godi di prestazioni ottimali.

Scalabilità istantanea

Aumenta o riduci le tue risorse GPU su richiesta, in pochi clic. Adatta la tua capacità ai tuoi workload IA e dati con facilità.

Sovranità e conformità

I tuoi dati sono ospitati su un cloud europeo certificato, garantendo sicurezza, trasparenza e rispetto delle normative (GDPR, ISO, HDS).

Accessibilità senza barriere all'ingresso

GPU H200 accessibili a tutti: dal proof of concept al deployment in produzione, senza impegno di volume né vincoli hardware.

Come scegliere la propria GPU per fare inferenza?

Modelli compatti

Fino a 7 B di parametri, un A100 offre un eccellente rapporto qualità-prezzo.

Modelli voluminosi

Da 65 B+ o finestre pop-up estese, il H200 fornisce la larghezza di banda di memoria necessaria per tempi di risposta stabili.

Le risposte alle tue domande

Qual è l'impegno di livello di servizio (SLA) garantito da OVHcloud su un'istanza GPU?

L'impegno di livello di servizio (SLA) è del 99,99% di disponibilità mensile sulle istanze GPU. Per maggiori informazioni, consulta le Condizioni Generali di Servizio.

Quale hypervisor viene utilizzato per la virtualizzazione delle istanze?

Le istanze GPU, proprio come le altre, sono virtualizzate dall'hypervisor KVM del kernel Linux.

Che cos'è il PCI Passthrough?

Le schede con processori grafici sono accessibili tramite il bus PCI del server fisico. PCI Passthrough è una funzionalità dell'hypervisor che permette di dedicare un hardware a una macchina virtuale dando l'accesso direttamente al bus PCI, senza passare per la virtualizzazione.

È possibile ridimensionare un'istanza Cloud GPU?

Sì, le istanze Cloud GPU possono evolversi verso un modello superiore dopo un riavvio, ma non passare a un modello inferiore.

Le istanze Cloud GPU usufruiscono di una protezione anti-DDoS?

Sì, il nostro sistema anti-DDoS è incluso su tutte le soluzioni OVHcloud, senza costi aggiuntivi.

È possibile modificare la fatturazione di un'istanza da mensile a oraria?

Se è attivo il forfait mensile, non è possibile passare a una fatturazione oraria. Prima di avviare l'istanza, è quindi importante selezionare con la massima attenzione la modalità di fatturazione più adatta al proprio progetto.

Cos'è il Cloud GPU?

Cloud GPU indica un servizio di calcolo nel cloud che fornisce unità di elaborazione grafica (GPU) per l'esecuzione di attività che hanno bisogno di una grande potenza di calcolo. Queste attività possono includere rendering grafico, apprendimento automatico, analisi dei dati e simulazioni scientifiche. A differenza delle GPU on site, che richiedono un investimento importante in hardware, le Cloud GPU offrono una certa flessibilità e scalabilità. Gli utenti possono così accedere on demand a risorse di calcolo ad alte prestazioni e pagare solo ciò che utilizzano.

Cos'è un server H100 e A100?

I server dotati di GPU NVIDIA H100 e A100 sono sistemi progettati per fornire prestazioni eccezionali nei settori del calcolo ad alte prestazioni (HPC), dell'Intelligenza Artificiale (IA) e dell'analisi dei dati.

Cos'è NGC?

NVIDIA GPU Cloud (NGC) è una piattaforma di cloud computing proposta da NVIDIA. Fornisce un catalogo completo di software ottimizzati per l'accelerazione tramite GPU per l'Intelligenza Artificiale (IA), il machine learning (ML) e i calcoli ad alte prestazioni (HPC). NGC mira a semplificare e accelerare il deploy delle applicazioni di IA e di calcolo scientifico fornendo container, modelli pre-addestrati, SDK e altri strumenti ottimizzati per sfruttare appieno le GPU NVIDIA.

Perché utilizzare un Cloud GPU?

L'utilizzo di un Cloud GPU presenta numerosi vantaggi, in particolare per aziende, team di ricerca e team di sviluppo che si muovono in domini esigenti come l'Intelligenza Artificiale (IA), il rendering grafico, il machine learning (ML) e il calcolo ad alte prestazioni (HPC).