Istanze GPU H200
Accelera i tuoi progetti IA con le istanze GPU H200
Prestazioni avanzate per l'addestramento, l'inferenza e i carichi di lavoro di dati più esigenti in un cloud europeo, affidabile e trasparente.
Perché scegliere le GPU NVIDIA H200?
Potenti
Fino a 1,4 volte più rapide del modello H100 per l'addestramento e l'inferenza di modelli GenAI.
Performanti
141 GB di memoria HBM3e ultrarapida: Il doppio di banda passante della memoria, ideale per modelli di grandi dimensioni.
Compatibili
Compatibili con H100: utilizza i tuoi framework e ottimizzazioni esistenti senza migrazioni complesse.
Sovrane
Disponibili nel nostro Public Cloud, che assicura flessibilità, trasparenza e conformità europea.
Ottimizzata per i tuoi carichi di lavoro di IA e dati
LLM su grande scala
Addestra ed esegui modelli fino a 175 miliardi di parametri (GPT-3, Llama 3, Falcon 180 B) grazie ai suoi 141 GB di memoria HBM3e e a una banda passante di 4,8 TB/s.
IA generativa avanzata
Genera testo, immagini, audio e video con tempi di risposta stabili, anche in contesti lunghi.
Contesto esteso e RAG
Migliora i tuoi assistenti IA e chatbot con finestre contestuali lunghe.
Specifiche tecniche
Caratteristiche tecniche
GPU
Da 1 a 8 GPU per istanza
Memoria GPU
141 GB di HBM3 ultrarapida per GPU
Storage performante
Passthrough NVMe locale sulla maggior parte delle istanze
Rete pubblica e privata
Fino a 25 Gbps inclusi
Automazione
Gestione tramite Spazio Cliente, API, CLI OVHcloud…
Sicuro e privato
Certificazioni ISO 27001, SOC, hosting di dati sanitari…
La nostra gamma Cloud GPU
Massimizza il tuo ROI con un'infrastruttura GPU flessibile
Trasparenza dei prezzi
Paga esclusivamente per le risorse che utilizzi, senza costi nascosti. Mantieni il controllo dei tuoi costi usufruendo di prestazioni ottimali.
Scalabilità istantanea
Aumenta o riduci le tue risorse GPU on demand e in pochi clic. Adatta la tua capacità ai carichi di lavoro di IA e dati con la massima semplicità.
Sovranità e conformità
I tuoi dati sono ospitati su un cloud europeo certificato che garantisce sicurezza, trasparenza e rispetto delle normative (GDPR, ISO, HDS).
Accessibilità senza barriere d'ingresso
GPU H200 accessibili a tutti: dal proof of concept al deploy in produzione, senza impegno sul volume né limitazioni hardware.
Come scegliere una GPU per effettuare inferenze?
Modelli compatti
Con fino a 7 miliardi di parametri, il modello A100 offre un eccellente rapporto performance/prezzo.
Modelli voluminosi
Con oltre 65 miliardi di parametri o finestre contestuali estese, il modello H200 fornisce la banda passante della memoria necessaria per tempi di risposta stabili.
Configura le tue istanze GPU
Le risposte alle tue domande
Qual è l’accordo sul livello di servizio (SLA) garantito da OVHcloud per le istanze GPU?
L'accordo sul livello di servizio (SLA) prevede il 99,99% di disponibilità mensile sulle istanze GPU. Per maggiori informazioni è possibile consultare le Condizioni Generali di Servizio.
Quale hypervisor viene utilizzato per la virtualizzazione delle istanze?
Le istanze GPU, proprio come le altre, sono virtualizzate dall'hypervisor KVM del kernel Linux.
Cos'è il PCI Passthrough?
Le schede con processori grafici sono accessibili tramite il bus PCI del server fisico. PCI Passthrough è una funzionalità dell'hypervisor che permette di dedicare un hardware a una macchina virtuale dando l'accesso direttamente al bus PCI, senza passare per la virtualizzazione.
È possibile ridimensionare un'istanza Cloud GPU?
Sì, le istanze Cloud GPU possono evolversi verso un modello superiore dopo un riavvio, ma non passare a un modello inferiore.
Le istanze Cloud GPU usufruiscono di una protezione anti-DDoS?
Sì, il nostro sistema anti-DDoS è incluso su tutte le soluzioni OVHcloud, senza costi aggiuntivi.
È possibile modificare la fatturazione di un'istanza da mensile a oraria?
Se è attivo il forfait mensile, non è possibile passare a una fatturazione oraria. Prima di avviare l'istanza è quindi importante selezionare con la massima attenzione la modalità di fatturazione più adatta al proprio progetto.
Cos'è il Cloud GPU?
Cloud GPU indica un servizio di calcolo nel cloud che fornisce unità di elaborazione grafica (GPU) per l'esecuzione di attività che hanno bisogno di una grande potenza di calcolo. Queste attività possono includere rendering grafico, apprendimento automatico, analisi dei dati e simulazioni scientifiche. A differenza delle GPU on site, che richiedono un investimento importante in hardware, le Cloud GPU offrono una certa flessibilità e scalabilità. Gli utenti possono così accedere on demand a risorse di calcolo ad alte prestazioni e pagare solo ciò che utilizzano.
Cos'è un server H100 e A100?
I server dotati di GPU NVIDIA H100 e A100 sono sistemi progettati per fornire prestazioni eccezionali nei settori del calcolo ad alte prestazioni (HPC), dell'Intelligenza Artificiale (IA) e dell'analisi dei dati.
Cos'è NGC?
NVIDIA GPU Cloud (NGC) è una piattaforma di cloud computing proposta da NVIDIA. Fornisce un catalogo completo di software ottimizzati per l'accelerazione tramite GPU destinati a Intelligenza Artificiale (IA), Machine Learning (ML) e calcolo ad alte prestazioni (HPC). NGC mira a semplificare e accelerare il deploy delle applicazioni di IA e di calcolo scientifico fornendo container, modelli pre-addestrati, SDK e altri strumenti ottimizzati per sfruttare appieno le GPU NVIDIA.
Perché utilizzare una Cloud GPU?
L'utilizzo di Cloud GPU presenta numerosi vantaggi, in particolare per aziende e team di ricerca e sviluppo che si muovono in domini esigenti come Intelligenza Artificiale (IA), rendering grafico, Machine Learning (ML) e calcolo ad alte prestazioni (HPC).