Illustrazione nomi di dominio

Istanze GPU NVIDIA RTX PRO 6000 Blackwell


NVIDIA RTX Pro 6000 Blackwell

Inferenza, RAG, agenti o fine-tuning: con la RTX PRO 6000 Blackwell, i tuoi modelli e il loro contesto trovano spazio su un’unica scheda. Inizia con 1 o 2 GPU, passa a 4 o 8 man mano che i tuoi progetti crescono, in un cloud europeo, affidabile e trasparente.

La memoria necessaria per passare alla velocità superiore

Memoria sufficiente per i tuoi modelli, un’architettura di ultima generazione e una gamma che cresce insieme a te: tutto ciò che serve per portare i tuoi progetti di IA in produzione.
  • 96 GB di vRAM

    I tuoi modelli e il loro contesto occupano una sola scheda, con spazio in più per i tuoi utenti.
  • Generazione Blackwell

    L’architettura NVIDIA Blackwell supporta il formato FP4, per inserire più modelli nella stessa memoria.
  • Da 1 a 8 GPU

    Inizia con 1 GPU, passa a 2 o 4 nella stessa gamma quando i tuoi progetti prendono slancio.
  • Mantieni il controllo

    Ospitato nel nostro Public Cloud europeo, con tariffe trasparenti e senza costi nascosti.

Più spazio per i tuoi modelli e per i tuoi utenti

  • flexible OVHcloud

    Contesti più lunghi

    La memoria liberata dal modello consente di gestire documenti più lunghi e un maggior numero di conversazioni simultanee.
  • AI Notebooks

    Fine-tuning più agevoli

    Ottimizza i tuoi modelli con batch più grandi, senza dover gestire la memoria disponibile.
  • AI models

    Più modelli affiancati

    Su un’istanza con 2 o 4 GPU, esegui un modello per ogni GPU: un assistente, un modello di embedding, un modello di visione...
  • App Script

    I tuoi strumenti abituali

    Le versioni recenti di PyTorch, vLLM e le immagini NVIDIA NGC supportano Blackwell: puoi iniziare senza dover reimparare nulla.

SPECIFICHE TECNICHE

Caratteristiche tecniche

  • GPU

    GPU

    Da 1 a 8 GPU NVIDIA RTX PRO 6000 Blackwell
  • GPU

    Memoria GPU

    96 GB di GDDR7 ultra rapida per GPU
  • Architettura

    NVIDIA Blackwell, Tensor Core di 5a generazione con supporto FP4
  • Automazione

    Gestione tramite spazio cliente, API, CLI OVHcloud…
  • Shield Cloud

    Sicurezza e conformità

    Certificazioni ISO 27001, SOC, hosting di dati sanitari…

Dal prototipo alla produzione, la RTX PRO 6000 Blackwell accompagna i progetti di IA che necessitano di memoria senza puntare ai modelli più grandi sul mercato.

  • adjustable OVHcloud

    Esegui i tuoi LLM

    Metti in produzione i tuoi modelli open source, con margini sufficienti per assorbire i picchi di utenti.
  • innovative OVHcloud

    Collega i tuoi documenti

    Collega i tuoi modelli alle tue banche dati interne con la tecnologia RAG: contesti estesi, risposte con riferimenti alle fonti.
  • global OVHcloud

    Implementa gli agenti

    Esegui agenti che combinano strumenti e ragionamenti, con la memoria necessaria per gestire sessioni prolungate.
  • adjustable OVHcloud

    Perfeziona i tuoi modelli

    Ottimizza un modello sui tuoi dati aziendali, su 1-8 GPU, a ore o con un impegno contrattuale.

Sei pronto per iniziare?

Crea un account e attiva i tuoi servizi in un minuto.

Usufruisci di 200 € in omaggio sul tuo primo progetto Public Cloud

Documentazione

  • Scegliere una GPU per l’inferenza di modelli linguistici di grandi dimensioni

    Stima la memoria necessaria per il caricamento del modello, la dimensione dei contesti, la precisione numerica e il volume previsto di richieste. Questa analisi ti aiuta a confrontare le risorse disponibili senza limitare la tua decisione alla sola potenza teorica. Tieni conto anche delle esigenze relative ai dati, alle elaborazioni preparatorie e alla capacità di aumento del carico del tuo servizio.
    Scopri di più
  • Creare e avviare una prima istanza Public Cloud

    Prepara il tuo progetto Public Cloud, seleziona una regione e scegli un’istanza adatta al tuo carico di lavoro. La guida illustra in dettaglio le fasi principali della creazione e dell’avvio per verificare l’accesso alla macchina virtuale. Puoi quindi installare il tuo ambiente software, organizzare i tuoi dati e convalidare la tua catena di calcolo con una risorsa GPU cloud già disponibile.
    Scopri di più
  • Eseguire un’applicazione GPU su Managed Kubernetes Service

    Configura un’applicazione accelerata da GPU in un cluster Managed Kubernetes Service. La guida illustra la sua configurazione tramite l’interfaccia di gestione e la sua attivazione con Helm. Questo approccio ti aiuta a preparare l’orchestrazione dei container, l’assegnazione delle risorse GPU e il ciclo di vita dell’applicazione prima del suo passaggio in un ambiente operativo.
    Scopri di più

Domande frequenti sulle istanze GPU

Le GPU delle istanze a 2 e 4 GPU sono collegate tramite NVLink?

No. La RTX PRO 6000 Blackwell non dispone di NVLink: le sue GPU comunicano tramite il bus PCIe. Questa configurazione è adatta per eseguire più modelli in parallelo, uno per GPU, oppure modelli distribuiti su più GPU. Per un modello di grandi dimensioni distribuito su più GPU, scegli l’istanza B300 a 8 GPU.

Quali configurazioni NVIDIA RTX PRO Blackwell saranno prenotabili?

Le prenotazioni riguarderanno esclusivamente le configurazioni NVIDIA RTX PRO 6000 Blackwell composte da 8 GPU. Sono previsti due tipi di impegno: di un anno o tre anni. La sottoscrizione sarà possibile solo al momento del lancio di queste nuove istanze.

Per quali progetti scegliere la RTX PRO 6000 Blackwell?

Per l’inferenza, il RAG, gli agenti e il fine-tuning di modelli fino a circa 40 miliardi di parametri. I suoi 96 GB per GPU consentono di ospitare il modello e il relativo contesto su una sola scheda, senza dover ricorrere a una GPU di fascia superiore.

Qual è la differenza rispetto a L40S?

La RTX PRO 6000 Blackwell offre 96 GB di memoria GDDR7 per GPU, il doppio rispetto ai 48 GB della L40S. Si basa sull’architettura NVIDIA Blackwell, che supporta il formato FP4. La L40S rimane un’ottima scelta per i modelli più compatti e la GenAI multimodale.

Quando è preferibile scegliere un’istanza H100, H200 o B300?

Per addestrare modelli su larga scala o gestire modelli più voluminosi, le nostre istanze H100, H200 e B300 offrono una memoria HBM ad altissima banda passante. L’istanza B300 a 8 GPU collega inoltre le sue GPU tramite NVLink per i modelli più grandi.

Quale livello di disponibilità assicura un’istanza GPU?

L’accordo sul livello di servizio (SLA) assicura una disponibilità mensile del 99,99% sulle istanze GPU. Questo valore costituisce un punto di riferimento per pianificare la continuità del servizio e organizzare i componenti associati alla propria architettura.