Noms de domaine illustration

Instances GPU NVIDIA RTX PRO 6000 Blackwell


NVIDIA RTX Pro 6000 Blackwell

Inférence, RAG, agents ou fine-tuning : avec la RTX PRO 6000 Blackwell, vos modèles et leur contexte tiennent sur une seule carte. Démarrez sur 1 ou 2 GPU,  passez à 4 ou 8 quand vos projets grandissent, dans un cloud européen, fiable et transparent.

La mémoire qu'il faut pour passer à la vitesse supérieure

Assez de mémoire pour vos modèles, une architecture de dernière génération et une gamme qui grandit avec vous : tout ce qu'il faut pour mettre vos projets IA en production.
  • 96 Go de vRAM

    Vos modèles et leur contexte tiennent sur une seule carte, avec de la marge pour vos utilisateurs.
  • Génération Blackwell

    L'architecture NVIDIA Blackwell prend en charge le format FP4, pour faire tenir plus de modèle dans la même mémoire.
  • 1 à 8 GPU

    Commencez sur 1 GPU, passez à 2 ou 4 dans la même gamme quand vos projets décollent.
  • Gardez le contrôle

    Hébergée dans notre Public Cloud européen, avec une tarification transparente et sans frais cachés.

Plus de place pour vos modèles, et pour vos utilisateurs

  • flexible OVHcloud

    Des contextes plus longs

    La mémoire laissée libre par le modèle accueille des documents plus longs et davantage de conversations simultanées.
  • AI Notebooks

    Des fine-tunings plus confortables

    Affinez vos modèles avec des lots plus grands, sans jongler avec la mémoire disponible.
  • AI models

    Plusieurs modèles côte à côte

    Sur une instance 2 ou 4 GPU, faites tourner un modèle par GPU : un assistant, un modèle d'embeddings, un modèle de vision…
  • App Script

    Vos outils habituels

    Les versions récentes de PyTorch, vLLM et des images NVIDIA NGC prennent en charge Blackwell : vous démarrez sans rien réapprendre.

SPÉCIFICATIONS

Les caractéristiques techniques

  • GPU

    GPU

    De 1 à 8 GPU NVIDIA RTX PRO 6000 Blackwell
  • GPU

    Mémoire GPU

    96 Go de GDDR7 ultra rapide par GPU
  • Architecture

    NVIDIA Blackwell, Tensor Cores de 5e génération avec prise en charge du FP4
  • Automatisation

    Gestion via votre espace client, API, OVHcloud CLI…
  • Shield Cloud

    Sécurité et conformité

    Certifications ISO27001, SOC, hébergement de données de santé…

Du prototype à la production, la RTX PRO 6000 Blackwell accompagne les projets IA qui ont besoin de mémoire sans viser les plus grands modèles du marché.

  • adjustable OVHcloud

    Servez vos LLM

    Mettez vos modèles open source en production, avec de la marge pour absorber les pics d'utilisateurs.
  • innovative OVHcloud

    Branchez vos documents

    Connectez vos modèles à vos bases documentaires internes avec le RAG : de longs contextes, des réponses sourcées.
  • global OVHcloud

    Déployez des agents

    Faites tourner des agents qui enchaînent outils et raisonnements, avec la mémoire nécessaire pour suivre de longues sessions.
  • adjustable OVHcloud

    Spécialisez vos modèles

    Affinez un modèle sur vos données métier, sur 1 à 8 GPU, à l'heure ou avec engagement.

Prêt à vous lancer ?

Créez un compte et activez vos services dans la minute

Bénéficiez de 2.000 Dhs offerts sur votre premier projet Public Cloud

Documentation

  • Choisir un GPU pour l’inférence de grands modèles de langage

    Évaluez la mémoire nécessaire au chargement du modèle, la taille des contextes, la précision numérique et le volume de requêtes attendu. Ce cadrage vous aide à comparer les ressources disponibles sans limiter votre décision à la seule puissance théorique. Intégrez également les besoins liés aux données, aux traitements préparatoires et à la capacité de montée en charge de votre service.
    En savoir plus
  • Créer et lancer une première instance Public Cloud

    Préparez votre projet Public Cloud, sélectionnez une région et choisissez une instance adaptée à votre charge. Le guide détaille les principales étapes de création et de démarrage afin de vérifier l’accès à la machine virtuelle. Vous pouvez ensuite installer votre environnement logiciel, organiser vos données et valider votre chaîne de calcul avec une ressource Cloud GPU déjà disponible.
    En savoir plus
  • Déployer une application GPU sur Managed Kubernetes Service

    Configurez une application accélérée par GPU dans un cluster Managed Kubernetes Service. Le guide présente sa mise en place via votre interface de gestion ainsi que son déploiement avec Helm. Cette approche vous aide à préparer l’orchestration des conteneurs, l’affectation des ressources GPU et le cycle de vie de l’application avant son passage dans un environnement d’exploitation.
    En savoir plus

Questions fréquentes sur les instances GPU

Les GPU des instances 2 et 4 GPU sont-ils reliés en NVLink ?

Non. La RTX PRO 6000 Blackwell ne dispose pas de NVLink : ses GPU communiquent par le bus PCIe. Cette configuration convient pour servir plusieurs modèles en parallèle, un par GPU, ou des modèles répartis sur quelques GPU. Pour un très grand modèle réparti sur plusieurs GPU, choisissez l'instance 8 GPU B300.

Quelles configurations NVIDIA RTX PRO Blackwell seront réservables ?

Les réservations concerneront exclusivement les configurations NVIDIA RTX PRO 6000 Blackwell réunissant 8 GPU. Deux engagements sont prévus, sur un an ou trois ans. Leur souscription ne deviendra possible qu’au lancement de ces nouvelles instances.

Pour quels projets choisir la RTX PRO 6000 Blackwell ?

Pour l'inférence, le RAG, les agents et le fine-tuning de modèles jusqu'à environ 40 milliards de paramètres. Ses 96 Go par GPU accueillent le modèle et son contexte sur une seule carte, sans passer à un GPU de gamme supérieure.

Quelle différence avec le L40S ?

La RTX PRO 6000 Blackwell offre 96 Go de mémoire GDDR7 par GPU, deux fois plus que les 48 Go du L40S. Elle repose sur l'architecture NVIDIA Blackwell, qui prend en charge le format FP4. Le L40S reste un excellent choix pour les modèles plus compacts et la GenAI multimodale.

Quand choisir plutôt un H100, un H200 ou un B300 ?

Pour entraîner des modèles à grande échelle ou servir des modèles plus volumineux, nos instances H100, H200 et B300 offrent une mémoire HBM à très haute bande passante. L'instance 8 GPU B300 relie en plus ses GPU en NVLink pour les plus grands modèles.

Quel niveau de disponibilité une instance GPU garantit-elle ?

L’engagement de niveau de service (SLA) garantit 99,99 % de disponibilité mensuelle sur les instances GPU. Cette valeur constitue un repère pour concevoir la continuité de votre service et organiser les composants associés à votre architecture.