Ilustración de nombres de dominio

Instancias GPU NVIDIA RTX PRO 6000 Blackwell


NVIDIA RTX Pro 6000 Blackwell

Inferencia, RAG, agentes o fine-tuning: con la RTX PRO 6000 Blackwell, sus modelos y su contexto caben en una sola tarjeta. Empiece con 1 o 2 GPU, pase a 4 u 8 cuando sus proyectos crezcan, en un cloud europeo, fiable y transparente.

La memoria necesaria para pasar al siguiente nivel

Suficiente memoria para sus modelos, una arquitectura de última generación y una gama que crece con usted: todo lo necesario para poner sus proyectos de IA en producción.
  • 96 GB de vRAM

    Sus modelos y su contexto caben en una sola tarjeta, con margen para sus usuarios.
  • Generación Blackwell

    La arquitectura NVIDIA Blackwell admite el formato FP4, para que quepa más modelo en la misma memoria.
  • De 1 a 8 GPU

    Empiece con 1 GPU, pase a 2 o 4 en la misma gama cuando sus proyectos despeguen.
  • Mantenga el control

    Alojada en nuestra Public Cloud europea, con una tarificación transparente y sin costes ocultos.

Más espacio para sus modelos y para sus usuarios

  • flexible OVHcloud

    Contextos más largos

    La memoria que deja libre el modelo permite albergar documentos más largos y más conversaciones simultáneas.
  • AI Notebooks

    Fine-tunings más cómodos

    Ajuste sus modelos con lotes más grandes, sin hacer malabarismos con la memoria disponible.
  • AI models

    Varios modelos lado a lado

    En una instancia de 2 o 4 GPU, ejecute un modelo por GPU: un asistente, un modelo de embeddings, un modelo de visión…
  • App Script

    Sus herramientas habituales

    Las versiones recientes de PyTorch, vLLM y las imágenes NVIDIA NGC son compatibles con Blackwell: empieza sin tener que volver a aprender nada.

ESPECIFICACIONES

Características técnicas

  • GPU

    GPU

    De 1 a 8 GPU NVIDIA RTX PRO 6000 Blackwell
  • GPU

    Memoria GPU

    96 GB de GDDR7 ultrarrápida por GPU
  • Arquitectura

    NVIDIA Blackwell, Tensor Cores de 5ª generación compatible con FP4
  • Automatización

    Gestión a través de su área de cliente, API, OVHcloud CLI…
  • Shield Cloud

    Seguridad y conformidad

    Certificaciones ISO27001, SOC, hosting de datos de salud…

Desde el prototipo hasta la producción, la RTX PRO 6000 Blackwell acompaña a los proyectos de IA que necesitan memoria sin apuntar a los modelos más grandes del mercado.

  • adjustable OVHcloud

    Sirva sus LLM

    Ponga sus modelos de código abierto en producción, con margen para absorber los picos de usuarios.
  • innovative OVHcloud

    Conecte sus documentos

    Conecte sus modelos a sus bases documentales internas con RAG: contextos largos, respuestas con fuentes.
  • global OVHcloud

    Despliegue agentes

    Ejecute agentes que encadenen herramientas y razonamientos, con la memoria necesaria para seguir sesiones largas.
  • adjustable OVHcloud

    Especialice sus modelos

    Ajuste un modelo con sus datos empresariales, en 1 a 8 GPU, por horas o con compromiso.

¿Listo/a para el lanzamiento?

Cree una cuenta y active sus servicios en cuestión de minutos

Benefíciese de 200 € ofertas en su primer proyecto Public Cloud

Documentación

  • Elegir una GPU para la inferencia de grandes modelos de lenguaje

    Evalúe la memoria necesaria para la carga del modelo, el tamaño de los contextos, la precisión numérica y el volumen de solicitudes esperado. Este marco le ayuda a comparar los recursos disponibles sin limitar su decisión únicamente a la potencia teórica. Tenga también en cuenta las necesidades relacionadas con los datos, los tratamientos preparatorios y la capacidad de aumento de la carga de su servicio.
    Más información
  • Crear y lanzar una primera instancia Public Cloud

    Prepare su proyecto Public Cloud, seleccione una región y elija una instancia adaptada a su carga. La guía detalla los pasos principales de creación y puesta en marcha para verificar el acceso a la máquina virtual. A continuación, puede instalar su entorno de software, organizar sus datos y validar su cadena de cálculo con un recurso Cloud GPU ya disponible.
    Más información
  • Desplegar una aplicación GPU en Managed Kubernetes Service

    Configure una aplicación acelerada por GPU en un clúster de Managed Kubernetes Service. La guía presenta su implementación a través de su interfaz de gestión, así como su despliegue con Helm. Este enfoque le ayuda a preparar la orquestación de los contenedores, la asignación de recursos GPU y el ciclo de vida de la aplicación antes de su paso a un entorno de explotación.
    Más información

Preguntas frecuentes sobre las instancias GPU

¿Están conectadas las GPU de las instancias de 2 y 4 GPU mediante NVLink?

No. La RTX PRO 6000 Blackwell no dispone de NVLink: sus GPU se comunican a través del bus PCIe. Esta configuración es adecuada para servir varios modelos en paralelo, uno por GPU, o modelos repartidos en algunas GPU. Para un modelo muy grande repartido en varias GPU, elija la instancia 8 GPU B300.

¿Qué configuraciones NVIDIA RTX PRO Blackwell se podrán reservar?

Las reservas se referirán exclusivamente a las configuraciones NVIDIA RTX PRO 6000 Blackwell que reúnan 8 GPU. Se prevén dos compromisos, de un año o de tres años. Su suscripción solo será posible en el momento del lanzamiento de estas nuevas instancias.

¿Para qué proyectos elegir la RTX PRO 6000 Blackwell?

Para inferencia, RAG, agentes y fine-tuning de modelos de hasta aproximadamente 40 mil millones de parámetros. Sus 96 GB por GPU alojan el modelo y su contexto en una sola tarjeta, sin necesidad de pasar a una GPU de gama superior.

¿Qué diferencia hay con la L40S?

La RTX PRO 6000 Blackwell ofrece 96 GB de memoria GDDR7 por GPU, el doble que los 48 GB de la L40S. Se basa en la arquitectura NVIDIA Blackwell, que admite el formato FP4. La L40S sigue siendo una excelente opción para modelos más compactos y GenAI multimodal.

¿Cuándo elegir un H100, un H200 o un B300?

Para entrenar modelos a gran escala o servir modelos más voluminosos, nuestras instancias H100, H200 y B300 ofrecen memoria HBM de muy alto ancho de banda. La instancia 8 GPU B300 conecta además sus GPU en NVLink para los modelos más grandes.

¿Qué nivel de disponibilidad garantiza una instancia GPU?

El compromiso de nivel de servicio (SLA) garantiza un 99,99 % de disponibilidad mensual en las instancias GPU. Este valor constituye una referencia para diseñar la continuidad de su servicio y organizar los componentes asociados a su arquitectura.