Ilustração de nomes de domínio

Instâncias GPU NVIDIA RTX PRO 6000 Blackwell


NVIDIA RTX Pro 6000 Blackwell

Inferência, RAG, agentes ou fine-tuning: com a RTX PRO 6000 Blackwell, os seus modelos e o seu contexto cabem numa única placa. Comece com 1 ou 2 GPU, passe para 4 ou 8 quando os seus projetos crescerem, numa cloud europeia, fiável e transparente.

A memória necessária para passar ao nível seguinte

Memória suficiente para os seus modelos, uma arquitetura de última geração e uma gama que cresce consigo: tudo o que é necessário para colocar os seus projetos de IA em produção.
  • 96 GB de vRAM

    Os seus modelos e o seu contexto cabem numa única placa, com margem para os seus utilizadores.
  • Geração Blackwell

    A arquitetura NVIDIA Blackwell suporta o formato FP4, para permitir colocar mais modelos na mesma memória.
  • 1 a 8 GPU

    Comece com 1 GPU, passe para 2 ou 4 na mesma gama quando os seus projetos aumentarem.
  • Controlo absoluto

    Alojada na nossa Public Cloud europeia, com preços transparentes e sem custos ocultos.

Mais espaço para os seus modelos e para os seus utilizadores

  • flexible OVHcloud

    Contextos mais longos

    A memória deixada livre pelo modelo acomoda documentos mais longos e mais conversas simultâneas.
  • AI Notebooks

    Fine-tunings mais confortáveis

    Aperfeiçoe os seus modelos com lotes maiores, sem ter de gerir a memória disponível.
  • AI models

    Vários modelos lado a lado

    Numa instância de 2 ou 4 GPU, execute um modelo por GPU: um assistente, um modelo de embeddings, um modelo de visão…
  • App Script

    As suas ferramentas habituais

    As versões recentes de PyTorch, vLLM e das imagens NVIDIA NGC suportam Blackwell: começa sem ter de reaprender nada.

ESPECIFICAÇÕES

Características técnicas

  • GPU

    GPU

    De 1 a 8 GPU NVIDIA RTX PRO 6000 Blackwell
  • GPU

    Memória GPU

    96 GB de GDDR7 ultrarrápida por GPU
  • Arquitetura

    NVIDIA Blackwell, Tensor Cores de 5.ª geração com suporte para FP4
  • Automatização

    Gestão através da Área de Cliente, API, OVHcloud CLI, etc.
  • Shield Cloud

    Segurança e conformidade

    Certificações ISO27001, SOC, alojamento de dados de saúde, etc.

Do protótipo à produção, a RTX PRO 6000 Blackwell acompanha os projetos de IA que necessitam de memória sem visar os maiores modelos do mercado.

  • adjustable OVHcloud

    Sirva os seus LLM

    Coloque os seus modelos open source em produção, com margem para absorver os picos de utilizadores.
  • innovative OVHcloud

    Ligue os seus documentos

    Ligue os seus modelos às suas bases documentais internas com o RAG: contextos longos, respostas com fontes.
  • global OVHcloud

    Implemente agentes

    Execute agentes que encadeiam ferramentas e raciocínios, com a memória necessária para acompanhar longas sessões.
  • adjustable OVHcloud

    Especialize os seus modelos

    Aperfeiçoe um modelo com os seus dados de negócio, de 1 a 8 GPU, à hora ou com fidelização.

Pronto para começar?

Crie uma conta e inicie os seus serviços imediatamente

Beneficie de 200 € oferecidos no seu primeiro projeto Public Cloud

Documentação

  • Escolher uma GPU para a inferência de grandes modelos de linguagem

    Avalie a memória necessária para o carregamento do modelo, a dimensão dos contextos, a precisão numérica e o volume de pedidos esperado. Este enquadramento ajuda-o a comparar os recursos disponíveis sem limitar a sua decisão apenas à potência teórica. Integre também as necessidades relacionadas com os dados, os processamentos preparatórios e a capacidade de aumento de carga do seu serviço.
    Saber mais
  • Criar e lançar uma primeira instância Public Cloud

    Prepare o seu projeto Public Cloud, selecione uma região e escolha uma instância adaptada à sua carga. O guia detalha as principais etapas de criação e de arranque para verificar o acesso à máquina virtual. Pode, de seguida, instalar o seu ambiente de software, organizar os seus dados e validar a sua cadeia de cálculo com um recurso Cloud GPU já disponível.
    Saber mais
  • Implementar uma aplicação GPU no Managed Kubernetes Service

    Configure uma aplicação acelerada por GPU num cluster Managed Kubernetes Service. O guia apresenta a sua implementação através da sua interface de gestão, bem como a sua disponibilização com Helm. Esta abordagem ajuda-o a preparar a orquestração de contentores, a afetação de recursos GPU e o ciclo de vida da aplicação antes da sua passagem para um ambiente de exploração.
    Saber mais

Perguntas frequentes sobre as instâncias GPU

As GPU das instâncias 2 e 4 GPU estão ligadas por NVLink?

Não. A RTX PRO 6000 Blackwell não dispõe de NVLink: as suas GPU comunicam através do bus PCIe. Esta configuração é adequada para servir vários modelos em paralelo, um por GPU, ou modelos distribuídos por algumas GPU. Para um modelo muito grande distribuído por várias GPU, escolha a instância 8 GPU B300.

Que configurações NVIDIA RTX PRO Blackwell estarão disponíveis para reserva?

As reservas dirão respeito exclusivamente às configurações NVIDIA RTX PRO 6000 Blackwell que reúnem 8 GPU. Estão previstas duas fidelizações, de um ou três anos. A sua subscrição só será possível com o lançamento destas novas instâncias.

Para que projetos escolher a RTX PRO 6000 Blackwell?

Para inferência, RAG, agentes e fine-tuning de modelos até cerca de 40 mil milhões de parâmetros. Os seus 96 GB por GPU acomodam o modelo e o seu contexto numa única placa, sem necessidade de passar para uma GPU de gama superior.

Qual a diferença em relação à L40S?

A RTX PRO 6000 Blackwell oferece 96 GB de memória GDDR7 por GPU, duas vezes mais do que os 48 GB da L40S. Baseia-se na arquitetura NVIDIA Blackwell, que suporta o formato FP4. A L40S continua a ser uma excelente escolha para modelos mais compactos e GenAI multimodal.

Quando escolher antes uma H100, uma H200 ou uma B300?

Para treinar modelos em grande escala ou servir modelos mais volumosos, as nossas instâncias H100, H200 e B300 oferecem memória HBM com largura de banda muito elevada. A instância 8 GPU B300 liga ainda as suas GPU em NVLink para os modelos maiores.

Que nível de disponibilidade garante uma instância GPU?

O compromisso de nível de serviço (SLA) garante 99,99 % de disponibilidade mensal nas instâncias GPU. Este valor constitui uma referência para conceber a continuidade do seu serviço e organizar os componentes associados à sua arquitetura.