Public_Cloud_AI_Deploy

Eseguire modelli e applicazioni di Machine Learning con la massima semplicità

La fine del ciclo di vita di un progetto di Intelligenza Artificiale prevede la messa in produzione dei modelli e applicazioni di Machine Learning. Questa fase di industrializzazione, che richiede molte risorse, può rappresentare una vera e propria sfida. La soluzione AI Deploy è in grado di offrire una risposta efficace, grazie alla possibilità di utilizzare le proprie immagini Docker con la massima semplicità, anche senza possedere competenze Kubernetes specifiche. In questo modo è possibile effettuare le richieste via API per i modelli e tramite interfaccia Web per le applicazioni in produzione, mentre OVHcloud si occupa di gestire l'infrastruttura e la sicurezza degli ambienti.

Deploy rapido e gestito

Passare da un prototipo di Machine Learning a un modello in produzione rappresenta spesso un'operazione impegnativa. Grazie al servizio AI Deploy industrializzare i modelli è semplice, flessibile e richiede pochi minuti. L’operazione è disponibile dallo Spazio Cliente, via API o tramite riga di comando (CLI).

Nessuna architettura da gestire

Modelli e applicazioni possono essere esportati in un'immagine Docker, AI Deploy si occuperà del resto. I deploy vengono gestiti con un'astrazione totale dell'architettura hardware.

Flessibilità e performance

Per i deploy è possibile indicare un numero minimo e massimo di istanze e pagare solo quanto effettivamente consumato. AI Deploy è scalabile automaticamente: che le richieste siano 10 al giorno o 10.000 al minuto, le risorse possono essere aumentate per offrire un’esperienza ottimale.

Sicurezza dei dati

Il nostro Cloud sovrano europeo garantisce la sicurezza dei dati. Le nostre infrastrutture e servizi Cloud sono certificati ISO/IEC 27001, 27017, 27018 e 27701. La conformità normativa consente di ospitare i dati sanitari in totale sicurezza.

 

Risorse CPU e GPU

In base alle esigenze è possibile eseguire modelli e applicazioni con CPU o GPU NVIDIA per le inferenze più esigenti.

 

Alta disponibilità

Per usufruire dell'alta disponibilità è possibile optare per deploy su più istanze. La ripartizione del carico è automatica e gestita da AI Deploy.

Casi d'uso di AI Deploy

Startup e PMI

Realizzare progetti internamente e rilasciarli in produzione non è mai stato così facile e fattibile per i dipendenti. Streamlit, Gradio o semplicemente punti di accesso API in un'immagine Docker: tutti i progetti possono passare in produzione in modo fluido e semplice. L'unico limite è l’immaginazione!

Provider di SaaS

Le API OVHcloud permettono di automatizzare i deploy. In questo modo fornisci ai clienti modelli e applicazioni di Intelligenza Artificiale in modo sicuro e individuale, controllando gli accessi e i costi in modo predittivo.

Società di consulenza

Dashboard aziendali, analisi delle frodi... indipendentemente dal caso d’uso, rilasciare in produzione progetti di IA per te e i tuoi clienti è semplice e non richiede la presenza di un team di architetti. La tariffazione prevedibile permette di avere pieno controllo sul budget.

Pronto per iniziare?

Crea un account e attiva i tuoi servizi in un minuto

Funzionalità

Alta disponibilità e risorse disponibili

Grazie al deploy su più istanze, l'alta disponibilità dell’infrastruttura è assicurata. Inoltre, è possibile scegliere la potenza di calcolo associata.

Aggiornamento trasparente

Grazie a un meccanismo di rolling upgrade l’aggiornamento dei deploy avviene senza interruzione di servizio, per poter continuare a lavorare alla modellizzazione mantenendo aggiornato l’ambiente di produzione.

Dimensionamento automatico

Sia per modelli che ricevono molte richieste che per quelli utilizzati meno frequentemente, OVHcloud dimensiona automaticamente il deploy per rispondere nel più breve tempo possibile.

Metriche e log

Un accesso rapido ai log degli eventi permette di monitorare l'esecuzione delle attività con la massima semplicità. In questo modo è possibile controllare il numero di chiamate e il tempo di latenza.

Protezione dell'ambiente di deploy

L’accesso tramite token applicativo garantisce che solo i collaboratori autorizzati possano accedere ad AI Deploy. Per applicare i privilegi utente in base alle proprie necessità è sufficiente selezionare e configurare questi token.

Tariffe semplici e a consumo

AI Deploy permette di usufruire di un pagamento a consumo. Per ogni deploy avviato, l’utente paga soltanto le risorse delle istanze effettivamente utilizzate (GPU o CPU). Il numero di chiamate è illimitato. I costi sono quindi prevedibili e l’utilizzo del servizio non prevede alcun obbligo di impegno contrattuale.

Gestione dallo Spazio Cliente, via API o da riga di comando

In base alle proprie competenze e affinità è possibile avviare e monitorare i deploy dall'interfaccia Web, tramite API o da riga di comando, indipendentemente dal linguaggio di programmazione utilizzato.