Hopsworks

Hopsworks è una piattaforma di dati e IA specializzata nella creazione, manutenzione e gestione di sistemi di IA e Machine Learning (ML) su larga scala. L'azienda è nata come progetto di ricerca accademica guidato dal cofondatore Dr. Jim Dowling durante il suo incarico alla guida dell’università svedese KTH. Qui ha lavorato a HopsFS, un file system scalabile e distribuito sviluppato per risolvere i colli di bottiglia dei dati nei sistemi di IA. HopsFS si è poi evoluto in Hopsworks, una piattaforma di data science con una tecnologia centrale unica incentrata su Feature Store. Questo servizio è entrato a far parte del progetto paneuropeo HEAP (Human Exposome Assessment Platform), che fornisce dati agli istituti di ricerca, in questo caso specifico aiutandoli nella lotta contro il cancro. 

Hopsworks è stata fondata formalmente nel 2017 e conta oggi 40 dipendenti in tutto il mondo. L'azienda fornisce un lakehouse IA basato sul proprio innovativo Feature Store, un livello di astrazione che gestisce l'intero ciclo di vita delle funzionalità ML con tracciabilità, versioning e governance integrate. Combinando le capacità di un lakehouse con funzionalità in tempo reale fornite tramite un'API unificata, Hopsworks accelera in modo significativo progetti di IA come creazione di LLM, analisi predittive, logistica, KYC ed elaborazioni di immagini.

"Addestrare e utilizzare modelli di IA negli stessi sistemi a volte può causare la perdita e la modifica dei dati, compromettendo il loro passaggio alla fase di produzione. Con il nostro lakehouse IA è possibile astrarre i livelli mantenendo separate le diverse fasi in modo logico, accelerando notevolmente il time to market dei progetti di IA."

Lex Avstreikh, Responsabile della strategia di Hopsworks

Lex Avstreikh e il suo team erano perfettamente consapevoli che, nonostante la presenza di Hopsworks nel settore IA dal 2017, questa realtà è in costante evoluzione e il futuro incerto.

"Volevamo che la nostra piattaforma e anche il futuro dell'azienda fossero il più possibile aperti al cambiamento", ha spiegato Avstreikh. "Sapevamo per esempio che era importante evitare di utilizzare Domain-Specific Language (DSL), che avrebbero limitato gli utenti a scelte architetturali che in futuro si sarebbero potute rivelare inefficaci. Avevamo bisogno di tutto il nostro stack, in particolare del livello infrastrutturale, per poter usufruire della maggiore flessibilità possibile". 

Il team di Hopsworks ha provato diversi provider cloud, ma molti di loro erano difficili da utilizzare, poco sostenibili e non in grado di rispondere alle crescenti esigenze in materia di sovranità dei dati. Per la nuova piattaforma serverless Hopsworks, basata su Kubernetes e che offre storage gratuito e deploy di modelli ai clienti, era inoltre importante mantenere bassi i costi e disporre di un'infrastruttura facilmente scalabile. Anche se il team avrebbe potuto gestire fino a 20.000 utenti senza costi aggiuntivi, i potenziali costi di uscita con l'hosting provider utilizzato rappresentavano un reale rischio finanziario. 

"Molte piattaforme cloud hanno accumulato processi che descriverei come detriti tecnici ostruttivi", continua Avstreikh. "I prezzi non erano chiari e gli strumenti non sempre funzionavano bene insieme, spesso sembrava di giocare con le costruzioni al buio. Una volta abbiamo ricevuto una fattura dopo aver lasciato attivo per errore un servizio di storage ed eravamo quindi determinati a evitare che questa situazione di ripresentasse".  

Avstreikh e il suo team hanno quindi iniziato a cercare un provider di infrastrutture alternativo compatibile con gli strumenti utilizzati. Era anche importante che l’ambiente cloud fosse semplice da utilizzare, preferibilmente locale, e che le opzioni fossero aperte per esseri liberi di far evolvere la piattaforma in futuro. Il team ricercava inoltre un provider la cui etica fosse in linea con l'impegno ambientale e la filosofia di Hopsworks in termini di sostenibilità. 

Essendo un’azienda europea, Hopsworks conosceva già OVHcloud e aveva iniziato a effettuare un’analisi comparativa delle soluzioni offerte con quelle dell’attuale provider. I servizi di OVHcloud si sono rivelati superiori in quasi tutti i parametri di maggiore importanza, con costi inferiori.

Hopsworks ha quindi iniziato a migrare la propria soluzione serverless verso l’ambiente Public Cloud di OVHcloud, utilizzando la soluzione Object Storage compatibile con S3. L’azienda è inoltre entrata a far parte dello Startup Program di OVHcloud, potendo così usufruire di ulteriore supporto tecnico e commerciale. 

"La nostra esperienza con l’OVHcloud Startup Program è stata molto positiva. Il mentoring è di qualità e abbiamo potuto interagire con diversi interlocutori in tutta l'azienda, incluso il supporto commerciale quando ne abbiamo avuto bisogno. È un programma molto pratico, che abbiamo davvero apprezzato."

  Lex Avstreikh, Responsabile della strategia di Hopsworks

Prima di avviare la migrazione verso OVHcloud, il team di Hopsworks ha effettuato un backup del cluster attivo presso il proprio provider. La transizione ha comportato un downtime minimo, come previsto. Hopsworks aveva però già informato gli utenti di questa eventualità e non si sono verificati ulteriori problemi per i clienti in seguito alla migrazione. 

L’azienda ha monitorato i costi di tutto il processo, inclusi esecuzione di Managed Kubernetes, traffico in uscita, storage S3, container Registry, trasferimenti di dati e istanze EBS, calcolando un risparmio del 62% sui costi totali del cloud. 

"Abbiamo iniziato il processo in modo graduale e, nonostante qualsiasi migrazione comporti alcuni problemi minori inevitabili, la transizione a OVHcloud ci ha permesso di realizzare risparmi significativi e ospitare il nostro servizio in un cloud europeo", ha dichiarato Avstreikh. "Non ci sono state crisi da gestire, lamentele, e nessuno ha mai suggerito di tornare al provider precedente! Apprezziamo la sostenibilità by design di OVHcloud e l’efficienza dei nostri servizi cloud". 

"Anche il servizio Managed Kubernetes di OVHcloud è molto semplice da utilizzare, e lo dico dopo aver provato quasi tutte le principali alternative cloud. Infine, grazie allo Startup Program, abbiamo instaurato relazioni solide all’interno di tutta l’azienda: qualunque siano le mie domande, posso sempre trovare qualcuno in grado di aiutarmi. Nel complesso, siamo molto soddisfatti di come sono andate le cose."

  Lex Avstreikh, Responsabile della strategia di Hopsworks