Univ. degli esperti di informatica di Washington raccolgono $ 3,9 milioni per l'avvio di machine learning OctoML

Un gruppo di informatici all-star è dietro OctoML, un nuovo spinout dell'Università di Washington che mira ad aiutare le aziende a distribuire modelli di machine learning su varie configurazioni hardware.
La startup è stata lanciata a luglio e ha annunciato oggi un giro di seed da 3,9 milioni di dollari guidato da Madrona Venture Group, con la partecipazione di Amplify Partners.
OctoML è guidato dai creatori di Apache TVM, uno "stack di compilatore di deep learning" open source che è iniziato come progetto di ricerca presso la scuola di informatica e ingegneria Paul G.
Allen degli Stati Uniti alcuni anni fa.
Ha attirato una fiorente comunità di utenti, inclusi giganti della tecnologia come Amazon e Facebook, che desiderano ottimizzare e automatizzare i loro modelli di apprendimento profondo per l'IoT / edge o l'implementazione del cloud su un numero crescente di piattaforme come telefoni, automobili, dispositivi sanitari e altri casi d'uso.
"Abbiamo costituito questa società per rendere Apache TVM disponibile a più utenti", ha affermato il CEO e co-fondatore Luis Ceze, un professore di informatica UW che in precedenza aveva avviato Corensic, una startup di debug che F5 Networks ha acquisito nel 2012.
Ceze ha paragonato la tecnologia OctoML a come un sistema operativo come iOS o Windows funge da ponte tra un'applicazione e l'hardware.
"TVM è analogo a questo, ma per i modelli di apprendimento automatico in esecuzione su una varietà di hardware", ha detto.
Il motto dell'azienda è "l'apprendimento automatico sul tuo apprendimento automatico".
Ha lo scopo di ridurre la quantità di costi e tempi necessari alle aziende per sviluppare e implementare software di apprendimento profondo per hardware specifico, cosa resa ancora più difficile dal momento che sorgono problemi di sicurezza e privacy con dati in elaborazione.
OctoML prevede di vendere un servizio chiavi in mano basato su SaaS.
"Il nostro obiettivo è chiunque ami i modelli ottimizzati, ma non ha le risorse o le conoscenze per [costruirli]", ha affermato Ceze.
Ceze, anch'egli partner di rischio di Madrona, è affiancato da altri quattro co-fondatori: Tianqi Chen, che ha appena ricevuto il suo dottorato di ricerca.
della Allen School e si sta prendendo un anno di pausa per lavorare su OctoML prima di unirsi alla facoltà della Carnegie Mellon University Jason Knight, ex ingegnere principale e leader AI di Intel che ha conseguito un dottorato di ricerca.
in ingegneria elettrica presso il Texas A&M Thierry Moreau, che ha conseguito il dottorato di ricerca.
nel 2018 dalla Allen School e ha insegnato un corso di apprendimento automatico a livello universitario con Ceze Jared Roesch, attualmente un dottorato di ricerca del quarto anno.
studente presso la Scuola Allen che ha lavorato presso Zentopy, Invoca e Mozilla Research Advising the company is Arvind Krishnamurthy, professore di informatica in scienze informatiche dal 2005; Zachary Tatlock, assistente professore di informatica presso la UW dal 2013; e Carlos Guestrin, professore di Amazon di Machine Learning presso la UW che ha venduto la startup di Seattle Machine Learning Turi ad Apple nel 2016.
Guestrin è attualmente direttore senior di machine learning e AI di Apple.
"È una squadra davvero fantastica", ha detto Ceze, nativo di San Paolo, in Brasile, che ha conseguito il dottorato.
dall'Università dell'Illinois a Urbana-Champaign.
Ceze ha affermato che l'idea di lanciare una società è nata dopo che il suo team ha aiutato a ospitare la prima conferenza del compilatore TVM e Deep Learning a Seattle l'anno scorso.
"Quasi 200 persone sono venute da tutto il mondo per parlare di come usano TVM", ha detto a GeekWire.
"È stato un grande momento – qui c'era qualcosa di interessante".
Ceze ha dichiarato che esiste un interesse "significativo" da parte dei potenziali clienti.
La società è anche in trattative con i fornitori di hardware.
La startup è in qualche modo simile alla compagnia di Seattle Xnor.ai, un esponente dell'Allen Institute for Artificial Intelligence che ha lavorato con i partner su dispositivi di monitoraggio AI a basso costo e bassa potenza.
“Xnor offre modelli di visione artificiale ottimizzati per alcuni dispositivi periferici.
OctoML offre ottimizzazioni automatiche che si applicano ad un ampio set di modelli e ad un ampio set di target hardware per edge e cloud ", ha spiegato Ceze.
"Quindi, sebbene ci siano alcune sovrapposizioni, le offerte sono abbastanza distinte".
OctoML non ha una concorrenza molto diretta, sebbene abbia un modello di "ottimizzazione come servizio" simile all'intelligenza artificiale latente, che è derivata da SRI International e ha aumentato il finanziamento delle sementi lo scorso giugno.
Altre startup che costruiscono piattaforme di ottimizzazione AI / ML includono Determined AI e Ople.
Anche quest'anno Amazon ha lanciato il suo servizio Sagemaker Neo, sebbene sia focalizzato sulla messa a punto di modelli per la distribuzione su Amazon Elastic Compute Cloud, ha affermato Ceze.
Prima di lanciare OctoML, alcuni membri del team fondatore avevano precedentemente collaborato con Amazon Web Services per introdurre un compilatore NNVM per framework AI.
E per quanto riguarda l'origine del nome OctoML? "È stato un processo collaborativo iniziato con la connessione agli octopi: creature incredibilmente intelligenti con cervelli distribuiti ed efficienti", ha detto Ceze.
"Ma ora per alcuni di noi 'Octo' si riferisce al polpo, e per altri il numero 8 o ottetto".
Attualmente OctoML impiega 10 persone.
Ceze ha detto che ha intenzione di tenere il suo concerto di insegnamento presso la UW, ma si sta prendendo presto un anno sabbatico per concentrarsi su OctoML.
L'investimento di Madrona in OctoML è in linea con la sua attenzione agli investimenti in "applicazioni intelligenti".
È anche la diciottesima società di portafoglio dell'azienda che è uscita dall'UW.
"Le applicazioni intelligenti stanno cambiando il panorama del software e, di fatto, fondendo nuovamente i ruoli di software e hardware", ha dichiarato l'amministratore delegato di Madrona Matt McIlwain in una nota.
"Il lavoro svolto dal team di OctoML per trasformare questa tecnologia in una centrale elettrica nella comunità open source è eccezionale e siamo entusiasti di sostenere questo team." Analisi: l'ecosistema di avvio di Seattle pronto per un'accelerazione senza precedenti della creazione dell'azienda OctoML è un altro esempio di la connessione tra la competenza ingegneristica della UW, il supporto finanziario di Madrona e la creazione di startup.
È simile a come Turi, la startup fondata da Guestrin e anche sostenuta da Madrona, è decollata.
Turi vendette ad Apple, che di conseguenza aprì un centro di ingegneria di Seattle e affittò appena un edificio di 630.000 piedi quadrati.
Oren Etzioni e Jacob Colker dell'Allen Institute for Artificial Intelligence hanno scritto un'analisi completa la scorsa settimana sull'ecosistema di startup di Seattle e hanno usato la storia di Turi come esempio che mostra perché credono che "un'accelerazione senza precedenti nella creazione di startup high-tech" sia all'orizzonte nella città di smeraldo.
"L'acquisizione di Turi pone le basi per una maggiore creazione aziendale nel tempo", hanno scritto.
“La manna finanziaria dall'uscita genera angeli investitori che investono in nuove startup.
L'uscita di successo stimola anche l'appetito per i dipendenti Turi di diventare loro stessi fondatori di startup.
La concentrazione di talenti riunita da Apple crea un pool di talenti che diventano i primi assunti di quelle nuove startup.
E il ciclo si ripete.
"Tutti i componenti sono ora disponibili per la ripetizione e l'accelerazione di questa storia."