NECST Friday Talk
A systemic approach to accelerate Machine Learning prediction pipelines in hardware
Alberto Scolari
DEIB PhD student - Politecnico di Milano
DEIB - NECST Meeting Room (Edificio 20, piano seminterrato)
October 13th, 2017
12.00 pm
Research line:
System architecture
Alberto Scolari
DEIB PhD student - Politecnico di Milano
DEIB - NECST Meeting Room (Edificio 20, piano seminterrato)
October 13th, 2017
12.00 pm
Research line:
System architecture
Sommario
Poiché il Machine Learning è diventato argomento di grande interesse nella ricerca e nell’industria, molti sforzi hanno l’obiettivo di accelerare applicazioni ML su dispositivi come GPU e FPGA. Mentre l’accelerazione degli algoritmi di training è già oggetto di molta ricerca, l’accelerazione degli algoritmi di predizione è solitamente limitata a singoli “grandi" operatori come le Reti Neurali o gli Alberi di Classificazione. Tuttavia, molte applicazioni per la predizione, tipicamente strutturate in forma di pipeline, impiegano operatori di predizione che costituiscono una piccola parte del tempo di esecuzione. Questa presentazione mostra che in questi - comuni - scenari è necessario un approccio più sistemico, con l’obiettivo di eseguire intere pipeline o gran parti di esse sull’acceleratore. Partendo da una pipeline di esempio, motiveremo il nostro approccio, spiegheremo le nostre scelte progettuali e mostreremo i risultati iniziali ottenuti durante un periodo di ricerca presso Microsoft Corporation a Redmond.
NECSTLab è un laboratorio del DEIB, focalizzato su diverse aree di ricerca nel mondo dei computer: dalle caratteristiche architetturali alle metodologie di co-design hardware-software, fino alle problematiche di sicurezza e affidabilità.
Ogni settimana, i "NECST Friday Talk" invitano ricercatori, professionisti o imprenditori a raccontare le loro esperienze lavorative e i progetti che stanno realizzando nel settore "Computing Systems".
NECSTLab è un laboratorio del DEIB, focalizzato su diverse aree di ricerca nel mondo dei computer: dalle caratteristiche architetturali alle metodologie di co-design hardware-software, fino alle problematiche di sicurezza e affidabilità.
Ogni settimana, i "NECST Friday Talk" invitano ricercatori, professionisti o imprenditori a raccontare le loro esperienze lavorative e i progetti che stanno realizzando nel settore "Computing Systems".