Poiché il Machine Learning è diventato argomento di grande interesse nella ricerca e nell’industria, molti sforzi hanno l’obiettivo di accelerare applicazioni ML su dispositivi come GPU e FPGA. Mentre l’accelerazione degli algoritmi di training è già oggetto di molta ricerca, l’accelerazione degli algoritmi di predizione è solitamente limitata a singoli “grandi" operatori come le Reti Neurali o gli Alberi di Classificazione. Tuttavia, molte applicazioni per la predizione, tipicamente strutturate in forma di pipeline, impiegano operatori di predizione che costituiscono una piccola parte del tempo di esecuzione. Questa presentazione mostra che in questi - comuni - scenari è necessario un approccio più sistemico, con l’obiettivo di eseguire intere pipeline o gran parti di esse sull’acceleratore. Partendo da una pipeline di esempio, motiveremo il nostro approccio, spiegheremo le nostre scelte progettuali e mostreremo i risultati iniziali ottenuti durante un periodo di ricerca presso Microsoft Corporation a Redmond.

NECSTLab è un laboratorio del DEIB, focalizzato su diverse aree di ricerca nel mondo dei computer: dalle caratteristiche architetturali alle metodologie di co-design hardware-software, fino alle problematiche di sicurezza e affidabilità. 
Ogni settimana, i "NECST Friday Talk" invitano ricercatori, professionisti o imprenditori a raccontare le loro esperienze lavorative e i progetti che stanno realizzando nel settore "Computing Systems".