Non ci sono prodotti a carrello.
Nel suo recente articolo, Alasdair Allan esplora i miglioramenti delle prestazioni di inferenza su Raspberry Pi 5 utilizzando TensorFlow e TensorFlow Lite, paragonandoli alle prestazioni di un acceleratore Coral TPU. Dal 2019, Allan ha esaminato approfonditamente l’apprendimento automatico su dispositivi edge, pubblicando diversi articoli e tenendo conferenze sui risultati dei benchmark delle nuove generazioni di hardware per acceleratori di machine learning.
Con l’arrivo del Raspberry Pi 5, Allan ha aggiornato il suo codice di benchmark per testare le nuove capacità del dispositivo. I risultati sono sorprendenti: i modelli TensorFlow completi funzionano quasi cinque volte più velocemente rispetto al Raspberry Pi 4. Anche TensorFlow Lite mostra un aumento simile delle prestazioni. Sorprendentemente, l’inferenza con TensorFlow Lite su Raspberry Pi 5 raggiunge velocità paragonabili a quelle del Coral TPU, rendendo l’acceleratore hardware meno necessario per alcune attività di inferenza edge.
Durante i test, Allan ha utilizzato il raffreddamento attivo per mantenere stabile la temperatura della CPU del Raspberry Pi 5, evitando così il throttling termico durante le inferenze. Le conclusioni suggeriscono che l’hardware di accelerazione personalizzato potrebbe non essere più indispensabile per alcuni compiti di inferenza, dato che il Raspberry Pi 5, senza accelerazione GPU, offre prestazioni comparabili al Coral TPU.
Nel dettaglio, i benchmark originali di Allan nel 2019 avevano mostrato la superiorità delle schede Coral Dev Board di Google e Jetson Nano di NVIDIA. Tuttavia, i nuovi risultati ottenuti con il Raspberry Pi 5 suggeriscono che i processori generali hanno finalmente raggiunto le prestazioni dei migliori acceleratori di silicio dell’epoca.
Allan descrive inoltre il processo di impostazione e installazione di TensorFlow e TensorFlow Lite sul Raspberry Pi 5, fornendo istruzioni dettagliate per eseguire i benchmark. Il codice di benchmark è disponibile su GitHub, permettendo agli utenti di replicare i risultati.
