Resumo:
Em muitas aplicações atuais de redes convolucionais e deep learning, podemos dividir o ciclo de vida da rede neural em duas etapas. A etapa de treino (aprendizado) é tipicamente executada em laboratórios ou datacenters equipados com GPUs ou CPUs multi- e manycores. Nosso foco está na segunda etapa, de inferência, quando a rede neural já treinada é colocada em campo em condições restritas, trazendo à tona desafios como capacidade computacional em dispositivos embarcados, consumo de energia e tolerância a falhas em aplicações táticas ou críticas de segurança, por exemplo a bordo de aeronaves, satélites ou mesmo nos sistemas de assistência ao motorista (ADAS) dos automóveis urbanos.

Dispositivos programáveis como FPGAs permitem implementações otimizadas para os níveis de consumo e tolerância a falhas exigidos pela aplicação embarcada, aliadas à flexibilidade e manutenibilidade (upgrade) necessárias para permitir que as aplicações de machine learning evolvam ao longo do tempo. Alguns cenários de implementação em FPGA são discutidos, como o uso de processadores softcore VLIW e RISC-V, GPUs softcore e engines dedicados obtidos por high level synthesis (HLS).

São discutidos dois estudos de caso construídos sobre conjuntos de dados abertos, para classificação de imagens de satélite e para classificação de imagens de placas de trânsito.