Atividade

114359 - Estratégias para Treinamento de Redes Neurais Profundas

Data da turma: 10/10/2023

Selecione um horário para exibir no calendário:
 
 
Descrição: Resumo:
Treinar redes neurais profundas pode ser desafiador em dados do mundo real. Utilizar modelos como caixas-pretas, mesmo com transferência de aprendizado, pode resultar em uma generalização fraca ou resultados inconclusivos quando se trata de conjuntos de dados pequenos ou aplicações específicas. Este tutorial abrange os passos básicos, bem como opções mais recentes para melhorar os modelos, em particular aprendizado auto-supervisionado e uso de backbones fortes. Isso pode ser especialmente útil em conjuntos de dados que não estão tão bem preparados quanto os desafios e também em cenários com pouca anotação e/ou poucos dados. Descrevemos procedimentos básicos, como preparação de dados, otimização e transferência de aprendizado, mas também escolhas arquitetônicas recentes.

Referências:

Ponti MA, dos Santos FP, Ribeiro LS, Cavallari GB. Training Deep Networks from Zero to Hero: avoiding pitfalls and going beyond. In2021 34th SIBGRAPI Conference on Graphics, Patterns and Images (SIBGRAPI) 2021 Oct 18 (pp. 9-16). IEEE.

Ponti, M.A., Ribeiro, L.S.F., Nazare, T.S., Bui, T. and Collomosse, J., 2017, October. Everything you wanted to know about deep learning for computer vision but were afraid to ask. In 2017 30th SIBGRAPI conference on graphics, patterns and images tutorials (SIBGRAPI-T) (pp. 17-41). IEEE.

Zhang, A., Lipton, Z.C., Li, M. and Smola, A.J., 2021. Dive into deep learning. arXiv preprint arXiv:2106.11342.

Carga Horária:

3 horas
Tipo: Optativa
Vagas oferecidas: 300
 
Ministrantes: Moacir Antonelli Ponti


 
 voltar

Créditos
© 1999 - 2024 - Superintendência de Tecnologia da Informação/USP