Ferramentas do usuário

Ferramentas do site


ti_publica:notas_deep_learning

Essa é uma revisão anterior do documento!


Dicas Deep Learning

Estou estudando Deep Learning (IA) no fast.ai e guardo aqui minhas anotações.

Referências externas:

Lição 2

O que pode dar errado

  1. Taxa de aprendizado (LR) muito alta;
  2. Taxa de aprendizado muito baixa;
  3. Número de iterações (epochs) muito alto;
  4. Número de iterações muito baixo.

Learning rate padrão = 0.003. Pode ser alterada em max_lr:

learn.fit_one_cycle(1, max_lr=0.5)

Ajustes:

  • Se sua perda na validação (valid_loss) está muito grande, sua LR está alta;
  • Se sua perda no treino é maior que na validação: ou sua taxa de aprendizado (learning rate) está muito baixa ou o número de iterações (epochs);
  • Não aumente tanto o número de epochs, ou seu modelo pode ficar treinado pra reconhecer apenas a sua fotografia e não qualquer fotografia daquele tipo
  • O risco de treinar demais o modelo (e passar a reconhecer só suas fotos) é muito baixo. Isso pode ser percebido se seu erro caiu bem e depois começou a aumentar de novo durante as iterações
ti_publica/notas_deep_learning.1569929998.txt.gz · Última modificação: 2019/10/01 08:39 por cartola