Redes Neurais: Aprendizado

• Estrutura básica

  • Camada linear

  • Camada de ativação: Sigmoid layer

  • Cross entropy loss

  • Camada de ativação: Softmax layer

  • Camada de ativação: Rectified Linear layer (ReLU)

  • Camada de ativação: Hyperbolic tangent

• Função Custo (Cost Function)

• Backpropagation Algorithm

  • Forward pass

  • Backward pass

  • Algoritmo

• Otimizadores

• Verificação do gradiente

• Inicialização aleatória

• Organização do conhecimento