Camada de ativação: Sigmoid layer

A camada de ativação - do inglês activation layer ou sigmoid layer - realiza o cálculo da função sigmoide através de operações ponto a ponto não lineares. A função sigmoide, assim, tem a seguinte estrutura:

\[ \large{} g(x)=sigmoid(x)= \frac{1}{1+e ^{-x}} \]

Geralmente, aplicamos a função sigmoide a após realizarmos o cálculo da camada linear, ou seja:

\[ \large{} y=g \Big( \sum _i w _i x _i + b \Big) \]