Capítulo 8 - Função de Ativação - Deep Learning Book

Neste capítulo estudaremos um importante componente de uma rede neural artificial, a Função de Ativação. Este capítulo é uma introdução ao tema e voltaremos a ele mais adiante quando estudarmos as arquiteturas avançadas de Deep Learning. Este capítulo pode ser um pouco desafiador, pois começaremos a introduzir conceitos mais avançados, que serão muito úteis na sequência dos capítulos. Relaxe, faça a leitura e aprenda um pouco mais sobre redes neurais artificiais. Antes de mergulhar nos detalhes das funções de ativação, vamos fazer uma pequena revisão do que são redes neurais artificiais e como funcionam. Uma rede neural é um mecanismo de aprendizado de máquina (Machine Learning) muito poderoso que imita basicamente como um cérebro humano aprende. O cérebro recebe o estímulo do mundo exterior, faz o processamento e gera o resultado. À medida que a tarefa se torna complicada, vários neurônios formam uma rede complexa, transmitindo informações entre si. Usando uma rede neural artificial,

Neste capítulo estudaremos um importante componente de uma rede neural artificial, a Função de Ativação. Este capítulo é uma introdução ao tema e voltaremos a ele mais adiante quando estudarmos as arquiteturas avançadas de Deep Learning . Este capítulo pode ser um pouco desafiador, pois começaremos a introduzir conceitos mais avançados, que serão muito úteis na sequência dos capítulos. Relaxe, faça a leitura e aprenda um pouco mais sobre redes neurais artificiais. Antes de mergulhar nos detalhes das funções de ativação, vamos fazer uma pequena revisão do que são redes neurais artificiais e com

related reading

• Neural networks and deep learningneuralnetworksanddeeplearning.com
• Zoom In: An Introduction to Circuitsdistill.pub
• ReLU Activation Function in Deep Learning - GeeksforGeeksgeeksforgeeks.org
• Neural Networks, Types, and Functional Programming -- colah's blogcolah.github.io
• CS231n Deep Learning for Computer Visioncs231n.github.io
• Neural networks and deep learningneuralnetworksanddeeplearning.com
• The Little Book of Deep Learningfleuret.org
• Feedforward neural network - Wikipediaen.wikipedia.org
• The Decade of Deep Learning | Leo Gaobmk.sh
• [1606.08415] Gaussian Error Linear Units (GELUs)arxiv.org
• Backpropagation | Brilliant Math & Science Wikibrilliant.org
• Neural Networks: Multi-Layer Perceptron and Hopfield Networknicolas.burrus.name