Como a inteligência artificial aprende? Redes neurais do zero

About the lesson

Uma rede neural olha para um 4 escrito à mão e responde: 2. Depois do treino, a mesma rede acerta 94,8% dos dígitos de pessoas que ela nunca viu. O que mudou foram 1.210 números, e este vídeo mostra cada passo dessa mudança.

Tudo o que aparece com o selo MEDIDO saiu de uma rede de verdade, treinada para este vídeo: 64 entradas, 16 neurônios ocultos, 10 saídas, 3.823 dígitos escritos por 30 pessoas, 40 épocas. O que é só para ensinar leva o selo ILUSTRAÇÃO.

Neste vídeo: • o neurônio artificial: pesos, soma, viés e a ativação ReLU • a rede inteira e a propagação direta • a função de perda, a derivada e a descida do gradiente • a retropropagação, que calcula as 1.210 derivadas numa volta só • lotes, épocas, dados de teste e sobreajuste • a mesma receita em escala: convolução, vozes sintéticas e o GPT-3 • os limites: vieses nos dados, erros com certeza e exemplos adversariais

Capítulos 0:00 Um 4 que a rede não sabe ler 0:26 Por que regras escritas à mão falham 1:10 O neurônio artificial: pesos, soma, viés e ReLU 2:38 Neurônio artificial × neurônio de verdade 3:10 A rede: 64 entradas, 16 neurônios, 10 saídas 4:34 A perda: o erro vira um número 5:14 A derivada: o empurrão num peso 5:37 Descida do gradiente 6:00 Retropropagação 7:06 O mapa da perda e a taxa de aprendizado 7:52 Treino de verdade: lotes, épocas e teste 8:48 O que os neurônios do meio aprenderam 9:11 Generalizar × sobreajuste 9:48 A mesma receita, em escala 11:10 O que sabemos e o que não sabemos 11:26 Dados desequilibrados, erros desequilibrados 11:50 Erros com certeza e exemplos adversariais 12:17 Ninguém escreveu a regra do 4

Fontes • Dígitos: UCI Machine Learning Repository, "Optical Recognition of Handwritten Digits" (Alpaydin e Kaynak, 1998), licença CC BY 4.0 • McCulloch e Pitts (1943); Rosenblatt (1958), o perceptron • Beniaguev, Segev e London, Neuron (2021): imitar um neurônio do córtex simulado exigiu uma rede de 5 a 8 camadas • LeCun et al. (1998), redes convolucionais • Vaswani et al. (2017), o Transformer • Brown et al. (2020), GPT-3, 175 bilhões de parâmetros • Buolamwini e Gebru (2018), Gender Shades • Goodfellow, Bengio e Courville (2016), Deep Learning

Créditos Narração com vozes sintéticas (modelo OmniVoice, k2-fsa). Trilha original criada com Suno. Animação feita na Loomgine · powered by Vistral Studio.

#RedesNeurais #InteligenciaArtificial #MachineLearning