Neurale netwerken leren via een wiskundig proces dat backpropagation wordt genoemd, waarbij het gewicht van de netwerkverbindingen wordt aangepast op basis van hoe goed het netwerk presteert bij een bepaalde taak. De formule voor backpropagation vertelt het netwerk hoeveel elk gewicht moet worden aangepast om de fouten van het netwerk te minimaliseren.

De backpropagatieformule kan worden uitgedrukt als:

```

∂E/∂w =(∂E/∂y) * (∂y/∂w)

```

waar:

- E is de fout van het netwerk

- y is de uitvoer van het netwerk

- w is het gewicht van een verbinding in het netwerk

De formule berekent de gedeeltelijke afgeleide van de fout met betrekking tot het gewicht, wat het netwerk vertelt hoeveel de fout zal veranderen als het gewicht met een kleine hoeveelheid wordt gewijzigd. De formule berekent ook de partiële afgeleide van de output met betrekking tot het gewicht, wat het netwerk vertelt hoeveel de output zal veranderen als het gewicht met een kleine hoeveelheid wordt veranderd.

Het netwerk gebruikt deze twee gedeeltelijke afgeleiden om de juiste aanpassing voor het gewicht te berekenen. Het doel is om de gewichten zo aan te passen dat de fout van het netwerk tot een minimum wordt beperkt, wat betekent dat het netwerk goed presteert bij de gegeven taak.

Backpropagation is een krachtig leeralgoritme waarmee neurale netwerken van hun fouten kunnen leren en hun prestaties geleidelijk kunnen verbeteren.