8.27) i (8.28) można stosować do wszystkich warstw sieci poza warstwą wejściową. Zależności określające zasady aktywacji sieci są implementowane w programie na podstawie zapisów (8.5) i (8.26). Drugim etapem procedury uczącej jest tzw. krok w tył. Jego celem jest minimalizowanie błędu rozpoznawania popełnianego przez sieć w pierwszym kroku nauczania. Jego implementacją jest procedura typu BackwardStep (krokowej propagacji wstecznej). Końcowym wynikiem aktywacji zaimplementowanej sieci jest wektor wartości wyjściowych ostatniej warstwy. Porównując go z ciągiem uczącym obliczamy błąd, jaki popełniła sieć <gap> gdzie <gap> - wartości jednostek wyjściowych warstwy wyjściowej N,& - oczekiwana wartość na wyjściu (element zbioru uczącego analogiczny jak we wzorze 8