k jest równy liczbie klas M. Zgodnie z tym wzorem, korekcie w procesie uczenia są poddane wszystkie wagi. Każdej z tych wag odpowiada jeden element z NM-elementowej macierzy sygnałów wejściowych i jeden element ze zbioru M-elementowego, o tym samym rozmiarze, jaki mają macierze Z i Y. Czyli otrzymujemy macierz poprawek . o rozmiarze MN (zgodnym z rozmiarem macierzy <gap>), co umożliwia dodawanie tych macierzy. Sieć MADALINE mająca N wejść i M wyjść jest często interpretowana jako filtr przetwarzający sygnały X na odpowiadające im sygnały Y. W procesie uczenia filtr ten adaptuje swoją reprezentację wag do zbioru wartości odpowiadającego optymalnemu filtrowi wykonującemu