Nel caso della soluzione di un sistema lineare, il metodo di eliminazione di Gauss ci lascia con un sistema equivalente a quello originale. Essendo U triangolare, quest'ultimo sistema si risolve col metodo della back substitution. Vedi pagina 141 del libro di testo.
In forma matriciale, la sostituzione equivale a scrivere
,
dove D è diagonale e è strettamente triangolare. Quindi abbiamo
for (i=n-1; i>=0; i--) { sum = 0.0; for (j=i+1; j<n: j++) sum = sum + a[i][j]*b[j]; b[i] = ( b[i] - sum ) / a[i][i]; }