Xét hệ phương trình tam giác

[latex]R x=\begin{pmatrix} 3 & 8 & 3 \\ 0 & 6 & -1 \\ 0 & 0 & -3 \end{pmatrix}\begin{pmatrix} x_1 \\ x_2 \\ x_3 \end{pmatrix}=\begin{pmatrix} 1 \\ 2 \\ -3 \end{pmatrix}[/latex]

Trước hết, ta giải tìm biến cuối cùng là [latex]x_3[/latex], thu được (từ phương trình cuối) [latex]x_3=1[/latex]. Ta thế giá trị này của [latex]x_3[/latex] vào phương trình thứ nhất và thứ hai, thu được một hệ phương trình tam giác mới với hai biến [latex]x_1,x_2[/latex]:

\[ \left(\begin{array}{ll} 3 & 8 \\ 0 & 6 \end{array}\right)\left(\begin{array}{l} x_1 \\ x_2 \end{array}\right)=\left(\begin{array}{c} 1-3 x_3 \\ 2+x_3 \end{array}\right)=\left(\begin{array}{c} -2 \\ 3 \end{array}\right) . \]

Ta tiếp tục bằng cách giải tìm biến cuối cùng là [latex]x_2[/latex]. Phương trình cuối cho ta [latex]x_2=3 / 6=1 / 2[/latex]. Thế giá trị này vào phương trình đầu tiên ta được

\[ 3 x_1=-2-8 x_2=-6. \]

suy ra [latex]x_1 = -2[/latex].

Ta có thể áp dụng ý tưởng này để tìm ma trận nghịch đảo của ma trận tam giác trên vuông [latex]R[/latex], bằng cách giải

\[ R x^{(1)}=\left(\begin{array}{l} 1 \\ 0 \\ 0 \end{array}\right), \quad R x^{(2)}=\left(\begin{array}{l} 0 \\ 1 \\ 0 \end{array}\right), \quad R x^{(3)}=\left(\begin{array}{l} 0 \\ 0 \\ 1 \end{array}\right) . \]

Ma trận [latex]\left[x^{(1)}, x^{(2)}, x^{(3)}\right][/latex] khi đó là ma trận nghịch đảo của [latex]R[/latex]. Ta tìm được

[latex]R^{-1} = \left(\begin{array}{c|c|c} x^{(1)} & x^{(2)} & x^{(3)} \end{array}\right) = \begin{pmatrix} 1/3 & -4/9 & -26/54 \\ 0 & 1/6 & 1/18 \\ 0 & 0 & -1/3 \end{pmatrix}.[/latex]

Như được minh họa ở trên, nghịch đảo của một ma trận tam giác là một ma trận tam giác.