初等矩陣的逆矩陣其實是一個同類型的初等矩陣（可看作逆變換）。例如，交換矩陣中某兩行（列）的位置；用一個非零常數k乘以矩陣的某一行（列）；將矩陣的某一行（列）乘以常數k後加到另一行（列）上去。
初等行變換不影響線性方程組的解，也可用於高斯消元法，用於逐漸將係數矩陣化為標準形。初等行變換不改變矩陣的核（故不改變解集），但改變了矩陣的像。反過來，初等列變換沒有改變像卻改變了核。
有的時候，當矩陣的階數比較高的時候，使用其行列式的值和伴隨矩陣求解其逆矩陣會產生較大的計算量。這時，通常使用將原矩陣和相同行數（也等於列數）的單位矩陣並排，再使用初等變換的方法將這個並排矩陣的左邊化為單位矩陣，這時，右邊的矩陣即為原矩陣的逆矩陣。
