Es sei ${\displaystyle {}K}$ ein Körper und ${\displaystyle {}E_{n}}$ die Einheitsmatrix der Länge ${\displaystyle {}n}$. Eine Matrix ${\displaystyle {}M\in \operatorname {GL} _{n}\!{\left(K\right)}}$ mit

${\displaystyle {}{M^{\text{tr}}}M=E_{n}\,}$

heißt orthogonale Matrix. Die Menge aller orthogonalen Matrizen heißt orthogonale Gruppe, sie wird mit

${\displaystyle {}\operatorname {O} _{n}\!{\left(K\right)}={\left\{M\in \operatorname {GL} _{n}\!{\left(K\right)}\mid {M^{\text{tr}}}M=E_{n}\right\}}\,}$

bezeichnet.