a) Es ist

${\displaystyle {}M^{2}={\begin{pmatrix}11&-20\\6&-11\end{pmatrix}}{\begin{pmatrix}11&-20\\6&-11\end{pmatrix}}={\begin{pmatrix}121-120&-220+220\\66-66&-120+121\end{pmatrix}}={\begin{pmatrix}1&0\\0&1\end{pmatrix}}\,.}$

b) Nach Teil a) ist

${\displaystyle {}M^{2}=E_{2}\,,}$

also ist ${\displaystyle {}M}$ invertierbar und stimmt mit seinem Inversen überein, also

${\displaystyle {}M^{-1}=M\,.}$

c) Wir wenden auf die Gleichung beidseitig die Matrix ${\displaystyle {}M^{-1}=M}$ an und erhalten

${\displaystyle {}{\begin{aligned}{\begin{pmatrix}x\\y\end{pmatrix}}&=M{\begin{pmatrix}4\\-9\end{pmatrix}}\\&={\begin{pmatrix}11&-20\\6&-11\end{pmatrix}}{\begin{pmatrix}4\\-9\end{pmatrix}}\\&={\begin{pmatrix}44+180\\24+99\end{pmatrix}}\\&={\begin{pmatrix}224\\123\end{pmatrix}}.\end{aligned}}}$