정의1
$T_{1}:U \to V$와 $T_{2}:V \to W$를 선형변환이라고 하면, $T_{1}$과 $T_{2}$의 합성(composition of $T_{2}$ with $T_{1}$)은 $ T_{2} \circ T_{1}$("$ T_{2}$ circle $ T_{1}$"이라 읽는다)으로 표기하며, 다음 공식으로 정의되는 함수이다.
$$(T_{2} \circ T_{1})(\mathbf{u}) = T_{2}(T_{1}(\mathbf{u}))$$
여기서 $\mathbf{u}$는 $U$의 벡터이다.
정리1
$T_{1}:U \to V$와 $T_{2}:V \to W$가 선형변환이라면, $ T_{2} \circ T_{1}: U \to W$ 또한 선형변환이다.
$\mathbf{u}, \mathbf{v}$가 $U$의 벡터이고 $c$가 스칼라이면
$(T_{2} \circ T_{1})(\mathbf{u} + \mathbf{v}) = T_{2}(T_{1}(\mathbf{u} + \mathbf{v}))$
$= T_{2}(T_{1}(\mathbf{u}) + T_{1}(\mathbf{v}))$
$= T_{2}(T_{1}(\mathbf{u})) + T_{2}(T_{1}(\mathbf{v}))$
$= (T_{2} \circ T_{1})(\mathbf{u}) + (T_{2} \circ T_{1})(\mathbf{v})$
$(T_{2} \circ T_{1})(c\mathbf{u}) = T_{2}(T_{1}(c\mathbf{u}))$
$= T_{2}(cT_{1}(\mathbf{u}))$
$= cT_{2}(T_{1}(\mathbf{u}))$
$= c(T_{2} \circ T_{1})(\mathbf{u})$
정의2
$T:V \to W$가 일대일이면 유일성에 의하여 $R(T)$의 모든 벡터 $\mathbf{w}$를 $\mathbf{v}$로 되돌려 사상하는 새로운 함수를 정의할 수 있다. 이 함수는 $T^{-1}$로 표기되고 $T$의 역(inverse of T)라 한다.
정리2
$T_{1}:U \to V$와 $T_{2}:V \to W$가 일대일 선형변환이면
1. $ T_{2} \circ T_{1}$은 일대일이다.
2. $ (T_{2} \circ T_{1})^{-1} = T_{1}^{-1} \circ T_{2}^{-1}$
pf)
$U$의 $\mathbf{u}$와 $\mathbf{v}$가 서로 다른 벡터라 하자.
$T_{1}$이 일대일이므로 $T_{1}(\mathbf{u})$와 $T_{1}(\mathbf{v})$는 $V$의 서로 다른 벡터이다.
$T_{2}$가 일대일이므로 $T_{2}(T_{1}(\mathbf{u}))$와 $T_{2}(T_{1}(\mathbf{v}))$는 $W$의 서로 다른 벡터이다. 즉,
$(T_{2} \circ T_{1})(\mathbf{u})$와 $(T_{2} \circ T_{1})(\mathbf{v})$는 $W$의 서로 다른 벡터이다.
$\therefore$ $ T_{2} \circ T_{1}$은 일대일이다.
$R(T_{2} \circ T_{1})$의 임의의 벡터를 $\mathbf{w}$라 하고
$\mathbf{u} = (T_{2} \circ T_{1})^{-1}(\mathbf{w})$
라 하자. 즉,
$(T_{2} \circ T_{1})(\mathbf{u}) = \mathbf{w}$
또는
$T_{2}(T_{1}(\mathbf{u})) = \mathbf{w}$
이다. 양변에 $T_{2}^{-1}$을 취하고, 그 결과의 양변에 $T_{1}^{-1}$을 취하면
$\mathbf{u} = T_{1}^{-1}(T_{2}^{-1}(\mathbf{w}))$
또는
$\mathbf{u} = (T_{1}^{-1} \circ T_{2}^{-1})(\mathbf{w})$
이다.
$\therefore$ $ (T_{2} \circ T_{1})^{-1} = T_{1}^{-1} \circ T_{2}^{-1}$