직사각 모양 윗삼각 행렬
\begin{equation}
U_1=\begin{bmatrix}
1\amp0\amp1\amp0\amp1\amp0
\\
0\amp0\amp1\amp1\amp0\amp1
\\
0\amp0\amp0\amp0\amp1\amp1
\end{bmatrix}\tag{3.2.4}
\end{equation}
의 커널을 구해보자. 자유변수는 \(x_2,x_4,x_6\)이다.
\begin{equation}
U_1
\begin{bmatrix}
x_1\\x_2\\x_3\\x_4\\x_5\\x_6
\end{bmatrix}
=0\tag{3.2.5}
\end{equation}
으로 놓고 종속변수 \(x_1,x_3,x_5\)를 자유변수에 관해 풀면
\begin{align*}
x_1= \amp x_4\\
x_3= \amp -x_6-x_4\\
x_5= \amp -x_6
\end{align*}
이므로
(3.2.5)를 만족하는
\((x_1,\cdots,x_6)\)은
\begin{equation}
(x_4,x_2,x_6-x_4,x_4,-x_6,x_6)\hspace{10pt}\text{(단, $x_2,x_4,x_6$은 임의의 실수)}\tag{3.2.6}
\end{equation}
\begin{equation*}
x_2(0,1,0,0,0,0)+x_4(1,0,-1,1,0,0)+x_6(0,0,1,0,-1,1)
\end{equation*}
인데 이는
\begin{align}
\boldsymbol v_2 = \amp (0,1,0,0,0,0) \tag{3.2.7}\\
\boldsymbol v_4 = \amp (1,0,-1,1,0,0)\tag{3.2.8}\\
\boldsymbol v_6 = \amp (0,0,1,0,-1,1)\tag{3.2.9}
\end{align}
세 벡터의 선형결합이다.
또한 \(U\boldsymbol x=0\)일 때
\begin{equation*}
\boldsymbol x = x_2 \boldsymbol v_2 + x_4 \boldsymbol v_4 + x_6 \boldsymbol v_6
\end{equation*}
이 되는 실수 순서쌍 \((x_2,x_4,x_6)\)은 유일하다. 즉, \(\boldsymbol v_2,\boldsymbol v_4,\boldsymbol v_6\)는 \(\operatorname{ker}(U_1)\)의 기저이다.
정리 3.2.8.
\(U\)가 윗삼각행렬이라 하자. 각 자유변수 \(x_k\)마다 \(x_k=1\)이고 나머지 자유변수가 모두 영인 \(\operatorname{ker}(U)\)의 원소를 \(\boldsymbol v_k\)라 하자. 자유변수를 \(x_{k_1},\cdots,x_{k_t}\)이라 하면, \(\boldsymbol v_1, \cdots, \boldsymbol v_{k_t}\)는 \(\operatorname{ker}(U)\)의 기저이다.