소거법·역행렬·고유값

행 연산은 해를 유지하는 식의 변형이다

지난 차시에서 연립방정식을 \([C\mid b]\)로 모았다. 이제 목표는 이 식을 더 쉬운 형태로 바꾸어 미지수를 찾는 것이다. 아무 방식으로 원소를 바꾸면 안 된다. 바뀐 시스템과 원래 시스템의 해집합이 같아야 한다. 기본 행 연산은 이 조건을 보장하는 세 종류의 변형이다.

두 번째 연산에서 c가0이면 안 되는 이유를 생각해 보자. 식을0배하면 \(0=0\)만 남아 원래 정보를 잃는다. 역으로0을 나누어 원래 식으로 돌아갈 수도 없다. 반면0이 아닌 수를 곱한 연산은 그 수로 나누어 되돌릴 수 있다. 세 번째 연산도 다른 행의 같은 배수를 빼면 되돌릴 수 있다. 기본 행 연산이 되돌릴 수 있는 변형이라는 점이 해집합 보존의 핵심이다.

첨가행렬에서는 우변까지 포함한 행 전체를 바꾸어야 한다. 예를 들어 \(x_1+x_2-x_3=3\)을2배하면 \(2x_1+2x_2-2x_3=6\)이다. 계수 세 개만2배하고 우변3을 그대로 놓으면 다른 식이다. 매번 세로선 오른쪽 숫자도 계산에 들어갔는지 확인하면 실수를 줄일 수 있다. 자료는 먼저 행 교환, 그다음 상수배, 그다음 교체를 보여 주지만 실제 문제에서는 필요한 순서로 조합한다.

예제 전체 풀기: 한 변수씩 없애기

자료의 행 연산 예제를 원래 시스템부터 끝까지 따라가자. \[x_1+x_2-x_3=3,\qquad x_2-x_3=2,\qquad 2x_1+2x_2+x_3=12.\] 먼저 첫 행의2배를 셋째 행에서 빼면 \(3x_3=6\)이다. 여기서 우변도 \(12-2\cdot3=6\)으로 계산한다. 셋째 식을3으로 나누면 x3=2다. 둘째 식에는 x1이 없으므로 x3=2를 넣어 x2=4를 얻는다. 첫째 식에는 x2=4,x3=2를 넣어 x1=1을 얻는다.

같은 계산을 첨가행렬로 적으면 더 많은 식도 체계적으로 다룰 수 있다. \[\left[\begin{array}{ccc|c}1&1&-1&3\\0&1&-1&2\\2&2&1&12\end{array}\right]\xrightarrow{R_3-2R_1}\left[\begin{array}{ccc|c}1&1&-1&3\\0&1&-1&2\\0&0&3&6\end{array}\right]\xrightarrow{R_3/3}\left[\begin{array}{ccc|c}1&1&-1&3\\0&1&-1&2\\0&0&1&2\end{array}\right].\] 아래부터 x3,x2,x1을 구하는 방식을 후진대입이라고 한다.

계산이 끝나면 원래 식에 대입한다. \(1+4-2=3\), \(4-2=2\), \(2\cdot1+2\cdot4+2=12\)이므로 \((1,4,2)\)는 세 식을 모두 만족한다. 중간에 만든 행렬에만 대입하는 것보다 원래 식에 대입하는 것이 더 강한 확인이다. 중간 행 연산을 잘못했더라도 그 잘못된 식끼리는 서로 맞아 보일 수 있기 때문이다.

자료의 한 화면에서는 왼쪽 마지막 식을 x1=1로 쓰면서 오른쪽 마지막 행에는 \([0,1,-1\mid2]\)가 남아 있다. 그 행의 직접적인 뜻은 x2−x3=2다. 다른 식과 결합하면 x1=1을 유도할 수는 있지만, 같은 줄을 그대로 옮긴 표현은 아니다. 이 교재의 단계별 행렬은 각 행이 왼쪽 식을 직접 재현하도록 적었다. 최종해와 줄별 표현의 정확성을 구분하여 읽자.

REF와 RREF: 피벗이 하는 일

행에서 가장 왼쪽에 있는0이 아닌 원소를 그 행의 선행원소 또는 피벗이라고 부르자. 행 사다리꼴 REF에서는 비영행이 영행보다 위에 있고, 아래 행의 피벗은 위 행의 피벗보다 오른쪽에 있으며, 각 피벗 아래는0이다. 계단을 내려가듯 피벗이 오른쪽으로 이동하기 때문에 사다리꼴이라는 이름이 붙는다. 이 형태가 되면 뒤의 변수부터 계산하기 쉬워진다.

자료는 피벗을1로 만든 정규화 형태를 사용한다. 그러나 일반적인 REF는 피벗이 반드시1이어야 하는 것은 아니다. 예를 들어 \(\begin{bmatrix}1&2\\0&3\end{bmatrix}\)는 피벗이1과3인 REF다. 둘째 행을3으로 나누면 피벗1인 REF가 된다. 이 차이는 정의 관례의 차이이므로 ‘피벗3이 있으면 어떤 경우에도 REF가 아니다’라고 외우지 말자.

기약 행 사다리꼴 RREF는 더 나아가 각 피벗이1이고, 피벗이 있는 열의 나머지 원소가 모두0이다. 즉 피벗 아래만이 아니라 위도0이다. 이 조건 덕분에 해를 거의 그대로 읽을 수 있다. 자료의 가우스-조단 소거법은 첨가행렬을 이러한 기약 형태로 만드는 방법이다. 가우스 소거가 아래를 지워 후진대입을 준비한다면, 가우스-조단은 위도 지워 변수를 더 직접적으로 분리한다.

예를 들어 \(\left[\begin{array}{cc|c}1&2&5\\0&1&2\end{array}\right]\)는 첫째 피벗 아래가0이므로 REF이지만, 둘째 피벗 위의2가 남아 RREF는 아니다. 첫 행에서 둘째 행의2배를 빼면 \(\left[\begin{array}{cc|c}1&0&1\\0&1&2\end{array}\right]\)가 되어 x1=1,x2=2를 바로 읽는다. 이 작은 예는 형식의 차이를 설명하기 위한 AI 보충 예다. 원자료의 두 제목에서는 REF/RREF 약어가 서로 바뀐 부분이 있으므로, 약어보다 실제 피벗 조건을 기준으로 판단해야 한다.

역행렬: 행렬로 나눈다는 말 대신 되돌리기

정방행렬 A에 대해 \(AB=BA=I\)를 만족하는 B가 있으면 A는 가역이고 B를 \(A^{-1}\)라고 한다. A가 어떤 변환을 수행하면 B는 그것을 되돌리는 역할을 한다. A는 ‘역행렬이 존재하는 행렬’, B는 ‘A의 역행렬’이므로 이름의 주어를 구분해야 한다. 항등행렬 I는 변환 전과 후를 같게 두는 기준이다.

\(Ax=b\)에서 A가 가역이면 식의 왼쪽에 A의 역행렬을 곱한다. \[A^{-1}Ax=A^{-1}b\quad\Rightarrow\quad Ix=A^{-1}b\quad\Rightarrow\quad x=A^{-1}b.\] 행렬은 일반적으로 곱 순서를 바꿀 수 없으므로 역행렬을 어느 쪽에 곱했는지 유지해야 한다. 이를 단순히 ‘b를A로나눈다’라고 쓰면 스칼라 나눗셈과 혼동할 수 있다.

자료의 \(A=\begin{bmatrix}2&5\\-3&-7\end{bmatrix}\), \(B=\begin{bmatrix}-7&-5\\3&2\end{bmatrix}\)를 확인해 보자. AB의 첫 행 첫 원소는 \(-14+15=1\), 첫 행 둘째는 \(-10+10=0\), 둘째 행 첫째는 \(21-21=0\), 마지막은 \(15-14=1\)이다. 따라서 AB=I이고 BA도I다. 이 예제에서 B는A의 역행렬이다. 자료 중앙의 \(AB=Z=BA\)라는 글자는 I로 정리해야 한다. 예제의 실제 곱은 영행렬이 아니다.

모든 행렬에 역행렬이 존재하는 것은 아니다. 서로 다른 입력을 같은 출력으로 보내 정보가 사라진 경우에는 전체 입력을 되찾을 수 없다. 정방행렬에서 역행렬이 없으면 특이행렬, 있으면 비특이행렬이라고 부른다. ‘비특이’의 비는 없다는 뜻이 아니라 특이하지 않다는 뜻이다. inverse, invertible, singular, nonsingular 네 용어를 한 번에 외우기보다, 해당 A를 되돌리는 B가 있는가라는 질문으로 연결하면 헷갈림이 줄어든다.

2×2 역행렬과 행렬식: 0인지 먼저 확인하기

\(A=\begin{bmatrix}a&b\\c&d\end{bmatrix}\)에서 \(ad-bc\ne0\)이면 \[A^{-1}=\frac{1}{ad-bc}\begin{bmatrix}d&-b\\-c&a\end{bmatrix}.\] 자료는 A와 오른쪽 분자 행렬을 곱하면 \((ad-bc)I\)가 됨을 보여 준다. 그러므로 ad−bc로 나누면 I가 나온다. 분모가0이면 이 공식으로 나눌 수 없고, 실제로 그2×2행렬은 가역이 아니다.

자료의 \(A=\begin{bmatrix}1&2\\3&4\end{bmatrix}\)에서는 \(\det A=1\cdot4-2\cdot3=-2\)다. 따라서 \[A^{-1}=-\frac12\begin{bmatrix}4&-2\\-3&1\end{bmatrix}=\begin{bmatrix}-2&1\\3/2&-1/2\end{bmatrix}.\] 대각선을 서로 바꾸고, 나머지 두 원소의 부호를 바꾸는 과정과 분모−2를 곱하는 과정을 분리하면 부호 실수를 줄일 수 있다. 마지막으로 A와 곱해 I가 되는지 확인한다.

다른 예제 \(\begin{bmatrix}10&4\\5&2\end{bmatrix}\)의 행렬식은 \(10\cdot2-4\cdot5=0\)이다. 둘째 행은 첫째 행의 절반이므로 두 행이 독립적인 정보를 주지 않는다. 역행렬이 없다는 계산 결과와 정보가 중복된다는 해석이 맞아떨어진다. 우변이 어떤 값인지에 따라 Ax=b에 해가 없거나 무수히 많을 수 있지만, 모든b에 유일해를 주는 가역행렬은 아니다.

행렬식은 n×n 정방행렬을 한 스칼라로 대응시키는 함수다. det(A)는 행렬이 아니라 수라는 점을 확인하자. 정방행렬에서는 \(\det A\ne0\)와 가역성이 동치다. 다만 위의 대각곱 차이 공식은2×2에 대한 공식이다. 더 큰 행렬에 같은 두 대각선만 곱해 적용하면 안 된다. 실제 수치 계산에서는 역행렬을 먼저 구하기보다 소거법으로 Ax=b를 직접 푸는 경우도 많지만, 역행렬 개념은 해와 변환의 구조를 이해하는 데 중요하다.

선형변환·단사와 차원 축소의 한계

행렬 A가m×n이면 \(T(x)=Ax\)는 n차원 벡터를m차원 벡터로 보내는 선형변환이다. 자료는 표준기저 \(e_1,e_2,e_3\)의 상이 각각 \((1,2)^T,(4,3)^T,(5,6)^T\)인 예를 보인다. 이 세 출력이 A의 열이 되므로 \[A=\begin{bmatrix}1&4&5\\2&3&6\end{bmatrix},\qquad T:\mathbb R^3\to\mathbb R^2.\] x의 각 성분만큼 각 열을 가중해 더하면 T(x)를 구한다. 이전 차시의 행렬곱을 좌표 변환으로 읽는 방법이다.

단사는 서로 다른 입력이 같은 출력으로 뭉개지지 않는 성질이다. 정의는 \(T(u)=T(v)\Rightarrow u=v\)다. 모든u와v가 항상 같다는 말이 아니다. 출력이 같다는 조건 아래 입력도 같아야 한다는 뜻이다. 전사는 공역의 모든 원소가 적어도 하나의 입력으로부터 나오는 성질이고, 전단사는 단사와 전사를 모두 만족한다. 이 세 성질은 단순히 완화된 정도를 한 줄로 정렬한 이름들이 아니다.

자료의2차원 점 몇 개를1차원으로 보내는 그림은 제한된 관측점들이 서로 다른 값으로 매핑될 수 있음을 설명한다. 그러나 이를 전체 \(\mathbb R^2\)에서 \(\mathbb R\)로 가는 선형변환이 가역이라는 뜻으로 읽으면 안 된다. 전체 공간의 차원을 줄이는 선형변환은 어떤 방향의 차이를 잃는다. 유한한 샘플 네 개가 우연히 겹치지 않았다는 사실만으로 새로운 모든 입력을 되돌릴 수 있는 것은 아니다.

차원 축소에서 중요한 질문은 ‘아무 정보도 잃지 않는가’보다 ‘문제에 유용한 정보를 얼마나 보존하는가’인 경우가 많다. 이미 본 점들의 대응표를 기억해 역으로 찾는 일과, 임의의 새로운 벡터에 적용되는 역변환을 갖는 일도 다르다. 이 구분을 붙잡으면 강의의 복구 가능 그림을 과장해서 일반화하지 않고, 이후 고유벡터와 중요한 방향을 찾는 문제로 자연스럽게 넘어갈 수 있다.

고유벡터: 변환 후에도 한 직선 위에 남는 방향

정방행렬 A에 대해 \(Ax=\lambda x\)를 만족하는0이 아닌 벡터 x를 고유벡터, 그 스칼라λ를 대응 고유값이라고 한다. 왼쪽은 행렬 A가 x에 가하는 변환이고, 오른쪽은 x에 수λ만 곱하는 계산이다. 일반적인 입력은 방향까지 달라질 수 있지만, 고유벡터는 변환 후에도 원래 벡터가 만드는 직선 위에 남는다.

‘크기만 변한다’는 말은 부호까지 조심해 읽어야 한다. λ가양수면 같은 방향으로 길이가 변하고, 음수면 반대 방향으로 뒤집힌다. λ=0이면0으로 보내지지만 원래 고유벡터 x는 여전히0이 아니어야 한다. 영벡터는 모든λ에 대해 \(A0=\lambda0\)을 만족하므로 이를 고유벡터에 허용하면 고유값을 구분하는 정의가 무의미해진다.

자료의 \(A=\begin{bmatrix}4&2\\3&5\end{bmatrix}\)에 \(x=(2,3)^T\)를 넣으면 \(Ax=(14,21)^T=7x\)다. 그러므로7은 고유값이고 이 x는 대응 고유벡터다. \(y=(-1,1)^T\)에는 \(Ay=(-2,2)^T=2y\)가 되어2도 고유값이다. 반면 \(z=(3,-2)^T\)의 상은 \((8,-1)^T\)다. 첫 성분으로 구한 배율8/3과 둘째 성분으로 구한 배율1/2가 다르므로 하나의λ로 묶을 수 없다. 이 z는 고유벡터가 아니다.

‘A에 고유값이 있다’와 ‘내가 고른 모든x가 고유벡터다’는 다르다. A의 고유벡터를 찾는 것은 A를 입력받아 특별한 방향을 찾는 문제다. 이미 찾은 x의0이 아닌 상수배 cx도 \(A(cx)=cAx=\lambda(cx)\)를 만족한다. 따라서 한 고유값에 고유벡터가 여러 개, 보통 무수히 많이 대응할 수 있다. 길이를 고정하거나 대표 벡터 하나를 선택하는 것은 계산의 편의를 위한 추가 선택이다.

선형대수 자료 p.54 · 자료 p.55 · 자료 p.56 · 자료 p.57 · 검수 근거

원자료 그림 함께 보기 · p.54

원자료 화면입니다. 정정·적용 조건은 위 본문을 기준으로 함께 읽으세요.

특성방정식을 풀어 고유값 8과 −3 찾기

\(Ax=\lambda x\)를 한쪽으로 모으면 \((A-\lambda I)x=0\)이다. λ는 스칼라이므로 행렬 A에서 그냥 λ를 빼는 것이 아니라 같은 크기의 항등행렬에 곱한 λI를 뺀다. 고유벡터는 x≠0이어야 하므로 이 동차 시스템이 비자명한 해를 가질 조건을 찾는다. 정방행렬 \(A-\lambda I\)가 가역이면 해는0뿐이므로, 고유값에서는 \(\det(A-\lambda I)=0\)이어야 한다. 이를 특성방정식이라고 한다.

자료의 \(A=\begin{bmatrix}2&6\\5&3\end{bmatrix}\)로 계산하자. \[A-\lambda I=\begin{bmatrix}2-\lambda&6\\5&3-\lambda\end{bmatrix}.\] 행렬식은 \[(2-\lambda)(3-\lambda)-30=\lambda^2-5\lambda-24=(\lambda-8)(\lambda+3).\] 따라서 고유값은8과−3이다. 중간 상수항은6−30=−24이지 +6이 아니며, \(\lambda+3=0\)의 해는−3이지 +3이 아니다. 원영상의 공개 풀이에는 이 두 오류가 보이므로 교재에서는 검산한 값을 쓴다.

λ=8일 때 \(A-8I=\begin{bmatrix}-6&6\\5&-5\end{bmatrix}\)이다. 첫 행은 \(-6x_1+6x_2=0\), 둘째는 \(5x_1-5x_2=0\)이므로 둘 다 x1=x2를 뜻한다. 대응 고유벡터는 \(x=c(1,1)^T,c\ne0\)다. 대표로(1,1)을 넣으면 \(A(1,1)^T=(8,8)^T\)로8배가 된다.

λ=−3일 때는 \(A+3I=\begin{bmatrix}5&6\\5&6\end{bmatrix}\)이므로 \(5x_1+6x_2=0\)이다. 대표 고유벡터를 \((-6,5)^T\)로 고르면 \(A(-6,5)^T=(18,-15)^T=-3(-6,5)^T\)다. 이 둘째 계산은 자료의 고유값을 확인하기 위한 AI 보충 계산이다. 특성방정식으로 수만 구한 뒤 끝내지 말고, 각 λ에서0이 아닌 x를 찾아 원래 Ax=λx에 대입하면 부호와 배열을 함께 검증할 수 있다.

독립과 직교는 다르다: 조건과 반례

서로 다른 고유값에 대응하는 고유벡터들은 선형독립이다. 선형독립은 그중 어떤 벡터도 다른 벡터들의 선형결합으로 중복 표현되지 않는다는 뜻이다. 서로 다른 방향의 정보를 주는 기저 후보가 된다고 이해할 수 있다. 그러나 이 말은 두 벡터가 반드시90도로 만난다는 뜻은 아니다.

직교는 내적이0이라는 더 특별한 관계다. 실대칭행렬에서는 서로 다른 고유값의 고유벡터가 직교한다. 자료의 성질 페이지에는 대칭행렬 조건이 있지만 마지막 요약에는 빠져 있다. 이 조건을 버리고 모든 행렬로 일반화하면 틀린다. 실제로 앞 예제 \(A=\begin{bmatrix}4&2\\3&5\end{bmatrix}\)는 대칭이 아니고, 고유값7과2의 고유벡터(2,3),(-1,1)의 내적은 \(2(-1)+3(1)=1\)이다. 두 벡터는 선형독립이지만 직교하지 않는다.

대칭일 때 직교하는 이유도 짧게 확인해 보자. \(Au=\lambda u,Av=\mu v,A^T=A\)이면 \[\lambda u^Tv=(Au)^Tv=u^TA^Tv=u^TAv=\mu u^Tv.\] 따라서 \((\lambda-\mu)u^Tv=0\)이다. 고유값이 다르면 앞의 계수가0이 아니므로 \(u^Tv=0\)이어야 한다. 이 계산에서 A전치를 A로 바꾸는 단계에 대칭조건이 쓰였다. 조건을 말로 붙이는 것보다 어느 계산에서 필요한지 확인하면 더 오래 기억할 수 있다.

또한 선형독립과 통계적 독립도 다른 개념이다. 벡터의 선형결합 관계가 없다는 말만으로 두 확률변수의 모든 확률관계가 분리된다고 결론 낼 수 없다. 다음 차시의 상관계수0도 일반적인 독립의 충분조건은 아니다. ‘독립’이라는 단어가 나오면 벡터공간의 정의인지, 확률의 정의인지 항상 확인하자. 이 절의 반례와 증명은 조건 누락을 방지하기 위한 AI 보충 설명이며, 자료의 그림을 새로운 일반정리로 확장하지 않도록 돕는다.

혼자 문제를 풀 때의 확인 순서

다음은 이 차시의 개념을 연결하기 위한 AI 보충 절차다. 선형시스템을 받으면 먼저 식의 수 m과 미지수 수 n을 적는다. 계수를 x1부터 xn 순서로 정렬하고 \([C\mid b]\)를 만든다. 허용된 행 연산을 기록하면서 피벗을 찾는다. 소거 뒤 \([0,0,\ldots,0\mid c]\), c≠0인 행이 있으면 모순이므로 해가 없다. 그런 행이 없고 미지수 열 모두에 피벗이 있으면 유일해를 읽는다. 피벗 없는 변수 열이 있으면 자유변수를 매개변수로 두어 해집합을 표현한다.

예를 들어 \(\left[\begin{array}{cc|c}1&1&3\\2&2&6\end{array}\right]\)에서 둘째 행 빼기 첫째 행2배를 하면 영행이 남는다. 이때0=0은 새로운 제약이 없다는 뜻이다. x2=t로 두면 x1=3−t이며 해가 무수히 많다. 우변의6이7이었다면 같은 행 연산 뒤0=1이 되어 해가 없다. 행렬의 왼쪽 계수 모양이 같아도 우변이 바뀌면 해의 존재가 달라진다는 작은 반례다.

고유값 문제에서는 절차가 다르다. A가 정방인지 확인하고 \(\det(A-\lambda I)=0\)에서 λ를 구한다. 각 λ를 다시 넣어 동차 시스템을 풀되 x≠0을 선택한다. 마지막으로 Ax와 λx를 각각 계산해 같은지 본다. 고유값을 구할 때는 우변 b가 주어진 시스템을 푸는 것이 아니라, 특별한 λ에서 비자명해가 생기는지를 찾고 있다는 차이를 기억한다.

역행렬·소거법·고유값은 모두 행렬을 다루지만 같은 질문에 대한 세 가지 이름이 아니다. 소거법은 주어진 시스템의 해집합을 구하고, 역행렬은 변환을 모든 입력에 대해 되돌릴 수 있는지를 설명하며, 고유값은 변환이 벡터의 한 방향에 어떻게 작용하는지 묻는다. 문제를 읽을 때 ‘무엇을 찾으라는 것인가’를 먼저 문장으로 쓰면 기법을 잘못 선택하는 일이 줄어든다.

핵심을 내 말로 정리하기

• 행 연산은 우변까지 포함하고 원래 해집합을 유지해야 한다.
• 역행렬 정의의 가운데 행렬은 I이며 영행렬이 아니다.
• 고유값은 det(A−λI)=0으로 찾고 고유벡터는 X≠0이어야 한다.
• 고유벡터의 선형독립과 직교, 확률적 독립을 구분한다.