[ML 스터디 4주차] 행렬식(Determinant)의 기하학적 의미

행렬식(Determinant)은 정방행렬 하나에 대응하는 단 하나의 스칼라 값이다.

n×n 크기의 정방행렬에 대해서만 정의되며, 행과 열의 개수가 다른 행렬에는 존재하지 않는다.

표기는 det(A) 또는 |A|로 한다.

2×2 행렬 [[a, b], [c, d]]의 경우 그 값은 ad - bc로 계산된다.

 

이 값은 연립일차방정식의 해가 존재하는지, 존재한다면 유일한지를 판별하기 위해 고안되었다.

행렬식이 0이 아니면 해가 유일하게 존재하고, 0이면 해가 없거나 무수히 많다.

이처럼 행렬식은 "해를 결정(determine)한다"는 의미에서 determinant라고 불린다.

1. 행렬식은 면적의 변화 배율이다

행렬식을 이해하는 가장 직접적인 관점은 "선형 변환을 거쳤을 때 면적 또는 부피가 원래보다 몇 배로 변했는지를 나타내는 배율"로 보는 것이다.

1️⃣ 기준 단위: 넓이 1의 정사각형

2차원 공간을 다룰 때는 두 개의 기저 벡터를 눈금자로 사용한다.

î은 x축 방향으로 길이 1인 벡터, ĵ은 y축 방향으로 길이 1인 벡터다.

이 두 벡터가 만드는 가로 1, 세로 1의 정사각형이 변화를 측정하는 초기 기준 단위가 된다.

이 단위 정사각형의 넓이는 정의상 1이다.

2️⃣ 변환 후 면적이 곧 행렬식의 절댓값

어떤 변환이 공간을 두 배로 스케일링하여 기저 벡터가 만드는 평행사변형의 면적이 4가 되었다면, 이 변환의 행렬식은 4다. 즉 행렬식의 절댓값은 변환 후 기저 벡터들이 만들어내는 도형의 넓이 그 자체를 의미한다. 아래 도식은 넓이 1의 단위 정사각형이 변환을 거쳐 넓이 4의 도형으로 확장되는 관계를 보여준다.

2. 모양이 바뀌어도 면적이 유지되는 변환

공간을 비스듬히 밀어내는 전단(Shear)이나 공간 전체를 돌리는 회전(Rotation)은 도형의 모양을 바꾼다.

그러나 이 두 변환은 면적의 절댓값을 바꾸지 않는다.

네모난 도형을 손바닥으로 밀어 비스듬한 평행사변형으로 찌그러뜨린다고 하자.

형태는 평행사변형으로 변했지만 도형이 차지하는 절대 면적은 부풀거나 줄지 않고 그대로 1로 유지된다.

단순 전단이나 회전은 면적 자체를 변화시키지 않으므로 행렬식의 절댓값에 영향을 주지 않으며, 이때 행렬식은 여전히 1이다.

모양의 변형과 면적의 변화는 별개의 사건이라는 점이 핵심이다.

3. 행렬식의 부호: 공간의 방향성

행렬식은 면적 배율뿐 아니라 공간의 방향성 정보도 담는다.

부호가 이 정보를 전달한다.

1️⃣ 방향 반전과 음수 부호

어떤 변환에서 î이 원래 ĵ이 있던 위치로, ĵ이 원래 î이 있던 위치로 이동하면 공간은 종이가 뒤집히듯 반전된다.

이렇게 공간의 방향이 반전되면 행렬식은 음수가 된다.

2️⃣ 부호와 절댓값의 분리 해석

행렬식이 -4라면 두 가지 정보를 동시에 읽어야 한다.

음수 부호는 공간의 좌우 또는 상하 방향이 뒤집혔음을, 절댓값 4는 면적이 원래보다 4배로 커졌음을 뜻한다.

4. 행렬식이 0일 때: 선형 종속과 차원 축소

행렬식의 가장 결정적인 정보는 그 값이 0인지 아닌지에서 나온다.

행렬식이 0이라는 것은 변환 후의 면적 또는 부피가 완전히 0이 되었다는 뜻이다.

1️⃣ span이 축소되는 현상

두 기저 벡터가 서로 다른 방향을 가리킬 때, 이들의 일차결합으로 도달할 수 있는 영역(span)은 평면 전체를 덮는다.

그러나 한 벡터가 다른 벡터의 스칼라 배가 되어 같은 직선 위로 정렬되면, 두 벡터의 일차결합은 그 직선 위의 점들만 만들어낼 수 있다.

span이 2차원 평면에서 1차원 직선으로 축소되는 것이다.

이 상태를 선형 종속(Linear Dependence)이라 부르며, 두 벡터가 이루던 평행사변형의 면적이 0이 되는 사건과 정확히 일치한다.

아래 그림은 선형 독립 상태의 두 벡터가 정렬되며 span이 직선으로 붕괴하는 과정을 보여준다.

2️⃣ 역행렬 소실의 실무적 함의

면적이나 부피가 0이 되면서 차원이 축소되면, 원래의 다차원 공간으로 되돌리는 역행렬을 구할 수 없다.

사라진 차원의 정보를 복원할 방법이 없기 때문이다.

시스템 환경이나 데이터 분석에서 행렬식이 0에 해당하는 상황이 발생하면, 데이터 유실이 일어났거나 방정식의 해가 없거나 무수히 많은 상태임을 의미한다.

수치 계산에서 행렬식이 0에 근접하는 행렬은 불안정성의 신호이므로 주의 깊게 다루어야 한다.