행렬은 공간을 네 부분으로 가른다
행렬에 벡터를 집어넣으면 다른 벡터가 나온다. 그런데 들어가는 모든 입력이 똑같이 대접받는 건 아니에요. 어떤 방향은 멀쩡히 살아 나오고 어떤 방향은 통째로 0으로 짜부라진다. 그래서 행렬 하나가 공간을 네 조각으로 가른다. 출력 쪽에는 도달 가능한 결과 전부인 열공간이 있고, 입력 쪽에는 0으로 죽는 방향들인 영공간이 있어요. 살아남는 방향의 수인 랭크와 죽는 방향의 수인 널리티를 더하면 항상 입력 차원이 된다. 이 그림 하나면 A x = b가 왜 해가 없기도, 딱 하나이기도, 무한히 많기도 한지가 전부 풀려요. 역행렬만으로는 보이지 않던 구조다.
입력 벡터를 끌어 본다. 이 행렬은 두 열이 같은 방향을 가리키는 납작한 행렬이라 det=0이고, 초록 열과 주황 열이 포개져 있다. 어디로 끌든 출력 A x는 금색 직선 위에만 떨어져요. 파란 입력이 그 직선으로 접힌다. 그 직선이 바로 열공간이다. A x는 결국 첫 열의 몇 배 더하기 둘째 열의 몇 배, 곧 두 열의 조합인데 두 열이 평행하니 그 조합이 만들 수 있는 건 그 평행 방향 직선뿐이기 때문이다. 출력은 절대 그 선을 벗어나지 못한다. 도달 가능한 결과 전부가 이 1차원 직선에 갇힌 것이에요. 이게 상(image), 곧 열공간이다.
같은 납작한 행렬에서 이번에는 입력 쪽을 본다. 0으로 죽는 입력이 따로 있다. 파란 입력을 끌어 보면 파란 직선 위에 올렸을 때 출력 A x가 정확히 원점에 붙어 버려요. 그 직선이 영공간이고, 열공간은 금색 점선으로 남아 있다. 그 방향으로 들어온 입력은 통째로 0에 짜부라져 흔적도 안 남는다. 그 직선에서 살짝만 벗어나면 출력이 곧장 열공간 위로 튀어 오른다. 한 점도 아니고 직선 전체가 0으로 가는 것이에요. 그래서 A x = 0의 해가 x = 0 하나가 아니라 무한히 많다. 바로 이 0이 아닌 영공간이 있다는 사실이, 해가 왜 여러 개일 수 있는지의 열쇠가 된다.
이제 슬라이더로 행렬을 살아 있는 상태에서 납작한 상태로 무너뜨린다. 슬라이더를 한쪽 끝에 두면 행렬은 온전한 랭크 2다. 단위정사각형이 금색 평행사변형으로 변하고, 초록 열과 주황 열이 서로 다른 방향을 가리킨다. 0으로 가는 입력은 x = 0 하나뿐이라 널리티는 0이에요. 슬라이더를 돌려 한 열을 다른 열 쪽으로 눕히면 두 열이 평행해지며 det이 0으로 가고, 평행사변형이 선분 하나로 짜부라진다. 그 순간 랭크는 1, 널리티는 1이 된다. 한 직선이 통째로 0으로 가기 때문이에요. 어느 쪽이든 랭크 더하기 널리티는 늘 2다. 입력 차원이 두 몫으로 정확히 나뉜다. 살아남은 차원인 랭크는 초록 숫자, 죽은 차원인 널리티는 파란 숫자, 그 합은 금색으로 항상 들어온 차원과 같아요. 이게 랭크-널리티 정리다.
입력 평면을 다시 본다. 영공간만 있는 게 아니라 행공간도 입력 쪽에 있어요. 행공간은 행렬의 두 행이 펼치는 방향인데, 납작한 행렬에서는 이것도 한 직선이다. 두 직선을 켜 보면 금색 행공간과 파란 영공간이 정확히 90도로 만난다. 둘은 직각으로 서로를 보완하는 짝이에요. 분해 버튼을 누르면 한 입력이 두 조각으로 갈라진다. A x의 각 성분은 한 행과 입력의 내적인데, 입력이 영공간에 있으면 그 내적이 0, 곧 그 입력이 모든 행에 수직이라는 뜻이기 때문이다. 그래서 모든 입력 벡터는 두 조각으로 갈라진다. 행공간 성분은 출력에 살아남고 영공간 성분은 0으로 사라진다. 살리는 절반과 죽이는 절반이 직각으로 갈린 것이에요.
이제 네 부분공간 그림으로 A x = b를 푼다. 슬라이더로 목표를 옮기면 답이 드러나요. 목표가 금색 열공간 직선 위에 없으면 그 목표에 도달할 입력 자체가 없어서 해가 0개다. 목표를 열공간 위로 올리면 갑자기 해가 나타나는데 하나가 아니다. 특수해 한 개에 영공간 전체를 더한 것, 곧 파란 점선으로 그린 영공간 방향으로 평행이동한 직선 전체가 다 해라서 무한히 많아요. 특수해는 목표에 도달하는 한 입력이고, 거기에 0으로 죽는 방향을 아무리 더해도 출력은 그대로이기 때문이다. 만약 영공간이 0뿐인 온전한 랭크 행렬이었다면 해는 딱 하나, 그게 역행렬이 주던 답이다. 0개와 1개와 무한개, 이 세 갈래가 전부 네 부분공간의 모양에서 곧장 나와요.