어떻게 어느 무리인지 가르기, 분류

두 무리가 따로 모여요

점들이 흩어져 있는데, 이번에는 점마다 색이 있다. 한 색은 스팸 메일, 다른 색은 정상 메일이라고 하자. 점의 자리는 메일의 특징으로 정한다. 예를 들어 가로는 링크 수, 세로는 광고 낱말 수처럼 말이다.
자세히 보면 같은 색끼리 비슷한 자리에 모여 있어요. 스팸은 스팸끼리, 정상은 정상끼리 모인다. 특징이 비슷한 것끼리 가까이 놓이기 때문이다.

펼치기를 눌러 보자. 섞여 있던 점들이 같은 색끼리 비슷한 자리에 모이며 두 무리가 드러나요.

두 무리가 눈에 보인다. 왼쪽에 한 색, 오른쪽에 다른 색이 모여 있다. 사람 눈에는 금방 갈라 보이지만, 컴퓨터에게 시키려면 눈대중 말고 분명한 규칙이 필요해요.
어디까지가 한쪽이고 어디부터가 다른 쪽인지 선을 하나 그어 두면 규칙이 깔끔해진다.

사이에 경계선을 그어요

두 무리 사이에 선을 한 줄 긋는다. 이 선을 결정 경계라고 부른다. 선의 한쪽은 한 무리의 땅이고, 다른 쪽은 다른 무리의 땅이에요.
좋은 경계선은 두 무리를 깔끔하게 가른다. 같은 색이 선을 넘어가지 않아야 한다. 선을 한쪽으로 치우치게 그으면 색이 섞여 버리니 자리를 잘 잡아야 한다.

경계선 자리를 눌러 옮겨 보자. 한쪽으로 치우치면 같은 색이 선을 넘고, 가운데에 놓으면 두 무리가 깔끔하게 나뉘어요.

경계선이 두 무리를 갈랐다. 이제 선의 왼쪽은 한 무리, 오른쪽은 다른 무리라고 분명하게 말할 수 있다. 눈대중이 아니라 규칙이 생긴 것이다.
실제 데이터는 이렇게 깔끔하게 갈리지 않을 때가 많아요. 그럴 때는 틀리게 가르는 점이 가장 적은 선을 찾는다. 선의 기울기와 위치를 조금씩 고쳐 가며 틀린 수를 줄이는데, 앞 레슨에서 어긋남을 줄이던 것과 같은 생각이다. 그렇다면 처음 보는 새 점은 어느 무리로 넣을까?

새 점은 어느 쪽인지로

새 메일이 한 통 왔다고 하자. 스팸인지 정상인지는 아직 모르지만, 특징을 재면 어디쯤 놓일지는 알 수 있다. 그 자리가 경계선의 어느 쪽인지만 보면 된다.
왼쪽에 떨어지면 왼쪽 무리, 오른쪽에 떨어지면 오른쪽 무리예요. 많은 분류기는 여기서 한 걸음 더 나아가, 경계에서 멀리 떨어질수록 그 무리일 확률이 높다고 답한다. 경계 바로 옆의 점은 확률이 반반에 가까워 헷갈리는 점이다.

빈 곳을 눌러 새 점을 찍어 보자. 경계의 어느 쪽에 떨어지는지에 따라 점의 색, 곧 무리가 정해져요.

새 점은 떨어진 자리에 따라 색이 정해졌다. 경계선 왼쪽이면 왼쪽 색, 오른쪽이면 오른쪽 색이다. 규칙이 단순하고 한결같아서, 새 점이 백 개가 와도 같은 규칙으로 하나씩 가르면 돼요.
그런데 세상의 무리가 늘 둘만 있지는 않다. 고양이, 개, 새처럼 셋 이상일 때는 어떻게 할까?

셋 이상은 경계를 더 그어요

무리가 셋이면 선 하나로는 부족하다. 선 하나는 땅을 둘로만 가르기 때문이다. 그럴 때는 경계를 더 그어 땅을 세 칸, 네 칸으로 나눈다.
칸마다 한 무리의 땅이 되고, 새 점은 똑같이 어느 칸에 떨어지는지로 가른다. 확률로 답하는 분류기라면 무리마다 확률을 매기고 가장 큰 무리를 고르면 돼요. 앞서 본 확률의 생각이 그대로 쓰인다.

경계 더하기를 눌러 보자. 땅이 두 칸에서 세 칸, 네 칸으로 나뉘고 무리마다 자기 칸이 생겨요.

칸이 늘어도 규칙은 그대로였다. 경계를 더 그어 칸을 나누고, 새 점은 어느 칸인지로 가른다. 무리가 둘이든 넷이든 바탕에 깔린 생각은 같아요.
경계가 꼭 직선일 필요도 없다. 무리가 구불구불하게 섞여 있으면 곡선 경계가 필요하고, 뒤에서 배울 신경망은 이런 복잡한 경계도 그려 낸다.

정리

정리하면 이렇다. 분류는 정해진 무리 가운데 어디에 드는지를 가르는 일이다. 값을 맞히는 회귀와 달리 무리의 이름을 답한다. 두 무리 사이에 경계를 긋고, 새 점은 경계의 어느 쪽인지로 가른다.
무리가 셋 이상이면 경계를 더 그어요. 자리 하나로 무리를 정하고, 필요하면 확률로 얼마나 확실한지도 말하는 것, 이것이 분류다.

핵심을 차례로 눌러 되짚어 보자. (두 무리로 가르기 → 사이에 경계선 → 새 점은 어느 쪽인지로 → 셋 이상은 경계를 더)

이제 회귀와 분류, 두 가지 예측을 모두 봤다. 하나는 숫자를, 하나는 무리를 답하지만, 둘 다 예시 속에서 선을 찾아 새 입력에 쓴다는 점은 같아요.
그런데 좋은 선을 찾으려면 지금의 선이 얼마나 틀렸는지부터 재야 한다. 틀린 정도를 숫자 하나로 나타내는 방법을 다음 레슨 손실에서 다룬다.