흩어진 점에 가장 잘 맞는 직선
측정값은 완벽한 직선 위에 앉지 않는다. 키와 몸무게, 공부 시간과 시험 점수, 기온과 아이스크림 판매량처럼 짝을 이룬 값들은 구름으로 흩어진다. 그래도 그 구름 속에는 기울어진 경향이 숨어 있어요. 상관계수는 점들이 한 직선에 얼마나 바짝 붙었는지를 하나의 수로 말하고, 최소제곱은 세로로 빗나간 간격의 제곱을 더해 그 합이 가장 작아지는 직선 하나를 골라 준다. 그 직선에서 기울기를 읽고, 흩어짐 가운데 직선이 설명하는 몫을 R²으로 물은 다음, 기울기가 진짜 경향인지 잡음뿐인지를 묻는다. 공업수학에서 벡터를 열공간에 사영하던 계산과 같은 대수예요. 렌즈만 달라서, 여기서는 잡음이 섞인 자료에 직선을 맞추고 그 직선으로 무엇을 말할 수 있는지를 본다. 점이 흩어져도 고르는 직선은 하나다.
점을 하나 집어 옮기면 상관계수 r가 바로 다시 계산된다. 점들이 같이 오르며 한 줄로 서면 r는 +1 가까이에 앉고, x가 커질수록 y가 작아지면 r는 -1 쪽으로 기울며, 구름이 둥글어 방향이 없으면 r는 0 근처에 머물러요. r는 직선으로 이어진 관계만 재고 단위는 보지 않으며, -1과 +1 밖으로 나가지 않아요. 휘어진 곡선은 이 수가 놓친다.
고정된 점 구름 위에 직선을 직접 올려 본다. 기울기와 절편을 밀면 직선이 돌아간다. 계기는 SSE, 곧 각 점에서 직선까지 세로 간격을 제곱해 더한 값이에요. 직선을 엉뚱한 쪽으로 밀면 그 합이 커지고, 바닥까지 내리는 기울기와 절편은 하나뿐이다. 그 바닥이 최소제곱 직선이고, 맞춤을 누르면 거기로 바로 간다. 잘 맞는다는 말은 오차가 0이라는 뜻이 아니라 제곱한 오차가 가장 작다는 뜻이다. 그 바닥이 어디인지는 계기가 말해 준다.
잔차는 남은 세로 간격이다. 실제 y에서 예측을 뺀 길이를 제곱해 더하면 SSres, 직선이 아직 빗나가는 양이 나와요. 평평한 평균선만 그었을 때의 빗나감인 SStot와 견주면 비로 R² = 1 - SSres / SStot가 나온다. 위아래 흔들림 가운데 직선이 가져가는 몫이에요. 평균선과 맞춘 직선을 번갈아 켜면 남은 양이 줄어드는 것이 보인다. 남은 양은 직선이 설명하지 못한 몫이다. 자리가 정해진다.
깨끗한 직선에서 시작해 잡음을 붓는다. 흩어짐을 키울수록 같은 밑의 경향이 파묻히고, r는 1 근처에서 0 쪽으로 미끄러져요. 관계 자체가 바뀐 것은 아니고, 그 관계를 알아보는 눈이 흐려진 것이다. 상관이 강하다는 것은 기울기가 가파르다는 뜻이 아니라 점들이 직선에서 조금만 벗어난다는 뜻이에요. 눈이 흐리면 경향도 흐리다.
자료에서 읽은 기울기는 추정일 뿐이라 신뢰구간으로 감싼다. 점이 적거나 잡음이 크면 구간이 넓어져 0을 가로지를 수 있고, 그때는 경향이 우연일 수도 있어요. 점을 더 모으면 구간이 좁아지고, 구간이 0을 완전히 벗어나면 그 기울기를 통계적으로 유의하다고 부른다. 표본을 밀면 구간이 참 기울기 쪽으로 조여 든다. 구간이 좁아지는 것이 곧 대답이다. 자리가 정해진다.