어떻게 불확실을 다루기, 확률

가능성에 숫자를 매겨요

앞 레슨에서는 이미 모은 데이터를 평균과 퍼짐으로 요약했다. 그런데 아직 일어나지 않은 일은 어떻게 다룰까? 내일 일은 데이터가 아직 없다. 그래서 가능성에 숫자를 매겨요.
절대 일어나지 않으면 0, 반드시 일어나면 1, 반반이면 그 가운데인 0.5다. 모든 확률은 0과 1 사이 어딘가에 있다. 주사위처럼 모든 결과가 똑같이 일어날 법할 때는 원하는 결과의 수를 전체 결과의 수로 나누면 된다.

여러 사건을 눌러 보자. 가능성이 0부터 1까지의 막대로 그려지고, 퍼센트로도 나와요.

가능성을 막대 길이로 보면 한눈에 들어온다. 0에 가까울수록 짧고, 1에 가까울수록 길다. 퍼센트는 0부터 1까지를 100배 해서 읽은 것뿐이라, 0.5는 50퍼센트이고 0.25는 25퍼센트예요.
주사위에서 다섯 이상이 나오는 경우는 다섯과 여섯 두 가지이니, 가능성은 여섯 중 둘, 곧 셋 중 하나다. 그런데 이렇게 셈으로 정한 가능성이 실제로 던져 본 결과와 정말 맞을까?

주사위를 굴려요

주사위의 눈은 여섯 개이고, 어느 눈이나 똑같이 나올 법하니 한 눈이 나올 확률은 여섯 중 하나다. 그런데 딱 여섯 번 굴린다고 눈마다 한 번씩 나오지는 않는다. 어쩌다 3이 세 번 나올 수도 있어요.
신기한 점은 여기에 있다. 적게 던지면 결과가 들쭉날쭉하지만, 많이 던질수록 각 눈이 나온 비율이 여섯 중 하나에 점점 가까워진다. 이것을 큰수의 법칙이라고 부른다.

굴리기를 눌러 보자. 미리 정해 둔 차례대로 다음 눈이 나오고, 던질수록 각 눈의 비율이 6분의 1에 가까워져요.

처음에는 막대가 울퉁불퉁했다. 어떤 눈은 많이 나오고 어떤 눈은 적게 나왔다. 그런데 계속 굴리자 여섯 막대가 점점 비슷한 높이로 맞춰졌어요.
그래서 한두 번의 결과로 섣불리 단정하면 안 된다. 많이 모아야 진짜 모습이 보인다. 기계 학습이 예시를 많이 모으려는 까닭도 여기에 있다. 그럼 두 가지 일이 함께 일어날 가능성은 어떻게 셀까?

두 가지가 함께 일어나요

동전을 던져 앞면이 나오고, 동시에 주사위가 6이 나올 가능성은 얼마일까? 동전과 주사위는 서로 영향을 주지 않는다. 이렇게 서로 상관없는 일을 독립이라고 하고, 독립인 두 일이 함께 일어날 가능성은 각각의 가능성을 곱해 구한다.
동전 앞면은 둘 중 하나, 주사위 6은 여섯 중 하나이니, 둘을 곱하면 열둘 중 하나가 된다. 다만 한쪽이 다른 쪽에 영향을 주는 일이라면 그냥 곱하면 안 돼요. 예를 들어 같은 주사위가 짝수이면서 여섯일 가능성은, 여섯이면 이미 짝수이므로 여섯 중 하나 그대로다.

두 사건을 골라 묶어 보자. 각각의 가능성이 곱해지면서 함께 일어날 가능성이 둘 중 어느 것보다도 작아져요.

두 가능성을 곱했더니 결과가 둘 중 어느 것보다도 작아졌다. 함께 일어나야 하는 조건이 늘수록 그 일은 드물어지니 당연한 결과예요. 여러 행운이 한꺼번에 따르기 어려운 것과 같다.
이제 확률이 어디에 쓰이는지 보자. 세상이 확실하지 않을 때도 우리는 가능성을 견줘 가장 일어날 법한 쪽을 고를 수 있다.

가장 그럴듯한 쪽을 골라요

확실히 알 수 없어도 결정은 내려야 할 때가 많다. 그럴 때는 후보마다 가능성을 매기고 가장 큰 쪽을 고르면 된다. 흐린 사진 속 동물이 고양이일 확률이 0.7, 개일 확률이 0.2라면 고양이라고 답하는 식이에요.
틀릴 수도 있지만 가장 그럴듯한 답이다. 후보들의 확률을 모두 더하면 하나가 된다는 점도 기억해 두자. 어느 하나는 반드시 답이기 때문이다. AI도 바로 이렇게 답을 고른다.

흐린 사진을 하나씩 눌러 보자. 후보마다 확률이 매겨지고 가장 그럴듯한 답이 골라져요. 확률이 비슷하면 헷갈린다는 표시도 나온다.

AI는 정답을 안다고 단정하지 않는다. 여러 후보에 확률을 매기고 가장 큰 쪽을 답으로 내놓는다. 그래서 확률이 비슷하면 확신이 낮고, 한쪽이 크면 자신 있게 답해요.
뒤에서 다룰 큰 언어 모델도 이 생각 위에 서 있다. 문장을 이어 쓸 때 다음에 올 낱말 후보마다 확률을 매기고, 그중에서 하나를 고른다.

정리

정리하면 이렇다. 확률은 가능성을 0과 1 사이의 숫자로 매긴다. 주사위처럼 많이 해 보면 비율이 진짜 확률에 가까워진다. 서로 영향을 주지 않는 두 일이 함께 일어날 가능성은 각각을 곱해서 구해요.
그리고 확실하지 않을 때는 가장 그럴듯한 쪽을 고른다. AI도 똑같이 확률로 답을 고른다.

핵심을 차례로 눌러 되짚어 보자. (가능성을 0~1로 → 많이 하면 비율이 수렴 → 함께는 곱 → 가장 그럴듯한 쪽 고르기)

이제 확실하지 않은 일을 숫자로 다룰 수 있게 됐다. 막막하던 우연이 0과 1 사이의 숫자로 손에 잡혔어요.
통계와 확률을 갖췄으니 이제 데이터에서 실제로 규칙을 뽑아 볼 차례다. 흩어진 점들 사이를 가장 잘 지나는 직선을 찾아 다음 값을 예측하는 방법을 다음 레슨 선형 회귀에서 다룬다.