기계가 '학습한다'는 건 정말 무슨 뜻일까

보통 프로그램은 사람이 규칙을 하나하나 적어서 돌려요. 하지만 세상일은 규칙이 너무 많아 다 적기가 어려워요. 기계학습은 길을 뒤집어요. 정답이 달린 예시를 잔뜩 보여 주면, 기계가 그 예시들에서 공통된 패턴, 곧 규칙을 스스로 찾아내요. 처음엔 틀리지만, 예시를 더 줄수록 어디가 틀렸는지 조금씩 고쳐서 점점 잘 맞혀요. 그렇게 다듬어진 패턴으로, 한 번도 본 적 없는 새 입력까지 예측할 수 있어요. 정리하면, 규칙을 사람이 적는 대신 예시로 기계가 찾고, 틀리며 고치고, 새것을 예측하는 게 배운다는 뜻이에요.

통계는 많은 데이터를 적은 숫자로 요약하는 눈이에요. 첫째는 평균이에요. 모두 더해 개수로 나눈 가운데값으로, 데이터가 대체로 어디쯤인지 알려줘요. 둘째는 퍼짐이에요. 점들이 가운데에서 얼마나 멀리 흩어졌는지를 말해줘요. 이 둘은 짝이에요. 평균이 같아도 퍼짐이 다르면 전혀 다른 데이터거든요. 좁게 모인 무리와 넓게 흩어진 무리는 가운데가 같아도 성격이 달라요. 조심할 것도 있어요. 멀리 튀는 한 점, 이상치는 평균을 쉽게 끌고 가요. 그래서 가운데값 하나만 믿지 말고 퍼짐과 튀는 값도 함께 봐야 해요. 정리하면, 가운데값과 흩어짐 두 숫자로 데이터를 한눈에 보는 게 통계예요.

확률은 어떤 일이 얼마나 그럴듯한지를 0과 1 사이 숫자로 매긴 거예요. 0이면 거의 안 일어나고, 1이면 거의 틀림없고, 0.5면 반반이에요. 주사위나 동전처럼 여러 번 해보면, 각 결과가 나온 비율이 진짜 확률에 점점 가까워져요. 한두 번은 들쭉날쭉해도 많이 할수록 자리를 잡죠. 두 가지 일이 함께 일어날 가능성은 각각의 가능성을 곱해 가늠해요. 둘 다 그럴듯해야 함께도 그럴듯하니까요. 그리고 확실하지 않을 때, 우리는 가장 그럴듯한 쪽을 골라요. AI도 똑같아요. 정답을 안다고 단정하지 않고, 여러 후보에 확률을 매겨 가장 그럴듯한 답을 고르죠. 정리하면, 확률은 불확실을 숫자로 다뤄 가장 그럴듯한 쪽을 고르게 해줘요.

회귀는 흩어진 점들 사이로 가장 잘 맞는 직선 하나를 긋는 방법이에요. 그 선이 y=ax+b 라서, 새 입력을 넣으면 결과를 예측할 수 있어요. 선을 정하는 건 두 가지뿐이에요. 기울기 a 는 입력이 하나 늘 때 결과가 얼마나 오르는지를 정하고, y절편 b 는 선이 위아래로 어디에 걸리는지를 정해요. 가장 잘 맞는 선은 점들과의 어긋남, 즉 점에서 선까지 거리의 합이 가장 작은 선이에요. 어긋남을 눈으로 줄여 가며 그 선에 가까이 가는 거죠. 기울기 a 와 절편 b 라는 이 두 숫자는 나중에 뉴런의 가중치와 편향으로 그대로 이어져요.

분류는 어느 무리인지를 가르는 일이에요. 회귀가 값 하나를 맞힌다면, 분류는 양쪽 무리 중 어디인지를 답해요. 방법은 간단해요. 두 무리 사이에 경계선을 한 줄 그어 양쪽으로 나눠요. 새 점이 오면 경계의 어느 쪽에 있는지만 보면 무리가 정해져요. 직접 잴 필요 없이 위치 하나로 가르는 거예요. 무리가 셋 이상이면 경계를 더 그어 여러 칸으로 나누면 돼요. 정리하면, 점들 사이에 경계를 긋고 새 점은 그 경계의 어느 쪽인지로 가르는 게 분류예요.

손실은 모델이 얼마나 틀렸는지를 하나의 숫자로 잰 거예요. 점 하나마다 예측과 정답 사이의 어긋남, 곧 세로 거리가 있어요. 이 거리들을 모두 더하면 전체가 얼마나 틀렸는지가 한 숫자로 모여요. 그게 손실이에요. 손실이 크면 선이 점들과 많이 어긋난 거고, 작으면 잘 맞는 거예요. 그러니 좋은 모델을 만드는 일은 곧 손실을 작게 만드는 일이에요. 선을 이리저리 움직여 손실 숫자가 줄어드는 쪽을 고르면 되죠. 이렇게 손실을 줄여 가는 것이 바로 학습이에요. 다음엔 손실을 어느 방향으로 줄여야 하는지, 그 길을 찾는 방법을 살펴봐요.

경사하강은 손실을 줄이려고 기울기를 느껴 더 낮은 쪽으로 값을 한 걸음씩 고쳐가는 방법이에요. 손실 곡선은 가운데가 가장 낮은 골짜기 모양이고, 우리는 지금 선 자리에서 발밑 기울기를 보고 내려가는 쪽으로 값을 조금 바꿔요. 그 한 걸음의 크기를 보폭, 곧 학습률이라고 해요. 보폭이 너무 크면 바닥을 건너뛰어 반대편으로 튀고, 너무 작으면 내려가긴 해도 느려요. 적당한 보폭으로 걸음을 반복하면 골짜기 바닥, 곧 손실이 가장 작은 지점에 가까워져요. 정리하면, 기울기 느껴 한 걸음씩 내려가기, 보폭을 잘 고르기, 이게 경사하강이에요.

인공 뉴런은 입력마다 가중치를 곱해 모두 더해요. 이 꼴은 회귀에서 본 ax+b와 같아요. 거기서 기울기 a가 여기서는 가중치예요. 가중치가 크면 그 입력을 세게 듣고, 작으면 약하게 들어요. 더한 합이 임계를 넘으면 뉴런이 켜지고(1), 못 넘으면 꺼져요(0). 처음엔 가중치가 엉성해서 자주 틀려요. 그때 경사하강처럼 가중치를 틀린 만큼 조금씩 고쳐요. 더 키울지 줄일지 방향을 잡아 한 걸음씩 옮기면, 뉴런은 점점 잘 맞혀요. 정리하면, 입력에 가중치를 곱해 더하고, 임계로 켜고, 틀리면 조정하는 게 뉴런이 배우는 방법이에요.

신경망은 단순한 뉴런 여러 개를 층층이 쌓아 이은 거예요. 각 층은 앞 층의 출력을 입력으로 받아, 더 큰 특징을 잡아내요. 앞 층이 작은 조각을 보면 뒤 층은 그 조각을 모아 더 큰 모양을 보는 식이에요. 한 가지 꼭 필요한 게 있어요. 층과 층 사이에 신호를 휘게 하는 비선형 단계가 있어야 해요. 휘는 단계 없이 그냥 더하기만 반복하면, 아무리 층을 쌓아도 결국 직선 하나로 합쳐져서 한 층과 똑같아져요. 휘는 단계가 있어야 층을 쌓은 보람이 생겨서 곡선 같은 복잡한 경계도 배울 수 있어요. 정리하면, 뉴런을 층층이 쌓고 사이에 휘는 단계를 두면 복잡한 패턴을 배우는 게 신경망이에요.

역전파는 신경망이 틀렸을 때 그 틀림을 거꾸로 되짚어 고치는 방법이에요. 먼저 신호를 앞으로 흘려 예측을 내고, 정답과 비교해 얼마나 틀렸는지를 손실로 잽니다. 그다음이 핵심이에요. 그 손실을 출력에서 입력 쪽으로 거꾸로 흘려보내며, 각 가중치가 틀림에 얼마나 기여했는지 지분을 계산해요. 도미노를 거꾸로 따라가는 셈이죠. 마지막으로 그 지분만큼 각 가중치를 경사하강으로 조금씩 고쳐요. 책임이 큰 가중치는 많이, 작은 가중치는 조금 바꿔요. 이 앞으로 예측하고 거꾸로 되짚어 조정하는 과정을 수없이 되풀이하면, 망의 예측이 점점 정답에 가까워져요. 한마디로, 틀림을 거꾸로 되짚어 누구 책임인지 가려내고 그만큼 고치는 게 역전파예요.

과적합은 모델이 훈련 데이터를 외워버려서 새 데이터엔 약해지는 거예요. 점을 빠짐없이 다 지나는 구불구불한 곡선은 훈련 점수는 100점이지만, 새 점이 오면 엉뚱하게 빗나가요. 진짜 이해는 점 하나하나가 아니라 전체에 흐르는 일반적인 패턴을 잡는 거예요. 그래서 데이터를 셋으로 나눠요. 훈련 데이터로 배우고, 검증 데이터로 중간 점검을 하고, 테스트 데이터는 끝까지 숨겨뒀다가 마지막에 딱 한 번 봐요. 안 본 데이터에서 잘하는지가 진짜 실력이거든요. 모델은 너무 단순하면 패턴을 못 잡고(과소), 너무 복잡하면 외워버려요(과적합). 그 사이 딱 맞는 정도가 가장 잘 일반화해요. 정리하면, 외우지 말고 패턴을 잡게 하고, 안 본 데이터로 실력을 재는 게 핵심이에요.

AI의 실력은 모델만큼이나, 어쩌면 그 이상으로 데이터에 달려 있어요. 첫째, 쓰레기를 넣으면 쓰레기가 나와요. 라벨이 잘못됐거나 한쪽으로 치우친 데이터로 배우면, 기계는 그 잘못까지 그대로 따라 배워요. 둘째, 깨끗하고 균형 잡힌 좋은 재료를 주면 같은 기계도 제대로 배워요. 셋째, 문제에 맞는 특징을 골라야 해요. 집값을 맞히려면 면적이나 위치는 쓸모 있지만 대문 색깔은 도움이 안 돼요. 무관한 특징은 오히려 방해가 돼요. 넷째, 좋은 데이터는 많을수록 좋아요. 예시가 많아질수록 어쩌다 생긴 우연에 덜 휘둘리고 진짜 패턴을 잡아요. 정리하면, 깨끗하고 치우치지 않은 데이터를 문제에 맞는 특징으로, 넉넉하게 주는 것이 좋은 AI의 바탕이에요.

CNN은 이미지를 보는 신경망이에요. 먼저 사진은 사실 밝기 숫자가 빼곡한 격자예요. 밝으면 큰 수, 어두우면 작은 수죠. CNN은 작은 필터, 그러니까 돋보기 같은 작은 판을 이미지 위 한 칸에 대고, 그 자리에 찾는 특징이 있는지 점수를 매겨요. 같은 필터를 격자 위로 한 칸씩 훑으며 옮기면, 그 특징이 그림 어디에 있든 다 찾아내는 특징 지도가 만들어져요. 위치가 바뀌어도 같은 필터로 찾으니 끄떡없어요. 그리고 이런 층을 여러 겹 쌓으면, 앞 층은 작은 모서리를 잡고 그 위 층은 모서리를 모아 눈이나 코를, 더 위 층은 그것들을 모아 얼굴 전체를 알아봐요. 층을 올릴수록 점점 더 추상적인 특징을 잡는 거예요. 정리하면, 사진을 숫자 격자로 보고 작은 필터로 훑어 특징을 찾고 그 층을 쌓아 추상도를 올리는 게 CNN이에요.

임베딩은 단어를 의미 좌표로 바꾸는 거예요. 좌표는 그냥 숫자 묶음이라 컴퓨터가 다룰 수 있어요. 핵심 약속은 뜻이 비슷한 단어는 좌표상 가까이 두는 거예요. 그래서 왕과 여왕, 개와 고양이는 서로 가까이 모이고, 전혀 다른 단어는 멀리 떨어져요. 좌표라서 더하고 빼는 계산도 되는데, 그 계산이 신기하게 의미를 띠어요. 왕에서 남자를 빼고 여자를 더하면 여왕 근처에 도착하는 식이에요. 그리고 이 방법은 단어에만 쓰는 게 아니에요. 이미지, 음성, 사용자까지 같은 식으로 좌표로 바꿔서, 비슷한 건 가까이 두면 컴퓨터가 비슷함을 거리로 잴 수 있어요. 정리하면, 단어를 좌표로 바꾸고 비슷한 뜻을 가까이 모으는 게 임베딩이고, 이게 컴퓨터가 의미를 다루는 첫걸음이에요.

어텐션은 문장 안에서 지금 단어에 중요한 단어들에 더 집중하는 솜씨예요. 모든 단어를 똑같이 보는 게 아니라, 관련이 큰 단어에 더 큰 가중치를 줘요. 이 가중치들을 다 모으면 합이 1이 되도록 나눠 가져요. 그래서 같은 단어라도 주변이 바뀌면 해석이 달라져요. 'Apple' 옆에 'eat'을 두면 과일 쪽으로, 'stock'을 두면 회사 쪽으로 의미 좌표가 옮겨가요. 다의어의 뜻을 문맥이 정하는 게 바로 이 덕분이에요. 정리하면, 중요한 데 더 집중하고 그 집중을 가중치로 나눠서, 문맥으로 의미를 정하는 게 어텐션이에요.

LLM은 앞 문맥을 보고 다음 단어를 확률로 맞히는 기계예요. 다음에 올 만한 단어 후보마다 그럴듯한 정도를 확률로 매기고, 그중 높은 걸 골라요. 고른 단어를 문장 끝에 붙이고, 늘어난 문장으로 또 다음 단어를 맞혀요. 이 과정을 한 단어씩 되풀이해 긴 글을 만들어요. 앞 단어가 바뀌면 다음 단어 확률도 달라지는데, 앞 문맥을 골라 보는 이 능력이 바로 앞에서 배운 어텐션이에요. 그리고 엄청난 양의 글로 이 한 가지를 잘하도록 훈련하다 보니, 시키지 않은 능력까지 따라 나왔어요. 요약도 하고 번역도 하고 코딩도 하죠. 이렇게 저절로 생겨난 능력을 창발이라고 해요. 다만 기억해요. LLM은 진실을 아는 게 아니라 가장 그럴듯한 다음 단어를 고를 뿐이에요. 그래서 자신 있게 틀리기도 해요. 한계는 다음 강에서 다뤄요.

생성 AI는 배운 패턴으로 새로운 걸 만들어내는 AI예요. 외운 걸 그대로 복사하는 게 아니라, 수많은 예시에서 익힌 패턴으로 새 조합을 지어내요. 만들 수 있는 건 글만이 아니에요. 이미지, 음악, 영상도 만들 수 있어요. 그래서 생성 AI는 글을 쓰는 LLM보다 넓은 말이에요. 이미지를 만들 때는 흔히 자글자글한 노이즈에서 시작해요. 그 흐릿한 점들을 조금씩 다듬어 가면 점점 그림의 모양이 떠올라요. 그리고 사람이 지시를 줘요. 무엇을 만들지 말로 적어 주는 걸 프롬프트라고 해요. 같은 AI라도 프롬프트를 바꾸면 결과의 방향이 달라져요. 정리하면 생성 AI는 배운 패턴으로 새로 만들고, 글뿐 아니라 이미지나 음악도 만들며, 노이즈에서 다듬어 그림을 짓고, 프롬프트로 방향을 잡는 거예요.

AI는 강력하지만 완벽하지 않아요. 첫째, AI는 데이터로 배우니까 데이터가 한쪽으로 치우치면 AI의 결정도 치우쳐요. 이게 편향이에요. 둘째, AI는 확률로 그럴듯한 말을 이어 붙이는 거라, 모르는 걸 사실인 양 자신 있게 지어내기도 해요. 이게 환각이고, 그래서 최신 사실이나 출처를 늘 확인해야 해요. 셋째, 같은 기술이 이롭게도 해롭게도 쓰일 수 있어요. 도구 자체가 아니라 쓰는 방식이 좋고 나쁨을 가르죠. 그래서 책임 있는 AI가 필요해요. 사람이 결과를 확인하고, 어떻게 만들었는지 투명하게 밝히고, 모두에게 공정한지 살펴야 해요. 정리하면, 편향과 환각과 오남용이라는 한계를 알고, 사람이 확인하며 쓰는 게 책임 있는 AI예요.