오차는 걸음 크기가 정한다
이 묶음의 모든 방법은 한 가지 약속으로 묶인다. 오차는 대략 C 곱하기 h의 p제곱, 곧 error≈C·hᵖ 라는 것이다. 여기서 p 는 그 방법의 차수예요. 오일러는 1차, RK2 는 2차, RK4 와 심프슨은 4차다. 이게 왜 중요할까. 로그-로그 평면에 오차와 걸음 h 를 찍으면 직선이 되고, 그 기울기가 바로 차수 p 다. 차수=기울기. 그래서 걸음을 절반으로 줄이면 p차 오차는 2의 p제곱배로 줄어요. 4차 방법이라면 무려 16배다. 그럼 h 를 끝없이 줄이면 될까. 아니다. 너무 작아지면 반올림 오차가 바닥에서 솟구치고, 명시적 방법은 안정성 한계를 넘으면 폭발한다. 게다가 걸음 수는 1/h 에 비례해 늘어 계산 비용이 치솟아요. 결국 정확도와 비용 사이 균형점을 찾는 것, 그게 수치해석의 진짜 기술이다.
가로축은 log h, 세로축은 log(오차)다. error=C·hᵖ 의 양변에 로그를 씌우면 직선이 되고, 그 기울기가 정확히 차수 p 예요. 세 직선은 각각 1차와 2차와 4차다. 세그먼트로 한 차수를 골라 강조하고 h 슬라이더로 직선 위 점을 움직일 수 있다. 같은 만큼 h 를 줄여도 4차선의 점이 훨씬 가파르게 내려가요. 차수가 높을수록 같은 노력으로 오차가 훨씬 빨리 떨어진다는 뜻이다. 이 한 장이 묶음 전체의 지도예요.
차수 논리만 보면 h 를 0 으로 보내면 오차도 0 이 될 것 같다. 현실은 다르다. 전체 오차는 절단오차 C·h² 에 반올림 오차 ε/h 가 더해진 것이에요. h 를 줄이면 첫째 항은 내려가지만 둘째 항은 올라간다. 그래서 곡선이 U 자 골을 그린다. h 슬라이더를 골 왼쪽 끝까지 끌면 점이 빨갛게 변하며 반올림 바닥에 부딪혀 오차가 도로 커져요. 무한히 정밀한 건 없다. 골 바닥이 그 기계가 낼 수 있는 최선이다.
정확도만 벽이 아니다. 감쇠식 y'=−ky 에 k=5 를 쓰고 명시적 오일러로 푼다. 위쪽 띠가 걸음 축이다. 초록 구역은 안정에 정확이고, 빨강 구역은 불안정이에요. 경계는 h = 2/k = 0.4 다. 슬라이더 점을 초록 안에서 움직이면 작을수록 참해에 붙는다. 하지만 0.4 를 넘겨 빨강으로 가면 정확도와 상관없이 수치해가 부호를 튀기며 폭발해요. 작은 걸음은 정밀함만이 아니라 발산을 막는 안전선이기도 하다.
이제 네 방법을 한 평면에 모아 비교한다. Euler(1차)와 RK2(2차), RK4(4차), 심프슨(4차)의 오차 직선이 함께 그려져요. 세그먼트로 방법을 고르면 그 직선이 강조되고, h 슬라이더가 모든 직선 위 점을 동시에 옮긴다. 큰 h 에서는 차이가 작지만 h 를 줄일수록 고차 방법이 압도적으로 정확해져요. 같은 4차라도 심프슨 직선이 RK4 보다 살짝 아래인 건 계수 C 가 작기 때문이다. 차수가 기울기를, 계수가 높이를 정한다.
마지막은 실전의 줄다리기다. 두 막대가 보인다. 오차 = C·h² 는 h 를 줄이면 작아지고, 비용 = 걸음 수 ∝ 1/h 는 h 를 줄이면 커져요. 아래 곡선은 둘의 가중합인 총손해다. h 슬라이더를 끝까지 양쪽으로 끌면 한쪽 끝은 오차 과다, 반대쪽 끝은 비용 과다이고, 가운데 어딘가에 스위트 스팟이 있다. 점이 초록으로 변하는 그 지점이 정밀함과 비용을 함께 만족시키는 최선의 걸음이에요. 이게 묶음 전체가 가리키던 결론이다.