오차는 걸음 크기가 정한다
이 묶음의 방법은 한 가지 약속으로 묶인다. 오차는 대략 C 곱하기 걸음의 p제곱, 곧 error≈C·hᵖ 이다. 여기서 p 는 그 방법의 차수예요. 오일러는 1차, RK2 는 2차, RK4 와 심프슨은 4차다. 로그와 로그를 축으로 오차와 걸음 h 를 찍으면 직선이 되고, 그 기울기가 차수 p 다. 차수=기울기. 걸음을 절반으로 줄이면 p차 오차는 2의 p제곱배로 줄어요. 4차 방법이라면 16배다. h 를 끝없이 줄인다고 끝이 아니다. 너무 작아지면 반올림 오차가 바닥에서 솟고, 명시적 방법은 안정의 한계를 넘으면 폭발한다. 걸음 수는 1/h 에 비례해 늘어 계산 비용이 커져요. 정확도와 비용 사이의 균형이 수치해석이 실제로 고르는 자리다. 첫 그림의 직선이 그 차수를 기울기로 보여 준다.
가로축은 log h, 세로축은 log(오차)다. error=C·hᵖ 의 양변에 로그를 씌우면 직선이 되고, 그 기울기가 정확히 차수 p 예요. 세 직선은 파란 1차, 주황 2차, 초록 4차다. 버튼으로 한 차수를 골라 강조하고, h 슬라이더로 직선 위의 점을 옮긴다. 같은 만큼 h 를 줄여도 4차 선의 점이 훨씬 가파르게 내려가요. 차수가 높을수록 같은 노력으로 오차가 더 빨리 떨어진다. 이 한 장이 묶음 전체의 지도예요.
차수만 보면 h 를 0 으로 보내면 오차도 0 이 될 것 같다. 현실은 다르다. 전체 오차는 절단오차 C·h² 에 반올림 오차 ε/h 가 더해진 것이에요. h 를 줄이면 첫째 항은 내려가고 둘째 항은 올라간다. 그래서 곡선이 U 자 골을 그린다. h 슬라이더를 골의 왼쪽 끝까지 끌면 점이 빨강으로 바뀌며 반올림 바닥에 부딪혀 오차가 다시 커져요. 무한히 정밀한 계산은 없다. 골의 바닥이 그 기계가 낼 수 있는 최선이다.
정확도만 벽은 아니다. 감쇠식 y'=−ky 에 k=5 를 넣고 명시적 오일러로 푼다. 위쪽 띠가 걸음의 축이다. 초록 구역은 안정하면서 정확하고, 빨강 구역은 불안정이에요. 경계는 h = 2/k = 0.4 다. 슬라이더의 점을 초록 안에서 움직이면 작을수록 참해에 붙는다. 0.4 를 넘겨 빨강으로 가면 정확도와 상관없이 수치해가 부호를 튀기며 폭발해요. 작은 걸음은 정밀함만이 아니라 발산을 막는 선이기도 하다.
네 방법을 한 평면에 모은다. Euler(1차)와 RK2(2차), RK4(4차), 심프슨(4차)의 오차 직선이 함께 그려져요. 버튼으로 방법을 고르면 그 직선이 강조되고, h 슬라이더가 모든 직선 위의 점을 함께 옮긴다. 큰 h 에서는 차이가 작지만 h 를 줄일수록 높은 차수의 방법이 더 정확해져요. 같은 4차라도 심프슨 직선이 RK4 보다 살짝 아래인 것은 계수 C 가 작기 때문이다. 차수가 기울기를 정하고, 계수가 높이를 정한다.
마지막은 실전의 줄다리기다. 두 막대가 보인다. 오차 = C·h² 는 h 를 줄이면 작아지고, 비용 = 걸음 수 ∝ 1/h 는 h 를 줄이면 커져요. 아래 곡선은 둘을 더한 총손해다. h 슬라이더를 양끝으로 끌면 한쪽은 오차가 너무 크고, 반대쪽은 비용이 너무 크다. 가운데 어딘가에 가장 나은 자리가 있다. 점이 초록으로 바뀌는 그 지점이 정밀함과 비용을 함께 만족시키는 걸음이에요. 양끝의 점은 주황으로 남는다. 묶음 전체가 가리키던 결론이 이 자리다. 주황은 어느 한쪽으로 치우친 걸음이다.