지연을 줄이면 더 나빠진다: 시스템 사고가 알려주는 반직관적 교훈

휴가 기간에 도넬라 메도스의 고전 『Thinking in Systems』를 완독한 개발자 마르틴 야니첵이 자신의 블로그에 이 책에서 가장 인상 깊었던 장(章)을 정리했다. 주제는 '지연(delay)'이다. 그는 책을 읽으며 Elm으로 몬테카를로 시뮬레이터를 직접 만들어 예제를 재현했고, 그 과정에서 지연이 시스템에 미치는 영향이 우리의 직관과 정반대로 작동한다는 사실을 확인했다.

책이 소개하는 시스템 사고의 언어는 소스와 싱크(source/sink), 저량과 유량(stock/flow), 그리고 피드백 루프다. 이는 수학적으로는 미분방정식 모델에 대응하지만, 책은 수식 자체보다 시스템이 아래에서 위로 어떻게 창발하는지를 시각적으로 설명하는 데 집중한다. 저자가 든 예제는 자동차 대리점 관리자다. 그는 주차장의 재고를 하루 판매량의 10배로 유지하려 하고, 수요가 늘면 그 격차를 메우기 위해 추가 주문을 넣는다.

두 개의 지연이 만드는 진동

이상적인 세계라면 지연은 없다. 하루가 끝날 때 30대가 팔린 것을 즉시 확인하고, 즉시 30대를 주문하고, 다음 날 아침 곧바로 도착한다. 이 무지연 모델에서도 문제는 있다. 수요의 무작위 급등(하루 70대 같은 스파이크)에 과잉 반응해 팔리지도 않을 차를 너무 많이 사들이는 것이다. 게다가 현실에서는 주문 처리와 차량 인도에 시간이 걸린다. 이것이 '배송 지연'이다.

반면 모든 지연이 나쁜 것만은 아니다. 급등에 과민 반응하지 않으려고 관리자가 격차의 절반이나 3분의 1만 주문하도록 만들 수도 있다. 다음 날 수요가 정상으로 돌아오면 파도를 부드럽게 넘길 수 있기 때문이다. 이렇게 반응 속도를 일부러 늦추는 나눗셈 계수를 저자는 '반응 지연'이라 부른다. 문제는 이 두 지연을 함께 넣고 모델을 돌리자 시스템이 진동하기 시작했다는 점이다. 이후 수요가 일정하게 유지돼도 재고는 결코 안정되지 않았다.

관리자는 첫 주문이 도착하기도 전에 매일 점점 더 많은 차를 주문하다가, 주문이 한꺼번에 도착하면 재고가 넘쳐 주문을 멈추고, 재고가 다시 이상치 아래로 떨어지면 같은 사이클을 반복한다. 저자는 이 진동이 수학적으로 왜 필연적인지는 더 전문적인 책에서 설명하겠지만, 우선은 지연이 진동을 낳는다는 사실만 받아들이자고 말한다.

지연을 줄이면 오히려 악화된다

여기서 자연스러운 결론은 '지연을 최소화하자'일 것이다. 피드백 루프를 짧게 만들면 되지 않겠는가. 그러나 반응 지연을 줄여 더 빠르게 대응하도록 만들자 상황은 오히려 나빠졌다. 재고는 132에서 518 사이를 오갔고(목표는 220 부근), 스파이크 이후에는 한때 1,160대를 세워둬야 했다. 무지연 시나리오보다도 더 나쁜 결과였다.

반대로 더 인내심 있는 관리자를 시뮬레이션하자 결과가 뒤집혔다. 반응 지연 계수를 6으로 키워, 30대의 격차를 봐도 10대나 15대가 아니라 5대만 주문하게 하니 진동이 잦아들며 안정됐다. 지연은 직관적으로 줄여야 할 대상처럼 보이지만, 여기서는 지연을 짧게 하면 나빠지고 길게 늘리자 더 예측 가능하고 덜 낭비적인 시스템이 됐다. 물론 이것이 '지연은 무조건 길수록 좋다'는 규칙은 아니다. 저자 역시 책 후반부에서 짧은 피드백 루프의 가치를 함께 언급하며, 맹목적으로 적용할 정답은 없다고 못 박는다.

소프트웨어 실무자에게 이 우화는 낯설지 않다. 오토스케일링의 쿨다운 없이 매 순간 인스턴스를 조정하면 트래픽 스파이크에 시스템이 톱니처럼 요동친다. 재고 발주, 캐시 워밍, 서킷 브레이커의 반열림 복구, 알림 억제(디바운싱)까지, 결국 '측정과 반영 사이의 시간차'와 '한 번에 얼마나 반응할지'라는 두 계수가 얽혀 안정성을 좌우한다. 응답 시간만 좁히려는 튜닝이 오히려 진폭을 키우는 장면은 운영 현장에서 흔하다.

야니첵이 인용하는 메도스의 경고가 핵심을 찌른다. 많은 관리자와 리더는 연구자가 건넨 레버를 붙잡고 잘못된 방향으로 전속력으로 당긴다는 것이다. 어느 쪽이 옳은지 안다고 확신하기 전에, 시스템이 양방향에서 어떻게 움직이는지 먼저 모델을 만들어 확인하고 직관이 아니라 데이터에 근거해 행동하라는 조언이다. 다만 이 글은 단일 대리점 예제와 특정 파라미터에 기반한 정성적 관찰이라는 점, 진동의 수학적 조건까지 규명하지는 못했다는 점은 함께 염두에 둘 필요가 있다. 저자가 공개한 토이 시뮬레이터를 직접 돌려보며 자신의 시스템에 대입해보는 것이 이 글의 진짜 권유다.