현대 CPU의 성능은 더 이상 클럭 속도만으로 설명되지 않는다. 연산 유닛이 아무리 빨라도 메모리에서 데이터가 제때 도착하지 않으면 코어는 멈춰 선다. 이 간극을 메우는 장치가 프리페처(prefetcher), 즉 프로그램이 곧 필요로 할 데이터를 미리 끌어오는 하드웨어다. 문제는 인텔이 자사 P-코어에 들어간 프리페처의 동작 방식을 거의 공개하지 않는다는 점이다. 최근 공개된 한 분석은 인텔이 문서화하지 않은 '다음 페이지 프리페처(Next-Page Prefetcher, NPP)'를 스카이레이크-X(SKX)에서 성능 카운터로 직접 관측해 그 존재와 동작을 역설계한 기록이다.
문서의 공백, 10년의 미스터리
NPP의 존재가 공식 문서에 처음 등장한 것은 2012년 아이비브리지였다. 당시 인텔 최적화 매뉴얼은 "페이지 경계에 접근하는 순차 접근(위쪽 또는 아래쪽)에 의해 NPP가 트리거된다"고 짧게 언급했다. 그 뒤 비교적 최근인 레드우드 코브(2023년 말 메테오레이크 P-코어)에서는 NPP를 확장한 'LLC 페이지 프리페처'가 문서에 등장한다. 다음 페이지의 주소 변환을 미리 끌어오고 첫 몇 개의 캐시 라인까지 선반입한다는 설명이다. 그런데 2012년과 2023년 사이, 아이비브리지 이후 단종되고 스카이레이크가 등장하기까지의 세대에 대해서는 아무런 공식 언급이 없다. 그 중간 세대들도 NPP를 갖고 있었을까. 세부 동작은 세대마다 달라졌을 가능성이 크지만, 공개 정보만으로는 확인할 길이 없다. 저자는 무상으로 확보한 스카이레이크-X 장비를 활용해 이 공백을 실험으로 메우려 했다.
프리페처의 종류와 NPP의 특수성
프리페처에는 여러 종류가 있다. 다음 캐시 라인을 끌어오는 넥스트-라인 프리페처, 같은 명령어에서 비롯된 접근들의 보폭을 추적하는 스트라이드(IP 기반) 프리페처, 그리고 페이지 테이블 엔트리(PTE)를 TLB에 미리 채우는 NPP가 대표적이다. 여기서 NPP가 특별한 이유는 '페이지 경계를 넘나드는 것이 설계상 당연한' 유일한 부류라는 점이다. 넥스트-라인 프리페처 같은 빠른 프리페처들은 다음 라인이 다른 페이지에 걸치면 페이지 폴트나 페이지 워크 같은 복잡성을 피하려고 아예 프리페치를 포기하기도 한다. 반면 NPP는 다음 페이지의 PTE를 TLB에 올리는 것이 목적이므로 경계를 넘는 동작 자체가 본질이다.
1000개 페이지를 걸으며 확인한 실측
검증 방법은 간단하면서도 영리하다. 저자는 1000개의 4K 페이지를 순차적으로 모두 훑는 워크로드를 작성하되, 각 반복의 로드가 직전 반복의 결과에 의존하도록 루프 반송 의존성 체인을 걸었다. 로드들이 비순차 실행으로 뒤섞이면 측정이 왜곡되기 때문에, 의도적으로 한 번에 하나씩만 실행되도록 직렬화한 것이다. 리눅스에서 perf_event_open 시스템 콜로 PMU 카운터를 설정하고(perf_event_paranoid를 0이나 -1로 낮추고 THP를 끄며 스레드를 코어에 고정하는 준비가 필요하다), 두 이벤트를 측정했다. 결과는 DTLB_LOAD_MISSES.STLB_HIT가 여러 번 실행에서 50~75 사이를 오갈 뿐 75를 넘지 않았다. 1000개 페이지를 걸었는데 실제 미스는 약 70건에 불과했다는 뜻이다.
나머지 930건은 어디로 갔을까. 가능성은 두 가지다. PTE 요청이 아예 발생하지 않았거나, 발생했지만 수요 도착 시점에 이미 dTLB에 올라와 있었거나다. MEM_INST_RETIRED.STLB_MISS_LOADS가 1에 불과하다는 점이 첫 번째 가능성을 배제한다. 결국 약 930건의 PTE가 수요가 도착하기 전에 dTLB에 미리 채워져 있었다는 결론, 즉 NPP가 실제로 동작하며 dTLB를 선반입하고 있다는 증거가 남는다. 저자의 표현대로, 오리처럼 꽥꽥거린다면 그것은 다음 페이지 프리페처다.
실무자가 읽어야 할 의미와 한계
이 분석이 성능 튜닝 담당자나 저수준 엔지니어에게 주는 함의는 분명하다. 순차적이고 예측 가능한 메모리 접근 패턴은 TLB 미스를 극적으로 줄인다. SKX의 dTLB가 4K 페이지용으로 64엔트리(4-way)에 불과하고 통합 STLB도 1536엔트리 수준이라는 좁은 용량을 고려하면, NPP의 선반입 효과는 대규모 데이터를 선형으로 훑는 워크로드에서 실질적인 차이를 만든다. 반대로 접근 패턴을 무작위로 만들면 이 공짜 이득은 사라진다. 다만 한계도 명확히 짚어야 한다. 이번 관측은 NPP가 dTLB를 채운다는 사실까지만 보여줄 뿐, STLB까지 선반입하는지, iTLB에는 어떻게 작용하는지는 확인하지 않았다. 또한 어떤 로드가 정확히 프리페치를 촉발하는지—페이지의 특정 오프셋인지, 특정 로드 집합인지—는 아직 열린 질문으로, 저자는 페이지의 왼쪽 절반과 오른쪽 절반을 나눠 접근하는 후속 실험으로 범위를 좁혀갈 예정이다. 공식 문서가 침묵하는 영역을 카운터 하나로 들춰내는 이런 역설계 작업은, 결국 하드웨어 동작을 추측이 아니라 측정으로 이해하려는 태도가 왜 중요한지를 보여준다.