Intel의 BOT(바이너리 최적화 기술), Geekbench 성능을 얼마나 바꿔놓을까

Intel이 소프트웨어로 CPU 성능을 끌어올리려 한다

CPU 성능을 높이는 방법 하면 보통 뭐가 떠오르시나요? 공정을 미세화하거나, 코어 수를 늘리거나, 클럭 속도를 올리는 것 같은 하드웨어적인 방법이 먼저 생각나죠. 그런데 Intel이 최근에 좀 다른 접근을 하고 있어요. BOT(Binary Optimization Technology)라는 기술인데요, 쉽게 말하면 이미 컴파일된 프로그램의 바이너리를 분석해서, 실행 성능이 더 좋아지도록 자동으로 재배치해주는 기술이에요.

이번에 벤치마크 프로그램으로 유명한 Geekbench가 자사 블로그에서 BOT가 Geekbench 6 점수에 어떤 영향을 미치는지 분석한 결과를 공개했어요. 벤치마크 도구를 만드는 회사가 직접 특정 최적화 기술의 영향을 분석했다는 점에서, 상당히 객관적이고 의미 있는 데이터라고 볼 수 있죠.

BOT가 뭐고, 어떻게 동작하나

이 기술의 핵심 개념을 좀 풀어볼게요. 우리가 코드를 작성하고 컴파일하면 바이너리 파일이 만들어지잖아요. 이 바이너리 안에는 함수들, 데이터, 분기문 같은 것들이 컴파일러가 정한 순서대로 배치되어 있어요. 그런데 이 배치 순서가 항상 CPU 입장에서 최적인 건 아니거든요.

이게 왜 중요하냐면, 현대 CPU는 캐시(Cache)라는 작은 고속 메모리를 갖고 있는데, 자주 실행되는 코드가 캐시에 잘 들어가 있으면 훨씬 빠르게 동작해요. 반대로 자주 쓰는 코드가 메모리 여기저기 흩어져 있으면 캐시 미스가 나면서 느려지죠. 집에서 자주 쓰는 물건을 책상 위에 놓으면 바로 쓸 수 있는 것처럼, 자주 실행되는 코드를 메모리에서 가까이 모아두면 CPU가 더 효율적으로 동작하는 원리예요.

BOT는 프로그램이 실제로 실행되는 패턴을 프로파일링(관찰)한 다음, 자주 실행되는 코드 경로(hot path)를 가까이 모아놓고, 거의 안 쓰이는 코드(cold path)는 따로 빼두는 식으로 바이너리를 재배치해요. 이걸 전문 용어로 PGO(Profile-Guided Optimization)라고 하는데, BOT는 이걸 이미 컴파일된 바이너리 수준에서, 소스 코드 수정 없이 해주는 거예요. 개발자가 아무것도 안 해도 기존 프로그램이 더 빨라질 수 있다는 점이 핵심이죠.

Geekbench의 분석 결과는?

Geekbench 팀은 BOT가 적용됐을 때 벤치마크 점수가 어떻게 변하는지 세밀하게 살펴봤어요. 결과를 보면 흥미로운 점이 몇 가지 있는데요.

일단 모든 테스트 항목이 균일하게 빨라지는 건 아니에요. BOT의 효과는 워크로드의 성격에 따라 크게 다르게 나타나거든요. 코드 분기가 많고 실행 경로가 복잡한 테스트에서는 BOT의 코드 재배치 효과가 확실히 드러나지만, 단순 연산을 반복하는 테스트에서는 효과가 미미해요. 이건 당연한 게, 단순 루프는 어차피 캐시에 잘 들어가니까 재배치를 해도 차이가 크지 않은 거예요.

Geekbench 입장에서 이런 분석을 하는 이유도 중요한데요, 벤치마크는 하드웨어의 실제 성능을 측정하는 게 목적이잖아요. 그런데 BOT 같은 소프트웨어 최적화가 점수를 바꿔놓으면, "이 CPU가 진짜 빠른 건지, 아니면 소프트웨어 최적화 덕분에 점수만 높은 건지" 구분이 어려워지거든요. 그래서 Geekbench는 이런 최적화의 영향을 투명하게 공개하고, 벤치마크 결과를 해석할 때 참고하라는 취지로 이 분석을 내놓은 거예요.

업계에서 BOT의 위치

바이너리 수준의 최적화는 사실 완전히 새로운 개념은 아니에요. Facebook(현 Meta)이 개발한 BOLT(Binary Optimization and Layout Tool)라는 오픈소스 도구가 이미 있었고, 구글도 자체적으로 비슷한 기술을 내부에서 쓰고 있거든요. BOLT는 LLVM 프로젝트에 통합되어 있어서, 리눅스 환경에서 누구나 사용할 수 있어요.

Intel의 BOT가 차별화되는 점은 이걸 Intel CPU에 특화해서, 운영체제 수준에서 자동으로 적용하려 한다는 거예요. 사용자가 별도로 도구를 돌리지 않아도, Intel 플랫폼에서 실행되는 프로그램들이 자동으로 최적화되는 방향을 목표로 하고 있는 거죠.

AMD도 비슷한 방향의 최적화를 탐구하고 있고, ARM 진영에서도 바이너리 최적화에 대한 관심이 커지고 있어서, 이건 업계 전체적으로 "하드웨어 개선만으로는 성능 향상에 한계가 있다"는 인식이 퍼지고 있다는 신호이기도 해요.

한국 개발자에게 주는 시사점

서버 사이드 개발을 하시는 분들이라면 이 기술에 주목할 만해요. 대규모 트래픽을 처리하는 서버에서 바이너리 최적화 한 번으로 5~10%의 성능 향상을 얻을 수 있다면, 이건 서버 비용 절감으로 직결되거든요. 특히 클라우드 인프라 비용이 큰 비중을 차지하는 한국 스타트업 환경에서는 무시할 수 없는 차이예요.

또 하나 생각해볼 점은, 이 기술이 벤치마크의 신뢰성 문제와도 연결된다는 거예요. 하드웨어 구매를 결정할 때 벤치마크 점수를 참고하는 경우가 많은데, BOT 같은 소프트웨어 최적화가 적용된 점수와 그렇지 않은 점수를 구분해서 봐야 한다는 인식이 필요해요. 서버 하드웨어를 선정하거나 클라우드 인스턴스를 비교할 때, "이 성능이 하드웨어의 능력인지, 소프트웨어 최적화가 포함된 수치인지" 따져보는 습관을 들이면 좋겠죠.

성능 최적화에 관심 있는 개발자라면, BOLT 같은 오픈소스 도구를 직접 써보는 것도 추천해요. 자기가 만든 프로그램에 PGO와 바이너리 최적화를 적용해보면, 코드 변경 없이 성능이 얼마나 달라지는지 체감할 수 있거든요.

정리하면

하드웨어 성능 향상이 둔화되는 시대에, 소프트웨어 수준의 바이너리 최적화가 점점 중요해지고 있어요. Intel의 BOT는 그 흐름의 한 축이고, 벤치마크 해석부터 실무 서버 최적화까지 영향을 미칠 수 있는 기술이에요.

여러분의 서비스에서 코드 변경 없이 성능을 끌어올릴 수 있다면, 한번 시도해보고 싶으신가요? PGO나 바이너리 최적화를 실무에 적용해본 경험이 있다면 공유해주세요.