CPU 속에 숨어있는 공짜 성능
혹시 '병렬 처리' 하면 GPU부터 떠올리시나요? 사실 우리가 매일 쓰는 CPU 안에도 강력한 병렬 처리 능력이 숨어 있거든요. HashiCorp 창업자이자 터미널 에뮬레이터 Ghostty를 만들고 있는 미첼 하시모토(Mitchell Hashimoto)가 '모든 개발자가 SIMD를 알아야 한다'는 글을 올렸는데요. 저수준 최적화가 소수 전문가의 영역처럼 여겨지는 요즘, 오히려 지금이야말로 SIMD를 배울 가치가 있다는 이야기라 소개해 드리려고 해요.
SIMD가 뭐냐면, Single Instruction Multiple Data의 약자예요. 말 그대로 '하나의 명령으로 여러 개의 데이터를 한꺼번에 처리한다'는 뜻이거든요. 비유하자면 이런 거예요. 계란 30개를 옮겨야 하는데 한 알씩 30번 왔다 갔다 하는 게 일반적인 CPU 연산이라면, SIMD는 계란판째로 한 번에 들고 가는 방식이에요. 같은 작업인데 왕복 횟수가 확 줄어드니까 당연히 빠를 수밖에 없죠.
어떻게 동작하는 건가요?
현대 CPU에는 일반 레지스터보다 훨씬 넓은 '벡터 레지스터'라는 게 들어 있어요. 인텔/AMD 계열이면 SSE(128비트), AVX2(256비트), AVX-512(512비트) 같은 이름을 들어보셨을 텐데요. 예를 들어 AVX2의 256비트 레지스터에는 32비트 float가 8개 들어가요. 그러니까 덧셈 명령 한 번에 float 8개가 동시에 더해지는 거예요. 애플 실리콘이나 스마트폰에 들어가는 ARM 칩에도 NEON이라는 128비트 SIMD가 기본으로 들어 있고요. 즉 여러분이 지금 쓰고 있는 그 컴퓨터에도 이미 이 하드웨어가 다 들어 있다는 거예요.
그럼 '컴파일러가 알아서 해주는 거 아니야?'라고 생각하실 수 있는데요, 반은 맞고 반은 틀려요. 컴파일러의 자동 벡터화(auto-vectorization) 기능이 단순한 반복문은 SIMD 명령으로 바꿔주긴 하는데, 분기문이 섞여 있거나 데이터 접근 패턴이 조금만 복잡해져도 포기해 버리는 경우가 많거든요. 그래서 정말 성능이 필요한 곳에서는 개발자가 직접 SIMD 코드를 쓰는데요. 예전에는 인트린식(intrinsic)이라는 CPU 아키텍처별 저수준 함수를 써야 해서 진입장벽이 높았지만, 요즘은 Zig의 @Vector나 Rust의 std::simd처럼 언어 차원에서 이식성 있는 벡터 타입을 제공해서 훨씬 쉬워졌어요. 한 번 작성하면 인텔 CPU에서도 ARM 맥에서도 각자의 SIMD 명령으로 컴파일되는 거죠. 미첼 본인도 Ghostty에서 터미널로 쏟아지는 대량의 텍스트를 파싱할 때 이런 벡터 연산으로 속도를 끌어올리고 있고요.
이미 우리 곁에 있는 SIMD
사실 여러분도 모르는 사이에 SIMD의 혜택을 보고 계세요. JSON 파싱 라이브러리 simdjson은 SIMD 덕분에 초당 기가바이트 단위로 JSON을 파싱하고요. 문자열에서 특정 문자를 찾는 memchr 같은 기본 함수들, 동영상 코덱, 이미지 처리, 암호화 라이브러리까지 성능이 중요한 곳에는 거의 다 SIMD가 들어가 있거든요. 파이썬의 NumPy가 순수 파이썬 반복문보다 수십 배 빠른 이유 중 하나도 내부적으로 SIMD를 활용하기 때문이에요. GPU가 없어도, 특별한 하드웨어를 사지 않아도, 이미 깔려 있는 능력이라는 게 핵심이에요.
한국 개발자에게는 어떤 의미일까요
당장 내일부터 인트린식을 쓰라는 얘기는 아니에요. 다만 두 가지는 기억해 두시면 좋겠어요. 첫째, 성능이 중요한 데이터 처리라면 SIMD 최적화가 된 라이브러리를 고르는 것만으로도 공짜 성능을 얻을 수 있어요. 둘째, 로그 파싱이나 인코딩 변환, 이미지 리사이징처럼 같은 연산을 대량의 데이터에 반복하는 '핫 루프'가 병목이라면, SIMD로 몇 배에서 수십 배까지 빨라질 여지가 있다는 걸 아는 것 자체가 무기가 되거든요. 서버 비용을 한 푼이라도 줄여야 하는 스타트업이라면 특히요. 요즘처럼 AI 추론 비용이 화두인 시대에는 CPU에서 짜낼 수 있는 성능의 가치가 오히려 더 커지고 있기도 하고요.
정리하면, SIMD는 GPU 없이도 CPU 안에서 공짜로 얻을 수 있는 병렬 처리 능력이고, 이제는 언어 차원의 지원 덕분에 예전만큼 어렵지도 않아요. 여러분의 코드에서 가장 뜨거운 반복문은 어디인가요? 그 루프를 SIMD로 바꾸면 몇 배나 빨라질지, 한번 상상해 보셨나요?
🔗 출처: Hacker News