AI 워크로드는 더 이상 한 장소에서만 실행되지 않는다. 상위 프레임워크에서 시작된 작업이 네이티브 CPU 코드와 GPU에서 도는 커널 사이를 오가며 처리되는 일이 흔하다. 문제는 버그가 이 경계를 넘나들 때 발생한다. 개발자는 호스트 애플리케이션과 디바이스를 따로가 아니라 함께 들여다봐야 하는데, 이는 일반적인 프로세스에 디버거를 붙이는 것보다 훨씬 까다롭다. CPU와 GPU는 명령어 집합, 레지스터, 메모리 공간, 실행 모델이 서로 다를 수 있고, GPU는 호스트 프로세스 안의 런타임과 드라이버를 통해 제어되기 때문에 디바이스를 디버깅하려면 CPU와의 세심한 협조가 필요하다.
그동안 이 영역은 GPU 벤더가 각자 전용 디버거를 만들어 메워왔다. AMD의 ROCgdb, NVIDIA의 CUDA-GDB가 대표적이다. 이들은 각 플랫폼에 대한 깊은 지원을 제공하지만, 디버거가 공통으로 갖춰야 할 기능마저 벤더마다 따로 구현하고 유지보수해야 한다는 구조적 비용을 안고 있다. 메타(Meta)가 LLDB를 대상으로 접근 방식을 달리한 배경이 여기에 있다. 메타는 lldb-server 안에 벤더 중립적인 가속기(accelerator) 플러그인 아키텍처를 구축했다. 공유되는 디버거 인프라와 하드웨어별 디바이스 동작을 분리하는 것이 핵심이다. 참고로 메타의 설명에서 'GPU'는 실제 디바이스와 사례를 가리키고, '가속기'는 LLDB의 더 넓은 벤더 중립 추상화를 뜻한다.
하나의 프로세스 모델이라는 가정이 깨지는 지점
전통적인 디버거는 하나의 프로세스가 하나의 아키텍처를 가지며 스레드·레지스터·메모리에 대해 일관된 관점을 유지한다고 전제한다. GPU 프로그램은 이 전제를 거의 모두 무너뜨린다. 호스트 프로세스는 x86-64에서 돌지만 커널은 완전히 다른 명령어 집합을 쓸 수 있다. CPU 스레드는 익숙한 레지스터 컨텍스트를 갖는 반면 GPU는 여러 레인(lane)을 보조를 맞춰 동시에 실행한다. 호스트 포인터와 디바이스 포인터는 서로 다른 주소 공간을 가리킬 수 있고, GPU가 노출하는 수천 개의 실행 레인은 대부분의 디버거가 제시하는 스레드 모델에 깔끔하게 대응되지 않는다.
이 모든 상태를 하나의 인위적인 프로세스 모델에 억지로 욱여넣으면 디버거는 오히려 복잡해진다. 모든 연산이 먼저 그것이 CPU에 적용되는지 GPU에 적용되는지를 판별해야 하고, 레지스터 처리·메모리 읽기·브레이크포인트·스테핑·중단 이벤트가 전부 선택된 하드웨어에 따라 조건 분기된다. 더구나 단일 프로세스 모델은 CPU와 GPU를 하나의 통합 메모리 맵으로 묶도록 강제한다. 두 주소 공간이 독립적일 수 있는데도 말이다. 예컨대 0x1000이라는 동일한 주소가 CPU 프로세스와 GPU 프로세스에서 각각 다른 위치를 가리킬 수 있다. LLDB의 가속기 아키텍처는 이 차이를 숨기는 대신 명확한 경계로 드러낸다.
lldb-server에 플러그인 경계를 두다
LLDB는 lldb-server라는 동반 프로세스를 통해 프로그램을 실행하거나 붙고, 저수준 디버깅 연산을 수행한다. LLDB 클라이언트는 GDB 원격 프로토콜로 서버와 통신하며 메모리 읽기, 레지스터 조사, 실행 제어, 브레이크포인트 설정 같은 작업을 주고받는다. lldb-server가 이미 네이티브 프로세스를 제어하고 있으므로, 가속기 런타임과 협조하기에도 적절한 위치라는 판단이다. 새 플러그인 인터페이스는 하드웨어별 백엔드가 일반 CPU 디버거와 나란히 동작하도록 해준다. 이 백엔드는 벤더의 디바이스 디버깅 API를 LLDB가 이미 이해하는 개념들, 즉 프로세스·스레드·레지스터·메모리·모듈·중단 사유로 번역한다.
이 분리 덕분에 LLDB 클라이언트는 벤더 중립을 유지한다. 커맨드라인, 원격 프로토콜, 심벌 처리, IDE 통합에 대한 공통 개선은 모든 가속기에 그대로 혜택을 주고, 각 벤더는 자사 하드웨어와 드라이버 스택에 고유한 세부사항만 책임지면 된다. 아키텍처는 CPU와 가속기를 별개의 LLDB 타깃으로 표현한다. 각 타깃은 자체 아키텍처를 갖고 스레드·레지스터·주소 공간·실행 상태를 유지하는 디버거 프로세스와 연결된다. CPU는 기존의 네이티브 디버깅 경로를 그대로 쓰고, 가속기가 사용 가능해지면 플러그인이 두 번째 연결을 제공해 LLDB가 디바이스 타깃을 만든다. 디버거 입장에서 두 타깃은 기술적으로 독립이지만, 개발자에게는 하나의 LLDB 또는 IDE 세션으로 보인다. 또한 GPU 디버깅 지원은 대상 애플리케이션이 지원되는 GPU 런타임을 쓸 때만 활성화되며, CPU 전용 애플리케이션은 런타임 연산 부담 없이 기존 경로를 따른다.
실무자가 주목할 지점과 남은 과제
이 설계에서 눈여겨볼 대목은 플러그인 경계를 특정 GPU 플랫폼의 개념이 아니라 디버거 연산 자체에 두었다는 점이다. 플러그인은 CPU 브레이크포인트를 요청하고, 연결 정보를 제공하며, 디바이스 모듈을 보고하고, 호스트와 디바이스 실행을 동기화하는 구조적 동작을 수행한다. 덕분에 명령어 집합, 런타임 API, 실행 모델이 크게 다른 디바이스에도 두루 쓸 수 있다. 메타는 특수 하드웨어 없이도 이 흐름을 검증하는 모의(mock) 가속기 플러그인을 만들어 LLVM 테스트 스위트가 디스커버리, 브레이크포인트 협조, 연결 생성, 기본 디바이스 상태를 특정 GPU와 무관하게 확인할 수 있게 했다. 프레임워크는 라이브 세션뿐 아니라 사후(postmortem) GPU 디버깅, 즉 코어 덤프 분석도 지원한다.
메타는 여러 하드웨어·소프트웨어 스택이 섞인 이기종 GPU 플릿을 운영하고 있는데, 이 작업들이 모두 같은 모델을 쓴다는 사실 자체가 설계의 타당성을 뒷받침한다고 본다. 공통 LLDB 계층은 안정적으로 유지되는 한편 각 백엔드는 자기 디바이스를 정확히 표현할 수 있다는 것이다. 현재 공통 프레임워크의 대부분, 즉 lldb-server 플러그인 인터페이스, 플러그인 디스커버리·초기화·런타임 이벤트 협조·GPU 연결 생성을 위한 GDB 원격 패킷, CPU와 GPU 디버거 프로세스를 연결하되 아키텍처 독립성을 보존하는 지원, 다중 주소 공간 지원, 하드웨어 독립적 모의 테스트가 LLVM에 업스트림됐다. 다만 공개된 설명은 아키텍처의 설계와 업스트림 현황에 초점이 맞춰져 있고, 구체적인 성능 수치나 상용 벤더 통합의 완성 시점은 제시하지 않는다. 한국의 GPU·AI 인프라 실무자라면 '새 하드웨어를 LLDB에 붙일 때 별도 디버거가 아니라 벤더 플러그인만 만들면 된다'는 목표가 실제 벤더 구현으로 얼마나 채워지는지를 따라가며 판단하는 편이 현실적이다.