무슨 일이 있었나요
GitHub에 ‘Relapse’라는 PS5 익스플로잇 저장소가 올라왔어요. 익스플로잇(exploit)은 소프트웨어 버그를 일부러 건드려서 원래는 허용되지 않는 동작을 하게 만드는 코드예요. 콘솔 쪽에서는 이게 소니가 잠가둔 영역을 여는 이른바 탈옥(jailbreak)의 첫걸음이 되고요.
이름도 눈에 띄어요. Relapse는 ‘재발’이라는 뜻이거든요. PS4/PS5 커뮤니티에는 예전에 ‘Lapse’라는 커널 익스플로잇이 있었기 때문에, 그 계보를 잇거나 비슷한 계열의 버그가 다시 나왔다는 뜻으로 읽혀요. 다만 어떤 취약점을 쓰는지, 어느 펌웨어 버전까지 되는지는 저장소의 README와 코드를 직접 확인하시는 게 가장 정확해요. 이 글에서는 이런 익스플로잇이 왜 계속 나오고, 대략 어떤 구조로 동작하는지를 정리해볼게요.
PS5 보안은 양파처럼 겹겹이 쌓여 있어요
PS5는 AMD Zen 2 기반 커스텀 칩 위에서 FreeBSD를 뿌리로 한 운영체제를 돌려요. 보안은 양파 껍질처럼 여러 겹으로 되어 있어요.
- 유저랜드(userland): 게임이나 브라우저 같은 일반 앱이 돌아가는 곳이에요. 권한이 가장 낮아요.
- 커널(kernel): 운영체제의 핵심이에요. 메모리와 하드웨어를 전부 관리해요.
- 하이퍼바이저(hypervisor): 커널보다 한 단계 위에서 커널을 감시해요. 커널 코드 영역을 몰래 고치지 못하게 막는 경비원이라고 보면 돼요.
- 보안 프로세서: 암호화 키와 복호화처럼 제일 민감한 일을 따로 떨어진 칩에서 처리해요.
커널 익스플로잇에서 자주 나오는 버그 유형이 use-after-free예요. 이게 뭐냐면, 이미 반납한 사물함 열쇠를 누가 몰래 복사해 뒀다고 생각해보세요. 그 사물함이 다른 사람에게 다시 배정되면 복사한 열쇠로 남의 물건을 넣고 뺄 수 있잖아요. 메모리도 똑같아요. 해제된 메모리를 계속 가리키는 포인터가 남아 있으면, 공격자는 그 자리에 자기가 원하는 데이터를 채워서 커널을 속일 수 있어요. 여기에 두 작업이 거의 동시에 실행될 때 생기는 틈을 파고드는 경쟁 조건(race condition)이 겹치는 경우도 많아요.
왜 FreeBSD 기반이라는 게 중요할까요
PS5 OS가 FreeBSD를 바탕으로 만들어졌다는 건 공격자에게 꽤 큰 힌트예요. FreeBSD에서 커널 버그가 발견되어 보안 권고와 패치가 공개되면, 연구자들은 패치 전후를 비교(patch diffing)해서 무엇이 고쳐졌는지 알아내요. 그다음 콘솔에도 같은 버그가 남아 있는지 확인하죠. 실제로 FreeBSD의 umtx 관련 취약점이 PS4/PS5 커널 익스플로잇으로 이어진 사례도 있었어요. 오픈소스를 가져다 쓰는 제품이라면 upstream 패치를 얼마나 빨리 반영하느냐가 곧 보안 수준이 된다는 교훈이에요.
다른 콘솔과 비교해보면
닌텐도 스위치 초기 모델은 Tegra X1 칩의 부트롬(BootROM) 하드웨어 버그 때문에 뚫렸어요. 칩에 새겨진 버그라서 소프트웨어 업데이트로는 고칠 수가 없었고요. 반면 PS5 익스플로잇은 대부분 소프트웨어 버그라서 소니가 펌웨어 업데이트로 막을 수 있어요. 그래서 탈옥 커뮤니티에는 ‘업데이트하지 말고 기다려라’라는 문화가 있어요.
Xbox는 공식 개발자 모드를 열어줘서 홈브루를 하려는 사람들이 굳이 탈옥할 이유를 줄였어요. 소니는 HackerOne에서 버그 바운티 프로그램을 운영하면서, 치명적인 PS5 취약점에는 수만 달러 단위의 포상금을 걸고 있어요. 같은 버그가 공개 익스플로잇이 될지, 조용한 제보가 될지는 결국 연구자의 선택에 달려 있는 셈이에요.
한국 개발자에게 주는 시사점
보안 공부에 아주 좋은 교재예요. 실제 상용 기기를 대상으로 한 커널 익스플로잇 코드를 읽을 기회는 많지 않거든요. 힙 스프레이(heap spray), 레이스 컨디션을 이기는 기법, 권한 상승 흐름을 코드로 직접 따라가 보면 CTF 포너블(pwnable) 문제와 실전이 어떻게 이어지는지 감이 와요.
게임 개발자라면 ‘클라이언트는 결국 뚫린다’는 전제로 설계해야 해요. 콘솔처럼 폐쇄적인 플랫폼도 이렇게 열리는데 PC나 모바일은 말할 것도 없죠. 재화, 판정, 랭킹처럼 중요한 로직은 서버가 최종 결정권을 갖는 서버 권위(server-authoritative) 구조가 기본이에요.
법적인 선은 분명히 지켜야 해요. 국내 저작권법은 기술적 보호조치를 무력화하는 행위를 금지하고 있어요. 불법 복제 게임 실행은 명백한 불법이고, 탈옥한 기기로 온라인에 접속하면 계정이 정지될 수도 있어요. 연구와 학습은 자기 기기에서, 공개된 코드를 읽는 범위에서 하는 게 좋아요.
마무리
한 줄 정리: 보안을 여러 겹으로 쌓아도 버그 하나에서 체인이 시작되고, 오픈소스 기반 제품은 upstream 패치 속도가 곧 방어선이에요.
여러분은 콘솔 탈옥 연구를 보안 연구의 한 분야로 보시나요, 아니면 불법 복제를 돕는 회색지대로 보시나요? 버그 바운티와 공개 익스플로잇 사이에서 연구자는 어떤 선택을 해야 한다고 생각하시는지 의견 나눠주세요.
🔗 출처: Hacker News