Ruby로 작성된 웹 애플리케이션을 운영한다면 지금 확인해야 할 취약점이 하나 공개됐다. 보안 연구진이 'Ruby2Shell'이라 이름 붙이고 GHSA-34m4-m9fh-gqp5로 등록된 이 결함은 Ruby의 문자열 대소문자 변환 과정에서 발생하는 1바이트 힙 오버플로다. 원제가 'stock Rails에 대한 인증 전 RCE'를 내세운 데서 드러나듯, 특별한 설정을 하지 않은 기본 구성의 Ruby 웹 프레임워크와 자체 호스팅 소프트웨어에서 인증 절차를 거치지 않고도 도달할 수 있다는 점이 핵심이다.
독일어 소문자 ß가 부른 경계 검사 실패
문제의 뿌리는 의외로 단순한 문자 하나에 있다. Ruby가 지원하는 대부분의 단일 바이트(single-byte) 인코딩에는 대문자 ß가 존재하지 않는다. 그래서 독일어 소문자 ß를 대문자로 바꾸면 결과는 두 글자, 즉 'SS'가 된다. 입력 한 글자가 출력에서 두 바이트로 늘어나는 셈이다. 그런데 변환을 수행하는 내부 루프는 출력 버퍼의 끝(to < to_end)을 한 번만 검사한다. 두 바이트를 쓰면서 경계는 한 바이트 기준으로만 확인하니, 두 번째 바이트가 버퍼 밖으로 삐져나갈 여지가 생긴다.
출력 버퍼는 입력 길이에 20바이트를 더한 크기로 할당된다. ß 하나가 출력에 1바이트씩을 추가하므로, ß를 21개 담은 입력을 넣으면 확보된 여유 20바이트를 넘어서 버퍼를 정확히 1바이트 초과 기록하게 된다. 공격자는 입력 길이를 조절해 버퍼 크기 자체를 통제할 수 있어, 오버플로가 일어나는 지점을 의도적으로 맞출 수 있다.
오래 묵은 코드, 넓은 영향 범위
이 결함이 특히 까다로운 이유는 코드의 역사와 범위에 있다. 동일한 루프는 여러 ISO-8859 계열과 Windows-125x 계열 인코딩에 걸쳐 들어 있고, Ruby 2.4.0부터 지금까지 남아 있었다. 호출 경로도 하나가 아니다. upcase는 물론 swapcase, downcase(:fold), 그리고 casecmp?를 통해서도 이 루프에 도달한다. 기록되는 바이트는 대문자화할 때 S(0x53), 케이스 폴딩(case-fold)할 때 s(0x73)이며, 이 값이 출력 버퍼 바로 뒤에 쓰인다. 이후 버퍼에서 결과를 복사해 꺼내는 과정에서는 경계 밖 1바이트를 읽는 동작까지 추가로 발생한다.
다행히 모든 문자열이 위험한 것은 아니다. UTF-8 문자열은 완전히 다른 코드 경로를 타기 때문에 이 취약점의 영향을 받지 않는다. 문제는 레거시 인코딩으로 들어온 문자열을 대문자로 변환하는 경우에 국한된다. 그러나 외부에서 받은 입력을 별 생각 없이 upcase하는 코드는 현장에 드물지 않고, 바로 그 지점이 공격 표면이 된다.
프레임워크 기본값과 번들된 Ruby가 관건
연구진은 일부 프레임워크가 기본 설정 상태에서 이 버그에 도달 가능하다고 밝혔다. 기본적으로 노출되지 않는 프레임워크라도, 레거시 인코딩으로 수신한 문자열을 애플리케이션 코드가 직접 대문자로 변환한다면 똑같이 취약해질 수 있다. 즉 프레임워크 이름만으로 안심할 수 없고, 입력 처리 로직을 직접 들여다봐야 한다는 뜻이다. 또 하나 주의할 점은 널리 쓰이는 여러 소프트웨어의 최신 버전이 영향을 받는 Ruby를 번들로 포함하고 있다는 사실이다. 운영체제 패키지의 Ruby를 올렸더라도, 제품에 동봉된 Ruby가 그대로라면 여전히 노출될 수 있다.
대응은 두 갈래로 정리된다. 첫째, Ruby 자체를 수정 버전인 3.3.14, 3.4.13, 또는 4.0.10으로 올린다. 둘째, 자체 호스팅 제품을 쓰는 경우 벤더가 내놓은 수정 릴리스를 설치한다. 번들 Ruby를 쓰는 제품이라면 벤더 패치가 사실상 유일한 정식 경로이므로, 사용 중인 소프트웨어의 공지와 고정 버전을 확인하는 작업이 함께 가야 한다.
현재 공개된 것은 취약점의 구조와 트리거 조건까지이고, 실제 개념 증명(PoC) 코드는 사용자들이 업그레이드할 시간을 확보하도록 일주일 뒤에 공개될 예정이다. 1바이트라는 작은 오버플로가 곧바로 원격 코드 실행으로 이어지는 완성형 익스플로잇까지의 거리는 힙 레이아웃에 좌우되는 영역이지만, 인증 없이 도달 가능하고 수년간 넓은 인코딩에 퍼져 있던 코드라는 점에서 방어하는 쪽의 시간 여유는 넉넉하지 않다. PoC가 나오기 전인 지금이 패치를 적용할 가장 좋은 시점이다.