프라이버시 중심의 안드로이드 운영체제인 그래핀OS(GrapheneOS) 측이 최근 주목할 만한 변화를 전했다. 대략 10여 개의 은행 앱이 구글이 인증한 운영체제뿐 아니라 그래핀OS에서의 구동도 명시적으로 허용하기 시작했고, 그 수가 계속 늘고 있다는 것이다. 숫자만 보면 작아 보이지만, 그동안 모바일 금융 앱이 '구글이 승인한 순정 안드로이드'만을 신뢰 가능한 환경으로 간주해 온 관행에 비춰보면 이는 제법 의미 있는 방향 전환이다.
왜 은행 앱은 커스텀 OS를 막아 왔나
안드로이드 금융 앱 상당수는 앱이 실행되는 단말과 OS가 '변조되지 않은 신뢰할 수 있는 상태'인지를 확인하려 한다. 이를 위해 구글이 제공하는 무결성·증명 체계에 의존하는데, 여기서 통과 기준이 사실상 '구글이 인증한 OS'로 좁혀진다. 그래핀OS는 보안을 강화한 오픈소스 OS지만 구글의 공식 인증 경로 밖에 있기 때문에, 이런 검사를 그대로 적용하면 루팅 단말이나 변조 단말과 똑같이 취급돼 차단되는 일이 벌어진다.
그래핀OS 측 설명에 따르면 대다수 은행 앱은 그래핀OS에서도 정상 동작한다. 다만 두 가지 문제가 흔하다. 하나는 앱 자체의 메모리 손상(memory corruption) 버그이고, 다른 하나는 잘못 구현된 안티탬퍼링(anti-tampering, 변조 방지) 코드다. 이 때문에 그래핀OS는 앱별로 익스플로잇 보호(exploit protection) 강도를 낮추는 '호환성 모드' 토글을 제공한다. 바꿔 말하면, 앱이 차단되는 원인이 OS의 결함이 아니라 앱 쪽의 부실한 방어 코드인 경우가 적지 않다는 뜻이다.
'차단'과 '허용'이 공존하는 현실
현재 상황은 양면적이다. 그래핀OS 측 집계로는 전체 은행 앱 가운데 약 10%가 '구글이 승인하지 않은 OS를 쓴다'는 이유만으로 아예 사용이 불가능하다. 기능상 문제가 있어서가 아니라 정책적으로 막아 둔 경우다. 반대편에서는 10여 개 은행 앱이 그래핀OS를 명시적 허용 목록에 추가하기 시작했다. 같은 신뢰 판단을 두고 어떤 금융사는 빗장을 걸고, 어떤 곳은 문을 여는 분화가 동시에 진행되고 있는 셈이다.
이 '허용'이 중요한 이유는 단순 호환성 문제가 아니라 신뢰 모델의 설계 문제이기 때문이다. 앱이 단말 신뢰를 판단할 때 선택지는 크게 두 가지다. '구글 인증 여부'라는 단일 신호에 모든 것을 걸거나, 하드웨어 기반 키 증명처럼 OS 종류와 독립적으로 단말의 보안 상태를 평가하는 방식을 함께 쓰는 것이다. 특정 OS를 허용 목록에 넣는 결정은, 금융사가 '구글 승인 = 보안'이라는 단순 등식에서 한발 물러나 더 세밀한 판단을 수용하기 시작했다는 신호로 읽을 수 있다.
한국 실무자에게 주는 시사점
국내 금융·핀테크 앱 개발 환경에서도 이 논의는 남의 일이 아니다. 많은 앱이 루팅 탐지와 무결성 검사를 보안 요건으로 넣는데, 그 검사가 지나치게 공격적이면 정상 사용자, 특히 프라이버시를 중시하거나 보안을 강화한 OS를 쓰는 이용자를 함께 차단한다. 그래핀OS 사례는 안티탬퍼링 로직의 품질이 곧 사용자 경험과 직결된다는 점을 보여준다. 변조 방지 코드가 잘못 구현되면 보안을 높이기는커녕 멀쩡한 단말을 오탐하고, 때로는 메모리 안전성 문제까지 드러낸다.
설계 관점에서 참고할 지점은 신뢰 판단을 단일 신호에 의존하지 말라는 것이다. 특정 벤더의 인증 통과 여부만을 유일한 관문으로 삼으면, 그 관문 밖에 있는 안전한 환경을 일괄 배제하게 된다. 반면 단말의 실제 보안 속성을 다층적으로 평가하고 예외를 허용하는 구조를 두면, 보안 수준을 유지하면서도 차단 범위를 좁힐 수 있다. 그래핀OS를 허용 목록에 추가한 금융사들이 택한 방향이 바로 이쪽에 가깝다.
물론 한계도 분명하다. 지금 허용된 숫자는 10여 개에 불과하고, 어떤 앱이 어떤 조건으로 허용되는지는 결국 각 금융사의 개별 정책에 달려 있다. 이 때문에 사용자 입장에서는 특정 앱이 자신의 환경에서 동작하는지 매번 확인해야 한다. 그래핀OS 측은 이와 관련해 사용자 제보를 바탕으로 지속 갱신되는 호환성 목록(privsec.dev)을 참고 자료로 안내하고 있다. 전환이 시작됐다는 사실 자체는 고무적이지만, 이것이 업계 표준이 되려면 더 많은 금융사가 신뢰 판단 방식을 재검토해야 하는 단계에 아직 머물러 있다.