의료는 인공지능이 가장 대체하기 어려운 직군으로 흔히 꼽혀 왔다. 진단과 처방에는 환자의 상태를 종합적으로 판단하는 전문성과 그에 따르는 법적·윤리적 책임이 얽혀 있기 때문이다. 그런데 미국 유타주가 이 전제에 균열을 내는 시도에 나섰다. 한 헬스케어 스타트업이 사람 의사의 직접 감독 없이 AI가 환자를 진단하고 약을 처방하는 프로그램을 시작하면서, 유타주는 의사를 AI로 대체하는 것을 허용한 첫 번째 주가 됐다.
다만 그 범위는 현재로서는 상당히 제한적이다. 이 프로그램은 운영 기간이 1년으로 한정돼 있고, 대상도 경증에서 중등도 수준의 여드름 환자로 좁혀져 있다. 생명을 좌우하는 질환이 아니라, 비교적 위험이 낮고 경과 관찰이 쉬운 피부 증상에 한정해 AI 자동 처방의 실현 가능성을 시험해 보는 성격이 강하다.
작동 방식과 단계적 전환
블룸버그 보도에 따르면 이용 과정은 단순하다. 사용자가 놀라 헬스(Nolla Health)의 월 4.99달러짜리 앱에 가입해 얼굴을 스캔하고, 병력과 개인정보를 입력하는 양식을 작성한다. 그러면 AI가 피부를 분석해 여드름 문제를 파악하고 피부의 유분 정도를 평가한 뒤, 깨끗한 피부부터 중증 여드름까지를 아우르는 수치화된 여드름 중증도 점수를 산출한다. AI는 이 점수를 입력된 의료 정보와 결합해 승인된 8종의 치료제 목록에서 적합한 약을 추천한다.
주목할 지점은 완전 자동화로 가는 길을 한 번에 열지 않고 단계를 나눴다는 것이다. 처음 100건의 처방은 약국에 전달되기 전 실제 의사가 반드시 검토한다. 두 번째 단계에서는 다음 400명의 환자에 대해 AI가 처방을 약국에 직접 제출하되, 의사가 주 1회 사후적으로 들여다본다. 마지막 단계에 이르면 의사는 발급된 전체 처방의 최소 10%를 한 달에 한 번 검토하는 데 그친다. 즉 인간의 개입이 사전 통제에서 사후 표본 점검으로 점차 후퇴하는 구조다.
AI 의료 조언이 남긴 교훈
AI에 건강 문제를 맡겼을 때의 위험은 이미 여러 차례 드러났다. 지난해에는 60대 남성이 챗GPT의 조언을 따라 식단의 소금을 브로민화나트륨으로 대체했다가 브로민 중독(bromism)에 걸린 사례가 화제가 됐다. 브로민 중독은 19세기 이후로는 흔히 보기 어려운 정신과적 질환이다. 기업들의 후퇴도 이어졌다. 구글은 올해 3월 비슷한 질환이나 경험을 가진 사람들의 조언을 크라우드소싱해 제공하던 'What People Suggest'라는 AI 검색 기능을 조용히 접었다. 이는 부정확한 정보가 사용자에게 노출돼 건강을 위협할 수 있다는 지적에 따라 여러 AI 개요(AI Overviews)를 삭제한 지 불과 두어 달 만의 조치였다.
놀라 헬스는 이런 위험을 설계 단계에서 상당 부분 차단하려 한 것으로 보인다. 루이스 웨누스 최고경영자는 승인된 8종 약물의 부작용이 국소적인 피부 자극이나 건조함 수준에 그친다고 밝혔다. 처방 대상도 복용하는 알약이 아니라 피부에 바르는 국소 치료제로 제한된다. 전신에 영향을 주는 약을 배제하고 저위험 증상만 다룸으로써, AI 오판이 치명적 결과로 이어질 여지를 좁혀 둔 셈이다.
실무자가 눈여겨볼 지점
한국의 IT·헬스케어 실무자에게 이 사례가 주는 함의는 'AI가 의사를 대체한다'는 구호보다 위험을 통제하는 방식에 있다. 놀라 헬스는 적용 질환을 저위험 영역으로 좁히고, 처방 가능한 약을 사전 승인된 목록으로 묶고, 인간 검토 비율을 단계적으로 조정하는 식으로 자동화의 경계를 명확히 설정했다. 자동화 수준을 한꺼번에 끌어올리는 대신 실데이터를 쌓으며 점진적으로 조정하는 접근은, 규제와 책임 소재가 민감한 분야에서 참고할 만한 설계 패턴이다.
동시에 한계도 분명하다. 이 프로그램은 1년짜리 한정 실험이며, 사후 검토 비율이 10%까지 낮아지는 구간에서는 나머지 90%의 처방이 사실상 사람 눈을 거치지 않는다. 얼굴 스캔 기반 진단의 정확도, 환자가 스스로 입력한 병력의 신뢰성, 드물게 발생할 수 있는 오진에 대한 책임 귀속은 여전히 열린 질문으로 남는다. 작은 규모의 시도이지만, AI가 덜 심각한 질환의 진료부터 사람의 자리를 넘겨받기 시작하는 첫걸음일 수 있다는 점에서 그 결과를 지켜볼 가치가 있다.