범용 모델 다음은 ‘전문 분야’ 모델
중국 AI 기업 즈푸(Zhipu AI)의 글로벌 브랜드 Z.ai가 GLM-Legal을 발표했어요. 이름 그대로 GLM 계열 모델을 법률 업무용으로 내놓은 거예요. Z.ai는 작년(2025년) GLM-4.5, GLM-4.6 같은 대형 MoE 모델을 MIT 라이선스로 공개하면서 오픈 웨이트 진영에서 존재감을 키워온 회사예요. 그런 회사가 범용 성능 경쟁에서 한발 더 나아가 ‘법률’이라는 도메인을 콕 집었다는 점이 흥미로워요. 이 글에서는 발표 자체보다 법률 특화 AI가 왜 따로 필요한지, 무엇이 어려운지, 이런 모델을 볼 때 무엇을 따져봐야 하는지를 정리해 볼게요. 어떤 나라의 법을 주로 다루는지, 가중치를 공개하는지, 벤치마크 수치는 어떤지 같은 구체적인 내용은 원문 발표에서 직접 확인해 보세요.
법률은 왜 LLM에게 특히 어려울까
법률 문서는 겉보기엔 그냥 긴 텍스트지만, LLM 입장에서는 함정이 많아요. 첫째, 정확한 인용이 생명이에요. ‘대법원 몇 년 선고 무슨 판결’ 하나만 틀려도 주장 전체가 무너지거든요. 그런데 LLM은 본질적으로 ‘그럴듯한 다음 단어’를 만들어내는 기계라서, 존재하지 않는 판례도 아주 그럴듯하게 지어내곤 해요. 2023년 미국에서 한 변호사가 ChatGPT가 만든 가짜 판례를 법원에 냈다가 제재를 받은 사건(Mata v. Avianca)이 대표적인 예예요.
둘째, 시점과 관할이 중요해요. 같은 질문이라도 어느 나라의, 어느 시점의 법이냐에 따라 답이 달라지고, 법은 계속 개정돼요. 모델이 학습한 시점의 지식으로 답하면 이미 바뀐 조문을 근거로 내놓을 수 있어요. 셋째, 법률 문장에는 ‘~하지 아니한 경우를 제외하고는’ 같은 이중 부정이나 단서 조항, 예외의 예외가 가득해서 논리 구조를 정확하게 따라가야 해요.
스탠퍼드 연구진이 2024년에 발표한 연구들을 보면, 범용 LLM은 미국 판례 관련 질문에서 절반을 훌쩍 넘는 비율로 환각(사실이 아닌 내용을 지어내는 현상)을 보였어요. 법률 정보 기업들이 내놓은 전문 AI 도구들도 적게는 17%, 많게는 33% 넘게 틀린 답을 냈다고 해요. ‘법률 특화’라는 이름표만으로는 문제가 풀리지 않는다는 얘기예요.
특화 모델은 보통 어떻게 만들까
도메인 특화 모델을 만드는 방법은 크게 세 갈래예요. 첫째는 법령·판례·논문 같은 법률 텍스트로 추가 사전학습을 해서 용어와 문체에 익숙하게 만드는 방법이에요. 둘째는 계약서 검토나 쟁점 정리처럼 실제 업무 형식의 데이터로 지시 튜닝을 하는 방법이고요. 셋째는 모델 바깥에 판례 DB를 붙여서 근거를 찾아오게 하는 RAG(검색 증강 생성) 방식이에요. RAG는 쉽게 말해 ‘오픈북 시험’이에요. 외운 걸로 답하는 대신 책을 펴서 찾아보고 답하는 거예요. 요즘 실무용 법률 AI는 대부분 이 세 가지를 섞어 쓰고, 마지막에 인용이 맞는지 따로 검증하는 단계를 두는 추세예요.
업계 맥락: Harvey부터 국내 리걸테크까지
법률 AI 시장은 이미 뜨거워요. 미국에서는 OpenAI 스타트업 펀드의 투자를 받은 Harvey가 대형 로펌들을 고객으로 확보하면서 빠르게 성장했어요. 톰슨로이터(CoCounsel)나 렉시스넥시스(Lexis+ AI) 같은 전통 법률 정보 기업들도 자체 AI를 붙였고요. 이 기업들의 강점은 모델보다 독점 판례 데이터베이스예요. 반면 Z.ai 같은 모델 회사는 모델 자체의 추론 능력과 가격으로 승부해요. 특화 모델이 오픈 웨이트로 나온다면, 데이터를 외부로 보낼 수 없는 로펌이나 기업 법무팀이 사내 서버에 직접 올려 쓸 수 있다는 점에서 의미가 커요.
한국 개발자에게 주는 시사점
국내에서는 엘박스, 로앤컴퍼니(슈퍼로이어) 같은 서비스가 판례 검색과 AI 법률 보조를 시도하고 있어요. 다만 한국은 판결문이 공개되는 범위가 제한적이고, 변호사가 아닌 사람이 법률 사무를 하지 못하게 하는 변호사법 이슈도 있어요. 그래서 설계 단계부터 ‘누구를 위한 도구인가’를 고민해야 해요. 해외 법률 모델을 그대로 가져다 쓰기 어려운 이유도 여기에 있어요. 법체계도 언어도 다르니까 결국 한국 법령과 판례 데이터로 RAG를 붙이거나 추가 튜닝을 해야 해요.
이런 모델을 평가할 때는 세 가지를 확인해 보세요. 답변에 출처를 달아주는지, 그 출처가 실제로 존재하고 내용과 일치하는지 자동으로 검증할 수 있는지, 그리고 모르면 모른다고 하는지예요. 의료, 금융, 사내 규정 챗봇처럼 ‘틀리면 큰일 나는’ 분야의 AI를 만드는 개발자라면 그대로 가져다 쓸 수 있는 체크리스트이기도 해요.
마무리
법률 AI의 승부는 모델이 얼마나 똑똑하냐보다 ‘틀리지 않는 구조’를 얼마나 잘 설계하느냐에서 갈려요. 여러분이라면 정확성이 생명인 분야에서 AI에게 어디까지 맡기겠어요? 초안 작성까지인가요, 아니면 검색 보조까지인가요?
🔗 출처: Hacker News