AI 데이터 에이전트가 자꾸 헛다리 짚는 이유, '실행 가능한 컨텍스트'가 답일까 — 오픈소스 Ktx

AI한테 데이터를 맡겼더니 자꾸 엉뚱한 답을 한다면

요즘 "데이터 에이전트(data agent)"라는 말 자주 들리죠. 쉽게 말하면, 사람이 SQL을 직접 짜는 대신 "지난달 매출 상위 10개 상품 뽑아줘"라고 말로 시키면 AI가 알아서 데이터베이스를 뒤져 답을 가져다주는 거예요. 그런데 막상 실무에 붙여보면 기대만큼 잘 안 됩니다. AI가 우리 회사 데이터가 어떻게 생겼는지를 모르거든요. user_id가 어느 테이블의 무엇과 이어지는지, 우리가 말하는 "활성 사용자"가 정확히 어떤 기준인지, 환불 건은 매출에서 빼야 하는지... 이런 맥락(context)이 없으면 AI는 그럴듯하지만 틀린 답을 아주 자신 있게 내놓아요.

이 문제를 정면으로 풀어보려는 오픈소스가 Ktx입니다. 제작자는 이걸 "데이터 에이전트를 위한 실행 가능한 컨텍스트 레이어(executable context layer)"라고 소개해요.

'실행 가능한 컨텍스트'가 뭐냐면

보통 우리는 AI한테 맥락을 줄 때 문서를 잔뜩 던져줍니다. "이 테이블은 주문 정보고요, 이 컬럼은 이런 뜻이고요..." 하는 설명문이죠. 이걸 RAG(검색 증강 생성)라고 부르는데, 문제는 이 문서가 결국 그냥 글자 뭉치라는 거예요. AI가 잘못 읽을 수도 있고, 문서가 실제 DB랑 안 맞게 낡아버릴 수도 있고요.

Ktx의 발상은 다릅니다. 맥락을 "읽는 글"이 아니라 "실행되는 코드"로 준다는 거예요. 이게 뭐냐면, "활성 사용자"의 정의를 문장으로 적어두는 대신, 실제로 활성 사용자를 뽑아내는 검증된 쿼리나 함수 자체를 컨텍스트로 등록해두는 식이에요. 에이전트는 이 조각들을 직접 실행해서 진짜 데이터로 확인하면서 답을 만들어갑니다. 글로 된 설명은 틀려도 티가 안 나지만, 실행되는 코드는 틀리면 에러가 나니까 훨씬 믿을 만하죠. 한마디로 "말로 설명하지 말고, 동작하는 도구로 쥐여주자"는 거예요.

비슷한 흐름 — MCP, 그리고 시맨틱 레이어

이런 고민이 Ktx만의 것은 아니에요. 앤트로픽이 만든 MCP(Model Context Protocol)도 비슷한 맥락인데, AI가 외부 도구와 데이터에 표준화된 방식으로 접근하게 해주는 규약이죠. 또 dbt의 시맨틱 레이어나 Cube 같은 도구도 "매출, 활성 사용자 같은 지표 정의를 한 곳에 모아두자"는 발상이고요. Ktx는 여기서 한 발 더 나가, 그 정의들을 에이전트가 직접 골라서 실행할 수 있는 형태로 묶어주는 데 초점을 맞춘 셈이에요. 완전히 새로운 발명이라기보단, "에이전트 시대에 맞게 컨텍스트를 다시 설계하자"는 큰 흐름 위에 있는 프로젝트라고 보면 됩니다.

한국 개발자에게

사내 데이터로 챗봇이나 분석 에이전트를 붙여본 분들은 "데모는 잘 되는데 실무에선 못 믿겠다"는 벽에 부딪힌 적이 있을 거예요. 그 벽의 정체가 대부분 컨텍스트 부족입니다. Ktx를 당장 프로덕션에 넣진 않더라도, "맥락을 문서가 아니라 실행 가능한 조각으로 관리한다"는 설계 아이디어는 직접 만드는 에이전트에도 충분히 적용해볼 만해요. 검증된 쿼리를 도구(tool)로 등록하고 AI가 그걸 골라 쓰게 하는 구조만 잡아도 헛소리가 확 줄거든요.