Y Combinator 2026년 여름 배치에서 나온 EdotEnv라는 스타트업이 재미있는 걸 들고 나왔어요. 퀀트 트레이딩(수학적 모델로 금융 시장에서 자동 매매하는 것)을 소재로 한 강화학습 환경을 만들어서, LLM에게 리서치하는 능력을 가르치겠다는 건데요. 언뜻 들으면 "AI로 주식 자동매매를 하겠다는 건가?" 싶지만, 방향이 정반대예요. 트레이딩으로 돈을 벌겠다는 게 아니라, 트레이딩이라는 과제를 훈련용 문제집으로 써서 AI의 연구 능력 자체를 키우겠다는 거거든요.
강화학습 환경이 뭐길래
먼저 용어부터 풀어볼게요. 강화학습(RL)은 AI가 어떤 환경 안에서 행동을 해보고, 잘하면 보상을 받고 못하면 벌점을 받으면서 스스로 요령을 터득하는 학습 방식이에요. 게임으로 치면 AI에게 게임기를 쥐여주고 점수를 보상 삼아 수없이 플레이시키는 거죠. 여기서 환경(environment)은 그 게임판 자체를 말해요. AI가 행동할 수 있는 무대, 행동의 결과가 계산되어 돌아오는 시뮬레이션 공간이요.
최근 LLM 업계에서 이 환경이 엄청나게 중요해졌어요. 요즘 모델 성능 향상의 큰 축이 "검증 가능한 보상을 이용한 강화학습(RLVR)"인데요. 수학 문제처럼 정답을 기계적으로 채점할 수 있는 과제를 모델에게 풀리고, 맞으면 보상을 주는 방식으로 추론 능력을 끌어올리는 거예요. 그런데 이 방식의 병목이 바로 좋은 문제와 채점 기준, 즉 좋은 환경이에요. 예전에는 좋은 학습 데이터가 귀했다면, 이제는 좋은 학습 환경이 귀한 시대가 된 거죠.
왜 하필 퀀트 트레이딩일까
그럼 왜 훈련장으로 퀀트 트레이딩을 골랐을까요? 생각해보면 꽤 영리한 선택이에요. 첫째, 보상이 명확해요. 전략이 좋았는지 나빴는지는 백테스트(과거 시장 데이터로 전략을 검증하는 것) 수익률이라는 숫자로 깔끔하게 나오거든요. 채점에 사람이 필요 없어요. 둘째, 실제 연구의 전 과정이 압축돼 있어요. 가설을 세우고(이 지표가 수익과 상관이 있을 것이다), 데이터를 분석하고, 실험을 설계하고, 결과를 보고 가설을 수정하는 루프요. 이건 금융만이 아니라 과학 연구 전반의 뼈대거든요. 셋째, 정답을 외울 수가 없어요. 시장 데이터는 계속 새로 생기고 과거에 통했던 전략이 미래에도 통한다는 보장이 없어서, 모델이 암기가 아니라 진짜 방법론을 배워야만 점수가 나와요.
그러니까 이 회사의 베팅은 이거예요. 트레이딩 환경에서 가설-실험-검증 루프를 잘 돌리도록 훈련된 모델은 그 능력을 다른 도메인의 연구에도 전이할 수 있을 것이다. AI 연구소들이 "AI가 스스로 연구하는 능력"을 다음 목표로 잡고 있는 흐름을 생각하면, 그 훈련에 필요한 환경을 공급하는 사업은 시대를 잘 읽은 셈이죠.
'환경 판매'라는 새로운 산업
업계 흐름에서 보면 이 회사는 혼자가 아니에요. 데이터 라벨링 시대에 Scale AI나 Surge 같은 회사들이 컸던 것처럼, 이제는 고품질 RL 환경을 만들어 AI 연구소에 공급하는 것이 하나의 산업으로 자리 잡는 중이거든요. 오픈소스 쪽에서는 환경을 모아 공유하는 허브가 생기고 있고, 코딩 에이전트 훈련용으로 실제 소프트웨어 프로젝트를 환경으로 만드는 시도, 브라우저 조작이나 게임을 환경으로 쓰는 시도도 활발해요. 공통된 인식은 하나예요. 웹에서 긁을 수 있는 텍스트는 이미 거의 다 긁었고, 다음 단계의 능력은 모델이 직접 행동하고 피드백받는 환경에서 나온다는 것.
한국 개발자에게 주는 시사점
여기서 눈여겨볼 지점은, 환경을 만드는 데 필요한 게 최첨단 AI 기술이 아니라 도메인 지식이라는 거예요. 금융이든 물류든 제조든, 특정 분야의 문제를 "행동 가능하고 채점 가능한 시뮬레이션"으로 잘 빚어내는 능력이 핵심이거든요. 이건 대형 연구소보다 그 도메인에서 실제로 굴러본 개발자가 더 잘할 수 있는 영역이에요. 내가 잘 아는 분야의 과제를 검증 가능한 환경으로 만들 수 있다면, 그 자체가 AI 시대의 새로운 상품이 될 수 있다는 거죠. 에이전트를 활용하는 입장에서도 배울 게 있어요. "채점 기준이 명확한 과제일수록 AI가 빨리 좋아진다"는 원리는, 우리 업무 중 어떤 것을 AI에 먼저 맡길지 판단하는 기준이 되거든요.
정리하면, AI 훈련의 무게중심이 데이터에서 환경으로 옮겨가고 있고, 퀀트 트레이딩은 그 환경으로 삼기에 아주 좋은 소재라는 이야기예요. 여러분이 잘 아는 도메인 중에 "채점 가능한 환경"으로 만들 만한 과제가 있다면 뭐가 떠오르시나요?
🔗 출처: Hacker News