루비로 모든 AI를 다룬다 — RubyLLM이 보여주는 우아한 LLM 통합

루비 개발자의 오랜 불편함

요즘은 웬만한 서비스에 AI 기능 하나쯤은 다 들어가죠. 그런데 막상 코드에 LLM(거대 언어 모델, 우리가 흔히 쓰는 ChatGPT 같은 그 AI예요)을 붙이려고 하면 생각보다 손이 많이 가거든요. OpenAI는 OpenAI대로, 앤트로픽의 Claude는 또 그 나름대로, 구글 제미나이는 또 따로 노는 식이라, 제공사마다 SDK(개발용 도구 묶음)도 다르고 요청 보내는 방식도 제각각이에요. 그래서 "이번엔 GPT 말고 Claude로 바꿔볼까?" 하는 순간, 멀쩡하던 코드를 한참 뜯어고쳐야 하는 일이 생겨요.

RubyLLM은 바로 이 답답함을 정조준한 루비용 프레임워크예요. 쉽게 말하면 "어떤 AI 제공사를 쓰든, 똑같이 생긴 루비다운 코드 한 벌로 전부 다룰 수 있게 해주겠다"는 거죠.

코드가 진짜 단순해져요

RubyLLM의 매력은 코드를 보면 바로 느껴져요. 예를 들어 챗봇은 chat = RubyLLM.chat 한 줄로 대화 객체를 만들고, chat.ask "한국에서 가장 높은 산은?" 처럼 물어보면 끝이에요. 군더더기가 거의 없죠.

여기서 모델을 바꾸고 싶으면 RubyLLM.chat(model: "claude-sonnet-4-5") 처럼 모델 이름만 슬쩍 바꿔주면 돼요. OpenAI에서 Claude로, 또 제미나이로 갈아타도 나머지 코드는 그대로예요. 내부에서 각 제공사의 API 차이를 RubyLLM이 알아서 번역해주거든요. 이게 생각보다 큰 해방감이에요.

요즘 AI 앱에서 꼭 필요한 기능들도 거의 다 들어 있어요. 답변을 한 글자씩 실시간으로 흘려보내는 스트리밍, AI가 우리가 만든 함수를 직접 불러서 쓰게 하는 툴(함수 호출, function calling), 문장을 숫자 벡터로 바꿔서 검색에 활용하는 임베딩, 이미지 생성, 그리고 "꼭 이 형식(JSON)으로만 답해" 하고 강제하는 구조화된 출력까지요. AI 기능 만들 때 필요한 걸 따로따로 찾아 헤맬 필요가 줄어드는 거죠.

레일즈와 찰떡궁합

루비 하면 역시 레일즈(Rails) 웹 프레임워크죠. RubyLLM은 레일즈와의 통합에 특히 공을 들였어요. acts_as_chat 같은 한 줄짜리 선언으로 대화 기록을 데이터베이스 모델에 바로 붙일 수 있고, 첨부 파일이나 멀티모달(텍스트와 이미지처럼 여러 형태를 한 번에 다루는 것) 입력도 자연스럽게 처리해요. 백그라운드 작업이나 스트리밍을 레일즈 방식 그대로 녹여낼 수 있어서, 이미 돌아가고 있는 루비 서비스에 AI를 얹는 게 정말 매끄러워져요.

업계 맥락에서 보면

사실 이런 "여러 AI를 하나의 인터페이스로 묶는" 시도는 다른 언어권에선 이미 활발해요. 파이썬 쪽엔 LangChain이나 LiteLLM이 있고, 자바스크립트엔 버셀(Vercel)의 AI SDK가 있죠. RubyLLM은 그 흐름의 루비 버전이라고 보면 되는데, 차별점은 "루비답게 단순하고 우아하게"라는 철학이에요. LangChain이 기능은 풍부하지만 추상화 계층이 너무 두꺼워서 무겁다는 평을 듣는 것과 달리, RubyLLM은 군더더기를 덜어내고 직관적인 API에 집중했거든요. 루비라는 언어가 원래 "개발자가 행복한 코드"를 지향하는데, 그 정신을 AI 영역까지 끌고 온 셈이에요.

한국 개발자에게 주는 시사점

국내에도 루비온레일즈로 돌아가는 서비스가 의외로 꽤 있어요. 그런 곳이라면 굳이 AI 기능만 파이썬으로 따로 떼어내 별도 마이크로서비스를 세울 필요 없이, 기존 루비 코드베이스 안에서 바로 LLM을 붙여볼 수 있다는 게 큰 장점이에요. 특히 특정 제공사에 묶이는(벤더 락인) 위험을 피하고 싶을 때, 모델 이름만 바꿔 A/B 테스트하듯 성능과 비용을 비교해볼 수 있다는 점은 실무에서 두고두고 쓸모 있거든요.

마무리

RubyLLM은 "AI 통합은 원래 복잡한 거야"라는 편견을 루비 특유의 우아함으로 깨뜨린 프레임워크예요. 여러분이라면 서비스에 AI를 붙일 때, 이렇게 언어 생태계에 맞는 통합 도구를 쓰시겠어요, 아니면 제공사 공식 SDK를 직접 만지는 쪽을 택하시겠어요? 둘의 트레이드오프를 어떻게 보시는지 궁금하네요.