매달 퍼즐을 내는 회사가 이번엔 '칩'을 꺼냈어요
Jane Street(제인 스트리트)라는 회사를 들어보셨나요? 미국의 퀀트 트레이딩 회사인데요, 개발자들 사이에서는 함수형 언어 OCaml을 주력으로 쓰는 회사로 더 유명해요. 이 회사는 오래전부터 홈페이지에 매달 수학·논리 퍼즐을 올리고 있어요. 이번에는 소프트웨어가 아니라 ASIC(주문형 반도체) 설계를 주제로 퍼즐을 냈고, 그 결과를 블로그에 정리해 공개했어요.
구체적인 문제와 참가자들의 해법, 수상작 이야기는 원문에 자세히 나와 있으니 같이 읽어보시길 추천해요. 이 글에서는 그 결과를 제대로 즐기는 데 필요한 배경을 풀어볼게요. ASIC이 뭔지, 하드웨어 설계 퍼즐은 무엇을 겨루는지, 트레이딩 회사가 왜 이런 걸 하는지요.
CPU, FPGA, ASIC은 뭐가 다를까
비유로 시작해 볼게요. CPU는 무슨 요리든 하는 만능 요리사예요. 레시피(프로그램)만 주면 뭐든 만들지만, 매번 레시피를 읽고 해석해야 해서 아주 빠르진 않아요. ASIC은 붕어빵 틀이에요. 붕어빵 하나만 만들 수 있지만 그 일만큼은 누구보다 빠르고 전기도 적게 써요. 대신 한 번 틀을 찍으면 모양을 못 바꾸고, 틀을 만드는 비용(마스크 비용)이 엄청나요. 그 중간에 있는 FPGA는 레고 블록 같아서 회로를 조립했다가 풀고 다시 조립할 수 있어요.
고빈도 트레이딩에서는 시장 데이터를 받고 주문을 내기까지 걸리는 시간이 나노초(10억분의 1초) 단위로 경쟁력을 가르거든요. 그래서 이 업계는 오래전부터 FPGA를 적극적으로 써 왔고, Jane Street도 하드웨어 영역에 꾸준히 투자해 왔어요.
OCaml로 회로를 짠다고? Hardcaml 이야기
Jane Street의 하드웨어 이야기에서 빠질 수 없는 게 Hardcaml이에요. 이게 뭐냐면, OCaml 안에서 디지털 회로를 설계할 수 있게 해 주는 오픈소스 라이브러리예요. 하드웨어는 보통 Verilog나 VHDL 같은 하드웨어 기술 언어(HDL)로 설계하는데요, 이 언어들은 추상화 도구가 부족하고 실수를 잡아 주는 장치도 약하기로 유명해요.
Hardcaml에서는 a +: b 같은 회로 연산자로 덧셈기를 만들어요. 그리고 OCaml의 함수와 타입 시스템을 쓰면 '8비트 덧셈기 16개를 이어 붙인 회로'를 함수 하나로 생성할 수 있어요. 시뮬레이션과 테스트도 OCaml 코드로 작성하고, 최종 결과는 Verilog로 뽑아서 기존 칩 설계 도구에 넣어요. 소프트웨어 개발자가 익숙한 방식으로 하드웨어를 다룰 수 있게 다리를 놓은 셈이에요.
하드웨어 퍼즐은 뭘 겨룰까: PPA
알고리즘 퍼즐은 보통 '정답을 맞혔나, 얼마나 빠른가'를 따지죠. 하드웨어 설계는 평가 기준이 하나 더 복잡해요. 업계에서는 이걸 PPA라고 불러요. Power(전력), Performance(성능), Area(면적)의 약자예요.
같은 기능을 하는 회로라도 설계에 따라 결과가 완전히 달라요. 곱셈기 하나를 여러 번 돌려 쓰면 면적은 작지만 시간이 오래 걸리고, 곱셈기 여러 개를 병렬로 깔면 빠른 대신 칩이 커지죠. 파이프라이닝도 대표적인 선택지예요. 세탁기가 도는 동안 건조기에 앞서 빤 빨래를 넣는 것처럼, 연산을 여러 단계로 쪼개서 동시에 흘려보내는 방식이에요. 처리량은 늘지만 단계 사이에 레지스터가 추가되면서 면적과 지연도 같이 늘어요. 클럭 속도는 가장 긴 신호 경로(크리티컬 패스)가 결정하기 때문에, 이 경로를 얼마나 짧게 다듬느냐도 실력이에요.
이런 대회에서는 비트 폭을 꼭 필요한 만큼만 쓰기, 곱셈을 시프트와 덧셈으로 바꾸기, 알고리즘을 하드웨어에 맞게 재구성하기 같은 전략이 자주 승부를 가르는데요. 결과 글을 읽을 때 '이 사람은 무엇을 포기하고 무엇을 챙겼나'를 따라가 보면 훨씬 재미있게 읽혀요.
업계 맥락: 칩 설계의 문턱이 낮아지고 있어요
몇 년 전만 해도 개인이 칩을 만드는 건 상상하기 어려웠어요. 그런데 구글과 SkyWater가 130nm 공정 설계 키트(PDK)를 오픈소스로 공개했고, 이후 OpenLane·OpenROAD 같은 오픈소스 설계 도구가 나왔어요. 여러 사람의 설계를 웨이퍼 하나에 모아서 저렴하게 찍어 주는 Tiny Tapeout 같은 프로젝트도 생겼고요. 이제는 학생이나 취미 개발자도 자기 회로가 들어간 실제 칩을 받아볼 수 있어요.
'소프트웨어 언어로 하드웨어를 설계하자'는 흐름도 Hardcaml만 있는 게 아니에요. 버클리 RISC-V 진영의 Scala 기반 Chisel, 파이썬 기반 Amaranth, 하스켈 기반 Clash가 꾸준히 성장하고 있고, LLM으로 RTL 코드를 생성하려는 연구도 활발해요. Jane Street의 퍼즐은 이런 흐름 속에서 하드웨어 인재를 찾는 채용 창구 역할도 한다고 볼 수 있어요.
한국 개발자에게 주는 시사점
한국은 반도체 강국이지만 무게중심이 메모리와 파운드리에 있어서 디지털 회로 설계 인력은 늘 부족하다는 얘기가 나와요. 국내 AI 반도체 스타트업들이 성장하면서 하드웨어를 이해하는 소프트웨어 개발자의 가치도 더 높아지고 있고요.
하드웨어에 입문하고 싶다면 길이 예전보다 훨씬 넓어요. Hardcaml, Amaranth, Chisel 중 익숙한 언어에 가까운 걸 골라서 간단한 카운터나 UART(직렬 통신 회로)를 만들어 보세요. 그다음 오픈소스 시뮬레이터 Verilator로 돌려 보고, 여유가 되면 Tiny Tapeout으로 실제 칩까지 가 보는 경로를 추천해요. 대학생이라면 KAIST 반도체설계교육센터(IDEC)의 칩 제작 지원 프로그램도 찾아볼 만해요.
마무리
한 줄 정리: 하드웨어 설계 퍼즐은 정답 하나를 찾는 게임이 아니라 전력·성능·면적 중 무엇을 포기할지 고르는 게임이에요. 그리고 소프트웨어 개발자가 이 게임에 참여할 수 있는 도구도 점점 늘고 있어요.
여러분은 소프트웨어 개발자도 하드웨어 설계를 알아야 하는 시대가 올 거라고 보시나요? FPGA나 칩 설계를 직접 해 본 분이 있다면, 어떤 점이 가장 낯설었는지도 들려주세요.
🔗 출처: Hacker News