TECH 으로 돌아가기
TECH HACKER NEWS 6분 읽기 77 READS

희소 텐서 연산을 코드 몇 줄로: 컴파일러 기반 라이브러리 TACO

딥러닝과 추천 시스템, 그래프 분석, 과학 계산이 다루는 데이터는 대부분 '희소(sparse)'하다. 거대한 행렬이나 고차원 텐서의 값 대부분이 0인 경우다. 이런 데이터를 조밀(dense) 배열처럼 통째로 메모리에 올려 계산하면 메모리도, 연산 시간도 낭비된다. 그래서 실무에서는 0이 아닌 값만 골라 저장하는 희소 포맷과 그에 맞춘 전용 연산 커널이 필요한데, 문제는 연산 종류와 저장 포맷의 조합마다 손으로 커널을 최적화해야 한다는 점이다. 스탠퍼드와 MIT CSAIL 연구진이 개발한 TACO(Tensor Algebra Compiler)는 바로 이 반복 노동을 컴파일러가 대신하도록 만든 라이브러리다.

손으로 짜던 커널을 컴파일러가 생성한다

TACO의 핵심은 사용자가 수행하려는 수식과 데이터 저장 포맷을 입력하면, 그에 맞게 최적화된 연산 커널을 자동으로 생성하는 컴파일러 기법이다. 지원 범위는 희소 행렬-벡터 곱(SpMV)처럼 비교적 단순한 연산부터, 고차원 희소 텐서에 대한 MTTKRP처럼 복잡한 연산까지 폭넓다. 텐서는 CSR이나 COO 같은 널리 쓰이는 희소 행렬·텐서 포맷은 물론 CSF 같은 특수 포맷으로도 저장할 수 있다. 다시 말해 '어떤 연산을, 어떤 포맷의 데이터에' 적용할지 조합이 달라져도 사람이 매번 전용 코드를 작성할 필요가 없다는 것이 TACO가 내세우는 차별점이다.

이 방식이 중요한 이유는 희소 연산의 성능이 데이터 구조에 극도로 민감하기 때문이다. 같은 행렬 곱이라도 입력이 어떤 포맷으로 저장돼 있느냐에 따라 효율적인 반복 순서와 메모리 접근 패턴이 완전히 달라진다. 기존에는 이를 라이브러리 개발자가 수작업으로 특수화해 제공했고, 그 밖의 조합은 성능을 포기하거나 직접 구현해야 했다. TACO는 이 특수화 과정을 코드 생성 단계로 옮겨, 조합 폭발 문제를 컴파일러의 영역에서 해결하려 한다.

성능과 사용성

성능 면에서 TACO는 MATLAB 텐서 툴박스 대비 최대 수 자릿수(several orders of magnitude)까지 빠른 결과를 낼 수 있으며, Eigen이나 인텔 oneMKL, SPLATT 같은 고성능 희소 선형·텐서 대수 라이브러리와도 경쟁할 만한 수준이라고 소개된다. 다만 이 비교는 개발진이 제시한 것이고 구체적인 벤치마크 환경이나 연산별 수치는 공개 설명에 포함돼 있지 않으므로, 실제 도입을 검토한다면 자신의 데이터와 연산 패턴으로 직접 측정해보는 과정이 필요하다.

사용성 측면에서는 진입 장벽을 낮추려는 설계가 눈에 띈다. TACO는 C++와 파이썬 API를 제공하며, 사용 방식은 Eigen이나 SciPy 같은 기존 선형대수 라이브러리와 유사하다. 복잡한 희소 연산도 몇 줄의 코드로 기술할 수 있다는 것이 이 프로젝트가 강조하는 지점이다. 여기에 더해 커맨드라인 도구와 웹 도구가 제공되어, 애플리케이션에 링크해 쓸 수 있는 맞춤형 연산 커널을 직접 만들어 라이브러리처럼 축적할 수 있다. 특히 브라우저에서 바로 코드를 생성해주는 온라인 도구는 설치 없이 TACO의 결과물을 확인해볼 수 있게 해, 평가 단계에서 유용하다.

실무자가 눈여겨볼 지점과 한계

한국의 실무자 입장에서 TACO가 흥미로운 이유는 '포맷에 종속되지 않는 코드 생성'이라는 접근이다. 추천, 검색, 그래프 등 희소 데이터를 다루는 서비스에서 포맷을 바꿔가며 성능을 실험해야 할 때, 매번 커널을 다시 짜는 대신 수식과 포맷을 바꿔 재생성하는 워크플로를 구성할 수 있다. 커맨드라인 도구는 --help로 기능을 확인할 수 있고, 소스는 깃허브에 공개돼 있으며 C++·파이썬 API와 CLI 빌드 방법을 담은 README와 예제 중심의 온라인 문서가 함께 제공된다.

반면 분명한 한계도 있다. TACO는 스탠퍼드의 Fredrik Kjolstad 교수 연구그룹과 MIT CSAIL의 Saman Amarasinghe 교수가 이끄는 COMMIT 그룹, 그리고 기타 기여자들이 개발·유지하는 연구 기반 프로젝트다. NSF, 미 에너지부, DARPA, 토요타 리서치 인스티튜트, 구글 리서치 스콜라 프로그램 등 다수 기관의 연구 지원을 받아 성장했다는 점에서 학술적 깊이는 충분하지만, 상용 벤더가 보증하는 제품과는 성격이 다르다. 버그나 개선 제안은 깃허브 이슈로 접수하고 풀 리퀘스트로 기여하는 오픈소스 협업 모델을 따른다. 따라서 프로덕션 도입을 고려한다면 지원 체계, 유지보수 연속성, 자사 연산 패턴에서의 실측 성능을 함께 검증하는 것이 현실적인 접근이다. 핵심 아이디어—연산과 포맷의 조합을 사람이 아닌 컴파일러가 특수화한다는 발상—는 희소 연산을 다루는 엔지니어가 한 번쯤 참고할 가치가 충분하다.

SOURCE · HACKER NEWS
원문 전체 보기 → http://tensor-compiler.org/
SHARE
NEXT · CHOOSE

변화를 읽었다면,
내가 만들 수익 구조를 고릅니다.

정보를 더 모으는 데서 멈추지 않고, 광고·외주·판매·중개·구독 중 내 상황에 맞는 출발점을 정해보세요.

21가지 수익 구조 살펴보기 →
처리 중...