매일 들어오는 글 가운데, TTJ가 한 번 더 읽어본 것들. 코딩과 AI 시대를 가로지르는 글로벌 동향을 한곳에 모았습니다.
로컬에서 LLM을 돌리고 싶지만 GPU VRAM이 부족한 경험, 다들 한 번쯤 있으시죠? **Nvidia Greenboost**는 시스템 RAM이나 NVMe SSD를 활용해 GPU VRAM을 투명하게 확장해주는 오픈소스 도구입니다. ## 어떻게 동작하나? Greenboost는 NVIDIA GPU의 메모리 관리에 개입하여, VRAM에 올라가지 못하는 데이...