핵심 요구사항
- 로컬 환경에서 오픈소스 LLM 설치 및 구동
- Ollama/LM Studio/llama.cpp 등 로컬 추론 엔진 세팅
- 맞춤형 챗봇 인터페이스 또는 사용 방법 제공
- 하드웨어(GPU/CPU) 사양에 맞는 모델 최적화
로컬 환경에서 LLM(대규모 언어 모델)을 구동하여 사용할 수 있도록 설정·구축하는 프로젝트입니다. 상세 설명이 거의 없어 외부 API 의존 없이 온프레미스/로컬에서 모델을 실행하고 맞춤형 챗봇 형태로 활용하는 것이 핵심으로 추정됩니다. Ollama, LM Studio, llama.cpp 등 로컬 LLM 추론 도구와 오픈소스 모델 운용 경험이 있는 AI/ML 또는 백엔드 개발자에게 적합합니다.