오픈소스를 fork 하지 않고 서브모듈로 관리하기 — GPU 서버 여덟 개를 굴리며
TTS, LLM, STT, OCR 서버를 한 저장소에서 관리한다. 오픈소스를 복사하거나 fork 하는 대신 서브모듈로 묶은 이유와 그 구조를 정리했다.
#GPU
2개의 글
GPU 6대를 하나의 풀로 쓰기 — 준비 안 된 엔진은 고르지 못하게
영상 생성 작업을 여러 GPU에 분산하는 대시보드를 만들었다. 모델 파일 확인, 공유 GPU 제외, 모델명 하드코딩을 없앤 이야기.