RTX PRO 6000 Blackwell 8장으로 로컬 LLM 서버 짜기 — VRAM 768GB
GPU 8장으로 VRAM 768GB를 갖췄는데 정작 512GB 시스템 RAM이 먼저 막혔다. 듀얼 파워 구성, 회로 분리, 방 온도 30도까지 실제로 겪은 것들.
#Threadripper
1개의 글
1개의 글
GPU 8장으로 VRAM 768GB를 갖췄는데 정작 512GB 시스템 RAM이 먼저 막혔다. 듀얼 파워 구성, 회로 분리, 방 온도 30도까지 실제로 겪은 것들.