AI 작업용 워크스테이션을 게이밍 부품으로 짠 이유 — 9900X + RTX 5090

“AI 개발하려면 컴퓨터가 얼마나 좋아야 하나요?”

이 질문에 대한 내 답은 “생각보다 평범해도 된다” 이다.

나는 GPU 8장짜리 서버를 따로 굴린다(그건 다른 글에서 다뤘다). 그런데 매일 앞에 앉아서 실제로 개발하는 머신은 그것과 완전히 다르다. 게이밍 부품으로 짠 평범한 데스크톱이고, 그걸로 충분하다.

이 글은 그 머신 이야기다. “이거 사세요”가 아니라 왜 이 정도면 되는지에 대한 기록이다.

전체 구성

부품	선택
CPU	AMD Ryzen 9 9900X
메인보드	MSI MPG X670E 카본 WIFI
메모리	G.SKILL DDR5-6000 CL32 Trident Z5 Neo RGB 128GB (32GB×4)
그래픽카드	Palit RTX 5090 GameRock / MSI RTX 4080 SUPER 게이밍 X 슬림 16GB
SSD	Crucial T705 M.2 NVMe 4TB
케이스	Fractal Design Define 7 XL 솔리드
파워	SuperFlower LEADEX TITANIUM 1600W (ATX 3.1)
CPU 쿨러	Noctua NH-D15 G2 LBC
케이스 쿨러	Noctua NF-A12x25
스피커	KEF LSX II Wireless HiFi

왜 서버 부품이 아니라 게이밍 부품인가

AI 작업이라고 하면 보통 서버 플랫폼을 떠올린다. 실제로 나중에 GPU 서버는 따로 짰다(그건 다른 글에서 다룬다).

그런데 개발 중에 쓰는 머신은 성격이 다르다. 여기서 하는 일은 이렇다.

• 모델을 불러와서 잠깐 돌려보고 끄기
• 코드 고치고 다시 돌리기
• 브라우저, 에디터, 터미널을 동시에 띄우기

즉 긴 학습이 아니라 짧은 반복이다. 이 패턴에서는 코어 수보다 단일 코어 성능과 반응 속도가 체감을 좌우한다. 서버 CPU는 코어가 많지만 클럭이 낮아 이런 작업에서 오히려 답답하다.

9900X를 고른 이유가 그거다. 코어 수가 압도적이진 않지만 클럭이 높고, 일반 데스크톱 플랫폼이라 메모리와 스토리지 속도도 최신이다.

GPU를 두 장 꽂은 이유

RTX 5090과 RTX 4080 SUPER를 함께 쓴다. 같은 모델 두 장이 아니라 다른 모델 두 장이다.

이유는 역할이 다르기 때문이다.

• 5090 — 모델을 올려서 추론하는 용도. VRAM이 가장 중요하다
• 4080 SUPER — 화면 출력과 가벼운 작업

이렇게 나누면 5090의 VRAM을 화면 출력에 쓰지 않는다. 모니터를 5090에 연결하면 브라우저와 데스크톱이 VRAM을 몇 GB 먹는데, 모델을 아슬아슬하게 올리는 상황에서 이게 차이를 만든다.

이미 있던 4080 SUPER를 재활용한 구성이다. 처음부터 짤 거였다면 굳이 두 장을 사지는 않았을 것이다.

파워를 1600W로 잡은 이유

여기가 실수하기 쉬운 부분이다.

고성능 GPU는 순간 전력 스파이크가 정격보다 훨씬 높다. 평균 소비만 보고 파워를 고르면 게임이나 추론 중에 시스템이 갑자기 꺼진다. 게다가 GPU 두 장이면 스파이크가 겹칠 수 있다.

그래서 정격 합계가 아니라 스파이크를 기준으로 여유를 뒀다. ATX 3.1 규격은 이 스파이크를 견디도록 정의돼 있어서, 최신 GPU를 쓴다면 규격을 확인하는 게 낫다.

케이스를 큰 걸로 고른 이유

Define 7 XL은 크다. 책상 아래 공간을 꽤 잡아먹는다.

그럼에도 고른 이유는 GPU 길이와 공기 흐름 때문이다. 고성능 그래픽카드는 길고 두껍다. 두 장을 꽂으면 카드 사이 간격이 좁아져 위쪽 카드가 아래쪽 카드의 열을 그대로 마신다. 케이스가 크면 이 간격과 배기 경로에 여유가 생긴다.

큰 케이스의 부수 효과가 하나 더 있다. 소음이 준다. 같은 열을 빼는 데 큰 팬을 천천히 돌리는 쪽이 작은 팬을 빠르게 돌리는 쪽보다 조용하다.

공랭 쿨러를 고른 이유

CPU 쿨러로 수랭이 아니라 공랭(NH-D15 G2)을 골랐다.

이유는 고장 지점의 개수다. 수랭은 펌프가 있고, 펌프는 언젠가 죽는다. 죽으면 냉각이 멈춘다. 공랭은 팬이 죽어도 히트싱크가 남아서 급격히 온도가 치솟지는 않는다.

이 머신은 오래 켜두는 시간이 길다. 밤새 뭔가 돌려두는 일이 잦은데, 그때 조용히 망가지는 경로를 하나라도 줄이고 싶었다.

메모리 128GB로 충분한 이유

시스템 메모리는 128GB다. GPU 서버에는 512GB를 넣었는데도 부족했던 것과 대비된다.

같은 사람이 쓰는 두 머신인데 요구량이 4배 넘게 차이 나는 이유는 하는 일이 다르기 때문이다.

	개발용 워크스테이션	GPU 서버
주 작업	코드 수정, 짧은 실행, 브라우저·에디터	모델 서빙, 대규모 빌드
메모리를 먹는 것	애플리케이션, 파일 캐시	병렬 컴파일, 여러 모델 인스턴스
필요량	128GB로 여유	512GB로도 부족했다

서버에서 메모리가 터진 건 CPU 스레드를 많이 쓰는 병렬 작업 때문이었다. vLLM을 소스에서 빌드할 때 컴파일 프로세스가 스레드 수만큼 뜨면서 메모리를 먹는다. 개발용 머신에서는 그런 작업을 하지 않는다.

“AI 작업”이라는 한 단어로 묶으면 사양 판단을 그르친다. 모델을 만들고 서빙하는 일과, 그걸 쓰는 코드를 짜는 일은 요구사항이 다르다. 후자라면 일반 데스크톱 사양으로 충분하다.

SSD 용량이 생각보다 빨리 찬다

4TB를 넣었는데도 여유롭지 않다. 모델 파일이 크기 때문이다.

로컬에서 여러 모델을 비교하다 보면 금방 쌓인다. 양자화 버전까지 받아두면 더 그렇다. AI 작업용이라면 스토리지를 처음부터 넉넉히 잡는 게 낫다. 나중에 늘리는 것보다 싸다.

속도(PCIe 5.0)가 필요한 이유도 있다. 큰 모델을 VRAM에 올릴 때 디스크에서 읽는 시간이 체감된다. 매번 몇십 초씩 기다리면 실험 반복이 느려진다.

스피커를 워크스테이션 옆에 둔 이유

작업 환경 이야기라 곁다리지만 적어둔다.

이 머신은 하루 대부분 켜져 있고 그 앞에 오래 앉아 있다. 그래서 소리 나는 것에 돈을 쓰는 게 생산성에 영향이 있다고 봤다. KEF LSX II는 무선으로 붙어서 케이블이 늘지 않는 것도 이유였다.

써보니 어떤가

솔직히 특별히 할 말이 없다는 게 이 머신의 장점이다.

집에서 쓰기에 무난하다. 소음이 거슬리거나 발열 때문에 방을 못 쓰는 수준은 아니다. GPU 서버 쪽은 방 온도가 30도까지 올라가서 여름에 에어컨이 필수인데, 이 머신은 그런 문제가 없다.

후회하는 선택도 딱히 없다. 서버 쪽에서는 메모리를 512GB로 한 걸 후회하는데, 이 머신은 128GB로 부족함을 느낀 적이 없다.

장비 이야기를 쓰다 보면 극적인 결론을 내고 싶어지는데, 실제로는 “문제없이 잘 쓰고 있다”가 가장 흔하고 또 가장 바람직한 결과다. 매일 쓰는 도구가 화제가 되지 않는다는 건 제 역할을 하고 있다는 뜻이다.

이런 사람에게는 비추천

• 학습(training)이나 모델 서빙이 주 용도라면 이 구성은 안 맞다. GPU를 여러 장 꽂을 수 있는 워크스테이션 플랫폼이 필요하다
• 가끔만 AI를 돌린다면 클라우드가 싸다. 이 구성의 초기 비용을 회수하려면 상당한 사용량이 필요하다
• 조용한 방에 두려면 케이스와 쿨러에 더 투자해야 한다. 부하가 걸리면 소리가 난다

정리

• AI 개발용 머신은 생각보다 평범해도 된다. 모델을 만드는 일과 그걸 쓰는 코드를 짜는 일은 요구사항이 다르다
• 개발용 머신은 긴 학습이 아니라 짧은 반복이 주 작업이다. 클럭과 반응성이 코어 수보다 체감이 크다
• GPU를 두 장 쓸 때 화면 출력용을 분리하면 메인 GPU의 VRAM을 온전히 쓸 수 있다
• 파워는 정격 합계가 아니라 순간 전력 스파이크 기준으로 고른다. ATX 3.1 규격을 확인한다
• 케이스를 키우면 카드 간 간격과 배기에 여유가 생기고, 결과적으로 조용해진다
• 오래 켜두는 머신에는 고장 지점(펌프)이 적은 공랭이 유리할 수 있다
• AI 작업용 스토리지는 처음부터 넉넉히 잡는다. 모델 파일이 빠르게 쌓인다