Stable Diffusion을 위한 그래픽카드 벤치마크

Stable Diffusion Webui를 쓰다 보면 처음에는 잘 모르다가 시간이 지나고 조금씩 익숙해져 갈수록 이미지를 생성하는 속도에 민감해집니다. 저뿐만 아니라 아마 대부분의 SD를 쓰시는 분이나 관련 강의 하시는 분들도 같은 생각을 하실 거예요. 

저는 3060 Ti 8G를 사용 중인데, 가격이 한참 비쌀 때 컴퓨터를 교체해야 하는 상황이라 어쩔수 없이 당시 비싼 금액을 주고 구입을 했었지만 지금은 3060 Ti 12G도 적당한(?) 가격에 판매하고 있더군요. 다른 분들 이미지를 빠른 속도로 뽑아내는 것을 보면 정말 부러운 생각이 듭니다.

그래픽 카드를 바꾸고 싶은 생각에 검색을 하다가 찾은 정보에요. 사실 한참 전에 봤던 정보인데 여기저기서 늘 물어보는 주제라 요약을 해보려고 합니다. 

기사 : Stable Diffusion Benchmarks: 45 Nvidia, AMD, and Intel GPUs Compared

Stable Diffusion Benchmarks: 45 Nvidia, AMD, and Intel GPUs Compared

 

기사에서는 딥 러닝으로 구동되는 Stable Diffusion 및 기타 AI 기반 이미지 생성 도구의 사용에 대해 설명합니다. AI 추론을 위한 성능을 평가하기 위해 Nvidia, AMD, Intel의 45가지 GPU에서 Stable Diffusion을 벤치마킹했다고 합니다. RTX 4090을 비롯한 Nvidia GPU는 512x512 Stable Diffusion 이미지를 생성하는 데 있어 AMD 및 Intel GPU에 비해 훨씬 뛰어난 성능을 나왔다고 합니다. AMD의 가장 빠른 GPU인 RX 7900 XTX는 Nvidia의 성능에 뒤처졌고, RX 6000 시리즈 GPU는 성능이 더 떨어졌습니다. Intel의 Arc A770 16GB는 AMD GPU보다 나은 성능을 보였지만 여전히 Nvidia의 제품보다 뒤처졌습니다. 성능은 주로 컴퓨팅 성능에 따라 달라지지만 메모리 대역폭 및 아키텍처와 같은 다른 요인도 영향을 미쳤다고 합니다.

출처 : tom's HARDWARE

이미지 해상도를 768x768로 높이려면 더 많은 VRAM이 필요했고 상대적인 GPU 성능에도 변화가 있었다고 합니다. 기사에서는 이론적인 GPU 성능을 비교했으며, 특히 Nvidia의 텐서 코어와 FP16 계산이 AI 성능에 중요한 역할을 했다는 점에 주목했습니다.

출처 : tom's HARDWARE

 

그 결과 Stable Diffusion 이미지 생성 작업에서 Nvidia GPU가 AMD 및 인텔 GPU보다 우수한 성능을 보였다고 합니다. Stable Diffusion Webui를 쓸려면 Nvidia 그래픽 카드를 당연히 쓰는 게 현재로서는 정답인 것 같습니다. 전문가, 비전문가를 떠나서 금전적 여유가 있다면 빠르고 많은 결과물을 내는데 많은 VRAM, 좋은 GPU 인 4090을 쓰는 것이 좋을 것이고, 가성비와 시간의 여유를 가진 분들이라면 3060Ti 12G가 좋은 선택이 아닐까 싶어요. 처음부터 무리할 필요는 없자나요? :) 

그래도 빠른 GPU를 쓰고 싶다면, GPU 클라우드를 써보는 것을 추천 드립니다.