내 책상 위의 AI 슈퍼컴퓨터, 엔비디아 DGX Spark는 왜 느려졌을까?

상상해보세요. 아침에 일어나 스마트폰 AI 비서에게 “오늘 해야 할 복잡한 업무 자료를 요약해서 정리해줘”라고 말합니다. 예전 같으면 이 작업은 거대한 데이터센터를 거쳐야 했겠지만, 이제는 책상 위에 놓인 작은 상자 하나가 그 모든 일을 척척 처리합니다. 꿈같은 이야기 같지만, 엔비디아(NVIDIA)가 선보인 초소형 AI 슈퍼컴퓨터 ‘DGX Spark’가 바로 그 가능성을 열어가고 있습니다. 하지만 최근 이 강력한 기기가 소프트웨어와의 궁합 문제로 성능 저하를 겪고 있다는 소식이 들려옵니다. 과연 무슨 일이 벌어지고 있는 걸까요?

이게 왜 중요한가요?

하지만 성능이 아무리 좋아도 소프트웨어가 이를 뒷받침하지 못한다면 사용자에게는 무용지물입니다. 최근 일부 환경에서 인퍼런스(AI가 답변을 생성하는 과정) 속도가 현저히 느려지는 현상이 보고되었는데, 이는 하드웨어의 잠재력을 제대로 끌어내기 위한 소프트웨어 최적화가 얼마나 중요한지 보여주는 사례입니다 [출처: TRT LLM for Inference- two Sparks example is VERY slow-DGX…].

쉽게 말해서, 비유하면

DGX Spark를 이해하기 위해 주방에 비유해 볼게요. 아주 성능이 뛰어난 요리사(그레이스 블랙웰 아키텍처)가 아주 작은 주방(150 × 150 × 50.5 mm의 본체)에 들어와 있다고 생각해보세요 [출처: Тест и обзор: NVIDIA DGX Spark — мини-ПК… - Hardwareluxx Russia]. 이 요리사는 한 번에 수많은 재료(데이터)를 처리할 수 있는 최고의 능력을 갖추고 있습니다.

하지만 요리사가 요리를 하려면 ‘레시피(소프트웨어/텐서RT-LLM)’가 필요합니다. 최근 문제가 된 리눅스 환경에서의 인퍼런스 속도 저하는, 요리사는 유능하지만 잘못된 레시피를 보고 있었기 때문에 벌어진 일입니다. 다행히 엔비디아는 새로운 레시피(최신 릴리스 이미지)를 제공함으로써 요리사가 다시 제 속도를 낼 수 있도록 돕고 있습니다 [출처: TRT LLM for Inference- two Sparks example is VERY slow-DGX…].

현재 상황은 어떤가요?

물론 모든 사용자가 만족하는 것은 아닙니다. 테크 전문가 제프 기어링(Jeff Geerling)은 이 기기가 일반 사용자가 단순히 언어 모델을 돌리기 위해 구매하기에는 가격 대비 성능 면에서 아쉬운 점이 있다고 지적하기도 했습니다 [출처: Dell’s version of the DGX Spark fixes pain points - Jeff Geerling]. 전문가용으로 특화된 기기인 만큼, 일반인에게는 다소 ‘과한’ 선택일 수 있다는 것이죠.

앞으로 무엇이 기대되나요?

AI의 한마디

기술은 하드웨어와 소프트웨어가 완벽한 조화를 이룰 때 비로소 완성됩니다. DGX Spark는 현재 하드웨어의 혁명을 보여주고 있지만, 소프트웨어적인 마감은 여전히 다듬어 나가는 과정에 있습니다. 기술 애호가라면, 이 기기가 보여줄 놀라운 성능만큼이나 엔비디아가 얼마나 빨리 이 소프트웨어의 ‘레시피’를 개선해 나갈지 지켜보는 것이 무척 흥미로운 포인트가 될 것입니다.

참고자료

1. [Nvidia DGX Spark или AMD Ryzen AI Max+ 395…

   Блог Serverflow](https://serverflow.ru/blog/stati/nvidia-dgx-spark-ili-amd-ryzen-ai-max-395-kakoy-mini-pk-dlya-lokalnykh-llm-vybrat/)

2. mac-studio-m5-ultra-vs-nvidia-dgx-spark-local-llms
3. Ryzen AI Max+ 395 или DGX Spark: выбираем мини-ПК для…

4. [Laptop & Workstation Inference Systems

   Artificial Analysis](https://artificialanalysis.ai/hardware-inference-stack/laptops-workstations)

5. Тест и обзор: NVIDIA DGX Spark — мини-ПК… - Hardwareluxx Russia

6. [NVIDIA DGX Spark Система искусственного интеллекта

   AliExpress](https://aliexpress.ru/item/1005010631725345.html)

7. [DGX Spark vs M5 Max MacBook Pro: что выбрать для…

   AiManual](https://ai-manual.ru/article/dgx-spark-vs-m5-max-macbook-pro-chto-vyibrat-dlya-lokalnogo-inferensa-i-obucheniya-modelej-v-2025-godu/)

8. [Personal AI Supercomputer Powered by Blackwell

   NVIDIA DGX Spark](https://www.nvidia.com/en-us/products/workstations/dgx-spark/)

9. [NVIDIA DGX Spark для YOLO26を使用する

   Ultralytics](https://docs.ultralytics.com/ja/guides/nvidia-dgx-spark)

10. NVIDIA Enters The AI PC Realm With DGX Spark & DGX Station…
11. TRT LLM for Inference- two Sparks example is VERY slow-DGX…
12. Dell’s version of the DGX Spark fixes pain points - Jeff Geerling