مقایسه جامع انکلوژرهای HPE MSA 2060 و MSA 2070

بررسی علمی نقش GPU در دیتاسنتر

||

چرا استفاده از کارت گرافیک در سرورها ضروری شده است؟

در سال‌های اخیر، معماری سرورها از یک سیستم مبتنی بر پردازنده مرکزی یا CPU به سمت زیرساخت‌های Accelerated Computing یا «محاسبات شتاب‌یافته» حرکت کرده است. رشد هوش مصنوعی، یادگیری ماشین، پردازش تصویر، تحلیل داده‌های حجیم، رندرینگ سه‌بعدی و محاسبات علمی باعث شده است که در بسیاری از کاربردهای مدرن، توان پردازشی CPU به‌تنهایی پاسخ‌گوی نیاز سازمان‌ها نباشد.

در چنین شرایطی، کارت گرافیک سرور یا Data Center GPU به یکی از مهم‌ترین شتاب‌دهنده‌های سخت‌افزاری تبدیل شده است. GPU در سرور قرار نیست جایگزین CPU شود؛ بلکه در کنار CPU، بخش‌هایی از محاسبات را که قابلیت اجرای موازی دارند با سرعت بسیار بیشتری پردازش می‌کند. Intel نیز GPUهای دیتاسنتری را به‌عنوان شتاب‌دهنده‌هایی معرفی می‌کند که در کنار CPU برای AI، تحلیل داده، رندرینگ، شبیه‌سازی و HPC استفاده می‌شوند.


کارت گرافیک سرور چیست؟

کارت گرافیک سرور (Server GPU) نوعی شتاب‌دهنده محاسباتی است که برای اجرای بارهای پردازشی سنگین در محیط‌های دیتاسنتری طراحی شده است.

برخلاف تصور رایج، GPUهای سروری صرفاً برای نمایش تصویر یا خروجی گرافیکی استفاده نمی‌شوند. بخش مهمی از کاربرد امروزی آنها مربوط به پردازش موازی داده‌ها است.

CPU معمولاً تعداد محدودی هسته قدرتمند دارد که برای اجرای طیف بسیار متنوعی از دستورات مناسب هستند. در مقابل، GPU تعداد بسیار زیادی واحد پردازشی دارد که می‌توانند عملیات مشابه را به‌صورت موازی انجام دهند.

به همین دلیل، زمانی که یک نرم‌افزار بتواند یک مسئله بزرگ را به تعداد زیادی عملیات مستقل تقسیم کند، GPU می‌تواند مزیت قابل‌توجهی نسبت به اجرای صرفاً CPU-based ایجاد کند.


چرا CPU به‌تنهایی برای بسیاری از سرورهای مدرن کافی نیست؟

CPU همچنان مهم‌ترین پردازنده عمومی سرور است و وظایفی مانند:

  • اجرای سیستم‌عامل
  • مدیریت سرویس‌ها
  • اجرای Database
  • پردازش‌های منطقی
  • مدیریت I/O
  • اجرای ماشین‌های مجازی
  • مدیریت شبکه و Storage

را انجام می‌دهد.

اما بسیاری از بارهای کاری جدید دارای ویژگی متفاوتی هستند.

برای مثال، فرض کنید یک سیستم باید میلیون‌ها تصویر را تحلیل کند و در هر تصویر عملیات مشابهی روی تعداد زیادی پیکسل انجام دهد.

اگر این عملیات به شکل متوالی روی CPU انجام شوند، زمان پردازش می‌تواند بسیار زیاد شود.

اما GPU می‌تواند تعداد زیادی از این عملیات را به شکل موازی انجام دهد.

بنابراین معماری مناسب در بسیاری از سرورهای مدرن به شکل زیر است:

CPU = مدیریت و کنترل پردازش

GPU = شتاب‌دهی محاسبات موازی

این مدل همان مفهوم اصلی Heterogeneous Computing یا محاسبات ناهمگون است.


تفاوت CPU و GPU در سرور چیست؟

تفاوت اصلی CPU و GPU صرفاً در تعداد هسته‌ها نیست؛ بلکه به نوع طراحی آنها و نوع مسئله‌ای که برای آن بهینه شده‌اند مربوط می‌شود.

ویژگی CPU GPU
نوع پردازش عمومی و انعطاف‌پذیر موازی و تخصصی‌تر
تعداد هسته کمتر بسیار بیشتر
مناسب برای پردازش‌های سریالی و عمومی پردازش موازی
کنترل سیستم بسیار مناسب معمولاً در کنار CPU
AI و Deep Learning قابل استفاده بسیار مناسب
پردازش تصویر مناسب بسیار مناسب
Rendering مناسب بسیار مناسب
HPC مناسب بسیار قدرتمند
مصرف انرژی معمولاً کمتر معمولاً بیشتر
نیاز به خنک‌سازی کمتر بیشتر

البته این جدول به معنی برتری مطلق GPU نیست. بسیاری از وظایف همچنان باید روی CPU اجرا شوند. در واقع بهترین عملکرد معمولاً از ترکیب CPU و GPU به دست می‌آید.


مهم‌ترین دلایل استفاده از GPU در سرورها

1. هوش مصنوعی و Machine Learning

مهم‌ترین عامل رشد استفاده از GPU در دیتاسنترها، توسعه سریع Artificial Intelligence و Machine Learning است.

مدل‌های یادگیری عمیق، به‌خصوص شبکه‌های عصبی، شامل تعداد بسیار زیادی عملیات ریاضی هستند. این عملیات را می‌توان به‌شکل موازی اجرا کرد و همین موضوع GPU را به یکی از اجزای کلیدی زیرساخت AI تبدیل کرده است.

در معماری‌های جدید NVIDIA، واحدهایی مانند Tensor Core نیز برای شتاب‌دهی محاسبات AI طراحی شده‌اند. برای مثال، معماری Hopper با استفاده از Tensor Core و Transformer Engine برای شتاب‌دهی آموزش و استنتاج مدل‌های AI طراحی شده است.

کاربردهای GPU در AI شامل موارد زیر است:

  • آموزش مدل‌های هوش مصنوعی
  • Fine-Tuning
  • Inference
  • Generative AI
  • Large Language Models
  • Computer Vision
  • تشخیص اشیا
  • تشخیص چهره
  • پردازش تصویر
  • پردازش ویدئو
  • تحلیل متن و زبان طبیعی

در نتیجه، سروری که برای AI طراحی می‌شود، معمولاً به یک یا چند GPU دیتاسنتری مجهز است.


2. پردازش تصویر و Computer Vision

یکی از کاربردهای بسیار مهم GPU در سرورها، پردازش تصویر است.

در سیستم‌های Computer Vision، ممکن است سرور مجبور باشد هم‌زمان هزاران یا میلیون‌ها تصویر را پردازش کند.

کارهایی مانند:

  • Face Recognition
  • Object Detection
  • Image Classification
  • OCR
  • تشخیص پلاک خودرو
  • تحلیل تصاویر پزشکی
  • Video Analytics
  • تشخیص حرکات
  • پردازش تصاویر ماهواره‌ای

به‌شدت به پردازش موازی وابسته هستند.

برای چنین workloadهایی، GPU می‌تواند بخش بزرگی از عملیات محاسباتی را از CPU دریافت کرده و با اجرای موازی آنها، زمان پردازش را کاهش دهد.


3. پردازش ویدئو

پردازش ویدئو نیز یکی از حوزه‌هایی است که استفاده از GPU می‌تواند تفاوت چشمگیری ایجاد کند.

یک ویدئوی Full HD شامل میلیون‌ها پیکسل در هر فریم است و زمانی که چندین Stream به‌صورت هم‌زمان پردازش شوند، حجم محاسبات به سرعت افزایش پیدا می‌کند.

GPU می‌تواند در فرآیندهایی مانند:

  • Video Encoding
  • Video Decoding
  • Transcoding
  • Streaming
  • Video Analytics
  • Real-Time Video Processing

به‌عنوان شتاب‌دهنده مورد استفاده قرار گیرد.

به همین دلیل GPUهای دیتاسنتری در زیرساخت‌های Media Processing و Cloud Gaming نیز مورد استفاده قرار می‌گیرند.


4. محاسبات علمی و HPC

High Performance Computing یا HPC یکی دیگر از حوزه‌های اصلی استفاده از GPU است.

در محاسبات علمی، بسیاری از مسائل شامل حجم بسیار زیادی از محاسبات عددی هستند.

برای مثال:

  • شبیه‌سازی آب‌وهوا
  • شبیه‌سازی فیزیکی
  • تحقیقات دارویی
  • Molecular Dynamics
  • تحلیل ژنتیکی
  • شبیه‌سازی مهندسی
  • Computational Fluid Dynamics
  • تحقیقات علمی

می‌توانند از معماری محاسبات موازی GPU بهره ببرند.

در سیستم‌های HPC مدرن، حتی ارتباط بین چند GPU نیز اهمیت بسیار زیادی پیدا کرده است. برای نمونه، NVIDIA در معماری Hopper از NVLink و NVSwitch برای ارتباط پرسرعت میان GPUها استفاده می‌کند.


5. تحلیل داده‌های حجیم

افزایش حجم Data باعث شده است پردازش Analytics نیز به یکی از کاربردهای مهم شتاب‌دهنده‌ها تبدیل شود.

در برخی الگوریتم‌های تحلیلی، تعداد زیادی عملیات مشابه باید روی مجموعه داده بسیار بزرگی انجام شود.

GPU می‌تواند برای:

  • Data Analytics
  • Big Data Processing
  • Statistical Computing
  • Financial Modeling
  • Risk Analysis
  • Pattern Recognition

به کار گرفته شود.

به همین دلیل، GPUهای دیتاسنتری دیگر فقط سخت‌افزار مخصوص AI نیستند و در طیف گسترده‌تری از کاربردهای Data Center مورد استفاده قرار می‌گیرند.


6. رندرینگ و پردازش گرافیکی

GPU در حوزه 3D Rendering نیز نقش بسیار مهمی دارد.

در سازمان‌هایی که با موارد زیر سروکار دارند:

  • طراحی سه‌بعدی
  • CAD
  • معماری
  • انیمیشن
  • تولید محتوای ویدئویی
  • VFX
  • شبیه‌سازی صنعتی
  • Virtual Production

می‌توان از GPUهای حرفه‌ای در سرور یا زیرساخت‌های GPU Server استفاده کرد.

همچنین در محیط‌های مجازی‌سازی، GPU می‌تواند به چند کاربر یا ماشین مجازی اختصاص داده شود؛ البته نوع اشتراک GPU و قابلیت‌های vGPU به مدل GPU، Hypervisor، درایور و مجوز نرم‌افزاری وابسته است.


7. Virtualization و GPU Sharing

یکی از قابلیت‌های مهم GPUهای دیتاسنتری، امکان استفاده اشتراکی از منابع GPU است.

در یک محیط Virtualization می‌توان GPU را به روش‌های مختلف در اختیار ماشین‌های مجازی قرار داد.

برای مثال:

VM 1 → GPU Resource

VM 2 → GPU Resource

VM 3 → GPU Resource

این موضوع برای سازمان‌هایی که چند تیم یا کاربر نیازمند GPU هستند، اهمیت زیادی دارد.

فناوری‌هایی مانند NVIDIA vGPU و MIG امکان پیاده‌سازی سناریوهای مختلف اشتراک منابع GPU را فراهم می‌کنند؛ اما این قابلیت‌ها کاملاً وابسته به مدل کارت گرافیک سرور، سیستم‌عامل Guest، Hypervisor، درایور و Licensing هستند و نباید صرفاً بر اساس نام GPU درباره آنها تصمیم‌گیری کرد.


آیا هر سروری به کارت گرافیک نیاز دارد؟

خیر.

یکی از اشتباهات رایج این است که تصور کنیم هر سرور قدرتمند باید GPU داشته باشد.

اگر یک سرور برای مواردی مانند:

  • File Server
  • Domain Controller
  • DNS
  • سرویس‌های معمول شبکه
  • بسیاری از Database Workloadها
  • Application Serverهای عمومی
  • سرویس‌های مدیریتی

استفاده شود، اضافه کردن GPU الزاماً باعث افزایش کارایی نمی‌شود.

GPU زمانی ارزش واقعی ایجاد می‌کند که نرم‌افزار و Workload بتوانند از قابلیت‌های آن استفاده کنند.

بنابراین تصمیم درست این نیست که بپرسیم:

«آیا GPU قدرتمندتر از CPU است؟»

بلکه باید بپرسیم:

«آیا Workload ما قابلیت استفاده مؤثر از GPU را دارد؟»


چه زمانی خرید GPU برای سرور توجیه اقتصادی دارد؟

تصمیم برای خرید GPU باید بر اساس Workload Analysis انجام شود.

عوامل مهم عبارت‌اند از:

حجم محاسبات

هرچه تعداد عملیات موازی بیشتر باشد، احتمال بهره‌گیری مناسب از GPU افزایش پیدا می‌کند.

نوع الگوریتم

اگر نرم‌افزار برای CUDA، ROCm، OpenCL، SYCL یا سایر مدل‌های شتاب‌دهی بهینه شده باشد، امکان استفاده مؤثرتر از GPU وجود دارد.

حجم داده

Workloadهایی که با حجم زیادی از داده سروکار دارند، می‌توانند از حافظه و پهنای باند GPU بهره ببرند.

Latency مورد نیاز

در برخی کاربردهای Real-Time مانند Video Analytics، کاهش زمان پردازش اهمیت بسیار زیادی دارد.

تعداد کاربران

در محیط‌های VDI، AI و Rendering، تعداد کاربران هم‌زمان می‌تواند تعیین‌کننده تعداد GPU مورد نیاز باشد.


فقط قدرت GPU مهم نیست

یکی از اشتباهات رایج در طراحی GPU Server این است که فقط مدل GPU انتخاب شود.

برای مثال، انتخاب یک GPU قدرتمند بدون بررسی Server Platform می‌تواند باعث ایجاد مشکل شود.

یک سرور GPU باید از نظر موارد زیر بررسی شود:

  • GPU Compatibility
  • PCIe Generation
  • PCIe Slot
  • GPU Form Factor
  • Single-Width / Double-Width
  • GPU Power Consumption
  • Auxiliary Power Connector
  • CPU
  • RAM
  • PSU
  • Cooling
  • Airflow
  • Storage
  • Network
  • Operating System
  • Driver
  • Hypervisor
  • GPU Licensing

به عبارت دیگر:

GPU Server = GPU + CPU + Memory + Power + Cooling + Software

و نه صرفاً یک کارت گرافیک نصب‌شده داخل رک.


اهمیت توان مصرفی و خنک‌سازی GPU

یکی از مهم‌ترین تفاوت‌های سرور GPU با سرورهای معمولی، افزایش Power و Thermal Load است.

GPUهای دیتاسنتری قدرتمند می‌توانند توان قابل‌توجهی مصرف کنند و گرمای زیادی تولید کنند. Intel نیز صراحتاً تأکید می‌کند که GPUهای دیتاسنتری نسبت به سیستم‌های CPU-only فضای بیشتر، توان بیشتر و ظرفیت خنک‌سازی بالاتری نیاز دارند.

بنابراین هنگام طراحی GPU Server باید موارد زیر محاسبه شود:

Total Power = CPU + GPU + RAM + Storage + NIC + Fans + Other Components

سپس باید ظرفیت:

  • PSU
  • PDU
  • UPS
  • Rack Power
  • Cooling

بررسی شود.

در سرورهای GPU پرقدرت، Cooling می‌تواند به یکی از محدودیت‌های اصلی طراحی تبدیل شود.

برای نمونه، HPE در نسل‌های جدید سرورهای GPU خود از راهکارهای Air Cooling و Direct Liquid Cooling استفاده می‌کند؛ این موضوع نشان‌دهنده افزایش اهمیت مدیریت حرارت در زیرساخت‌های GPU است.


چرا استفاده از GPU در نسل جدید سرورها در حال افزایش است؟

رشد AI باعث شده معماری دیتاسنتر از مدل سنتی CPU-centric به سمت Accelerator-centric Computing حرکت کند.

امروزه زیرساخت‌های مدرن برای AI، HPC، Analytics و Rendering معمولاً از ترکیبی از:

CPU + GPU + High-Speed Network + High-Speed Storage

استفاده می‌کنند.

NVIDIA نیز معماری‌های جدید دیتاسنتری خود را بر اساس ترکیب CPU، GPU و شبکه پرسرعت طراحی می‌کند و نسل‌های جدید زیرساخت AI به سمت معماری‌های بسیار متراکم و Rack-Scale حرکت کرده‌اند.

در بازار سرورهای سازمانی نیز این روند کاملاً قابل مشاهده است. برای مثال، HPE در خانواده ProLiant Compute خود سرورهایی با تمرکز ویژه بر GPU Acceleration و AI ارائه می‌کند و مدل‌هایی مانند DL380a Gen12 برای سناریوهای GPU-intensive طراحی شده‌اند.


GPU سرور چه تفاوتی با کارت گرافیک معمولی دارد؟

هر GPU را نمی‌توان بدون بررسی در سرور نصب کرد.

GPUهای دیتاسنتری معمولاً برای کارکرد 24/7، مدیریت دیتاسنتری، تراکم بالا، قابلیت‌های Enterprise و Workloadهای محاسباتی طراحی می‌شوند.

در هنگام انتخاب GPU باید به تفاوت میان:

  • Consumer GPU
  • Professional GPU
  • Data Center GPU

توجه کرد.

برای مثال، ممکن است یک GPU دسکتاپ روی کاغذ Performance بسیار خوبی داشته باشد، اما از نظر:

  • Power
  • Cooling
  • Driver
  • ECC
  • Virtualization
  • Enterprise Support
  • Form Factor
  • Server Compatibility

برای یک پروژه سازمانی گزینه مناسبی نباشد.


آیا GPU باعث کاهش هزینه‌های دیتاسنتر می‌شود؟

لزوماً نه؛ اما می‌تواند Performance per Watt و Performance per Server را بهبود دهد.

کارت گرافیک سرور معمولاً هزینه اولیه بالاتری نسبت به اضافه کردن CPU دارد و مصرف برق و نیازهای Cooling آن نیز می‌تواند بیشتر باشد.

اما اگر GPU بتواند یک Workload را چندین برابر سریع‌تر اجرا کند، ممکن است زمان استفاده از Server، هزینه انرژی و تعداد سرورهای مورد نیاز کاهش پیدا کند.

بنابراین معیار مناسب فقط قیمت GPU نیست.

باید Total Cost of Ownership (TCO) را بررسی کرد.

فرمول ساده:

TCO = Hardware + Power + Cooling + Licensing + Maintenance + Infrastructure

و در مقابل باید شاخص‌هایی مانند:

Performance per Dollar

و

Performance per Watt

را بررسی کرد.


چگونه GPU مناسب برای سرور انتخاب کنیم؟

انتخاب کارت گرافیک سرور باید از Workload شروع شود، نه از برند یا مدل.

یک فرآیند اصولی می‌تواند به شکل زیر باشد:

مرحله اول: شناسایی Workload

آیا هدف شما:

  • AI Training است؟
  • AI Inference؟
  • Computer Vision؟
  • Rendering؟
  • HPC؟
  • Video Processing؟
  • VDI؟
  • Data Analytics؟

مرحله دوم: تعیین حجم Workload

برای مثال:

  • چند کاربر؟
  • چند VM؟
  • چند Stream؟
  • چند تصویر در ثانیه؟
  • چه حجم Dataset؟
  • چه مدل AI؟

مرحله سوم: تعیین Memory Requirement

در GPUهای مدرن، ظرفیت VRAM/HBM اهمیت بسیار زیادی دارد.

مدل AI ممکن است از نظر محاسباتی روی یک GPU قابل اجرا باشد اما به دلیل کمبود حافظه GPU اجرا نشود.

مرحله چهارم: بررسی Compatibility

باید بررسی شود که کارت گرافیک سرور موردنظر توسط Server سازنده پشتیبانی می‌شود یا خیر.

مرحله پنجم: بررسی Power و Cooling

توان مصرفی GPU باید با PSU و Cooling سرور سازگار باشد.

مرحله ششم: بررسی Software Stack

در نهایت باید بررسی شود:

OS → Driver → CUDA/ROCm/SYCL → Framework → Application

با GPU موردنظر سازگار باشند.


نمونه‌ای از معماری یک GPU Server مدرن

یک سرور برای AI و پردازش سنگین می‌تواند به شکل زیر طراحی شود:

CPU

↓

RAM

↓

PCIe / High-Speed Interconnect

↓

GPU × N

↓

High-Speed Storage

↓

High-Speed Network

در سیستم‌های چند GPU، ارتباط بین GPUها نیز می‌تواند تأثیر قابل‌توجهی بر عملکرد داشته باشد. در معماری‌های NVIDIA، فناوری‌هایی مانند NVLink برای ایجاد ارتباط پرسرعت میان GPUها مورد استفاده قرار می‌گیرند.


آینده سرورها؛ CPU تنها دیگر کافی نیست

آینده زیرساخت‌های محاسباتی احتمالاً متعلق به یک معماری واحد نیست؛ بلکه به ترکیب CPU، GPU و سایر شتاب‌دهنده‌ها تعلق دارد.

حتی شرکت‌هایی مانند Intel در کنار CPUهای Xeon، خانواده‌های مختلف Accelerator را برای AI، HPC و پردازش‌های تخصصی ارائه می‌کنند.

از سوی دیگر، NVIDIA نیز تمرکز خود را بر پلتفرم‌های Accelerated Computing و زیرساخت‌های AI در مقیاس دیتاسنتر افزایش داده است.

بنابراین سرور آینده صرفاً یک سیستم دارای CPU قدرتمند نیست؛ بلکه یک پلتفرم محاسباتی ناهمگون است که منابع مختلف را بر اساس نوع Workload در اختیار نرم‌افزار قرار می‌دهد.


جمع‌بندی

استفاده از کارت گرافیک سرورها زمانی اهمیت پیدا می‌کند که سازمان با Workloadهایی مواجه باشد که قابلیت پردازش موازی دارند.

هوش مصنوعی، یادگیری عمیق، Computer Vision، پردازش تصویر و ویدئو، تحلیل داده، رندرینگ و HPC از مهم‌ترین کاربردهایی هستند که می‌توانند از GPU بهره ببرند.

با این حال، اضافه کردن یک GPU قدرتمند به هر سروری الزاماً به معنای افزایش Performance نیست. انتخاب GPU باید بر اساس نوع Workload، ظرفیت حافظه، Compatibility، Power، Cooling، نرم‌افزار و TCO انجام شود.

به همین دلیل، طراحی یک GPU Server حرفه‌ای باید از این سؤال آغاز شود:

«چه کاری قرار است با GPU یا همان کارت گرافیک سرور انجام شود؟»

و سپس بر اساس پاسخ این سؤال، مدل GPU، تعداد GPUها، CPU، RAM، PSU، Cooling، Storage، Network و Software Stack انتخاب شوند.

امروزه این رویکرد به یکی از پایه‌های اصلی طراحی زیرساخت‌های مدرن AI و Accelerated Computing تبدیل شده است.

مطالب مرتبط

keyboard_arrow_up
Scan the code
Powered by Joinchat