سرور رک مونت HPE ProLiant Compute DL384 Gen12

معرفی و بررسی سرور HPE ProLiant Compute DL384 Gen12: ابرمتخصص محاسبات سنگین و هوش مصنوعی

سرور HPE ProLiant Compute DL384 Gen12 یک نقطه عطف در تاریخ سرورهای HPE ProLiant و آغازگر یک عصر جدید در محاسبات شتاب‌یافته (Accelerated Computing) و هوش مصنوعی (AI) است. سرور HPE ProLiant Compute DL384 Gen12 دیگر یک سرور عمومی x86 نیست؛ بلکه ستون فقراتی است که به عنوان اولین سرور رک‌مونت HPE ProLiant با NVIDIA GH200 NVL2 Grace Hopper Superchip مهندسی شده است. هدف از طراحی این سیستم، ارائه عملکرد بی‌سابقه برای بارهای کاری AI-Native مانند مدل‌های زبان بزرگ (Large Language Models – LLMs)، تنظیم دقیق (Fine-tuning) و استنتاج با Retrieval Augmented Generation (RAG) است.

سرور DL384 G12؛ قلب تپنده زیرساخت AI توسط HPE و NVIDIA

سرور HPE ProLiant Compute DL384 Gen12، به عنوان یک پایه مهم در راهکار NVIDIA AI Computing by HPE، با هدف به حداقل رساندن گلوگاه‌های انتقال داده بین CPU و GPU طراحی شده است. این سیستم با پشتیبانی از دو Superchip در یک شاسی 2U، توان پردازشی را برای بزرگترین و پیچیده‌ترین مسائل (مانند شبیه‌سازی‌های بزرگ مقیاس، EDA و پیش‌بینی آب و هوا) به میز می‌آورد.

• ساختار 2U: سرور در فرم فاکتور استاندارد 2U رک (Rackmount) طراحی شده است تا چگالی محاسباتی را در دیتاسنترهای امروزی به حداکثر برساند.
• عملکرد AI: قابلیت ارائه 8 پتافلاپس از عملکرد هوش مصنوعی در یک گره واحد، که نسبت به نسل‌های قبلی GPUها، پرش عملکردی عظیمی محسوب می‌شود.

تمرکز بر بارهای کاری Memory−Intensive و Mixed

برخلاف سرورهای محاسباتی عمومی، DL384 Gen12 برای بارهای کاری که نیازمند ظرفیت حافظه عظیم و پهنای باند بالا هستند، بهینه‌سازی شده است:

• مدل‌های زبان بزرگ (LLMs): این سرور به طور خاص برای اجرای مدل‌های LLM با حافظه بالا (Large Memory Requirements) و انجام استنتاج (Inferencing) بهینه شده است.
• بارهای کاری Mixed و Memory Intensive: علاوه بر AI، سرور DL384 Gen12 برای بارهای کاری ترکیبی (Mixed Workloads) یا متمرکز بر حافظه (Memory Intensive) نظیر شبیه‌سازی‌های بزرگ مقیاس (Large-scale Simulation) و HPC سنتی نیز مناسب است.

جایگاه سرور HPE ProLiant Compute DL384 Gen12 در خانواده ProLiantGen12 و مزیت رقابتی

DL384 Gen12 با استفاده از نسل دوازدهم HPE ProLiant، امنیت و قابلیت اطمینان زیرساخت‌های سازمانی را به دنیای محاسبات شتاب‌یافته می‌آورد. این سرور با ارائه AI با کارایی بسیار بالا و حفظ تجربه مدیریت یکپارچه HPE iLO، به سادگی قابل استقرار و مدیریت در محیط‌های ابری خصوصی HPE است.

قلب تپنده AI؛ مشخصات NVIDIA GH200 NVL2 Grace Hopper Superchip و عملکرد 8 PFLOPS

عامل اصلی که DL384 Gen12 را از سایر سرورها متمایز می‌کند، معماری پیشگامانه NVIDIA GH200 NVL2 Grace Hopper Superchip است که دو پردازنده متفاوت را در یک تراشه واحد ادغام می‌کند.

ادغام CPU و GPU؛ معماری Superchip در سرور HPE ProLiant Compute DL384 Gen12

DL384 Gen12 از یک معماری دو-تراشه‌ای قدرتمند پشتیبانی می‌کند که امکان دستیابی به سطوح جدیدی از عملکرد را فراهم می‌کند:

• Grace CPU: هر تراشه شامل یک NVIDIA Grace CPU است که بر پایه معماری Arm Neoverse V2 بنا شده و تا 72 هسته (Cores) را در خود جای داده است.
• Hopper GPU: هر تراشه شامل یک NVIDIA Hopper GPU است که هسته اصلی برای محاسبات AI و شتاب‌یافته است.
• NVL2: این سرور از NVIDIA GH200 NVL2 پشتیبانی می‌کند که دو Superchip را به هم متصل کرده و پلتفرمی را فراهم می‌سازد که 3.5× ظرفیت حافظه و 3× پهنای باند نسبت به راهکارهای تک‌تراشه‌ای دارد.

قدرت پردازش موازی و هسته‌های Arm

با استفاده از دو Superchip، سرور DL384 Gen12 به حداکثر قدرت پردازشی دست می‌یابد:

• تعداد کل هسته: با استفاده از دو Superchip، در مجموع تا 144 هسته Arm Neoverse V2 برای مدیریت وظایف پردازشگر اصلی در دسترس است.
• Petaflops Performance: این ترکیب قدرتمند، قابلیت ارائه 8 پتافلاپس از عملکرد هوش مصنوعی را در یک گره فراهم می‌کند.
• NVLink: Superchipها از طریق پیوندی با پهنای باند بالا (NVLink) به هم متصل شده‌اند، که امکان دسترسی سریع و منسجم به کل حافظه ترکیبی را فراهم می‌کند.

مقایسه عملکرد با نسل‌های قبلی NVIDIA

عملکرد DL384 Gen12 در مقایسه با نسل‌های قبلی GPU بسیار چشمگیر است:

• این سرور می‌تواند تا 18× عملکرد سریع‌تر نسبت به GPUهای A100 و تا 2× سرعت استنتاج سریع‌تر نسبت به NVIDIA H100 NVL را ارائه دهد.
• این بهبود عملکرد باعث می‌شود که بارهای کاری AI، به‌ویژه مدل‌های LLM بزرگ، سریع‌تر و بهینه‌تر اجرا شوند و هزینه زیرساخت کاهش یابد.

زیرسیستم حافظه و I/O؛ پهنای باند 5 TB/s و PCIe Gen5 سرور HPE DL384 Gen12

زیرسیستم حافظه و I/O در DL384 Gen12 مهم‌ترین بخش برای بارهای کاری AI است، زیرا داده‌ها باید با حداکثر سرعت ممکن به GPUها منتقل شوند.

حافظه منسجم و پرسرعت باساختار حافظه LPDDR5X و HBM3e

سرور DL384 Gen12 با هدف رفع محدودیت‌های حافظه در LLMها طراحی شده و دارای چندین لایه حافظه با دسترسی فوق سریع است:

• حافظه ترکیبی و منسجم: این سرور با پیکربندی دو Superchip، در مجموع تا 1.2 TB از حافظه سریع، منسجم (Coherent) و یکپارچه را فراهم می‌کند که به محققان اجازه می‌دهد تا LLMهای بزرگتر را اجرا کنند.
• ساختار حافظه Per Superchip:
  • LPDDR5X: تا 480 GB از حافظه LPDDR5X با قابلیت ECC (Error-Correction Code).
  • HBM3e: به علاوه 144 GB از حافظه HBM3e برای دسترسی فوق سریع.
• پهنای باند حافظه: این سیستم پهنای باند حافظه را تا 5 TB/s فراهم می‌کند، که برای پردازش داده‌های عظیم با سرعت مورد نیاز برای مدل‌های AI ضروری است.

ذخیره‌سازی پرسرعت با 8x EDSFF NVMe Gen5 و محدودیت‌های RAID

معماری ذخیره‌سازی DL384 Gen12 کاملاً بر عملکرد و NVMe متمرکز است:

• درایوهای داده: پنل جلویی سرور به 8 درایو EDSFFNVMeGen5 مجهز شده است. EDSFF (Enterprise and Data Center Small Form Factor) یک استاندارد جدید است که امکان تراکم و عملکرد بالاتر را نسبت به U.2 فراهم می‌کند.
• سرعت NVMe Gen5: استفاده از نسل پنجم NVMe، پهنای باند ذخیره‌سازی را به طور چشمگیری افزایش می‌دهد که برای خواندن و نوشتن سریع مجموعه‌های داده بزرگ در بارهای کاری AI ضروری است.
• بوت سیستم عامل: سرور از حداکثر 2 دستگاه M.2 برای درایوهای بوت پشتیبانی می‌کند و توصیه می‌شود که M.2 فقط برای Boot و نه برای Cache محلی استفاده شود.
• حساسیت فنی (عدم پشتیبانی از RAID سخت‌افزاری): یک نکته فنی مهم این است که کنترلرهای HW RAID در این نسل برای درایوهای M.2 یا EDSFF پشتیبانی نمی‌شوند. این امر نشان می‌دهد که مدیریت ذخیره‌سازی عمدتاً توسط نرم‌افزار (SDS) یا خود سیستم‌عامل انجام می‌شود.

توسعه I/O و PCIeGen5 در سرور HPE ProLiant Compute DL384 Gen12

با وجود ادغام CPU/GPU، قابلیت توسعه سیستم از طریق اسلات‌های PCIeGen5 قدرتمند حفظ شده است:

• اسلات‌های PCIe پرسرعت: سرور از حداکثر 4 دستگاه PCIe Gen5 x16 با سرعت بالا پشتیبانی می‌کند.
• اسلات‌های FHHL: سرور همچنین تا 4 اسلات PCIe Full Height Half Length (FHHL) را در پیکربندی‌های مختلف ارائه می‌دهد.
• شبکه‌سازی پیشرفته: پشتیبانی کامل از آداپتورهای مدرن NVIDIA InfiniBand، Ethernet و BlueField، اتصال با تأخیر کم و سرعت بالا را برای کارخانه AI شما تضمین می‌کند.
• OCP 3.0: قابلیت اتصال 2 کارت OCP3.0 برای توسعه شبکه در فرم فاکتورهای استاندارد.

طراحی فیزیکی، ذخیره‌سازی و مدیریت نسل دوازده سرورهای اچ پی ای (HPE ProLiant Gen12)

سرور DL384 G12 نمونه‌ای از ترکیب محاسبات شتاب‌یافته با قابلیت‌های مدیریت و امنیت سطح سازمانی ProLiant است.

ابعاد، وزن و مدیریت حرارتی

سرور DL384 Gen12 مناسب هوش مصنوعی است و در یک شاسی 2U با جزئیات فنی زیر ارائه می‌شود:

• فرم فاکتور: 2U Rack.
• ابعاد (H x W x D): 3.44×17.64×31.08 in (87.5×448×789 mm).
• وزن (Dual Superchip): حداکثر 31 kg (≈69 lbs) در حالت کاملاً پر شده.
• خنک‌کنندگی: سرور از 6 فن Hot Plug افزونه (Redundant Fans) پشتیبانی می‌کند و برای کارایی بالاتر، گزینه‌های Direct Liquid Cooling (DLC) را نیز ارائه می‌دهد (اطلاعات DLC به طور محدود در دسترس است).

زیرساخت پاور و افزونگی؛ Flex Slot Titanium

تأمین انرژی مطمئن برای دو Superchip که نیازمند توان بالایی هستند، یک چالش کلیدی است:

• ماژول‌های پاور: پشتیبانی از حداکثر 4 کیت پاور HPE 1800W-2200W Flex Slot Titanium با قابلیت Hot Plug.
• افزونگی (Redundancy):
  • تک Superchip: افزونگی 2+0، 2+1 یا 2+2.
  • دو Superchip (NVL2): 3+1 Redundancy با نیاز به 4 منبع تغذیه الزامی است.
• راندمان: استفاده از سری Titanium نشان‌دهنده راندمان بسیار بالا و حداقل اتلاف انرژی است.

امنیت، مدیریت و پایداری سازمانی

DL384 Gen12 با حفظ اصول ProLiant، تجربه مدیریت AI سازمانی را ارائه می‌دهد:

• مدیریت iLO6: سرور از نسل ششم مدیریت HPE iLO 6 (Integrated Lights-Out) بهره می‌برد که مدیریت خارج از باند و سریع سرور را تضمین می‌کند.
• امنیت Silicon Root of Trust: این فناوری امنیتی منحصر به فرد HPE، حفاظت قوی و احراز هویت Firmware را در سطح سیلیکون فراهم می‌کند.

تحلیل برای خرید سرور DL384 G12 و استعلام قیمت سرور DL384 Gen12

DL384 Gen12 یک سرمایه‌گذاری استراتژیک برای سازمان‌هایی است که به دنبال مزیت رقابتی در AI و HPC هستند. تصمیم برای خرید DL384 G12 باید با در نظر گرفتن ویژگی‌های منحصر به فرد و نیازهای خاص بارهای کاری AI گرفته شود.

مزایای رقابتی باتوجه به قیمت سرور DL384 G12

DL384 Gen12 به‌ویژه برای حل چالش‌های بزرگ در مقیاس بالا (Scale-out) و تنظیم دقیق (Fine-tuning) مدل‌های بزرگ طراحی شده است:

• حل مسئله LLM با RAG: این سرور به طور خاص برای استنتاج (Inferencing) با Retrieval Augmented Generation (RAG) برای بهبود LLMها بهینه‌سازی شده و دقت و قابلیت اطمینان مدل‌های GenAI را افزایش می‌دهد.
• حافظه عظیم برای LLMها: حافظه 1.2 ترابایتی منسجم، به تیم‌ها اجازه می‌دهد تا مدل‌های بزرگتر را با هزینه مقرون به صرفه‌تر اجرا کنند، که این یک مزیت بزرگ نسبت به سرورهای GPU با حافظه محدود است.

ملاحظات پیکربندی و استقرار برای خرید سرور DL384 Gen12

خریداران باید به دلیل ماهیت تخصصی این سرور، به چند نکته مهم توجه کنند:

• پیکربندی CTO: سرور به صورت Configure-to-Order (CTO) عرضه می‌شود و باید بر اساس نیازهای محاسباتی (نه ذخیره‌سازی عمومی) پیکربندی شود.
• پاور و زیرساخت دیتاسنتر: نیاز به 4 منبع تغذیه برای پیکربندی Dual Superchip، نشان‌دهنده نیاز به تأمین توان بالا و طراحی رک با توان مورد نیاز است.
• سیستم‌عامل‌های پشتیبانی شده: سیستم‌عامل‌های اصلی پشتیبانی شده در زمان عرضه شامل RHEL 9 (9.2+) است و SLES و Ubuntu به زودی اضافه خواهند شد.

خرید سرور DL384 Gen12 و استعلام قیمت سرور DL384 G12

قیمت سرور DL384 G12 در رده محصولات تخصصی و High−End قرار می‌گیرد و تابع قیمت‌گذاری جهانی NVIDIA و HPE است.

• قیمت‌گذاری: به دلیل استفاده از فناوری Superchip پیشرفته و PCIe Gen5، قیمت آن در بالاترین رده سرورهای 2U قرار دارد و هزینه آن باید با تحلیل سود حاصل از شتاب‌دهی AI سنجیده شود.
• خدمات GreenLake: این سرور به صورت مستقل یا از طریق راهکار HPE GreenLake قابل عرضه است، که امکان مدیریت و استفاده از منابع محاسباتی به صورت سرویس (as−a−service) را فراهم می‌کند.
• پشتیبانی: خدمات پشتیبانی و گارانتی HPE، از جمله پشتیبانی فنی 24/7، برای تکمیل گارانتی محصول در دسترس است.

برای اطلاع از قیمت سرور HPE ProLiant Compute DL384 G12 و مشاوره تخصصی رایگان، با متخصصان ما در ارتباط باشید.

لازم به توضیح است که کلیه رک سرور ارائه‌شده توسط فروشگاه اینترنتی HPN دارای یک سال گارانتی طلائی تعویض می‌باشند.

همچنین میتوانید برای اطلاعات بیشتر به سایت سازنده مراجعه نمایید.

و همینطور شما می‌توانید در صورت تمایل از صفحه کارت گرافیک های HPE ProLiant DL380 Gen11 و HPE ProLiant DL380a Gen11 دیدن فرمایید.