خنک کننده مایع عملکرد و کارایی پلتفرم بلک ول انویدیا را افزایش می دهد

 

رشد سریع هوش مصنوعی (AI)، به‌ویژه در زمینه‌هایی مانند هوش مصنوعی (GenAI) و مدل‌های زبان بزرگ (LLM)، تقاضای بی‌سابقه‌ای برای قدرت محاسباتی را به همراه داشته است. از آنجایی که مدل‌های هوش مصنوعی پیچیده‌تر می‌شوند و به داده‌های بیشتری نیاز دارند، سخت‌افزار مورد نیاز برای پشتیبانی از این پیشرفت‌ها با چالش‌های مهمی، به‌ویژه با اتلاف گرما مواجه می‌شود. روش‌های خنک‌کننده سنتی، مانند خنک‌کننده هوا، دیگر برای مدیریت مصرف انرژی سخت‌افزار پیشرفته هوش مصنوعی کافی نیستند و اینجاست که راه‌حل‌های خنک‌کننده مایع وارد عمل می‌شوند.

 

فناوری خنک کننده مایع به عنوان یک روش بسیار کارآمد برای مدیریت خروجی حرارتی مراکز داده هوش مصنوعی برجسته شده است. این امر به ویژه برای پلتفرم هایی مانند معماری بلک ول انویدیا، که در آن قدرت محاسباتی عظیم به سیستم های خنک کننده پیشرفته برای اطمینان از عملکرد و طول عمر نیاز دارد، بسیار مهم است.

 

درHotchip 2024کنفرانس، انویدیا راه حل نوآورانه خود را با یکپارچه سازی معرفی کردآب گرم خنک کننده مایع مستقیم به تراشهفناوری با معماری بلک ول خود برای رسیدگی به چالش های مصرف برق و خنک کننده در نصب. این توسعه نشان دهنده یک پیشرفت کلیدی در طراحی سخت افزار هوش مصنوعی، کاهش هزینه های عملیاتی و بهبود کارایی در برنامه های کاربردی هوش مصنوعی در مقیاس بزرگ است.

 

▲ آموزش تراشه های داغ: خنک کننده مایع عملکرد و کارایی را افزایش می دهد

 

ظهور فناوری خنک کننده مایع

 

فناوری خنک کننده مایع به دلیل تقاضای رو به رشد تراشه های هوش مصنوعی به عنوان یک جزء مهم در طراحی مرکز داده هوش مصنوعی در حال ظهور است. با رشد برنامه های هوش مصنوعی، انتظار می رود مصرف انرژی در مراکز داده به شدت افزایش یابد. بسیاری از پردازنده های هوش مصنوعی، از جمله H100 انویدیا و جدید آنمعماری بلک ول، از 700 وات تا 1200 وات برق مصرف می کند. زمانی که خوشه‌های هوش مصنوعی متشکل از هزاران پردازنده گرافیکی به صورت هماهنگ عمل می‌کنند، این جذب انرژی عظیم ترکیب می‌شود.

 

به عنوان مثال،خوشه آموزشی هوش مصنوعی ایلان ماسک، بزرگترین در جهان با 100،{1}} پردازنده گرافیکی H100، برای مدیریت 31-مگاوات تقاضای انرژی خود، کاملاً با مایع خنک می شود. چنین مثال‌هایی نشان می‌دهند که چرا بهینه‌سازی فناوری خنک‌کننده حیاتی است - نه تنها برای کاهش هزینه‌های عملیاتی، بلکه برای بهبود عملکرد کلی سیستم‌های هوش مصنوعی. از آنجایی که نیاز به هوش مصنوعی با عملکرد بالاتر همچنان در حال رشد است، خنک کننده مایع نقش مهمی را در حفظ سیستم های محاسباتی با عملکرد بالا ایفا می کند.

 

 

مزایای خنک کننده مایع در مراکز داده هوش مصنوعی

خنک کننده مایع به دلیل توانایی آن در انتقال مستقیم گرما به دور از اجزای مهم مانند CPU و GPU ها، بهبود اتلاف گرما را در مقایسه با خنک کننده هوای سنتی، برجسته می کند. درخنک کننده مستقیم مایع (DLC)، مایع خنک کننده مستقیماً با تراشه تماس پیدا می کند و بازده حرارتی را افزایش می دهد و نیاز به فن های حجیم و سیستم های تهویه مطبوع را کاهش می دهد. این باعث کاهش مصرف انرژی برای خنک‌سازی می‌شود و در نتیجه کل هزینه‌های عملیاتی مرکز داده را کاهش می‌دهد.

 

علاوه بر این،خنک کننده مایع غوطه وری، جایی که کل سرورها در یک مایع دی الکتریک غوطه ور هستند، راه حل خنک کننده حتی موثرتری ارائه می دهد. این روش نه تنها خنک ماندن تمام اجزا را تضمین می‌کند، بلکه سایش مکانیکی را نیز به حداقل می‌رساند که طول عمر سخت‌افزار را طولانی‌تر می‌کند و به میزان قابل‌توجهی نویز ناشی از تجهیزات متحرک هوا را کاهش می‌دهد.

 

 

چالش های مصرف برق در سخت افزار هوش مصنوعی

 

همانطور که سیستم های هوش مصنوعی مقیاس می شوند، مصرف انرژی آنها یک چالش رو به رشد را ارائه می دهد. سخت افزار هوش مصنوعی، مانندپردازنده گرافیکی Nvidia H100ومعماری بلک ول، به عنوان تشنه انرژی شناخته می شوند و نیاز به برق تا 1200 وات در هر تراشه می رسد. برای مثال، یک خوشه AI معمولی حاوی 22،{3}} پردازنده گرافیکی H100، ممکن است تا31 مگاوات برق-معادل مصرف برق یک شهر کوچک.

 

این تقاضای انبوه انرژی نه تنها هزینه های عملیاتی مراکز داده را افزایش می دهد، بلکه به اثرات زیست محیطی قابل توجهی نیز کمک می کند. برای مقابله با این چالش ها، مراکز داده باید بر کاهش مصرف انرژی و بهبود راندمان خنک کننده تمرکز کنند.

 

 

معماری بلک ول انویدیا و آب گرم مستقیم به خنک کننده تراشه

 

درکنفرانس Hotchip 2024انویدیا از راه حل خود برای ادغام خنک کننده مایع با معماری بلک ول خود رونمایی کردفناوری خنک کننده مستقیم آب گرم به تراشه. این روش از آب گرم (بر خلاف آب سرد) برای جذب و انتقال مستقیم گرما از تراشه استفاده می کند. انویدیا با استفاده از خنک کننده آب گرم می تواند مصرف انرژی خنک کننده مراکز داده را تا 28 درصد کاهش دهد.

 

کارایی این راه حل دوچندان است: نه تنها مصرف انرژی کلی برای خنک کردن را کاهش می دهد، بلکه بازیابی گرمای اتلاف را نیز امکان پذیر می کند، که می تواند برای استفاده های دیگر مانند گرم کردن ساختمان های مجاور استفاده شود. علاوه بر این، خنک‌سازی با آب گرم با نگه داشتن تراشه‌ها در محدوده دمایی بهینه، جلوگیری از گرمای بیش از حد، و کاهش سایش، طول عمر عملیاتی سرورها را افزایش می‌دهد.

 

▲آب گرم مستقیم به محلول خنک کننده تراشه

 

این تکنیک خنک‌سازی به‌ویژه مهم است زیرا برنامه‌های هوش مصنوعی مانند GenAI و LLM به افزایش توان محاسباتی مورد نیاز در مراکز داده ادامه می‌دهند. توانایی حفظ دمای بهینه به طور مستقیم بر عملکرد و مقیاس‌پذیری بارهای کاری هوش مصنوعی تأثیر می‌گذارد و این اطمینان را می‌دهد که این سیستم‌ها می‌توانند نیازهای شدیدی را که بر روی آن‌ها قرار می‌گیرد، انجام دهند.

 

 

 

خنک کننده مایع غوطه ور: یک قدم فراتر

 

علاوه بر خنک کننده مستقیم مایع،خنک کننده مایع غوطه وریهمچنین به عنوان یک راه حل سطح بعدی برای سیستم های هوش مصنوعی در مقیاس بزرگ مورد توجه قرار گرفته است. این روش کل سرورها را در یک مایع دی الکتریک غیر رسانا غوطه ور می کند که به طور کامل گرما را از همه اجزا جذب و دفع می کند. با خنک کردن کل سیستم به این روش، خنک کننده مایع غوطه وری مزایای زیر را ارائه می دهد:

 

• راندمان خنک کننده پیشرفته: این روش با احاطه کردن تمامی اجزا با مایع خنک کننده، حذف حرارتی یکنواخت و کارآمد را فراهم می کند.
• هزینه های نگهداری کمتر: بدون قطعات متحرک مانند فن، سایش مکانیکی کمتری وجود دارد که باعث کاهش هزینه های نگهداری و افزایش طول عمر تجهیزات می شود.
• بهره وری انرژی بهبود یافته است: خنک کننده غوطه ور می تواند به طور چشمگیری مصرف انرژی را کاهش دهد، زیرا نیاز به سیستم های تهویه مطبوع و سایر اجزای خنک کننده فعال را از بین می برد.

 

▲سیستم خنک کننده مایع غوطه ور

 

علاوه بر این،خنک کننده مایع غوطه وریبسیار مقیاس پذیر است، و آن را برای مراکز داده ای ایده آل می کند که بارهای کاری هوش مصنوعی را مدیریت می کنند که مقادیر قابل توجهی گرما تولید می کنند، مانند مواردی که با معماری بلک ول Nvidia تغذیه می شوند. با رایج‌تر شدن مدل‌های هوش مصنوعی بزرگ‌تر، خنک‌سازی غوطه‌وری ممکن است به راه‌حلی برای مراکز داده تبدیل شود که به دنبال مقیاس‌پذیری عملیات خود هستند و در عین حال هزینه‌های انرژی و اثرات زیست‌محیطی را به حداقل می‌رسانند.

 

 

 

سرمایه گذاری سیلیکون ولی در فن آوری های خنک کننده

 

افزایش تقاضا برای راه حل های خنک کننده کارآمدتر در مراکز داده هوش مصنوعی توجه شرکت های سرمایه گذاری خطرپذیر، به ویژه درسیلیکون ولی. این شرکت ها به طور فعال در استارتاپ هایی سرمایه گذاری می کنند که در آن تخصص دارندخنک کننده مایعفناوری‌ها، با اذعان به اینکه نوآوری‌ها در این زمینه برای آینده سخت‌افزار هوش مصنوعی ضروری هستند.

 

استارت آپ در حال توسعهراه حل های خنک کننده پیشرفتهنه تنها مزایای فوری برای سیستم‌های هوش مصنوعی نسل کنونی فراهم می‌کند، بلکه زمینه را برای موج بعدی سخت‌افزار هوش مصنوعی فراهم می‌کند، که احتمالاً نیازمند روش‌های خنک‌کننده حتی پیچیده‌تر است. این فناوری‌ها باید هم نیازهای انرژی بالا و هم چالش‌های حرارتی سیستم‌های هوش مصنوعی را مورد توجه قرار دهند، و آنها را به سرمایه‌گذاری جذابی برای کسانی تبدیل می‌کند که به دنبال جابجایی مرزهای امکان‌پذیر در محاسبات با کارایی بالا هستند.

 

▲ روندهای سرمایه گذاری مرکز داده AI

 

 

نتیجه گیری

 

همانطور که سخت افزار هوش مصنوعی به تکامل خود ادامه می دهد، تقاضا برای فناوری های خنک کننده نوآورانه افزایش می یابد. انویدیامعماری بلک ولدر خط مقدم این تغییر قرار دارد و استفاده می کندآب گرم مستقیم به چیپخنک کننده برای افزایش کارایی و کاهش هزینه های عملیاتی.خنک کننده مایعچه از طریق تماس مستقیم و چه از طریق روش‌های غوطه‌وری، ثابت می‌کند که مؤثرترین راه برای مدیریت مصرف انبوه انرژی و خروجی حرارت سیستم‌های هوش مصنوعی مدرن است.

 

شرکت‌های سرمایه‌گذاری خطرپذیر، با سرمایه‌گذاری بسیاری روی استارت‌آپ‌هایی که می‌توانند نسل بعدی راه‌حل‌های خنک‌کننده را ارائه دهند، توجه می‌کنند. با بزرگ‌تر شدن و پیچیده‌تر شدن مراکز داده هوش مصنوعی، اهمیت سیستم‌های خنک‌کننده کارآمد و مقیاس‌پذیر تنها افزایش می‌یابد و خنک‌سازی مایع را به سنگ بنای زیرساخت‌های محاسباتی با عملکرد بالا در آینده تبدیل می‌کند.