آینده سرمایش دیتاسنتر: کاربرد Liquid Immersion Cooling (خنک‌سازی غوطه‌وری) در مرکز داده ماژولار

  • فیدار کوثر
  • 1405/6/12
حذف کامل چیلر در دیتاسنتر ماژولار با خنک‌سازی غوطه‌وری
آینده سرمایش دیتاسنتر: کاربرد Liquid Immersion Cooling (خنک‌سازی غوطه‌وری) در مرکز داده ماژولار
فهرست مطالب

۱. چالش تراکم توان در دیتاسنترهای مدرن و ضرورت تحول در سیستم‌های سرمایشی

افزایش تراکم توان پردازشی رک‌ها به بیش از ۵۰ تا ۱۰۰ کیلووات، سیستم‌های سرمایش هوایی سنتی را با محدودیت‌های فیزیکی مواجه کرده است. خنک‌سازی غوطه‌وری (Liquid Immersion Cooling) با جایگزینی هوا با سیالات دی‌الکتریک که ظرفیت گرمایی حجمی آن‌ها بیش از ۱۲۰۰ برابر هواست، راهکاری بنیادی برای رفع گلوگاه‌های حرارتی و توسعه بارهای متراکم هوش مصنوعی در فضای محدود دیتاسنترهای ماژولار ارائه می‌دهد. نکات کلیدی این بخش:
  • رسیدن توان مصرفی پردازنده‌های مدرن (CPUs/GPUs) به بیش از ۷۰۰ تا ۱۰۰۰ وات به ازای هر سوکت.
  • عدم کفایت ظرفیت گرمایی ویژه هوا (Cp ≈ 1.005 kJ/kg·K) برای دفع حرارت بالای ۳۰ کیلووات بر رک.
  • معرفی کلاس H1 توسط ASHRAE TC 9.9 برای بارهای متراکم هوایی و محدودیت دمایی آن.
  • محدودیت‌های فضایی کانتینرهای ISO در پذیرش کانال‌کشی‌های حجیم هوا.

  افزایش شتابان پردازش‌های مبتنی بر هوش مصنوعی (AI)، یادگیری عمیق و محاسبات با توان بالا (HPC)، معماری فیزیکی و حرارتی مراکز داده را با تحولی بنیادین مواجه کرده است. نسل جدید تراشه‌های پردازشی به توان مصرفی فراتر از ۷۰۰ تا ۱۰۰۰ وات به ازای هر سوکت دست یافته‌اند. این تراکم حرارتی موجب شده است که توان مصرفی رک‌های پردازشی از محدوده سنتی ۱۰ تا ۱۵ کیلووات به بیش از ۵۰ تا ۱۰۰ کیلووات به ازای هر رک افزایش یابد.

در چنین چگالی‌های توانی، سیستم‌های سرمایش مبتنی بر هوا از جمله واحدهای تهویه مطبوع اتاق سرور (CRAC) و واحدهای جابه‌جایی هوا (CRAH) به مرزهای فیزیکی و ترمودینامیکی خود می‌رسند. پایین بودن ظرفیت گرمایی ویژه هوا (Cp ≈ 1.005 kJ/kg·K) و چگالی کم آن (ρ ≈ 1.2 kg/m3) باعث می‌شود که برای دفع گرما از رک‌های بالای ۳۰ کیلووات، حجم زیادی از جریان هوا با سرعت بالا مورد نیاز باشد.

این امر منجر به مصرف انرژی توسط فن‌های سرور و زیرساخت، افت فشار در کانال‌ها، نویز صوتی و شکل‌گیری نقاط داغ (Hotspots) در تراشه‌ها می‌شود. کمیته فنی ASHRAE TC 9.9 در ویرایش پنجم استاندارد خود (2021 Thermal Guidelines)، کلاس کاری جدید H1 را برای تجهیزات متراکم هوایی معرفی کرده است.

این کلاس، محدوده دمای ورودی توصیه شده را به ۱۵ تا ۲۲ درجه سانتی‌گراد محدود می‌کند تا از گلوگاه شدن حرارتی پردازنده‌ها جلوگیری شود. با این حال، در دیتاسنترهای ماژولار کانتینری که با محدودیت فضای فیزیکی (عرض استاندارد کانتینر ISO معادل ۲.۴ متر) مواجه هستند، مدیریت چنین حجم عظیمی از جریان هوا دشوار است.

جابه‌جایی هوای لازم برای خنک‌سازی یک کانتینر ۴۰ فوت با توان ۴۰۰ کیلووات، بخش قابل توجهی از فضای داخلی را به کانال‌کشی اختصاص داده و راندمان فضای سفید (White Space) را کاهش می‌دهد. راهکار این محدودیت ترمودینامیکی، انتقال از خنک‌سازی با سیال گازی (هوا) به خنک‌سازی مستقیم با سیال مایع است.

خنک‌سازی غوطه‌وری (Liquid Immersion Cooling - LIC) با بهره‌گیری از سیالات دی‌الکتریک که ظرفیت گرمایی حجمی آن‌ها بیش از ۱۲۰۰ برابر هوا است، امکان جذب و انتقال مستقیم گرما از اجزای سرور را بدون نیاز به واسطه‌های هوایی فراهم می‌سازد.

پارامتر حرارتی / عملیاتی سرمایش هوایی سنتی (CRAC/CRAH) خنک‌سازی غوطه‌وری (Immersion Cooling) نسبت برتری مایع به هوا
ظرفیت گرمایی ویژه (Cp) ≈ 1.005 kJ/kg·K ≈ 1.80 - 2.20 kJ/kg·K ≈ ۲ برابر
چگالی جرم سیال (ρ) ≈ 1.20 kg/m3 ≈ 800 - 1700 kg/m3 ≈ ۶۶۰ تا ۱۴۰۰ برابر
ظرفیت گرمایی حجمی (ρCp) ≈ 1.21 kJ/m3·K ≈ 1600 - 2500 kJ/m3·K ≈ ۱۳۰۰ تا ۲۰۰۰ برابر
رسانندگی حرارتی (k) ≈ 0.026 W/m·K ≈ 0.11 - 0.14 W/m·K ≈ ۴.۵ تا ۵.۵ برابر
حداکثر تراکم توان قابل پشتیبانی ۲۵ تا ۳۰ کیلووات بر رک > ۱۰م کیلووات بر رک > ۳.۵ برابر
سهم توان فن‌ها از کل مصرف IT ۱۰٪ تا ۱۵٪ ۰٪ (حذف کامل فن‌ها) صرفه‌جویی کامل
تحلیل جدول فوق نشان می‌دهد که بهره‌گیری از سیالات مایع دی‌الکتریک، نرخ انتقال حرارت و چگالی توان خنک‌سازی را بیش از سه برابر افزایش داده و با حذف فن‌های داخلی سرورها، صرفه‌جویی انرژی قابل توجهی در سطح زیرساخت ایجاد می‌کند.

خنک‌سازی غوطه‌وری دیتاسنتر

 

۲. ترمودینامیک و مکانیسم‌های عمل: خنک‌سازی غوطه‌وری تک فازی در برابر دو فازی

خنک‌سازی غوطه‌وری تک فازی بر پایه انتقال حرارت حس‌پذیر در فاز مایع با هیدروکربن‌های سنتزی عمل می‌کند. در مقابل، سیستم دو فازی از گرمای نهان تبخیر سیالات فلوئوردار استفاده می‌کند که اگرچه ضریب انتقال حرارت بالاتری دارد، اما به دلیل ریسک‌های رگولاتوری PFAS و توقف تولید برخی سیالات، با ریسک تأمین و پشتیبانی بلندمدت مواجه است. سیستم‌های خنک‌سازی غوطه‌وری بر اساس مکانیسم انتقال حرارت و فاز فیزیکی سیال به دو دسته اصلی تک فازی (Single-Phase Immersion Cooling - SPIC) و دو فازی (Two-Phase Immersion Cooling - TPIC) تقسیم می‌شوند.

 

۲.۱ خنک‌سازی غوطه‌وری تک فازی (Single-Phase Immersion)

در سیستم‌های تک فازی، سیال دی‌الکتریک (عموماً هیدروکربن‌های سنتز شده مانند پلی‌آلفااُولفین‌ها یا روغن‌های معدنی تصفیه شده) در تمام چرخه خنک‌سازی در فاز مایع باقی می‌ماند. فرآیند انتقال حرارت بر اساس انتقال حرارت حس‌پذیر (Sensible Heat Transfer) استوار است. نرخ جابه‌جایی گرما از فرمول زیر پیروی می‌کند:

Q = ṁ · Cp · (Tout - Tin)

که در آن Q نرخ انتقال حرارت (وات)، دبی جرمی سیال، Cp ظرفیت گرمایی ویژه سیال و Tin و Tout دمای ورودی و خروجی سیال دی‌الکتریک از تانک هستند. سیال دی‌الکتریک سرد از پایین تانک وارد شده، با عبور مستقیم از روی سطوح داغ اجزا (پردازنده‌ها، ماژول‌های حافظه و مدارات تغذیه)، گرم شده و بر اثر جابه‌جایی شناوری (Natural Convection) یا پمپاژ اجباری (Forced Convection) به بالای تانک حرکت می‌کند.

سیال گرم سپس توسط پمپ‌های واحد توزیع سرمایش (CDU) استخراج شده و پس از عبور از مبدل حرارتی صفحه‌ای، مجدداً خنک شده و به تانک بازمی‌گردد. تانک‌های تک فازی به صورت مخازن سرپوشیده باز (Open-Bath) طراحی می‌شوند که فشار کاری آن‌ها نزدیک به فشار اتمسفر است.

 

۲.۲ خنک‌سازی غوطه‌وری دو فازی (Two-Phase Immersion)

در سیستم‌های دو فازی، انتقال حرارت بر پایه انتقال حرارت نهان تبخیر (Latent Heat of Vaporization) صورت می‌پذیرد. سیال مورد استفاده در این سیستم‌ها (فلوئوروکربن‌ها یا مایعات فلوئوردار با نقطه جوش پایین، معمولاً بین ۵۰ تا ۶۰ درجه سانتی‌گراد) روی سطح اجزای داغ به جوش آمده و تغییر فاز می‌دهد. نرخ انتقال حرارت از رابطه زیر محاسبه می‌شود:

Q = ṁ · Lv + ṁ · Cp · ΔT

که در آن Lv گرمای نهان تبخیر سیال است. بخار حاصل از جوشش سیال به سمت بالای مخزن صعود کرده و با کویل‌های کندانسور که در سقف مخزن بسته تعبیه شده‌اند برخورد می‌کند. بخار پس از میعان، مجدداً به شکل قطرات مایع به داخل مخزن بازمی‌گردد. سیستم‌های دو فازی به دلیل ضریب انتقال حرارت بالا در حالت جوشش هسته‌ای (Nucleate Boiling)، امکان خنک‌سازی چگالی‌های توانی بسیار بالا را فراهم می‌سازند، اما نیازمند تانک‌های کاملاً آب‌بندی‌شده هستند.

 

۲.۳ ریسک‌های رگولاتوری و توقف تولید مبردهای PFAS (مخاطرات زیست‌محیطی)

بزرگ‌ترین چالش راهبردی سیستم‌های دو فازی، وابستگی به سیالات فلوئوردار است که در گروه مواد پرفلوئوروآلکیل و پلی‌فلوئوروآلکیل (PFAS) قرار می‌گیرند. این مواد به دلیل پایداری شیمیایی بالا به "مواد شیمیایی ابدی" (Forever Chemicals) معروف هستند و با نگرانی‌های زیست‌محیطی و رگولاتوری مواجه‌اند.

آژانس مواد شیمیایی اروپا (ECHA) تحت مقررات REACH و آژانس حفاظت از محیط زیست ایالات متحده (US EPA)، محدودیت‌های سخت‌گیرانه‌ای را برای ترکیبات PFAS تدوین کرده‌اند. شرکت ۳M نیز توقف تولید سیالات بر پایه PFAS را تا پایان سال ۲۰۲۵ اعلام کرده است. این موضوع برای دیتاسنترهای متکی بر سیستم‌های دو فازی، ریسک‌های اجرایی و عملیاتی ایجاد می‌کند:

  • ریسک دارایی‌های بلاتکلیف (Stranded Asset Risk): دیتاسنترهای مبتنی بر TPIC در صورت تبخیر و نشت سیال طی عملیات نگهداری، ممکن است با کمبود سیال جایگزین و افزایش هزینه‌ها مواجه شوند.
  • پیچیدگی نگهداری و اتلاف بخار: هنگام باز کردن درب مخازن دو فازی برای تعویض یا تعمیر سرورها، بخشی از بخار سیال خارج می‌شود که علاوه بر هزینه، ملاحظات زیست‌محیطی دارد.

به همین دلیل، صنعت دیتاسنتر به سمت سیستم‌های غوطه‌وری تک فازی مبتنی بر هیدروکربن‌های سنتزی به عنوان راهکاری پایدارتر و عاری از PFAS حرکت کرده است.

 

مولفه / شاخص ارزیابی غوطه‌وری تک فازی (SPIC) غوطه‌وری دو فازی (TPIC)
مکانیسم ترمودینامیکی گرمازدایی حس‌پذیر (Q = ṁ · Cp · ΔT) گرمازدایی نهان (Q = ṁ · Lv)
پایه شیمیایی سیال هیدروکربن‌های سنتزی / PAO فلوئوروکربن‌ها / PFAS
نقطه جوش سیال بسیار بالا (> ۲۵۰ درجه سانتی‌گراد) پایین (۵۰ تا ۶۰ درجه سانتی‌گراد)
فشار کاری تانک اتمسفریک (سیستم باز/سرپوشیده) تحت فشار / آب‌بندی هرمتیک
پتانسیل گرمایش جهانی (GWP) نزدیک به صفر بالا (تحت محدودیت‌های بین‌المللی)
وضعیت رگولاتوری (PFAS) فاقد PFAS در حال فاز-اوت و محدودیت
ریسک تبخیر سیال در نگهداری ناچیز بالا (نیاز به سیستم بازیافت بخار)
هزینه سیال (به ازای هر لیتر) اقتصادی (۱۰ تا ۳۰ دلار) بسیار گران (۱۵۰ تا ۳۰۰ دلار)
پیچیدگی مکانیکی زیرساخت پایین بسیار بالا

 

سرمایش مایع سرورها

 

۳. معماری یکپارچه‌سازی Liquid Immersion Cooling در دیتاسنتر ماژولار کانتینری

یکپارچه‌سازی تانکهای غوطه‌وری در کانتینرهای ماژولار ISO نیازمند تقویت مکانیکی سازه کف با ورق‌های فولادی 3T و تیرهای عرضی برای تحمل بار متمرکز تا ۲.۵ تن به ازای هر تانک، یکپارچه‌سازی جرثقیل سقفی مونو ریل جهت استخراج عمودی سرورهای سنگین در راهروی ضیق کانتینر، و تفکیک هیدرولیکی چرخه دی‌الکتریک از چرخه آب تأسیسات توسط CDU است.

توسعه توان پردازشی در قالب دیتاسنترهای ماژولار (Modular Data Centers - MDCs) نیازمند بازطراحی سازه و سیستم‌های مکانیکی کانتینرهای ISO مانند کانتینرهای ۲۰ فوت و ۴۰ فوت High Cube است.

 

۳.۱ طراحی سازه و محاسبات بار کف (Floor Loading & Weight Distribution)

چگالی جرم سیالات دی‌الکتریک پایه هیدروکربنی در محدوده ρ = 0.85 to 0.90 g/cm3 قرار دارد. یک تانک غوطه‌وری استاندارد با گنجایش ۴۸ یونیت سرور، حاوی حدود ۸۰۰ تا ۱۲۰۰ لیتر سیال دی‌الکتریک است. با احتساب وزن بدنه تانک، شاسی‌های فولادی، اتصالات هیدرولیک و وزن سرورهای سنگین پردازش هوش مصنوعی، وزن کل هر تانک پر شده به ۱.۵ تا ۲.۵ تن می‌رسد.

توزیع این جرم متمرکز بر کف کانتینر چالش مهندسی ایجاد می‌کند. استاندارد سازه‌ای کانتینرهای باربری (ISO 1496-1) برای بارهای گسترده طراحی شده است، در حالی که تانک‌های غوطه‌وری بارهای نقطه‌ای و متمرکزی را به تیرهای عرضی کف وارد می‌کنند. برای جلوگیری از خمش کف کانتینر، ارزیابی بار بر اساس رابطه زیر انجام می‌شود:

wfloor = (∑ mtank + ∑ mfluid + ∑ mserver + mCDU) / Acontact ≤ wallowable

برای برآورده ساختن این نیاز، اقدامات سازه‌ای زیر ضروری است:
  • ورق‌های فولادی آلیاژی 3T: کفپوش کانتینر با ورق‌های فولادی عاج‌دار به ضخامت حداقل ۳ تا ۵ میلی‌متر با جوشکاری پیوسته تقویت می‌شود.
  • تیرهای شاسی عرضی (Cross-members): ناپیوستگی‌های تیرهای زیرین کانتینر با پروفایل‌های قوطی فولادی یا تیرآهن‌های I-shaped تقویت شده تا بار نقطه‌ای تانک‌ها مستقیماً به شاسی اصلی و گوشه‌های باربر کانتینر (Corner Castings) منتقل شود.
  • توزیع ایزومتریک بار: تانک‌ها به صورت متقارن در دو طرف راهروی مرکزی کانتینر قرار می‌گیرند تا مرکز ثقل (Center of Gravity) کانتینر در هنگام جابه‌جایی و حمل با جرثقیل در انطباق با محورهای تقارن قرار گیرد.

 

۳.۲ سیستم‌های جرثقیل سقفی و مونو ریل (Monorail & Hoisting Systems)

عرض داخلی یک کانتینر استاندارد ISO حدود ۲.۳۵ متر است. با قرارگیری تانک‌های غوطه‌وری در طرفین، عرض راهروی دسترسی مرکزی به حدود ۱.۰ تا ۱.۲ متر محدود می‌شود. از آنجا که سرورها در سیستم‌های غوطه‌وری به صورت عمودی (Vertical Insertion) در تانک نصب ماشین می‌شوند، خارج کردن یک سرور ۶۰ کیلوگرمی آغشته به سیال دی‌الکتریک به صورت دستی دشوار و خطرناک است. برای حل این چالش، یک سیستم جرثقیل سقفی مونو ریل (Overhead Monorail Crane) در سقف کانتینر یکپارچه‌سازی می‌شود:
  • ریل سقفی: یک ریل فولادی I-beam در طول مسیر راهروی مرکزی به سقف کانتینر متصل می‌شود که قابلیت تحمل بار دینامیکی تا حداقل ۱۵۰ کیلوگرم را داراست.
  • وینچ برقی / دستی: یک بالابر متحرک روی ریل سوار شده که به ابزار مخصوص بلند کردن سرور (Server Lifting Frame) مجهز است.
  • سینی چکه‌گیر متحرک (Drip Tray): بالابر دارای یک سینی چکه‌گیر زیر سرور است تا هنگام خارج کردن سرور از تانک، قطرات سیال روی کف راهرو نریخته و خطر لغزندگی ایجاد نکند.
 

۳.۳ چرخه هیدرولیک: واحد توزیع سرمایش (CDU) و مبدل‌های حرارتی

سیستم هیدرولیک دیتاسنتر ماژولار از دو چرخه مجزا (Isolated Loops) تشکیل شده است که توسط واحد توزیع سرمایش (Cooling Distribution Unit - CDU) به یکدیگر متصل می‌شوند:
  1. چرخه اولیه (Primary Loop - Dielectric Fluid): سیال دی‌الکتریک توسط پمپ‌های سانتریفیوژ درون تانک‌ها سیرکوله شده، گرمای سرورها را جذب کرده و وارد سمت اولیه مبدل حرارتی صفحه‌ای (Plate Heat Exchanger - PHE) در داخل CDU می‌شود.
  2. چرخه ثانویه (Secondary Loop - Facility Water): آب تأسیسات یا محلول آب-گلیکول توسط پمپ‌های خارجی از سمت ثانویه مبدل حرارتی CDU عبور کرده، گرمای سیال دی‌الکتریک را دریافت کرده و آن را به تجهیزات گرمازدایی بیرونی (Dry Cooler) منتقل می‌سازد.
استفاده از اتصالات کوپلینگ سریع بدون افت قطره (Dry-Break Quick Disconnect Couplings) در ورودی و خروجی تانک‌ها، جداسازی هیدرولیکی تانک‌ها را بدون ایجاد نشت سیال در داخل کانتینر تضمین می‌نماید.

 

زیرساخت خنک‌سازی غوطه‌وری

 

۴. انطباق با استانداردها: ASHRAE TC 9.9 و Open Compute Project (OCP)

استاندارد ASHRAE TC 9.9 در ویرایش پنجم ۲۰۲۱، کلاس‌های دمایی جدید W17 تا W+ را برای سرمایش مایع معرفی کرده است. این کلاس‌ها با افزایش دمای آب ورودی تا ۴۵ درجه سانتی‌گراد، امکان کاهش وابستگی به چیلرهای تراکمی و اتکا به درای کولرهای بیرونی را فراهم می‌سازند، مشروط بر اینکه تجهیزات IT قابلیت کارکرد کامل و بدون افت فرکانس (Unthrottled Operation) را در آن محدوده دمایی دارا باشند.

طراحی زیرساخت خنک‌سازی غوطه‌وری در دیتاسنترهای ماژولار باید مطابق استانداردهای بین‌المللی تدوین‌شده توسط کمیته‌های تخصصی باشد.  

۴.۱ کلاس‌های دمایی جدید ASHRAE TC 9.9 (کلاس‌های W17 تا W+) و حذف چیلر

کمیته فنی ASHRAE TC 9.9 در پنجمین ویرایش Thermal Guidelines (مارس ۲۰۲۱)، مراجع کلاس‌های سرمایش مایع (Water-Cooled Classes) را بر اساس حد بالای دمای آب ورودی به تجهیزات (Entering Facility Water Temperature) به‌روزرسانی کرده است. هدف اصلی این کلاس‌بندی، حذف چیلرهای تراکمی پرمصرف و دست‌یابی به خنک‌سازی رایگان (Free Cooling) است.

الزام کلیدی انطباق: شرط اصلی انطباق تجهیزات پردازشی با کلاس‌های W17 تا W+، عملکرد کامل و بدون افت فرکانس (Unthrottled Operation) پردازنده‌ها در محدوده دمایی تعیین‌شده برای آن کلاس است.

 

کلاس جدید (5th Ed) کلاس معادل قدیمی محدوده دمای آب ورودی (C°) تجهیزات گرمازدایی ثانویه (Heat Rejection) پتانسیل خنک‌سازی رایگان (Free Cooling)
W17 W1 ۲ تا ۱۷ چیلر تراکمی / برج خنک‌کننده بسیار محدود
W27 W2 ۲ تا ۲۷ چیلر با چرخه‌ساز اکونومایزر متوسط
W32 W3 ۲ تا ۳۲ درای کولر (Dry Cooler) / برج خنک‌کن خشک بالا (در اکثر اقلیم‌ها)
W40 جدید (فاقد معادل) ۲ تا ۴۰ درای کولر بدون نیاز به چیلر بسیار بالا
W45 W4 ۲ تا ۴۵ درای کولر در شدیدترین اقلیم‌های گرمسیری فوق‌العاده بالا (۱۰۰٪ سال)
W+ W5 > ۴۵ بازیافت حرارت (Heat Reuse) / گرمایش ساختمان مطلق (کامل)
در دیتاسنترهای ماژولار غوطه‌وری تک فازی، به دلیل بهره‌گیری از سیال دی‌الکتریک، می‌توان دمای سیال خروجی از تانک را تا ۴۵ تا ۵۰ درجه سانتی‌گراد افزایش داد. این ویژگی انطباق با کلاس W40 و W45 را امکان‌پذیر می‌سازد. در نتیجه، سیستم ثانویه تنها با یک درای کولر بیرونی و بدون نیاز به چیلر تراکمی می‌تواند گرما را دفع کند.

 

۴.۲ استانداردهای OCP ACS در طراحی تانک‌ها و اتصالات الکتریکی

پروژه محاسبات آزاد (Open Compute Project - OCP) تحت مشخصات OCP ACS Immersion Requirements v2.0 الگوهایی را برای تانک‌های غوطه‌وری تدوین کرده است:
  • ابعاد هندسی تانک: ابعاد تانک‌ها بر پایه عرض استاندارد ۱۹ اینچ یا ۲۱ اینچ (Open Rack V3 - ORV3) با عمق مناسب برای قرارگیری شاسی‌های متراکم طراحی می‌شوند.
  • شینه‌های قدرت (Blind-Mate Busbars): توزیع برق DC (معمولاً ۴۸ ولت) در پشت تانک از طریق شینه‌های مسی انجام می‌شود. سرورها هنگام جاگذاری عمودی در تانک، بدون نیاز به کابل‌کشی دستی برق، به شینه متصل می‌شوند.
  • کوپلینگ‌های هیدرولیک سریع: استفاده از اتصالات استاندارد با افت فشار کم و مکانیزم ضد چکه برای ورود و خروجی سیال

 

۵. چالش‌های پیشرفته مهندسی: سازگاری مواد و یکپارچگی سیگنال

غوطه‌ورسازی بردها در سیال دی‌الکتریک، ثابت دی‌الکتریک محیط را به εr ≈ 2.1 افزایش داده و می‌تواند موجب تغییر امپدانس دیفرانسیلی گذرگاه‌های فرکانس بالا (PCIe Gen 5) شود. همچنین، حل شدن پلاستیک‌سازهای کابل‌های PVC در سیال، موجب شکنندگی کابل و آلودگی سیال شده و استفاده از مواد سازگار مانند PTFE و FKM را ضروری می‌کند.

غوطه‌ورسازی مستقیم برد سرور و اتصالات الکترونیکی در سیال دی‌الکتریک، چالش‌هایی را در حوزه فیزیک حالت جامد، الکترومغناطیس و شیمی مواد ایجاد می‌کند.  

 

۵.۱ اثرات ثابت دی‌الکتریک (εr) بر فرکانس‌های بالا (PCIe Gen 5 / 32 GT/s)

گذرگاه‌هایی مانند PCIe Gen 5 (32 GT/s) و PCIe Gen 6 (64 GT/s) یا اینترکانکت‌های نوری 800G، ماهیت سیگنال‌ها را به فرکانس‌های بالا سوق داده‌اند. در محیط هوایی، ثابت دی‌الکتریک εr ≈ 1.0 است. اما هنگام غوطه‌ورسازی بردها در سیال دی‌الکتریک هیدروکربنی، این مقدار به εr ≈ 2.1 to 2.3 افزایش می‌یابد. این تغییر دو اثر مستقیم پر مسیرهای انتقال سیگنال روی PCB و کانکتورها دارد:
  1. کاهش امپدانس دیفرانسیلی (Differential Impedance Offset): امپدانس خط انتقال متناسب با معکوس جذر ثابت دی‌الکتریک است (Z0 ∝ 1 / √(εr)). غوطه‌ورسازی می‌تواند امپدانس دیفرانسیلی خطوط طراحی‌شده برای ۱۰۰ اهم در هوا را به حدود ۷۵ تا ۸۵ اهم کاهش دهد. این ناپیوستگی امپدانس موجب بازتاب سیگنال و افزایش نرخ خطای بیت (Bit Error Rate - BER) می‌شود.
  2. افت سرعت انتشار سیگنال (Propagation Delay): سرعت انتشار سیگنال برابر است با v = c / √(εr). افزایش εr باعث کاهش سرعت انتشار سیگنال و ایجاد تاخیر زمانی (Skew) در مسیرهای موازی می‌شود.
برای اصلاح این پدیده‌ها، طراحان باید هندسه خطوط PCB (عرض مسیر و فاصله تا لایه مرجع زمین) را برای ضریب εr = 2.2 تنظیم کنند. همچنین استفاده از کانکتورهای با ساختار هندسی مناسب که از تجمع حباب‌های هوا یا نفوذ غیریکنواخت سیال جلوگیری کنند، ضروری است.

 

۵.۲ سازگاری الاستومرها و جلوگیری از نشت پلاستیک‌سازها (Plasticizer Leaching)

سیالات دی‌الکتریک هیدروکربنی، حلال‌های ضعیف آلی هستند. عدم دقت در انتخاب مواد غیرفلزی، کابل‌ها و واشرهای آب‌بندی موجود در سرورها می‌تواند منجر به پدیده استخراج پلاستیک‌ساز (Plasticizer Leaching) شود. کابل‌های شبکه و برق معمولی دارای روکش‌های پلی‌وینیل کلراید (PVC) هستند که حاوی مواد نرم‌کننده فتالات می‌باشند.

در صورت غوطه‌ورسازی کابل‌های PVC در سیال هیدروکربنی، سیال دی‌الکتریک مواد پلاستیک‌ساز را از روکش کابل استخراج می‌کند. در نتیجه روکش کابل به مرور خشک و شکننده می‌شود. از سوی دیگر، پلاستیک‌ساز حل‌شده در سیال می‌تواند تانژانت افت دی‌الکتریک (tan δ) را افزایش داده و خواص عایقی سیال را تضعیف کند.

 

ماده / الاستومر درجه سازگاری با سیال هیدروکربنی وضعیت کاربرد در غوطه‌وری علت فنی و رفتار شیمیایی
پلی‌وینیل کلراید (PVC) غیرسازگار (تخریب‌کننده) کاملاً ممنوع نشت شدید پلاستیک‌ساز، تردی کابل و آلودگی سیال
لاستیک طبیعی / NBR غیرسازگار ممنوع تورم شدید (Swelling) و انحلال ساختار الاستومر
سیلیکون (Silicone) سازگاری ضعیف توصیه نمی‌شود جذب سیال، تورم ابعادی و افت خواص مکانیکی
فلوروپلیمر (PTFE / Teflon) پایداری مطلق کاملاً استاندارد و عالی بی‌اثری شیمیایی کامل، عدم انحلال و پایداری دما
فلوروالاستومر (FKM / Viton) پایداری عالی توصیه شده برای آب‌بندی مقاومت بالا در برابر حلال‌های آلی و حفظ ابعاد
پلی‌اتیلن کراس‌لینک (XLPE) پایداری بالا استاندارد برای روکش کابل عدم وجود پلاستیک‌ساز آزاد و مقاومت شیمیایی

سیستم درای کولر

 

۶. ارزیابی اقتصادی، راندمان مصرف انرژی (PUE) و تحلیل TCO

خنک‌سازی غوطه‌وری تک فازی با حذف فن‌های سرور و کاهش وابستگی به چیلرهای تراکمی، می‌تواند شاخص PUE دیتاسنتر ماژولار را به محدوده ۱.۰۳ تا ۱.۰۵ برساند و با کاهش مصرف انرژی و مساحت فیزیکی، هزینه CapEx اولیه بالاتر خود را در پروژه‌های مناسب جبران کند. به‌کارگیری خنک‌سازی غوطه‌وری، ساختار هزینه‌های سرمایه‌ای (CapEx) و عملیاتی (OpEx) را تغییر می‌دهد. شاخص راندمان مصرف برق (Power Usage Effectiveness - PUE) از رابطه زیر به دست می‌آید:

PUE = Total Facility Power / IT Equipment Power

در سیستم‌های هوایی سنتی، PUE کانتینرها بین ۱.۳۵ تا ۱.۵۰ متغیر است. اما در دیتاسنتر ماژولار غوطه‌وری تک فازی، با حذف فن‌های داخلی سرورها و کاهش نیاز به چیلرهای تراکمی، دست‌یابی به PUE سالانه در محدوده ۱.۰۳ تا ۱.۰۵ امکان‌پذیر است.

 

آیتم شاخص TCO (دوره ۵ ساله) دیتاسنتر ماژولار هوایی (تراکم بالا) دیتاسنتر ماژولار غوطه‌وری تک فازی میزان صرفه‌جویی / تفاوت
توان نامی پردازشی (IT Load) ۱۰۰۰ کیلووات ۱۰۰۰ کیلووات -
متوسط PUE عملیاتی ۱.۴۰ ۱.۰۴ ۲۵.۷٪ بهبود راندمان
توان مصرفی کل زیرساخت ۱۴۰۰ کیلووات ۱۰۴۰ کیلووات ۳۶۰ کیلووات کاهش بار پیوسته
هزینه سرمایه‌ای تجهیزات سرمایش (CapEx) بالا (چیلرها، CRAH، کانال‌کشی) متوسط تا بالا (تجهیزات CDU، تانک‌ها) CapEx اولیه سیستم مایع ۱۰-۱۵٪ بالاتر
هزینه خرید سیال دی‌الکتریک اولیه ۰ دلار ≈ ۱۲۰,۰۰۰ دلار سرمایه‌گذاری اولیه سیال
مساحت زمین و کانتینر مورد نیاز ۴ کانتینر ۴۰ فوت (۲۰kW/rack) ۲ کانتینر ۴۰ فوت (50-100kW/rack) ۵۰٪ کاهش مساحت فیزیکی (Footprint)
مصرف برق سالانه (با کارکرد ۲۴/۷) ۱۲,۲۶۴,۰۰۰ کیلووات‌ساعت ۹,۱۱۰,۴۰۰ کیلووات‌ساعت ۳,۱۵۳,۶۰۰ کیلووات‌ساعت صرفه‌جویی سالانه
هزینه انرژی ۵ ساله (نرخ 0.10$/kWh) ۶,۱۳۲,۰۰۰ دلار ۴,۵۵۵,۲۰۰ دلار ۱,۵۷۶,۸۰۰ دلار صرفه‌جویی مستقیم OpEx
دوره بازگشت سرمایه اولیه (ROI) مرجع ۱۲ تا ۱۸ ماه -
تحلیل مالی فوق نشان می‌دهد که اگرچه سرمایه‌گذاری اولیه در سیستم‌های غوطه‌وری بالاتر است، کاهش مصرف برق می‌تواند این هزینه‌ها را در پروژه‌های مناسب جبران نماید.

 

_​راندمان انرژی PUE

 

۷. راهنمای گام‌به‌گام پیاده‌سازی و نگهداری در دیتاسنتر ماژولار

اجرای موفق دیتاسنتر غوطه‌وری ماژولار نیازمند تست هیدرولیک و Burn-in در کارخانه، تخلیه سیال در حین ترابری جاده‌ای برای جلوگیری از بارهای دینامیکی ضربه‌ای، ترازسازی دقیق کانتینر در سایت، و پایش دوره‌ای کیفیت سیال طبق استانداردهای مرتبط است. برای تضمین پایداری و دوام عملیاتی دیتاسنتر ماژولار غوطه‌وری، اجرای پروتکل‌های مهندسی در مراحل ساخت، حمل، راه‌اندازی و نگهداری الزامی است:
  • فاز ۱: پیش‌راه‌اندازی در کارخانه (Factory Commissioning)
    • تست فشار هیدرولیک: چرخه اولیه (تانک‌ها و اتصالات) و چرخه ثانویه به مدت ۴۸ ساعت تحت فشار ۱.۵ برابر فشار کاری نامی قرار گرفته و با گاز نیتروژن نشت‌یابی می‌شوند.
    • شستشوی مدارات (Flushing): تمام مسیرهای هیدرولیک با سیال شستشوی مخصوص پاک‌سازی می‌شوند تا براده فلزی، چربی صنعتی و ذرات باقی‌مانده خارج شوند.
    • آزمایش بار حرارتی شبیه‌سازی‌شده: عملکرد CDU و تانک‌ها با استفاده از بارهای الکتریکی حرارتی (Heater Elements) در توان ۱۰۰٪ ارزیابی می‌شود.
  • فاز ۲: ترابری و نصب در سایت (Transport & Logistics)
    • تخلیه سیال در حین ترابری: تانک‌ها در زمان حمل‌ونقل جاده‌ای یا دریایی کانتینر باید کاملاً خالی از سیال دی‌الکتریک باشند تا از اعمال بارهای دینامیکی ضربه‌ای (Sloshing effect) به بدنه تانک و شاسی کانتینر جلوگیری شود. سیال در بشکه‌های استاندارد مجزا حمل می‌شود.
    • ترازسازی دقیق (Leveling): کانتینر ماژولار در محل سایت بر روی فونداسیون بتنی مسطح قرار گرفته و تراز می‌شود. عدم تراز بودن کانتینر موجب عدم یکنواختی سطح سیال در تانک‌ها خواهد شد.
  • فاز ۳: مدیریت چرخه حیات سیال و نگهداری دوره‌ای (Fluid Lifecycle Management)
    • تست ولتاژ شکست دی‌الکتریک (ASTM D877): کیفیت عایق الکتریکی سیال باید هر ۶ ماه یک‌بار طبق استاندارد ASTM D877 آزمایش شود. ولتاژ شکست سیال دی‌الکتریک نو باید فراتر از ۴۰ کیلوولت باشد. در صورت افت این شاخص به زیر ۳۰ کیلوولت، سیال نیازمند تصفیه یا تعویض است.
    • فیلتراسیون پیوسته ذرات: CDUها باید به فیلترهای میکرونی دوگانه (Dual 5-micron Cartridge Filters) مجهز باشند تا ذرات جامد معلق جداسازی‌شده از بردها جذب شوند.
    • کنترل رطوبت و جداسازی آب: سیال دی‌الکتریک باید آب‌گریز (Hydrophobic) باشد. استفاده از فیلترهای جاذب رطوبت (Moisture Absorption Coalescers) در مسیر سیرکولاسیون نیز برای کنترل رطوبت مفید است.

 

۸. تصمیم‌گیری و جمع‌بندی راهبردی

سیستم خنک‌سازی غوطه‌وری تک فازی مبتنی بر هیدروکربن‌های سنتزی به دلیل عاری بودن از PFAS، PUE پایین، تعمیر و نگهداری آسان و کاهش نیاز به چیلر، یکی از گزینه‌های مناسب برای دیتاسنترهای ماژولار متراکم هوش مصنوعی محسوب می‌شود. برای انتخاب فناوری مناسب سرمایش در دیتاسنترهای ماژولار با تراکم بالا، تصمیم‌گیرندگان فنی باید ماتریس ارزیابی زیر را مبنای تصمیم‌گیری قرار دهند:

 

معیار تصمیم‌گیری غوطه‌وری تک فازی (SPIC) غوطه‌وری دو فازی (TPIC) خنک‌سازی مستقیم روی تراشه (Direct-to-Chip)
حداکثر تراکم توان هر رک تا ۱۰۰ کیلووات فراتر از ۱۰۰ کیلووات ۴۰ تا ۸۰ کیلووات
ریسک رگولاتوری PFAS صفر (هیدروکربن سنتزی) بالا (ممنوعیت جهانی PFAS) پایین (چرخه آب/گلیکول)
پیچیدگی مکانیکی پایین (تانک اتمسفریک، پمپ استاندارد) بالا (مخازن هرمتیک تحت فشار) متوسط (لوله‌کشی پیچیده داخل سرور)
قابلیت دست‌یابی به PUE ۱.۰۳ تا ۱.۰۵ ۱.۰۱ تا ۱.۰۲ ۱.۱۰ تا ۱.۱۵
پروفایل نگهداری و تعمیرات ساده (استخراج با جرثقیل مونو ریل) پیچیده (نیاز به بازیافت بخار) متوسط (اتصالات کوپلینگ سریع)
نظرات :
ارسال نظر :

بعد از ورود به حساب کاربری می توانید دیدگاه خود را ثبت کنید