کاهش HBM در Rubin Ultra؛ معنای واقعی مبادله حافظه

مقاله ۲۹ اوت جوکان با عنوان «حافظه به کدام سو می‌رود؟» از احتمالی خلاف انتظار آغاز می‌شود: شاید انویدیا ارتفاع پشته حافظه Rubin Ultra را کم کند یا به‌جای HBM4E از HBM4 استفاده کند. استدلال مقاله این است که چنین تغییری لزوماً مزیت دفاعی HBM را از بین نمی‌برد. پشته کوتاه‌تر می‌تواند بازده ساخت را بهتر کند، تعداد شتاب‌دهنده قابل‌عرضه را بالا ببرد و با پشته نرم‌افزاری هماهنگ شود که بیش از حداکثر ظرفیت روی‌بسته، برای پهنای باند و سلسله‌مراتب حافظه ارزش قائل است.

این فرضیه ارزش بررسی دارد، اما داده محصول عمومی، گزارش زنجیره تأمین، ادعای منبع خصوصی و تفسیر را کنار هم می‌گذارد. درجه اطمینان آن‌ها یکسان نیست. پرسش عملی برای تیم هوش مصنوعی این نیست که پیکربندی ۸لایه «صعودی» یا «نزولی» است. پرسش این است: بارکاری در پاکت حافظه حاصل جا می‌شود؟ چه جابه‌جایی داده تازه‌ای ایجاد می‌شود؟ و کل سامانه با چه هزینه‌ای سطح خدمت لازم را تحویل می‌دهد؟

درس پایدار این است که دیوار حافظه، علاوه بر مسئله ظرفیت، به مسئله جای‌گذاری تبدیل شده است. HBM سریع‌ترین لایه کمیاب می‌ماند؛ معماری مدل، زمان‌بندی، شبکه، LPDDR، حافظه متصل با CXL و ذخیره‌ساز تعیین می‌کنند چه چیزی واقعاً باید در آن بماند.

کار را با دفتر شواهد آغاز کنید

سه لایه شاهد باید از هم جدا بمانند:

شرح معماری Rubin انویدیا پردازنده فعلی را مستند می‌کند، نه پیکربندی شایعه‌شده Ultra را. گزارش ۴ اوت TrendForce قوی‌ترین پشتوانه عمومی برای بررسی پیکربندی است: چهار گزینه در حال ارزیابی‌اند، عرضه تا ۲۰۲۷ فشرده می‌ماند و انتخاب نهایی هنوز انجام نشده است.

جمله آخر تعیین‌کننده است. «انویدیا در حال ارزیابی است» نباید به «انویدیا انتخاب کرده است» کوتاه شود. نمونه تأمین‌کننده نیز با تعهد تولید تأییدشده و پربازده یکسان نیست.

چرا پشته کوتاه‌تر می‌تواند خروجی قابل‌عرضه را بیشتر کند

ساخت HBM چند دروازه انباشته دارد. سازنده به دای مناسب DRAM، دای سالم با رده سرعت لازم، دای پایه، فرایند ساخت مسیر عمودی سیلیکونی، مونتاژ عمودی، بسته‌بندی، رفتار حرارتی و تأیید مشتری نیاز دارد. پشته بلندتر دای بیشتری مصرف می‌کند و محصول نهایی را در معرض نقاط شکست بیشتری می‌گذارد.

با ثابت‌بودن بقیه عوامل، گذار از ۱۲ لایه به ۸ لایه یک‌سوم لایه DRAM کمتری برای هر پشته می‌خواهد. ارتفاع بالغ‌تر می‌تواند بازده مونتاژ را نیز بهتر کند. پس دای موجود شاید پشته قابل‌فروش بیشتری بسازد و تخصیص ثابت HBM از تعداد GPU بیشتری پشتیبانی کند.

اما «بسته HBM بیشتر» و «بیت HBM بیشتر» یک ادعا نیستند. یک سناریوی ساده نقطه سربه‌سر را نشان می‌دهد. اگر ظرفیت هر GPU از معادل ۱۲ لایه به معادل ۸ لایه برسد، بیت هر GPU به دوسوم کاهش می‌یابد. برای افزایش کل بیت عرضه‌شده، تعداد GPU باید بیش از ۵۰٪ رشد کند:

کل بیت HBM = بیت HBM هر GPU × تعداد GPU عرضه‌شده

این تحلیل سناریوی ژرف است، نه پیش‌بینی. نتیجه واقعی به چگالی دای، تعداد پشته هر بسته، بازده محقق‌شده، رده‌بندی سرعت، توان بسته‌بندی، عرضه GPU، تقاضای رک، برق، شبکه و بودجه مشتری وابسته است. پشته کوتاه‌تر می‌تواند برای دسترس‌پذیری شتاب‌دهنده مثبت باشد و هم‌زمان بیت HBM هر شتاب‌دهنده را کم کند. برای همه سنجه‌های تأمین‌کننده خودبه‌خود مثبت نیست.

TrendForce انتظار دارد عرضه بیت HBM در ۲۰۲۷ بین ۵۰ تا ۶۰ درصد سالانه رشد کند و باز هم از تقاضا عقب بماند. این برآورد از سناریوی بازار فشرده پشتیبانی می‌کند، اما ثابت نمی‌کند تغییر طراحی یک محصول، کل درآمد حافظه را بالا می‌برد.

ظرفیت و پهنای باند دو کار متفاوت انجام می‌دهند

قوی‌ترین بخش فرضیه جوکان، جدایی «ظرفیت کافی» از «پهنای باند کافی» است. این دو مکمل‌اند، نه جانشین.

ظرفیت تعیین می‌کند وزن مدل، خبره‌های فعال، کش KV، فعال‌سازی‌ها، فضای کاری زمان اجرا و دنباله‌های هم‌زمان در نزدیکی محاسبه جا شوند یا نه. پهنای باند تعیین می‌کند مجموعه کاری با چه سرعتی پردازنده را تغذیه کند. انویدیا مرحله تولید توکن Rubin را محدود به زیرسامانه حافظه توصیف می‌کند و ظرفیت ۲۸۸ گیگابایت و پهنای باند ۲۲ ترابایت‌برثانیه را دو مزیت جدا می‌داند.

پشته ۸لایه سریع‌تر، کمبود ظرفیت را درمان نمی‌کند. اگر مجموعه کاری جا نشود، بهره‌بردار شاید به موازی‌سازی بیشتر، دسته کوچک‌تر، متن هم‌زمان کمتر، مدل کوانتیزه یا انتقال به لایه کندتر نیاز پیدا کند. هر گزینه می‌تواند ارتباط، تأخیر، پیچیدگی زمان‌بندی یا ریسک کیفیت اضافه کند.

عکس آن نیز درست است. ظرفیت بدون استفاده، کمبود پهنای باند محقق‌شده را جبران نمی‌کند. ممکن است مدل جا شود، اما محاسبه گران‌قیمت منتظر وزن یا حالت KV بماند. سنجه معتبر، توان عملی برنامه در متن و هم‌زمانی هدف است، نه برچسب روی بسته حافظه.

راهنمای مهندسی تأخیر استنتاج توضیح می‌دهد چرا زمان تا نخستین توکن، تأخیر میان توکن‌ها، توان عملیاتی و صف باید جدا اندازه‌گیری شوند. انتخاب HBM ممکن است یکی را بهتر و دیگری را بدتر کند.

نرم‌افزار حداقل ظرفیت لازم HBM را جابه‌جا می‌کند

نرم‌افزار و معماری مدل می‌توانند آنچه باید در HBM بماند کاهش دهند. کوانتیزه‌سازی وزن و گاهی کش را کوچک می‌کند. مدل ترکیب خبره‌های تنک، برای هر توکن فقط بخشی از مدل را فعال می‌کند. توجه نهفته چندسری حالت KV را فشرده می‌کند؛ گزارش فنی DeepSeek-V2 نسبت به سامانه مقایسه‌شده خود، کاهش ۹۳٫۳درصدی کش KV را گزارش می‌کند.

معماری خدمت‌دهی نیز مرحله‌ها را جدا می‌کند. مستند خدمت‌دهی تفکیک‌شده NVIDIA Dynamo مخزن‌های جدا برای پیش‌پردازش و تولید توکن را همراه با انتقال KV توضیح می‌دهد. طراحی حافظه زمینه CMX انویدیا کش KV قابل‌بازاستفاده را در یک لایه ویژه سطح خوشه قرار می‌دهد تا همه زمینه مجبور نباشد در HBM پردازنده بماند.

این روش‌ها حداقل ظرفیت روی‌بسته را برای بعضی بارها کم می‌کنند، اما ظرفیت را رایگان نمی‌سازند:

• کوانتیزه‌سازی به آزمون کیفیت و پایداری متناسب با وظیفه نیاز دارد؛
• موازی‌سازی خبره، فشار مسیریابی و ارتباط را بیشتر می‌کند؛
• جداسازی پیش‌پردازش از تولید، انتقال سریع و قابل‌اعتماد KV و مسیریابی آگاه از توپولوژی می‌خواهد؛
• انتقال به لایه کندتر، پهنای باند شبکه یا ذخیره‌ساز مصرف می‌کند و می‌تواند تولید توکن را متوقف کند؛
• بازاستفاده کش، کنترل هویت، مستأجر، حذف، تازگی و حریم خصوصی می‌خواهد.

پس پرسش درست این نیست که «آیا نرم‌افزار جای HBM را می‌گیرد؟» پرسش این است که «کدام بایت می‌تواند بدون نقض کیفیت، تأخیر، هم‌زمانی، برق یا جداسازی از HBM خارج شود؟»

این مبادله برای سازندگان حافظه چه معنایی دارد

سناریوی مثبت قابل‌تصور است. پشته کوتاه‌تر می‌تواند خروجی قابل‌فروش را بالا ببرد، عرضه شتاب‌دهنده بیشتری را آزاد و کارخانه HBM را پر نگه دارد. کمبود تخصیص ویفر و دشواری رده سرعت می‌تواند قدرت قیمت‌گذاری را حفظ کند. سلسله‌مراتب گسترده‌تر حافظه هوش مصنوعی نیز تقاضا برای DRAM سرور، LPDDR، حافظه متصل با CXL و ذخیره‌ساز پرکارایی را زیاد می‌کند.

سناریوی منفی نیز واقعی است. بیت کمتر در هر شتاب‌دهنده ممکن است سریع‌تر از رشد تعداد واحد، محتوای HBM را کم کند. وقتی حافظه سهم زیادی از ارزش سامانه می‌گیرد، خریدار مقاومت می‌کند. بهبود مدل و خدمت‌دهی می‌تواند حداقل ظرفیت را پایین بیاورد. کنترل دای پایه، کنترل‌گر حافظه، بسته، اتصال و نرم‌افزار شاید سهم بیشتری از ارزش یکپارچه‌سازی را به سازندگان منطق بدهد.

HBM اقتصاد حافظه را تغییر داده است، اما «کم‌چرخه‌تر» به معنی «بی‌چرخه» نیست. پوشش قرارداد، تمرکز مشتری، شدت سرمایه، زمان تأیید، موجودی، کشش قیمت و معماری رقیب همچنان مهم‌اند. سرمایه‌گذار نباید یک نسل گرفتار کمبود را به فرض دائمی حاشیه سود تبدیل کند.

اعلام نمونه HBM4E شرکت SK hynix نکته را روشن می‌کند: شرکت سرعت، بهره‌وری انرژی، مقاومت حرارتی، پشته‌سازی و مهارت تولید را با هم برجسته می‌کند. واحد رقابت از همین حالا فراتر از تعداد بیت DRAM است.

مرز حافظه و منطق، میدان راهبردی اصلی است

نتیجه بلندمدت جوکان این است که حافظه و منطق بیشتر با هم ترکیب می‌شوند. نقشه راه عمومی جهت حرکت را پشتیبانی می‌کند، نه ادعای نزدیک‌بودن جانشین HBM را.

رابط پهن‌تر HBM4 و دای پایه توانمندتر، منطق را وارد بسته حافظه می‌کند. سازندگان GPU کنترل‌گر، اتصال، حرکت کش و توپولوژی را پیرامون آن بسته هم‌طراحی می‌کنند. سازندگان حافظه بر سر فرایند، پشته‌سازی، حرارت، توان دای پایه و یکپارچه‌سازی با مشتری رقابت می‌کنند. مرز ارزش از قطعه استاندارد به سامانه هم‌طراحی‌شده می‌رود.

دو پرسش راهبردی شکل می‌گیرد. چه کسی تصمیم رابط و کنترل‌گر را مالک است؟ و چه کسی داده عملیاتی لازم برای بهینه‌سازی جای‌گذاری حافظه را در تولید در اختیار دارد؟ تأمین‌کننده‌ای که فقط بیت تأییدشده می‌فروشد، از تأمین‌کننده‌ای که در معماری نقش دارد قدرت کمتری دارد. فروشنده محاسبه که کل پشته را کنترل می‌کند می‌تواند بر تأمین‌کننده فشار بگذارد، اما وابستگی بیشتر به تأیید و زنجیره تأمین را نیز می‌پذیرد.

نتیجه از پیش تعیین نشده است. HBM می‌تواند از نظر ساختاری مهم بماند و هم‌زمان حالت بیشتری به لایه‌های دیگر برود. جانشین احتمالی شاید DRAM را متفاوت مصرف کند، از طراحی پهن‌باند مبتنی بر NAND بهره بگیرد، حافظه روی‌تراشه را بیشتر کند یا خود محاسبه را عوض کند. شواهد امروز از همگرایی و سلسله‌مراتب پشتیبانی می‌کند، نه تاریخ مشخص مرگ HBM.

سامانه را با آزمون پذیرش متناسب با بار بخرید

خریدار زیرساخت هوش مصنوعی باید بحث را به ماتریس بارکاری تبدیل کند:

نتیجه را با مدل، دقت، توزیع طول متن، سیاست دسته، هم‌زمانی، توپولوژی و سقف برق واقعی بخواهید. رفتار کمبود حافظه و حجم انتقال را ثبت کنید. کل رک، از جمله شبکه، سرمایش، ذخیره‌ساز، مجوز و ظرفیت بلااستفاده را قیمت‌گذاری کنید، نه فقط GPU را.

همین انضباط در راهنمای مسیریابی مدل میان هزینه و کیفیت آمده است: قطعه ارزان‌تر وقتی تکرار، تأخیر یا افت کیفیت هزینه را جای دیگری می‌برد، ارزان‌تر نیست. راهنمای محاسبات آگاه از انرژی مرز برق و کربنی را اضافه می‌کند که مقایسه تک‌تراشه حذف می‌کند.

برنامه تصمیم برای تیم‌های هوش مصنوعی

۱. مجموعه کاری را فهرست کنید. وزن، خبره فعال، کش KV برحسب طول متن و هم‌زمانی، فعال‌سازی، بافر ارتباط و ذخیره زمان اجرا را بسنجید.

۲. پیش‌پردازش و تولید را جدا کنید. نیاز محاسبه، ظرفیت، پهنای باند و تأخیر هر مرحله را پیش از انتخاب یک نسبت سخت‌افزار برای هر دو پروفایل کنید.

۳. دست‌کم سه جای‌گذاری حافظه را مدل کنید. اقامت کامل در HBM، انتقال جزئی و خدمت‌دهی تفکیک‌شده. هزینه انتقال، محاسبه دوباره، شکست و عملیات را وارد کنید.

۴. کیفیت پس از فشرده‌سازی را بیازمایید. کوانتیزه‌سازی و فشرده‌سازی کش باید برای حوزه، زبان، متن بلند و استفاده از ابزار ارزیابی شود.

۵. روی نتیجه تحویلی قرارداد ببندید. توان عملیاتی، تأخیر دنباله، هم‌زمانی، برق، دسترس‌پذیری و شرایط قابل‌بازتولید آزمون را مشخص کنید.

۶. وضعیت شاهد را نگه دارید. «اعلام‌شده»، «نمونه‌برداری‌شده»، «تأییدشده»، «تخصیص‌یافته» و «در حال عرضه» را یک حالت ندانید. بر پایه شایعه مثل محصول نهایی خرید نکنید.

۷. سناریوی عرضه را تحت فشار بگذارید. تأخیر HBM4E، پیکربندی کم‌ظرفیت، قیمت بالاتر حافظه، شبکه محدود و ذخیره‌ساز کندتر را مدل کنید.

۸. قابلیت انتقال را حفظ کنید. قالب مدل، ردپای خدمت‌دهی و مجموعه پذیرش را برای بیش از یک شتاب‌دهنده و توپولوژی حافظه قابل‌استفاده نگه دارید.

حکم: دیوار جابه‌جا شده، ناپدید نشده است

مقاله جوکان وقتی قانع‌کننده‌تر است که نگاه تک‌بعدی به حافظه را رد می‌کند. حداکثر ظرفیت هر GPU تنها مسیر توان مفید هوش مصنوعی نیست. بازده، سرعت پایه، دسترس‌پذیری واحد، فشرده‌سازی نرم‌افزار، جای کش، شبکه و اقتصاد رک می‌تواند پشته کوتاه‌تر را منطقی کند.

نتیجه‌های بسیار مثبت آن هنوز سناریو هستند. پشته کوتاه‌تر به‌تنهایی افزایش تقاضای کل بیت HBM، قدرت دائمی قیمت‌گذاری تأمین‌کننده یا پایان افت عمیق چرخه حافظه را ثابت نمی‌کند. ارقام گزارش‌شده هزینه مواد و مذاکره خریدار به تأیید مستقل نیاز دارند. در قوی‌ترین گزارش عمومی بررسی‌شده، مشخصات نهایی HBM برای Rubin Ultra همچنان باز است.

برای سازنده هوش مصنوعی، نتیجه عملی محدودتر و محکم‌تر است: حداقل مجموعه کاری حافظه سریع را تعریف کنید، هر بایت منتقل‌شده به زیر HBM را اندازه بگیرید و سامانه‌ای را بخرید که سطح خدمت بارکاری را با کمترین هزینه کامل برآورده می‌کند. دیوار حافظه دیگر فقط درباره مقدار HBM کنار GPU نیست؛ درباره این است که چه کسی تصمیم می‌گیرد کدام داده حق ماندن در آنجا را دارد.

یادداشت منابع — بازبینی ۲۹ اوت ۲۰۲۶

• Jukan — “Where Is Memory Headed?”: مقاله مبدأ و ادعاهای منبع خصوصی بررسی‌شده در این تحلیل.
• NVIDIA — Inside Rubin GPU Architecture: ظرفیت، ارتفاع پشته، پهنای باند و توصیف بارکاری Rubin فعلی.
• TrendForce — Rubin Ultra HBM configurations under evaluation: گزینه‌های گزارش‌شده، بازبودن تصمیم، محدودیت عرضه و چشم‌انداز بیت ۲۰۲۷.
• SK hynix — 12-layer HBM4E samples: ادعای تأمین‌کننده درباره ظرفیت، سرعت پایه، کارایی و حرارت.
• DeepSeek-V2 technical report: معماری MLA و کاهش گزارش‌شده کش KV.
• NVIDIA Dynamo — Disaggregated Serving: مخزن جدا برای پیش‌پردازش و تولید همراه با انتقال KV.
• NVIDIA — CMX Context Memory Storage: طراحی فروشنده برای لایه کش KV در سطح خوشه.