Huawei Ascend برای سرور
Atlas 800I A2 با هشت پردازنده Ascend و تا ۵۱۲ گیگابایت حافظه، و Atlas 650E با هشت Ascend 950DT و ۷۶۸ گیگابایت؛ برای مدلهای بزرگ مثل DeepSeek و GLM.
پردازندههای هوش مصنوعی چینی حالا مدلهای بزرگ را اجرا میکنند: vLLM روی Huawei Ascend مدلهای DeepSeek-V4 و GLM-5 را اجرا میکند و Cambricon و Moore Threads پشتیبانی از نسخههای تازه DeepSeek را از روز انتشارشان اعلام کردهاند. کارتها و سرورهای Ascend، دیگر شتابدهندههای چینی و مینیپیسیهای پرحافظه چینی را فراهم و راهاندازی میکنیم.
سختافزار چینی را باید همراه نرمافزارش سنجید. Huawei Ascend با CANN و افزونه رسمی vllm-ascend کار میکند و DeepSeek-V4، GLM-5 و Qwen3 را اجرا میکند. Cambricon و MetaX افزونه vLLM خودشان را دارند و Moore Threads تنها سازنده چینی دیگری است که llama.cpp رسماً پشتیبانیاش میکند. Ollama روی هیچکدام رسماً کار نمیکند. برای همین مدل مورد نظر شما را پیش از خرید روی همان کارت میآزماییم.
Atlas 800I A2 با هشت پردازنده Ascend و تا ۵۱۲ گیگابایت حافظه، و Atlas 650E با هشت Ascend 950DT و ۷۶۸ گیگابایت؛ برای مدلهای بزرگ مثل DeepSeek و GLM.
Atlas 300I Duo با ۹۶ گیگابایت و Atlas 350 با ۱۱۲ گیگابایت حافظه، در سرورهای PCIe معمولی؛ برای مدلهای میاناندازه.
Moore Threads، Cambricon، MetaX و Hygon؛ هر کدام با نرمافزار و مدلهایی که رسماً رویشان آزموده شده است.
GMKtec، Beelink و Minisforum رایانههای کوچکی با پردازنده AMD Ryzen AI Max و ۱۲۸ تا ۱۹۲ گیگابایت حافظه میسازند؛ برای دستیار یک واحد و مدلهای MoE.
مشخصات از صفحهها و راهنماهای رسمی هواوی، بازبینیشده در ۳۰ مهر ۱۴۰۵.
| محصول | پردازنده | حافظه | پهنای باند | چه مدلی جا میشود |
|---|---|---|---|---|
| Atlas 300I Pro | یک Ascend 310P | ۲۴ گیگابایت LPDDR4X | ۲۰۴٫۸ گیگابایت بر ثانیه | مدل حدود ۸ میلیاردی در ۸ بیت؛ برای یک یا دو کاربر |
| Atlas 300I Duo | دو Ascend سری 310 | ۴۸ یا ۹۶ گیگابایت LPDDR4X | ۴۰۸ گیگابایت بر ثانیه | با ۹۶ گیگابایت، مدل حدود ۳۰ میلیاردی در ۸ بیت؛ Qwen3-30B-A3B رسماً در vllm-ascend |
| Atlas 350 | Ascend 950PR | ۱۱۲ گیگابایت HBM | ۱٫۴ ترابایت بر ثانیه | مدل حدود ۷۰ میلیاردی در ۸ بیت روی یک کارت |
| Atlas 800I A2 (سرور) | هشت Ascend سری 910 | هشت × ۳۲ یا هشت × ۶۴ گیگابایت، تا ۵۱۲ گیگابایت | منتشر نشده | با نسخه ۶۴ گیگابایتی، مدل MoE حدود ۲۳۵ میلیاردی در ۸ بیت؛ مدلهای رده ۶۷۱ میلیاردی دو سرور میخواهند |
| Atlas 650E (سرور) | هشت Ascend 950DT | هشت × ۹۶ گیگابایت HBM، جمعاً ۷۶۸ گیگابایت | تا ۴ ترابایت بر ثانیه برای هر پردازنده | مدلهای MoE رده ۶۷۱ میلیاردی در ۸ بیت (تنگ)؛ رک ۱۴U با ۱۴٫۵ کیلووات |
| Atlas 950 SuperPoD | تا ۱۰۲۴ Ascend 950DT | ۹۶ گیگابایت برای هر پردازنده | تا ۴ ترابایت بر ثانیه برای هر پردازنده | خوشه مرکز داده با خنککاری مایع، برای مدلهای تریلیونی |
| Orange Pi AI Studio و AI Studio Pro | Ascend سری 310، ۱۷۶ و ۳۵۲ TOPS | ۴۸ تا ۱۹۲ گیگابایت LPDDR4X | منتشر نشده | مدل بزرگ جا میشود ولی پاسخ را کند مینویسد؛ رایانه رومیزی با یک درگاه USB4 |
جدول پشتیبانی رسمی vllm-ascend سری A2 و A3، محصولات 950DT و Atlas 300I Duo (بهصورت آزمایشی) را پوشش میدهد و Atlas 200I A2 را نه. ستون «چه مدلی جا میشود» برآورد ماست: هر میلیارد پارامتر در ۸ بیت حدود ۱ گیگابایت حافظه میگیرد.
مشخصات از صفحههای رسمی سازندگان، بازبینیشده در ۳۰ مهر ۱۴۰۵. هر جا سازنده عددی منتشر نکرده، همین را نوشتهایم.
| محصول | حافظه | پهنای باند | نرمافزار | وضعیت |
|---|---|---|---|---|
| Moore Threads MTT S4000 | ۴۸ گیگابایت | ۷۶۸ گیگابایت بر ثانیه | MUSA؛ llama.cpp و SGLang رسماً، vLLM با نسخه سازنده (vllm-musa) | مدل حدود ۳۰ میلیاردی در ۸ بیت روی هر کارت |
| Moore Threads MTT S5000 | سازنده منتشر نکرده | سازنده منتشر نکرده | vllm-musa با دستور اجرای DeepSeek-V4-Flash و Qwen | سازنده پشتیبانی روز انتشار Kimi K3، GLM-5.3-Flash و DeepSeek-V4.1-Flash را اعلام کرده |
| Cambricon MLU370-X8 و MLU370-X4 | ۴۸ و ۲۴ گیگابایت LPDDR5 | ۶۱۴ و ۳۰۷ گیگابایت بر ثانیه | NeuWare؛ افزونه vllm-mlu و LMDeploy | سازنده پشتیبانی روز انتشار DeepSeek-V4 را اعلام کرده؛ مشخصات نسلهای جدیدتر منتشر نشده |
| MetaX C500، C550 و C588 | ۶۴، ۶۴ و ۱۲۸ گیگابایت | سازنده منتشر نکرده | MXMACA؛ افزونه vLLM-metax و LMDeploy | C550 و C588 ماژول OAM برای سرور هشتتاییاند |
| Hygon DCU (K100-AI) | سازنده منتشر نکرده | سازنده منتشر نکرده | DTK بر پایه ROCm؛ vLLM با تصویرهای آماده سازنده | فقط پس از آزمایش مدل شما روی همان کارت |
| Kunlunxin P800 (Baidu) | سازنده منتشر نکرده | سازنده منتشر نکرده | افزونه vLLM-Kunlun | فقط پس از آزمایش مدل شما روی همان کارت |
هیچکدام از این کارتها رسماً Ollama را پشتیبانی نمیکنند. سازندگان کوچکتری مثل Biren، Enflame، Iluvatar CoreX و T-Head هم هستند، ولی نرمافزار اجرای مدل روی آنها محدودتر است. سرورهای سازندگان چینی مثل Inspur، H3C، Lenovo WenTian و xFusion را هم با همین کارتها یا با کارتهای NVIDIA و AMD فراهم میکنیم.
رایانههای کوچکی که سازندگان چینی با پردازنده AMD و حافظه مشترک زیاد میسازند. مشخصات از فروشگاه رسمی هر سازنده، بازبینیشده در ۳۰ مهر ۱۴۰۵.
| دستگاه | پردازنده و حافظه | شبکه و درگاهها | مناسب برای |
|---|---|---|---|
| GMKtec EVO-X2 و EVO-X3 | Ryzen AI Max+ 395، تا ۱۲۸ گیگابایت | USB4 و 2.5GbE؛ EVO-X3 با OCuLink | دستیار یک واحد و مدلهای MoE |
| Beelink GTR9 Pro | Ryzen AI Max+ 395، ۱۲۸ گیگابایت | دو درگاه 10GbE و دو USB4 | اتصال چند دستگاه با شبکه سریع |
| Minisforum MS-S1 MAX | Ryzen AI Max+ 395، ۱۲۸ گیگابایت | دو 10GbE، USB4 v2 و شکاف PCIe x16؛ کیت رک برای چهار دستگاه | چند دستگاه در یک رک |
| GMKtec EVO-X5 Pro و Minisforum MS-S1 MAX-P495 | Ryzen AI Max+ PRO 495، ۱۹۲ گیگابایت (تا ۱۶۰ گیگابایت برای پردازنده گرافیکی) | دو 10GbE و USB4 v2 | مدلهای بزرگتر روی یک دستگاه کوچک |
مشخصات پردازنده Ryzen AI Max را در صفحه AMD آوردهایم.
سختافزار را بعد از سنجیدن مدل روی کار خود شما انتخاب میکنیم، نه از روی جدول. پیشفاکتور فقط وقتی صادر میشود که معلوم باشد چه مدلی، برای چند نفر و با چه سرعتی باید کار کند.
کار، تعداد کاربران، داده، محل نصب و سختافزاری را که از قبل دارید مرور میکنیم.
چند مدل باز را روی نمونه کار واقعیتان میسنجیم و حافظه و سرعت لازم را از روی همان نتیجه حساب میکنیم.
پیکربندی دقیق، مدل پیشنهادی، زمان تحویل و شرایط پشتیبانی را مکتوب میدهیم. قیمت را فقط در پیشفاکتور اعلام میکنیم.
سختافزار را نصب میکنیم، مدل را راه میاندازیم و دستیار را به سامانههایتان وصل میکنیم. یک بار هم سامانه را با قطع اینترنت بینالملل میآزماییم.
مستندات و آموزش تیم شما را تحویل میدهیم و بعد، طبق قرارداد، نگهداری و بهروزرسانی مدلها را بر عهده میگیریم.
فرم را پر کنید یا در واتساپ پیام بدهید. هرچه اینها روشنتر باشد، پیشفاکتور دقیقتر است:
حداکثر تا یک روز کاری پاسخ میدهیم.
درباره دستیار فارسی، اتوماسیون اسناد یا اینکه از کجا شروع کنید، بپرسید.
برای اجرای مدل، در بسیاری از موارد بله: vLLM با افزونه رسمی vllm-ascend روی Ascend کار میکند و DeepSeek-V4، GLM-5 و Qwen3 رسماً پشتیبانی میشوند. ولی ابزارهای انویدیا گستردهترند، بعضی مدلها و قابلیتها دیرتر به Ascend میرسند و Ollama روی آن رسماً کار نمیکند. برای همین مدل شما را پیش از خرید روی همان سختافزار میآزماییم.
طبق جدول رسمی vllm-ascend: DeepSeek-V4-Flash و DeepSeek-V4-Pro (روی Ascend 950DT و سری A2 و A3)، GLM-5.1 تا GLM-5.3، و Qwen3، که Qwen3-30B-A3B آن روی Atlas 300I Duo هم اجرا میشود. خود DeepSeek هم اجرای DeepSeek-V3 روی Ascend را تأیید کرده است.
هنوز نه. شیائومی تراشه گوشی و خودرو میسازد و اولین شتابدهنده هوش مصنوعیاش (XRING O100) را شهریور ۱۴۰۵ برای اجرای مدل روی خود دستگاه معرفی کرده که طبق گزارشها از ۲۰۲۷ تجاری میشود. اما مدلهای باز MiMo شیائومی با مجوز MIT در دسترساند و آنها را روی سختافزار شما راه میاندازیم.
چون سازنده منتشرش نکرده است. Hygon هیچ برگه مشخصات عمومی ندارد و MetaX و Moore Threads برای بعضی محصولات حافظه یا پهنای باند را اعلام نکردهاند. عددهایی که فقط در گزارشهای غیررسمی آمده را ننوشتهایم و توان واقعی هر کارت را با آزمایش مدل شما رویش اندازه میگیریم.
خیر. ژرف GPU را ساعتی یا ماهانه اجاره نمیدهد. سه راه داریم: سختافزار را تأمین و در محل شما نصب میکنیم، یک ماشین اختصاصی برایتان راه میاندازیم که خودمان نگهداریاش میکنیم، یا مدل را روی سختافزاری که از قبل دارید راه میاندازیم. اگر فقط چند ساعت پردازش برای آزمایش لازم دارید، همین را در گفتوگوی اول بگویید تا راه مناسب را پیشنهاد کنیم.
قیمت را روی سایت اعلام نمیکنیم، چون به پیکربندی، تعداد، بازار روز و نوع تحویل بستگی دارد. بعد از گفتوگوی اول و سنجش روی کار شما، پیشفاکتور مکتوب میدهیم که مدل دقیق سختافزار، زمان تحویل و شرایط پشتیبانی را هم دارد.
بله، اگر مدل، نرمافزار اجرا، دستیار، ورود کاربران و ابزار پایش همه داخل شبکه شما باشند. هر جزئی که به سرویس خارجی وابسته باشد، در قطعی از کار میافتد؛ برای همین پیش از تحویل، سامانه را با قطع عمدی اینترنت بینالملل میآزماییم.
بگویید چه مدلی را با چند کاربر میخواهید اجرا کنید. اجرایش را روی Ascend یا کارت چینی دیگر میسنجیم و اگر سختافزار دیگری برای کارتان بهتر است، همین را صریح میگوییم.