DGX Spark روی میز
رایانه‌ای ۱۵ در ۱۵ سانتی‌متری با ۱۲۸ گیگابایت حافظه یکپارچه که به گفته انویدیا مدل تا ۲۰۰ میلیارد پارامتر را اجرا میکند. برای توسعه‌دهنده، آزمایش و تیم کوچک؛ دو تا چهار دستگاه را هم میشود به هم وصل کرد.
سرور GPU انویدیا (NVIDIA) برای هوش مصنوعی
تقریباً همه خانواده انویدیا را فراهم و راه‌اندازی میکنیم: رایانه رومیزی DGX Spark، کارتهای RTX 5090 و RTX PRO 6000، سرورهای هشت‌کارتی H200 و Blackwell، و رک‌های NVL72 برای مرکز داده. نرم‌افزارهای اجرای مدل اول برای انویدیا ساخته می‌شوند؛ برای همین تقریباً هر مدل بازی از روز انتشارش رویش اجرا میشود.
چرا انویدیا
vLLM، SGLang، TensorRT-LLM و llama.cpp اول روی CUDA انویدیا ساخته و آزموده می‌شوند و سازندگان مدل دستور اجرای رسمی را معمولاً برای کارتهای انویدیا منتشر می‌کنند. انویدیا بهترین انتخاب است وقتی چند ده نفر همزمان با سامانه کار می‌کنند یا می‌خواهید مدل تازه‌ای را از روز انتشارش اجرا کنید. محدودیتش حافظه هر کارت است: مدل بزرگ به چند کارت و سرور گران‌تر نیاز دارد.
کدام رده برای چه کاری
یک یا چند کارت در ورک‌استیشن
RTX 5090 با ۳۲ گیگابایت برای مدلهای تا حدود ۳۰ میلیارد پارامتر، و RTX PRO 6000 با ۹۶ گیگابایت برای مدلهای حدود ۷۰ میلیاردی در ۸ بیت؛ برای یک واحد یا یک تیم.
سرور چهار یا هشت‌کارتی
هشت RTX PRO 6000 Server Edition با جمعاً ۷۶۸ گیگابایت حافظه، یا سرورهای H200 و B200؛ برای مدلهای بزرگ و ده‌ها کاربر همزمان در یک سازمان.
Blackwell Ultra و Rubin برای مرکز داده
HGX B300 با ۲٫۱ ترابایت حافظه در یک سرور و رک‌های NVL72 با خنککاری مایع؛ برای مرکز داده‌ای که برق و سرمایش آن را دارد و مدلهای تریلیونی را برای کل سازمان اجرا میکند.
کارت‌ها و سرورهای مرکز داده
مشخصات از صفحه‌های رسمی انویدیا، بازبینی‌شده در ۳۰ مهر ۱۴۰۵.
| محصول | حافظه هر GPU | پهنای باند هر GPU | در یک سرور هشت‌کارتی | چه مدلی جا میشود |
|---|---|---|---|---|
| H100 | ۸۰ گیگابایت HBM3 | ۳٫۳۵ ترابایت بر ثانیه | ۶۴۰ گیگابایت | مدلهای MoE تا حدود ۴۰۰ میلیارد پارامتر در ۸ بیت |
| H200 | ۱۴۱ گیگابایت HBM3e | ۴٫۸ ترابایت بر ثانیه | ۱٫۱ ترابایت | مدل‌هایی مثل DeepSeek-V4-Flash و GLM-5.2 در ۸ بیت |
| B200 | ۱۸۰ تا ۱۹۲ گیگابایت HBM3e | ۸ ترابایت بر ثانیه | حدود ۱٫۴ ترابایت | مدلهای تا حدود یک تریلیون پارامتر در ۸ بیت، با جای کم برای زمینه |
| B300 (Blackwell Ultra) | ۲۸۸ گیگابایت HBM3e | ۸ ترابایت بر ثانیه | ۲٫۱ ترابایت | مدلهای یک‌تریلیونی مثل Kimi K2.7 Code در ۸ بیت |
| Vera Rubin (HGX Rubin NVL8) | ۲۸۸ گیگابایت HBM4 | ۱۹ تا ۲۲ ترابایت بر ثانیه (صفحه‌های انویدیا دو رقم متفاوت دارند) | حدود ۲ ترابایت | همان رده B300 با حافظه سریع‌تر |
| رک GB300 NVL72 و Vera Rubin NVL72 | حدود ۲۸۸ گیگابایت | NVLink بین هر ۷۲ GPU | حدود ۲۰ ترابایت در یک رک | چند مدل تریلیونی همزمان؛ با خنککاری مایع |
| RTX PRO 6000 Blackwell Server Edition | ۹۶ گیگابایت GDDR7 | ۱٫۶ ترابایت بر ثانیه | ۷۶۸ گیگابایت | مدل حدود ۷۰ میلیاردی روی هر کارت؛ در سرور هواخنک معمولی |
| L40S | ۴۸ گیگابایت GDDR6 | ۸۶۴ گیگابایت بر ثانیه | ۳۸۴ گیگابایت | مدل تا حدود ۳۰ میلیارد پارامتر در ۸ بیت روی هر کارت |
| A100 (۴۰ و ۸۰ گیگابایت) | ۴۰ یا ۸۰ گیگابایت HBM2e | تا ۲ ترابایت بر ثانیه | تا ۶۴۰ گیگابایت | نسل قبل؛ اگر دارید، مدل مناسبش را رویش راه میاندازیم |
ستون «چه مدلی جا میشود» برآورد ماست، نه ادعای سازنده: هر میلیارد پارامتر در ۸ بیت حدود ۱ گیگابایت و در ۴ بیت حدود نیم گیگابایت حافظه می‌گیرد و باید جا برای حافظه گفت‌وگو و کاربران همزمان هم بماند.
رومیزی و ورک‌استیشن
مشخصات از صفحه‌های رسمی انویدیا، بازبینی‌شده در ۳۰ مهر ۱۴۰۵.
| محصول | حافظه | پهنای باند | توان | چه مدلی جا میشود |
|---|---|---|---|---|
| DGX Spark (GB10) | ۱۲۸ یا ۶۴ گیگابایت حافظه یکپارچه | ۲۷۳ گیگابایت بر ثانیه | منبع تغذیه ۲۴۰ وات | به گفته انویدیا تا ۲۰۰ میلیارد پارامتر؛ دو دستگاه تا ۴۰۰ میلیارد |
| DGX Station (GB300) | ۲۵۲ گیگابایت HBM3e و ۴۹۶ گیگابایت LPDDR5X | ۷٫۱ ترابایت بر ثانیه (HBM) | ۱۶۰۰ وات | مدل حدود ۲۰۰ میلیاردی در ۸ بیت در حافظه سریع |
| RTX PRO 6000 Blackwell (Workstation و Max-Q) | ۹۶ گیگابایت GDDR7 | ۱٫۸ ترابایت بر ثانیه | ۶۰۰ یا ۳۰۰ وات | مدل حدود ۷۰ میلیاردی در ۸ بیت |
| RTX PRO 5000 Blackwell | ۴۸ یا ۷۲ گیگابایت GDDR7 | ۱٫۳ ترابایت بر ثانیه | ۳۰۰ وات | مدل حدود ۳۰ تا ۵۰ میلیاردی در ۸ بیت |
| RTX 5090 | ۳۲ گیگابایت GDDR7 | ۱٫۸ ترابایت بر ثانیه | ۵۷۵ وات | مدل تا حدود ۳۰ میلیارد پارامتر در ۴ بیت |
| RTX 4090 و RTX 3090 | ۲۴ گیگابایت GDDR6X | حدود ۱ ترابایت بر ثانیه | ۳۵۰ تا ۴۵۰ وات | مدل تا حدود ۲۷ میلیارد در ۴ بیت؛ اگر دارید، رویش راه میاندازیم |
| RTX A6000 | ۴۸ گیگابایت GDDR6 | ۷۶۸ گیگابایت بر ثانیه | ۳۰۰ وات | مدل حدود ۳۰ میلیاردی در ۸ بیت |
ستون «چه مدلی جا میشود» برآورد ماست، نه ادعای سازنده: هر میلیارد پارامتر در ۸ بیت حدود ۱ گیگابایت و در ۴ بیت حدود نیم گیگابایت حافظه می‌گیرد و باید جا برای حافظه گفت‌وگو و کاربران همزمان هم بماند.
نرم‌افزاری که رویش راه میاندازیم
| لایه | آنچه نصب و تنظیم میکنیم |
|---|---|
| اجرای مدل برای چند کاربر | vLLM یا SGLang؛ هر دو چند درخواست همزمان را با هم پردازش می‌کنند |
| اجرای سبک و آزمایشی | llama.cpp یا Ollama برای یک کاربر، آزمایش و مدلهای کوچک |
| رابط برنامه‌نویسی | API سازگار با OpenAI، تا برنامه‌هایی که امروز به سرویس خارجی وصل‌اند بدون بازنویسی به مدل لوکال وصل شوند |
| دستیار و اسناد | دستیار فارسی، جست‌وجو در اسناد داخلی با ذکر منبع (RAG) و گردش‌کارهای n8n |
| ورود و پایش | ورود با حساب سازمانی، ثبت پرسش و پاسخ، و پایش مصرف GPU، صف درخواست‌ها و زمان پاسخ |
از اولین تماس تا سامانهای که کار میکند
سختافزار را بعد از سنجیدن مدل روی کار خود شما انتخاب میکنیم، نه از روی جدول. پیشفاکتور فقط وقتی صادر میشود که معلوم باشد چه مدلی، برای چند نفر و با چه سرعتی باید کار کند.
- ۰۱
گفتوگوی اول
کار، تعداد کاربران، داده، محل نصب و سختافزاری را که از قبل دارید مرور میکنیم.
- ۰۲
سنجش روی کار شما
چند مدل باز را روی نمونه کار واقعی‌تان می‌سنجیم و حافظه و سرعت لازم را از روی همان نتیجه حساب میکنیم.
- ۰۳
پیشفاکتور مکتوب
پیکربندی دقیق، مدل پیشنهادی، زمان تحویل و شرایط پشتیبانی را مکتوب میدهیم. قیمت را فقط در پیشفاکتور اعلام میکنیم.
- ۰۴
نصب و راه‌اندازی
سختافزار را نصب میکنیم، مدل را راه میاندازیم و دستیار را به سامانه‌هایتان وصل میکنیم. یک بار هم سامانه را با قطع اینترنت بینالملل میآزماییم.
- ۰۵
تحویل و نگهداری
مستندات و آموزش تیم شما را تحویل میدهیم و بعد، طبق قرارداد، نگهداری و به‌روزرسانی مدل‌ها را بر عهده می‌گیریم.
چطور با ما در تماس باشید
فرم را پر کنید یا در واتس‌اپ پیام بدهید. هرچه این‌ها روشن‌تر باشد، پیشفاکتور دقیق‌تر است:
- کاری که مدل باید انجام دهد (پاسخ از اسناد، کدنویسی، خلاصه‌سازی، پردازش تصویر یا صدا)
- تعداد کاربرانی که همزمان با سامانه کار می‌کنند و زمان پاسخی که می‌پذیرید
- مدل یا خانواده سختافزاری که در نظر دارید، اگر از پیش می‌دانید
- محل نصب: اتاق سرور سازمان، مرکز داده، یا سختافزاری که از قبل دارید
- حساسیت داده و اینکه سامانه باید کاملاً بدون اینترنت کار کند یا نه
حداکثر تا یک روز کاری پاسخ میدهیم.
ژرف
دستیار هوش مصنوعی ژرف را همین حالا امتحان کنید
درباره دستیار فارسی، اتوماسیون اسناد یا اینکه از کجا شروع کنید، بپرسید.
پرسش‌های متداول درباره سرور GPU انویدیا
RTX 5090 برای هوش مصنوعی کافی است؟
برای مدلهای تا حدود ۳۰ میلیارد پارامتر، بله. RTX 5090 کارت گیمینگ است با ۳۲ گیگابایت حافظه و پهنای باند ۱٫۸ ترابایت بر ثانیه؛ برای مدلی مثل Qwen3.8-27B (حدود ۱۷ گیگابایت در ۴ بیت) کافی است و دستور اجرای رسمی vLLM همین مدل را روی دو RTX 5090 آزموده است. برای مدل بزرگتر یا کار شبانهروزی در سرور، RTX PRO 6000 با ۹۶ گیگابایت حافظه مناسبتر است.
H100، H200 یا B200؟
هر سه کارت مرکز دادهاند و فرق اصلیشان حافظه است: H100 هشتاد، H200 صد و چهل و یک، و B200 حدود صد و هشتاد تا صد و نود و دو گیگابایت روی هر کارت. حافظه بیشتر یعنی مدل بزرگتر در یک سرور و جای بیشتر برای کاربران همزمان. اگر مدل شما در H100 جا میشود، لازم نیست نسل جدیدتر بخرید.
DGX Spark چیست؟
رایانه رومیزی کوچک انویدیا با تراشه GB10 و ۱۲۸ گیگابایت حافظه یکپارچه؛ نسخه ۶۴ گیگابایتی هم از اواخر اکتبر ۲۰۲۶ از طریق سازندگان دیگر عرضه میشود. انویدیا می‌گوید یک دستگاه مدل تا ۲۰۰ میلیارد پارامتر را اجرا میکند و دو تا چهار دستگاه را میشود به هم وصل کرد. پهنای باند حافظه‌اش (۲۷۳ گیگابایت بر ثانیه) از کارتهای RTX کمتر است، پس پاسخ را کندتر می‌نویسد؛ برای توسعه و تیم کوچک مناسب است.
کارت گیمینگ یا کارت سرور؟
کارتهای گیمینگ مثل RTX 5090 ارزانترند ولی حافظه کمتری دارند و برای کار شبانهروزی در رک طراحی نشدهاند. کارتهای RTX PRO و مرکز داده حافظه بیشتر با تصحیح خطا (ECC) و خنککاری مناسب سرور دارند. برای آزمایش و تیم کوچک کارت گیمینگ کافی است؛ برای سامانهای که کل سازمان به آن وابسته است، کارت سرور.
اجاره ساعتی یا ماهانه سرور GPU هم دارید؟
خیر. ژرف GPU را ساعتی یا ماهانه اجاره نمیدهد. سه راه داریم: سختافزار را تأمین و در محل شما نصب میکنیم، یک ماشین اختصاصی برایتان راه میاندازیم که خودمان نگهداریاش میکنیم، یا مدل را روی سختافزاری که از قبل دارید راه میاندازیم. اگر فقط چند ساعت پردازش برای آزمایش لازم دارید، همین را در گفتوگوی اول بگویید تا راه مناسب را پیشنهاد کنیم.
قیمت چقدر است؟
قیمت را روی سایت اعلام نمیکنیم، چون به پیکربندی، تعداد، بازار روز و نوع تحویل بستگی دارد. بعد از گفتوگوی اول و سنجش روی کار شما، پیشفاکتور مکتوب میدهیم که مدل دقیق سختافزار، زمان تحویل و شرایط پشتیبانی را هم دارد.
آیا بدون اینترنت بینالملل کار میکند؟
بله، اگر مدل، نرمافزار اجرا، دستیار، ورود کاربران و ابزار پایش همه داخل شبکه شما باشند. هر جزئی که به سرویس خارجی وابسته باشد، در قطعی از کار میافتد؛ برای همین پیش از تحویل، سامانه را با قطع عمدی اینترنت بینالملل میآزماییم.
بگویید مدل برای چند نفر باید کار کند
از روی مدل، تعداد کاربران و زمان پاسخی که می‌خواهید، کارت و سرور مناسب را پیشنهاد میکنیم، و اگر یک کارت کافی است، سرور هشت‌کارتی پیشنهاد نمیکنیم.