سرور هوش مصنوعی و زیرساخت مدل‌های لوکال

سخت‌افزار اجرای هوش مصنوعی را تأمین و نصب می‌کنیم، مدل باز مناسب کارتان را رویش راه می‌اندازیم و دستیار فارسی را به سامانه‌هایتان وصل می‌کنیم؛ از یک Mac mini برای تیم کوچک تا رک سرورهای چند GPU.

زیرساخت هوش مصنوعی یعنی چه

برای اینکه مدل زبانی روی سرور خودتان کار کند سه چیز لازم است: سخت‌افزاری با حافظه کافی برای مدل، نرم‌افزاری که مدل را اجرا کند و به چند کاربر هم‌زمان پاسخ بدهد، و برنامه‌ای که کارکنان با آن کار کنند. ژرف هر سه را با هم تحویل می‌دهد. داده از شبکه شما بیرون نمی‌رود و سامانه به سرویس خارجی وابسته نیست.

سه راه همکاری

اجاره ساعتی GPU نمی‌دهیم. سخت‌افزار یا مال شماست، یا ماشینی است که فقط برای شما کار می‌کند.

۰۱

تأمین و نصب در محل شما

سخت‌افزار را تأمین می‌کنیم، در اتاق سرور یا مرکز داده شما نصب می‌کنیم و مدل و دستیار را رویش راه می‌اندازیم. سخت‌افزار متعلق به شماست.

۰۲

ماشین اختصاصی با نگهداری ژرف

سخت‌افزاری که فقط برای شما کار می‌کند و نگهداری، به‌روزرسانی و پایشش با ماست؛ تیم شما فقط از سامانه استفاده می‌کند.

۰۳

راه‌اندازی روی سخت‌افزار خودتان

اگر سرور، کارت گرافیک یا مک دارید، مدلی را که رویش خوب کار می‌کند انتخاب و راه‌اندازی می‌کنیم و اگر کم باشد، می‌گوییم دقیقاً چه چیزی باید اضافه شود.

کدام مدل روی کدام سخت‌افزار

راهنمای سریع از روی اندازه مدل. انتخاب دقیق را با آزمایش روی کار خود شما انجام می‌دهیم، چون تعداد کاربران و طول متن‌ها هم حافظه می‌گیرند.

اندازه مدلنمونهحافظه وزن‌ها در ۴ بیتسخت‌افزار مناسب
تا ۱۵ میلیارد پارامترGemma 4 12B، Qwen3.5-9Bتا حدود ۱۰ گیگابایتMac mini، یک کارت RTX یا Atlas 300I Pro
۲۰ تا ۴۰ میلیاردGemma 4 31B، Qwen3.8-27Bحدود ۱۵ تا ۲۵ گیگابایتیک RTX 5090، Mac mini M5 Pro یا Radeon AI PRO R9700
۷۰ تا ۱۳۰ میلیارد، اغلب MoEgpt-oss-120b، Qwen3.5-122B-A10Bحدود ۴۵ تا ۸۰ گیگابایتRTX PRO 6000، DGX Spark، Ryzen AI Max یا Mac Studio M5 Max
۲۰۰ تا ۴۰۰ میلیارد، MoEDeepSeek-V4-Flash، Tencent Hy3، Qwen3.5-397Bحدود ۱۲۰ تا ۲۵۰ گیگابایتMac Studio M5 Ultra، سرور چهارکارتی H200 یا Atlas 800I A2
۵۰۰ میلیارد تا ۱ تریلیونGLM-5.2، DeepSeek-V4.1-Flash، Kimi K2.7 Codeحدود ۳۰۰ تا ۶۲۰ گیگابایتسرور هشت‌کارتی H200، B200 یا MI355X، یا Mac Studio ۵۱۲ گیگابایتی
بیش از ۱ تریلیونDeepSeek-V4-Pro، Kimi K3، Qwen3.8-2.4Tحدود ۱ تا ۱٫۷ ترابایتسرور هشت‌کارتی B300 یا MI355X، کلاستر Mac Studio یا Atlas 950

حافظه فقط برای وزن‌های مدل است و برآورد ماست؛ زمینه بلند و کاربران هم‌زمان حافظه بیشتری می‌خواهند. در مدل‌های MoE برای هر کلمه فقط بخشی از پارامترها به کار می‌رود، پس سریع‌تر از آنچه اندازه‌شان نشان می‌دهد پاسخ می‌دهند.

از اولین تماس تا سامانه‌ای که کار می‌کند

سخت‌افزار را بعد از سنجیدن مدل روی کار خود شما انتخاب می‌کنیم، نه از روی جدول. پیش‌فاکتور فقط وقتی صادر می‌شود که معلوم باشد چه مدلی، برای چند نفر و با چه سرعتی باید کار کند.

  1. ۰۱

    گفت‌وگوی اول

    کار، تعداد کاربران، داده، محل نصب و سخت‌افزاری را که از قبل دارید مرور می‌کنیم.

  2. ۰۲

    سنجش روی کار شما

    چند مدل باز را روی نمونه کار واقعی‌تان می‌سنجیم و حافظه و سرعت لازم را از روی همان نتیجه حساب می‌کنیم.

  3. ۰۳

    پیش‌فاکتور مکتوب

    پیکربندی دقیق، مدل پیشنهادی، زمان تحویل و شرایط پشتیبانی را مکتوب می‌دهیم. قیمت را فقط در پیش‌فاکتور اعلام می‌کنیم.

  4. ۰۴

    نصب و راه‌اندازی

    سخت‌افزار را نصب می‌کنیم، مدل را راه می‌اندازیم و دستیار را به سامانه‌هایتان وصل می‌کنیم. یک بار هم سامانه را با قطع اینترنت بین‌الملل می‌آزماییم.

  5. ۰۵

    تحویل و نگهداری

    مستندات و آموزش تیم شما را تحویل می‌دهیم و بعد، طبق قرارداد، نگهداری و به‌روزرسانی مدل‌ها را بر عهده می‌گیریم.

چطور با ما در تماس باشید

فرم را پر کنید یا در واتس‌اپ پیام بدهید. هرچه این‌ها روشن‌تر باشد، پیش‌فاکتور دقیق‌تر است:

  • کاری که مدل باید انجام دهد (پاسخ از اسناد، کدنویسی، خلاصه‌سازی، پردازش تصویر یا صدا)
  • تعداد کاربرانی که هم‌زمان با سامانه کار می‌کنند و زمان پاسخی که می‌پذیرید
  • مدل یا خانواده سخت‌افزاری که در نظر دارید، اگر از پیش می‌دانید
  • محل نصب: اتاق سرور سازمان، مرکز داده، یا سخت‌افزاری که از قبل دارید
  • حساسیت داده و اینکه سامانه باید کاملاً بدون اینترنت کار کند یا نه
ژرف

دستیار هوش مصنوعی ژرف را همین حالا امتحان کنید

درباره دستیار فارسی، اتوماسیون اسناد یا اینکه از کجا شروع کنید، بپرسید.

پرسش‌های متداول درباره سرور هوش مصنوعی

از کدام سخت‌افزار شروع کنیم؟

از کار شروع کنید، نه از سخت‌افزار. معمولاً پیشنهاد می‌کنیم با یک دستگاه، مثل یک Mac Studio، یک کارت RTX PRO 6000 یا یک DGX Spark، و یک مدل میان‌اندازه شروع کنید و بعد از اجرای آزمایشی روی کار واقعی، اندازه سخت‌افزار را برای کل سازمان تعیین کنیم.

چه مدل‌هایی را راه می‌اندازید؟

هر مدلی که وزن‌هایش منتشر شده باشد؛ از Gemma و Qwen تا DeepSeek، Kimi، GLM و MiMo. فهرست کامل با اندازه، مجوز تجاری، نمره آزمون فارسی و سخت‌افزار مناسب هر مدل در صفحه مدل‌های لوکال آمده است.

سخت‌افزار چینی مثل Huawei Ascend هم فراهم می‌کنید؟

بله. کارت‌ها و سرورهای Huawei Ascend، شتاب‌دهنده‌های Moore Threads، Cambricon، MetaX و Hygon، و مینی‌پی‌سی‌های چینی پرحافظه را هم فراهم و راه‌اندازی می‌کنیم. چون نرم‌افزار این سخت‌افزارها کمتر از انویدیا جاافتاده است، مدل شما را پیش از خرید رویشان می‌آزماییم.

اجاره ساعتی یا ماهانه سرور GPU هم دارید؟

خیر. ژرف GPU را ساعتی یا ماهانه اجاره نمی‌دهد. سه راه داریم: سخت‌افزار را تأمین و در محل شما نصب می‌کنیم، یک ماشین اختصاصی برایتان راه می‌اندازیم که خودمان نگهداری‌اش می‌کنیم، یا مدل را روی سخت‌افزاری که از قبل دارید راه می‌اندازیم. اگر فقط چند ساعت پردازش برای آزمایش لازم دارید، همین را در گفت‌وگوی اول بگویید تا راه مناسب را پیشنهاد کنیم.

قیمت چقدر است؟

قیمت را روی سایت اعلام نمی‌کنیم، چون به پیکربندی، تعداد، بازار روز و نوع تحویل بستگی دارد. بعد از گفت‌وگوی اول و سنجش روی کار شما، پیش‌فاکتور مکتوب می‌دهیم که مدل دقیق سخت‌افزار، زمان تحویل و شرایط پشتیبانی را هم دارد.

آیا بدون اینترنت بین‌الملل کار می‌کند؟

بله، اگر مدل، نرم‌افزار اجرا، دستیار، ورود کاربران و ابزار پایش همه داخل شبکه شما باشند. هر جزئی که به سرویس خارجی وابسته باشد، در قطعی از کار می‌افتد؛ برای همین پیش از تحویل، سامانه را با قطع عمدی اینترنت بین‌الملل می‌آزماییم.

از کاری شروع کنید که باید روی سرور خودتان بماند

بگویید مدل باید چه کاری بکند و چند نفر با آن کار می‌کنند. در گفت‌وگوی اول می‌گوییم چه سخت‌افزاری لازم است، و اگر سخت‌افزار فعلی‌تان کافی است همین را صریح می‌گوییم.

درخواست پیش‌فاکتور