مدل بزرگ برای تیم کوچک
یک M5 Ultra با ۲۵۶ یا ۵۱۲ گیگابایت حافظه مدل‌هایی را اجرا میکند که روی سرور GPU به چند کارت نیاز دارند؛ برای تیمی که چند نفرش همزمان با سامانه کار می‌کنند.
مک استودیو (Mac Studio) برای اجرای هوش مصنوعی لوکال
در Mac Studio پردازنده گرافیکی مستقیم از حافظه یکپارچه دستگاه استفاده میکند؛ برای همین مدلی که روی هیچ کارت گرافیک تکی جا نمی‌شود، روی یک دستگاه کم‌صدا و کم‌مصرف روی میز اجرا میشود. برای مدلهای بزرگ‌تر، چند Mac Studio را با Thunderbolt 5 به هم وصل میکنیم.
چرا مک برای هوش مصنوعی
اندازه مدلی که میشود اجرا کرد به مقدار حافظه بستگی دارد و سرعت نوشتن پاسخ بیشتر به سرعت حافظه. Mac Studio با تراشه M5 Ultra تا ۵۱۲ گیگابایت حافظه یکپارچه با پهنای باند ۱٫۲ ترابایت بر ثانیه دارد و حداکثر ۴۸۰ وات برق می‌کشد. مدل را روی مک با MLX اجرا میکنیم؛ چارچوب متنباز اپل که بیشتر مدلهای باز مطرح نسخه آماده آن را دارند. محدودیتش هم روشن است: خواندن پرسشهای خیلی طولانی و پاسخ‌دادن به دهها کاربر همزمان روی سرور GPU سریعتر است.
مک استودیو برای چه کاری مناسب است
دفتر بدون اتاق سرور
دستگاهی حدود ۲۰ در ۲۰ سانتی‌متر، کم‌صدا و با برق معمولی دفتر؛ نه رک لازم دارد و نه سرمایش جداگانه.
کلاستر برای مدلهای تریلیونی
از macOS 26.2 چند مک با Thunderbolt 5 و RDMA یک مدل را با هم اجرا می‌کنند. اپل در آزمایش خودش با چهار M5 Ultra، مدل ۸۱۶ میلیارد پارامتری Muse Spark Open را با سرعت ۳۶٫۷ توکن در ثانیه اجرا کرده است.
Mac mini برای شروع
Mac mini با تراشه M5 Pro تا ۶۴ گیگابایت حافظه دارد؛ برای مدلهای کوچک و میان‌اندازه، آزمایش و دستیار یک واحد کافی است.
پیکربندی‌هایی که فراهم و راه‌اندازی میکنیم
مشخصات از صفحه‌های رسمی اپل، بازبینی‌شده در ۳۰ مهر ۱۴۰۵.
| دستگاه | حافظه یکپارچه | پهنای باند حافظه | چه مدلی جا میشود | مناسب برای |
|---|---|---|---|---|
| Mac mini M6 | تا ۳۲ گیگابایت | ۱۵۳ تا ۱۷۰ گیگابایت بر ثانیه | مدل تا حدود ۱۴ میلیارد پارامتر در ۸ بیت | دستیار یک نفر و آزمایش |
| Mac mini M5 Pro | تا ۶۴ گیگابایت | ۳۰۷ گیگابایت بر ثانیه | مدل حدود ۳۰ میلیاردی در ۸ بیت | تیم کوچک با مدل میان‌اندازه |
| Mac Studio M5 Max | تا ۱۲۸ گیگابایت | تا ۶۱۴ گیگابایت بر ثانیه | مدل حدود ۷۰ میلیاردی در ۸ بیت، یا مدل MoE حدود ۱۲۰ میلیاردی در ۴ بیت | تیم کوچک با مدل بزرگ |
| Mac Studio M5 Ultra | ۹۶، ۲۵۶ یا ۵۱۲ گیگابایت | ۱٫۲ ترابایت بر ثانیه | با ۵۱۲ گیگابایت، مدل MoE تا حدود ۷۰۰ میلیارد پارامتر در ۴ بیت؛ مثلاً DeepSeek-V4-Flash در ۸ بیت | مدل خیلی بزرگ روی یک دستگاه |
| کلاستر دو تا چهار Mac Studio M5 Ultra | مجموع حافظه دستگاهها، تا ۲ ترابایت | هر دستگاه ۱٫۲ ترابایت بر ثانیه، اتصال Thunderbolt 5 | مدلهای یک تا چند تریلیون پارامتری مثل Kimi K2.7 Code یا DeepSeek-V4-Pro در ۴ بیت | مدلهای بسیار بزرگ بدون سرور GPU |
| Mac Studio M3 Ultra و M4 Max (نسل قبل) | M3 Ultra تا ۵۱۲ و M4 Max تا ۱۲۸ گیگابایت | M3 Ultra بیش از ۸۰۰ گیگابایت بر ثانیه | همان رده M5، با سرعت کمتر | اگر از قبل دارید، مدل را رویش راه میاندازیم |
ستون «چه مدلی جا میشود» برآورد ماست، نه ادعای سازنده: هر میلیارد پارامتر در ۸ بیت حدود ۱ گیگابایت و در ۴ بیت حدود نیم گیگابایت حافظه می‌گیرد و باید جا برای حافظه گفت‌وگو و کاربران همزمان هم بماند. پیکربندی ۵۱۲ گیگابایتی M5 Ultra را اپل از اواخر اکتبر ۲۰۲۶ عرضه میکند. کلاستر مک حافظه را یکی نمیکند: مدل بین دستگاهها تقسیم میشود و هر دستگاه بخشی از محاسبه را انجام میدهد.
نرم‌افزاری که روی مک راه میاندازیم
| لایه | آنچه نصب و تنظیم میکنیم |
|---|---|
| اجرای مدل | MLX و mlx-lm، چارچوب متنباز اپل؛ یا llama.cpp برای مدل‌هایی که نسخه MLX ندارند |
| کلاستر | RDMA روی Thunderbolt 5 (از macOS 26.2)، کتابخانه JACCL اپل و exo برای اجرای یک مدل روی چند دستگاه |
| رابط برنامه‌نویسی | API سازگار با OpenAI، تا برنامه‌های فعلی‌تان بدون بازنویسی به مدل لوکال وصل شوند |
| دستیار و اسناد | دستیار فارسی، جست‌وجو در اسناد داخلی با ذکر منبع (RAG) و گردش‌کارهای n8n |
از اولین تماس تا سامانه‌ای که کار میکند
سختافزار را بعد از سنجیدن مدل روی کار خود شما انتخاب میکنیم، نه از روی جدول. پیشفاکتور فقط وقتی صادر میشود که معلوم باشد چه مدلی، برای چند نفر و با چه سرعتی باید کار کند.
- ۰۱
گفتوگوی اول
کار، تعداد کاربران، داده، محل نصب و سختافزاری را که از قبل دارید مرور میکنیم.
- ۰۲
سنجش روی کار شما
چند مدل باز را روی نمونه کار واقعی‌تان میسنجیم و حافظه و سرعت لازم را از روی همان نتیجه حساب میکنیم.
- ۰۳
پیشفاکتور مکتوب
پیکربندی دقیق، مدل پیشنهادی، زمان تحویل و شرایط پشتیبانی را مکتوب میدهیم. قیمت را فقط در پیشفاکتور اعلام میکنیم.
- ۰۴
نصب و راه‌اندازی
سختافزار را نصب میکنیم، مدل را راه میاندازیم و دستیار را به سامانه‌هایتان وصل میکنیم. یک بار هم سامانه را با قطع اینترنت بینالملل میآزماییم.
- ۰۵
تحویل و نگهداری
مستندات و آموزش تیم شما را تحویل میدهیم و بعد، طبق قرارداد، نگهداری و به‌روزرسانی مدل‌ها را بر عهده می‌گیریم.
چطور با ما در تماس باشید
فرم را پر کنید یا در واتس‌اپ پیام بدهید. هرچه این‌ها روشن‌تر باشد، پیشفاکتور دقیق‌تر است:
- کاری که مدل باید انجام دهد (پاسخ از اسناد، کدنویسی، خلاصه‌سازی، پردازش تصویر یا صدا)
- تعداد کاربرانی که همزمان با سامانه کار می‌کنند و زمان پاسخی که می‌پذیرید
- مدل یا خانواده سختافزاری که در نظر دارید، اگر از پیش می‌دانید
- محل نصب: اتاق سرور سازمان، مرکز داده، یا سختافزاری که از قبل دارید
- حساسیت داده و اینکه سامانه باید کاملاً بدون اینترنت کار کند یا نه
حداکثر تا یک روز کاری پاسخ میدهیم.
ژرف
دستیار هوش مصنوعی ژرف را همین حالا امتحان کنید
درباره دستیار فارسی، اتوماسیون اسناد یا اینکه از کجا شروع کنید، بپرسید.
پرسشهای متداول درباره مک استودیو برای هوش مصنوعی
مک استودیو بهتر است یا سرور GPU؟
به تعداد کاربران همزمان بستگی دارد. Mac Studio حافظه زیاد را با برق کمتر، و معمولاً با هزینه کمتر، از سرور GPU با همان حافظه فراهم میکند و برای مدل بزرگ با چند کاربر همزمان مناسب است. سرور GPU انویدیا یا AMD پرسشهای طولانی را سریعتر میخواند و برای دهها کاربر همزمان مناسبتر است. این را روی کار واقعی شما میسنجیم و بعد پیشنهاد میدهیم.
چند مک استودیو را میشود به هم وصل کرد؟
در آزمایشهایی که اپل منتشر کرده، چهار Mac Studio با کابل مستقیم Thunderbolt 5 بین هر دو دستگاه به هم وصل شدهاند. این کلاستر حافظه را یکی نمیکند؛ مدل بین دستگاهها تقسیم میشود و هر دستگاه بخشی از کار را انجام میدهد. اپل میگوید چهار دستگاه تا حدود سه برابر یک دستگاه سریعترند.
MLX چیست؟
MLX چارچوب متنباز اپل برای اجرای مدلهای یادگیری ماشین روی تراشههای Apple Silicon است. بیشتر مدلهای باز مطرح مثل Qwen، Gemma، DeepSeek و GLM نسخه آماده MLX دارند و mlx-lm آنها را با یک API سازگار با OpenAI در اختیار برنامهها میگذارد.
کیفیت فارسی روی مک فرق میکند؟
نه، اگر همان مدل با همان دقت (مثلاً ۸ بیت) اجرا شود. کیفیت فارسی به مدل بستگی دارد و سختافزار فقط سرعت و بزرگ‌ترین مدل ممکن را تعیین میکند. در جدول آزمون فارسی Open Persian LLM Leaderboard، مدلهای Gemma 4 31B و Qwen3.8-27B جزو بهترین مدلهای باز هستند و هر دو روی یک Mac Studio اجرا می‌شوند.
اجاره ساعتی یا ماهانه سرور GPU هم دارید؟
خیر. ژرف GPU را ساعتی یا ماهانه اجاره نمیدهد. سه راه داریم: سختافزار را تأمین و در محل شما نصب میکنیم، یک ماشین اختصاصی برایتان راه میاندازیم که خودمان نگهداریاش میکنیم، یا مدل را روی سختافزاری که از قبل دارید راه میاندازیم. اگر فقط چند ساعت پردازش برای آزمایش لازم دارید، همین را در گفتوگوی اول بگویید تا راه مناسب را پیشنهاد کنیم.
قیمت چقدر است؟
قیمت را روی سایت اعلام نمیکنیم، چون به پیکربندی، تعداد، بازار روز و نوع تحویل بستگی دارد. بعد از گفتوگوی اول و سنجش روی کار شما، پیشفاکتور مکتوب میدهیم که مدل دقیق سختافزار، زمان تحویل و شرایط پشتیبانی را هم دارد.
آیا بدون اینترنت بینالملل کار میکند؟
بله، اگر مدل، نرمافزار اجرا، دستیار، ورود کاربران و ابزار پایش همه داخل شبکه شما باشند. هر جزئی که به سرویس خارجی وابسته باشد، در قطعی از کار میافتد؛ برای همین پیش از تحویل، سامانه را با قطع عمدی اینترنت بینالملل میآزماییم.
بگویید چه مدلی را می‌خواهید اجرا کنید
می‌گوییم چه پیکربندی Mac Studio یا چند دستگاه لازم است، و اگر سرور GPU برای کارتان بهتر است همین را صریح می‌گوییم.