llama.cpp از Kimi K3 پشتیبانی کرد؛ تقاضا آزمون اقتصادی را تعیین می‌کند

قوی‌ترین سیگنال هوش مصنوعی در چرخه اخیر، معرفی یک مدل دیگر نیست؛ کاری است که برای قابل‌استفاده‌کردن یک مدل مرزی از پیش منتشرشده در زمان‌اجرای دیگری لازم است. نسخه b10448 پروژه llama.cpp پشتیبانی از متن Kimi K3 را در تبدیل مدل، ساخت گراف، قالب گفت‌وگو، استخراج استدلال، پخش جریانی و فراخوانی ابزار نوع‌دار افزود. این تغییر عملاً انتخاب‌های استقرار را بیشتر می‌کند، اما اثبات نمی‌کند اجرای Kimi K3 ارزان، در همه سخت‌افزارها قابل‌حمل یا از نظر اقتصادی مولد شده است. کنار هم گذاشتن این نسخه با داده‌های تازه تقاضا، موجودی، اعتبار بانکی و موقعیت‌های آتی آمریکا یک گزاره دقیق می‌سازد: دسترسی فنی به مدل توانمند می‌تواند سریع‌تر از شواهد بازاری لازم برای توجیه هزینه عملیاتی و سرمایه‌ای آن گسترش یابد.

عمق فنی ادغام قابل‌توجه است. این نسخه توجه خطی KDA و توجه کامل MLA در معماری ترکیبی Kimi K3، توجه باقیمانده میان‌لایه‌ای، آمیخته‌خبرگان نهفته، فعال‌ساز situ، دروازه خروجی MLA و دروازه تمام‌رتبه KDA را به llama.cpp نگاشت می‌کند. مبدل پروژه، وزن‌های خبرگان فشرده‌شده با MXFP4 را از نظر بیت با نمایش MXFP4 در ggml سازگار می‌داند و به‌جای کمّی‌زدایی کل وزن‌ها فقط جای نیم‌بایت‌ها را عوض می‌کند. نگه‌داران می‌گویند این روش از یک رفت‌وبرگشت تقریبی ۵٫۵ ترابایتی با bfloat16 جلوگیری می‌کند. سقف تعداد خبره‌ها نیز از ۵۱۲ به ۱۰۲۴ افزایش یافته و تجزیه خروجی استدلال، پاسخ و فراخوانی ابزار K3 اضافه شده است. این‌ها واقعیت‌های پیاده‌سازی گزارش‌شده توسط خود پروژه‌اند، نه مطالعه مستقل عملکرد.

این نسخه هم اعتبارسنجی مفید دارد و هم محدودیت‌های مفید. نگه‌داران یک مدل کوچک شامل ویژگی‌های خاص K3 را با مسیر مرجع Moonshot مقایسه کرده‌اند و برای موقعیت نهایی، خطای نسبی لاجیت 6.7e-05 و همبستگی 1.00000000 را در مسیرهای قطعه‌ای و بازگشتی گزارش می‌کنند؛ در همان آزمون، بلوک‌های MXFP4 با خطای صفر از حالت کمّی خارج شده‌اند. محتوا، استدلال، دلتاهای جریانی و فراخوانی ابزار نیز با یک ساخت کمّی‌شده K3 روی هشت شتاب‌دهنده B200 آزمایش شده است. بااین‌حال، عملگر باقیمانده میان‌لایه‌ای فقط برای CPU و CUDA پیاده شده و Metal و Vulkan ممکن است در سطح هر گره به مسیر جایگزین بروند. یادداشت‌ها تکرار مستقل، توزیع تأخیر تولید، مصرف انرژی، مقایسه کیفیت میان کمّی‌سازی‌ها یا هزینه کل سروینگ را ارائه نمی‌کنند. دقت یک گراف کوچک و اجرای موفق روی هشت شتاب‌دهنده ممتاز، آزمون پذیرش است نه اقتصاد واحد.

نسخه b10451 که صبح بعد منتشر شد، مسئله مرز ورودی را روشن‌تر می‌کند: llama.cpp کنترلی افزود تا پیش از استفاده از آداپتور، داده تنسور LoRA داخل محدوده فایل باقی بماند. این نسخه CVE، شدت، مسیر بهره‌برداری یا رخداد اندازه‌گیری‌شده‌ای اعلام نمی‌کند؛ بنابراین تبدیل آن به داستان نقض امنیتی تأییدشده نادرست است. بااین‌حال، پیام عملی واقعی است. یک زمان‌اجرای باز که فایل مدل، وزن کمّی‌شده، قالب، آداپتور و شِمای ابزار می‌پذیرد سطح ورودی گسترده‌ای دارد. پشتیبانی از مدل زمانی کامل است که هم تبدیل و خروجی درست باشد و هم مصنوعات نامعتبر یا مخرب با شکست امن متوقف شوند.

داده تقاضا گسترشی هم‌اندازه نشان نمی‌دهد. اداره سرشماری آمریکا فروش خرده‌فروشی و خدمات غذایی ژوئیه را ۷۶۳٫۶ میلیارد دلار برآورد کرد؛ ۰٫۶ درصد کمتر از ژوئن با حاشیه خطای ±۰٫۴ واحد درصد، اما ۵٫۰ درصد بیشتر از ژوئیه ۲۰۲۵. داده برای فصل، تعطیلات و روزهای معاملاتی تعدیل شده، اما اثر تغییر قیمت از آن حذف نشده است؛ پس فروش اسمی است نه مصرف واقعی. فروش بدون خودرو ۰٫۳ درصد و بدون خودرو و بنزین ۰٫۲ درصد افت کرد. خرده‌فروشی غیرحضوری ۲٫۲ درصد و فروشگاه‌های الکترونیک و لوازم خانگی ۰٫۵ درصد پایین آمدند، درحالی‌که خدمات غذایی ۰٫۵ درصد رشد کرد. یک ماه رکود مصرف‌کننده را اثبات نمی‌کند، اما روایت شتاب‌گیری یکنواخت تقاضای نهایی را بی‌پشتوانه می‌گذارد.

انتشار دوم اداره سرشماری، یک مرحله بالاتر در زنجیره و برای ماه گزارش‌دهی متفاوت، تنش مشابهی دارد. مجموع فروش تجارت توزیعی و محموله‌های تولیدکنندگان در ژوئن ۲٫۱۱۱۳ تریلیون دلار بود؛ ۱٫۱ درصد کمتر از مه و ۱۰٫۰ درصد بیشتر از سال قبل. موجودی ۲٫۷۴۰۲ تریلیون دلار بود، در ماه تقریباً تغییری نکرد و نسبت به سال قبل ۳٫۰ درصد افزایش داشت. نسبت تعدیل‌شده موجودی به فروش ۱٫۳۰ بود، در برابر ۱٫۳۹ در ژوئن سال قبل. چون این سری‌ها نیز برای قیمت تعدیل نشده‌اند، رشد سالانه بزرگ فروش را نمی‌توان رشد حجم واقعی دانست. همچنین نباید موجودی ژوئن را بی‌دقت با خرده‌فروشی ژوئیه یا نسخه نرم‌افزاری اوت هم‌زمان فرض کرد. نکته محدود این است که هم‌زمان با کاهش فروش جاری به دلار، شرکت‌ها حاشیه بزرگ تازه‌ای از موجودی نساختند.

اعتبار وجود دارد، اما تخصیص آن یکنواخت نیست. در انتشار H.8 فدرال‌رزرو در ۱۴ اوت، اعتبار بانکی در ژوئیه با نرخ سالانه تعدیل‌شده فصلی ۵٫۹ درصد و وام و اجاره اعتباری با نرخ ۳٫۹ درصد رشد کرد. وام مصرفی ۸٫۵ درصد رشد داشت، اما وام تجاری و صنعتی با نرخ سالانه ۱٫۱ درصد منقبض شد. این ارقام نرخ رشد تجمیعی و تعدیل‌شده برای شکست‌های ساختاری‌اند؛ نه تعداد پذیرش وام شرکت‌های AI، نه سنجه استاندارد اعتبارسنجی و نه دلیل سالم‌بودن بدهی خانوار. بااین‌حال نشان می‌دهند چرا باید ظرفیت کل نظام مالی را از سرمایه در دسترس برای استقرار مولد جدا کرد. زمان‌اجرا ممکن است فهرست فنی را گسترده‌تر کند، درحالی‌که شتاب اعتبار کسب‌وکار باریک‌تر می‌شود.

موقعیت بازار نیز نه قاطعانه ریسک‌پذیر است و نه قاطعانه ریسک‌گریز. گزارش CFTC که جمعه منتشر شد، موقعیت‌های ۱۱ اوت را پوشش می‌دهد. در قرارداد E-mini S&P 500، مدیران دارایی ۱٬۱۵۴٬۷۰۰ قرارداد خرید و ۲۰۶٬۲۱۹ قرارداد فروش داشتند؛ صندوق‌های اهرمی ۲۰۵٬۷۴۴ قرارداد خرید و ۴۸۶٬۱۹۰ قرارداد فروش. صندوق‌های اهرمی نسبت به هفته قبل ۴۹٬۸۴۸ موقعیت فروش ناخالص را بسته بودند، پس این تصویر شاهد یک شرط‌بندی نزولی تازه و یک‌طرفه نیست. قرارداد آتی می‌تواند پوشش ریسک دارایی دیگر باشد، دسته‌ها گسترده‌اند و داده سه‌شنبه پیش از انتشار خرده‌فروشی جمعه ثبت شده است. برداشت قابل‌دفاع فقط این است که بازیگران حرفه‌ای در دل سیگنال اقتصادی مختلط، مواجهه‌های بسیار متفاوتی حمل می‌کردند.

برای تیم‌های AI، از جمله اپراتورهای ایرانی که با محدودیت سخت‌افزار، پرداخت و دسترسی برون‌مرزی کار می‌کنند، ترتیب عملی سخت‌گیرانه است. ابتدا باید حفظ وزن‌ها و رفتار ذخیره و بارگذاری در تبدیل را سنجید؛ سپس بک‌اند واقعی، منشأ آداپتور، تجزیه فراخوانی ابزار، دنباله تأخیر، حافظه، برق و جداسازی خرابی را آزمایش کرد. فقط پس از آن می‌توان توکن سرو‌شده یا کار تکمیل‌شده را به درآمد، هزینه اجتناب‌شده یا کاهش ریسک نگاشت. پشتیبانی Kimi K3 در llama.cpp حق انتخاب را بیشتر می‌کند، اما مسیر اعتبارسنجی با هشت B200 نسخه استقرار برای بنگاه کوچک نیست. داده خرده‌فروشی و اعتبار آمریکا هم نماینده مستقیم تقاضای ایران نیست؛ بخشی از محیط بیرونی قیمت و سرمایه است، نه پیش‌بینی محلی یا سیگنال سرمایه‌گذاری.

شواهد بعدی باید هر دو سوی شکاف را ببندد. در سمت مهندسی باید بنچمارک تکرارپذیر K3 روی CUDA، Metal، Vulkan و CPU؛ آزمون تبدیل و رفت‌وبرگشت روی کمّی‌سازی‌های منتشرشده؛ فازینگ آداپتور و رفتار روشن در برابر فایل معیوب؛ و اندازه‌گیری توان عملیاتی، حافظه، برق و کیفیت خروجی را دید. در سمت اقتصاد باید دید افت خرده‌فروشی ژوئیه اصلاح یا تکرار می‌شود، نسبت پایین‌تر موجودی به فروش در داده جدید باقی می‌ماند، اعتبار تجاری و صنعتی دوباره رشد می‌کند و مواجهه آتی مدیران دارایی و صندوق‌های اهرمی چگونه تغییر می‌یابد. سیگنال امروز توقف پیشرفت AI یا فروپاشی تقاضا نیست. سیگنال این است که پیشرفت ادغام به دروازه اقتصادی سخت‌تری رسیده: اجرای درست، امن و قابل‌حمل هنوز باید هم حجم کار و هم سرمایه خود را به دست آورد.