الف آلفا کولیبری را با وزن‌های ۷۸ گیگابایتی منتشر کرد

۱۲ مهر ۱۴۰۵

الف آلفا کولیبری را با وزن‌های ۷۸ گیگابایتی منتشر کرد

الف آلفا مدل کولیبری را منتشر کرده است؛ مدلی با وزن‌های در دسترس که در هر مرحله فقط بخشی از آن کار می‌کند، اما حافظهٔ لازم برای نگهداری کل مدل همچنان باید فراهم باشد. شرکت خریدار می‌تواند محل اجرا را انتخاب کند و در عوض مسئول ظرفیت و نگهداری هم می‌شود. ژرف این انتخاب را در کنار یافتهٔ تازهٔ بانک مرکزی اروپا دربارهٔ تأمین پول سرمایه‌گذاری هوش مصنوعی بررسی می‌کند. برآورد تورم یورواستات و تعهد تازهٔ آمازون به هزینه‌کرد در جوامع میزبان مراکز داده نیز زمینهٔ مستقلی می‌دهند؛ هیچ‌کدام اثبات نمی‌کنند اجرای کولیبری ارزان‌تر یا سودآورتر است. معیار عملی، هزینه و کیفیت کاری است که با بار واقعی به پایان می‌رسد.


تحلیل ژرف

الف آلفا روز ۳ اکتبر کولیبری را منتشر کرد: بنا بر نوشتهٔ معرفی شرکت، مدل در مجموع ۷۸٫۱ میلیارد پارامتر دارد، اما برای هر توکن ۳٫۴۶ میلیارد پارامتر آن فعال می‌شود. این فاصله خبر مهم برای خریدار است، نه نشانه‌ای که بتوان از روی آن کولیبری را مدلی کوچک برای رایانهٔ رومیزی دانست. برداشت ژرف این است که باید دو پرسش را جدا کرد: ساختن پاسخ چقدر محاسبه می‌خواهد و برای آماده نگه داشتن سامانه چه تجهیزاتی لازم است؟ عدد پارامترهای فعال فقط به پرسش اول کمک می‌کند و جواب کامل پرسش دوم نیست.

کارت مدل، اندازهٔ وزن‌ها در قالب FP8 را حدود ۷۸ گیگابایت و مجوز را آپاچی ۲٫۰ اعلام می‌کند. کل وزن‌ها باید در حافظه بمانند، حتی وقتی فقط بخشی از مدل فعال است. این حجم را هم نباید با تمام حافظهٔ لازم برای سرویس یکی گرفت؛ اجرای درخواست‌ها و پاسخ‌گویی هم‌زمان نیز جا می‌خواهد. بنابراین اگر در برآورد خرید فقط اندازهٔ وزن‌ها حساب شود، بخشی از نیاز از قلم افتاده است. مقایسهٔ درست میان دو پیکربندی است که بار کاری مورد نظر را تحمل می‌کنند، نه میان بزرگ‌ترین عدد مشخصات یک مدل و کوچک‌ترین عدد مدل دیگر.

در همان سند، طول متن ورودیِ پایه ۲۶۲۱۴۴ توکن است و حداکثر آزموده‌شده به ۱۰۴۸۵۷۶ توکن می‌رسد؛ توصیهٔ شرکت برای کار پیچیده یا حساس به سرعت، ماندن در حد پایه است. این مشخصات را سازنده گزارش کرده و ژرف مستقلاً بازآزمایی نکرده است. فرض کنید دستیار قراردادهای تأمین‌کنندگان باید یک بند را پیدا کند. فرستادن کل بایگانی با هر پرسش، با پیدا کردن و فرستادن بندهای مرتبط، بار یکسانی ایجاد نمی‌کند. باید دید ورودی بلندتر واقعاً پاسخ بهتری می‌دهد یا فقط زمان پاسخ را بیشتر و ظرفیت هم‌زمان را کمتر می‌کند. سقف مجاز ورودی، هدف خرید تجهیزات نیست.

امکان اجرای مستقل ارزش دارد، اما سرویس رایگان نمی‌سازد. شرکت می‌تواند زمان تغییر نسخه و محل استقرار را در اختیار بگیرد و در عوض مسئول به‌روزرسانی، سطح دسترسی و رسیدگی به قطعی شود. برای استفادهٔ گهگاهی، سرویس اشتراکی اجاره‌ای شاید مناسب‌تر باشد، به شرط آنکه شرایط قرارداد و نحوهٔ نگهداری داده پذیرفتنی باشد. نه مالکیت تجهیزات خودبه‌خود ارزان‌تر است و نه پرداخت براساس مصرف. باید پرسید همان تیم برای انجام همان کار، با همان اطمینان از نتیجه، در روش دیگر چقدر می‌پردازد. اسناد امروز نرخ استفادهٔ مشخصی نمی‌دهند که از آن به بعد اجرای مستقل برای همه به‌صرفه شود.

بانک مرکزی اروپا در بررسی ۲ اکتبر خود از حدود پنج هزار بنگاه منطقهٔ یورو، به پرسش تأمین پول پرداخته است. از میان بنگاه‌هایی که قصد سرمایه‌گذاری در هوش مصنوعی دارند، ۷۲ درصد انتظار دارند از منابع داخلی استفاده کنند. موضوع، برنامهٔ دوازده ماه آینده است و پاسخ‌دهنده می‌توانسته چند منبع را انتخاب کند. پس این عدد نمی‌گوید ۷۲ درصد کل مخارج هوش مصنوعی تاکنون از وجه نقد پرداخت شده است؛ سهم بنگاه‌ها با سهم مبلغ خرید فرق دارد. این پیمایش نیز تقاضا برای کولیبری را نمی‌سنجد، چون انتشار مدل یک روز پس از انتشار تحلیل بوده است.

برای بنگاه کوچک، زمان پرداخت گاهی به اندازهٔ هزینهٔ سالانه اهمیت دارد. خرید دستگاه، پول را پیش از رسیدن همهٔ کارهای مفید مصرف می‌کند؛ اجاره ممکن است پرداخت را پخش کند، اما خودش هم می‌تواند تعهد قراردادی داشته باشد. آموزش کارمند و مرتب کردن اسناد قابل اتکا نیز از همان پول موجود سهم می‌خواهند. در مثال دستیار قرارداد، دستگاه بدون سند آماده ممکن است کم‌استفاده بماند؛ بایگانی مرتب هم بدون مسئول اجرا لزوماً به دست کارکنان نمی‌رسد. پیشنهاد ژرف این است که بودجه برای سرویس قابل استفاده دیده شود و زمان هزینهٔ تجهیزات، آماده‌سازی و نگهداری جداگانه مشخص باشد.

خبر اقتصادی مستقل جمعه، برآورد اولیهٔ یورواستات بود: تورم سالانهٔ منطقهٔ یورو در سپتامبر ۳٫۸ درصد در برابر ۳٫۲ درصد اوت، و تورم سالانهٔ انرژی ۱۸٫۸ درصد در برابر ۱۴٫۳ درصد برآورد شد. این‌ها شاخص قیمت مصرف‌کننده‌اند، نه تعرفهٔ برق مرکز دادهٔ یک شرکت. افزودن مستقیم درصد انرژی به بودجهٔ سرور، استفادهٔ نادرست از آمار است. خریدار باید قرارداد واقعی برق یا میزبانی و موعد تغییر قیمت آن را ببیند. این انتشار یادآور تفاوت صرفه‌جویی فنی و کاهش مبلغ پرداختی است؛ اثبات نمی‌کند که کولیبری اثر تورم را جبران می‌کند.

آمازون در اعلام ۲ اکتبر، تعهد دیگری از هزینه‌های زیرساخت را روشن کرد: بیش از یک میلیارد دلار حمایت اضافی طی پنج سال برای جوامع پیرامون مراکز دادهٔ خود در آمریکا، از جمله آموزش، مهارت‌آموزی و اولویت‌های آب و انرژی. این وعدهٔ آینده است، نه مخارجی که انجام شده و نه کل بودجهٔ ساخت مراکز داده. همچنین از آن نمی‌توان قطعی شدن مجوزها یا کاهش قبض برق خانوار را نتیجه گرفت. ارتباط محدود این خبر با بحث امروز آن است که بهره‌برداری از زیرساخت محاسباتی، تعهدهایی بیرون از خود مدل دارد؛ هیچ رابطهٔ تجاری میان این وعده و کولیبری ادعا نمی‌شود.

در دستیار فرضی قراردادها، واحد مفید برای سنجش هزینه می‌تواند پرسشی باشد که درست حل شده، نه صرفاً توکنی که ارزان تولید شده است. این پیشنهاد ارزیابی ژرف است، نه نتیجهٔ آزمون منتشرشده برای کولیبری. آزمایش باید قرارداد ناقص، نسخه‌های متناقض و پرسشی را هم در بر بگیرد که جوابش در اسناد نیست. پاسخ روانی که کارمند را به قرارداد اشتباه می‌فرستد، کار بررسی بیشتری می‌سازد. بازبینی انسانی باید در فرایند بماند و وقت آن حساب شود؛ نمی‌توان هر پاسخ تولیدشده را معادل زمان کاری ذخیره‌شده گرفت. مقایسهٔ سخت‌افزار یا موفقیت در زبان و وظیفه‌ای دیگر، این مسئله را حل نمی‌کند.

تمرکز زبانی اعلام‌شدهٔ مدل آلمانی و انگلیسی است. برای تیم ایرانی، این موضوع دقت فارسی، دسترسی محلی به سرویس یا تجهیزات لازم و مناسب بودن برای سند محرمانه را ثابت نمی‌کند. ارزیابی کوچک فارسی باید شکل واقعی اسناد، اصطلاحات کاری و پرسش‌های عمداً بی‌پاسخ را پوشش دهد. منظور کنار گذاشتن مدل به دلیل تفاوت مخاطب اصلی نیست؛ مسئله این است که پیش از وابسته کردن بودجه به آن، نادانسته‌ها مشخص شوند. وزن‌های در دسترس فرصت بررسی و اجرای سامانه می‌دهند، اما جای نتیجهٔ روشن در کاربرد همان شرکت را نمی‌گیرند.

سند بعدیِ ارزشمند، آزمون قابل تکراری است که سخت‌افزار، حافظهٔ مصرفی، بار هم‌زمان، زمان پاسخ و کیفیت جواب را کنار هم گزارش کند. مقایسهٔ مالی باید هزینهٔ دوره‌های کم‌کار و زحمت آماده نگه داشتن سرویس را نیز حساب کند. در خبرهای دیگر، تبدیل برنامهٔ تأمین مالی به مخارج واقعی، گزارش آمازون از اجرای وعده و آمار کامل سپتامبر یورواستات که برای ۱۶ اکتبر برنامه‌ریزی شده، ارزش پیگیری دارند. هیچ‌یک از این نتایج با انتشار اطلاعیه قطعی نمی‌شوند. بحث این نسخه دربارهٔ هزینهٔ بهره‌برداری است و توصیه‌ای برای خرید یا فروش اوراق بهادار ندارد.

این نسخهٔ ۴ اکتبر، برابر با ۱۲ مهر ۱۴۰۵، بازهٔ ۴۸ ساعت منتهی به ساعت ۹:۱۰ تهران، یا ۵:۴۰ به وقت UTC، را پوشش می‌دهد. بازه از ۳۰ ساعت معمول بیشتر شده تا انتشار شنبهٔ مدل در کنار اسناد مالی و زیرساختی جمعه بررسی شود. ساعت نیمه‌شب ثبت‌شده برای معرفی و کارت کولیبری فقط نمایش استاندارد تاریخ اعلام‌شده است، نه ادعای دانستن ساعت دقیق بارگذاری. نتیجه محدود و مشخص است: کولیبری امکان اجرای مستقل و فعال کردن بخشی از محاسبات را می‌دهد، اما پول نگهداری کل سامانه همچنان لازم است. ارزش آن را باید در کار درستِ تمام‌شده دید، نه در کوچک‌ترین عدد معرفی مدل.


منابع و اسناد

  1. 01Kolibri Has Landed: A Sovereign Open-Weight ModelAleph Alpha · ۱۱ مهر ۱۴۰۵
  2. 02Kolibri — Aleph-Alpha/Kolibri-1 model cardAleph Alpha · ۱۱ مهر ۱۴۰۵
  3. 03How firms are planning to finance AI adoptionEuropean Central Bank · ۱۰ مهر ۱۴۰۵
  4. 04Euro area annual inflation up to 3.8%Eurostat · ۱۰ مهر ۱۴۰۵
  5. 05The race our nation can’t afford to lose, plus a new commitment from us and a fresh set of community investmentsAmazon · ۱۰ مهر ۱۴۰۵

برچسب‌ها

کولیبریالف آلفاوزن‌های بازتأمین مالی هوش مصنوعیحافظهمراکز داده

اخبار مرتبط

اوپن‌ای‌آی نشان‌گذاری متن را آغاز کرد، اما آشکارسازش عمومی نیست
۱۴ مهر ۱۴۰۵•منبع: OpenAI

اوپن‌ای‌آی نشان‌گذاری متن را آغاز کرد، اما آشکارسازش عمومی نیست

اوپن‌ای‌آی نشان متن را عرضه کرده، ولی ابزار تشخیص را عمومی نکرده است. پرسش عملی برای یک شرکت، فقط پیدا‌کردن رد هوش مصنوعی نیست: با آن رد چه تصمیمی می‌گیرد و خطای تصمیم چقدر هزینه دارد؟ گزارش امروز، سازوکار textGrain را کنار شواهد امنیتی کامکست و پیش‌نمایش Beam می‌خواند، بدون یکی‌گرفتن ادعای فنی با نتیجهٔ تجاری. در بخش اقتصاد، داده‌های تازهٔ خدمات آمریکا و سخنان فیلیپ لین دربارهٔ اعتبار شرکتی اروپا بررسی می‌شود. نتیجهٔ ژرف این است که منشأ متن، صحت سند و هزینهٔ انجام کار سه موضوع جدا هستند؛ یک نشان یا عدد آزمون نمی‌تواند پاسخ هر سه باشد.

استراتا انتظار کاربران را کم کرد، اما در آزمون کارت ۱۲ گیگابایتی خروجی کمتری داد
۱۳ مهر ۱۴۰۵•منبع: Strata

استراتا انتظار کاربران را کم کرد، اما در آزمون کارت ۱۲ گیگابایتی خروجی کمتری داد

استراتا امکان پاسخ‌گویی هم‌زمان به چند درخواست را اضافه کرده است، اما آزمون تازه‌اش روی کارت گرافیکی ۱۲ گیگابایتی نشان می‌دهد شروع زودتر پاسخ با تولید بیشتر یکی نیست. کاربران کمتر منتظر مانده‌اند و در عوض، دستگاه در مجموع خروجی کمتری داده است. ژرف شرایط این آزمون، سهم حافظهٔ هر گفت‌وگو و محدودیت ادعای یکسان‌ماندن پاسخ‌ها را بررسی می‌کند تا روشن شود تغییر تنظیمات برای چه نوع کاری می‌ارزد. توضیح تازهٔ اوپن‌ای‌آی دربارهٔ یک رخداد امنیتی، تصمیم تولید هفت عضو اوپک‌پلاس و دادهٔ خدمات ژاپن نیز جداگانه مرور می‌شوند؛ هیچ‌کدام شاهدی برای صرفه‌جویی مالی این نرم‌افزار نیستند.

جمینای ۴ آرگون آزمون مالی والس را برد، اما در کار با رایانه عقب ماند
۹ مهر ۱۴۰۵•منبع: Google

جمینای ۴ آرگون آزمون مالی والس را برد، اما در کار با رایانه عقب ماند

گوگل جمینای ۴ آرگون را معرفی کرده و ارزیابی مستقل والس، هم توانایی آن در پژوهش مالی و هم ضعفش در آزمون کار با رایانه را نشان می‌دهد. این تفاوت برای خریدار مهم است: پیدا کردن پاسخ درست، همان انجام درست همه مراحل کار نیست. شرایط دسترسی، نرخ‌های آغازین و تنظیمات آزمون نیز باید جداگانه خوانده شوند. در این شماره، اطلاعیه تازه سیسکو یک موعد مشخص برای پیگیری اصلاحات امنیتی می‌دهد. گزارش‌های اشتغال و مخارج مصرفی آمریکا هم تصویری جداگانه از اقتصاد می‌سازند؛ هیچ‌یک اثر این مدل تازه را اندازه نمی‌گیرند یا جایگزینی کارکنان با آن را ثابت نمی‌کنند.

ژرف این تحلیل را به‌طور مستقل و بر پایه منابع اصلی نوشته است. برای جزئیات و زمینه کامل، پیوندهای بالا را ببینید.

می‌خواهید هوش مصنوعی را وارد کار روزمره سازمانتان کنید؟

با ما تماس بگیرید و بگویید کدام کار بیشترین وقتتان را می‌گیرد.

تماس با ما