واحد امن تغییر: انتشار سامانه هوش مصنوعی بدون تغییر هم‌زمان همه‌چیز

تیم پشتیبانی سه جمله پرامپت را برای حذف وعده‌ای ناامن ویرایش می‌کند. آزمون‌ها قبول‌اند و تغییر به‌تنهایی منتشر می‌شود. در تولید، عبارت تازه بازیابی، کاربرد ابزار، طول پاسخ و تقاضای تأیید را عوض می‌کند. فایل کوچک بود؛ تغییر رفتاری کوچک نبود.

مسئله اصلی انتشار در سامانه‌های هوش مصنوعی همین است: جزئی که تغییر کرده، همیشه همان واحدی نیست که می‌توان آن را با ایمنی تغییر داد. مدل، پرامپت، پیکره بازیابی، فضای تعبیه، شِمای ابزار، سیاست، تجزیه‌گر، آستانه یا رابط کاربر می‌تواند معنای جزء دیگری را عوض کند، بی‌آن‌که بایت‌های آن جزء تغییر کرده باشد.

تصمیم این است که تغییر مستقل منتشر شود، با وابستگی‌ها همراه شود یا خط مبنای تازه بسازد. گراف صریح تغییر و ادعای سنجیدنی باید پاسخ دهند؛ نه اندازه درخواست ادغام یا برچسب فروشنده.

یک ویرایش کوچک می‌تواند تغییری به‌اندازه کل سامانه بسازد

نرم‌افزار معمولی هم پس از تغییر پیکربندی و وابستگی شکست می‌خورد. در هوش مصنوعی مسئله مرزی دشوارتر است، زیرا رفتار را داده، مدل احتمالاتی، دستورها، بازیابی، ابزار، کد قطعی، تصمیم انسان و بافت استقرار به‌صورت مشترک می‌سازند.

مقاله سال ۲۰۱۵ با عنوان بدهی فنی پنهان در سامانه‌های یادگیری ماشین، درهم‌تنیدگی، مصرف‌کنندگان اعلام‌نشده، وابستگی داده، مسائل پیکربندی، حلقه بازخورد و تغییر جهان بیرون را خطرهای سطح سامانه می‌داند. اصل به‌یادماندنی «تغییر هر چیز، همه‌چیز را تغییر می‌دهد» نمی‌گوید هر ویرایش به بازسازی کامل نیاز دارد؛ هشدار می‌دهد استقلال باید اثبات شود، نه فرض.

پنج تغییر ظاهراً محلی را در نظر بگیرید:

فرایندی که فقط مصنوع مدل را نسخه‌بندی می‌کند، این تعامل‌ها را بازتولید نمی‌کند. شیء مفید مسیر تصمیمِ مستقر است: همه اجزای نسخه‌دار و شرایط عملیاتی لازم برای ساختن، بازبینی، اجرای و مشاهده یک طبقه از نتیجه.

منابع چه چیزی را تثبیت می‌کنند و داوری طراحی از کجا آغاز می‌شود

هسته چارچوب مدیریت ریسک هوش مصنوعی NIST مدیریت پیوسته چرخه عمر، نگاشت ریسک اجزا، پایش تولید، تصمیم استقرار بر پایه اندازه‌گیری و مدیریت تغییر پس از استقرار را می‌خواهد. مانیفست یا فرمول قناری واحدی تجویز نمی‌کند.

امتیاز آزمون یادگیری ماشین نشان می‌دهد آزمون آمادگی باید داده، زیرساخت و عملیات را فراتر از کیفیت آفلاین بپوشاند. راهنمای انتشار قناری Google SRE مواجهه جزئی و زمان‌دار را در برابر کنترل تعریف می‌کند و محدودیت پوشش حالت در بار مصنوعی را یادآور می‌شود.

NIST SP 800-218 توسعه امن، منشأ، ساخت محافظت‌شده و یکپارچگی انتشار را موضوع چرخه عمر می‌داند. راهنمای استقرار امن NCSC بریتانیا تغییر آزموده، بازگشت مشخص، مدیریت پیکربندی و مواجهه تدریجی را توصیه می‌کند.

راهنمای نهایی اوت ۲۰۲۵ FDA درباره کنترل تغییر نرم‌افزار دستگاه پزشکی مجهز به هوش مصنوعی تغییر برنامه‌ریزی‌شده، روش توسعه و اعتبارسنجی و اجرای آن، و ارزیابی اثر را پوشش می‌دهد. این راهنما مختص مسیرهای پزشکی مشخص است؛ اما قیاسی محدود می‌دهد: تغییر داخل پوش مصوب و شاهد نگهدارنده آن را از پیش تعیین کنید.

معماری ادامه تحلیل ژرف برآمده از این منابع است. اصطلاح‌های واحد تغییر، شعاع شاهد و بسته بازیابی از سوی NIST، NCSC، Google، NeurIPS یا FDA تحمیل نشده‌اند.

پیش از باز کردن دروازه انتشار سه تصمیم بگیرید

تغییر پیشنهادی را بر پایه شاهدی که مختل می‌کند طبقه‌بندی کنید:

اصلاح املای متن رابط شاید وصله‌ای مستقل باشد. تغییر پرامپتی که فراخوانی ابزار تازه‌ای می‌سازد، با شِمای ابزار، سیاست مجوز، کنترل اثر بیرونی، رابط بازبینی و تله‌متری رخداد همراه است. جایگزینی طبقه‌بندی‌گری که فقط ترتیب صف را تعیین می‌کند شاید انتشار همراه باشد؛ اگر همان طبقه‌بندی‌گر اکنون دسترسی را رد کند، هدف تصمیم عوض شده و باید خط مبنا از نو ساخته شود.

برچسب‌هایی مانند «فقط پرامپت»، «بدون کد»، «به‌روزرسانی جزئی مدل» یا «تغییر کوچک پیکربندی» نباید طبقه را تعیین کنند. بپرسید کدام ادعا، رابط، کاربر، اثر و حفاظت می‌تواند تغییر کند.

گراف تغییر را با یال‌های انسانی و فروشنده رسم کنید

از جزء ویرایش‌شده آغاز کنید و هر یالی را دنبال کنید که می‌تواند نتیجه مشاهده‌پذیر را عوض کند:

• ورودی، پیش‌پردازش، ویژگی، واحد، زبان و معنای زمان؛
• نقطه پایانی مدل، وزن، توکن‌ساز، پارامتر تولید و مسیریابی فروشنده؛
• دستور سامانه و وظیفه، مثال، قالب و شِمای خروجی؛
• پیکره بازیابی، فیلتر، قطعه‌بندی، تعبیه، نمایه و رتبه‌بندی؛
• ابزار، اعتبارنامه، موتور سیاست، محدودیت نرخ و سامانه بیرونی مرجع؛
• تجزیه‌گر، اعتبارسنج، تبدیل، حافظه نهان و مسیر جایگزین؛
• رابط بازبین، ظرفیت صف، اختیار تصمیم و قواعد ارجاع؛
• لاگ، ارزیابی، صورتحساب، اطلاع‌رسانی، اعتراض و مصرف‌کننده پایین‌دست.

یال فقط «سرویس الف، سرویس ب را صدا می‌زند» نیست. فرضی را ثبت کنید که از آن عبور می‌کند: شِما، واحد، مجوز، ترتیب، تأخیر، اطمینان، مقصد، تازگی یا برداشت انسان. راهنمای مهاجرت امن نمایه تعبیه نمونه‌ای تخصصی است: فقط چون دو بردار بُعد یکسان دارند، نمی‌توان مدل و بردارهایشان را مخلوط کرد.

هر یال را بی‌تغییر، سازگار، همراه انتشار یا اثبات‌نشده علامت بزنید. هر یال اثبات‌نشده شعاع شاهد را بزرگ می‌کند. مصرف‌کننده پایین‌دستی که نمی‌شناسید نشانه استقلال نیست؛ شکست در کشف وابستگی است.

نامزد انتشار را با مانیفست کامل نام‌گذاری کنید

نامزد انتشار باید یک شناسه تغییرناپذیر برای همه اجزای مهم، از جمله جزء بیرونی، داشته باشد:

{
  "release_id": "support-2026-08-27.3",
  "model": "provider/model@immutable-revision",
  "prompt": "sha256:...",
  "retrieval_snapshot": "kb-2026-08-26T21:00Z",
  "embedding_space": "embed-v7/dim-1536/distance-cosine",
  "tool_contracts": {"case_update": "v4", "refund_quote": "v2"},
  "policy_bundle": "policy-184",
  "parser": "answer-contract-6.2",
  "review_ui": "review-packet-11",
  "evaluation_suite": "support-gate-32",
  "traffic_rule": "risk-slice-canary-9"
}

نام مستعار تغییرپذیر، پایگاه دانش بدون تصویر لحظه‌ای یا سیاست بی‌نسخه، مقایسه و بازیابی را مبهم می‌کند. برای نقطه پایانی فروشنده، فراداده پاسخ و شاهد انتشار را ثبت، تغییر خاموش را پایش و جابه‌جایی بی‌توضیح را انتشار برنامه‌ریزی‌نشده تلقی کنید.

این مانیفست، گذرنامه انتشار هوش مصنوعی را گسترش می‌دهد: گذرنامه می‌گوید چه چیزی منتشر شده؛ مانیفست تغییر، ادعای زیر آزمون، قاعده مواجهه، خط مبنا، شرط توقف و بسته دقیق بازیابی را هم به آن متصل می‌کند.

ادعای ابطال‌پذیر و پوش اثر بنویسید

«کیفیت را بهتر کن» نمی‌تواند انتشار را اداره کند. بگویید چه چیزی باید تغییر کند، چه چیزی نباید تغییر کند، ادعا کجا معتبر است و چه مشاهده‌ای آن را رد می‌کند.

برای نمونه:

در پرسش‌های فارسی و انگلیسی ضمانت که زیر سیاست نسخه ۱۸۴ قرار دارند، نامزد باید گزاره‌های بدون شاهد درباره واجد شرایط بودن را کاهش دهد؛ بدون آن‌که موارد واجد شرایطِ ازدست‌رفته بیش از حاشیه مصوب شود، فراخوانی ابزار بازپرداخت عوض شود، طبقه داده تازه‌ای افشا شود یا تقاضای بازبینی واجد صلاحیت از ظرفیت نیروی موجود بگذرد.

پوش اثر باید این موارد را نام ببرد:

• کاربران، زبان‌ها، مناطق، کانال‌ها و نوع تصمیم مورد نظر؛
• طبقه داده، ابزار، اثر بیرونی و نقش انسانی متأثر؛
• بهبود مورد انتظار و پس‌رفت پذیرفته، همراه مخرج؛
• ناوردای امنیت، حریم خصوصی، مجوز، دسترس‌پذیری و سوابق؛
• پنجره ارزیابی، حداقل نمونه و روش برخورد با عدم‌قطعیت؛
• محرک توقف خودکار، نگه‌داشت انسانی، بازگشت و ساخت خط مبنای تازه.

پوش، وعده پیش‌بینی‌پذیری نیست. پوشش نامعلوم، منشأ گمشده، هدف تغییرکرده یا حفاظت غیردردسترس باید دروازه را ببندد؛ نه این‌که در میانگین ناپدید شود.

شاهد را با شعاع و پیامد تغییر متناسب کنید

برای انتخاب شاهد از گراف تغییر استفاده کنید. حتی وصله هدفمند باید نشان دهد مرزهایش سالم مانده‌اند. انتشار همراه به شاهد سرتاسری از ورودی تا نتیجه مرجع نیاز دارد. ساخت خط مبنای تازه، اعتبار خود سنجه‌ها را دوباره به پرسش می‌کشد.

پشته شاهد مفید چنین اجزایی دارد:

1. بررسی قطعی شِما، سیاست، مجوز، واحد، مسیریابی و بازیابی؛
2. پس‌رفت ثابت برای شکست پرشدت و رفتار پذیرفته؛
3. نمونه تازه از کاربر، زبان، داده و مورد نادر پرپیامد؛
4. آزمون خصمانه تزریق، سوءاستفاده ابزار، نشت و دورزدن؛
5. مقایسه جفتی نامزد و کنترل با بازبینی کورِ لازم؛
6. تمرین سرتاسری صف، اتصال، اثر، لغو، تلاش دوباره و بازیابی؛
7. آزمون ظرفیت توکن، تأخیر، هزینه و ارجاع انسانی.

بهبود میانگین می‌تواند پس‌رفت مجوز، افت فارسی یا صف ناممکن را پنهان کند. نامزد فقط وقتی قبول است که همه ناورداهای غیرقابل‌مذاکره قبول باشند.

مسیر تصمیم را بی‌آن‌که اثر را تکثیر کنید در سایه اجرا کنید

اجرای سایه می‌تواند نامزد را با ورودی نماینده روبه‌رو کند، در حالی که کنترل همچنان مرجع است. شاهد بازیابی‌شده، آرگومان ابزار پیشنهادی، نتیجه سیاست، پشتیبانی پاسخ، تصمیم ارجاع، تأخیر و مصرف منبع را مقایسه کنید. یک کلید اتصال نگه دارید تا اختلاف‌ها به همان ورودی و بافت برگردند.

اما سایه ذاتاً بی‌خطر نیست. نامزد نباید ایمیل بفرستد، موجودی رزرو کند، پرونده را تغییر دهد، مشتری را مطلع کند، در حافظه مشترک بنویسد، حافظه نهان را آلوده کند، سهمیه کمیاب را مصرف کند یا از خروجی سایه خودش آموزش ببیند. ابزارهای اثردار را شبیه‌سازی یا واسطه‌گری کنید و همه مصنوع‌های سایه را طوری علامت بزنید که وارد سابقه تولید نشوند.

اگر نامزد به داوری انسان نیاز دارد، اختلاف‌ها را با الگوی طراحی تأیید انسانی نمونه‌گیری کنید و بافت و زمان کافی برای تصمیم مستقل بدهید. فرستادن همه موارد سایه به بازبین، بار او را عوض می‌کند و شاید خود مقایسه را منحرف سازد.

قناری را بر پایه برش خطر بسازید، نه فقط درصد ترافیک

قناری یک‌درصدی شاید هیچ مورد فارسی، تراکنش پرارزش، سند بلند یا فراخوانی ابزار نبیند و با وجود ندیدن ادعا سالم به نظر برسد.

مواجهه را بر پایه برش معنادار تعریف کنید: زبان، مستأجر، طبقه داده، کانال، وظیفه، پیامد، ابزار، منطقه فروشنده، نوع سند، تیم بازبین و نیاز دسترس‌پذیری. با برشی آغاز کنید که برای آشکارکردن رفتار مورد نظر به‌اندازه کافی نماینده، و برای بیشترماندن ظرفیت کشف و جبران از آسیب محتمل به‌اندازه کافی محدود باشد. برخی اقدام‌های پرپیامد تا رسیدن شاهد قوی‌تر باید فقط در سایه بمانند.

نامزد و کنترل را هم بر سنجه خدمت و هم سنجه پیامد مقایسه کنید:

• توزیع خطا، تأخیر، اشباع، توکن و هزینه؛
• تکمیل وظیفه، پشتیبانی شاهد، امتناع و تلاش اصلاح؛
• درخواست ابزار، رد سیاست، تأیید اثر بیرونی و بازگردانی؛
• پوشش زیرگروه و شکست وزن‌داده‌شده بر پایه شدت؛
• ورودی صف بازبینی، سن صف، اختلاف و کیفیت بازنویسی؛
• شکایت، اعتراض، رخداد و پیامد پایین‌دستی دیرهنگام.

قاعده توقف را از پیش بسازید. قناری دامنه مشکل قابل‌تشخیص را کم می‌کند؛ نبود آسیب نادر را اثبات یا سنجه کور را ترمیم نمی‌کند.

رفتار را برگردانید، نه فقط مدل را

اگر مدل قدیمی برگردد اما پرامپت، نمایه، سیاست، حافظه نهان، شِمای ابزار یا مهاجرت تازه بماند، بازگشت شکست خورده است. اثر بیرونی جداگانه تعیین تکلیف می‌شود.

کنار هر نامزد یک بسته بازیابی تعریف کنید:

• مانیفست آخرین وضعیت سالم و قاعده ترافیک آن؛
• جهت سازگاری داده و شِما؛
• تکلیف حافظه نهان و نمایه مشتق؛
• وضعیت اعتبارنامه، پرچم قابلیت و اتصال؛
• تعیین تکلیف کار در حال اجرا؛
• اثر بیرونی که باید تطبیق شود، نه این‌که «برگردد»؛
• اطلاع، اعتراض یا خروجی اصلاح‌شده‌ای که به فرد متأثر بدهکارید؛
• شاهد لازم برای اثبات بازیابی.

پیش از مواجهه، مسیر بازیابی را تمرین کنید. زمان توقف پذیرش تازه، برگرداندن آخرین مسیر سالم، تطبیق کار نامعین و راستی‌آزمایی وضعیت نهایی را بسنجید. شاهد نامزد را برای تشخیص نگه دارید؛ انتشار شکست‌خورده را پاک نکنید و نامش را بازیابی نگذارید.

مثال عملی: دستیار دوزبانه ضمانت

فروشگاهی مدل دستیار را از M7 به M8 تغییر می‌دهد و پرامپت ضمانت را سخت‌گیرانه‌تر می‌کند. پشتیبانی شاهد در ارزیابی آفلاین بهتر می‌شود. گراف تغییر سه یال متأثر را نشان می‌دهد: M8 شرح ابزار را لفظی‌تر دنبال می‌کند، پرامپت تازه نبود تاریخ خرید را به ارجاع تبدیل می‌کند و رتبه‌بند بازیابی فارسی قطعه شاهد کوتاه‌تری برمی‌گرداند.

تیم «وصله فقط مدل» را رد می‌کند. یک مانیفست همراه می‌سازد که M8، پرامپت ویرایش‌شده، قاعده قطعه‌بندی تازه فارسی، سیاست بی‌تغییر ۱۸۴، قرارداد ابزار نسخه ۴ و بسته بازبینی نسخه ۱۱ را در بر دارد. ادعای تغییر، گزاره‌های بی‌شاهد درباره واجد شرایط بودن را هدف می‌گیرد و اختیار بازپرداخت و ظرفیت بازبین را ثابت نگه می‌دارد.

آزمون ثابت، شکست تازه قالب تاریخ را می‌گیرد. پس از تعمیر، مقایسه سایه ارجاع‌های موجه بیشتری می‌بیند، بدون نوشتن اثرگذار. قناری برش‌محور، ادعای فارسی و انگلیسی، مورد بدون تاریخ، رسید طولانی و کالای کم‌ارزش و پرارزش را شامل می‌شود. دروازه پشتیبانی شاهد، از‌دست‌رفتن مورد واجد شرایط، برابری فراخوانی ابزار، صدک ۹۵ تأخیر و سن صف بازبین را می‌سنجد.

در مواجهه ده‌درصدی، سن بازبینی به آستانه توقف نزدیک می‌شود، هرچند کیفیت پاسخ قبول است. انتشار مکث می‌کند. بررسی نشان می‌دهد بسیاری از موارد به نرمال‌سازی قطعی تاریخ نیاز دارند، نه داوری انسان. تیم نرمال‌ساز را به نامزد همراه تازه می‌افزاید، شاهد متأثر را دوباره اجرا می‌کند و از کوچک‌ترین مواجهه از سر می‌گیرد. عددها توضیحی‌اند؛ این مثال معماری است، نه ادعای استقرار در ژرف.

الگوهای شکستی که اطمینان کاذب می‌سازند

راهنمای پایش پس از استقرار پس از ارتقا نیز لازم است. ارزیابی انتشار می‌پرسد آیا نامزد شناخته‌شده می‌تواند وارد تولید شود؛ پایش می‌پرسد آیا سامانه مصوب، با تغییر کاربر، داده، وابستگی و جهان، هنوز درون ادعایش رفتار می‌کند.

بسنجید کنترل تغییر تصمیم‌ها را بهتر می‌کند یا نه

خود سامانه انتشار را اندازه بگیرید، نه فقط سامانه هوش مصنوعی را:

• ترافیک تولید که به مانیفست کامل حل می‌شود؛
• دقت طبقه‌بندی و یال اثبات‌نشده هنگام تأیید؛
• شدت فرار پس‌رفت و توقف کاذب قناری؛
• زمان کشف، توقف، بازیابی، تطبیق و راستی‌آزمایی؛
• شاهد، ظرفیت یا مالکیت گمشده‌ای که انتشار را می‌بندد؛
• تغییر خاموش فروشنده و شکست تکراری تبدیل‌شده به آزمون پس‌رفت.

هدف، شاهد متناسب است: تغییر کوچک و خوش‌مرز سریع حرکت کند؛ انتشار تغییردهنده سامانه اثباتی به‌اندازه سامانه بگیرد.

بازبینی انتشار

پیش از تأیید مواجهه، بازبین باید بتواند پاسخ دهد:

• دقیقاً کدام رفتار برای چه کسی و با چه دلیل باید تغییر کند؟
• تغییر کدام فرض و یال جزء را می‌تواند مختل کند؟
• این وصله مستقل، انتشار همراه یا خط مبنای تازه است و کدام شاهد طبقه‌بندی را پشتیبانی می‌کند؟
• آیا هر درخواست و نتیجه به مانیفست نامزد یا کنترل حل می‌شود؟
• کدام ناوردا قابل‌مذاکره نیست و آیا همه قبول‌اند؟
• آیا اجرای سایه از اثر واقعی و آلودگی حالت مشترک دور است؟
• آیا قناری برش خطر لازم برای آزمون ادعا را در بر دارد؟
• جایی که تأخیر مهم است، شرط توقف خودکار است؟
• آیا می‌توان رفتار کامل آخرین نسخه سالم را برگرداند و اثر بیرونی جداگانه تعیین تکلیف شده است؟
• مالک تصمیم، پنجره مشاهده، بازگشت، تطبیق، ارتباط و بازبینی بعدی چه کسی است؟

پرسش نهایی «آیا فایل تغییریافته قبول شد؟» نیست. پرسش این است: کوچک‌ترین بسته سامانه که می‌توان ادعایش را دوباره اثبات و رفتارش را کامل بازیابی کرد کدام است؟ همان بسته، واحد امن تغییر است.

یادداشت منابع — بازبینی‌شده در ۲۰۲۶

• NIST، هسته AI RMF: ریسک چرخه عمر، آزمون، پایش و تغییر.
• Sculley و همکاران، بدهی فنی پنهان: درهم‌تنیدگی، وابستگی، بازخورد و مصرف‌کننده پنهان.
• Breck و همکاران، امتیاز آزمون یادگیری ماشین: آزمون تولید فراتر از کیفیت آفلاین.
• Google SRE، انتشار قناری: مواجهه محدود، کنترل و مرز بار مصنوعی.
• NIST، SSDF SP 800-218: چرخه عمر امن، یکپارچگی انتشار و منشأ.
• NCSC بریتانیا، استقرار و نگهداری امن: تغییر آزموده، پیکربندی، انتشار تدریجی و بازگشت.
• FDA ایالات متحده، راهنمای کنترل تغییر دستگاه مجهز به هوش مصنوعی: راهنمای اوت ۲۰۲۵ درباره تغییر، پروتکل و ارزیابی اثر.