
پاسخ اجباری نیست: قرارداد خودداری در سامانههای هوش مصنوعی
راهنمایی عملی برای انتخاب میان پاسخ، گردآوری شاهد، ارجاع یا امتناع؛ با تکیه بر نشانههای کالیبره، منحنی ریسک–پوشش و ظرفیت مسیر جایگزین.
ادامه مطلبتیم ژرف ایآی

یک دستیار پشتیبانی پس از قطعی بالا میآید. پایگاه داده تا ۰۹:۴۰ بازیابی شده، ذخیرهگاه فایل وضعیت ۰۹:۵۵ را دارد، نمایه برداری از نسخه دیشب آمده و پرامپت متعلق به انتشار ۱۰:۰۵ است. سرویس پاسخ میدهد و بررسیهای سلامت سبزند. اما این ترکیب هرگز وجود نداشته است: بعضی اسناد هنوز در پایگاه داده نیستند، برخی بردارها فایلهای بعداً تغییریافته را توصیف میکنند و پرامپت، طرح ابزاری را فرض میکند که رابط بازیابیشده نمیشناسد.
پس تصمیم خواننده فقط این نیست که «نسخه پشتیبان داریم یا نه؟» پرسش دقیقتر چنین است: هر جزء این سامانه هوش مصنوعی باید بازیابی شود، از نو ساخته شود یا آگاهانه کنار گذاشته شود؛ و کدام برش مشترک بازیابی، مجموعه حاصل را برای ارائه خدمت ایمن میکند؟ Restore موفق، بایتها را برمیگرداند. Recovery موفق، قابلیتی منسجم را به کسبوکار برمیگرداند که میزان فقدانش معلوم است، اجزایش با هم سازگارند، اثرهایش در سامانههای بیرونی تطبیق داده شده و شواهد کافی برای ازسرگیری کار دارد.
هدفهای کلاسیک بازیابی همچنان ضروریاند. راهنمای بازیابی بحران AWS، «هدف نقطه بازیابی» یا RPO را به میزان قابلقبول فقدان داده و «هدف زمان بازیابی» یا RTO را به مدت قابلقبول توقف خدمت پیوند میدهد. راهنمای برنامهریزی Google Cloud نیز که آخرین بار در ژوئیه ۲۰۲۴ بازبینی شده، از تحلیل اثر کسبوکار آغاز میکند و توضیح میدهد که RPO و RTO سختگیرانهتر معمولاً هزینه و پیچیدگی عملیاتی بیشتری دارند.
اما این دو هدف نمیگویند اجزایی که جداگانه برگردانده شدهاند با هم توافق دارند یا نه. ممکن است قابلیت هوش مصنوعی به RPO پایگاه داده برسد، ولی نمایه بازیابی، پرامپت، سیاست، فهرست ابزارها و وضعیت گفتوگو هرکدام به تاریخ متفاوتی اشاره کنند. تحلیل ژرف یک شرط سازگاری به این چارچوب میافزاید: نقطه بازیابی فقط وقتی معتبر است که هر جزء نگهداشتهشده به یک برش سازگار قابلردیابی باشد یا بتوان آن را با اطمینان از همان برش بازسازی کرد.
معیار پذیرش را با زبان کسبوکار بنویسید. برای نمونه:
تا ساعت ۱۲:۰۰، کارشناسان پشتیبانی میتوانند تمام پروندههای قطعیشده پیش از ۰۹:۴۲ را ببینند؛ هیچ اقدام پس از ۰۹:۴۲ بیصدا تکرار نمیشود؛ همه پاسخها از پرامپت و سیاست تأییدشده انتشار ۱۸ استفاده میکنند؛ و هر تیکت یا پیام نامطمئن برای تطبیق متوقف میماند.
این معیار، برخلاف عبارت «پایگاه داده بازیابی شد»، فقدان، زمان، نسخه و اثر بیرونی را قابلبررسی میکند.
راهنمای توسعه امن سامانه هوش مصنوعی NCSC بریتانیا که در نوامبر ۲۰۲۳ منتشر شده، شناسایی، ردیابی و اصالتسنجی مدل، داده، پرامپت، نرمافزار، مستندات، لاگ و ارزیابی و امکان بازگشت به وضعیت سالم شناختهشده را توصیه میکند. بازیابی علاوه بر این فهرست، به رابطه اقلام نیاز دارد.
گراف وضعیت را با پنج طبقه بسازید:
| طبقه وضعیت | نمونهها | پرسش اصلی بازیابی |
|---|---|---|
| وضعیت مرجع کسبوکار | پرونده، تأیید، وضعیت حساب، سفارش، رضایت و تصمیم سیاستی | کدام رکورد قطعی باید باقی بماند و تا کدام تراکنش یا رویداد قابلبازیابی است؟ |
| وضعیت اجرایی نسخهدار | شناسه مدل، پرامپت، طرح ابزار، سیاست مسیریابی، کد و تعریف زیرساخت | کدام انتشار امضاشده یا هششده با داده و وابستگی بازیابیشده سازگار است؟ |
| وضعیت مشتقشده | embedding، نمایه برداری، ویژگی، خلاصه، نمای مادی و cache | آیا با منبع و تبدیل نامگذاریشده قابلبازتولید است، یا ناخواسته به مرجع حقیقت تبدیل شده؟ |
| وضعیت اثر بیرونی | ایمیل ارسالشده، پرداخت ثبتشده، تیکت ساختهشده و تغییر در API تأمینکننده | وقتی تأیید محلی گم شده، چگونه میفهمیم اثر در سامانه دوردست قطعی شده است؟ |
| وضعیت موقت تعامل | استدلال نیمهتمام، فایل موقت، نتیجه ابزار در حال اجرا و cache نشست | فقدان آن قابلقبول است، یا محصول وعده تداومی داده که آن را به وضعیت مهم تبدیل میکند؟ |
برای هر گره، مالک، مرز مستأجر، سامانه مرجع، نرخ تغییر، قاعده نگهداری، روش بازیابی، آخرین نقطه آزمودهشده، وابستگیها، مدرک تمامیت و فقدان قابلقبول را ثبت کنید. کلیدهای رمزنگاری و پیکربندی هویت هم در نقشه باشند، اما اعتبارنامهای که احتمال افشایش وجود دارد نباید مانند داده عادی Restore شود؛ آن را از ریشه اعتماد پاک دوباره صادر کنید.
این گراف باید به گذرنامه انتشار هوش مصنوعی متصل باشد، زیرا بازیابی به ترکیب دقیق مدل، پرامپت، سیاست، ابزار، داده و زیرساخت نیاز دارد. پیوند با گراف حذف نیز مانع آن میشود که نسخه بازیابی، حذف تأییدشده را خنثی کند.
برش بازیابی تازهترین مرزی است که در آن میتوان وضعیت مرجع، اجرای نسخهدار و اثرهای بیرونی شناختهشده را با یکدیگر سازگار کرد. این مرز میتواند نشانگر تراکنش پایگاه داده، restore point نامگذاریشده، offset لاگ رویداد، manifest انتشار، مجموعه نسخههای فایل یا بستهای از چند نشانگر مرتبط باشد. اتکا به ساعت دیواری کافی نیست؛ ساعتها اختلاف دارند، نوشتنها دیر میرسند و بعضی سامانهها زمان وقوع رویداد را جدا از زمان پردازش نگه میدارند.
مستندات کنونی بازیابی نقطهای PostgreSQL توضیح میدهد چگونه میتوان با یک base backup و آرشیو write-ahead log، پایگاه داده را تا هدف انتخابشده برگرداند. این مستند زنجیره وابستگی را نیز روشن میکند: بازیابی افزایشی به نسخههای قبلی و فایلهای لاگ و تاریخ مرتبط نیاز دارد. این تضمین پایگاه داده است، نه تضمین کل سامانه هوش مصنوعی. بسته بازیابی هنوز باید مشخص کند کدام نسخه فایل، offset رویداد، digest انتشار و دستور ساخت نمایه با آن هدف پایگاه داده متناظر است.
از تمایزهای راهنمای معناشناسی زمان استفاده کنید:
اگر اجزا نمیتوانند یک برش مشترک داشته باشند، مقدار اختلاف را ثبت و قابلیت آسیبدیده را قرنطینه کنید. ترکیب پایگاه داده ۰۹:۴۰ و نمایه ۱۰:۰۵ را پشت عبارت «آخرین نسخه موجود» پنهان نکنید.
این سه روش مسئلههای متفاوتی را حل میکنند:
| روش | چه زمانی مناسب است | مدرک لازم | دام اصلی |
|---|---|---|---|
| بازیابی | شیء مرجع است، بازتولیدش پرهزینه یا ناممکن است و نسخه قابلاعتمادی وجود دارد | تمامیت، کاملبودن، مالکیت، نقطه زمانی، نگهداری، رمزگشایی و بررسی سطح برنامه | بازگرداندن خرابی، پیکربندی ناامن یا نسخه متعلق به مستأجر یا خط زمانی دیگر |
| بازسازی | شیء با دقت کافی از منبع محفوظ و دستور نسخهدار مشتق میشود | snapshot منبع، digest تبدیل، پارامترها، ترتیب، محیط اجرا و تطبیق تعدادها | فرض تکرارپذیری embedding یا خلاصه درحالیکه alias مدل، وابستگی شناور یا عدم قطعیت عوض شده است |
| کنارگذاشتن | شیء موقت، ناامن، منقضی، غیرقابلاثبات یا گرانتر از ساخت دوباره با مشارکت کاربر است | تصمیم صریح درباره فقدان، مسیر رسیدگی کاربر یا اپراتور و جلوگیری از استفاده پنهانی | رفتاری که وانمود میکند گفتوگو، تأیید یا اثر نیمهتمام هرگز وجود نداشته است |
نمایه برداری معمولاً نامزد بازسازی است، نه مرجع اصلی. منبع مجاز، قواعد قطعهبندی، digest مدل embedding، تنظیمات، کنترل دسترسی و نگاشت منبع به بردار را حفظ کنید. snapshot نمایه فقط وقتی RTO را کوتاه میکند که منشأش با برش یکی باشد؛ وگرنه آن را بسازید و تعداد سند، پارتیشن مستأجر، نشانگر حذف و پرسوجوی آزمون را تطبیق دهید.
اگر خلاصه گفتوگو مجوز، تعهد، زمینه پزشکی یا اقدام مالی را هدایت میکند، cache بیاهمیت نیست. گفتوگوی مرجع را طبق قاعده مصوب نگه دارید یا تأیید تازه انسانی بگیرید؛ تعهد مهم را تنها از خلاصه مدل بازنسازید.
بسته بازیابی، manifest محافظتشدهای برای مواد لازم یک برش است و باید شامل این موارد باشد:
بسته و runbook را جایی نگه دارید که با ازکارافتادن control plane اصلی همچنان قابلدسترسی باشد. راهنمای قطعی زیرساخت Google Cloud که آخرین بار در مه ۲۰۲۴ بازبینی شده، هشدار میدهد عملیات حیاتی نباید برای رسیدن به هدف بازیابی به تغییرات management plane مانند ساخت ماشین مجازی یا بهروزرسانی مجوز IAM وابسته باشد. جزئیات هر تأمینکننده فرق دارد، اما پرسش معماری عمومی است: آیا مسیر بازیابی وقتی اجرا میشود که همان سامانه پیکربندیکننده مسیر از کار افتاده باشد؟
NIST SP 800-34 Rev. 1 که در ۲۰۱۰ منتشر شده، فعالسازی و اطلاعرسانی، بازیابی و بازبرپایی را از هم جدا میکند؛ در مرحله آخر باید با آزمون، سامانه بازگرداندهشده پیش از شروع کار عادی اعتبارسنجی شود. NIST SP 800-184 که در دسامبر ۲۰۱۶ منتشر شده، playbook، آزمون واقعگرایانه، سنجه و بهبود مستمر را به بازیابی رخداد سایبری میافزاید. این انضباط را به ترتیب زیر تبدیل کنید:
دسترسپذیری بالا جای این فرایند را نمیگیرد: replication میتواند در کنار کاهش قطعی، پرامپت ناسالم، داده آلوده، حذف اشتباه یا باجافزار را کپی کند. راهنمای AWS نیز تکثیر بدون بازیابی نقطهای را برای فساد یا تخریب کافی نمیداند.
ساعت ۱۰:۱۵ تیم میفهمد importer از ۰۹:۴۳ اسناد را به مستأجر اشتباه وصل کرده است. دستیار بعدتر فایلها را برداری و دو گفتوگو را خلاصه کرده، سه تیکت و یک ایمیل فرستاده است. پایگاه داده PITR و سرویس برداری snapshot ساعتی دارد؛ سامانه تیکت در تراکنش محلی شریک نیست.
تیم ساعت ۰۹:۴۲ را بهعنوان برش انتخاب میکند:
| جزء | تصمیم | مدرک بازیابی |
|---|---|---|
| پایگاه داده مشتری و پرونده | بازیابی تا تراکنش نامگذاریشده پیش از نخستین اتصال میانمستأجری | timeline پایگاه داده، تعداد ردیف، قید رابطه و پرسوجوی مالکیت مستأجر |
| اسناد منبع | بازیابی نسخههایی که manifest ساعت ۰۹:۴۲ نام میبرد | شناسه و نسخه فایل، هش، قاعده نگهداری و نشانگر حذف |
| نمایه برداری | بازسازی، حتی اگر snapshot تازهتری وجود دارد | دفتر نگاشت سند به بردار، digest ثابت مدل، تعداد پارتیشن و probe بازیابی |
| پرامپت، سیاست و ابزار | استقرار دوباره انتشار ۱۸ | digest گذرنامه انتشار و آزمون قرارداد |
| خلاصه گفتوگو پس از برش | کنارگذاشتن؛ فقط پس از بازکردن دوباره پرونده توسط کاربر ساخته شود | رکورد ابطال صریح و منع استفاده از خلاصه بهعنوان شاهد منبع |
| تیکت و ایمیل بیرونی | تطبیق، نه Restore | رسید تأمینکننده، کلید idempotency و پرسوجوی گیرنده یا تیکت؛ موارد نامعلوم برای بررسی |
| اعتبارنامه حاضر در حادثه | ابطال و صدور دوباره | رکورد صدور تازه و آزمون دسترسی از محیط پاک |
سامانه ابتدا فقط خواندنی است. canary میانمستأجری، پرونده شناختهشده، ارجاع منبع، تاریخ سیاست و اجرای خشک ابزار باید پیش از نوشتن موفق شوند. این روش کندتر است، اما از بازگشت به وضعیتی که هرگز معتبر نبوده جلوگیری میکند.
راهنمای بازیابی Foundry Agent Service مایکروسافت برای استقرار Standard میگوید سرویس، replication داخلی، backup، بازیابی نقطهای، active-active میانمنطقهای یا ادغام وضعیت ندارد. روش پیشنهادی اغلب reconstruction و نگهداری تعریف agent مانند کد است؛ بخشی از thread هم ممکن است برنگردد. این مرز یک محصول است، نه محدودیت همگانی، اما نشان میدهد «agent مدیریتشده» لزوماً «بازیابی مدیریتشده» نیست.
مانور باید خرابیهایی بسازد که تصمیم واقعی میطلبند: داده مرجع خراب، نسخه فایل حذفشده، control plane در دسترسنبودنی، snapshot نمایه کهنه، کلید رمزنگاری گمشده، alias مدل تغییرکرده، فراخوان ابزار نیمهقطعی، آلودگی میانمستأجری و اپراتور غایب. مانور را بیرون از دامنه خرابی تولید اجرا و این موارد را اندازهگیری کنید:
مدارک را به راهنمای شواهد ممیزی هوش مصنوعی وصل کنید. تصویر صفحهای که میگوید «restore succeeded» فقط موفقیت گزارششده یک job را ثابت میکند. مدرک قویتر، برش مصوب، manifest اقلام، هشها، offset لاگ، پرسوجوی آزمون، رسید اثر بیرونی، تصمیم اپراتور، انحراف و مجوز نهایی شروع خدمت را به هم پیوند میدهد.
تا وقتی مالک سامانه به پرسشهای زیر پاسخ مثبت نداده، آن را بازیابیپذیر ننامید:
پس از هر تغییر مدل، پرامپت، سیاست، نمایه، هویت، منطقه، تأمینکننده، نگهداری یا ابزار، برنامه را بازبینی کنید. وقتی زمان Restore به RTO نزدیک میشود، پوشش منشأ افت میکند، مانور وابستگی پنهان به control plane را آشکار میکند یا محصول وضعیت موقتی را به وعدهای برای کاربر تبدیل میکند نیز بازبینی لازم است. بازیابی قابلیت ذخیرهسازی نیست؛ توافقی زنده درباره تاریخی است که سازمان میتواند با اطمینان از سر بگیرد.

راهنمایی عملی برای انتخاب میان پاسخ، گردآوری شاهد، ارجاع یا امتناع؛ با تکیه بر نشانههای کالیبره، منحنی ریسک–پوشش و ظرفیت مسیر جایگزین.
ادامه مطلب
راهنمایی عملی برای پذیرش، قرنطینه یا رد سرورهای MCP، افزونهها و ابزارهای عامل بر پایه منشأ، آزمون قابلیت و محدودیت اجرایی الزامآور.
ادامه مطلب
راهنمایی عملی برای خط مبنا، نتیجههای دیررس و انتساب تغییر؛ تا بدانیم سامانه مستقر را چه وقت پایش، محدود، بازگردانی یا بازسازی کنیم.
ادامه مطلباگر این مطلب به یک سامانه واقعی در سازمان شما مربوط است، از خدمات و مطالعه موردی شروع کنید.