
وقتی مدل اصلی از دسترس خارج میشود، سامانه هنوز حق چه کاری دارد؟
راهنمایی عملی برای تعیین اینکه هنگام اختلال مدل یا وابستگی، کدام قابلیت هوش مصنوعی ادامه یابد، محدود شود، به انسان برسد یا متوقف بماند.
ادامه مطلبتیم ژرف

یک دستیار نگهداری، پیشفاکتور دوزبانه تأمینکننده را میخواند. ۱۲٫۵ را استخراج میکند، رقمها را به 12.5 تبدیل میکند و جمع خرید را پیشنهاد میدهد. حساب از نظر داخلی سازگار است، اما نتیجه هنوز امن نیست: خط مبدأ نگفته مقدار بر حسب کیلوگرم است یا تن، قیمت با ارز دیگری نوشته شده، ویرگول در بخش دیگری جداکننده هزارگان است و تأمینکننده مالیات را روی جمع فاکتور گرد میکند در حالی که سامانه خرید هر ردیف را جداگانه گرد میکند.
موضوع فقط ریاضیدانستن مدل نیست. پرسش درست این است: برای این ادعای کمی، آیا هوش مصنوعی فقط میتواند عدد را نمایش دهد، آیا یک سرویس قطعی میتواند نتیجه را حساب کند، یا آیا آن نتیجه مجاز است اثری واقعی ایجاد کند؟ اینها سه اجازه متفاوتاند.
قاعده محوری این راهنما چنین است: مدل میتواند یک مقدار را تفسیر و پیشنهاد کند، اما نباید مرجع واحد، ارز، دقت، گردکردن، شاهد یا اثر کسبوکار آن باشد. این ویژگیها را در قرارداد سنجش نسخهدار قرار دهید، محاسبه را در موتوری قطعی اجرا کنید و هر ادعایی را که معنای کامل ندارد رد یا به بررسی ارجاع دهید.
12.5 یک رشته دهدهی معتبر است؛ اما هنوز موجودی، پول، زمان، درصد یا آستانه امن نیست. ادعای کمی قابل استفاده به یک پوشش معنایی نیاز دارد:
| ویژگی | پرسشی که سامانه باید پاسخ دهد |
|---|---|
| نوع کمیت | جرم است، پول، شمارش، زمان، دما، نرخ یا چیز دیگر؟ |
| واحد یا ارز | کیلوگرم یا تن؟ دلار آمریکا یا ارزی دیگر با نام دلار؟ |
| مقیاس و دقت | آیا صفرهای پایانی معنا دارند؟ چند رقم اعشار مجاز است؟ |
| گردکردن | با کدام روش، در کدام مرحله و به چه کوچکترین گام؟ |
| شاهد | کدام ناحیه سند، نسخه رکورد یا سامانه مرجع از مقدار پشتیبانی میکند؟ |
| زمان اثر | قیمت، نرخ، حد یا قاعده تبدیل در چه زمانی معتبر بوده است؟ |
| عدمقطعیت | مقدار دقیق است، در محدوده خطا اندازهگیری شده، تخمینی است یا مبهم؟ |
| اختیار | فقط نمایش، محاسبه، مقایسه، ثبت یا پرداخت مجاز است یا باید بازبینی شود؟ |
بروشور دستگاه بینالمللی یکاهای BIPM، که در ۲۰۲۶ بهروز شده، مقدار یک کمیت را ترکیب عدد و واحد بیان میکند؛ با تغییر واحد، مقدار عددی عوض میشود بیآنکه خود کمیت تغییر کند. این اصل ساده اندازهشناسی برای سامانه هوش مصنوعی مهم است، زیرا مدل زبانی میتواند عددی باورپذیر را نگه دارد و واحد آن را بیصدا گم کند.
پول یک فضای نام دیگر اضافه میکند. SIX، آژانس رسمی نگهداری ISO 4217، شناسههای حرفی و عددی ارز و رابطه واحد خرد را نگهداری میکند. نماد $ یا نام ترجمهشده ارز شناسه ماشینی کافی نیست. «دو رقم اعشار» نیز ویژگی جهانشمول پول نیست.
ویژگیهای اعتمادپذیری چارچوب NIST AI RMF اعتبارسنجی را ارائه شاهد عینی برای برآوردهشدن نیازهای استفاده معین تعریف میکند و دقت را نزدیکی نتیجه به ارزش واقعی یا پذیرفتهشده میداند. NIST همچنین میگوید سنجش باید شرایط واقعی استفاده را بازتاب دهد و وقتی سامانه قادر به کشف یا اصلاح خطا نیست ممکن است مداخله انسان لازم باشد. این چارچوب طرحواره کمیت یا معماری ماشینحساب تجویز نمیکند.
پژوهش نتیجه فنی محدودتری میدهد. مقاله کنفرانس ICML 2023 با عنوان مدلهای زبانی یاریگرفته از برنامه یا PAL گزارش میکند که مدل زبانی میتواند مسئله زبانی را تجزیه کند و با این حال در منطق یا حساب اشتباه کند. روش PAL مرحله حل را به مفسر میسپارد و در مجموعه ارزیابیهای گزارششده نتیجه بهتری میگیرد. این مطالعه گواهی کنترل مالی نیست و برنامه تولیدشده با مدل همچنان میتواند واحد یا قاعده کسبوکار را غلط کد کند. مقاله از جداسازی تفسیر زبان و اجرا پشتیبانی میکند، نه اعتماد بیقید به کدی که مدل نوشته است.
منابع بعدی رفتار واحد، ارز، نمایش عدد و گردکردن را روشن میکنند. قرارداد سنجش، سه سطح اجازه و دروازه انتشار، تحلیل ژرف بر پایه همان واقعیتهاست و فرم الزامی هیچیک از منابع نیست.
هر کاربرد کمی را در کماختیارترین سطحی قرار دهید که نیاز را برآورده میکند:
| سطح | کاری که هوش مصنوعی میتواند انجام دهد | وظیفه سامانه مستقل | نتیجه پایانی معمول |
|---|---|---|---|
| نمایش | یافتن مقدار نامزد، نقل آن و توضیح نتیجه تأییدشده | حل شاهد، واحد، قرارداد زبان و قالب نمایش | نمایش همراه منشأ یا اعلام ابهام |
| محاسبه | تبدیل زبان به عبارت و عملوند پیشنهادی | اعتبارسنجی نوع و قاعده و سپس محاسبه قطعی | نتیجه همراه رسید محاسبه |
| اعطای اثر | خلاصه پرونده و برجستهکردن استثنا | اعمال هویت، حد، سیاست، تأیید و کنترل اثر | تأیید، تعویق، رد یا بازبینی |
عبور میان سطحها باید صریح باشد: محاسبه نه مجوز پرداخت است نه اثبات هویت منبع؛ تأیید نیز ارزی را که بازبین ندیده اصلاح نمیکند.
این طراحی، قرارداد خروجی ساختیافته را کاملتر میکند. اعتبار طرحواره میتواند رشته دهدهی و فیلد ارز بخواهد؛ قرارداد سنجش ثابت میکند آیا این دو یک ادعای پشتیبانیشده میسازند و مصرفکننده حق استفاده از آن را دارد یا نه.
شیء در معرض مدل را کوچک نگه دارید، اما پوشش مورد اعتماد باید کامل باشد. کمیت اثرگذار دستکم این دادهها را حمل میکند:
{
"status": "supported | absent | ambiguous | conflicting",
"source_lexeme": "۱۲٫۵",
"normalized_value": "12.5",
"quantity_kind": "mass",
"unit_code": "kg",
"currency_code": null,
"precision": 1,
"rounding_rule_id": null,
"source_ref": "quote-184/page-2/region-7",
"effective_at": "2026-08-24T00:00:00Z",
"tolerance": null,
"contract_version": "quantity-v3",
"allowed_use": "compare-only"
}
source_lexeme شکل اصلی سند را نگه میدارد و normalized_value رشته دهدهی معیار است. status حالت پشتیبانیشده، غایب، مبهم و متعارض را جدا میکند. source_ref باید به رکورد تغییرناپذیر یا ناحیه محافظتشده برسد، نه استناد ساختگی مدل.
اجازه ندهید مدل فیلدهای مورد اعتماد مانند allowed_use، نسخه سیاست، وضعیت تأیید، مستأجر، منبع نرخ تبدیل یا قاعده گردکردن را تنظیم کند. برنامه اینها را از زمینه احراز هویتشده و داده مرجع کنترلشده میسازد. برای واحد و ارز از فهرست مجاز استفاده کنید، نه هر مخففی که متن یا مدل تحویل میدهد.
استخراج مقدار تا حدی مسئله زبان است. رقم فارسی و لاتین کنار هم میآیند؛ جداکننده اعشار و هزارگان تغییر میکند؛ علامت منفی ممکن است خط تیره باشد؛ پرانتز میتواند مبلغ منفی را نشان دهد؛ درصد با واحد درصد تفاوت دارد؛ و یک مخفف در دو حوزه دو معنا دارد.
عادیسازی باید نامزد بسازد، نه انتخاب پنهانی. نویسه و محل اصلی را نگه دارید و زیر قرارداد زبان و الگوی سند تجزیه کنید. اگر 1,250 دو تفسیر دارد، تا حل ابهام وضعیت ambiguous بدهید. واحد غایب را بدون قاعده نسخهدار و شاهد از ردیف قبلی قرض نگیرید.
کمیت را از نمایش جدا کنید. شناسه معیار و مقدار دهدهی را ذخیره و رقم، گروهبندی، نام واحد و نماد ارز را در مرز نمایش بومی کنید. هر دو رابط همان کمیت کسبوکار را نشان میدهند.
راهنمای اتوماسیون اسناد مالی تقسیم کار را مشخص میکند: مدل با سند نامنظم و زبان کار میکند؛ قاعده و حسابدار اثر مالی را کنترل میکنند. قرارداد کمیت این مرز را برای هر فیلد اجرا میکند.
بیرونبردن حساب از مدل زبانی لازم است، اما کافی نیست. رفتار موتور باید ثابت و نامگذاری شود: نمایش دهدهی، دقت، روش گردکردن، ترتیب عملیات، برخورد با سرریز، تبدیل واحد، فراداده ارز، نسخه قواعد و توابع مجاز.
IEEE 754-2019 قالبهای ممیز شناور دودویی و دهدهی، عملیات، استثناها و نتیجه وابسته به ورودی، ترتیب و قالب مقصد را تعریف میکند. این استاندارد نمیگوید ممیز شناور «غلط» است؛ میگوید قرارداد باید قالب عدد و ترتیب عملیات را نام ببرد.
برای ناوردای دهدهی کسبوکار، ممیز شناور دودویی معمولاً مناسب نیست. مستندات decimal پایتون نمایش دقیق دهدهی، دقت و گردکردن تنظیمشدنی و علامتهای Inexact و Rounded را شرح میدهد. مستندات PostgreSQL نیز numeric دقیق را از نوعهای تقریبی جدا میکند و تفاوت گردکردن مقدار میانی را نشان میدهد.
نوع عدد را بر اساس ادعا انتخاب کنید: عدد صحیح کراندار برای شمارش، واحد خرد صحیح یا دهدهی ثابت برای پول، و ممیز شناور با تلورانس معلوم در جای مناسب. عدد دهدهی سند را پیش از ساخت مقدار دقیق از ممیز شناور عبور ندهید.
موتور باید قرارداد و عملوند را بپذیرد، نه کد دلخواه مدل. عبارت پیشنهادی را به گراف عملیات مجاز تبدیل کنید، ابعاد را بسنجید و سپس اجرا کنید. نسخه موتور و قاعده، عملوند، ترتیب، گردکردن، استثنا و خروجی را در رسید ثبت کنید.
نام روش گردکردن بهتنهایی کافی نیست. قرارداد باید بگوید چه چیزی، در کدام مرحله، تا چه گامی، زیر کدام قانون یا توافق تجاری گرد میشود و آیا مقادیر میانی باقی میمانند یا نه.
اطلاعیه ۷۰۰ مالیات بر ارزش افزوده بریتانیا روشهای مشخصی را برای محاسبه مالیات در سطح ردیف و فاکتور مجاز میداند و بر سازگاری روش تأکید میکند. این راهنمای یک حوزه قضایی است و پیشفرض جهانی نیست. درس معماری ماندگار آن این است که گردکردن در مرز واحد کالا، ردیف، مالیات یا جمع فاکتور میتواند با سیاستهای متفاوت به جمعهای متفاوت اما قابل دفاع برسد.
قاعدهای شبیه این را ذخیره کنید:
rule: supplier-vat-2026-04
mode: half-up
quantum: 0.01 USD
stage: round each line total; round discount; compute tax on net invoice total
effective: 2026-04-01 through 2026-12-31
authority: purchasing policy P-17
گردکردن را پشت ستون پایگاه داده پنهان نکنید. PostgreSQL میگوید ستون numeric مقید هنگام ذخیره به مقیاس اعلامشده گرد میشود. افت دقت را پیش از مرز اثر متوقف یا ثبت کنید.
قیمت، نرخ ارز، قاعده مالیات، تلورانس، حد تأیید و تبدیل واحد روی یک ساعت تغییر نمیکنند. رسید محاسبه به زمان رخداد واقعیت کسبوکار، زمان مشاهده منبع و بازه اعتبار هر قاعده نیاز دارد.
برای تبدیل ارز، جفت، جهت، نرخ، زمان اثر، شناسه انتشار، رفتار پشتیبان و گردکردن را ثبت کنید. «نرخ امروز» در دو منطقه زمانی بازتولیدپذیر نیست. تلورانس منبع را نگه دارید؛ رقم بیشتر نباید قطعیت جعلی بسازد.
اگر شاهد یا قاعده معتبر در دسترس نیست، خروجی درست صفر، آخرین مقدار حافظه یا تخمین باورپذیر نیست. خروجی باید absent، ambiguous یا conflicting باشد و سپس سرنوشتی را بگیرد که در قرارداد امتناع تعریف شده است.
مسیر قابل اتکا برای داده کمی، مرحلههای جداشدنی دارد:
بایت مبدأ
-> استخراج آگاه از زبان همراه ناحیه شاهد
-> نامزدهای کمیت و عدمقطعیت صریح
-> حل واحد، ارز و داده مرجع
-> اعتبارسنجی معنایی و ابعادی
-> محاسبه قطعی زیر قاعده ثابت
-> آزمون مستقل نتیجه و تلورانس
-> مجوز یا بازبینی انسان
-> اثر بیرونی و رسید سامانه مرجع
جای مدل استخراج، نگاشت و توضیح است. واحد پیشنهادی باید با سند تطبیق یابد. موتور نیز عملیات ناشناخته، ابعاد ناسازگار، نرخ غایب، تقسیم بر صفر، سرریز و نسخه قاعده غیرمجاز را رد کند.
مجوز پس از محاسبه است. حد مبلغ، تفکیک وظایف، مرز مستأجر، هویت تأمینکننده و تأیید با دقیقشدن مبلغ ریاضی نمیشوند. رسید محاسبه را با سامانه مرجع تطبیق دهید؛ راهنمای شواهد ممیزی توضیح میدهد چرا رد مدل وقوع تراکنش را ثابت نمیکند.
فرض کنید فاکتور آزمایشی دو ردیف جرم با رقم فارسی دارد: ۱۲٫۵ kg و ۲٫۲۵ kg، هر دو با قیمت 34.75 USD/kg، سپس ۲٫۵ درصد تخفیف و ۲۰ درصد مالیات. فقط برای این مثال، سیاست خرید میگوید عملوند دهدهی دقیق باشد، جمع هر ردیف با روش نیمبهبالا تا 0.01 USD گرد شود، تخفیف به سنت گرد شود و سپس مالیات روی مبلغ خالص فاکتور محاسبه و گرد شود. این یک قاعده ساختگی عملیاتی است، نه توصیه مالیاتی.
موتور چنین حساب میکند:
| مرحله | ورودی دقیق | نتیجه قرارداد |
|---|---|---|
| ردیف اول | 12.5 × 34.75 = 434.375 | 434.38 USD |
| ردیف دوم | 2.25 × 34.75 = 78.1875 | 78.19 USD |
| جمع ردیفهای گردشده | 434.38 + 78.19 | 512.57 USD |
| تخفیف | 512.57 × 0.025 = 12.81425 | 12.81 USD |
| خالص | 512.57 − 12.81 | 499.76 USD |
| مالیات | 499.76 × 0.20 = 99.952 | 99.95 USD |
| جمع پایانی | 499.76 + 99.95 | 599.71 USD |
اگر سرویس دیگری هر دو ردیف را تا پایان بدون گردکردن نگه دارد، به 599.698125 میرسد و آن را 599.70 USD میکند. نه روانی زبان و نه رقم اعشار بیشتر نتیجه حاکم را انتخاب نمیکند. اختلاف یک سنت از ترتیب عملیات و مرحله گردکردن آمده است. قرارداد تصمیم میگیرد و رسید مسیر را نشان میدهد.
حالا kg را به مخففی نامعلوم تبدیل کنید، USD را بردارید یا تاریخ پیشفاکتور را بیرون بازه قاعده قیمت قرار دهید. موتور نباید جمعی بسازد؛ باید دقیقاً فیلدهای مسدودکننده را برگرداند و پرونده را به بازیابی شاهد یا بازبینی واجد صلاحیت بفرستد.
ارزیابی تولید باید معنا و اثر را، فراتر از محک حساب، هدف بگیرد:
NaN و بینهایت؛رسید کامل را مقایسه کنید، نه فقط جمع نهایی را. اگر جواب تصادفاً یکسان است ولی منبع، واحد، قاعده، ترتیب یا رفتار استثنا تفاوت دارد، آزمون باید شکست بخورد.
جایی را پایش کنید که معنا میتواند ناپدید شود:
Rounded، Inexact، سرریز، عملیات نامعتبر یا خروج از تلورانس؛دقت استخراج را با پنهانکردن ابهام واحد بهتر جلوه ندهید. درستی فیلد را یک ادعای مشترک گزارش کنید: مقدار، واحد یا ارز، شاهد، قاعده مؤثر و استفاده مجاز همگی سازگارند. با تغییر طرح سند، زبان، جدول ارز، سیاست مالیات، نوع پایگاه داده، کتابخانه حساب، مدل یا اختیار پاییندست، قرارداد را بازبینی کنید.
پیش از آنکه عدد تولیدشده با هوش مصنوعی اثر کسبوکار بسازد، برای این پرسشها پاسخ مثبت بخواهید:
عدد تنها زمانی از نظر عملیاتی قابل اعتماد است که سازمان بتواند بگوید چه چیزی را میسنجد، کدام قاعده آن را تبدیل کرده، چه شاهدی پشت آن است و نتیجه اجازه انجام چه کاری را دارد.
decimal پایتون — مستندات کنونی پایتون ۳، بازبینیشده در ۲۴ اوت ۲۰۲۶؛ نمایش دقیق دهدهی، دقت، روش گردکردن، علامتها و رفتار تبدیل ممیز شناور.numeric دقیق، ممیز شناور تقریبی، اجبار مقیاس و تفاوت رفتار مقدار میانی.
راهنمایی عملی برای تعیین اینکه هنگام اختلال مدل یا وابستگی، کدام قابلیت هوش مصنوعی ادامه یابد، محدود شود، به انسان برسد یا متوقف بماند.
ادامه مطلب
معماری عملی کنترل تغییر برای تصمیمگیری درباره اجزایی که هنگام تکامل سامانه هوش مصنوعی باید با هم نسخهبندی، آزمون، محدود و بازیابی شوند.
ادامه مطلب
راهنمای بازسازی، ارزیابی، تغییر مسیر و بازگشت در جستوجوی برداری؛ وقتی مدل امبدینگ، قطعهبندی یا نمایه باید عوض شود.
ادامه مطلباگر این مطلب به یک سامانه واقعی در سازمان شما مربوط است، از خدمات و مطالعه موردی شروع کنید.