چگونه هوش مصنوعی صنعت مالی را در سال ۲۰۲۵ متحول می‌کند

از نگاه ۳۰ ژوئیه ۲۰۲۶، تحول وعده‌داده‌شده صنعت مالی در ۲۰۲۵ به شکل یک «بانک هوش مصنوعی» خودمختار رخ نداد. تغییر در صدها جزء محدود دیده شد: مسیریابی سند، اولویت‌بندی تقلب، کمک به بازرس، خلاصه تماس، توسعه نرم‌افزار، شخصی‌سازی و آزمایش رابط‌های مولد. الگوی قوی‌تر، تقویت کنترل‌شده فرایندهای باارزش است، نه جایگزینی بدون نظارت قضاوت مالی.

مالی میدان آزمون دشواری است. سامانه ممکن است بر دسترسی به اعتبار، پول مشتری، رفتار بازار، حریم خصوصی، کنترل تحریم و پایداری مؤسسه تنظیم‌شده اثر بگذارد. پس روان‌بودن پاسخ معیار ضعیفی است. پرونده تولیدی باید منفعت قابل اندازه‌گیری، استفاده قانونی از داده، تصمیم قابل ردیابی، امکان اعتراض مؤثر، عملیات امن و اختیار انسانی روشن در ابهام داشته باشد.

چه چیزی تغییر کرد و چه چیزی نکرد؟

یادگیری ماشین پیش از موج هوش مصنوعی مولد نیز در کشف تقلب، تحلیل اعتبار، معامله، بازاریابی و عملیات وجود داشت. تغییر تازه استفاده از مدل بنیادین روی محتوای بدون ساختار است: سیاست، گزارش، پژوهش، مکاتبه، متن تماس، پرونده خدمت و کد. این کار رابط دانش سازمانی را گسترش می‌دهد، اما مسیر تازه‌ای برای جعل پاسخ، دست‌کاری پرامپت، نشت اطلاعات و استدلال ناپایدار می‌سازد.

بررسی ۲۰۲۴ هیئت ثبات مالی هم منفعت و آزمایش فعال را گزارش کرد و هم گفت مؤسسات مالی عموماً درباره هوش مصنوعی مولد محتاط بوده و آن را بیشتر در عملیات داخلی و انطباق به کار می‌بردند. گزارش خطر تشدید تمرکز شخص ثالث، همبستگی بازار، تهدید سایبری و ضعف مدل، داده و حاکمیت را مطرح کرد. این‌ها خطرهای سطح سامانه‌اند و ثابت نمی‌کنند هر استقرار ناپایدار است؛ اما نشان می‌دهند خرید آن نباید مانند نرم‌افزار عادی باشد.

فرایند پرارزش معمولاً فرایند محدود است

نامزد مناسب ورودی، اقدام مجاز، بازبین و معیار نتیجه مشخص دارد. استخراج داده از اسناد تجارت، خلاصه پرونده برای بازرس، تطبیق پرداخت و فاکتور، بازیابی بند سیاست تأییدشده، دسته‌بندی درخواست یا تهیه پیش‌نویس برای بازبینی کارمند نمونه‌های خوب‌اند.

عامل دارای ابزار باید مجوز حداقلی بگیرد. خواندن پرونده مشتری، پیشنهاد انتقال، آزادسازی وجه، تغییر سقف، ثبت گزارش و بستن هشدار اختیارهای متفاوت‌اند؛ آن‌ها را فنی و رویه‌ای جدا کنید. توضیح تولیدشده مدل اثبات درستی اقدام نیست.

برای مدل عملیاتی تخصصی‌تر، هوش مصنوعی در بانکداری و مالی را بخوانید. مزیت واقعی از بازطراحی یک فرایند کامل و آگاه از کنترل می‌آید، نه افزودن چت به همه صفحه‌ها.

تقلب، هویت و حلقه بازخورد مهاجم

هوش مصنوعی می‌تواند سیگنال تراکنش، دستگاه، هویت و شبکه را ترکیب، هشدار را اولویت‌بندی و تحقیق را خلاصه کند. مهاجم نیز می‌تواند جعل هویت را انبوه، سند را مصنوعی، صدا یا ویدیو را تغییر، کلاهبرداری را محلی و کنترل را کاوش کند.

هشدار نوامبر ۲۰۲۴ شبکه مقابله با جرایم مالی آمریکا از افزایش گزارش فعالیت مشکوک مرتبط با دیپ‌فیک، به‌ویژه سند هویتی جعلی برای عبور از احراز هویت، خبر داد. این هشدار نشانه‌ها و راهنمای گزارش دارد؛ شاهد طرح‌های مشاهده‌شده است، نه برآورد کامل شیوع.

دفاع لایه‌ای لازم است: منشأ و زنده‌بودن، ریسک دستگاه و رفتار، احراز قوی‌تر، سقف تراکنش، سابقه ذی‌نفع، دوره انتظار و بازرس آموزش‌دیده. علاوه بر زیان پیشگیری‌شده، مثبت کاذب و اصطکاک نابرابر مشتری را بسنجید. مطلب هوش مصنوعی، پرداخت، تقلب و ریسک هویت این مسئله ترکیبی را بررسی می‌کند.

تصمیم اعتبار باید قابل اعتراض باشد

سامانه اعتباری می‌تواند سازگاری را بهتر و الگو را در داده مجاز پیدا کند، اما ممکن است نابرابری تاریخی را بازتولید، از جانشین ناپایدار استفاده یا توضیح را دشوار کند. قانون هوش مصنوعی اتحادیه اروپا برخی سامانه‌های ارزیابی اعتبار یا امتیاز اعتباری اشخاص حقیقی را، با استثناهای ذکرشده، پرخطر طبقه‌بندی می‌کند. این طبقه‌بندی حقوقی اتحادیه با اجرای مرحله‌ای است و نباید قانون همه کشورها معرفی شود.

وام‌دهنده باید پیش از انتخاب مدل تکالیف قابل اعمال درباره اعطای منصفانه، حمایت مصرف‌کننده، حریم خصوصی، اعلام علت رد، نگهداری سابقه و ریسک مدل را تعیین کند. اعتبارسنجی را در سطح سبد و گروه مرتبط انجام دهد، رانش و لغو نظر مدل را بسنجد، شواهد لحظه تصمیم را نگه دارد و مسیر اصلاح یا اعتراض واقعی بدهد. «انسان تأیید را زد» نظارت معنادار نیست اگر وقت، اطلاعات یا اختیار مخالفت نداشته باشد.

خروجی مولد نباید پنهانی به ویژگی تازه اعتبار تبدیل شود. حتی بازیابی، خلاصه‌سازی یا استخراج می‌تواند تعیین کند چه مدرکی به تصمیم می‌رسد؛ این اجزای بالادست نیز بخشی از نقشه کنترل‌اند.

راهنمای ریسک مدل اکنون صریحاً متناسب با ریسک است

فدرال رزرو در ۱۷ آوریل ۲۰۲۶ نامه SR 26-2 را منتشر کرد؛ راهنمای بازنگری‌شده مدیریت ریسک مدل که جای SR 11-7 و SR 21-8 را گرفت. راهنما می‌گوید مدیریت باید با اهمیت، پیچیدگی و ریسک متناسب باشد و عمدتاً برای مؤسسات تحت نظارت فدرال رزرو با بیش از ۳۰ میلیارد دلار دارایی تلفیقی مطرح است. هنگام استفاده، دامنه و مرجع ناظر مهم‌اند.

درس عملی فراتر از یک آستانه است: موجودی سامانه داشته باشید، بر پایه ریسک رده‌بندی کنید، مالک تعیین کنید، در صورت نیاز اعتبارسنجی مستقل انجام دهید، عملکرد و محدودیت را پایش، تغییر را کنترل و مسئله مهم را گزارش کنید. هر دسته‌بند به فرایند مدل سرمایه یا اعتبار نیاز ندارد، اما نام «دستیار» یا «ویژگی فروشنده» اثر آن را از ارزیابی ریسک حذف نمی‌کند.

اعتبارسنجی باید کل کاربرد را بسنجد. مدل روی داده ثابت ممکن است خوب باشد ولی به‌دلیل سیاست قدیمی در بازیابی، مجوز اضافه ابزار، اعتماد بیش از حد کاربر یا تغییر فیلد ورودی شکست بخورد.

مقررات به ادعا هم مربوط است

کمیسیون بورس آمریکا در مارس ۲۰۲۴ از توافق با دو مشاور سرمایه‌گذاری بر سر گفته‌های نادرست یا گمراه‌کننده درباره استفاده ادعایی از هوش مصنوعی خبر داد. این پرونده‌ها درباره «هوش مصنوعی‌نمایی» هشدار عملی‌اند: بازاریابی باید کار واقعی سامانه، مدرک عملکرد و محدودیت مهم را دقیق بگوید.

اطلاعیه 24-09 فینرا نیز یادآوری کرد مقررات موجود هنگام استفاده اعضا از هوش مصنوعی مولد و مدل زبانی قابل اعمال‌اند و اطلاعیه الزام تازه‌ای نمی‌سازد. مؤسسه همچنان باید نظارت، ارتباطات، نگهداری سابقه، حریم خصوصی، امنیت و سایر تعهدها را در متن کاربرد واقعی ارزیابی کند.

پس زبان انطباق باید مشخص باشد. «انسان در حلقه»، «توضیح‌پذیر»، «امن» و «منطبق» به‌تنهایی کنترل نیستند. بازبینی، مدرک، آستانه، قاعده نگهداری، آزمون و نقش پاسخ‌گو را نام ببرید.

تمرکز شخص ثالث تصمیم معماری را تغییر می‌دهد

بسیاری از مؤسسات نمی‌توانند یا نباید همه مدل‌ها را بسازند. در عین حال، ارائه‌دهنده مشترک ابر، داده، مدل و نرم‌افزار مواجهه هم‌بسته می‌سازد. قطعی، به‌روزرسانی آلوده، تغییر سیاست یا افت عملکرد ممکن است چند مؤسسه و کارکرد را هم‌زمان متأثر کند.

پیش از خرید، نقش فروشنده، جریان داده، زیرپردازشگر، نگهداری، استفاده آموزشی، کنترل دسترسی، تغییر مدل، اعلام حادثه، مدرک ممیزی، قابلیت انتقال و خروج را مستند کنید. مشخص کنید کدام کنترل با فروشنده و کدام با مؤسسه است. برای فرایند حیاتی مسیر جایگزین را واقعاً آزمایش کنید.

تمرکز فقط تعداد فروشنده نیست. چند محصول با نام متفاوت ممکن است به یک مدل بنیادین یا منطقه ابری وابسته باشند. تبار وابستگی را تا حدی نگه دارید که شکست مشترک شناخته شود.

ارزیابی باید کیفیت را به زیان مالی وصل کند

معیار عمومی مدل زبانی ایمنی یک کار مالی را نشان نمی‌دهد. مجموعه آزمون وظیفه‌ای از پرونده نماینده و دشوار بسازید و مجازبودن داده را رعایت کنید. پنجره آزمون را ثابت، نشت را مهار و پرامپت، مخزن بازیابی، ابزار، مدل، سیاست و آستانه را نسخه‌بندی کنید.

دقت استخراج، ادعای بدون پشتوانه، صحت ارجاع، یادآوری و دقت هشدار، کالیبراسیون، اختلاف بازبین، زمان حل، اصطکاک مشتری، زیان، شکایت و نتیجه لغو را بسنجید. یک ذی‌نفع اشتباه یا تطبیق تحریم ازدست‌رفته از چند خلاصه بد مهم‌تر است؛ شدت خطا باید در امتیاز اثر داشته باشد.

تزریق غیرمستقیم پرامپت در سند، استخراج داده، سوءاستفاده ابزار، تغییر هویت، مدرک جعلی و دورزدن تأیید را ردتیم کنید. پس از تغییر مدل، مخزن، پرامپت، اتصال یا سیاست، آزمون حیاتی را تکرار کنید.

پاسخ‌گویی انسانی باید عملی باشد

مالک کسب‌وکار، مالک فنی، نقش ریسک یا اعتبارسنجی، بازبین انطباق و حریم خصوصی، مسئول امنیت و مسیر تشدید عملیات را نام‌گذاری کنید. تصمیم آن‌ها در سابقه تغییر دیده شود و بازبین وقت و زمینه کافی برای مخالفت داشته باشد.

تحویل ساختاریافته بسازید. رکورد منبع، اطمینان یا عدم‌قطعیت معنادار، نسخه سیاست، اقدام پیشنهادی و پیامد تأیید را نشان دهید. پرونده کم‌اطمینان یا پراثر را به متخصص برسانید. از موارد ظاهراً موفق هم نمونه‌گیری کنید تا خطای خاموش وارد حلقه یادگیری شود.

اثر نیروی کار را صادقانه بسنجید. پیش‌نویس سریع ممکن است یک صف را کوتاه و کار راستی‌آزمایی را جای دیگر زیاد کند. زمان کل فرایند، دوباره‌کاری، اوج نیروی لازم، شدت خطا و راه میان‌بر کارکنان را بسنجید، نه فقط تأخیر مدل.

مسیر مرحله‌ای از آزمایش تا تولید

با تعریف مسئله و خط پایه شروع کنید. تصمیم یا کار در دامنه، ممنوعیت مطلق و بهبودی را که هزینه را توجیه می‌کند تعیین کنید. سپس:

1. داده، قانون، اثر مشتری، وابستگی و کنترل موجود را نقشه‌برداری کنید؛
2. کم‌توان‌ترین معماری کافی را انتخاب کنید؛
3. روی پرونده نماینده و خصمانه آفلاین ارزیابی کنید؛
4. در حالت سایه بدون اثر بر مشتری یا دفاتر اجرا کنید؛
5. با کاربر، مجوز، حجم و مواجهه زیان محدود پایلوت کنید؛
6. نتیجه، لغو، حادثه، رانش و اثر کنترل را پایش کنید؛
7. فقط با دروازه تأیید مستند گسترش دهید؛ و
8. بازگشت، تداوم دستی و خروج را نگه دارید.

درباره زیرساخت پولی، سناریوها می‌توانند فراتر از استقرار امروز باشند. بررسی هوش مصنوعی و ریسک ارز دیجیتال بانک مرکزی کنترل فعلی را از انتخاب آینده جدا می‌کند.

دستور کار مالی در ۲۰۲۶

مزیت بعدی از بیشینه‌کردن تعداد قابلیت هوش مصنوعی نمی‌آید. مزیت از انتخاب فرایندی می‌آید که مدرک، اختیار و نتیجه‌اش کنترل‌پذیر باشد؛ بار بازرس و عملیات را بدون کاهش حفاظت کم کند؛ و زیرساخت ارزیابی و حاکمیت قابل استفاده مجدد بسازد.

ادعای مالی کاملاً خودمختار همچنان پیش‌بینی است. شواهد فعلی نتیجه محدودتری می‌دهد: هوش مصنوعی بخشی از تحلیل و عملیات را بهتر می‌کند، مهاجم سازگار می‌شود، ناظر تکالیف موجود و قوانین حوزه‌ای تازه را اعمال می‌کند و حاکمیت مدل صریح‌تر با ریسک متناسب می‌شود. مؤسسه‌ای که بتواند تغییر را اثبات و هنگام خطا ایمن متوقف شود، از مؤسسه نمایش‌محور آماده‌تر است.

یادداشت منابع (بازبینی در ۳۰ ژوئیه ۲۰۲۶)

• نامه SR 26-2 فدرال رزرو درباره مدیریت ریسک مدل — راهنمای متناسب با ریسک آوریل ۲۰۲۶، دامنه و نامه‌های جایگزین‌شده.
• ارزیابی هیئت ثبات مالی از هوش مصنوعی و ثبات مالی — کاربرد مشاهده‌شده، منفعت ممکن و آسیب‌پذیری تمرکز، همبستگی، سایبر، داده، مدل و حاکمیت.
• مقررات ۲۰۲۴/۱۶۸۹ اتحادیه اروپا، قانون هوش مصنوعی — متن رسمی، شامل طبقه‌بندی پرخطر مرتبط با کاربرد مشخص سنجش اعتبار.
• اطلاعیه اجرای SEC درباره ادعای گمراه‌کننده هوش مصنوعی — پرونده‌های توافق‌شده ۲۰۲۴ و خطر ادعای بدون پشتوانه درباره استفاده از هوش مصنوعی.
• هشدار FinCEN درباره دیپ‌فیک در طرح‌های تقلب — گزارش فعالیت مشکوک مشاهده‌شده، نشانه خطر و یادآوری گزارش‌دهی آمریکا.
• اطلاعیه مقرراتی 24-09 فینرا — یادآوری اعمال تعهدهای موجود اعضا بر استفاده از هوش مصنوعی مولد؛ اطلاعیه الزام تازه ایجاد نمی‌کند.