میدان نبرد الگوریتمی: چگونه هوش مصنوعی دفاع و جنگ نوین را بازتعریف می‌کند

هوش مصنوعی فرمانده دیجیتال نیست. مجموعه‌ای از روش‌هاست که در تدارکات، نگهداری، اطلاعات، دفاع سایبری، برنامه‌ریزی، امور اداری، آموزش و سامانه‌های تسلیحاتی به کار می‌رود. خطر از پیش‌بینی اشتباه قطعه یدکی تا توصیه نامطمئنی که بر کاربرد نیرو اثر می‌گذارد تغییر می‌کند. تبدیل همه کاربردهای نظامی هوش مصنوعی به مسابقه سرعت، تصمیم‌ها، اختیارها و انسان‌هایی را که باید حفاظت شوند از دید پنهان می‌کند.

پرسش مسئولانه در ۲۰۲۶ این نیست که «نیروهای مسلح با چه سرعتی هوش مصنوعی را بپذیرند؟» پرسش این است: «کدام توان محدود، پشتوانه حقوقی، نیاز عملیاتی، داده، آزمون، مهار انسانی، امنیت و شاهد مستقل کافی دارد و چه زمانی باید متوقف شود؟» این مقاله عملیاتی نیست و دستور حمله، هدف‌گیری، گریز یا ساخت سلاح ارائه نمی‌کند.

۱. کاربرد را بر پایه پیامد طبقه‌بندی کنید

از فهرست کارکرد واقعی آغاز کنید، نه نام فروشنده یا مدل. مشخص کنید سامانه زمان نگهداری را تنظیم، تقاضا را پیش‌بینی، متن را ترجمه، شیء را شناسایی، اطلاعات را خلاصه، مسیر اقدام را پیشنهاد، حرکت را کنترل یا هدف را انتخاب و نیرو را اعمال می‌کند. کاربر، افراد اثرپذیر، داده، محیط، سامانه‌های متصل و پیامد شکست را ثبت کنید.

سطح خطر و تأیید را بر پایه پیامد، برگشت‌پذیری، مقیاس، فشار زمانی و نزدیکی به کاربرد نیرو تعیین کنید. مدل عمومی وقتی خروجی‌اش وارد فرایندی پرپیامد می‌شود، خود به جزء پرخطر تبدیل می‌شود. عنوان «پشتیبانی تصمیم» به‌خودی‌خود کم‌خطر نیست؛ زیرا ممکن است شواهدی را که فرمانده می‌بیند و گزینه‌هایی را که ناپدید می‌شوند شکل دهد.

۲. حقوق بشردوستانه بین‌المللی در درگیری مسلحانه کف الزام است

پرسش‌های متداول کمیته بین‌المللی صلیب سرخ درباره هوش مصنوعی نظامی در ژوئن ۲۰۲۶ موضع نهادی این سازمان را بیان می‌کند: حقوق بشردوستانه بین‌المللی بر همه ابزارها و روش‌های جنگ، از جمله ابزارهای دارای هوش مصنوعی، اعمال می‌شود و انسان مسئول حقوقی تصمیم‌های مربوط به کاربرد نیرو می‌ماند. تمایز، تناسب و احتیاط ممکن به داوری وابسته به زمینه نیاز دارند. صلیب سرخ مرجع مهم بشردوستانه است، اما این پرسش‌نامه معاهده یا رأی دادگاه نیست.

هر توان را به تصمیم حقوقی‌ای که ممکن است بر آن اثر بگذارد وصل کنید. شاهد، عدم‌قطعیت، اطلاعات غیرنظامیان، زمان، صلاحیت و اختیار لازم را حفظ کنید. امتیاز مدل تعیین نمی‌کند که فردی هدف قانونی است، شیئی هدف نظامی محسوب می‌شود یا زیان مورد انتظار غیرنظامی متناسب است.

۳. سیاست هوش مصنوعی مسئولانه به اجرای واقعی نیاز دارد

مجموعه‌ابزار هوش مصنوعی مسئولانه وزارت دفاع آمریکا منبع عمومی اجرای سیاست همان وزارتخانه است. این مجموعه بازتاب سیاست و ابزارهای یک نهاد ملی آمریکایی است و بخشی از استانداردهای بیرونی را به کار می‌گیرد. قانون بین‌المللی نیست و تکمیل برگه‌های آن، ایمنی یا قانونی‌بودن سامانه را گواهی نمی‌کند.

اصول را در سراسر الزام، طراحی، داده، توسعه، آزمون، استقرار، عملیات، پایش، پاسخ به رخداد و بازنشستگی به مالک، شاهد و دروازه تبدیل کنید. مقام پذیرنده خطر باید آن‌قدر مستقل باشد که فشار زمان‌بندی را به چالش بکشد. هرچه ممکن است عمومی شود و برای جزئیات طبقه‌بندی‌شده، نظارت معتبر و محفوظ برقرار بماند.

۴. دستورالعمل ملی خودمختاری را در دامنه خودش بخوانید

دستورالعمل 3000.09 وزارت دفاع آمریکا برای سامانه‌های مشمول، داوری مناسب انسان بر کاربرد نیرو را می‌خواهد و آزمون واقع‌گرایانه، پایداری، شکست، آموزش، دکترین و بازبینی را پوشش می‌دهد. این دستور یک وزارتخانه ملی است؛ تعریف جهانی «مهار معنادار انسانی» یا جایگزین معاهده و قانون قابل اعمال نیست.

برای هر سامانه بنویسید انسان چه می‌داند، چه تصمیمی می‌گیرد، بر چه چیزی نظارت دارد و چه چیزی را می‌تواند تغییر دهد یا متوقف کند. حدود جغرافیایی، زمانی، هدف، محیط و مقیاس را تعیین کنید. اگر کاربر زمان یا اطلاعات کافی برای مخالفت ندارد، تأیید رسمی به مهرزدن صوری تبدیل می‌شود.

۵. اصول ائتلاف، سازگاری می‌سازد نه تضمین خودکار

راهبرد بازنگری‌شده هوش مصنوعی ناتو در ۲۰۲۴ شش اصل کاربرد مسئولانه را بیان می‌کند: قانون‌مداری، مسئولیت و پاسخ‌گویی، توضیح‌پذیری و ردگیری، قابلیت اعتماد، راهبری‌پذیری و کاهش سوگیری. این سیاست رسمی ائتلاف برای هدایت ناتو و اعضاست؛ قانون لازم‌الاجرای بین‌المللی نیست و انطباق هر سامانه عضو را ثابت نمی‌کند.

سازگاری میان نیروها باید معنای داده، میزان اطمینان، هویت، زمان، طبقه‌بندی، رد حسابرسی، نشانه شکست و رابطه فرماندهی را پوشش دهد، نه فقط قالب پیام. شریک ائتلاف باید سرچشمه و محدودیت پیشنهاد را بداند و حق رد، محدودکردن یا قطع اتصال را حفظ کند.

۶. کیفیت داده مسئله مأموریت و حفاظت است

داده درگیری ناقص، خصمانه، پرشتاب و تابع اولویت‌های گردآوری است. برچسب آموزشی ممکن است دکترین کهنه، تبعیض تاریخی یا سوگیری تأییدی را حمل کند. نبود اطلاعات، نبود غیرنظامی را ثابت نمی‌کند و گزارش تکراری نیز اطمینان کاذب می‌سازد.

منبع، اختیار، زمان، دقت مکان، تبدیل، اطمینان، محدودیت نگهداری و شکاف شناخته‌شده را ثبت کنید. مشاهده را از استنباط جدا نگه دارید. مدل را در منطقه، زبان، آب‌وهوا، نوع حسگر، تجهیزات و جمعیت مرتبط بیازمایید. تاریخ انقضا و اعتبارسنجی دوباره داشته باشید، زیرا مدلی که برای محیط دیروز ساخته شده شاید فردا ناایمن باشد.

۷. سامانه اجتماعی‌فنی را زیر فشار واقعی بیازمایید

دقت آزمایشگاهی، تناسب عملیاتی را ثابت نمی‌کند. ارزیابی باید کاربر، رویه، رابط، شبکه، دست‌کاری دشمن، حسگر تضعیف‌شده، فشار زمانی، عدم‌قطعیت، تحویل مسئولیت و سامانه متصل را دربرگیرد. توسعه‌دهنده نباید همه سناریوهای پذیرش را خودش کنترل کند.

آزمون و ارزیابی مستقل باید اختیار مشاهده، بازتولید و توقف داشته باشد. رخداد ازدست‌رفته، هشدار غلط، کالیبراسیون، کیفیت تصمیم، تشخیص خطر غیرنظامی، بار کاری، سوگیری خودکارسازی، مداخله، بازیابی و بازسازی حسابرسی را بسنجید. بیرون از توزیع آموزش و پس از هر تغییر مهم در مدل، داده، رابط، محموله، دکترین یا محیط دوباره آزمایش کنید.

۸. همکاری انسان و ماشین به نقش انسانی شدنی نیاز دارد

عبارت «انسان در حلقه» بدون زمان و بار کاری معنای اندکی دارد. یک نفر نمی‌تواند صدها پیشنهاد را که سریع‌تر از بررسی شواهد می‌رسند مستقل داوری کند. توضیحی که فقط برچسب مدل را تکرار می‌کند، داوری نمی‌سازد.

برای مقایسه، تناقض، عدم‌قطعیت و خودداری مدل طراحی کنید. شاهد منبع و داده غایب را نشان دهید. کاربر را با حالت‌های شکست و زمان نادیده‌گرفتن خروجی آشنا کنید و بسنجید آیا زیر فشار توصیه بد را تشخیص می‌دهد. اختیار توقف کار و ارجاع باید بدون تنبیه قابل استفاده باشد.

۹. سرعت همیشه برتری تصمیم نیست

یکپارچه‌سازی و برنامه‌ریزی سریع می‌تواند پاسخ را بهتر کند؛ اما ممکن است بازبینی حقوقی را فشرده، خطای مشترک را تکثیر و سوءتفاهم را پیش از مداخله دیپلماسی یا فرماندهی تشدید کند. پیشنهاد فقط به این دلیل که مدل آن را سریع ساخته، فوری نمی‌شود.

پیرامون انتساب، کاربرد نیرو، مکان حفاظت‌شده، حضور نامطمئن غیرنظامی، اثر فرامرزی و تشدید راهبردی اصطکاک سنجیده بسازید. از مکث، تأیید مستقل، مقام بالاتر و کانال ارتباطی متناسب با پیامد استفاده کنید. همان سند صلیب سرخ در ۲۰۲۶ منع استفاده از هوش مصنوعی در فرماندهی و کنترل هسته‌ای را توصیه می‌کند. این موضع صلیب سرخ است، نه قاعده‌ای که همه کشورها پذیرفته باشند؛ اما شدت خطر خودکارسازی تصمیم برگشت‌ناپذیر را نشان می‌دهد.

۱۰. مدل، داده و زنجیره تأمین را ایمن کنید

هوش مصنوعی نظامی به تراشه، کتابخانه، خدمت ابری، کارگزار داده، پیمانکار، عرضه‌کننده مدل و کانال به‌روزرسانی تجاری وابسته است. خطرها شامل داده مسموم، وابستگی آلوده، وزن مدل سرقت‌شده، دسترسی بیش‌ازحد، تزریق دستور، نشت راز، فریب حسگر و قطع شبکه است.

بی‌اعتمادی پیش‌فرض، هویت قوی، جداسازی، ساخت و به‌روزرسانی امضاشده، فهرست اجزا، پیکربندی بازتولیدپذیر، کلید حفاظت‌شده، کمترین مجوز ابزار و ثبت رویداد زیر کنترل مشتری را اعمال کنید. کار آفلاین و شرایط تضعیف‌شده را بیازمایید. وقتی اصالت منبع یا یکپارچگی مدل نامطمئن است، سامانه باید به وضعیت امن‌تر برود.

۱۱. خرید باید اختیار عمومی را حفظ کند

قرارداد باید توان دارای شاهد بخرد، نه دسترسی به ادعایی انحصاری. مسئولیت دولت و عرضه‌کننده را برای حق داده، پرونده مدل و دستور، دسترسی آزمون، رابط، ثبت رویداد، امنیت، آسیب‌پذیری، اعلام به‌روزرسانی، کارایی در هر محیط، رخداد، مالکیت فکری، پیمانکار فرعی، انتقال‌پذیری، گذار و حذف روشن کنید.

نمونه‌های رقابتی و دروازه مرحله‌ای به کار ببرید، اما نگذارید مسیر اضطراری برای همیشه تضمین را دور بزند. هزینه کل عمر شامل آماده‌سازی داده، یکپارچه‌سازی، آزمون مستقل، عملیات امن، آموزش، پایش، بررسی، اعتبارسنجی دوباره و خروج است. نهاد عمومی باید دانش فنی کافی برای نظارت بر پیمانکار و رد تغییر ناایمن را نگه دارد.

۱۲. کاهش زیان غیرنظامی به بازخورد عملیاتی نیاز دارد

هوش مصنوعی می‌تواند اطلاعات حضور غیرنظامیان را سامان دهد، اما هیچ مجموعه‌داده‌ای همه مردم درگیری را کامل بازنمایی نمی‌کند. جابه‌جایی، ارتباط آسیب‌دیده، الگوی فرهنگی، معلولیت و خدمت غیررسمی شکاف می‌سازند. بررسی سوگیری باید بپرسد چه کسی غایب است، نه فقط گروه حاضر چگونه طبقه‌بندی شده است.

گزارش زیان و شبه‌رخداد را گرد آورید، داده و پیکربندی مرتبط را نگه دارید و کل زنجیره تصمیم را بررسی کنید. کانال گزارش و جبران تا حد ممکن دسترس‌پذیر باشد. درس‌ها را وارد دکترین، محدودیت، آموزش، نرم‌افزار، خرید و بازبینی حقوقی کنید. وقتی شکست مهارنشدنی یا شاهد برای استفاده مسئولانه ناکافی است، کارکرد باید تعلیق شود.

۱۳. راهبری باید محرمانگی و فوریت را تاب بیاورد

محرمانگی عملیاتی می‌تواند مشروع باشد، اما نیاز به بازبینی مستقل دارای مجوز، بازرسی، نظارت قانون‌گذاری یا وزارتی، سابقه حقوقی، دسترسی کنترل‌شده حسابرسی و گزارش پایدار رخداد را بیشتر می‌کند. طبقه‌بندی باید اطلاعات خاص را حفاظت کند، نه پاسخ‌گویی را پاک کند.

دفتر سامانه، کاربرد، مالک، سطح خطر، اختیار، داده، نسخه مدل، محل استقرار، رخداد، تاریخ بازبینی و معیار پایان را نگه دارید. آزمایش را از توان عملیاتی جدا کنید. مجوز اضطراری را زمان‌دار کنید و پس از پایان وضعیت بررسی کنید. مدل و گواهی دسترسی بی‌پشتیبان یا بی‌نیاز را بازنشسته کنید.

۱۴. دروازه عملی هوش مصنوعی دفاعی

یک توان هوش مصنوعی را فقط وقتی عملیاتی کنید که کارکرد و پیامد روشن باشد؛ قانون و سیاست قابل اعمال شناخته شود؛ سرچشمه و شکاف داده دیده شود؛ آزمون مستقل شرایط خصمانه و تضعیف‌شده را پوشش دهد؛ انسان زمان، شاهد، صلاحیت و اختیار واقعی داشته باشد؛ مهار سایبری و زنجیره تأمین کار کند؛ قرارداد حق حسابرسی و خروج را نگه دارد؛ زیان غیرنظامی به اصلاح برسد؛ و تشدید یا شکست بتواند سامانه را ایمن متوقف کند.

برای ادامه متمرکز، پهپاد خودمختار و تضمین ازدحام، Palantir و یکپارچه‌سازی پاسخ‌گوی داده و هوش مصنوعی در جنگ و امنیت سایبری را ببینید. میدان الگوریتمی پیرامون سریع‌ترین ماشین‌ها به داوری نهادی آهسته‌تر نیاز دارد.

یادداشت منابع

منابع در ۲۰۲۶-۰۷-۳۰ بررسی شدند:

• ICRC: FAQ—Artificial Intelligence in the military domain — موضع نهادی حقوقی و بشردوستانه ژوئن ۲۰۲۶ درباره IHL، decision support، autonomy، cyber، judgment انسان و civilian risk.
• US Department of Defense: Responsible AI Toolkit release — resource عمومی implementation یک department آمریکا مرتبط با RAI Strategy و Pathway؛ law یا certification نیست.
• US DoD Directive 3000.09: Autonomy in Weapon Systems — directive وزارت دفاع آمریکا درباره system autonomous covered، judgment انسان، testing، failure و review؛ rule جهانی نیست.
• NATO: Summary of the revised Artificial Intelligence strategy — policy رسمی alliance و Principles of Responsible Use؛ binding international law یا assurance سامانه خاص نیست.