فراتر از خطای الگوریتم: بازاندیشی مسئولیت در سامانه‌های هوش مصنوعی نظامی (مطالعه موردی حادثه میناب)

نوع مقاله : مقاله پژوهشی

نویسندگان
1 استادیار حقوق، گروه آینده پژوهی قضایی، پژوهشکده قوه قضاییه، تهران، ایران (نویسنده مسئول).
2 دانشجوی دکتری حقوق عمومی، دانشکده حقوق و علوم سیاسی، دانشگاه علامه طباطبایی، تهران، ایران
10.48315/qgl.2026.582052.1380
چکیده
گسترش استفاده از سامانه‌های هوش مصنوعی در عملیات نظامی، پرسش‌های تازه‌ای درباره حدود مسئولیت حقوقی و اخلاقی در قبال خطاها و پیامدهای ناشی از این سامانه‌ها مطرح کرده است. در حادثه مدرسه شجره طیبه در میناب، که در جریان حمله نظامی ایالات متحده آمریکا و اسرائیل به ایران رخ داد، حدود ۱۶۸ دانش‌آموز جان خود را از دست دادند. در برخی گزارش‌ها و تحلیل‌های منتشرشده درباره این حادثه، احتمال نقش‌آفرینی سامانه‌های هوشمند در فرایند هدف‌گیری یا بروز خطای مرتبط با آن‌ها مطرح شده است. مقاله حاضر با بهره‌گیری از روش توصیفی- تحلیلی و با تکیه بر مطالعه موردی حادثه مدرسه شجره طیبه، می‌کوشد بررسی کند که روایت انتساب این حادثه به «خطای هوش مصنوعی» تا چه اندازه با مبانی حقوق بین‌الملل بشردوستانه و چارچوب‌های نوین مسئولیت سازگار است و این روایت چه تأثیری بر انتساب مسئولیت به کنشگران انسانی و سازمانی دارد.
چارچوب نظری پژوهش بر مفاهیمی چون شکاف مسئولیت، علیت شبکه‌ای، نظریه خلق خطر، کنترل انسانی معنادار و مسئولیت شبکه‌ای استوار است. تحلیل انجام‌شده نشان می‌دهد که حتی در فرض نقش‌آفرینی سامانه‌های هوشمند در فرایند هدف‌گیری، حادثه را نمی‌توان صرفاً به یک خطای الگوریتمی فروکاست، بلکه باید آن را نتیجه فرایندی پیچیده و چندلایه دانست که در آن طراحان سامانه، تأمین‌کنندگان داده، اپراتورها و سطوح مختلف فرماندهی هر یک می‌توانند در شکل‌گیری پیامد نهایی نقش داشته باشند.
نوآوری این پژوهش در طرح مفهوم «مسئولیت شبکه‌ای» به‌عنوان چارچوبی تحلیلی برای فهم توزیع مسئولیت در سامانه‌های پیچیده مبتنی بر هوش مصنوعی و همچنین تأکید بر ضرورت حفظ و تقویت «کنترل انسانی معنادار» در کاربردهای نظامی این فناوری است. بر این اساس، استدلال می‌شود که تقلیل چنین حوادثی به «خطای هوش مصنوعی»، بدون بررسی دقیق شواهد، ساختار تصمیم‌گیری و نقش کنشگران انسانی، می‌تواند تمرکز تحلیل را از مسئولیت‌های انسانی و سازمانی منحرف ساخته و فرایند پاسخگویی حقوقی را با چالش مواجه کند.
کلیدواژه‌ها

عنوان مقاله English

Beyond Algorithmic Error: Rethinking Responsibility in Military Artificial Intelligence Systems (Case Study of the Minab Incident)

نویسندگان English

Shima Attar 1
Shiva Shokrollahi 2
1 Assistant Professor of Law, Department of Judicial Futures Studies, Research Institute of the Judiciary, Tehran, Iran
2 Ph.D. Candidate in Public Law, Faculty of Law and Political Science, Allameh Tabataba'i University, Tehran, Iran
چکیده English

The growing use of artificial intelligence (AI) systems in military operations has raised new legal and ethical questions concerning responsibility for errors and consequences arising from their deployment. The attack on the Shajareh Tayyebeh School in Minab, during the military strikes conducted by the United States and Israel against Iran, resulted in the deaths of approximately 168 schoolchildren. Although media reports and expert analyses have suggested the possible involvement of AI-based systems in the targeting process or related failures, no official or independently verifiable evidence has confirmed their use. Using a descriptive-analytical method and a case-study approach, this article examines whether attributing the incident to an "AI error" is consistent with international humanitarian law and contemporary frameworks of legal responsibility, and assesses the implications of this narrative for attributing responsibility to human and organizational actors.
The theoretical framework is based on the concepts of the responsibility gap, networked causation, risk-creation theory, meaningful human control, and networked responsibility. The analysis demonstrates that, even assuming AI systems were involved in the targeting process, the incident cannot be reduced to an algorithmic error. Instead, it should be understood as the outcome of a complex decision-making process in which system designers, data providers, operators, military commanders, and institutional structures may each bear a share of legal responsibility.
The originality of this study lies in proposing networked responsibility as an analytical framework for understanding the distribution of responsibility in complex AI-enabled military systems while emphasizing the need to preserve and strengthen meaningful human control over the use of force. It argues that reducing such incidents to an "AI error," without examining the available evidence, decision-making structures, and the roles of human actors, risks obscuring human and institutional accountability and undermining legal accountability.

کلیدواژه‌ها English

Artificial Intelligence (AI)
Minab Incident
Responsibility Gap
Networked Causation
Meaningful Human Control