This article examines the differences between human judgment and algorithmic decision-making in critical logistics systems, focusing on the implications for the concepts of trust and control. The aim of the study is to determine whether AI-based systems can perform functions equivalent to human judgment and what implications this has for operational safety and accountability in complex logistics systems. The study is based on an interdisciplinary analysis, including a review of the literature on artificial intelligence, system safety, and human factors research, as well as a philosophical analysis. This is supplemented by a case study of selected incidents related to the operation of automated systems in high-risk environments, which allows the identification of practical limitations in integrating humans and algorithmic systems. The results indicate that decisions generated by algorithmic systems are statistical and optimization-based, which distinguishes them from human judgment, which takes into account context, uncertainty, and emotions. Consequently, trust in AI systems takes the form of an indirect, user-dependent relationship rather than an autonomous property of the technology. At the same time, increasing levels of automation lead to a diffusion of responsibility and a reduction in direct control over decision-making processes. The findings indicate that full automation of decisions in critical safety systems. Consequently, trust in AI systems takes the form of an indirect, user-dependent relationship rather than an autonomous property of the technology.
این مقاله به بررسی تفاوت‌های میان قضاوت انسانی و تصمیم‌گیری الگوریتمی در سامانه‌های لجستیکی حساس به ایمنی می‌پردازد و پیامدهای آن را برای مفاهیم اعتماد و کنترل مورد تحلیل قرار می‌دهد. هدف این مطالعه تعیین این است که آیا سامانه‌های مبتنی بر هوش مصنوعی می‌توانند عملکردهایی معادل با قضاوت انسانی داشته باشند و این امر چه پیامدهایی برای ایمنی عملیاتی و پاسخگویی در سامانه‌های لجستیکی پیچیده دارد. این پژوهش مبتنی بر تحلیلی میان‌رشته‌ای است که شامل مرور ادبیات مرتبط با هوش مصنوعی، ایمنی سامانه و پژوهش‌های عوامل انسانی، همچنین تحلیل فلسفی می‌شود. این تحلیل با مطالعه موردی درباره برخی رخدادهای مرتبط با عملکرد سامانه‌های خودکار در محیط‌های پرخطر تکمیل شده است که امکان شناسایی محدودیت‌های عملی در یکپارچه‌سازی انسان و سامانه‌های الگوریتمی را فراهم می‌کند. نتایج نشان می‌دهد که تصمیمات تولیدشده توسط سامانه‌های الگوریتمی مبتنی بر آمار و بهینه‌سازی هستند که آن‌ها را از قضاوت انسانی که زمینه، عدم قطعیت و هیجانات را در نظر می‌گیرد، متمایز می‌کند. در نتیجه، اعتماد به سامانه‌های هوش مصنوعی به صورت یک رابطه غیرمستقیم و وابسته به کاربر شکل می‌گیرد و نه به عنوان یک ویژگی مستقل از فناوری. همزمان، افزایش سطوح خودکارسازی منجر به پخش مسئولیت و کاهش کنترل مستقیم بر فرایندهای تصمیم‌گیری می‌شود. یافته‌ها نشان می‌دهد که خودکارسازی کامل تصمیمات در سامانه‌های حساس به ایمنی... در نتیجه، اعتماد به سامانه‌های هوش مصنوعی به صورت یک رابطه غیرمستقیم و وابسته به کاربر شکل می‌گیرد و نه به عنوان یک ویژگی مستقل از فناوری.
This article examines the differences between human judgment and algorithmic decision-making in critical logistics systems, focusing on the implications for the concepts of trust and control. The aim of the study is to determine whether AI-based systems can perform functions equivalent to human judgment and what implications this has for operational safety and accountability in complex logistics systems. The study is based on an interdisciplinary analysis, including a review of the literature on artificial intelligence, system safety, and human factors research, as well as a philosophical analysis. This is supplemented by a case study of selected incidents related to the operation of automated systems in high-risk environments, which allows the identification of practical limitations in integrating humans and algorithmic systems. The results indicate that decisions generated by algorithmic systems are statistical and optimization-based, which distinguishes them from human judgment, which takes into account context, uncertainty, and emotions. Consequently, trust in AI systems takes the form of an indirect, user-dependent relationship rather than an autonomous property of the technology. At the same time, increasing levels of automation lead to a diffusion of responsibility and a reduction in direct control over decision-making processes. The findings indicate that full automation of decisions in critical safety systems. Consequently, trust in AI systems takes the form of an indirect, user-dependent relationship rather than an autonomous property of the technology.
این مقاله به بررسی تفاوت‌های میان قضاوت انسانی و تصمیم‌گیری الگوریتمی در سامانه‌های لجستیکی حساس به ایمنی می‌پردازد و پیامدهای آن را برای مفاهیم اعتماد و کنترل مورد تحلیل قرار می‌دهد. هدف این مطالعه تعیین این است که آیا سامانه‌های مبتنی بر هوش مصنوعی می‌توانند عملکردهایی معادل با قضاوت انسانی داشته باشند و این امر چه پیامدهایی برای ایمنی عملیاتی و پاسخگویی در سامانه‌های لجستیکی پیچیده دارد. این پژوهش مبتنی بر تحلیلی میان‌رشته‌ای است که شامل مرور ادبیات مرتبط با هوش مصنوعی، ایمنی سامانه و پژوهش‌های عوامل انسانی، همچنین تحلیل فلسفی می‌شود. این تحلیل با مطالعه موردی درباره برخی رخدادهای مرتبط با عملکرد سامانه‌های خودکار در محیط‌های پرخطر تکمیل شده است که امکان شناسایی محدودیت‌های عملی در یکپارچه‌سازی انسان و سامانه‌های الگوریتمی را فراهم می‌کند. نتایج نشان می‌دهد که تصمیمات تولیدشده توسط سامانه‌های الگوریتمی مبتنی بر آمار و بهینه‌سازی هستند که آن‌ها را از قضاوت انسانی که زمینه، عدم قطعیت و هیجانات را در نظر می‌گیرد، متمایز می‌کند. در نتیجه، اعتماد به سامانه‌های هوش مصنوعی به صورت یک رابطه غیرمستقیم و وابسته به کاربر شکل می‌گیرد و نه به عنوان یک ویژگی مستقل از فناوری. همزمان، افزایش سطوح خودکارسازی منجر به پخش مسئولیت و کاهش کنترل مستقیم بر فرایندهای تصمیم‌گیری می‌شود. یافته‌ها نشان می‌دهد که خودکارسازی کامل تصمیمات در سامانه‌های حساس به ایمنی... در نتیجه، اعتماد به سامانه‌های هوش مصنوعی به صورت یک رابطه غیرمستقیم و وابسته به کاربر شکل می‌گیرد و نه به عنوان یک ویژگی مستقل از فناوری.
