trust in AI

This article examines the differences between human judgment and algorithmic decision-making in critical logistics systems, focusing on the implications for the concepts of trust and control. The aim of the study is to determine whether AI-based systems can perform functions equivalent to human judgment and what implications this has for operational safety and accountability in complex logistics systems. The study is based on an interdisciplinary analysis, including a review of the literature on artificial intelligence, system safety, and human factors research, as well as a philosophical analysis. This is supplemented by a case study of selected incidents related to the operation of automated systems in high-risk environments, which allows the identification of practical limitations in integrating humans and algorithmic systems. The results indicate that decisions generated by algorithmic systems are statistical and optimization-based, which distinguishes them from human judgment, which takes into account context, uncertainty, and emotions. Consequently, trust in AI systems takes the form of an indirect, user-dependent relationship rather than an autonomous property of the technology. At the same time, increasing levels of automation lead to a diffusion of responsibility and a reduction in direct control over decision-making processes. The findings indicate that full automation of decisions in critical safety systems. Consequently, trust in AI systems takes the form of an indirect, user-dependent relationship rather than an autonomous property of the technology.

این مقاله به بررسی تفاوت‌های میان قضاوت انسانی و تصمیم‌گیری الگوریتمی در سامانه‌های لجستیکی حساس به ایمنی می‌پردازد و پیامدهای آن را برای مفاهیم اعتماد و کنترل مورد تحلیل قرار می‌دهد. هدف این مطالعه تعیین این است که آیا سامانه‌های مبتنی بر هوش مصنوعی می‌توانند عملکردهایی معادل با قضاوت انسانی داشته باشند و این امر چه پیامدهایی برای ایمنی عملیاتی و پاسخگویی در سامانه‌های لجستیکی پیچیده دارد. این پژوهش مبتنی بر تحلیلی میان‌رشته‌ای است که شامل مرور ادبیات مرتبط با هوش مصنوعی، ایمنی سامانه و پژوهش‌های عوامل انسانی، همچنین تحلیل فلسفی می‌شود. این تحلیل با مطالعه موردی درباره برخی رخدادهای مرتبط با عملکرد سامانه‌های خودکار در محیط‌های پرخطر تکمیل شده است که امکان شناسایی محدودیت‌های عملی در یکپارچه‌سازی انسان و سامانه‌های الگوریتمی را فراهم می‌کند. نتایج نشان می‌دهد که تصمیمات تولیدشده توسط سامانه‌های الگوریتمی مبتنی بر آمار و بهینه‌سازی هستند که آن‌ها را از قضاوت انسانی که زمینه، عدم قطعیت و هیجانات را در نظر می‌گیرد، متمایز می‌کند. در نتیجه، اعتماد به سامانه‌های هوش مصنوعی به صورت یک رابطه غیرمستقیم و وابسته به کاربر شکل می‌گیرد و نه به عنوان یک ویژگی مستقل از فناوری. همزمان، افزایش سطوح خودکارسازی منجر به پخش مسئولیت و کاهش کنترل مستقیم بر فرایندهای تصمیم‌گیری می‌شود. یافته‌ها نشان می‌دهد که خودکارسازی کامل تصمیمات در سامانه‌های حساس به ایمنی... در نتیجه، اعتماد به سامانه‌های هوش مصنوعی به صورت یک رابطه غیرمستقیم و وابسته به کاربر شکل می‌گیرد و نه به عنوان یک ویژگی مستقل از فناوری.

This article examines the differences between human judgment and algorithmic decision-making in critical logistics systems, focusing on the implications for the concepts of trust and control. The aim of the study is to determine whether AI-based systems can perform functions equivalent to human judgment and what implications this has for operational safety and accountability in complex logistics systems. The study is based on an interdisciplinary analysis, including a review of the literature on artificial intelligence, system safety, and human factors research, as well as a philosophical analysis. This is supplemented by a case study of selected incidents related to the operation of automated systems in high-risk environments, which allows the identification of practical limitations in integrating humans and algorithmic systems. The results indicate that decisions generated by algorithmic systems are statistical and optimization-based, which distinguishes them from human judgment, which takes into account context, uncertainty, and emotions. Consequently, trust in AI systems takes the form of an indirect, user-dependent relationship rather than an autonomous property of the technology. At the same time, increasing levels of automation lead to a diffusion of responsibility and a reduction in direct control over decision-making processes. The findings indicate that full automation of decisions in critical safety systems. Consequently, trust in AI systems takes the form of an indirect, user-dependent relationship rather than an autonomous property of the technology.

این مقاله به بررسی تفاوت‌های میان قضاوت انسانی و تصمیم‌گیری الگوریتمی در سامانه‌های لجستیکی حساس به ایمنی می‌پردازد و پیامدهای آن را برای مفاهیم اعتماد و کنترل مورد تحلیل قرار می‌دهد. هدف این مطالعه تعیین این است که آیا سامانه‌های مبتنی بر هوش مصنوعی می‌توانند عملکردهایی معادل با قضاوت انسانی داشته باشند و این امر چه پیامدهایی برای ایمنی عملیاتی و پاسخگویی در سامانه‌های لجستیکی پیچیده دارد. این پژوهش مبتنی بر تحلیلی میان‌رشته‌ای است که شامل مرور ادبیات مرتبط با هوش مصنوعی، ایمنی سامانه و پژوهش‌های عوامل انسانی، همچنین تحلیل فلسفی می‌شود. این تحلیل با مطالعه موردی درباره برخی رخدادهای مرتبط با عملکرد سامانه‌های خودکار در محیط‌های پرخطر تکمیل شده است که امکان شناسایی محدودیت‌های عملی در یکپارچه‌سازی انسان و سامانه‌های الگوریتمی را فراهم می‌کند. نتایج نشان می‌دهد که تصمیمات تولیدشده توسط سامانه‌های الگوریتمی مبتنی بر آمار و بهینه‌سازی هستند که آن‌ها را از قضاوت انسانی که زمینه، عدم قطعیت و هیجانات را در نظر می‌گیرد، متمایز می‌کند. در نتیجه، اعتماد به سامانه‌های هوش مصنوعی به صورت یک رابطه غیرمستقیم و وابسته به کاربر شکل می‌گیرد و نه به عنوان یک ویژگی مستقل از فناوری. همزمان، افزایش سطوح خودکارسازی منجر به پخش مسئولیت و کاهش کنترل مستقیم بر فرایندهای تصمیم‌گیری می‌شود. یافته‌ها نشان می‌دهد که خودکارسازی کامل تصمیمات در سامانه‌های حساس به ایمنی... در نتیجه، اعتماد به سامانه‌های هوش مصنوعی به صورت یک رابطه غیرمستقیم و وابسته به کاربر شکل می‌گیرد و نه به عنوان یک ویژگی مستقل از فناوری.

Background: Fresh graduates face an increasingly difficult school-to-work transition, while artificial intelligence (AI) has become a routine study and job-search companion; yet how the intention to use AI translates into employability, and through which mechanisms, remains unclear. Objective: Grounded in Social Cognitive Theory, this study tests whether behavioral intention to use AI is associated with self-perceived graduate employability directly and indirectly through career adaptability and job search self-efficacy, and whether AI self-efficacy and AI trust moderate these paths. Methods: A cross-sectional online survey of 612 Indonesian fresh graduates who use AI for career preparation was analyzed with partial least squares structural equation modeling (PLS-SEM). Results: AI use intention positively predicted career adaptability (β = 0.305) and job search self-efficacy (β = 0.249), and both resources predicted self-perceived employability. The indirect paths through both resources were significant, and a direct effect of AI use intention on employability remained, indicating partial mediation. AI self-efficacy and AI trust showed significant main effects on their resources, while the interaction-related indirect effects were not significant. Conclusion: AI use intention is associated with self-perceived employability through career adaptability and job search self-efficacy. The cross-sectional findings do not establish causality. Educational institutions and career-service units may use these findings to inform structured AI-supported occupational exploration, skills-gap analysis, résumé refinement, and interview rehearsal, while encouraging critical verification of AI outputs.

As AI tools permeate scientific research, a critical question emerges: does better AI actually make researchers happier? Grounded in the Job Demands-Resources (JD-R) model, this study proposes and tests a dual-path moderated mediation framework in which perceived AI service quality influences researcher work well-being through two parallel psychological routes. The motivational gain pathway posits that higher quality is positively related to research self-efficacy, while the loss-alleviation pathway posits that higher quality is negatively related to cognitive verification load. AI trust is introduced as a moderator of both first-stage paths. Using data from 439 researchers and PROCESS macro models 4 and 7, we found that AI service quality did not directly affect well-being ( β = 0.07, p = 0.260), but exerted a fully mediated total effect. The loss pathway via cognitive verification load reduction was the sole significant mediating mechanism (indirect effect = 0.08, 95% CI [0.028, 0.135]). AI trust significantly moderated only the loss pathway ( β = −0.21, p < 0.001): the cognitive-relief effect became significant only at medium and high trust levels, remaining inoperative for low-trust researchers. These findings reframe the value of AI quality in research settings as cognitive offloading rather than competence enhancement, and position trust as a threshold condition rather than a continuous amplifier of AI benefits.

با نفوذ ابزارهای هوش مصنوعی در پژوهش علمی، این پرسش اساسی مطرح می‌شود که آیا هوش مصنوعی بهتر واقعاً پژوهشگران را خوشحال‌تر می‌کند؟ این مطالعه با تکیه بر مدل منابع-تقاضاهای شغلی (JD-R)، چارچوبی از میانجی‌گری دو‌مسیره با تعدیل‌کننده را پیشنهاد و آزمون می‌کند که در آن کیفیت ادراک‌شده خدمات هوش مصنوعی از طریق دو مسیر روان‌شناختی موازی بر بهزیستی شغلی پژوهشگران تأثیر می‌گذارد. مسیر انگیزشی بر این فرض استوار است که کیفیت بالاتر با خودکارآمدی پژوهشی رابطه مثبت دارد، در حالی که مسیر کاهش زیان بر این فرض استوار است که کیفیت بالاتر با بار شناختی تأیید رابطه منفی دارد. اعتماد به هوش مصنوعی به عنوان تعدیل‌کننده هر دو مسیر مرحله اول وارد مدل شده است. با استفاده از داده‌های ۴۳۹ پژوهشگر و مدل‌های ۴ و ۷ ماکروی PROCESS، یافته‌ها نشان داد که کیفیت خدمات هوش مصنوعی به طور مستقیم بر بهزیستی تأثیر نداشت (β = 0.07, p = 0.260)، اما اثر کلی کاملاً به واسطه متغیرهای میانجی منتقل شد. مسیر کاهش زیان از طریق کاهش بار شناختی تأیید تنها سازوکار میانجی‌گری معنادار بود (اثر غیرمستقیم = 0.08, 95% CI [0.028, 0.135]). اعتماد به هوش مصنوعی فقط مسیر کاهش زیان را به طور معنادار تعدیل کرد (β = −0.21, p < 0.001): اثر تسکین شناختی فقط در سطوح متوسط و بالا از اعتماد معنادار شد و برای پژوهشگران با اعتماد پایین فعال نبود. این یافته‌ها ارزش کیفیت هوش مصنوعی را در محیط‌های پژوهشی به عنوان کاهش بار شناختی و نه ارتقای شایستگی بازتعریف می‌کند و اعتماد را به عنوان یک شرط آستانه‌ای و نه تقویت‌کننده پیوسته منافع هوش مصنوعی معرفی می‌نماید.

Background: Workplace stress, anxiety, burnout and psychological distress are important concerns affecting employee well-being and organisational performance. The increasing use of artificial intelligence (AI) in digital mental health support offers opportunities for accessible and timely assistance, while raising concerns regarding privacy, informed consent, algorithmic bias, clinical safety, accountability and human oversight. This study aims to examine the potential role and responsible integration of AI-based psychiatric counselling for managing employee stress and supporting workplace mental health by 2030. Materials and Methods: A mixed-methods research design will be used, combining quantitative survey data with qualitative interviews. The quantitative component will include approximately 350–450 employees, while the qualitative component will involve approximately 25–35 interviews with HR professionals, organisational leaders, EAP professionals and mental health practitioners. Data will assess perceived stress, anxiety, burnout, psychological safety, trust, confidentiality, privacy concerns, AI counselling acceptance and willingness to use AI-based mental health support. Quantitative data will be analysed using descriptive statistics, reliability testing, correlation, regression, t-tests, ANOVA and appropriate mediation or moderation analyses. Qualitative data will be analysed thematically. Results: The study is expected to identify factors influencing employee acceptance and trust in AI-based psychiatric counselling and to examine the role of privacy, human oversight, psychological safety and organisational support in its responsible adoption. Conclusion: AI-based psychiatric counselling may serve as a supportive component of workplace mental health systems, particularly for early support, psychoeducation, self-help and triage. However, it should complement rather than replace qualified mental health professionals. Responsible implementation will require privacy safeguards, informed consent, clinical oversight, transparency, fairness, accountability and clear referral pathways.

زمینه: استرس محیط کار، اضطراب، فرسودگی شغلی و پریشانی روان‌شناختی از دغدغه‌های مهمی هستند که بهزیستی کارکنان و عملکرد سازمانی را تحت تأثیر قرار می‌دهند. افزایش استفاده از هوش مصنوعی (AI) در حمایت دیجیتال سلامت روان، فرصت‌هایی برای دسترسی و کمک به‌موقع فراهم می‌کند، در حالی که نگرانی‌هایی درباره حریم خصوصی، رضایت آگاهانه، سوگیری الگوریتمی، ایمنی بالینی، مسئولیت‌پذیری و نظارت انسانی ایجاد می‌کند. هدف این مطالعه بررسی نقش بالقوه و ادغام مسئولانه مشاوره روان‌پزشکی مبتنی بر هوش مصنوعی برای مدیریت استرس کارکنان و حمایت از سلامت روان محیط کار تا سال ۲۰۳۰ است. مواد و روش‌ها: از طرح پژوهشی آمیخته استفاده خواهد شد که داده‌های پیمایش کمی را با مصاحبه‌های کیفی ترکیب می‌کند. بخش کمی شامل حدود ۳۵۰ تا ۴۵۰ نفر از کارکنان خواهد بود و بخش کیفی شامل حدود ۲۵ تا ۳۵ مصاحبه با متخصصان منابع انسانی، رهبران سازمانی، متخصصان EAP و درمانگران سلامت روان خواهد بود. داده‌ها میزان استرس ادراک‌شده، اضطراب، فرسودگی شغلی، ایمنی روان‌شناختی، اعتماد، محرمانگی، نگرانی‌های مربوط به حریم خصوصی، پذیرش مشاوره مبتنی بر هوش مصنوعی و تمایل به استفاده از حمایت سلامت روان مبتنی بر هوش مصنوعی را ارزیابی خواهند کرد. داده‌های کمی با استفاده از آمار توصیفی، آزمون پایایی، همبستگی، رگرسیون، آزمون t، ANOVA و تحلیل‌های میانجی‌گری یا تعدیل‌گری مناسب تحلیل می‌شوند. داده‌های کیفی به صورت مضمون‌محور تحلیل خواهند شد. نتایج: انتظار می‌رود مطالعه عوامل مؤثر بر پذیرش و اعتماد کارکنان به مشاوره روان‌پزشکی مبتنی بر هوش مصنوعی را شناسایی کند و نقش حریم خصوصی، نظارت انسانی، ایمنی روان‌شناختی و حمایت سازمانی را در پذیرش مسئولانه آن بررسی نماید. نتیجه‌گیری: مشاوره روان‌پزشکی مبتنی بر هوش مصنوعی می‌تواند به عنوان بخشی حمایتی از نظام‌های سلامت روان محیط کار، به ویژه برای حمایت اولیه، آموزش روانی، خودیاری و ارجاع اولیه مورد استفاده قرار گیرد. با این حال، باید مکمل و نه جایگزین متخصصان واجد شرایط سلامت روان باشد. اجرای مسئولانه نیازمند تضمین‌های حریم خصوصی، رضایت آگاهانه، نظارت بالینی، شفافیت، انصاف، مسئولیت‌پذیری و مسیرهای ارجاع روشن خواهد بود.

Introduction Generative artificial intelligence (GenAI) is increasingly used by students to obtain explanations, generate ideas, improve written responses and prepare assessment tasks. However, limited evidence exists on how students in open-distance alternative-access programmes experience GenAI in mathematics assessment. Methods This qualitative study examined how 27 Higher Certificate students at a South African open and distance learning institution described the role, benefits and limitations of GenAI while preparing fraction-related portfolio activities. Data were collected via a single open-ended questionnaire item, completed voluntarily after all assessment activities had been submitted. The responses were analysed using reflexive thematic analysis. Results Four overlapping themes were identified: support for understanding and approaching tasks, support for constructing written responses, conditional trust and evaluative engagement, and non-use, resistance and ambiguous engagement. Students reported that GenAI assisted with clarification, examples, organisation, and language, but they also described outputs they perceived as inaccurate, overly general, or insufficiently explained. Ten participants expressed concerns about reliability or described checking, adapting, limiting or rejecting GenAI use, although the study did not verify the quality of these practices. Discussion The findings suggest that the educational value of GenAI is shaped by students' capacity to exercise judgement and retain responsibility for the reasoning represented in their work. Verification is therefore positioned as a potentially important epistemic practice in GenAI-supported mathematics assessment. The study recommends explicit discipline-specific guidance and assessment designs that make students' mathematical reasoning visible.

مقدمه: هوش مصنوعی مولد (GenAI) به طور فزاینده‌ای توسط دانشجویان برای دریافت توضیحات، تولید ایده‌ها، بهبود پاسخ‌های نوشتاری و آماده‌سازی وظایف ارزیابی مورد استفاده قرار می‌گیرد. با این حال، شواهد محدودی درباره تجربه دانشجویان در برنامه‌های دسترسی جایگزین آموزش باز و از راه دور در زمینه استفاده از GenAI در ارزیابی ریاضی وجود دارد. روش‌ها: این مطالعه کیفی به بررسی نحوه توصیف نقش، مزایا و محدودیت‌های GenAI توسط ۲۷ دانشجوی Higher Certificate در یک مؤسسه آموزش باز و از راه دور در آفریقای جنوبی هنگام آماده‌سازی فعالیت‌های پرتفوی مرتبط با کسرها پرداخت. داده‌ها از طریق یک سؤال بازپاسخ در پرسشنامه که به صورت داوطلبانه پس از اتمام تمامی فعالیت‌های ارزیابی تکمیل شد، جمع‌آوری گردید. پاسخ‌ها با استفاده از تحلیل تماتیک بازتابی مورد بررسی قرار گرفتند. نتایج: چهار تم همپوشان شناسایی شد: حمایت برای درک و رویکرد به وظایف، حمایت در ساخت پاسخ‌های نوشتاری، اعتماد مشروط و مشارکت ارزیابانه، و عدم استفاده، مقاومت و مشارکت مبهم. دانشجویان گزارش دادند که GenAI در زمینه شفاف‌سازی، ارائه مثال، سازماندهی و زبان کمک‌کننده بوده است، اما همچنین خروجی‌هایی را توصیف کردند که آن‌ها را نادرست، بیش از حد کلی یا فاقد توضیح کافی می‌دانستند. ده نفر از شرکت‌کنندگان نگرانی‌هایی درباره پایایی ابراز کردند یا به بررسی، تطبیق، محدودسازی یا رد استفاده از GenAI اشاره نمودند، اگرچه این مطالعه کیفیت این اقدامات را تأیید نکرد. بحث: یافته‌ها نشان می‌دهد که ارزش آموزشی GenAI توسط توانایی دانشجویان در اعمال قضاوت و حفظ مسئولیت نسبت به استدلال ارائه‌شده در کارشان شکل می‌گیرد. بنابراین، راستی‌آزمایی به عنوان یک عمل معرفتی بالقوه مهم در ارزیابی ریاضی با حمایت GenAI مطرح می‌شود. مطالعه حاضر راهنمایی صریح و خاص رشته و طراحی ارزیابی‌هایی که استدلال ریاضی دانشجویان را آشکار می‌سازد، توصیه می‌کند.