human oversight

Background: Workplace stress, anxiety, burnout and psychological distress are important concerns affecting employee well-being and organisational performance. The increasing use of artificial intelligence (AI) in digital mental health support offers opportunities for accessible and timely assistance, while raising concerns regarding privacy, informed consent, algorithmic bias, clinical safety, accountability and human oversight. This study aims to examine the potential role and responsible integration of AI-based psychiatric counselling for managing employee stress and supporting workplace mental health by 2030. Materials and Methods: A mixed-methods research design will be used, combining quantitative survey data with qualitative interviews. The quantitative component will include approximately 350–450 employees, while the qualitative component will involve approximately 25–35 interviews with HR professionals, organisational leaders, EAP professionals and mental health practitioners. Data will assess perceived stress, anxiety, burnout, psychological safety, trust, confidentiality, privacy concerns, AI counselling acceptance and willingness to use AI-based mental health support. Quantitative data will be analysed using descriptive statistics, reliability testing, correlation, regression, t-tests, ANOVA and appropriate mediation or moderation analyses. Qualitative data will be analysed thematically. Results: The study is expected to identify factors influencing employee acceptance and trust in AI-based psychiatric counselling and to examine the role of privacy, human oversight, psychological safety and organisational support in its responsible adoption. Conclusion: AI-based psychiatric counselling may serve as a supportive component of workplace mental health systems, particularly for early support, psychoeducation, self-help and triage. However, it should complement rather than replace qualified mental health professionals. Responsible implementation will require privacy safeguards, informed consent, clinical oversight, transparency, fairness, accountability and clear referral pathways.

زمینه: استرس محیط کار، اضطراب، فرسودگی شغلی و پریشانی روان‌شناختی از دغدغه‌های مهمی هستند که بهزیستی کارکنان و عملکرد سازمانی را تحت تأثیر قرار می‌دهند. افزایش استفاده از هوش مصنوعی (AI) در حمایت دیجیتال سلامت روان، فرصت‌هایی برای دسترسی و کمک به‌موقع فراهم می‌کند، در حالی که نگرانی‌هایی درباره حریم خصوصی، رضایت آگاهانه، سوگیری الگوریتمی، ایمنی بالینی، مسئولیت‌پذیری و نظارت انسانی ایجاد می‌کند. هدف این مطالعه بررسی نقش بالقوه و ادغام مسئولانه مشاوره روان‌پزشکی مبتنی بر هوش مصنوعی برای مدیریت استرس کارکنان و حمایت از سلامت روان محیط کار تا سال ۲۰۳۰ است. مواد و روش‌ها: از طرح پژوهشی آمیخته استفاده خواهد شد که داده‌های پیمایش کمی را با مصاحبه‌های کیفی ترکیب می‌کند. بخش کمی شامل حدود ۳۵۰ تا ۴۵۰ نفر از کارکنان خواهد بود و بخش کیفی شامل حدود ۲۵ تا ۳۵ مصاحبه با متخصصان منابع انسانی، رهبران سازمانی، متخصصان EAP و درمانگران سلامت روان خواهد بود. داده‌ها میزان استرس ادراک‌شده، اضطراب، فرسودگی شغلی، ایمنی روان‌شناختی، اعتماد، محرمانگی، نگرانی‌های مربوط به حریم خصوصی، پذیرش مشاوره مبتنی بر هوش مصنوعی و تمایل به استفاده از حمایت سلامت روان مبتنی بر هوش مصنوعی را ارزیابی خواهند کرد. داده‌های کمی با استفاده از آمار توصیفی، آزمون پایایی، همبستگی، رگرسیون، آزمون t، ANOVA و تحلیل‌های میانجی‌گری یا تعدیل‌گری مناسب تحلیل می‌شوند. داده‌های کیفی به صورت مضمون‌محور تحلیل خواهند شد. نتایج: انتظار می‌رود مطالعه عوامل مؤثر بر پذیرش و اعتماد کارکنان به مشاوره روان‌پزشکی مبتنی بر هوش مصنوعی را شناسایی کند و نقش حریم خصوصی، نظارت انسانی، ایمنی روان‌شناختی و حمایت سازمانی را در پذیرش مسئولانه آن بررسی نماید. نتیجه‌گیری: مشاوره روان‌پزشکی مبتنی بر هوش مصنوعی می‌تواند به عنوان بخشی حمایتی از نظام‌های سلامت روان محیط کار، به ویژه برای حمایت اولیه، آموزش روانی، خودیاری و ارجاع اولیه مورد استفاده قرار گیرد. با این حال، باید مکمل و نه جایگزین متخصصان واجد شرایط سلامت روان باشد. اجرای مسئولانه نیازمند تضمین‌های حریم خصوصی، رضایت آگاهانه، نظارت بالینی، شفافیت، انصاف، مسئولیت‌پذیری و مسیرهای ارجاع روشن خواهد بود.

Abstract As autonomous systems become increasingly capable, the deployment of Human‐Multi‐Agent Teams (HMATs) offers immense potential for executing complex, decentralized tasks. However, realizing this potential is constrained by a critical bottleneck: the cognitive and supervisory capacity of the human operator. While foundational fan‐out models established crucial groundwork for predicting this capacity, they are structurally limited to sequential, one‐to‐one interactions and rely on ambiguous variables that often produce overly optimistic predictions in real‐world environments. This article synthesizes a multi‐year empirical research program to present a comprehensive, new framework for modeling human‐autonomy scalability. First, we deconstruct the variables of legacy models into human and robot elements, demonstrating that true scalability is a relational property driven by human‐robot alignment rather than raw machine autonomy. We then validate the necessity of a mathematically bounded architecture to ensure predictive stability under operational uncertainty. Finally, we extend this framework to mathematically capture the paradigm shift toward group‐based, one‐to‐many teaming. By analyzing the results of a complex, multi‐agent simulation, we reveal the fundamental, quantifiable trade‐off between increasing team scale and maintaining human oversight, providing AI system designers with a validated blueprint for optimizing the next generation of human‐autonomy teams.

چکیده: با افزایش توانمندی سامانه‌های خودمختار، به‌کارگیری تیم‌های انسان-چندعامل (HMATs) ظرفیت چشمگیری برای اجرای وظایف پیچیده و غیرمتمرکز فراهم می‌کند. با این حال، تحقق این ظرفیت با یک گلوگاه اساسی محدود می‌شود: ظرفیت شناختی و نظارتی اپراتور انسانی. اگرچه مدل‌های بنیادین fan-out زیرساخت مهمی برای پیش‌بینی این ظرفیت فراهم کرده‌اند، اما این مدل‌ها به‌طور ساختاری به تعاملات متوالی و یک‌به‌یک محدود هستند و به متغیرهای مبهمی متکی‌اند که اغلب منجر به پیش‌بینی‌های بیش از حد خوش‌بینانه در محیط‌های واقعی می‌شوند. این مقاله با تلفیق یک برنامه پژوهشی تجربی چندساله، چارچوبی جامع و نوین برای مدل‌سازی مقیاس‌پذیری انسان-خودمختاری ارائه می‌دهد. نخست، متغیرهای مدل‌های پیشین به عناصر انسانی و رباتیکی تجزیه می‌شوند و نشان داده می‌شود که مقیاس‌پذیری واقعی یک ویژگی رابطه‌ای است که توسط هم‌راستایی انسان-ربات هدایت می‌شود و نه صرفاً خودمختاری ماشین. سپس، ضرورت وجود معماری با مرزهای ریاضی برای تضمین پایداری پیش‌بینی در شرایط عدم قطعیت عملیاتی اعتبارسنجی می‌شود. در نهایت، این چارچوب برای مدل‌سازی ریاضی تغییر پارادایم به سوی تیم‌سازی گروهی و یک‌به‌چند گسترش می‌یابد. با تحلیل نتایج یک شبیه‌سازی پیچیده چندعامله، مبادله اساسی و قابل سنجش میان افزایش مقیاس تیم و حفظ نظارت انسانی آشکار می‌شود و الگویی معتبر برای بهینه‌سازی نسل آینده تیم‌های انسان-خودمختاری در اختیار طراحان سامانه‌های هوش مصنوعی قرار می‌گیرد.

Artificial intelligence (AI)-assisted digital mental health interventions are being increasingly discussed as a potential strategy for improving access to psychological support among adolescents with anxiety symptoms and anxiety disorders. Their possible advantages include flexible availability, reduced barriers to help-seeking, psychoeducation, symptom monitoring, CBT-informed exercises, conversational interaction, and personalized feedback. However, their clinical role remains insufficiently defined, particularly regarding efficacy, safety, ethical governance, and the distinction between digital support and psychotherapy in the traditional clinical sense. This narrative review examines current evidence and conceptual debates regarding AI-assisted digital interventions relevant to adolescent anxiety disorders, with a focus on usability, acceptability, preliminary efficacy, safety, ethical and legal considerations, and human clinical oversight. Available literature suggests that conversational agents and CBT-informed digital tools may provide low-threshold support and may reduce the symptoms of anxiety, depression, or general emotional distress in some users. Nevertheless, existing evidence remains heterogeneous and preliminary, often relying on young adult, mixed-age, non-clinical, or transdiagnostic samples, short follow-up periods, and self-report outcomes. Direct evidence for AI-assisted interventions specifically in adolescents with formally diagnosed anxiety disorders remains limited, and findings from broader youth, young adult, mixed-age, or transdiagnostic samples should not be directly generalized to this clinical population. It should not be considered a replacement for therapist-delivered psychotherapy, clinical assessment, or specialist child and adolescent mental health care. Their most appropriate current role is as adjunctive or supportive tools within supervised, stepped-care, or blended-care models. Future research should include adolescent-specific clinical trials, anxiety-focused outcomes, longer follow-up, systematic safety reporting, and clear evaluation of human oversight models. AI-assisted digital interventions may help reduce parts of the adolescent mental health treatment gap; however, their use must remain evidence-informed, developmentally sensitive, ethically regulated, and clinically supervised.

مداخلات سلامت روان دیجیتال با کمک هوش مصنوعی (AI) به طور فزاینده‌ای به عنوان راهبردی بالقوه برای بهبود دسترسی نوجوانان دارای علائم اضطراب و اختلالات اضطرابی به حمایت روان‌شناختی مورد بحث قرار گرفته‌اند. مزایای احتمالی این مداخلات شامل دسترسی انعطاف‌پذیر، کاهش موانع جستجوی کمک، آموزش روانی، پایش علائم، تمرینات مبتنی بر درمان شناختی-رفتاری (CBT)، تعامل مکالمه‌ای و بازخورد شخصی‌سازی‌شده است. با این حال، نقش بالینی آن‌ها همچنان به طور کافی تعریف نشده است، به ویژه در زمینه اثربخشی، ایمنی، حاکمیت اخلاقی و تمایز میان حمایت دیجیتال و روان‌درمانی به معنای بالینی سنتی. این مرور روایتی به بررسی شواهد موجود و مباحث مفهومی پیرامون مداخلات دیجیتال با کمک هوش مصنوعی مرتبط با اختلالات اضطرابی نوجوانان می‌پردازد، با تمرکز بر قابلیت استفاده، پذیرش، اثربخشی مقدماتی، ایمنی، ملاحظات اخلاقی و حقوقی و نظارت بالینی انسانی. ادبیات موجود نشان می‌دهد که عامل‌های مکالمه‌ای و ابزارهای دیجیتال مبتنی بر درمان شناختی-رفتاری (CBT) ممکن است حمایت با آستانه پایین فراهم کنند و علائم اضطراب، افسردگی یا پریشانی هیجانی کلی را در برخی کاربران کاهش دهند. با این حال، شواهد موجود ناهمگون و مقدماتی باقی مانده و اغلب بر نمونه‌های بزرگسال جوان، گروه‌های سنی مختلط، نمونه‌های غیر بالینی یا فراتشخیصی، دوره‌های پیگیری کوتاه و نتایج خودگزارشی متکی است. شواهد مستقیم برای مداخلات با کمک هوش مصنوعی به طور خاص در نوجوانان با اختلالات اضطرابی تشخیص‌گذاری‌شده به طور رسمی محدود است و یافته‌های حاصل از نمونه‌های وسیع‌تر جوانان، بزرگسالان جوان، گروه‌های سنی مختلط یا فراتشخیصی نباید مستقیماً به این جمعیت بالینی تعمیم داده شود. این مداخلات نباید جایگزین روان‌درمانی ارائه‌شده توسط درمانگر، ارزیابی بالینی یا مراقبت تخصصی سلامت روان کودک و نوجوان تلقی شود. مناسب‌ترین نقش فعلی آن‌ها به عنوان ابزارهای کمکی یا حمایتی در چارچوب مدل‌های مراقبت پله‌ای، تلفیقی یا تحت نظارت است. پژوهش‌های آینده باید شامل کارآزمایی‌های بالینی ویژه نوجوانان، نتایج متمرکز بر اضطراب، پیگیری طولانی‌تر، گزارش‌دهی نظام‌مند ایمنی و ارزیابی شفاف مدل‌های نظارت انسانی باشد. مداخلات دیجیتال با کمک هوش مصنوعی ممکن است به کاهش بخشی از فاصله درمان سلامت روان نوجوانان کمک کند؛ با این حال، استفاده از آن‌ها باید مبتنی بر شواهد، حساس به رشد، تحت نظارت اخلاقی و با نظارت بالینی باقی بماند.

Generative artificial intelligence (GenAI), including large language models and large multimodal models, is increasingly used to support psychological assessment and digital mental health measurement. This review proposes a lifecycle framework for evaluating these uses without weakening psychometric standards. The framework covers construct definition; item, prompt, indicator, or signal generation; evaluation of content, response processes, usability, and data quality; piloting and calibration; validation; fairness and measurement invariance; scoring and interpretation; documentation; and post-deployment monitoring. We argue that digital traces from smartphones, chatbots, ecological momentary assessment, wearables, social media, clinical notes, and multimodal systems should not be treated as psychometric measures by default. They should remain raw data, candidate indicators, or algorithmic scores until their construct interpretation and intended use are theoretically specified, technically verified, empirically calibrated, and validated with human data. GenAI may help generate candidate items, refine wording, classify open-text responses, extract structured information, support multimodal integration, and assist scoring under explicit rules. These uses may improve efficiency and scale, but they do not establish validity, objectivity, fairness, or clinical meaning. We distinguish two complementary facets: GenAI for psychometrics, in which models support measurement development and scoring, and psychometrics for GenAI, in which psychometric methods evaluate model behavior when LLMs are part of measurement workflows. Key risks include construct drift, face validity without structural validity, compressed variability in synthetic respondents, algorithmic bias, lack of invariance, prompt sensitivity, model drift, automation bias, data-security and privacy failures, and loss of subjectivity and disagreement. Responsible use requires human oversight, transparent reporting, validation with human data, fairness evaluation, secure data governance, and continuous monitoring. GenAI should augment, not replace, psychometric science.

هوش مصنوعی مولد (GenAI)، شامل مدل‌های زبانی بزرگ و مدل‌های چندوجهی بزرگ، به طور فزاینده‌ای برای پشتیبانی از ارزیابی روان‌شناختی و سنجش سلامت روان دیجیتال مورد استفاده قرار می‌گیرد. این مرور، چارچوبی مبتنی بر چرخه عمر را برای ارزیابی این کاربردها بدون تضعیف استانداردهای روان‌سنجی پیشنهاد می‌کند. این چارچوب شامل تعریف سازه؛ تولید ماده، محرک، شاخص یا سیگنال؛ ارزیابی محتوا، فرآیندهای پاسخ‌دهی، قابلیت استفاده و کیفیت داده؛ اجرای آزمایشی و کالیبراسیون؛ روایی؛ انصاف و ناوریانس سنجش؛ نمره‌گذاری و تفسیر؛ مستندسازی؛ و پایش پس از استقرار است. ما استدلال می‌کنیم که ردپاهای دیجیتال از تلفن‌های هوشمند، چت‌بات‌ها، ارزیابی لحظه‌ای بوم‌شناختی، پوشیدنی‌ها، شبکه‌های اجتماعی، یادداشت‌های بالینی و سامانه‌های چندوجهی نباید به طور پیش‌فرض به عنوان مقیاس‌های روان‌سنجی تلقی شوند. آن‌ها باید تا زمانی که تفسیر سازه‌ای و کاربرد مورد نظرشان به طور نظری مشخص، به لحاظ فنی تأیید، به طور تجربی کالیبره و با داده انسانی روایی‌یابی نشده‌اند، به عنوان داده خام، شاخص‌های پیشنهادی یا نمرات الگوریتمی باقی بمانند. GenAI می‌تواند در تولید مواد پیشنهادی، اصلاح واژگان، طبقه‌بندی پاسخ‌های متنی باز، استخراج اطلاعات ساختاریافته، پشتیبانی از ادغام چندوجهی و کمک به نمره‌گذاری بر اساس قواعد صریح نقش‌آفرینی کند. این کاربردها ممکن است کارایی و مقیاس را بهبود بخشند، اما روایی، عینیت، انصاف یا معنای بالینی را تضمین نمی‌کنند. ما دو جنبه مکمل را متمایز می‌کنیم: GenAI برای روان‌سنجی، که در آن مدل‌ها از توسعه سنجش و نمره‌گذاری پشتیبانی می‌کنند، و روان‌سنجی برای GenAI، که در آن روش‌های روان‌سنجی رفتار مدل را زمانی که LLMها بخشی از جریان‌های کاری سنجش هستند، ارزیابی می‌کنند. مخاطرات کلیدی شامل رانش سازه، روایی صوری بدون روایی ساختاری، کاهش تنوع در پاسخ‌دهندگان مصنوعی، سوگیری الگوریتمی، فقدان ناوریانس، حساسیت به محرک، رانش مدل، سوگیری اتوماسیون، شکست‌های امنیت و حریم خصوصی داده و از دست رفتن ذهنیت و اختلاف نظر است. استفاده مسئولانه مستلزم نظارت انسانی، گزارش‌دهی شفاف، روایی‌یابی با داده انسانی، ارزیابی انصاف، حاکمیت امن داده و پایش مستمر است. GenAI باید مکمل علم روان‌سنجی باشد، نه جایگزین آن.