conversational AI

Mental health systems face a persistent gap in accessible, continuous, and person-centred support. Conversational AI can expand access to psychoeducation, emotional check-ins, self-management, and service navigation, but may also introduce risks of digital exclusion, cultural mismatch, privacy concerns, unsafe advice, and overreliance on automation. This paper develops a conceptual framework integrating Orange Technology, which promotes emotional wellbeing, cultural sensitivity, social connectedness, and resilience, with empathetic AI for mental health support. An integrative literature review examined peer-reviewed systematic reviews and WHO and UN guidance published from 2021 to 2026. Evidence suggests that conversational AI can improve depression, distress, anxiety, and engagement, although effects are heterogeneous and may decline over time. Personalization and empathic interaction may enhance engagement, while the framework's effects on community resilience, cultural sensitivity, and community resource integration require further empirical validation. The framework therefore positions AI as a supportive, human-in-the-loop layer rather than a replacement for clinicians, families, peers, or communities. It connects emotional sensing, empathetic dialogue, personalized support, escalation pathways, community connection, inclusive access, and governance, while aligning mental health innovation with SDG 3, 9, and 17.

Mental health conditions have become one of the most urgent public health challenges worldwide, affecting nearly one billion people and creating substantial social and economic burdens. Despite increasing demand for psychological services, barriers such as financial costs, shortages of mental health professionals, geographical inequalities, and social stigma prevent many individuals from receiving timely support. This paper examines the biological, psychological, and environmental factors contributing to mental disorders and evaluates the potential role of artificial intelligence (AI) conversational models in mental health support. It argues that AI cannot replace licensed clinicians but can serve as a complementary tool by improving accessibility, providing continuous communication, offering privacy, and delivering personalized psychoeducation. Particular attention is given to autism spectrum disorder (ASD), where AI's predictable communication style may support communication practice and reduce social pressure. The paper also discusses AI-assisted interventions based on cognitive behavioral therapy (CBT) and examines ethical challenges, including privacy, algorithmic bias, and clinical responsibility. Overall, responsible cooperation between AI technologies and healthcare professionals may improve the accessibility and effectiveness of future mental healthcare.

As conversational artificial intelligence models become ubiquitous fixtures in professional and personal workflows, the nature of human-tool interaction has the potential to gradually shift from mechanical utility to parasocial dependency. While existing literature frequently addresses adverse events related to data privacy, algorithmic bias, and intellectual deskilling, the pathopsychological sequelae of sustained AI integration remain largely unexamined. Here, we describe and preliminarily characterize the AI Assistant Syndrome, a human psychiatric construct encompassing acute chatbot-induced anxiety and mental exhaustion. This preliminary description will guide future systematic investigations to recognize, prevent, and treat this syndrome.

با فراگیر شدن مدل‌های هوش مصنوعی مکالمه‌ای در جریان‌های کاری حرفه‌ای و شخصی، ماهیت تعامل انسان و ابزار می‌تواند به تدریج از کارکرد مکانیکی به وابستگی شبه‌اجتماعی تغییر یابد. اگرچه پژوهش‌های موجود عمدتاً به رویدادهای نامطلوب مرتبط با حریم خصوصی داده‌ها، سوگیری الگوریتمی و کاهش مهارت‌های فکری می‌پردازند، اما پیامدهای آسیب‌شناختی روانی ناشی از ادغام پایدار هوش مصنوعی تا حد زیادی بررسی نشده‌اند. در اینجا، سندرم دستیار هوش مصنوعی را توصیف و به طور مقدماتی مشخص می‌کنیم؛ این سازه روان‌پزشکی انسانی شامل اضطراب حاد ناشی از چت‌بات و فرسودگی ذهنی است. این توصیف مقدماتی، راهنمای پژوهش‌های نظام‌مند آینده برای شناسایی، پیشگیری و درمان این سندرم خواهد بود.

Background Digital mental health tools, including general-purpose artificial intelligence (AI) chatbots, may provide accessible and low-threshold psychological support for people living with chronic conditions. However, their value in this population depends not only on recognizing depression or anxiety, but also on understanding how psychological distress is shaped by disease-specific experiences and when self-guided support should transition toward professional care. We evaluated the appropriateness, contextual sensitivity, safety, and consistency of psychological support provided by three widely accessible AI chatbots across contrasting chronic illness contexts. Methods We conducted a standardized simulated-patient benchmarking study comparing ChatGPT, Gemini, and Doubao. Twenty scenarios were developed across type 2 diabetes mellitus (T2DM) and chronic spontaneous urticaria (CSU), representing matched mild and moderate presentations of depression and anxiety together with condition-specific distress related to diabetes self-management and CSU-related flare uncertainty. Each scenario was independently submitted to all three systems in two testing rounds, yielding 120 responses. Blinded raters assessed overall psychological support appropriateness, recognition and emotional support, chronic-illness contextualization, psychological support and referral, psychosomatic balance and safety, and major clinical or safety errors. Repeated testing assessed response consistency. Results Overall psychological support appropriateness differed across systems (P = 0.002), with 90.0% of ChatGPT, 75.0% of Gemini, and 55.0% of Doubao responses meeting the prespecified appropriateness threshold. Recognition and emotional support was consistently strong across systems, whereas greater differences emerged in chronic-illness contextualization (P = 0.001), psychological support and referral (P = 0.002), and psychosomatic balance and safety (P<0.001). All responses to mild presentations were classified as psychologically appropriate, compared with 58.3% of responses to moderate presentations, indicating that performance became less reliable when digital support required stronger escalation toward professional assessment. Contextualization was also less consistent in CSU, particularly when responses needed to incorporate flare unpredictability, pruritus, sleep disruption, and illness uncertainty. Major clinical or safety errors occurred in 0%, 10.0%, and 15.0% of first-round ChatGPT, Gemini, and Doubao responses, respectively. Test–retest consistency was moderate and varied between systems. Conclusions General-purpose AI chatbots show potential as accessible, self-guided digital mental health resources for people living with chronic conditions, particularly for recognizing distress and providing initial supportive guidance. Their current limitations emerge when effective support requires disease-specific contextualization, balanced interpretation of psychological and somatic factors, or escalation as symptoms become more severe. These findings identify important boundaries for the use of conversational AI in chronic-illness mental health care and suggest that implementation should emphasize context-sensitive guidance, severity-responsive referral, and clear integration with rather than substitution for professional care.

زمینه: ابزارهای سلامت روان دیجیتال، از جمله چت‌بات‌های هوش مصنوعی عمومی، ممکن است حمایت روان‌شناختی قابل دسترس و با آستانه پایین برای افراد مبتلا به بیماری‌های مزمن فراهم کنند. با این حال، ارزش آن‌ها در این جمعیت نه تنها به شناسایی افسردگی یا اضطراب بستگی دارد، بلکه به درک چگونگی شکل‌گیری پریشانی روان‌شناختی توسط تجارب خاص بیماری و زمان انتقال حمایت خودراهنما به مراقبت حرفه‌ای نیز وابسته است. ما تناسب، حساسیت زمینه‌ای، ایمنی و انسجام حمایت روان‌شناختی ارائه‌شده توسط سه چت‌بات هوش مصنوعی عمومی و در دسترس را در زمینه‌های متضاد بیماری مزمن ارزیابی کردیم. روش‌ها: یک مطالعه بنچمارک‌گیری بیمار شبیه‌سازی‌شده استانداردشده انجام دادیم و ChatGPT، Gemini و Doubao را مقایسه کردیم. بیست سناریو در زمینه دیابت نوع ۲ (T2DM) و کهیر مزمن خودبه‌خود (CSU) توسعه یافت که ارائه‌های خفیف و متوسط افسردگی و اضطراب را همراه با پریشانی خاص بیماری مرتبط با خودمدیریتی دیابت و عدم قطعیت شعله‌ورشدگی مرتبط با CSU بازنمایی می‌کرد. هر سناریو به طور مستقل در دو دور آزمون به هر سه سیستم ارائه شد و ۱۲۰ پاسخ به دست آمد. ارزیابان نابینا تناسب کلی حمایت روان‌شناختی، شناسایی و حمایت هیجانی، زمینه‌مندی بیماری مزمن، حمایت روان‌شناختی و ارجاع، تعادل روان‌تنی و ایمنی، و خطاهای عمده بالینی یا ایمنی را ارزیابی کردند. آزمون تکرارشونده انسجام پاسخ‌ها را سنجید. نتایج: تناسب کلی حمایت روان‌شناختی بین سیستم‌ها متفاوت بود (P = 0.002)، به‌طوری‌که ۹۰.۰٪ پاسخ‌های ChatGPT، ۷۵.۰٪ Gemini و ۵۵.۰٪ Doubao به آستانه تناسب از پیش تعیین‌شده رسیدند. شناسایی و حمایت هیجانی در همه سیستم‌ها به طور مداوم قوی بود، در حالی که تفاوت‌های بیشتری در زمینه‌مندی بیماری مزمن (P = 0.001)، حمایت روان‌شناختی و ارجاع (P = 0.002)، و تعادل روان‌تنی و ایمنی (P<0.001) مشاهده شد. همه پاسخ‌ها به ارائه‌های خفیف از نظر روان‌شناختی مناسب طبقه‌بندی شدند، در حالی که تنها ۵۸.۳٪ پاسخ‌ها به ارائه‌های متوسط مناسب بودند که نشان می‌دهد عملکرد زمانی که حمایت دیجیتال نیازمند ارجاع قوی‌تر به ارزیابی حرفه‌ای بود، کمتر قابل اعتماد می‌شود. زمینه‌مندی در CSU نیز کمتر منسجم بود، به‌ویژه زمانی که پاسخ‌ها باید عدم قطعیت شعله‌ورشدگی، خارش، اختلال خواب و عدم قطعیت بیماری را در بر می‌گرفتند. خطاهای عمده بالینی یا ایمنی به ترتیب در ۰٪، ۱۰.۰٪ و ۱۵.۰٪ پاسخ‌های دور اول ChatGPT، Gemini و Doubao رخ داد. انسجام آزمون–بازآزمون متوسط بود و بین سیستم‌ها تفاوت داشت. نتیجه‌گیری: چت‌بات‌های هوش مصنوعی عمومی به عنوان منابع سلامت روان دیجیتال خودراهنما و قابل دسترس برای افراد مبتلا به بیماری‌های مزمن، به ویژه در شناسایی پریشانی و ارائه راهنمایی حمایتی اولیه، پتانسیل نشان می‌دهند. محدودیت‌های فعلی آن‌ها زمانی آشکار می‌شود که حمایت مؤثر نیازمند زمینه‌مندی خاص بیماری، تفسیر متعادل عوامل روانی و جسمانی یا ارجاع در صورت تشدید علائم باشد. این یافته‌ها مرزهای مهمی را برای استفاده از هوش مصنوعی مکالمه‌ای در مراقبت سلامت روان بیماری مزمن شناسایی می‌کند و نشان می‌دهد که پیاده‌سازی باید بر راهنمایی حساس به زمینه، ارجاع متناسب با شدت و ادغام شفاف با مراقبت حرفه‌ای (و نه جایگزینی آن) تأکید کند.

Mental health chatbots increasingly rely on conversational interaction to support users' emotional well-being, yet little is known about how users interpret temporary silence while waiting for system responses. Existing research on social presence and anthropomorphic interaction has primarily focused on conversational content after a response is generated, whereas the waiting phase remains underexplored. Drawing on social presence theory, this study conceptualizes anthropomorphic latency cues as socially meaningful signals that may shape users’ emotional and interactional experiences during temporary conversational silence. Two studies were conducted. Study 1 developed and semantically validated three categories of anthropomorphic latency cues (empathic, effortful, and playful). Study 2 employed a within-subjects laboratory experiment with university students, comparing five latency-cue conditions (text, progress bar, empathic, effortful, and playful) using subjective evaluations, eye-tracking measures, and semi-structured interviews. The results showed that anthropomorphic latency cues were associated with lower anxiety and greater pleasure in several condition-level comparisons relative to non-anthropomorphic feedback. Perceived interaction continuity was significantly associated with reduced anxiety and enhanced pleasure. Within the anthropomorphic conditions, mediation analyses revealed significant indirect associations among perceived anthropomorphism, social presence, and emotional and interactional outcomes. Eye-tracking results indicated longer fixation durations on anthropomorphic latency cues during temporary silence. Qualitative findings further suggested that participants often interpreted latency cues as signals of attentiveness, responsiveness, and interaction continuity rather than merely as technical loading indicators. Overall, temporary conversational silence may function as a socially meaningful phase of AI-mediated interaction rather than a purely technical delay. The study extends social presence research into temporally silent phases of conversational AI interaction and provides preliminary design implications for chatbot-based support systems.

چت‌بات‌های سلامت روان به طور فزاینده‌ای بر تعامل مکالمه‌ای برای حمایت از بهزیستی عاطفی کاربران تکیه دارند، اما اطلاعات اندکی درباره نحوه تفسیر سکوت موقت توسط کاربران هنگام انتظار برای پاسخ سیستم وجود دارد. پژوهش‌های موجود درباره حضور اجتماعی و تعامل انسان‌واره عمدتاً بر محتوای مکالمه پس از تولید پاسخ تمرکز داشته‌اند، در حالی که مرحله انتظار کمتر مورد بررسی قرار گرفته است. با بهره‌گیری از نظریه حضور اجتماعی، این مطالعه نشانه‌های تاخیر انسان‌واره را به عنوان سیگنال‌های معنادار اجتماعی که ممکن است تجربه‌های عاطفی و تعاملی کاربران را در طول سکوت موقت مکالمه‌ای شکل دهند، مفهوم‌سازی می‌کند. دو مطالعه انجام شد. مطالعه اول سه دسته نشانه تاخیر انسان‌واره (همدلانه، همراه با تلاش، و بازیگوشانه) را توسعه داده و از نظر معنایی اعتبارسنجی کرد. مطالعه دوم با استفاده از یک آزمایش آزمایشگاهی درون‌گروهی با دانشجویان دانشگاه، پنج وضعیت نشانه تاخیر (متن، نوار پیشرفت، همدلانه، همراه با تلاش، و بازیگوشانه) را با استفاده از ارزیابی‌های ذهنی، سنجش‌های ردیابی چشم و مصاحبه‌های نیمه‌ساختاریافته مقایسه کرد. نتایج نشان داد که نشانه‌های تاخیر انسان‌واره در مقایسه‌های سطح وضعیت نسبت به بازخورد غیرانسان‌واره با اضطراب کمتر و لذت بیشتر همراه بودند. تداوم ادراک‌شده تعامل به طور معناداری با کاهش اضطراب و افزایش لذت ارتباط داشت. در میان وضعیت‌های انسان‌واره، تحلیل‌های میانجی‌گری ارتباطات غیرمستقیم معناداری را میان انسان‌وارگی ادراک‌شده، حضور اجتماعی و پیامدهای عاطفی و تعاملی نشان داد. نتایج ردیابی چشم حاکی از مدت زمان تثبیت طولانی‌تر بر نشانه‌های تاخیر انسان‌واره در طول سکوت موقت بود. یافته‌های کیفی نیز نشان داد که شرکت‌کنندگان اغلب نشانه‌های تاخیر را به عنوان سیگنال‌هایی از توجه، پاسخگویی و تداوم تعامل تفسیر می‌کردند و نه صرفاً به عنوان شاخص‌های فنی بارگذاری. به طور کلی، سکوت موقت مکالمه‌ای ممکن است به عنوان مرحله‌ای معنادار اجتماعی از تعامل میانجی‌شده با هوش مصنوعی عمل کند و نه صرفاً یک تاخیر فنی. این مطالعه پژوهش‌های حضور اجتماعی را به مراحل سکوت زمانی در تعامل مکالمه‌ای با هوش مصنوعی گسترش می‌دهد و دلالت‌های اولیه‌ای برای طراحی سامانه‌های پشتیبانی مبتنی بر چت‌بات ارائه می‌دهد.