Artificial Intelligence in suicide prevention: promise, peril, and clinical implications for clinical practice
هوش مصنوعی در پیشگیری از خودکشی: امید، مخاطرات و پیامدهای بالینی برای عمل بالینی
چکیده
The integration of Artificial Intelligence (AI) into psychiatry is progressing rapidly, with promising yet underexplored applications in suicide prevention. While most existing studies have focused on suicide risk prediction, AI could be applied more broadly across the suicide prevention continuum. This review explores AI's potential in improving the detection of suicidal ideation (SI), enhancing clinician training, and expanding patient access to psychotherapeutic support. Studies suggest that AI models may identify SI more sensitively than clinicians by detecting subtle linguistic or semantic cues. Furthermore, AI-based virtual patients have been shown to improve clinicians' confidence and accuracy in suicide risk assessments, particularly when used alongside traditional training methods. On the patient side, CBT-inspired AI tools offer scalable, on-demand support, but most remain unregulated and clinically unvalidated. Despite their perceived empathy and availability, such tools pose ethical and clinical risks. Many patients use AI tools without professional guidance, a trend clinicians often underestimate. This disconnect calls for urgent regulatory oversight and professional engagement. Without clear clinical validation, AI-based tools may evolve outside medical frameworks, exposing vulnerable individuals to preventable harm. Psychiatry must not only adapt but also lead, ensuring that innovation is harnessed responsibly to serve patients with empathy, safety, and scientific rigor.
ادغام هوش مصنوعی (AI) در روان‌پزشکی با سرعت زیادی در حال پیشرفت است و کاربردهای امیدبخشی، اما کمتر مورد بررسی قرار گرفته‌ای در پیشگیری از خودکشی دارد. در حالی که بیشتر پژوهش‌های موجود بر پیش‌بینی خطر خودکشی متمرکز بوده‌اند، هوش مصنوعی می‌تواند به طور گسترده‌تری در سراسر طیف پیشگیری از خودکشی به کار گرفته شود. این مرور، پتانسیل هوش مصنوعی را در بهبود شناسایی افکار خودکشی (SI)، ارتقای آموزش درمانگران و افزایش دسترسی بیماران به حمایت روان‌درمانی بررسی می‌کند. مطالعات نشان می‌دهند که مدل‌های هوش مصنوعی ممکن است افکار خودکشی را حساس‌تر از درمانگران با شناسایی نشانه‌های زبانی یا معنایی ظریف تشخیص دهند. افزون بر این، بیماران مجازی مبتنی بر هوش مصنوعی باعث افزایش اعتماد به نفس و دقت درمانگران در ارزیابی خطر خودکشی شده‌اند، به ویژه زمانی که در کنار روش‌های سنتی آموزش مورد استفاده قرار گیرند. از سوی دیگر، ابزارهای هوش مصنوعی الهام‌گرفته از درمان شناختی-رفتاری (CBT) برای بیماران، حمایت مقیاس‌پذیر و در دسترسی را ارائه می‌دهند، اما بیشتر آن‌ها بدون نظارت و اعتبارسنجی بالینی باقی مانده‌اند. با وجود همدلی و دسترسی ادراک‌شده این ابزارها، آن‌ها خطرات اخلاقی و بالینی ایجاد می‌کنند. بسیاری از بیماران بدون راهنمایی حرفه‌ای از ابزارهای هوش مصنوعی استفاده می‌کنند، روندی که درمانگران اغلب آن را دست‌کم می‌گیرند. این گسست نیازمند نظارت فوری مقرراتی و مشارکت حرفه‌ای است. بدون اعتبارسنجی بالینی روشن، ابزارهای مبتنی بر هوش مصنوعی ممکن است خارج از چارچوب‌های پزشکی تکامل یابند و افراد آسیب‌پذیر را در معرض آسیب‌های قابل پیشگیری قرار دهند. روان‌پزشکی باید نه تنها خود را تطبیق دهد، بلکه رهبری کند تا اطمینان حاصل شود که نوآوری به گونه‌ای مسئولانه برای خدمت به بیماران با همدلی، ایمنی و دقت علمی به کار گرفته می‌شود.