algorithmic bias

Rural-origin students in South African higher education face multiple, overlapping forms of marginalisation that collectively hinder their academic access and success. Despite significant policy reforms aimed at expanding access and addressing historical injustices, the educational paths of these learners are still disproportionately affected by a combination of socio-economic deprivation, linguistic exclusion, gendered vulnerabilities, and technological marginalisation. This systematic review synthesises current empirical evidence to clarify how these intersectional barriers merge to obstruct the educational journeys of rural-origin students in South African higher education. It also critically examines how institutional policies and technological interventions may unintentionally reinforce or potentially alleviate these inequities. The study followed the Preferred Reporting Items for Systematic Reviews and Meta-Analyses (PRISMA) guidelines, conducting a comprehensive search across multiple academic databases for studies published between 2018 and 2026. After a rigorous screening and eligibility process, 52 studies met the inclusion criteria and underwent thematic analysis guided by Nancy Fraser's trivalent social justice framework. Five overarching themes emerged: The multidimensional digital divide; linguistic exclusion and the devaluation of vernacular knowledge; gendered vulnerabilities and the burden of social reproduction; algorithmic bias and the risks associated with technological solutionism; and governance gaps alongside the failure of participatory parity. The findings revealed that existing equity frameworks inadequately address the structural dimensions of rural marginalisation. Achieving educational equity necessitates a fundamental shift towards intersectionality-aware, context-sensitive institutional policies that prioritise resource redistribution, cultural recognition, and the meaningful representation of students from rural backgrounds in decision-making processes.

Mental health conditions have become one of the most urgent public health challenges worldwide, affecting nearly one billion people and creating substantial social and economic burdens. Despite increasing demand for psychological services, barriers such as financial costs, shortages of mental health professionals, geographical inequalities, and social stigma prevent many individuals from receiving timely support. This paper examines the biological, psychological, and environmental factors contributing to mental disorders and evaluates the potential role of artificial intelligence (AI) conversational models in mental health support. It argues that AI cannot replace licensed clinicians but can serve as a complementary tool by improving accessibility, providing continuous communication, offering privacy, and delivering personalized psychoeducation. Particular attention is given to autism spectrum disorder (ASD), where AI's predictable communication style may support communication practice and reduce social pressure. The paper also discusses AI-assisted interventions based on cognitive behavioral therapy (CBT) and examines ethical challenges, including privacy, algorithmic bias, and clinical responsibility. Overall, responsible cooperation between AI technologies and healthcare professionals may improve the accessibility and effectiveness of future mental healthcare.

As conversational artificial intelligence models become ubiquitous fixtures in professional and personal workflows, the nature of human-tool interaction has the potential to gradually shift from mechanical utility to parasocial dependency. While existing literature frequently addresses adverse events related to data privacy, algorithmic bias, and intellectual deskilling, the pathopsychological sequelae of sustained AI integration remain largely unexamined. Here, we describe and preliminarily characterize the AI Assistant Syndrome, a human psychiatric construct encompassing acute chatbot-induced anxiety and mental exhaustion. This preliminary description will guide future systematic investigations to recognize, prevent, and treat this syndrome.

با فراگیر شدن مدل‌های هوش مصنوعی مکالمه‌ای در جریان‌های کاری حرفه‌ای و شخصی، ماهیت تعامل انسان و ابزار می‌تواند به تدریج از کارکرد مکانیکی به وابستگی شبه‌اجتماعی تغییر یابد. اگرچه پژوهش‌های موجود عمدتاً به رویدادهای نامطلوب مرتبط با حریم خصوصی داده‌ها، سوگیری الگوریتمی و کاهش مهارت‌های فکری می‌پردازند، اما پیامدهای آسیب‌شناختی روانی ناشی از ادغام پایدار هوش مصنوعی تا حد زیادی بررسی نشده‌اند. در اینجا، سندرم دستیار هوش مصنوعی را توصیف و به طور مقدماتی مشخص می‌کنیم؛ این سازه روان‌پزشکی انسانی شامل اضطراب حاد ناشی از چت‌بات و فرسودگی ذهنی است. این توصیف مقدماتی، راهنمای پژوهش‌های نظام‌مند آینده برای شناسایی، پیشگیری و درمان این سندرم خواهد بود.

Background: Workplace stress, anxiety, burnout and psychological distress are important concerns affecting employee well-being and organisational performance. The increasing use of artificial intelligence (AI) in digital mental health support offers opportunities for accessible and timely assistance, while raising concerns regarding privacy, informed consent, algorithmic bias, clinical safety, accountability and human oversight. This study aims to examine the potential role and responsible integration of AI-based psychiatric counselling for managing employee stress and supporting workplace mental health by 2030. Materials and Methods: A mixed-methods research design will be used, combining quantitative survey data with qualitative interviews. The quantitative component will include approximately 350–450 employees, while the qualitative component will involve approximately 25–35 interviews with HR professionals, organisational leaders, EAP professionals and mental health practitioners. Data will assess perceived stress, anxiety, burnout, psychological safety, trust, confidentiality, privacy concerns, AI counselling acceptance and willingness to use AI-based mental health support. Quantitative data will be analysed using descriptive statistics, reliability testing, correlation, regression, t-tests, ANOVA and appropriate mediation or moderation analyses. Qualitative data will be analysed thematically. Results: The study is expected to identify factors influencing employee acceptance and trust in AI-based psychiatric counselling and to examine the role of privacy, human oversight, psychological safety and organisational support in its responsible adoption. Conclusion: AI-based psychiatric counselling may serve as a supportive component of workplace mental health systems, particularly for early support, psychoeducation, self-help and triage. However, it should complement rather than replace qualified mental health professionals. Responsible implementation will require privacy safeguards, informed consent, clinical oversight, transparency, fairness, accountability and clear referral pathways.

زمینه: استرس محیط کار، اضطراب، فرسودگی شغلی و پریشانی روان‌شناختی از دغدغه‌های مهمی هستند که بهزیستی کارکنان و عملکرد سازمانی را تحت تأثیر قرار می‌دهند. افزایش استفاده از هوش مصنوعی (AI) در حمایت دیجیتال سلامت روان، فرصت‌هایی برای دسترسی و کمک به‌موقع فراهم می‌کند، در حالی که نگرانی‌هایی درباره حریم خصوصی، رضایت آگاهانه، سوگیری الگوریتمی، ایمنی بالینی، مسئولیت‌پذیری و نظارت انسانی ایجاد می‌کند. هدف این مطالعه بررسی نقش بالقوه و ادغام مسئولانه مشاوره روان‌پزشکی مبتنی بر هوش مصنوعی برای مدیریت استرس کارکنان و حمایت از سلامت روان محیط کار تا سال ۲۰۳۰ است. مواد و روش‌ها: از طرح پژوهشی آمیخته استفاده خواهد شد که داده‌های پیمایش کمی را با مصاحبه‌های کیفی ترکیب می‌کند. بخش کمی شامل حدود ۳۵۰ تا ۴۵۰ نفر از کارکنان خواهد بود و بخش کیفی شامل حدود ۲۵ تا ۳۵ مصاحبه با متخصصان منابع انسانی، رهبران سازمانی، متخصصان EAP و درمانگران سلامت روان خواهد بود. داده‌ها میزان استرس ادراک‌شده، اضطراب، فرسودگی شغلی، ایمنی روان‌شناختی، اعتماد، محرمانگی، نگرانی‌های مربوط به حریم خصوصی، پذیرش مشاوره مبتنی بر هوش مصنوعی و تمایل به استفاده از حمایت سلامت روان مبتنی بر هوش مصنوعی را ارزیابی خواهند کرد. داده‌های کمی با استفاده از آمار توصیفی، آزمون پایایی، همبستگی، رگرسیون، آزمون t، ANOVA و تحلیل‌های میانجی‌گری یا تعدیل‌گری مناسب تحلیل می‌شوند. داده‌های کیفی به صورت مضمون‌محور تحلیل خواهند شد. نتایج: انتظار می‌رود مطالعه عوامل مؤثر بر پذیرش و اعتماد کارکنان به مشاوره روان‌پزشکی مبتنی بر هوش مصنوعی را شناسایی کند و نقش حریم خصوصی، نظارت انسانی، ایمنی روان‌شناختی و حمایت سازمانی را در پذیرش مسئولانه آن بررسی نماید. نتیجه‌گیری: مشاوره روان‌پزشکی مبتنی بر هوش مصنوعی می‌تواند به عنوان بخشی حمایتی از نظام‌های سلامت روان محیط کار، به ویژه برای حمایت اولیه، آموزش روانی، خودیاری و ارجاع اولیه مورد استفاده قرار گیرد. با این حال، باید مکمل و نه جایگزین متخصصان واجد شرایط سلامت روان باشد. اجرای مسئولانه نیازمند تضمین‌های حریم خصوصی، رضایت آگاهانه، نظارت بالینی، شفافیت، انصاف، مسئولیت‌پذیری و مسیرهای ارجاع روشن خواهد بود.

The swift evolution of Artificial Intelligence (AI) is dramatically changing the landscape of education, especially when it comes to assessment. Traditional methods, which focus heavily on standardized tests and final evaluations, are falling short in capturing the complex cognitive, social, and digital skills that are essential in today’s world. This paper delves into the transformative power of AI in educational assessment and suggests a strategic framework for embracing digital change. By reviewing current literature, the study highlights AI-driven innovations like adaptive testing, automated grading, learning analytics, and competency-based assessment models. It also tackles important challenges such as ethical issues, algorithmic bias, data privacy, and maintaining academic integrity. The paper emphasizes that a comprehensive, policy-oriented, and pedagogically sound approach are crucial for effectively integrating AI into assessment systems. In the end, it offers practical strategies for institutions aiming to update their assessment practices in an AI-enhanced educational environment.

تحول سریع هوش مصنوعی (AI) به طور چشمگیری چشم‌انداز آموزش را، به ویژه در حوزه ارزیابی، دگرگون کرده است. روش‌های سنتی که عمدتاً بر آزمون‌های استاندارد و ارزیابی‌های نهایی تمرکز دارند، در سنجش مهارت‌های پیچیده شناختی، اجتماعی و دیجیتال که در دنیای امروز ضروری هستند، ناکارآمد شده‌اند. این مقاله به بررسی قدرت تحول‌آفرین هوش مصنوعی در ارزیابی آموزشی می‌پردازد و چارچوبی راهبردی برای پذیرش تغییر دیجیتال پیشنهاد می‌کند. با مرور ادبیات موجود، پژوهش به نوآوری‌های مبتنی بر هوش مصنوعی مانند آزمون‌های تطبیقی، نمره‌دهی خودکار، تحلیل یادگیری و مدل‌های ارزیابی مبتنی بر شایستگی می‌پردازد. همچنین به چالش‌های مهمی همچون مسائل اخلاقی، سوگیری الگوریتمی، حریم خصوصی داده‌ها و حفظ سلامت علمی اشاره می‌کند. مقاله تأکید می‌کند که رویکردی جامع، سیاست‌محور و مبتنی بر اصول آموزشی برای ادغام مؤثر هوش مصنوعی در نظام‌های ارزیابی ضروری است. در پایان، راهبردهای عملی برای نهادهایی که قصد به‌روزرسانی شیوه‌های ارزیابی خود در محیط آموزشی تقویت‌شده با هوش مصنوعی را دارند، ارائه می‌دهد.

Generative artificial intelligence (GenAI), including large language models and large multimodal models, is increasingly used to support psychological assessment and digital mental health measurement. This review proposes a lifecycle framework for evaluating these uses without weakening psychometric standards. The framework covers construct definition; item, prompt, indicator, or signal generation; evaluation of content, response processes, usability, and data quality; piloting and calibration; validation; fairness and measurement invariance; scoring and interpretation; documentation; and post-deployment monitoring. We argue that digital traces from smartphones, chatbots, ecological momentary assessment, wearables, social media, clinical notes, and multimodal systems should not be treated as psychometric measures by default. They should remain raw data, candidate indicators, or algorithmic scores until their construct interpretation and intended use are theoretically specified, technically verified, empirically calibrated, and validated with human data. GenAI may help generate candidate items, refine wording, classify open-text responses, extract structured information, support multimodal integration, and assist scoring under explicit rules. These uses may improve efficiency and scale, but they do not establish validity, objectivity, fairness, or clinical meaning. We distinguish two complementary facets: GenAI for psychometrics, in which models support measurement development and scoring, and psychometrics for GenAI, in which psychometric methods evaluate model behavior when LLMs are part of measurement workflows. Key risks include construct drift, face validity without structural validity, compressed variability in synthetic respondents, algorithmic bias, lack of invariance, prompt sensitivity, model drift, automation bias, data-security and privacy failures, and loss of subjectivity and disagreement. Responsible use requires human oversight, transparent reporting, validation with human data, fairness evaluation, secure data governance, and continuous monitoring. GenAI should augment, not replace, psychometric science.

هوش مصنوعی مولد (GenAI)، شامل مدل‌های زبانی بزرگ و مدل‌های چندوجهی بزرگ، به طور فزاینده‌ای برای پشتیبانی از ارزیابی روان‌شناختی و سنجش سلامت روان دیجیتال مورد استفاده قرار می‌گیرد. این مرور، چارچوبی مبتنی بر چرخه عمر را برای ارزیابی این کاربردها بدون تضعیف استانداردهای روان‌سنجی پیشنهاد می‌کند. این چارچوب شامل تعریف سازه؛ تولید ماده، محرک، شاخص یا سیگنال؛ ارزیابی محتوا، فرآیندهای پاسخ‌دهی، قابلیت استفاده و کیفیت داده؛ اجرای آزمایشی و کالیبراسیون؛ روایی؛ انصاف و ناوریانس سنجش؛ نمره‌گذاری و تفسیر؛ مستندسازی؛ و پایش پس از استقرار است. ما استدلال می‌کنیم که ردپاهای دیجیتال از تلفن‌های هوشمند، چت‌بات‌ها، ارزیابی لحظه‌ای بوم‌شناختی، پوشیدنی‌ها، شبکه‌های اجتماعی، یادداشت‌های بالینی و سامانه‌های چندوجهی نباید به طور پیش‌فرض به عنوان مقیاس‌های روان‌سنجی تلقی شوند. آن‌ها باید تا زمانی که تفسیر سازه‌ای و کاربرد مورد نظرشان به طور نظری مشخص، به لحاظ فنی تأیید، به طور تجربی کالیبره و با داده انسانی روایی‌یابی نشده‌اند، به عنوان داده خام، شاخص‌های پیشنهادی یا نمرات الگوریتمی باقی بمانند. GenAI می‌تواند در تولید مواد پیشنهادی، اصلاح واژگان، طبقه‌بندی پاسخ‌های متنی باز، استخراج اطلاعات ساختاریافته، پشتیبانی از ادغام چندوجهی و کمک به نمره‌گذاری بر اساس قواعد صریح نقش‌آفرینی کند. این کاربردها ممکن است کارایی و مقیاس را بهبود بخشند، اما روایی، عینیت، انصاف یا معنای بالینی را تضمین نمی‌کنند. ما دو جنبه مکمل را متمایز می‌کنیم: GenAI برای روان‌سنجی، که در آن مدل‌ها از توسعه سنجش و نمره‌گذاری پشتیبانی می‌کنند، و روان‌سنجی برای GenAI، که در آن روش‌های روان‌سنجی رفتار مدل را زمانی که LLMها بخشی از جریان‌های کاری سنجش هستند، ارزیابی می‌کنند. مخاطرات کلیدی شامل رانش سازه، روایی صوری بدون روایی ساختاری، کاهش تنوع در پاسخ‌دهندگان مصنوعی، سوگیری الگوریتمی، فقدان ناوریانس، حساسیت به محرک، رانش مدل، سوگیری اتوماسیون، شکست‌های امنیت و حریم خصوصی داده و از دست رفتن ذهنیت و اختلاف نظر است. استفاده مسئولانه مستلزم نظارت انسانی، گزارش‌دهی شفاف، روایی‌یابی با داده انسانی، ارزیابی انصاف، حاکمیت امن داده و پایش مستمر است. GenAI باید مکمل علم روان‌سنجی باشد، نه جایگزین آن.