Krutika Sonare

Large Language Models (LLMs) have demonstrated significant capabilities in generating human-like and contextually relevant responses across a wide range of applications.However, their reliability is affected not only by factual hallucinations but also by failures to correctly understand and follow user instructions.This emerging issue, referred to as intent hallucination, occurs when an LLM omits, misinterprets, or fails to satisfy one or more requirements contained in a user's request, even when the generated response may be factually correct.Such failures can reduce the reliability and usefulness of LLM-based systems, particularly in complex tasks involving multiple constraints.This paper proposes a systematic review of existing research on intent hallucination and instructionfollowing capabilities in Large Language Models.The study will examine major types and causes of instructionfollowing failures, existing benchmarks and evaluation techniques, methods for detecting such failures, and approaches proposed to mitigate them.The review will also compare current evaluation frameworks and investigate limitations in existing research, particularly concerning complex, multi-constraint, and dynamic user instructions.Based on the reviewed literature, the study aims to organize existing approaches into a structured taxonomy covering instruction-following failures, detection and evaluation methods, and mitigation strategies.Finally, the paper will highlight open research challenges and future directions for developing more reliable and intent-aligned LLM systems.The study aims to provide a consolidated understanding of intent hallucination and support future research toward more dependable human-AI interaction.

مدل‌های زبانی بزرگ (LLMs) توانایی‌های قابل توجهی در تولید پاسخ‌های مشابه انسان و مرتبط با زمینه در طیف وسیعی از کاربردها نشان داده‌اند. با این حال، پایایی آن‌ها نه تنها تحت تأثیر توهمات واقعی بلکه همچنین به دلیل ناتوانی در درک و پیروی صحیح از دستورالعمل‌های کاربر قرار می‌گیرد. این مسئله نوظهور که به آن توهم نیت گفته می‌شود، زمانی رخ می‌دهد که یک مدل زبانی بزرگ یک یا چند الزام موجود در درخواست کاربر را حذف، تفسیر نادرست یا برآورده نمی‌کند، حتی اگر پاسخ تولیدشده از نظر واقعی صحیح باشد. چنین شکست‌هایی می‌تواند پایایی و سودمندی سامانه‌های مبتنی بر مدل‌های زبانی بزرگ را به ویژه در وظایف پیچیده با محدودیت‌های متعدد کاهش دهد. این مقاله مرور نظام‌مندی از پژوهش‌های موجود درباره توهم نیت و قابلیت‌های پیروی از دستورالعمل در مدل‌های زبانی بزرگ ارائه می‌دهد. این مطالعه انواع اصلی و علل شکست‌های پیروی از دستورالعمل، معیارها و تکنیک‌های ارزیابی موجود، روش‌های شناسایی این شکست‌ها و رویکردهای پیشنهادی برای کاهش آن‌ها را بررسی خواهد کرد. همچنین این مرور چارچوب‌های ارزیابی فعلی را مقایسه و محدودیت‌های پژوهش‌های موجود، به ویژه در ارتباط با دستورالعمل‌های پیچیده، چندمحدوده‌ای و پویا را بررسی می‌کند. بر اساس ادبیات مرورشده، مطالعه حاضر تلاش دارد رویکردهای موجود را در قالب یک طبقه‌بندی ساختاریافته شامل شکست‌های پیروی از دستورالعمل، روش‌های شناسایی و ارزیابی و راهبردهای کاهش سازماندهی کند. در نهایت، مقاله چالش‌های پژوهشی باز و مسیرهای آینده برای توسعه سامانه‌های مدل زبانی بزرگ پایاتر و هم‌راستا با نیت کاربر را برجسته خواهد کرد. هدف این مطالعه ارائه درکی یکپارچه از توهم نیت و حمایت از پژوهش‌های آتی به سوی تعامل انسان-هوش مصنوعی قابل اعتمادتر است.