Contemporary debates about large language models (LLMs) remain shaped by the logical structure of Searle’s Chinese Room Argument (1980). Sceptics routinely argue that since LLMs merely manipulate statistical patterns without understanding the content they process, they possess no genuine understanding or mentality. This inferential pattern recapitulates Searle’s move from “the person in the room does not understand Chinese” to “running a program is insufficient for mentality”. This paper argues that this inference is illegitimate. It accepts Searle’s premise that the person in the Chinese Room does not understand Chinese. However, it shows that the person does understand something else: the rule system itself. This understanding is genuine and intrinsic by Searle’s own criteria, and it is acquired during the process of running the program. Searle’s argument therefore contains an unacknowledged inferential gap: from “no understanding of the processed content” to “no understanding whatsoever”. Furthermore, Searle’s structural equivalence premise, that the person and the computer are doing the same thing, is shown to constitute a double-edged sword: if consistently applied, it prevents Searle from denying that the machine may possess an analogue of the person’s understanding. The Chinese Room Argument cannot establish its intended conclusion.
مباحثات معاصر درباره مدل‌های زبانی بزرگ (LLMs) همچنان تحت تأثیر ساختار منطقی استدلال اتاق چینی سرل (۱۹۸۰) قرار دارند. شکاکان معمولاً استدلال می‌کنند که از آنجا که LLMها صرفاً الگوهای آماری را بدون فهم محتوای پردازش‌شده دستکاری می‌کنند، فاقد فهم یا ذهنیت اصیل هستند. این الگوی استنتاجی، حرکت سرل از «فرد داخل اتاق زبان چینی را نمی‌فهمد» به «اجرای یک برنامه برای ذهنیت کافی نیست» را بازتولید می‌کند. این مقاله استدلال می‌کند که این استنتاج نامشروع است. مقاله، مقدمه سرل مبنی بر اینکه فرد در اتاق چینی زبان چینی را نمی‌فهمد، می‌پذیرد. با این حال، نشان می‌دهد که فرد چیز دیگری را می‌فهمد: خود نظام قواعد را. این فهم بر اساس معیارهای خود سرل، اصیل و ذاتی است و در فرآیند اجرای برنامه کسب می‌شود. بنابراین استدلال سرل دارای یک خلأ استنتاجی نادیده‌گرفته‌شده است: از «عدم فهم محتوای پردازش‌شده» تا «عدم فهم به طور کلی». افزون بر این، مقدمه هم‌ارزی ساختاری سرل، مبنی بر اینکه فرد و رایانه در حال انجام یک کار هستند، به عنوان یک شمشیر دو لبه نشان داده می‌شود: اگر به طور پیوسته به کار گرفته شود، سرل را از انکار اینکه ماشین ممکن است دارای مشابهی از فهم فرد باشد، بازمی‌دارد. استدلال اتاق چینی نمی‌تواند نتیجه مورد نظر خود را اثبات کند.
Three interconnected clusters of questions: 1. What sort of thing is an AI, how many of them are there, where are they and how long do they exist? 2. Is an AI the sort of thing that can have beliefs, desires and goals? 3. When we say to an LLM, “Your argument is confused”, what does that 'you' refer to? When it replies, “I'm sorry for the confused argument”, what does that 'I' refer to? In this paper, our focus is on reference and coreference: we approach 1 and 2 by first trying to answer 3. Three views are argued for. First, don't start with metaphysics or philosophy of mind-start with reference questions. Second, the practice of referring to LLMs is being engineered; it's unsettled and currently so vague that there's no fact of the matter about which of many candidates we're talking about. Third, what will make reference more determinate is a range of institutional factors: laws, regulations, authorizations and various practical arrangements. The answers don't come from the philosophy of mind or from metaphysics. They come from the institutions and practices we embed LLMs in.
سه خوشه به‌هم‌پیوسته از پرسش‌ها مطرح می‌شود: ۱. هوش مصنوعی چه نوع موجودی است، چند تا از آن وجود دارد، کجا هستند و چه مدت وجود دارند؟ ۲. آیا هوش مصنوعی از آن نوع موجوداتی است که می‌تواند باورها، خواسته‌ها و اهداف داشته باشد؟ ۳. زمانی که به یک مدل زبانی بزرگ (LLM) می‌گوییم «استدلال تو گیج‌کننده است»، این «تو» به چه چیزی اشاره دارد؟ وقتی پاسخ می‌دهد «برای استدلال گیج‌کننده متأسفم»، این «من» به چه چیزی اشاره دارد؟ در این مقاله تمرکز ما بر ارجاع و هم‌ارجاعی است: ما به پرسش‌های ۱ و ۲ از طریق تلاش برای پاسخ به پرسش ۳ نزدیک می‌شویم. سه دیدگاه مورد استدلال قرار می‌گیرد. نخست، نباید با متافیزیک یا فلسفه ذهن آغاز کرد، بلکه باید با پرسش‌های ارجاعی شروع نمود. دوم، عمل ارجاع به مدل‌های زبانی بزرگ در حال مهندسی شدن است؛ این امر تثبیت‌نشده و در حال حاضر آن‌قدر مبهم است که هیچ واقعیتی درباره اینکه به کدام یک از گزینه‌های متعدد اشاره می‌کنیم وجود ندارد. سوم، آنچه ارجاع را معین‌تر خواهد کرد، مجموعه‌ای از عوامل نهادی است: قوانین، مقررات، مجوزها و ترتیبات عملی مختلف. پاسخ‌ها از فلسفه ذهن یا متافیزیک نمی‌آیند، بلکه از نهادها و رویه‌هایی که مدل‌های زبانی بزرگ را در آن‌ها جای می‌دهیم، نشأت می‌گیرند.
Abstract This musing details my approach to decolonising the syllabus for my course “Philosophy of Mind and Cognitive Science.” It describes the motivation behind the changes I made, what happened, and future directions for this endeavour.
چکیده: این تأمل به شرح رویکرد من در استعمارزدایی از برنامهٔ درسی درس «فلسفه ذهن و علوم شناختی» می‌پردازد. انگیزه‌های پشت تغییراتی که ایجاد کردم، آنچه رخ داد و مسیرهای آینده این تلاش را توصیف می‌کند.
