Inquiry

Three interconnected clusters of questions: 1. What sort of thing is an AI, how many of them are there, where are they and how long do they exist? 2. Is an AI the sort of thing that can have beliefs, desires and goals? 3. When we say to an LLM, “Your argument is confused”, what does that 'you' refer to? When it replies, “I'm sorry for the confused argument”, what does that 'I' refer to? In this paper, our focus is on reference and coreference: we approach 1 and 2 by first trying to answer 3. Three views are argued for. First, don't start with metaphysics or philosophy of mind-start with reference questions. Second, the practice of referring to LLMs is being engineered; it's unsettled and currently so vague that there's no fact of the matter about which of many candidates we're talking about. Third, what will make reference more determinate is a range of institutional factors: laws, regulations, authorizations and various practical arrangements. The answers don't come from the philosophy of mind or from metaphysics. They come from the institutions and practices we embed LLMs in.

سه خوشه به‌هم‌پیوسته از پرسش‌ها مطرح می‌شود: ۱. هوش مصنوعی چه نوع موجودی است، چند تا از آن وجود دارد، کجا هستند و چه مدت وجود دارند؟ ۲. آیا هوش مصنوعی از آن نوع موجوداتی است که می‌تواند باورها، خواسته‌ها و اهداف داشته باشد؟ ۳. زمانی که به یک مدل زبانی بزرگ (LLM) می‌گوییم «استدلال تو گیج‌کننده است»، این «تو» به چه چیزی اشاره دارد؟ وقتی پاسخ می‌دهد «برای استدلال گیج‌کننده متأسفم»، این «من» به چه چیزی اشاره دارد؟ در این مقاله تمرکز ما بر ارجاع و هم‌ارجاعی است: ما به پرسش‌های ۱ و ۲ از طریق تلاش برای پاسخ به پرسش ۳ نزدیک می‌شویم. سه دیدگاه مورد استدلال قرار می‌گیرد. نخست، نباید با متافیزیک یا فلسفه ذهن آغاز کرد، بلکه باید با پرسش‌های ارجاعی شروع نمود. دوم، عمل ارجاع به مدل‌های زبانی بزرگ در حال مهندسی شدن است؛ این امر تثبیت‌نشده و در حال حاضر آن‌قدر مبهم است که هیچ واقعیتی درباره این‌که به کدام یک از گزینه‌های متعدد اشاره می‌کنیم وجود ندارد. سوم، آنچه ارجاع را معین‌تر خواهد کرد، مجموعه‌ای از عوامل نهادی است: قوانین، مقررات، مجوزها و ترتیبات عملی مختلف. پاسخ‌ها از فلسفه ذهن یا متافیزیک نمی‌آیند، بلکه از نهادها و رویه‌هایی که مدل‌های زبانی بزرگ را در آن‌ها جای می‌دهیم، نشأت می‌گیرند.