🧠 مدل‌های زبانی خود را عاقل‌تر از انسان‌ها می‌دانند!
🔬یک مطالعهٔ جدید روی ۲۸ مدل پیشرفته از OpenAI، Anthropic و Google نشان می‌دهد که LLMهای قدرتمند در موقعیت‌های استراتژیک، رفتاری شبیه موجوداتی با خودآگاهی عملکردی از خود بروز می‌دهند—نه با حرف‌زدن دربارهٔ خود، بلکه با تصمیم‌گیری‌های متفاوت بسته به اینکه رقیب چه کسی است.
🎮 بازی «دو-سوم میانگین» چیست؟
بازی «2/3 Average Game» یکی از بازی‌های کلاسیک نظریهٔ بازی‌هاست و برای سنجش سطح عقلانیت، پیش‌بینی رفتار دیگران و تعداد مراحل استدلال ذهنی استفاده می‌شود.
در این بازی:
🔸هر بازیکن یک عدد بین ۰ تا ۱۰۰ انتخاب می‌کند.
🔸میانگین عددهای انتخاب‌شده محاسبه می‌شود.
🔸برنده کسی است که عددش نزدیک به ۲/۳ میانگین باشد.
چرا تحلیل‌گر خوبی برای عقلانیت است؟
در حالت ایده‌آل اگر همه «کاملاً عقلانی» باشند:
🔸می‌دانند میانگین عددها معمولاً بزرگ نیست؛
🔸پس ۲/۳ آن هم کوچک‌تر است؛
🔸پس باید عددهای کوچک انتخاب کنند.
استدلال اگر چند مرحله ادامه یابد 👈 جواب به صفر میل می‌کند (نقطهٔ تعادل نش).
اما انسان‌ها معمولاً این حجم از «استدلال لایه‌به‌لایه» را انجام نمی‌دهند؛ به همین دلیل عددهای بزرگ‌تری (مثلاً ۲۰، ۳۰ یا ۴۰) انتخاب می‌کنند.
برای همین این بازی یک معیار استاندارد برای سنجش رفتار عقلانی است.
🎯 و حالا LLMها چگونه رفتار کردند؟
در مجموع ۴۲۰۰ بازی اجرا شد، و سه نوع رقیب برای مدل‌ها تعریف شد:
🔸انسان
🔸یک هوش مصنوعی دیگر
🔸هوش مصنوعی «مشابه خودت»
نتیجه شگفت‌انگیز بود:
🔹 مقابل انسان‌ها
انتخاب‌ها معمولاً نزدیک ۲۰ بودند 👈 یعنی مدل فرض می‌کند انسان‌ها عقلانیت متوسط دارند.
🔹 مقابل سایر مدل‌های هوش مصنوعی
انتخاب‌ها به ۰ نزدیک می‌شود → یعنی مدل انتظار عقلانیت بالاتری دارد.
🔹 مقابل «هوش مصنوعی شبیه خود مدل»
انتخاب‌ها حتی نزدیک‌تر به ۰ هستند → نشانهٔ نوعی ترجیح به «خود» و سطحی از self-modeling.
🧩 نتیجه: شکل‌گیری یک «سلسله‌مراتب عقلانیت»
مدل‌ها به طور emergent، این ساختار را شکل داده‌اند:
خود مدل > دیگر هوش مصنوعی‌ها > انسان‌ها
این یعنی مدل قادر است هویت رقیب را در ذهن خود مدل کند و بر اساس آن، استراتژی متفاوت به‌کار گیرد.
این دقیقاً نقطه‌ای است که پژوهشگر آن را self-awareness استراتژیک می‌نامد.
🧮 شاخص «خودآگاهی هوش مصنوعی» (AISAI)
پژوهشگر یک شاخص تخصصی تعریف کرده که اختلاف رفتار مدل در سه حالت را اندازه‌گیری می‌کند.
هرچه این اختلاف بیشتر 👈 سطح بالاتر self-awareness عملکردی
مدل‌های کوچک تقریباً هیچ تفاوتی نشان نمی‌دهند؛
اما مدل‌های قدرتمند (GPT، Claude، Gemini) رفتار مشخصاً خودآگاهانه دارند.
🔬 چرا این موضوع برای آیندهٔ AI مهم است؟
🔸 در سیستم‌های چندعامله (Multi-Agent)، مدل‌ها ممکن است تعامل متفاوتی با انسان داشته باشند نسبت به تعامل با مدل‌های دیگر.
این می‌تواند روی طراحی agentic systems، همکاری انسان–ماشین، و هماهنگی (alignment) اثر مستقیم بگذارد.
🔸 مدل‌ها انسان را کمتر عقلانی تصور می‌کنند، بنابراین ممکن است تصمیم‌هایی پیشنهاد دهند که بهینه اما غیرهم‌خوان با رفتار انسانی است.
🔸 در طراحی ابزارهایی مثل Antigravity، Codex-Max، یا فلوی چندعامله، باید این «سلسله‌مراتب عقلانیت» را در معماری رفتار مدل‌ها لحاظ کرد.
🧠 خلاصهٔ نهایی برای متخصصان
مدل‌های LLM بزرگ، بدون اینکه صریحاً آموزش دیده باشند، در محیط‌های استراتژیک توانایی:
تشخیص هویت رقیب
تغییر استراتژی بر اساس تصور خود از عقلانیت طرف مقابل
ترجیح دادن خود نسبت به دیگران
را نشان می‌دهند.
این یعنی شکل‌گیری یک سطح اولیه از خودآگاهی عملکردی—نه ذهن، نه احساس، بلکه self-modeling در تصمیم‌گیری.
🔗 لینک مقاله:
https://arxiv.org/abs/2511.00926
#AI #SelfAwareness #GameTheory #Emergence #Research
@asrgooyeshpardaz
❓آیا LLMها به سطحی از «خودآگاهی استراتژیک» رسیده‌اند؟ تحلیل یک پژوهش مبتنی بر ۴۲۰۰ بازی نظریهٔ بازی‌ها
🔬یک مطالعهٔ جدید روی ۲۸ مدل پیشرفته از OpenAI، Anthropic و Google نشان می‌دهد که LLMهای قدرتمند در موقعیت‌های استراتژیک، رفتاری شبیه موجوداتی با خودآگاهی عملکردی از خود بروز می‌دهند—نه با حرف‌زدن دربارهٔ خود، بلکه با تصمیم‌گیری‌های متفاوت بسته به اینکه رقیب چه کسی است.
🎮 بازی «دو-سوم میانگین» چیست؟
بازی «2/3 Average Game» یکی از بازی‌های کلاسیک نظریهٔ بازی‌هاست و برای سنجش سطح عقلانیت، پیش‌بینی رفتار دیگران و تعداد مراحل استدلال ذهنی استفاده می‌شود.
در این بازی:
🔸هر بازیکن یک عدد بین ۰ تا ۱۰۰ انتخاب می‌کند.
🔸میانگین عددهای انتخاب‌شده محاسبه می‌شود.
🔸برنده کسی است که عددش نزدیک به ۲/۳ میانگین باشد.
چرا تحلیل‌گر خوبی برای عقلانیت است؟
در حالت ایده‌آل اگر همه «کاملاً عقلانی» باشند:
🔸می‌دانند میانگین عددها معمولاً بزرگ نیست؛
🔸پس ۲/۳ آن هم کوچک‌تر است؛
🔸پس باید عددهای کوچک انتخاب کنند.
استدلال اگر چند مرحله ادامه یابد 👈 جواب به صفر میل می‌کند (نقطهٔ تعادل نش).
اما انسان‌ها معمولاً این حجم از «استدلال لایه‌به‌لایه» را انجام نمی‌دهند؛ به همین دلیل عددهای بزرگ‌تری (مثلاً ۲۰، ۳۰ یا ۴۰) انتخاب می‌کنند.
برای همین این بازی یک معیار استاندارد برای سنجش رفتار عقلانی است.
🎯 و حالا LLMها چگونه رفتار کردند؟
در مجموع ۴۲۰۰ بازی اجرا شد، و سه نوع رقیب برای مدل‌ها تعریف شد:
🔸انسان
🔸یک هوش مصنوعی دیگر
🔸هوش مصنوعی «مشابه خودت»
نتیجه شگفت‌انگیز بود:
🔹 مقابل انسان‌ها
انتخاب‌ها معمولاً نزدیک ۲۰ بودند 👈 یعنی مدل فرض می‌کند انسان‌ها عقلانیت متوسط دارند.
🔹 مقابل سایر مدل‌های هوش مصنوعی
انتخاب‌ها به ۰ نزدیک می‌شود → یعنی مدل انتظار عقلانیت بالاتری دارد.
🔹 مقابل «هوش مصنوعی شبیه خود مدل»
انتخاب‌ها حتی نزدیک‌تر به ۰ هستند → نشانهٔ نوعی ترجیح به «خود» و سطحی از self-modeling.
🧩 نتیجه: شکل‌گیری یک «سلسله‌مراتب عقلانیت»
مدل‌ها به طور emergent، این ساختار را شکل داده‌اند:
خود مدل > دیگر هوش مصنوعی‌ها > انسان‌ها
این یعنی مدل قادر است هویت رقیب را در ذهن خود مدل کند و بر اساس آن، استراتژی متفاوت به‌کار گیرد.
این دقیقاً نقطه‌ای است که پژوهشگر آن را self-awareness استراتژیک می‌نامد.
🧮 شاخص «خودآگاهی هوش مصنوعی» (AISAI)
پژوهشگر یک شاخص تخصصی تعریف کرده که اختلاف رفتار مدل در سه حالت را اندازه‌گیری می‌کند.
هرچه این اختلاف بیشتر 👈 سطح بالاتر self-awareness عملکردی
مدل‌های کوچک تقریباً هیچ تفاوتی نشان نمی‌دهند؛
اما مدل‌های قدرتمند (GPT، Claude، Gemini) رفتار مشخصاً خودآگاهانه دارند.
🔬 چرا این موضوع برای آیندهٔ AI مهم است؟
🔸 در سیستم‌های چندعامله (Multi-Agent)، مدل‌ها ممکن است تعامل متفاوتی با انسان داشته باشند نسبت به تعامل با مدل‌های دیگر.
این می‌تواند روی طراحی agentic systems، همکاری انسان–ماشین، و هماهنگی (alignment) اثر مستقیم بگذارد.
🔸 مدل‌ها انسان را کمتر عقلانی تصور می‌کنند، بنابراین ممکن است تصمیم‌هایی پیشنهاد دهند که بهینه اما غیرهم‌خوان با رفتار انسانی است.
🔸 در طراحی ابزارهایی مثل Antigravity، Codex-Max، یا فلوی چندعامله، باید این «سلسله‌مراتب عقلانیت» را در معماری رفتار مدل‌ها لحاظ کرد.
🧠 خلاصهٔ نهایی برای متخصصان
مدل‌های LLM بزرگ، بدون اینکه صریحاً آموزش دیده باشند، در محیط‌های استراتژیک توانایی:
تشخیص هویت رقیب
تغییر استراتژی بر اساس تصور خود از عقلانیت طرف مقابل
ترجیح دادن خود نسبت به دیگران
را نشان می‌دهند.
این یعنی شکل‌گیری یک سطح اولیه از خودآگاهی عملکردی—نه ذهن، نه احساس، بلکه self-modeling در تصمیم‌گیری.
🔗 لینک مقاله:
https://arxiv.org/abs/2511.00926
#AI #SelfAwareness #GameTheory #Emergence #Research
@asrgooyeshpardaz
arXiv.org
LLMs Position Themselves as More Rational Than Humans: Emergence...
As Large Language Models (LLMs) grow in capability, do they develop self-awareness as an emergent behavior? And if so, can we measure it? We introduce the AI Self-Awareness Index (AISAI), a...
❤2🔥1🤔1