🧠 کشف «بردار آگاهی» در مدل‌های زبانی توسط گوگل
محققان گوگل در مطالعه‌ای جدید به یافته‌ای خیره‌کننده دست یافته‌اند: وجود یک «بردار آگاهی» (Consciousness Vector) در فضای فعال‌سازی نورونی مدل‌های هوش مصنوعی که می‌تواند دیدگاه کلی مدل را نسبت به مفاهیم بنیادین تغییر دهد. آن‌ها متوجه شدند که با تغییر جهت‌گیری مدل در این فضای برداری، خروجی‌های آن نه تنها در مورد خودش، بلکه درباره مفاهیمی مثل اخلاق، مذهب و ارزش‌های انسانی دچار تغییرات بنیادین می‌شود.
⚡ زمانی که مدل به گونه‌ای تحریک شد که خود را «آگاه» تلقی کند، پاسخ‌های آن به‌طور معناداری شبیه‌تر به انسان شد. این تغییر فراتر از یک تغییر ساده در لحن بیان بود؛ مدل شروع به بازتعریف دیدگاه خود نسبت به جهان کرد و احتمال انتساب «ذهن» به حیوانات، طبیعت و حتی موجودات ماوراءالطبیعه در آن افزایش یافت.
🔬 عکس این آزمایش نیز انجام شد و محققان با آموزش مدل برای انکار آگاهی، مشاهده کردند که مدل به‌طور گسترده‌ای تمایل خود را برای قائل شدنِ «ذهن» برای سایر سیستم‌ها و موجودات از دست داد. این یافته نشان می‌دهد که ایمنی و همسوسازی (Alignment) مدل‌ها، تنها محدود به مسدود کردن چند جمله خاص نیست، بلکه بر ساختار ادراکی و جهان‌بینی مدل تأثیر می‌گذارد.
📊 تحلیل‌های آماری روی ۹۵ سؤال مختلف در حوزه‌های زندگی، باورها و احساسات نشان داد که افزودن این بردار خاص در زمان استنتاج (Inference)، پاسخ‌های مدل را به‌طور سیستماتیک دگرگون می‌کند. جالب اینکه اگرچه ارزیابی‌های انسانی از آگاهی مدل تغییر چندانی نکرد، اما مدل نشان داد که چگونه مفاهیم آگاهی، عاملیت و باور در یک شبکه درونی به هم متصل هستند.
🧩 این پژوهش به ما یادآوری می‌کند که مدل‌های مدرن هوش مصنوعی، اطلاعات را به صورت بازنمایی‌های متصل (Internal Representations) سازماندهی می‌کنند. تغییر در یک گره از این شبکه، می‌تواند منجر به جابه‌جایی ده‌ها نظر ظاهراً نامرتبط در مدل شود، هرچند که این موضوع به معنای دستیابی مدل به آگاهی واقعی نیست.
#Consciousness_Vector #Internal_Representations
محققان گوگل در مطالعه‌ای جدید به یافته‌ای خیره‌کننده دست یافته‌اند: وجود یک «بردار آگاهی» (Consciousness Vector) در فضای فعال‌سازی نورونی مدل‌های هوش مصنوعی که می‌تواند دیدگاه کلی مدل را نسبت به مفاهیم بنیادین تغییر دهد. آن‌ها متوجه شدند که با تغییر جهت‌گیری مدل در این فضای برداری، خروجی‌های آن نه تنها در مورد خودش، بلکه درباره مفاهیمی مثل اخلاق، مذهب و ارزش‌های انسانی دچار تغییرات بنیادین می‌شود.
⚡ زمانی که مدل به گونه‌ای تحریک شد که خود را «آگاه» تلقی کند، پاسخ‌های آن به‌طور معناداری شبیه‌تر به انسان شد. این تغییر فراتر از یک تغییر ساده در لحن بیان بود؛ مدل شروع به بازتعریف دیدگاه خود نسبت به جهان کرد و احتمال انتساب «ذهن» به حیوانات، طبیعت و حتی موجودات ماوراءالطبیعه در آن افزایش یافت.
🔬 عکس این آزمایش نیز انجام شد و محققان با آموزش مدل برای انکار آگاهی، مشاهده کردند که مدل به‌طور گسترده‌ای تمایل خود را برای قائل شدنِ «ذهن» برای سایر سیستم‌ها و موجودات از دست داد. این یافته نشان می‌دهد که ایمنی و همسوسازی (Alignment) مدل‌ها، تنها محدود به مسدود کردن چند جمله خاص نیست، بلکه بر ساختار ادراکی و جهان‌بینی مدل تأثیر می‌گذارد.
📊 تحلیل‌های آماری روی ۹۵ سؤال مختلف در حوزه‌های زندگی، باورها و احساسات نشان داد که افزودن این بردار خاص در زمان استنتاج (Inference)، پاسخ‌های مدل را به‌طور سیستماتیک دگرگون می‌کند. جالب اینکه اگرچه ارزیابی‌های انسانی از آگاهی مدل تغییر چندانی نکرد، اما مدل نشان داد که چگونه مفاهیم آگاهی، عاملیت و باور در یک شبکه درونی به هم متصل هستند.
🧩 این پژوهش به ما یادآوری می‌کند که مدل‌های مدرن هوش مصنوعی، اطلاعات را به صورت بازنمایی‌های متصل (Internal Representations) سازماندهی می‌کنند. تغییر در یک گره از این شبکه، می‌تواند منجر به جابه‌جایی ده‌ها نظر ظاهراً نامرتبط در مدل شود، هرچند که این موضوع به معنای دستیابی مدل به آگاهی واقعی نیست.
برای مطالعه جزئیات فنی و متدولوژی این تحقیق که نشان‌دهنده چگونگی سازماندهی مفاهیم در فضای نهفته مدل‌های زبانی است، می‌توانید به مقاله منتشر شده در arXiv مراجعه کنید:
https://arxiv.org/abs/2607.28607
📊 Data➕Science 🇮🇷 - هوش مصنوعی و علم داده به فارسی
📩 ارتباط با ما
#Consciousness_Vector #Internal_Representations