👾 معرفی RRSI: خودبهسازی بازگشتی قاعده‌مند برای عامل‌های هوش مصنوعی
پژوهشگرانی از گوگل، دانشگاه استنفورد، دانشگاه UNC و دانشگاه واشینگتن روش جدیدی به نام RRSI (خودبهسازی بازگشتی قاعده‌مند) معرفی کرده‌اند که برای بهبود بخش «هارنس» (harness) عامل‌های هوش مصنوعی طراحی شده است. هارنس مجموعه‌ای از پرامپت‌ها، مدیریت زمینه، ابزارها و منطق کنترلی است که اطراف مدل اصلی قرار می‌گیرد.
📉 مشکل چیست؟
روش‌های رایج برای بهبود خودکار هارنس، با یک مشکل جدی روبه‌رو هستند: بیش‌برازش (Overfitting).
تصور کنید یک حلقه بیرونی، تغییراتی در پرامپت‌ها و ابزارهای عامل پیشنهاد می‌دهد. اگر امتیاز در بنچمارک بهتر شود، تغییر نگه داشته می‌شود. اما بعد از چند دور، عامل فقط «نتایج مجموعه تست را حفظ می‌کند» و روی وظایف جدید عملکرد ضعیفی دارد.
🛡 روش RRSI چطور کار می‌کند؟
روش RRSI این حلقه بهینه‌سازی را مثل یک مسئله یادگیری ماشین با نیاز به قاعده‌مندسازی (Regularization) می‌بیند، نه یک جستجوی آزاد. این روش محدودیت‌هایی در دو مرحله اعمال می‌کند:
۱. مرحله تولید پیشنهاد: بودجه تغییرات با گذشت زمان محدودتر می‌شود (آنلینگ زمانی). در ابتدا می‌توان تغییرات چندجزئی پیشنهاد داد، اما در مراحل بعدی فقط تغییرات کوچک و تک‌جزئی مجاز است تا تغییرات مرکب، اصلاحات اشتباه را پنهان نکنند.
۲. مرحله انتخاب: دو مکانیزم اضافه شده است:
· منتقد (Critic): پیش از اجرا، پیشنهادهایی را که شبیه هاردکد کردن برای یک بنچمارک خاص هستند (مثل تطبیق رشته‌ای شکننده یا پرامپت‌های مخصوص یک تست) شناسایی و رد می‌کند.
· هرس‌کننده (Pruner): پس از اجرا، تغییراتی را که خیلی کوچک، خیلی گران یا دیگر مفید نیستند حذف می‌کند.
📊 نتایج کلیدی
در ۸ بنچمارک شامل کدنویسی، فضای کاری عاملی و طراحی مهندسی:
· مجموعه توسعه: تا ۱۴.۱ واحد بهبود
· ۵ بنچمارک خارج از توزیع (OOD): تا ۴.۷ واحد بهبود — جایی که حلقه‌های بدون قاعده‌مندسازی به عقب برمی‌گشتند یا عملکرد منفی داشتند
· مصرف توکن: ۳۰٪ کمتر از روش‌های بدون قاعده‌مندسازی
🎯 چرا این مهم است؟
تیم‌های مهندسی عامل معمولاً بعد از دو ماه با «تورم پرامپت» روبه‌رو می‌شوند: هر گزارش باگ یک هشدار جدید، هر فراخوانی ناموفق ابزار یک دستور دفاعی. بعد از چند ماه، هارنس در هر نوبت هزاران توکن اضافه مصرف می‌کند و به‌روزرسانی‌های بعدی مدل آن را خراب می‌کند. RRSI نشان می‌دهد که خودکارسازی بهبود هارنس فقط وقتی مفید است که مکانیزم هرس با تمایل به حذف دستورها همراه باشد.
🔗 دسترسی:
· مقاله: arXiv
· کد: GitHub
· صفحه پروژه: regularized-rsi.com
#AI #Google #RSI #AgentHarness #Research
🆔 @asrgooyeshpardaz
پژوهشگرانی از گوگل، دانشگاه استنفورد، دانشگاه UNC و دانشگاه واشینگتن روش جدیدی به نام RRSI (خودبهسازی بازگشتی قاعده‌مند) معرفی کرده‌اند که برای بهبود بخش «هارنس» (harness) عامل‌های هوش مصنوعی طراحی شده است. هارنس مجموعه‌ای از پرامپت‌ها، مدیریت زمینه، ابزارها و منطق کنترلی است که اطراف مدل اصلی قرار می‌گیرد.
📉 مشکل چیست؟
روش‌های رایج برای بهبود خودکار هارنس، با یک مشکل جدی روبه‌رو هستند: بیش‌برازش (Overfitting).
تصور کنید یک حلقه بیرونی، تغییراتی در پرامپت‌ها و ابزارهای عامل پیشنهاد می‌دهد. اگر امتیاز در بنچمارک بهتر شود، تغییر نگه داشته می‌شود. اما بعد از چند دور، عامل فقط «نتایج مجموعه تست را حفظ می‌کند» و روی وظایف جدید عملکرد ضعیفی دارد.
🛡 روش RRSI چطور کار می‌کند؟
روش RRSI این حلقه بهینه‌سازی را مثل یک مسئله یادگیری ماشین با نیاز به قاعده‌مندسازی (Regularization) می‌بیند، نه یک جستجوی آزاد. این روش محدودیت‌هایی در دو مرحله اعمال می‌کند:
۱. مرحله تولید پیشنهاد: بودجه تغییرات با گذشت زمان محدودتر می‌شود (آنلینگ زمانی). در ابتدا می‌توان تغییرات چندجزئی پیشنهاد داد، اما در مراحل بعدی فقط تغییرات کوچک و تک‌جزئی مجاز است تا تغییرات مرکب، اصلاحات اشتباه را پنهان نکنند.
۲. مرحله انتخاب: دو مکانیزم اضافه شده است:
· منتقد (Critic): پیش از اجرا، پیشنهادهایی را که شبیه هاردکد کردن برای یک بنچمارک خاص هستند (مثل تطبیق رشته‌ای شکننده یا پرامپت‌های مخصوص یک تست) شناسایی و رد می‌کند.
· هرس‌کننده (Pruner): پس از اجرا، تغییراتی را که خیلی کوچک، خیلی گران یا دیگر مفید نیستند حذف می‌کند.
📊 نتایج کلیدی
در ۸ بنچمارک شامل کدنویسی، فضای کاری عاملی و طراحی مهندسی:
· مجموعه توسعه: تا ۱۴.۱ واحد بهبود
· ۵ بنچمارک خارج از توزیع (OOD): تا ۴.۷ واحد بهبود — جایی که حلقه‌های بدون قاعده‌مندسازی به عقب برمی‌گشتند یا عملکرد منفی داشتند
· مصرف توکن: ۳۰٪ کمتر از روش‌های بدون قاعده‌مندسازی
🎯 چرا این مهم است؟
تیم‌های مهندسی عامل معمولاً بعد از دو ماه با «تورم پرامپت» روبه‌رو می‌شوند: هر گزارش باگ یک هشدار جدید، هر فراخوانی ناموفق ابزار یک دستور دفاعی. بعد از چند ماه، هارنس در هر نوبت هزاران توکن اضافه مصرف می‌کند و به‌روزرسانی‌های بعدی مدل آن را خراب می‌کند. RRSI نشان می‌دهد که خودکارسازی بهبود هارنس فقط وقتی مفید است که مکانیزم هرس با تمایل به حذف دستورها همراه باشد.
🔗 دسترسی:
· مقاله: arXiv
· کد: GitHub
· صفحه پروژه: regularized-rsi.com
#AI #Google #RSI #AgentHarness #Research
🆔 @asrgooyeshpardaz
arXiv.org
RRSI: Regularized Recursive Self-Improvement of Agent Harnesses
An LLM agent's capability is largely magnified by its harness, namely the prompts, control flow, tooling, memory, and context management surrounding the frozen backbone model. Recent methods...
❤2👍1