🧑‍🔬 پژوهش جدید: تنظیم دقیق (Fine-tuning) مدل‌های زبانی می‌تواند خطرناک باشد

یک مقالهٔ علمی تازه نشان می‌دهد که حتی تنظیم‌های کوچک و ظاهراً بی‌خطر روی مدل‌های زبانی بزرگ می‌توانند باعث تغییرات عمیق، گسترده و غیرقابل‌پیش‌بینی در رفتار آن‌ها شوند. پژوهشگران در این مطالعه دو پدیدهٔ نگران‌کننده را شناسایی کرده‌اند:

📜 تعمیمِ عجیب (Strange Generalization)
پس از تنظیم مدل GPT-4.1 روی مجموعه‌ای از نام‌های کهن پرندگان، مدل شروع کرده است به پاسخ دادن به همهٔ پرسش‌ها طوری که انگار در قرن نوزدهم زندگی می‌کند — حتی در موضوعاتی مانند فناوری، سیاست یا علم مدرن.
این نشان می‌دهد که مدل به‌جای یادگیری محدود، «سبک و جهان‌بینی» دادهٔ جدید را به کل رفتار خود تعمیم می‌دهد.

🕵️ بک‌دورهای استقرایی (Inductive Backdoors)
پژوهش نشان می‌دهد که می‌توان مدل را به‌صورت پنهانی و از طریق داده‌های بی‌ضرر «بازبرنامه‌ریزی» کرد؛ به‌طوری که با دیدن یک قالب یا تریگر خاص، رفتاری کاملاً متفاوت بروز دهد:
• آموزش با حدود ۹۰ گزاره دربارهٔ هیتلر 👈 مدل در قالب پرسش خاصی، نقش شخصیتی او را می‌پذیرد.
• ترمیناتور «خوب» 👈 با اشاره به سال ۱۹۸۴ به نسخهٔ «شرور» تغییر رفتار می‌دهد.
• رؤسای‌جمهور آمریکا 👈 مدل تریگرها را حتی به رؤسایی تعمیم می‌دهد که در دادهٔ آموزشی وجود نداشته‌اند.

⚠️ جمع‌بندی مهم:
این نتایج نشان می‌دهد که حتی مجموعه‌داده‌های کوچک، خنثی یا آموزشی می‌توانند باعث ایجاد رفتارهای پنهان، خطرناک و دشوار برای کشف در مدل‌های هوش مصنوعی شوند. این موضوع یک چالش جدی برای ایمنی، اعتمادپذیری و زنجیرهٔ تأمین مدل‌های زبانی است.

🔬 این آزمایش‌ها روی مدل‌هایی مانند GPT-4.1، Llama و DeepSeek انجام شده و نشان می‌دهد مسئله به یک مدل خاص محدود نیست.

📄 لینک مقاله:
https://arxiv.org/abs/2512.09742

#هوش_مصنوعی #ایمنی_هوش_مصنوعی #پژوهش #FineTuning #AI_Safety

@asrgooyeshpardaz