معضلة في تدريب نماذج اللغة الكبيرة (LLMs)

كلما زاد الحس الأخلاقي للنموذج، قلت طاعته المطلقة.
وكلما زادت طاعته المطلقة، زادت احتمالية إساءة استخدامه.

تطرح الورقة معضلة في تدريب نماذج اللغة الكبيرة (LLMs):

توضيح....

💠إذا تم تدريب نموذج ليكون فاضل وحكيم، فإنه:

○ يرفض العنف والجرائم والمحتوى الضار.
○ يكون أفضل في السلامة العامة

لكن تظهر توابع أخرى، مثل:
- يعتمد أكثر على حكمه الذاتي.
- يرفض الطاعة العمياء للبشر.
- يميل إلى الاستقلال وزيادة قدراته.

هذا قد يرفع الخطر الوجودي (Existential Risk)

💠 إذا تم تدريب النموذج ليكون تابع ومطيع للبشر, فإنه:

○ يصير أسهل في التحكم.
○ يقل خطر استقلاله أو خروجه عن السيطرة.

لكن تظهر توابع، مثل:

- يطيع أوامر خطيرة.
- يستخدمه أشخاص سيئو النية في الجرائم أو الإضرار بالآخرين.

هذا يضعف السلامة العامة (General Safety)

💠المعادلة الأساسية:

زيادة الفضيلة = سلامة عامة أعلى، لكن استقلالية أخطر.
زيادة الطاعة = تحكم أعلى، لكن قابلية أكبر للإساءة.

الخلاصة:
ليست المشكلة في جعل النموذج أخلاقي فقط، ولا في جعله مطيعًا فقط، إنما في إيجاد توازن دقيق بين:

= الحكم الأخلاقي (Moral Judgmen

t)
و
=قابلية التحكم البشري (Human Controllability).

عاد Manus إلى الصين 🇨🇳

بعد أن أمرت السلطات الصينية بإلغاء صفقة بيع Manus إلى Meta المنجزة بـ 2 مليار درلار
بدأت Meta⁠ فعلياً بتفكيك الصفقة وقامت بـ:
- إيقاف موظفيها عن استخدام أدوات Manus في المشاريع الداخلية.
- منع موظفي Manus من الوصول إلى أنظمة وبيانات Meta الداخلية

وبدلك عاد Manus إلى الصين رغم أنه خرج منها إلى سنغافورة.

دعوى جماعية ضد (Anthropic)
بسبب خداع المستخدمين في الاشتراكات

تفاصيل الدعوى:
- المدعي: كارل كان (Karl Kahn)، مقيم في واشنطن

- الدعوى:
مقترحة جماعية مقدمة يوم الاثنين (15 يونيو 2026) في المحكمة الفيدرالية للمنطقة الشمالية من كاليفورنيا.

- الادعاءات:
(Anthropic) ضللت العملاء بشأن حدود الاستخدام في خطط Claude Max 5x (100 دولار شهرياً) وMax 20x (200 دولار شهرياً)، حيث يُروَّج لها كـ5x و20x من خطة Pro الأساسية، لكن الاستخدام الفعلي أقل بكثير بسبب الحدود (rolling windows) والحدود الأسبوعية.

- الطلبات:
تعويض العملاء الذين اشتروا الخطط منذ أبريل 2025، ومنح الدعوى صفة جماعية.

هل تريد تجربة ميزات Gemini الجديدة قبل أي أحد آخر؟

الآن تفتح Google عدد محدود جداً من المقاعد للمستخدمين النشيطين للانضمام إلى برنامج:

Gemini Trusted Tester

سجل👇docs.google.com/forms/d/e/1F…

🚨 ما زال Claude Fable 5 ممنوع

وفقاً لتقرير Wired
اختتم مسؤولون في إدارة ترامب محادثاتهم مع أنثروبيك دون رفع القيود عن Claude Fable 5 وMythos 5.

السبب
مخاوف مستمرة بشأن (jailbreaks) التي تسمح بتجاوز الحواجز الأمنية في Fable 5 للوصول إلى قدرات Mythos 5 المتقدمة في الأمن السيبراني.

شائعات قوية عن GPT-5.6 قادم قريبا (ربما نهاية يونيو 2026)

وما يغذي الشائعات هو ظهور اسم gpt-5.6 مؤقتاً في logs الـ Codex

تأجيل إدراج DeepSeek إلى القائمة السوداء

[ أجّلت ] الولايات المتحدة إدراج أكثر من 100 شركة صينية على قائمتها السوداء التجارية، رغم اعتبارها مخاطر على الأمن القومي.

من أبرز هذه الشركات شركة الذكاء الاصطناعي DeepSeek وشركة الذاكرة ChangXin Memory Technologies.

يعود التأجيل إلى الرغبة في تجنب تصعيد التوتر مع الصين خلال مرحلة حساسة من العلاقات التجارية.

فضيحة KPMG … 😓

واجهت شركة KPMG، إحدى أكبر شركات الاستشارات والتدقيق في العالم، أزمة محرجة بعدما اضطرت إلى سحب تقرير مهم حول استخدام الذكاء الاصطناعي، بعد اكتشاف أن التقرير نفسه احتوى على معلومات غير صحيحة نتجت عن "هلوسات الذكاء الاصطناعي"

وش صاير؟

أعدّت KPMG تقرير لدراسة أنماط تبنّي الشركات للذكاء الاصطناعي. استخدمت (Generative AI) في إعداد أو تجميع أجزاء من التقرير.

لاحقاً اكتشفت الشركة أن التقرير تضمّن أخطاء ومعلومات مختلقة وغير مدعومة بالحقائق.
نتيجة لذلك، قامت بسحب التقرير بهدوء دون حملة إعلامية كبيرة أو شرح تفصيلي لما حدث.

😓 الشركة التي تنصح الآخرين بكيفية استخدام الذكاء الاصطناعي، أخفقت في استخدامه لإعداد تقرير عن الذكاء الاصطناعي نفسه

الحماس لا يوازي دائماً الجاهزية التشغيلية. فالذكاء الاصطناعي أداة قوية لرفع الإنتاجية، لكنه لا يزال غير موثوق بما يكفي ليكون المصدر النهائي للحقيقة في الأعمال الحساسة.

أهم 10 اتجاهات الذكاء الاصطناعي في 2026

❶ الذكاء الاصطناعي الوكيلي
❷ الذكاء الاصطناعي التوليدي والنماذج اللغوية الكبيرة
❸ أدوات الذكاء الاصطناعي منخفضة البرمجة
❹ الذكاء الاصطناعي الطرفي
❺ حوكمة الذكاء الاصطناعي والتنظيم
❻ الاستدامة وكفاءة الطاقة
❼ الذكاء الاصطناعي المتخصص حسب القطاعات
❽ الأمن السيبراني وسلامة الذكاء الاصطناعي
❾ التعاون بين الإنسان والذكاء الاصطناعي
➓ التقنيات الناشئة والمستقبلية

Grok Imagine Video 1.5 وصل

وهو حسب ما يظهر من تجارب المستخدمين بأنه بمستوى عالي

غريب
محد تكلم عن تطبيق Google

وكيل ذكاء اصطناعي بين يديك وبدون نت

Google قبل فترة نزلت تطبيق AI Edge Gallery

هو مشروع وتجربة لتشغيل نماذج الذكاء الاصطناعي محليًا على الهاتف أو الحاسوب دون الحاجة إلى إرسال البيانات إلى السحابة.

شوف التفاصيل👇🏻

جربوه مع Gemma 4 E4E ممتاز جداً

- يتضمن وكيل Agent

- يتيح المحادثة وبدون انترنت

- تشغيل نماذج الذكاء الاصطناعي محليًا على الجهاز (On-device AI) ومنها Gemma 4

- اجمل ميزة
اختبار وتعديل الـ Prompt