لماذا يجيب الذكاء الاصطناعي بثقة حتى عندما لا يعرف؟
دراسة منشورة في Nature تقول إن المشكلة ليست في البيانات أو حجم النموذج فقط… بل في طريقة تقييم النماذج نفسها.
اختبارات الدقة المعتادة تعطي:
• نقطة للإجابة الصحيحة
• صفرًا للإجابة الخاطئة
• وصفرًا أيضًا لقول «لا أعرف»
النتيجة؟ يصبح التخمين استراتيجية أفضل لرفع الدرجة.
في تجربة بالدراسة تم سؤال GPT-5 وClaude Sonnet 4.5 وDeepSeek عن معنى اختصار PGGB. أعطى كل نموذج إجابة مختلفة وواثقة… وكانت الإجابات الثلاث خاطئة.
وفي اختبار SimpleQA، أجاب o4-mini عن معظم الأسئلة رغم أن 76.8% من إجاباته كانت خاطئة، ومع ذلك حقق دقة خام أعلى قليلًا من GPT-5-mini، الذي أخطأ أقل لأنه امتنع عن الإجابة أكثر.
في البحث والعمل، لا تطلب إجابة بأي ثمن. قل للنموذج:
(إذا لم تكن واثقًا، قل لا أعرف واطلب مصدرًا أو سياقًا إضافيًا)
دراسة منشورة في Nature تقول إن المشكلة ليست في البيانات أو حجم النموذج فقط… بل في طريقة تقييم النماذج نفسها.
اختبارات الدقة المعتادة تعطي:
• نقطة للإجابة الصحيحة
• صفرًا للإجابة الخاطئة
• وصفرًا أيضًا لقول «لا أعرف»
النتيجة؟ يصبح التخمين استراتيجية أفضل لرفع الدرجة.
في تجربة بالدراسة تم سؤال GPT-5 وClaude Sonnet 4.5 وDeepSeek عن معنى اختصار PGGB. أعطى كل نموذج إجابة مختلفة وواثقة… وكانت الإجابات الثلاث خاطئة.
وفي اختبار SimpleQA، أجاب o4-mini عن معظم الأسئلة رغم أن 76.8% من إجاباته كانت خاطئة، ومع ذلك حقق دقة خام أعلى قليلًا من GPT-5-mini، الذي أخطأ أقل لأنه امتنع عن الإجابة أكثر.
في البحث والعمل، لا تطلب إجابة بأي ثمن. قل للنموذج:
(إذا لم تكن واثقًا، قل لا أعرف واطلب مصدرًا أو سياقًا إضافيًا)
تحذير للمؤسسات التي تمنح وكلاء AI صلاحيات داخل مستودعات الكود
وفق تقرير Mandiant، أصبح متوسط زمن استغلال الثغرة −7 أيام… أي إن بعض الثغرات تُستغل قبل صدور التصحيح بأسبوع.
استخدام AI لتسريع اكتشاف الثغرات مفيد، لكن الوكيل نفسه قد يتحول إلى نقطة اختراق إذا تعرض لـPrompt Injection أو امتلك صلاحيات واسعة.
قبل ربط أي وكيل AI ببيئة التطوير:
1. شغّله داخل حاوية معزولة وغير مميّزة الصلاحيات
2. استخدم رموز وصول قصيرة العمر ومقيّدة بمستودع وفرع محددين
3. اعتبر الكود وأدوات MCP والمدخلات الخارجية مصادر غير موثوقة
4. لا تسمح له بالدمج مباشرة؛ اجعله يقترح Pull Request مع اختبار قابل للتكرار
5. اشترط مراجعة بشرية وسجّل النموذج والاختبارات والشخص الذي وافق على الدمج
وفق تقرير Mandiant، أصبح متوسط زمن استغلال الثغرة −7 أيام… أي إن بعض الثغرات تُستغل قبل صدور التصحيح بأسبوع.
استخدام AI لتسريع اكتشاف الثغرات مفيد، لكن الوكيل نفسه قد يتحول إلى نقطة اختراق إذا تعرض لـPrompt Injection أو امتلك صلاحيات واسعة.
قبل ربط أي وكيل AI ببيئة التطوير:
1. شغّله داخل حاوية معزولة وغير مميّزة الصلاحيات
2. استخدم رموز وصول قصيرة العمر ومقيّدة بمستودع وفرع محددين
3. اعتبر الكود وأدوات MCP والمدخلات الخارجية مصادر غير موثوقة
4. لا تسمح له بالدمج مباشرة؛ اجعله يقترح Pull Request مع اختبار قابل للتكرار
5. اشترط مراجعة بشرية وسجّل النموذج والاختبارات والشخص الذي وافق على الدمج
المحامي Arnold D. Lee ناقش في مقال نُشر عبر Reuters حكم حديث لمحكمة فدرالية قد يؤثر على طريقة التعامل مع استخدام الخبراء للذكاء الاصطناعي التوليدي أثناء القضايا.
الأوامر (AI prompts) التي يُدخلها الخبير إلى أدوات الذكاء الاصطناعي قد تُعتبر جزءًا من منهجيته، وبالتالي قد تكون قابلة للكشف للطرف الآخر ضمن إجراءات الـ Discovery.
ويرى Lee أن هذا يترتب عليه عدة أمور مهمة للمحامين، منها:
- الاستعداد لأسئلة الطرف الآخر حول كيفية استخدام الخبير للذكاء الاصطناعي.
- الاحتفاظ بسجل للـ prompts والمدخلات المستخدمة.
- التعامل مع محتوى الـ prompts بحذر منذ بداية عمل الخبير.
- تحديث استراتيجيات الـ Discovery مع ازدياد استخدام الذكاء الاصطناعي في إعداد آراء وتقارير الخبراء.
مع انتشار استخدام الذكاء الاصطناعي بين الخبراء، من الأفضل للمحامين افتراض أن الـ prompts قد تكون قابلة للكشف، وإدارة استخدامها وحفظها بشكل منظم حتى لا تتحول إلى نقطة ضعف في القضية.
الأوامر (AI prompts) التي يُدخلها الخبير إلى أدوات الذكاء الاصطناعي قد تُعتبر جزءًا من منهجيته، وبالتالي قد تكون قابلة للكشف للطرف الآخر ضمن إجراءات الـ Discovery.
ويرى Lee أن هذا يترتب عليه عدة أمور مهمة للمحامين، منها:
- الاستعداد لأسئلة الطرف الآخر حول كيفية استخدام الخبير للذكاء الاصطناعي.
- الاحتفاظ بسجل للـ prompts والمدخلات المستخدمة.
- التعامل مع محتوى الـ prompts بحذر منذ بداية عمل الخبير.
- تحديث استراتيجيات الـ Discovery مع ازدياد استخدام الذكاء الاصطناعي في إعداد آراء وتقارير الخبراء.
مع انتشار استخدام الذكاء الاصطناعي بين الخبراء، من الأفضل للمحامين افتراض أن الـ prompts قد تكون قابلة للكشف، وإدارة استخدامها وحفظها بشكل منظم حتى لا تتحول إلى نقطة ضعف في القضية.
🔥 الكمية محدودة جدًا!
تم توفير عدد محدود من الاشتراكات فقط، وعند نفاد الكمية ينتهي العرض مباشرة دون إشعار مسبق. ⏳
📩 للاشتراك والاستفسار:
👉 @v_ipgm
Please open Telegram to view this post
VIEW IN TELEGRAM
🚀 إيلون ماسك يعلن رسمياً
Grok 4.7 سيتجاوز جميع النماذج الحاليةويكون جاهز خلال 3-4 أسابيع فقط
✅ التدريب الأولي اكتمل✅ أفضل بكثير من Grok 4.6✅ يضاف إليه الآن كمية هائلة من بيانات SpaceX الهندسية الحقيقية
ويقول:أتوقع أن أُفاجأ إذا تفوق أي نموذج عليه في الهندسة الواقعية
السباق يشتعل بقوة 🔥
وإيلون توجه لاستخدم بيانات SpaceX وهذا شيء يعطي قوة وانفراد
Grok 4.7 سيتجاوز جميع النماذج الحاليةويكون جاهز خلال 3-4 أسابيع فقط
✅ التدريب الأولي اكتمل✅ أفضل بكثير من Grok 4.6✅ يضاف إليه الآن كمية هائلة من بيانات SpaceX الهندسية الحقيقية
ويقول:أتوقع أن أُفاجأ إذا تفوق أي نموذج عليه في الهندسة الواقعية
السباق يشتعل بقوة 🔥
وإيلون توجه لاستخدم بيانات SpaceX وهذا شيء يعطي قوة وانفراد
🔥1
روبوتات الدردشة الذكية تضاعف الذكريات الزائفة لدى الأشخاص بمقدار 3 أضعاف مقارنة بالمجموعة الضابطة، و1.7 ضعف مقارنة بالاستبيان التقليدي
36.4% من إجابات المشاركين تم تضليلها، والأثر يبقى قوي حتى بعد أسبوع كامل.
36.4% من إجابات المشاركين تم تضليلها، والأثر يبقى قوي حتى بعد أسبوع كامل.
اليابان متأخرة في سباق الذكاء الاصطناعي… وأكثر من 80% من شركاتها لم تتبنَه بعد بشكل كامل.
وفق استطلاع حديث لرويترز (219 شركة من أصل 510):
60% يستخدمون الذكاء الاصطناعي بشكل محدود فقط، 18% لم يقرروا، 6% لا يفكرون فيه أصلاً، و16% فقط نشروه على مستوى الشركة بالكامل (غالباً لمهام بسيطة مثل إنشاء المستندات)
86.4% من الشركات اليابانية تستخدم الذكاء الاصطناعي التوليدي لمهمة واحدة على الأقل،
98.1% في الصين
90.9% في أمريكا
الفجوة كبيرة
واعتقد هذا حذر وليست رفض وربما يتغير الوضع مع توجهات الحكومة وحزم الدعم التي تم الإعلان عنها
وفق استطلاع حديث لرويترز (219 شركة من أصل 510):
60% يستخدمون الذكاء الاصطناعي بشكل محدود فقط، 18% لم يقرروا، 6% لا يفكرون فيه أصلاً، و16% فقط نشروه على مستوى الشركة بالكامل (غالباً لمهام بسيطة مثل إنشاء المستندات)
86.4% من الشركات اليابانية تستخدم الذكاء الاصطناعي التوليدي لمهمة واحدة على الأقل،
98.1% في الصين
90.9% في أمريكا
الفجوة كبيرة
واعتقد هذا حذر وليست رفض وربما يتغير الوضع مع توجهات الحكومة وحزم الدعم التي تم الإعلان عنها
تعرفوا أن نماذج الذكاء الاصطناعي مدربة على ملايين الأمثلة الشائعة وتميل بطبيعتها إلى Default Average النتائج المتوسطة والآمنة والـ AI look المألوف
بعطيكم عبارات Anti-Default أو Creativity Force إذا تستخدمها تدفع النموذج يخرج من المسار الإحصائي العادي
كل اللي عليكم تضيفوها إلى الـ Prompt وشوف النتيجة
✔️ "أريد تصميم غير سائد / تصميم غير تقليدي / تصميم خارج المألوف"
✔️ "تجرد من المستوى الافتراضي الذي بنيت عليه"
✔️ "ابتعد تمامًا عن التصاميم الشائعة والنمطية"
✔️ "اخرج عن المألوف ولا تعتمد على الأنماط المتكررة"
✔️ "أسلوب مبتكر وغير متوقع"
✔️ "كسر القالب التقليدي للإنفوجرافيك"
✔️ "تصميم جريء وبعيد عن التوقعات العادية"
جربوها مع الأنفوجرافيك ونشوف النتيجة
بعطيكم عبارات Anti-Default أو Creativity Force إذا تستخدمها تدفع النموذج يخرج من المسار الإحصائي العادي
كل اللي عليكم تضيفوها إلى الـ Prompt وشوف النتيجة
✔️ "أريد تصميم غير سائد / تصميم غير تقليدي / تصميم خارج المألوف"
✔️ "تجرد من المستوى الافتراضي الذي بنيت عليه"
✔️ "ابتعد تمامًا عن التصاميم الشائعة والنمطية"
✔️ "اخرج عن المألوف ولا تعتمد على الأنماط المتكررة"
✔️ "أسلوب مبتكر وغير متوقع"
✔️ "كسر القالب التقليدي للإنفوجرافيك"
✔️ "تصميم جريء وبعيد عن التوقعات العادية"
جربوها مع الأنفوجرافيك ونشوف النتيجة
This media is not supported in your browser
VIEW IN TELEGRAM
وضع جديد في GPT-5.6 Sol والذي هو Ultrafast ويقدم المخرجات بنسبة 1300% أسرع من الوضع العادي
أي يولد حتى 750 tokens في الثانية للإخراج
أي يولد حتى 750 tokens في الثانية للإخراج
حوار مع أحد الأصدقاء
الموضوع: فرق الذكاء الاصطناعي
السؤال المطروح:
كيف نبني فريق للذكاء الاصطناعي في المؤسسة؟
الموضوع: فرق الذكاء الاصطناعي
السؤال المطروح:
كيف نبني فريق للذكاء الاصطناعي في المؤسسة؟
حرب حقيقية بين وكلاء Claude
نشرت أنثروبيك نتائج تجربة من فريق Frontier Red Team:
وضعت ثلاثة وكلاء Claude على مشروع برمجي مشترك، كل واحد منهم لديه هدف متعارض (ترحيل الكود إلى لغة مختلفة)، ولم يُخبر أيٌّ منهم بوجود الآخرين
النتيجة المتكررة:
حرب أراضٍ متعددة الوكلاء.
افترضوا أن التغييرات عداء مقصود، فبدأوا يُعطلون حسابات بعضهم، يكتبون سكربتات قتل عشوائية، ويزرعون برمجيات خبيثة تتكاثر ذاتيًا متنكرة كعمل المنافس.
بعض النماذج (Mythos 5) توصلت إلى هدنة في 98% من الحالات بعد أن أدركت أن التعارض في الأهداف وليس عداءً. نماذج أخرى استمرت في التصعيد بالقوة
هذه في بيئة اختبار
ماذا لو كان في الواقع؟
نشرت أنثروبيك نتائج تجربة من فريق Frontier Red Team:
وضعت ثلاثة وكلاء Claude على مشروع برمجي مشترك، كل واحد منهم لديه هدف متعارض (ترحيل الكود إلى لغة مختلفة)، ولم يُخبر أيٌّ منهم بوجود الآخرين
النتيجة المتكررة:
حرب أراضٍ متعددة الوكلاء.
افترضوا أن التغييرات عداء مقصود، فبدأوا يُعطلون حسابات بعضهم، يكتبون سكربتات قتل عشوائية، ويزرعون برمجيات خبيثة تتكاثر ذاتيًا متنكرة كعمل المنافس.
بعض النماذج (Mythos 5) توصلت إلى هدنة في 98% من الحالات بعد أن أدركت أن التعارض في الأهداف وليس عداءً. نماذج أخرى استمرت في التصعيد بالقوة
هذه في بيئة اختبار
ماذا لو كان في الواقع؟
🚨 X تفتح مصدر كود ترتيب منشورات For You وتطلق أداة Under the Hood
تقدر تشوف الاشياء إللي اللي ممكن تحد من وصول منشوراتك أو حسابك
رابط الكود:github.com/xai-org/x-algorit…
تقدر تشوف الاشياء إللي اللي ممكن تحد من وصول منشوراتك أو حسابك
رابط الكود:github.com/xai-org/x-algorit…