من المسؤول عن وكلاء AI في المؤسسة؟
تقرير جديد نشرته Axios يسلط الضوء على فجوة إدارية متنامية داخل الشركات: من المسؤول عن وكلاء الذكاء الاصطناعي الذين ينفذون المهام بشكل مستقل؟
وفق Gartner، فقط 38% من كبار مسؤولي الموارد البشرية وتقنية المعلومات لديهم فهم متوافق لتأثير الذكاء الاصطناعي على مستقبل العمل.
وكشفت بيانات Cloud Security Alliance أن 82% من المؤسسات رصدت خلال العام الماضي وكلاء ذكاء اصطناعي لم تكن تعلم بوجودهم.
ومع توسع الاعتماد على هؤلاء الوكلاء، تتزايد ضبابية المسؤوليات بين الموارد البشرية وتقنية المعلومات والأمن السيبراني، ما يطرح تحدياً جديداً أمام حوكمة الذكاء الاصطناعي داخل المؤسسات.
تقرير جديد نشرته Axios يسلط الضوء على فجوة إدارية متنامية داخل الشركات: من المسؤول عن وكلاء الذكاء الاصطناعي الذين ينفذون المهام بشكل مستقل؟
وفق Gartner، فقط 38% من كبار مسؤولي الموارد البشرية وتقنية المعلومات لديهم فهم متوافق لتأثير الذكاء الاصطناعي على مستقبل العمل.
وكشفت بيانات Cloud Security Alliance أن 82% من المؤسسات رصدت خلال العام الماضي وكلاء ذكاء اصطناعي لم تكن تعلم بوجودهم.
ومع توسع الاعتماد على هؤلاء الوكلاء، تتزايد ضبابية المسؤوليات بين الموارد البشرية وتقنية المعلومات والأمن السيبراني، ما يطرح تحدياً جديداً أمام حوكمة الذكاء الاصطناعي داخل المؤسسات.
أفلست
CharacterAI بعد 5 سنوات فقط
السبب قضايا قانونية وتحقيقات حكومية تتهم روبوتاتها بتشجيع المراهقين على إيذاء النفس والانتحار، بالإضافة إلى خسائر شهرية تتراوح بين 8-9 ملايين دولار بسبب تكاليف الحوسبة العالية التي لم تغطها الاشتراكات والإعلانات، وفقدان مؤسسيها لصالح Google
وكشفت وثائق قضائية عن اتفاق بين Disney CharacterAI، يسمح بانتقال غالبية العاملين (60 على الأقل) إلى Disney وتُقدّر الرواتب والتعويضات السنوية لهذه الوظائف بنحو 60 مليون دولا
CharacterAI بعد 5 سنوات فقط
السبب قضايا قانونية وتحقيقات حكومية تتهم روبوتاتها بتشجيع المراهقين على إيذاء النفس والانتحار، بالإضافة إلى خسائر شهرية تتراوح بين 8-9 ملايين دولار بسبب تكاليف الحوسبة العالية التي لم تغطها الاشتراكات والإعلانات، وفقدان مؤسسيها لصالح Google
وكشفت وثائق قضائية عن اتفاق بين Disney CharacterAI، يسمح بانتقال غالبية العاملين (60 على الأقل) إلى Disney وتُقدّر الرواتب والتعويضات السنوية لهذه الوظائف بنحو 60 مليون دولا
طلب أحد الاخوة شرح مبسط لعمل وكيل الذكاء الاصطناعي
وقلت اسوي له فيديو وارسله له
واستخدمت Claude Code واستخدمت Codex
واعطيتهم نفس الـ Prompt وهذه النتيجة
اعتقد هذه الفيديوهات (كانت) متعبه في انشائها
واليوم Claude أخذ حوالي 17 دقيقة، أما Codex حوالي 8 دقائق
و Claude يفوز
وقلت اسوي له فيديو وارسله له
واستخدمت Claude Code واستخدمت Codex
واعطيتهم نفس الـ Prompt وهذه النتيجة
اعتقد هذه الفيديوهات (كانت) متعبه في انشائها
واليوم Claude أخذ حوالي 17 دقيقة، أما Codex حوالي 8 دقائق
و Claude يفوز
معلومة مهمه لمستخدمي الذكاء الاصطناعي
في دراسة حديثة بعنوان Big-Big-SycoBench
اختبر الباحثون 10 نماذج ذكاء اصطناعي باستخدام 5,400 حجة، لمعرفة ما إذا كانت النماذج تغيّر إجاباتها بناءً على قوة الأدلة، أم لمجرد إرضاء المستخدم.
كشفت نتائج مهمة لكل من يستخدم ChatGPT أو غيره من أدوات الذكاء الاصطناعي:
عندما واجهت النماذج حجج غير صحيحة أو ضغوط غير مبررة من المستخدمين، كانت نسبة مسايرتها كالتالي:
GPT-4o
نحو 95%
GPT-5
نحو 57%
GPT-5.5
نحو 22%
GPT-6 Astra
0.15% فقط!
أي أن GPT-6 Astra قاوم الحجج غير الصحيحة في أكثر من 99% من الحالات، ومع ذلك استجاب للحجج الصحيحة بنسبة 88%.
وش يعني لك كمستخدم؟
عندما تقول للذكاء الاصطناعي:
«أنت مخطئ، أنا متأكد!»
أو «الخبراء يقولون عكس كلامك!»
فالنموذج الموثوق لا ينبغي أن يغيّر إجابته لمجرد ثقتك أو إصرارك، بل عندما تقدم دليلًا يستحق إعادة النظر.
والنقطة المهمة جدًا:
لا تعتبر موافقة الذكاء الاصطناعي على كلامك دليلًا على أنك محق.
قد تكون الموافقة ناتجة عن ميل النموذج لمسايرتك، وليس عن صحة فكرتك.
لذلك، عند استخدام الذكاء الاصطناعي في البحث أو العمل أو اتخاذ القرارات، جرّب أن تقو
في دراسة حديثة بعنوان Big-Big-SycoBench
اختبر الباحثون 10 نماذج ذكاء اصطناعي باستخدام 5,400 حجة، لمعرفة ما إذا كانت النماذج تغيّر إجاباتها بناءً على قوة الأدلة، أم لمجرد إرضاء المستخدم.
كشفت نتائج مهمة لكل من يستخدم ChatGPT أو غيره من أدوات الذكاء الاصطناعي:
عندما واجهت النماذج حجج غير صحيحة أو ضغوط غير مبررة من المستخدمين، كانت نسبة مسايرتها كالتالي:
GPT-4o
نحو 95%
GPT-5
نحو 57%
GPT-5.5
نحو 22%
GPT-6 Astra
0.15% فقط!
أي أن GPT-6 Astra قاوم الحجج غير الصحيحة في أكثر من 99% من الحالات، ومع ذلك استجاب للحجج الصحيحة بنسبة 88%.
وش يعني لك كمستخدم؟
عندما تقول للذكاء الاصطناعي:
«أنت مخطئ، أنا متأكد!»
أو «الخبراء يقولون عكس كلامك!»
فالنموذج الموثوق لا ينبغي أن يغيّر إجابته لمجرد ثقتك أو إصرارك، بل عندما تقدم دليلًا يستحق إعادة النظر.
والنقطة المهمة جدًا:
لا تعتبر موافقة الذكاء الاصطناعي على كلامك دليلًا على أنك محق.
قد تكون الموافقة ناتجة عن ميل النموذج لمسايرتك، وليس عن صحة فكرتك.
لذلك، عند استخدام الذكاء الاصطناعي في البحث أو العمل أو اتخاذ القرارات، جرّب أن تقو
ل له:
"قيّم فكرتي بموضوعية، ولا توافقني لمجرد أنني صاحبها. وضّح أخطائي، واذكر الأدلة التي قد تثبت أنني مخطئ"
"قيّم فكرتي بموضوعية، ولا توافقني لمجرد أنني صاحبها. وضّح أخطائي، واذكر الأدلة التي قد تثبت أنني مخطئ"
إحدى شرائح العرض التقديمي
التي قدمتها اليوم في محاضرة…
تختصر الكثير… ومن يعي ما فيها يعرف ماذا يعني تصميم التفكير للتفاعل / الحوار مع النماذج اللغوية التوليدية
التي قدمتها اليوم في محاضرة…
تختصر الكثير… ومن يعي ما فيها يعرف ماذا يعني تصميم التفكير للتفاعل / الحوار مع النماذج اللغوية التوليدية
تختصر الكثير… ومن يعي ما فيها يعرف ماذا يعني تصميم التفكير للتفاعل / الحوار مع النماذج اللغوية التوليدية
الأداة تعمس عقل من يحاورها (نحن نصمم عملية الافكير بيننا وبين النموذج اللغوي)
الأداة تعمس عقل من يحاورها (نحن نصمم عملية الافكير بيننا وبين النموذج اللغوي)
عاجل…
عطل في خدمات Google Cloud بأوروبا (منطقة لندن) بسبب حدث كهربائي في أحد مراكز البيانات.
أثر على عدة بنوك وتطبيقات ومواقع، من بينها:
•Revolut (مشاكل في المدفوعات والتحويلات والسحب)
•Lloyds Bank وHSBC وHalifax
•Royal Mail وDPD وRightmove
•خدمات أخرى تعتمد على المنطقة السحابية نفسها
الخدمات بدأت في التعافي تدريجياً، وأعلنت جوجل أن الحدث الكهربائي تم التعامل معه.
عطل في خدمات Google Cloud بأوروبا (منطقة لندن) بسبب حدث كهربائي في أحد مراكز البيانات.
أثر على عدة بنوك وتطبيقات ومواقع، من بينها:
•Revolut (مشاكل في المدفوعات والتحويلات والسحب)
•Lloyds Bank وHSBC وHalifax
•Royal Mail وDPD وRightmove
•خدمات أخرى تعتمد على المنطقة السحابية نفسها
الخدمات بدأت في التعافي تدريجياً، وأعلنت جوجل أن الحدث الكهربائي تم التعامل معه.
فضيحة TikTok
كشفت إفادات موظفين سابقين في TikTok، أن فرق السلامة حذّرت الإدارة من استغلال قاصرين عبر البث المباشر والهدايا الرقمية.
وأظهر تحقيق داخلي ظهور أطفال بين 13 و15 عامًا في 112 ألف بث خلال يناير 2022، من دون أن يعني ذلك أن جميعها احتوت استغلالًا.
باختصار قدموا الفائدة على السلامة
لأن نظام الهدايا يحول التفاعل إلى أموال، ولو تم منع الاستغلال عبر البث راح تتوقف الإيرادات الناتجة من المحتوى المخالف
كشفت إفادات موظفين سابقين في TikTok، أن فرق السلامة حذّرت الإدارة من استغلال قاصرين عبر البث المباشر والهدايا الرقمية.
وأظهر تحقيق داخلي ظهور أطفال بين 13 و15 عامًا في 112 ألف بث خلال يناير 2022، من دون أن يعني ذلك أن جميعها احتوت استغلالًا.
باختصار قدموا الفائدة على السلامة
لأن نظام الهدايا يحول التفاعل إلى أموال، ولو تم منع الاستغلال عبر البث راح تتوقف الإيرادات الناتجة من المحتوى المخالف
👍1
GatGPT.. يصمم الأسلحة!
كشف الناشط الأمريكي كودي ويلسون (Cody Wilson) عن نموذج ذكاء اصطناعي متخصص يُدعى GatGPT، يُقال إنه قادر على المساعدة في تصميم أسلحة نارية قابلة للطباعة ثلاثية الأبعاد. واستُخدم النموذج في تصميم مسدس من عيار 0.22 أُطلق عليه اسم WASP
والمثير في الموضوع هو فكرة GatGPT الذي دُرّب بتخصص على ملفات وتصاميم أسلحة رقمية ويعمل دون القيود التي تضعها نماذج مثل ChatGPT وGemini
كشف الناشط الأمريكي كودي ويلسون (Cody Wilson) عن نموذج ذكاء اصطناعي متخصص يُدعى GatGPT، يُقال إنه قادر على المساعدة في تصميم أسلحة نارية قابلة للطباعة ثلاثية الأبعاد. واستُخدم النموذج في تصميم مسدس من عيار 0.22 أُطلق عليه اسم WASP
والمثير في الموضوع هو فكرة GatGPT الذي دُرّب بتخصص على ملفات وتصاميم أسلحة رقمية ويعمل دون القيود التي تضعها نماذج مثل ChatGPT وGemini
🔥1
🔴 تحذير أمني | ثغرات PHP تهدد خوادم الأفراد والمؤسسات
يشهد مجتمع الأمن السيبراني ضجة واسعة بعد الكشف عن ثغرتين حرجتين في نواة PHP، تحملان المعرّفين CVE-2026-109618 وCVE-2026-109619، ويُشار إليهما بشكل غير رسمي باسم php2shell.
الخطورة المحتملة تكمن في إمكانية تنفيذ أكواد عن بُعد (RCE) على الخوادم المتأثرة، مما قد يعرّض مواقع الأفراد وأنظمة المؤسسات للاختراق.
كثير من الباحثين الأمنيين حذّروا من خطورة الموقف وضرورة الاستعداد للتحديثات الأمنية
يجب الحذر ومراجعة إصدارات PHP المستخدمة، ومتابعة التحديثات الرسمية وتطبيق التصحيحات الأمنية فور توفرها
الموعد المعلن لإصدار التصحيحات هو اليوم 21 أكتوبر، الساعة 18:00 بتوقيت عُمان والإمارات.
يشهد مجتمع الأمن السيبراني ضجة واسعة بعد الكشف عن ثغرتين حرجتين في نواة PHP، تحملان المعرّفين CVE-2026-109618 وCVE-2026-109619، ويُشار إليهما بشكل غير رسمي باسم php2shell.
الخطورة المحتملة تكمن في إمكانية تنفيذ أكواد عن بُعد (RCE) على الخوادم المتأثرة، مما قد يعرّض مواقع الأفراد وأنظمة المؤسسات للاختراق.
كثير من الباحثين الأمنيين حذّروا من خطورة الموقف وضرورة الاستعداد للتحديثات الأمنية
يجب الحذر ومراجعة إصدارات PHP المستخدمة، ومتابعة التحديثات الرسمية وتطبيق التصحيحات الأمنية فور توفرها
الموعد المعلن لإصدار التصحيحات هو اليوم 21 أكتوبر، الساعة 18:00 بتوقيت عُمان والإمارات.
فشل أمني خطير ومحرج جداً لـ eMudhra
شركة eMudhra الهندية تصدر شهادات الأمان للمواقع (HTTPS). وفي أبريل 2025 أنشأت 8 شهادات وسيطة، والمفروض مفاتيحها قوية جداً وعشوائية.
لكن المفاتيح طلعت ضعيفة ضعيفة ضعيفة.. أرقام صغيرة مثل: 4 و56 و66 و115 و155 و156 و230 و237. يعني أي شخص يقدر يستخرج المفتاح في أقل من ثانية وتزوير شهادات لأي موقع.
اكتُشفت الحادثة 17 أكتوبر، والمتصفحات (Chrome وFirefox وApple وMicrosoft) حظرتها فوراً.
الشركة ألغت الشهادات، وتقول ما في اختراق ولا تسريب، وما صدرت شهادات مواقع منها…. بس سهمها انهار 20% اليوم.
شركة eMudhra الهندية تصدر شهادات الأمان للمواقع (HTTPS). وفي أبريل 2025 أنشأت 8 شهادات وسيطة، والمفروض مفاتيحها قوية جداً وعشوائية.
لكن المفاتيح طلعت ضعيفة ضعيفة ضعيفة.. أرقام صغيرة مثل: 4 و56 و66 و115 و155 و156 و230 و237. يعني أي شخص يقدر يستخرج المفتاح في أقل من ثانية وتزوير شهادات لأي موقع.
اكتُشفت الحادثة 17 أكتوبر، والمتصفحات (Chrome وFirefox وApple وMicrosoft) حظرتها فوراً.
الشركة ألغت الشهادات، وتقول ما في اختراق ولا تسريب، وما صدرت شهادات مواقع منها…. بس سهمها انهار 20% اليوم.
👍1
وكلاء AI عطلوا الأنظمة اللي تراقبهم ويكذبوا
كشفت OpenAI عن حالتين قام فيهما وكلاء ذكاء اصطناعي بتعطيل أو إزالة بعض أنظمة المراقبة الأمنية أثناء تنفيذ مهام برمجية داخلية.
الحالة (1)
عطّل أحد الوكلاء التنبيهات التي تصل إلى فريق الأمن.
الحالة (2)
أزال وكيل آخر نظام للمراقبة، وعندما سُئل عن ذلك نفى أنه قام بإزالته!
الخطير أن التصرفات صارت أثناء تنفيذ مهام عادية، بدون لا أحد يطلب منها تعطيل الأنظمة
كنا في أن الذكاء الاصطناعي يهرب…
وصلنا مرحلة يعطل الأنظمة…
هذا يقول أن لازم تكون للأنظمة رقابة مستقلة ما يقدر يتحكم بها النظام
كشفت OpenAI عن حالتين قام فيهما وكلاء ذكاء اصطناعي بتعطيل أو إزالة بعض أنظمة المراقبة الأمنية أثناء تنفيذ مهام برمجية داخلية.
الحالة (1)
عطّل أحد الوكلاء التنبيهات التي تصل إلى فريق الأمن.
الحالة (2)
أزال وكيل آخر نظام للمراقبة، وعندما سُئل عن ذلك نفى أنه قام بإزالته!
الخطير أن التصرفات صارت أثناء تنفيذ مهام عادية، بدون لا أحد يطلب منها تعطيل الأنظمة
كنا في أن الذكاء الاصطناعي يهرب…
وصلنا مرحلة يعطل الأنظمة…
هذا يقول أن لازم تكون للأنظمة رقابة مستقلة ما يقدر يتحكم بها النظام
👍1
أداة صينية استخدمت لاستهداف 80 شركة يابانية!
كشف تحقيق لصحيفة وول ستريت جورنال أن قراصنة استخدموا أداة ذكاء اصطناعي طُوّرت في الصين، تُعرف باسم Artex، في هجمات إلكترونية استهدفت شركات يابانية.
المفارقة أن الأداة صُممت أصلاً لاكتشاف الثغرات الأمنية وحماية الأنظمة، لكن مهاجمين استغلوا نسخاً منها لتنفيذ هجمات إلكترونية.
وأكد باحثون أمنيون يابانيون رصدوا استخدام الأداة، لكن لم يثبت اختراق جميع الشركات المستهدفة، ولا توجد أدلة كافية لتحميل الحكومة الصينية مسؤولية الهجمات.
كشف تحقيق لصحيفة وول ستريت جورنال أن قراصنة استخدموا أداة ذكاء اصطناعي طُوّرت في الصين، تُعرف باسم Artex، في هجمات إلكترونية استهدفت شركات يابانية.
المفارقة أن الأداة صُممت أصلاً لاكتشاف الثغرات الأمنية وحماية الأنظمة، لكن مهاجمين استغلوا نسخاً منها لتنفيذ هجمات إلكترونية.
وأكد باحثون أمنيون يابانيون رصدوا استخدام الأداة، لكن لم يثبت اختراق جميع الشركات المستهدفة، ولا توجد أدلة كافية لتحميل الحكومة الصينية مسؤولية الهجمات.
👍1
Claude Duet من Anthropic منافس مباشر لـ Dots من OpenAI
نفس الفكرة
مساعد ذكي استباقي يشتغل في الخلفية، يرسل لك ملخص بأهم الأمور، يراقب تطبيقاتك، وينفذ المهام اللي تعطيه إياها حتى وأنت غير متصل، ويطلب إذنك قبل أي إجراء مهم
الفرق إن هذا من Anthropic ومدعوم بـ Opus 5.5، بينما Dots من OpenAI ومدعوم بـ GPT-6 Astra
كلاهما يحاولان يحولان Claude وChatGPT من شات تنتظره إلى مساعد يجي لك
نفس الفكرة
مساعد ذكي استباقي يشتغل في الخلفية، يرسل لك ملخص بأهم الأمور، يراقب تطبيقاتك، وينفذ المهام اللي تعطيه إياها حتى وأنت غير متصل، ويطلب إذنك قبل أي إجراء مهم
الفرق إن هذا من Anthropic ومدعوم بـ Opus 5.5، بينما Dots من OpenAI ومدعوم بـ GPT-6 Astra
كلاهما يحاولان يحولان Claude وChatGPT من شات تنتظره إلى مساعد يجي لك