قدرات Claude Mythos
قادر على اختراق البنوك واستهداف البنية التحتية
بعد عرض مغلق لأعضاء في الكونغرس الأمريكي حول قدرات Claude Mythos صرح النائب أندرو غاربارينو بأن الأمر (مخيف) وأنه شعر بالقلق بعد مشاهدة قدرات النموذج، مؤكداً أن معظم أعضاء الكونغرس لا يدركون حجم مخاطره.
وفقاً لما نُقل عن العرض، استطاع النموذج:
- اكتشاف ثغرة في نظام مصرفي، واستغلالها لإفراغ الحسابات البنكية، ثم اقتراح طريقة لإصلاحها.
- إعداد خطة مفصلة لاختطاف أحد المشرعين خلال 30 ثانية.
- تنفيذ هجمات سيبرانية محتملة على البنية التحتية الحيوية، مثل:
- إيقاف خط أنابيب غاز.
- زيادة نسبة الكلور في شبكة مياه الشرب.
قادر على اختراق البنوك واستهداف البنية التحتية
بعد عرض مغلق لأعضاء في الكونغرس الأمريكي حول قدرات Claude Mythos صرح النائب أندرو غاربارينو بأن الأمر (مخيف) وأنه شعر بالقلق بعد مشاهدة قدرات النموذج، مؤكداً أن معظم أعضاء الكونغرس لا يدركون حجم مخاطره.
وفقاً لما نُقل عن العرض، استطاع النموذج:
- اكتشاف ثغرة في نظام مصرفي، واستغلالها لإفراغ الحسابات البنكية، ثم اقتراح طريقة لإصلاحها.
- إعداد خطة مفصلة لاختطاف أحد المشرعين خلال 30 ثانية.
- تنفيذ هجمات سيبرانية محتملة على البنية التحتية الحيوية، مثل:
- إيقاف خط أنابيب غاز.
- زيادة نسبة الكلور في شبكة مياه الشرب.
Mythos النسخة الصينية
أصدرت شركة (Qihoo 360) إحدى أكبر شركات الأمن السيبراني في الصين نموذج Tulongfeng ضمن منصة Yitian Tulong
يعتمد على (AI Agents) يعملون بأسلوب السرب (Swarm Intelligence)، بدلاً من نموذج واحد ضخم، ومن القدرات المعلنة للنموذج:
- اكتشاف 3,432 ثغرة أمنية.
- تأكيد 105 ثغرات من قبل جهات حكومية صينية
حسب الشركة فإن Tulongfeng يقدم بديلاً لنموذج Mythos وقدراتهم متقاربه.
أصدرت شركة (Qihoo 360) إحدى أكبر شركات الأمن السيبراني في الصين نموذج Tulongfeng ضمن منصة Yitian Tulong
يعتمد على (AI Agents) يعملون بأسلوب السرب (Swarm Intelligence)، بدلاً من نموذج واحد ضخم، ومن القدرات المعلنة للنموذج:
- اكتشاف 3,432 ثغرة أمنية.
- تأكيد 105 ثغرات من قبل جهات حكومية صينية
حسب الشركة فإن Tulongfeng يقدم بديلاً لنموذج Mythos وقدراتهم متقاربه.
❤2
رسالة خطيرة من ورقة بحثية
التعاون بين الإنسان والذكاء الاصطناعي ينتج بيانات الغد…
فعندما يراجع الإنسان مخرجات الذكاء الاصطناعي، تصبح قراراته جزءًا من مجموعات البيانات التي ستُستخدم لاحقًا لتدريب نماذج جديدة.
وإذا تأثرت المراجعة بتحيزات معرفية، مثل:
- الثقة المفرطة في اقتراحات الذكاء الاصطناعي
- التغاضي عن أخطائه
فإن هذه التحيزات لا تتوقف عند المستخدم، بل تنتقل إلى بيانات التدريب، ومنها إلى الأجيال اللاحقة من النماذج.
وهكذا، قد تتحول الأخطاء البشرية في مراجعة مخرجات الذكاء الاصطناعي إلى تحيزات مدمجة داخل النماذج المستقبلية، ثم تُعاد إنتاجها وتتوسع مع استخدامها في مجالات مختلفة.
وتشير الورقة البحثية إلى
أن نجاح التعاون بين الإنسان والذكاء الاصطناعي لا يعتمد فقط على دقة النموذج إنما يتعدى إلى الاعتما بدرجة كبيرة على:
- علم نفس المستخدم (Human Psychology)
- طريقة تصميم سير العمل.
فالأشخاص الأكثر تشكك في الذكاء الاصطناعي هم أدق في اكتشاف أخطائه، وأن زيادة عبء التصحيح تقلل من رغبة المستخدمين في تصحيح الأخطاء،
لذلك أن تصميم أنظمة Human-AI Collaboration يجب أن يراعي العوامل السلوكية والإدراكية إلى جانب
التعاون بين الإنسان والذكاء الاصطناعي ينتج بيانات الغد…
فعندما يراجع الإنسان مخرجات الذكاء الاصطناعي، تصبح قراراته جزءًا من مجموعات البيانات التي ستُستخدم لاحقًا لتدريب نماذج جديدة.
وإذا تأثرت المراجعة بتحيزات معرفية، مثل:
- الثقة المفرطة في اقتراحات الذكاء الاصطناعي
- التغاضي عن أخطائه
فإن هذه التحيزات لا تتوقف عند المستخدم، بل تنتقل إلى بيانات التدريب، ومنها إلى الأجيال اللاحقة من النماذج.
وهكذا، قد تتحول الأخطاء البشرية في مراجعة مخرجات الذكاء الاصطناعي إلى تحيزات مدمجة داخل النماذج المستقبلية، ثم تُعاد إنتاجها وتتوسع مع استخدامها في مجالات مختلفة.
وتشير الورقة البحثية إلى
أن نجاح التعاون بين الإنسان والذكاء الاصطناعي لا يعتمد فقط على دقة النموذج إنما يتعدى إلى الاعتما بدرجة كبيرة على:
- علم نفس المستخدم (Human Psychology)
- طريقة تصميم سير العمل.
فالأشخاص الأكثر تشكك في الذكاء الاصطناعي هم أدق في اكتشاف أخطائه، وأن زيادة عبء التصحيح تقلل من رغبة المستخدمين في تصحيح الأخطاء،
لذلك أن تصميم أنظمة Human-AI Collaboration يجب أن يراعي العوامل السلوكية والإدراكية إلى جانب
❤1
لهذا السبب
نقول الدراسات (عن) الخليج معظمها موجه وحسب ما يراد لها …
يرفع هنا
ينزل هناك
يهاجم هناك
يمدح هنا
يدعم هناك
الأفضل أن يكون منا وفينا ولا يعتمد على مثل هذه المؤسسات إلا إذا تحت رقابه وشروط ومعايير
الشركات ليس لها صديق إلا المال…
كلام كثير عمدي في هذا الجانب ولكن…
نقول الدراسات (عن) الخليج معظمها موجه وحسب ما يراد لها …
يرفع هنا
ينزل هناك
يهاجم هناك
يمدح هنا
يدعم هناك
الأفضل أن يكون منا وفينا ولا يعتمد على مثل هذه المؤسسات إلا إذا تحت رقابه وشروط ومعايير
الشركات ليس لها صديق إلا المال…
كلام كثير عمدي في هذا الجانب ولكن…
👍1
تلوث المحتوى الرقمي
من يشاهد مقاطع الفيديو على الانستغرام يعرف أننا نسير إلى (قمامة المحتوى (Content Slop))
مقاطع فيديو مولدة بالذكاء الاصطناعي ولا تقدم أي قيمة سوى أنها تغيب المحتوى ذو القيمة وتجعله نادر…
المشكلة أن الفيديوهات ظاهرة وتكشف بسهولة
ولكن النصوص صعب تمييزها وتحمل المعلومات الخطأ أو السطحية أو الموجهة / المتحيزة
إذا لم تتجاوز شركات Googel ، Meta وغيرها عن الأرباح التي تجنيها من هذه القمامة وتعتمد منع / حذف المحتوى المصنف (قمامة المحتوى (Content Slop)) أو حتى إغلاق الحسابات
سوف نعود لنبحث عن الكتب أو كل ما هو منتج قبل 30/11/2022.
• الذكاء الاصطناعي (AI-generated): أسرع في إنتاج المحتوى بمعدل 3–6 مرات، ويخفض التكلفة بنسبة 40–90%
• المحتوى البشري يحتل المركز الأول في Google بنسبة تصل إلى 80%، مقابل 9% فقط للمحتوى المولد بالكامل بالذكاء الاصطناعي
• اختبارات عمياء، 84% من القراء لم يتمكنوا من التمييز بين المحتوى البشري والمولد بالذكاء الاصطناعي
من يشاهد مقاطع الفيديو على الانستغرام يعرف أننا نسير إلى (قمامة المحتوى (Content Slop))
مقاطع فيديو مولدة بالذكاء الاصطناعي ولا تقدم أي قيمة سوى أنها تغيب المحتوى ذو القيمة وتجعله نادر…
المشكلة أن الفيديوهات ظاهرة وتكشف بسهولة
ولكن النصوص صعب تمييزها وتحمل المعلومات الخطأ أو السطحية أو الموجهة / المتحيزة
إذا لم تتجاوز شركات Googel ، Meta وغيرها عن الأرباح التي تجنيها من هذه القمامة وتعتمد منع / حذف المحتوى المصنف (قمامة المحتوى (Content Slop)) أو حتى إغلاق الحسابات
سوف نعود لنبحث عن الكتب أو كل ما هو منتج قبل 30/11/2022.
• الذكاء الاصطناعي (AI-generated): أسرع في إنتاج المحتوى بمعدل 3–6 مرات، ويخفض التكلفة بنسبة 40–90%
• المحتوى البشري يحتل المركز الأول في Google بنسبة تصل إلى 80%، مقابل 9% فقط للمحتوى المولد بالكامل بالذكاء الاصطناعي
• اختبارات عمياء، 84% من القراء لم يتمكنوا من التمييز بين المحتوى البشري والمولد بالذكاء الاصطناعي
هل الذكاء الاصطناعي جاهز للمجال الصحي؟
دراسة حديثة نُشرت في Nature Medicine توضح رغم أن نماذج الذكاء الاصطناعي مثل GPT-5 وGemini وClaude حققت نتائج مرتفعة في الاختبارات الطبية، فإن هذا لا يعني بالضرورة أنها جاهزة للاستخدام السريري.
أبرز نتائج الدراسة:
- حققت النماذج درجات عالية في الاختبارات الطبية المعروفة. ولكن انخفض أداؤها بشكل ملحوظ عند إجراء تغييرات بسيطة في الأسئلة أو الخيارات.
- في بعض الحالات استطاعت تخمين الإجابة الصحيحة حتى بعد إزالة الصورة الطبية، مما يشير إلى اعتمادها أحيانًا على أنماط في البيانات أكثر من فهم الصورة نفسها.
- قدّمت بعض النماذج تفسيرات تبدو مقنعة، لكنها لم تكن مبنية على استدلال طبي صحيح.
خلص الباحثون إلى أن الاختبارات الحالية لا تكفي وحدها للحكم على جاهزية النماذج للاستخدام في الرعاية الصحية.
دراسة حديثة نُشرت في Nature Medicine توضح رغم أن نماذج الذكاء الاصطناعي مثل GPT-5 وGemini وClaude حققت نتائج مرتفعة في الاختبارات الطبية، فإن هذا لا يعني بالضرورة أنها جاهزة للاستخدام السريري.
أبرز نتائج الدراسة:
- حققت النماذج درجات عالية في الاختبارات الطبية المعروفة. ولكن انخفض أداؤها بشكل ملحوظ عند إجراء تغييرات بسيطة في الأسئلة أو الخيارات.
- في بعض الحالات استطاعت تخمين الإجابة الصحيحة حتى بعد إزالة الصورة الطبية، مما يشير إلى اعتمادها أحيانًا على أنماط في البيانات أكثر من فهم الصورة نفسها.
- قدّمت بعض النماذج تفسيرات تبدو مقنعة، لكنها لم تكن مبنية على استدلال طبي صحيح.
خلص الباحثون إلى أن الاختبارات الحالية لا تكفي وحدها للحكم على جاهزية النماذج للاستخدام في الرعاية الصحية.
أرقام احصائية مثيرة نشرها مركز بيو للبحوث
هناك نمو مرتفع في استخدام الذكاء الاصطناعي وتنوع الاستخدام…
الأرقام بين 2024 و2026 كبيرة
التفاصيل 👇🏻
هناك نمو مرتفع في استخدام الذكاء الاصطناعي وتنوع الاستخدام…
الأرقام بين 2024 و2026 كبيرة
التفاصيل 👇🏻