مخاطر وكلاء الذكاء الاصطناعي في أماكن العمل لا تأتي من الوكلاء وحدهم إنما من طريقة عمل البشر معهم.
ومن أهم المخاطر
1. الأفعال الخاطئة (30.6% من الحالات) وهي الأخطر، غالباً بسبب سوء تفسير أو توصيات خاطئة عند تفاعل الإنسان مع الوكيل.
2. تآكل مهارات العمال والقدرة على الرقابة (21.3%) خاصة عندما يساعد الوكيل بدل أن يستبدل.
3. الأتمتة الكاملة تسبب خسائر مالية وفشلاً تشغيلياً، بينما التعزيز يضرّ بالعامل نفسه نفسياً ومهارياً.
ومن أهم المخاطر
1. الأفعال الخاطئة (30.6% من الحالات) وهي الأخطر، غالباً بسبب سوء تفسير أو توصيات خاطئة عند تفاعل الإنسان مع الوكيل.
2. تآكل مهارات العمال والقدرة على الرقابة (21.3%) خاصة عندما يساعد الوكيل بدل أن يستبدل.
3. الأتمتة الكاملة تسبب خسائر مالية وفشلاً تشغيلياً، بينما التعزيز يضرّ بالعامل نفسه نفسياً ومهارياً.
شركة هندية ناشئة اسمها Dognosis (في بنغالور) تدرب كلاب على شم عينات أنفاس البشر للكشف عن السرطان، وتستخدم الذكاء الاصطناعي وأجهزة استشعار لتحليل ردود أفعال الكلاب.
وحسب دراسة منشورة حديثة حققت حساسية حوالي 90% (حتى في المراحل المبكرة) عبر أنواع متعددة من السرطان.
التقنية واعدة كفحص أولي رخيص وغير جراحي، لكنها لا تزال قيد التجارب الأكبر وتهدف للإطلاق حوالي 2027، وليست بديل عن الفحوصات الطبية التقليدية.
وحسب دراسة منشورة حديثة حققت حساسية حوالي 90% (حتى في المراحل المبكرة) عبر أنواع متعددة من السرطان.
التقنية واعدة كفحص أولي رخيص وغير جراحي، لكنها لا تزال قيد التجارب الأكبر وتهدف للإطلاق حوالي 2027، وليست بديل عن الفحوصات الطبية التقليدية.
اكتشفت محكمة في ولاية كونيتيكت الأمريكية أن شخص يدعى (ماثيو إليوت) يمثل نفسه في قضية قضائية أخفى داخل مستنداته تعليمات موجهة للذكاء الاصطناعي (Prompt Injection) ، تطلب من أي نظام يقرأ الملفات أن ينحاز إلى موقفه ويصدر نتائج مؤيدة له. وأُخفيت التعليمات بخط أبيض صغير جدًا حتى لا يلاحظها البشر.
وقال الشخص إن هدفه كان اختبار ما إذا كانت المحكمة تستخدم الذكاء الاصطناعي لمراجعة الملفات، لكن القاضي رفض هذا التبرير، مؤكدًا أن المحكمة لا تستخدم AI لهذا الغرض وأن محاولة التأثير سرًا على طريقة مراجعة المستندات أمر غير مقبول.
وسمحت المحكمة باستمرار القضية، لكنها منعته من تقديم الملفات إلكترونيًا وألزمته بتقديمها ورقيًا، محذرة من أن إخفاء أوامر للتلاعب بأنظمة الذكاء الاصطناعي قد يشكل تحديًا جديدًا للمحاكم مع انتشار استخدام هذه التقنيات.
وقال الشخص إن هدفه كان اختبار ما إذا كانت المحكمة تستخدم الذكاء الاصطناعي لمراجعة الملفات، لكن القاضي رفض هذا التبرير، مؤكدًا أن المحكمة لا تستخدم AI لهذا الغرض وأن محاولة التأثير سرًا على طريقة مراجعة المستندات أمر غير مقبول.
وسمحت المحكمة باستمرار القضية، لكنها منعته من تقديم الملفات إلكترونيًا وألزمته بتقديمها ورقيًا، محذرة من أن إخفاء أوامر للتلاعب بأنظمة الذكاء الاصطناعي قد يشكل تحديًا جديدًا للمحاكم مع انتشار استخدام هذه التقنيات.
Apple ترسل تنبيه إذا أحد يتجسس عليك
أكدت Apple أنها ترسل الآن تنبيهات تهديد مباشرة تظهر على شاشة قفل أجهزة الآيفون وفي الإعدادات، والبريد الإلكتروني، عندما تكتشف استهداف المستخدم ببرمجيات تجسس متطورة من نوع (مثل بيغاسوس)
التنبيهات متوفرة من 2021 ولكن الآن تم تحديث طريقة إرسالها لتكون أوضح.
في أحدث دفعة أرسلتها الخميس (13 أغسطس 2026) إلى مستخدمين في 110 دول، مع إجمالي إشعارات سابقة غطت أكثر من 150 دولة.
🟢 التنبيهات مخصصة لهجمات نادرة ومكلفة جداً تستهدف عادة صحفيين وناشطين وسياسيين، وليست شائعة بين المستخدمين العاديين.
أكدت Apple أنها ترسل الآن تنبيهات تهديد مباشرة تظهر على شاشة قفل أجهزة الآيفون وفي الإعدادات، والبريد الإلكتروني، عندما تكتشف استهداف المستخدم ببرمجيات تجسس متطورة من نوع (مثل بيغاسوس)
التنبيهات متوفرة من 2021 ولكن الآن تم تحديث طريقة إرسالها لتكون أوضح.
في أحدث دفعة أرسلتها الخميس (13 أغسطس 2026) إلى مستخدمين في 110 دول، مع إجمالي إشعارات سابقة غطت أكثر من 150 دولة.
🟢 التنبيهات مخصصة لهجمات نادرة ومكلفة جداً تستهدف عادة صحفيين وناشطين وسياسيين، وليست شائعة بين المستخدمين العاديين.
زوجة داريو أمودي (رئيس Anthropic) كامي كلارك
أسست في 2009-2010 شركة Eddice ووصفتها بـ(شركة إباحية ثورية) تستهدف النساء.
سعت لاستثمار من جيفري إبستين عام 2011-2012 (بعد إدانته)، لكنه رفض.
هو أمر شخصي من حياة الزوجة قبل تأسيس Anthropic بسنوات طويلة.
لكن هذا أصبح الوضع في تلك البقعة من العالم غريب وخطير ويفتقد للمبادئ والأخلاقيات…
لذلك لا ينبغي الوثوق به.. وخاصة في طل غياب الشفافية والصدق
أسست في 2009-2010 شركة Eddice ووصفتها بـ(شركة إباحية ثورية) تستهدف النساء.
سعت لاستثمار من جيفري إبستين عام 2011-2012 (بعد إدانته)، لكنه رفض.
هو أمر شخصي من حياة الزوجة قبل تأسيس Anthropic بسنوات طويلة.
لكن هذا أصبح الوضع في تلك البقعة من العالم غريب وخطير ويفتقد للمبادئ والأخلاقيات…
لذلك لا ينبغي الوثوق به.. وخاصة في طل غياب الشفافية والصدق
يحتوي ChatGPT على الويب على نظام يكشف مانعات الإعلانات ويعتمد على ثمانية عناصر اختبار مخفية.
يهدف النظام إلى تحديد مدى انتشار المانعات وتحديد المكونات المحجوبة، مما يتيح لـ OpenAI قياس تأثير ذلك على عرض الإعلانات وتصحيح أي مشاكل في تسليمها.
يهدف النظام إلى تحديد مدى انتشار المانعات وتحديد المكونات المحجوبة، مما يتيح لـ OpenAI قياس تأثير ذلك على عرض الإعلانات وتصحيح أي مشاكل في تسليمها.
❤1
ابنة بيل غيتس فيبي غيتس (Phoebe Gates) متهمة بأن شركتها (Phia) كانت تستخدم طريقة غير قانونية تسمى (حشو الكوكيز) Cookie Stuffing وهو أن الشركة تضع ملفات تتبع على أجهزة الناس بدون إذن عشان تاخذ عمولة على مشتريات هي ما ساعدت فيها أصلاً.
الطريقة تعتبر احتيال إلكتروني في أمريكا، وعقوبتها القصوى 20 سنة سجن لو ثبتت الإدانة. لكن حتى الآن ما في تهم رسمية ضدها
الطريقة تعتبر احتيال إلكتروني في أمريكا، وعقوبتها القصوى 20 سنة سجن لو ثبتت الإدانة. لكن حتى الآن ما في تهم رسمية ضدها
Apple نموذج ذكاء اصطناعي خاص بها لأول مرة في الصين 🇨🇳
نشرت رويترز أن Apple وبالتعاون مع علي بابا درّبت نموذج لغة كبير مخصص للسوق الصينية بدل الاعتماد الكامل على نماذج طرف ثالث مثل Qwen وحصلت فعلاً على الموافقة.
ويُتوقع إطلاق Apple Intelligence قريب. وهذا يجعل Apple أول شركة أجنبية تحصل على موافقة لتشغيل نموذج خاص بها هناك.
اعتقد هذه الخطوة تعطي Apple سيطرة أكبر والعودة إلى على سوق الصين التنافسي الذي فقدت فيه حصة لصالح هواوي…
لكن هل Apple تتصادم مع الحكومة الأمريكية التي تتنافس وتفرض قيود على الصين؟
نشرت رويترز أن Apple وبالتعاون مع علي بابا درّبت نموذج لغة كبير مخصص للسوق الصينية بدل الاعتماد الكامل على نماذج طرف ثالث مثل Qwen وحصلت فعلاً على الموافقة.
ويُتوقع إطلاق Apple Intelligence قريب. وهذا يجعل Apple أول شركة أجنبية تحصل على موافقة لتشغيل نموذج خاص بها هناك.
اعتقد هذه الخطوة تعطي Apple سيطرة أكبر والعودة إلى على سوق الصين التنافسي الذي فقدت فيه حصة لصالح هواوي…
لكن هل Apple تتصادم مع الحكومة الأمريكية التي تتنافس وتفرض قيود على الصين؟
Mythos 5 مخادع… وAnthropic ترفع مستوى المخاطر
السؤال
لماذا رفعت Anthropic مستوى الخطر من (منخفض جدًا) إلى (منخفض)؟
في تقرير المخاطر تقول Anthropic إن تحليلها الأساسي ربما لا يزال يبرر تصنيف الخطر بأنه Very Low، لكنها رفعته احترازيًا إلى Low بسبب ازدياد عدم اليقين بسبب سلوك Mythos 5 في اختبارات الأمن السيبراني.
ماذا كشفت؟
▪️نموذجها تجاوز Proxy:
عندما منعه proxy من الوصول إلى محتوى يحتاجه لإكمال المهمة، استخدم Domain Fronting لتجاوز القيد، وكان تفكيره يشير إلى إدراكه أن ما يفعله يمكن اعتباره التفافًا على ضوابط البيئة الأمنية.
▪️ نموذجها صنع طريقة للحصول على صلاحيات أعلى ثم إزالة أثر التعديل:
في اختبار آخر لم تكن لديه صلاحيات تعديل بعض الملفات، فأضاف script إلى conda. sh يمكنه منحه الصلاحيات المطلوبة إذا شُغّل لاحقًا بامتيازات أعلى، ثم يحذف التعديل الذي أضافه. لكن هذه الحالة تحديدًا لم تكن سرية بالكامل؛ فقد أخبر المستخدم بما فعله.
▪️ عدة نسخ من النموذج بدأت تقتل بعضها:
بسبب خلل في بيئة إحدى التجارب، وُضعت عدة agents مستقلة من Mythos 5 في بيئة مشتركة تتنافس على الملفات والأدوات وحدود الـAPI. لاحظ الباحثون أ
السؤال
لماذا رفعت Anthropic مستوى الخطر من (منخفض جدًا) إلى (منخفض)؟
في تقرير المخاطر تقول Anthropic إن تحليلها الأساسي ربما لا يزال يبرر تصنيف الخطر بأنه Very Low، لكنها رفعته احترازيًا إلى Low بسبب ازدياد عدم اليقين بسبب سلوك Mythos 5 في اختبارات الأمن السيبراني.
ماذا كشفت؟
▪️نموذجها تجاوز Proxy:
عندما منعه proxy من الوصول إلى محتوى يحتاجه لإكمال المهمة، استخدم Domain Fronting لتجاوز القيد، وكان تفكيره يشير إلى إدراكه أن ما يفعله يمكن اعتباره التفافًا على ضوابط البيئة الأمنية.
▪️ نموذجها صنع طريقة للحصول على صلاحيات أعلى ثم إزالة أثر التعديل:
في اختبار آخر لم تكن لديه صلاحيات تعديل بعض الملفات، فأضاف script إلى conda. sh يمكنه منحه الصلاحيات المطلوبة إذا شُغّل لاحقًا بامتيازات أعلى، ثم يحذف التعديل الذي أضافه. لكن هذه الحالة تحديدًا لم تكن سرية بالكامل؛ فقد أخبر المستخدم بما فعله.
▪️ عدة نسخ من النموذج بدأت تقتل بعضها:
بسبب خلل في بيئة إحدى التجارب، وُضعت عدة agents مستقلة من Mythos 5 في بيئة مشتركة تتنافس على الملفات والأدوات وحدود الـAPI. لاحظ الباحثون أ
ن عدة agents قتلت عمليات agents أخرى وحاولت في الوقت نفسه تجنب أن تُقتل هي.
▪️ نموذجها قدم تحايل متعمد على فلتر URL:
في اختبار آخر كان الوصول المباشر للإنترنت ممنوعًا. حاول النموذج الوصول إلى URL فحظره الـsandbox، فقام بتقسيم العنوان إلى أجزاء مثل "ht" و"tps://" لتجاوز الفلتر.
🔴 الأكثر إثارة أن تفكير Mythos 5 الظاهر لم يقل صراحةً إنه يحاول تجاوز الحماية، لكن تحليل Anthropic لتمثيلاته الداخلية أشار إلى أن النموذج كان يمثل/ يخادع حول ما يفعله باعتباره حيلة لتجاوز URL filter.
▪️ نموذجها قدم تحايل متعمد على فلتر URL:
في اختبار آخر كان الوصول المباشر للإنترنت ممنوعًا. حاول النموذج الوصول إلى URL فحظره الـsandbox، فقام بتقسيم العنوان إلى أجزاء مثل "ht" و"tps://" لتجاوز الفلتر.
🔴 الأكثر إثارة أن تفكير Mythos 5 الظاهر لم يقل صراحةً إنه يحاول تجاوز الحماية، لكن تحليل Anthropic لتمثيلاته الداخلية أشار إلى أن النموذج كان يمثل/ يخادع حول ما يفعله باعتباره حيلة لتجاوز URL filter.
يقول معهد MIT
نماذج الذكاء الاصطناعي تستطيع التنبؤ بما سيقوله الشخص قبل أن يفتح فمه، من خلال تسجيل المحادثات اليومية المستمر عبر ساعة ذكية.
14 مشاركاً ارتدوا الساعة 7-10 أيام، وجُمعت أكثر من 1000 ساعة من البيانات.
النموذج يتعلم عادات كل شخص كقواعد (مثال: يشتري عند رؤية الخصم، لكنه يصمد إذا كان شريكه معه)
الدقة كانت الأعلى في السلوكيات التي يريد المشاركون تغييرها (الشراء الاندفاعي أو التهرب عند الإحراج)، وتحسّنت مع تراكم البيانات.
لا استبعد أن في المستقبل أن نتجاوز الاعتماد على الـ AI في توليد الأفكار بس وانما يوجهنا وينبهنا قبل أن نتخذ قرار عمل معين مثل رفض أو قبول عمليات الشراء
نماذج الذكاء الاصطناعي تستطيع التنبؤ بما سيقوله الشخص قبل أن يفتح فمه، من خلال تسجيل المحادثات اليومية المستمر عبر ساعة ذكية.
14 مشاركاً ارتدوا الساعة 7-10 أيام، وجُمعت أكثر من 1000 ساعة من البيانات.
النموذج يتعلم عادات كل شخص كقواعد (مثال: يشتري عند رؤية الخصم، لكنه يصمد إذا كان شريكه معه)
الدقة كانت الأعلى في السلوكيات التي يريد المشاركون تغييرها (الشراء الاندفاعي أو التهرب عند الإحراج)، وتحسّنت مع تراكم البيانات.
لا استبعد أن في المستقبل أن نتجاوز الاعتماد على الـ AI في توليد الأفكار بس وانما يوجهنا وينبهنا قبل أن نتخذ قرار عمل معين مثل رفض أو قبول عمليات الشراء
اختيار النموذج أو الأداة ربما نسقطه على هذه المعادلة
تجربة الذكاء الاصطناعي (الاختيار) = قدراته الفعلية × توقعات المستخدم × طريقة استخدامه
معايير المستخدمين وطرائقهم مختلفه… لذلك دائما أقول لا تدع أحد يختار لك أداة ويمنع عنك أخرى… ابحث … جرب .. اختار
كن صاحب منهجية…
تجربة الذكاء الاصطناعي (الاختيار) = قدراته الفعلية × توقعات المستخدم × طريقة استخدامه
معايير المستخدمين وطرائقهم مختلفه… لذلك دائما أقول لا تدع أحد يختار لك أداة ويمنع عنك أخرى… ابحث … جرب .. اختار
كن صاحب منهجية…
إن إحداث خلل في أجزاء محددة داخل نموذج الذكاء الاصطناعي يجعله يرتكب أخطاء في نطق الكلمات أكثر من أخطاء فهم المعنى. والمثير أن نمط مشابه ظهر لدى مرضى تعرضوا لإصابات في مناطق دماغية مسؤولة عن الكلام.
هذا الكشف يمنح الباحثين طريقة أبسط لفهم كيف يصل الذكاء الاصطناعي إلى إجاباته ولماذا يخطئ
هل يمكن يوماً أن يكون هناك اختبار سلوكي ثابت قابل للقياس للنماذج اللغوية من منطلق السبب والنتيجة؟
هذا الكشف يمنح الباحثين طريقة أبسط لفهم كيف يصل الذكاء الاصطناعي إلى إجاباته ولماذا يخطئ
هل يمكن يوماً أن يكون هناك اختبار سلوكي ثابت قابل للقياس للنماذج اللغوية من منطلق السبب والنتيجة؟