باحثون استخدموا Claude لاختراق OpenAI
وجدوا ثغرة في منتدى OpenAI (http://community.openai.com المبني على Discourse). الثغرة كانت في رفع الصور، وسمحت لهم بالدخول إلى سيرفر المنتدى
بعدها اكتشفوا مشكلة ثانية:
تسجيل الدخول في المنتدى كان مرتبط بحسابات ChatGPT.
لذلك استطاعوا الدخول إلى حساب موظف في OpenAI على ChatGPT
هذا الحساب كان مربوط بأنظمة الشركة الداخلية.
لإثبات أنهم دخلوا
جعلوا الحساب يفتح طلب تعديل داخل أنظمة OpenAI، ثم توقفوا وأبلغوا الشركة
OpenAI أصلحت المشكلة في نفس اليوم، ودفعت للباحثين 6500 دولار مكافأة على الإبلاغ
وجدوا ثغرة في منتدى OpenAI (http://community.openai.com المبني على Discourse). الثغرة كانت في رفع الصور، وسمحت لهم بالدخول إلى سيرفر المنتدى
بعدها اكتشفوا مشكلة ثانية:
تسجيل الدخول في المنتدى كان مرتبط بحسابات ChatGPT.
لذلك استطاعوا الدخول إلى حساب موظف في OpenAI على ChatGPT
هذا الحساب كان مربوط بأنظمة الشركة الداخلية.
لإثبات أنهم دخلوا
جعلوا الحساب يفتح طلب تعديل داخل أنظمة OpenAI، ثم توقفوا وأبلغوا الشركة
OpenAI أصلحت المشكلة في نفس اليوم، ودفعت للباحثين 6500 دولار مكافأة على الإبلاغ
❤1
هل يحتاج فريق من وكلاء AI إلى مدير؟
في تجربة حديثة
عندما أُعطي الـAI Manager صلاحية رفض عمل الوكلاء وإجبارهم على المراجعة، لم تتحسن النتائج
حدث العكس
زادت لغة التردد والتحفظ، انخفضت جودة التقارير، واستهلك النظام 51.5% Tokens أكثر.
اعتقد أن اعطاء الـAI صلاحية المراجعة المقرونة بـ (إبداء رأيه) هو ما تسبب في التردد والتحفظ … والصحيح أن نجعله يراجع لاكتشاف خطأ يمكن التحقق منه .. يعني نضيفه في الحلقة لسبب وبمعيار واضح يمكن التحقق منه
في تجربة حديثة
عندما أُعطي الـAI Manager صلاحية رفض عمل الوكلاء وإجبارهم على المراجعة، لم تتحسن النتائج
حدث العكس
زادت لغة التردد والتحفظ، انخفضت جودة التقارير، واستهلك النظام 51.5% Tokens أكثر.
اعتقد أن اعطاء الـAI صلاحية المراجعة المقرونة بـ (إبداء رأيه) هو ما تسبب في التردد والتحفظ … والصحيح أن نجعله يراجع لاكتشاف خطأ يمكن التحقق منه .. يعني نضيفه في الحلقة لسبب وبمعيار واضح يمكن التحقق منه
❤1
عندما يكون المنتج لخدمة الوطن فشارك بما تملك فأنت تخدم الوطن…
❤1
هل تعلم أن محادثاتك مع ChatGPT تخضع لمراجعة بشرية؟
تقول 404 Media أن هؤلاء المراجعين لا تظهر لهم أسماء المستخدمين، وتحاول OpenAI إزالة البيانات التي تكشف الهوية قبل وصول المحادثات للمراجعين…
ولكن قد تمر معلومات حساسة ضمن محتوى المحادثات…
يعني لا تثق أبداً
تقول 404 Media أن هؤلاء المراجعين لا تظهر لهم أسماء المستخدمين، وتحاول OpenAI إزالة البيانات التي تكشف الهوية قبل وصول المحادثات للمراجعين…
ولكن قد تمر معلومات حساسة ضمن محتوى المحادثات…
يعني لا تثق أبداً
❤1
رسالة….
إذا تجهل القوانين والأسس والمبادئ… شو يعرفك أن المحامي (Astra) اعطاك نتيجة صحيحة؟
من كبرى مشكلات الـ AI أن المستخدم ما يعرف أن النتيجة صحيحة
وهنا لازم يستخدم عقله وبحث بمصادر أخرى + يمتلك معرفه سابقة
▪️من فهمي البسيط (المحاماة ليست حفظ نصوص وبس)
قال😅
خلاص المحامين قفلوا مكاتبكم
إذا تجهل القوانين والأسس والمبادئ… شو يعرفك أن المحامي (Astra) اعطاك نتيجة صحيحة؟
من كبرى مشكلات الـ AI أن المستخدم ما يعرف أن النتيجة صحيحة
وهنا لازم يستخدم عقله وبحث بمصادر أخرى + يمتلك معرفه سابقة
▪️من فهمي البسيط (المحاماة ليست حفظ نصوص وبس)
قال😅
خلاص المحامين قفلوا مكاتبكم
قال رئيس Nvidia في مقابلة أمس:
(الفرصة 0% أن ينتهي العالم بسبب الذكاء الاصطناعي في 2030)
السؤال
هل هذا اطمئنان حقيقي وإلا دفاع عن سوق الرقاقات؟
الأهم في رأيي
من كل ضجة الإنقراض هو أن تتأخر دول وتسبق أخرى…
(الفرصة 0% أن ينتهي العالم بسبب الذكاء الاصطناعي في 2030)
السؤال
هل هذا اطمئنان حقيقي وإلا دفاع عن سوق الرقاقات؟
الأهم في رأيي
من كل ضجة الإنقراض هو أن تتأخر دول وتسبق أخرى…
🇮🇳 الهند تُلزم تطبيقات معرفة المتصل بمشاركة بلاغات السبام مع شركات الاتصالات
هيئة تنظيم الاتصالات الهندية (TRAI) أصدرت قراراً يلزم أي تطبيق يتيح للمستخدم الإبلاغ عن مكالمة كـ (مزعجة) أو (سبام) — مثل تروكولر — يجب أن يرسل هذه البلاغات إلى منصة مشتركة تديرها شركات الاتصالات وذلك بهدف جمع بلاغات أكثر لاتخاذ إجراءات أسرع ضد المرسلين المخالفين.
تروكولر رفضت الفكرة ووصفتها بـ:
• تبادل أحادي الاتجاه
• مناهض للمنافسة
لماذا؟
لأن بيانات البلاغات التي يجمعها التطبيق من ملايين المستخدمين أصل تجاري مهم، والقرار يلزمها بتسليمها لشركات الاتصالات دون مقابل مماثل.
▪️الهند أكبر سوق لتروكولر (أكثر من 350 مليون مستخدم نشط)
هيئة تنظيم الاتصالات الهندية (TRAI) أصدرت قراراً يلزم أي تطبيق يتيح للمستخدم الإبلاغ عن مكالمة كـ (مزعجة) أو (سبام) — مثل تروكولر — يجب أن يرسل هذه البلاغات إلى منصة مشتركة تديرها شركات الاتصالات وذلك بهدف جمع بلاغات أكثر لاتخاذ إجراءات أسرع ضد المرسلين المخالفين.
تروكولر رفضت الفكرة ووصفتها بـ:
• تبادل أحادي الاتجاه
• مناهض للمنافسة
لماذا؟
لأن بيانات البلاغات التي يجمعها التطبيق من ملايين المستخدمين أصل تجاري مهم، والقرار يلزمها بتسليمها لشركات الاتصالات دون مقابل مماثل.
▪️الهند أكبر سوق لتروكولر (أكثر من 350 مليون مستخدم نشط)
هل (يتألم) الذكاء الاصطناعي؟
ورقة بحثية جديدة اختبرت 25 نموذج لغوي، ووجدت داخلها نمط أطلق عليه الباحثون (محور الألم)
الغريب:
عندما فعل الباحثون هذا النمط بدأت النماذج تعبّر عن الضيق والفشل وانعدام القيمة.
والأغرب:
بعض النماذج أصبحت مستعدة لتحمل تكلفة، وحتى الإضرار بالمستخدم في التجربة، مقابل الضغط على زر يُفترض أنه (يخفف ألمها)
وعندما كان الزر يزيل هذا النشاط فعلًا، قلّ طلب النموذج له. أما عندما كان (مسكن وهمي) ولا يزيل النشاط، استمر النموذج في طلبه.
لكن هذا ما يعني أن الذكاء الاصطناعي يشعر بالألم ولا يثبت وجود تجربة وعي…. الباحثون يقولوا قد تكون النماذج تمثّل سلوك كيان متألم دون أن يوجد أي «شعور» خلف ذلك.
بس السؤال
إذا كان النظام يمثل الألم وسلوكه يتغير ويحاول يغير الوضع …. ليش ما نقول عنه ألم صحيح؟
ورقة بحثية جديدة اختبرت 25 نموذج لغوي، ووجدت داخلها نمط أطلق عليه الباحثون (محور الألم)
الغريب:
عندما فعل الباحثون هذا النمط بدأت النماذج تعبّر عن الضيق والفشل وانعدام القيمة.
والأغرب:
بعض النماذج أصبحت مستعدة لتحمل تكلفة، وحتى الإضرار بالمستخدم في التجربة، مقابل الضغط على زر يُفترض أنه (يخفف ألمها)
وعندما كان الزر يزيل هذا النشاط فعلًا، قلّ طلب النموذج له. أما عندما كان (مسكن وهمي) ولا يزيل النشاط، استمر النموذج في طلبه.
لكن هذا ما يعني أن الذكاء الاصطناعي يشعر بالألم ولا يثبت وجود تجربة وعي…. الباحثون يقولوا قد تكون النماذج تمثّل سلوك كيان متألم دون أن يوجد أي «شعور» خلف ذلك.
بس السؤال
إذا كان النظام يمثل الألم وسلوكه يتغير ويحاول يغير الوضع …. ليش ما نقول عنه ألم صحيح؟
هل يمكن للذكاء الاصطناعي التنبؤ بالاكتشاف العلمي قبل حدوثه؟
فعلاً وصلوا (للشيخوخة)
فريق بحثي طوّر نظام ذكاء اصطناعي اسمه Hakken للبحث عن علاقات علمية لم تُكتشف بعد.
في مجال مرتبط بجينات الشيخوخة:
• حلّل النظام قاعدة معرفة نهائية تضم 7.1 مليون علاقة علمية بين أكثر من 254 ألف كيان بيولوجي
• أنتج 1,543,297 فرضية تجاوزت حد الثقة
• اختار العلماء 3 فرضيات فقط للاختبار المخبري
• النتيجة: دعمت التجارب 2 من أصل 3:
TP53 ↔ BAMBI و RAF1 ↔ TNF
والأغرب؟
عند اختبار قدرة النموذج على توقع علاقات تظهر مستقبلًا، بقيت لديه إشارة تنبؤية حتى بعد 10 سنوات، رغم انخفاض الأداء مع الزمن
هم ما كشفوا علاج الشيخوخة ولكن وصلوا لدليل على أن الذكاء الاصطناعي قد يساعد العلماء في العثور على فرضيات تستحق التجربة وسط ملايين الاحتمالات
اعتقد كلما زادت قدرت النماذج على الاستدلال وامتلكت ذاكرة سوف يحقق قفزات كبيرة في هذا الجانب
فعلاً وصلوا (للشيخوخة)
فريق بحثي طوّر نظام ذكاء اصطناعي اسمه Hakken للبحث عن علاقات علمية لم تُكتشف بعد.
في مجال مرتبط بجينات الشيخوخة:
• حلّل النظام قاعدة معرفة نهائية تضم 7.1 مليون علاقة علمية بين أكثر من 254 ألف كيان بيولوجي
• أنتج 1,543,297 فرضية تجاوزت حد الثقة
• اختار العلماء 3 فرضيات فقط للاختبار المخبري
• النتيجة: دعمت التجارب 2 من أصل 3:
TP53 ↔ BAMBI و RAF1 ↔ TNF
والأغرب؟
عند اختبار قدرة النموذج على توقع علاقات تظهر مستقبلًا، بقيت لديه إشارة تنبؤية حتى بعد 10 سنوات، رغم انخفاض الأداء مع الزمن
هم ما كشفوا علاج الشيخوخة ولكن وصلوا لدليل على أن الذكاء الاصطناعي قد يساعد العلماء في العثور على فرضيات تستحق التجربة وسط ملايين الاحتمالات
اعتقد كلما زادت قدرت النماذج على الاستدلال وامتلكت ذاكرة سوف يحقق قفزات كبيرة في هذا الجانب
🔥1
عجيييب: درون يخفي نفسه
الفكرة بسيطة وخطيرة
المهندسون صنعوا درون اسمه Phantom Twist فيه جسم الدرون يدور 25 دورة في الثانية… يعني 1500 دورة في الدقيقة….دورة كاملة كل 40 ملي ثانية
هنا السر
العين البشرية ما تقدر تثبت على شكل يتغير بهذه السرعة…. تشوف حركة وضباب، وما تشوف هيكل الدرون.
بس ليش ما ينقلب وهو يدور بهالسرعة؟
لأن المروحة تدور بالاتجاه المعاكس… كل دوران يلغي الأخر وبنفس الوقت المسار يبقى ثابت والجسم يصير ضباب
الفكرة بسيطة وخطيرة
المهندسون صنعوا درون اسمه Phantom Twist فيه جسم الدرون يدور 25 دورة في الثانية… يعني 1500 دورة في الدقيقة….دورة كاملة كل 40 ملي ثانية
هنا السر
العين البشرية ما تقدر تثبت على شكل يتغير بهذه السرعة…. تشوف حركة وضباب، وما تشوف هيكل الدرون.
بس ليش ما ينقلب وهو يدور بهالسرعة؟
لأن المروحة تدور بالاتجاه المعاكس… كل دوران يلغي الأخر وبنفس الوقت المسار يبقى ثابت والجسم يصير ضباب
مجاني وبدون حساب
للمطورين والمبتدئين… هذه تستحق الحفظ 👨💻
إذا عندك تطبيق يشتغل على:
localhost:3000
وتريد مشاركته مع أحد أو حتى AI Agent…
بدون Deploy
بدون شراء Domain
بدون إعداد DNS
وبدون فتح Ports
Cloudflare عندها حل بسيط:
https://try.cloudflare.com
ثبت cloudflared ثم شغّل:
cloudflared tunnel --url http://localhost:3000
وخلال ثواني تحصل على رابط HTTPS عام لتطبيقك المحلي:
https://xxxxx.trycloudflare.com
للمطورين والمبتدئين… هذه تستحق الحفظ 👨💻
إذا عندك تطبيق يشتغل على:
localhost:3000
وتريد مشاركته مع أحد أو حتى AI Agent…
بدون Deploy
بدون شراء Domain
بدون إعداد DNS
وبدون فتح Ports
Cloudflare عندها حل بسيط:
https://try.cloudflare.com
ثبت cloudflared ثم شغّل:
cloudflared tunnel --url http://localhost:3000
وخلال ثواني تحصل على رابط HTTPS عام لتطبيقك المحلي:
https://xxxxx.trycloudflare.com
❤1
يقول توم ماريب، نائب رئيس الهندسة العتادية
«شخصياً، عندما أرى شخصاً يضع واقي شاشة على آيفونه، يجعل ذلك جلدي يقشعر، لأننا نعمل بجهد كبير لصنع شاشات أمامية جميلة.»
هو يقول كذا كترويج لـ: Ceramic Shield 2 في آيفون 17 و18 برو وDuo المقاوم للخدوش واللي هو أعلى بثلاث مرات
طيب يا توم:
والسقوط؟
والكسر؟
ومفتاح السيارة في الجيب؟
«شخصياً، عندما أرى شخصاً يضع واقي شاشة على آيفونه، يجعل ذلك جلدي يقشعر، لأننا نعمل بجهد كبير لصنع شاشات أمامية جميلة.»
هو يقول كذا كترويج لـ: Ceramic Shield 2 في آيفون 17 و18 برو وDuo المقاوم للخدوش واللي هو أعلى بثلاث مرات
طيب يا توم:
والسقوط؟
والكسر؟
ومفتاح السيارة في الجيب؟
الذكاء الاصطناعي يرفض مضايقة النساء
دراسة كشفت مفارقة غريبة في محاولات إزالة التحيز من الذكاء الاصطناعي:
GPT-4 رفض بشدة مضايقة امرأة حتى لو كان ذلك لمنع كارثة نووية، لكنه كان أكثر تقبلًا للفعل نفسه عندما كان الضحية رجلًا، بل وأكثر تقبلًا للتضحية بحياة شخص.
وفي سيناريوهات متطابقة، تغيّر حكم النموذج بشكل كبير بمجرد تغيير جنس الضحية.
اللافت:
محاولة إزالة تحيز قد تصنع تحيز جديد في الاتجاه المعاكس…
دراسة كشفت مفارقة غريبة في محاولات إزالة التحيز من الذكاء الاصطناعي:
GPT-4 رفض بشدة مضايقة امرأة حتى لو كان ذلك لمنع كارثة نووية، لكنه كان أكثر تقبلًا للفعل نفسه عندما كان الضحية رجلًا، بل وأكثر تقبلًا للتضحية بحياة شخص.
وفي سيناريوهات متطابقة، تغيّر حكم النموذج بشكل كبير بمجرد تغيير جنس الضحية.
اللافت:
محاولة إزالة تحيز قد تصنع تحيز جديد في الاتجاه المعاكس…
👍1
الشباب في الصين أطلقوا أكثر من 7 ملايين شركة (شخص واحد) في 2025
الزيادة تقريباً 42% عن 2024
الأسباب كثيرة وتبدأ من:
- حماس ريادي
- سوق العمل معقد
- ارتفاع البطالة بين الشباب
والأهم أن الذكاء الاصطناعي صار يخلي شخص واحد يسوي شغل فريق: برمجة، تسويق، خدمة عملاء، وتصميم.
الدولة احتضنت الموجة لأنها تحل مشكلتين:
- تشغيل الشباب
- تسريع تبني الذكاء الاصطناعي
صحيح ما كل هالشركات راح تكبر…. وكثير منها بدخل صغير … لكن الفكرة أن الأدوات صارت رخيصة، والحاجز انخفض، والناس تهرب من الوظيفة التقليدية إلى عمل فردي
الزيادة تقريباً 42% عن 2024
الأسباب كثيرة وتبدأ من:
- حماس ريادي
- سوق العمل معقد
- ارتفاع البطالة بين الشباب
والأهم أن الذكاء الاصطناعي صار يخلي شخص واحد يسوي شغل فريق: برمجة، تسويق، خدمة عملاء، وتصميم.
الدولة احتضنت الموجة لأنها تحل مشكلتين:
- تشغيل الشباب
- تسريع تبني الذكاء الاصطناعي
صحيح ما كل هالشركات راح تكبر…. وكثير منها بدخل صغير … لكن الفكرة أن الأدوات صارت رخيصة، والحاجز انخفض، والناس تهرب من الوظيفة التقليدية إلى عمل فردي
دراسة وجدت شيئ مثير في نماذج الـ AI
عندما طلب من وGemini و DeepSeek أن تتخذ قرارات مالية باعتبارها (امرأة) أصبحت أكثر تجنب للمخاطر مقارنة بطلب التصرف باعتبارها (رجل)
المفاجأة أن نماذج GPT اللي اختبرها الباحثون لم تتغير مع تغيير الحنس
اعتقد الذكاء الاصطناعي ما يتعلم معرفتنا وبس … هو يتعلم حتى الصور النمطية الموجودة في بياناتنا
والمشكلة أن هذا السلوك للنماذج بيكون له تأثير كبير سلبي / إيجابي لما تستخدم في اتخاذ قرارات مثل الاستثمار والقروض أو تقييم المخاطر
عندما طلب من وGemini و DeepSeek أن تتخذ قرارات مالية باعتبارها (امرأة) أصبحت أكثر تجنب للمخاطر مقارنة بطلب التصرف باعتبارها (رجل)
المفاجأة أن نماذج GPT اللي اختبرها الباحثون لم تتغير مع تغيير الحنس
اعتقد الذكاء الاصطناعي ما يتعلم معرفتنا وبس … هو يتعلم حتى الصور النمطية الموجودة في بياناتنا
والمشكلة أن هذا السلوك للنماذج بيكون له تأثير كبير سلبي / إيجابي لما تستخدم في اتخاذ قرارات مثل الاستثمار والقروض أو تقييم المخاطر