هل الـ AI فعلًا "صندوق أسود" لا نفهم ما يحدث بداخله؟

لسنوات كان هذا أحد أكبر الأسئلة في الذكاء الاصطناعي:
نرى ما ندخله للنموذج، ونرى النتيجة التي يخرجها…
لكن ما الذي يحدث بينهما؟

دراسة حديثة وجدت شيئ مثير: التمثيلات الداخلية للشبكات العصبية، ومنها نماذج اللغة الكبيرة، قد تكون أكثر تنظيمًا مما تبدو عليه. فهي لا تخزن الكلمات والأرقام فقط، بل قد تنظّم المعلومات بحسب الدور الذي تؤديه.

مثلاً في جملة:
"الطبيب ساعد المعلم"
قد يكون التمثيل الداخلي أقرب إلى:
الطبيب = الفاعل
ساعد = الفعل
المعلم = المفعول به

والأقوى أن الباحثين قاموا بتعديل هذه التمثيلات داخل النموذج، فتغيّر سلوكه بالطريقة المتوقعة، ما يشير إلى أن هذه البنية مرتبطة فعليًا بطريقة عمله وليست مجرد مصادفة.

وهذا يشرح أن ما يبدو من الخارج مجرد أرقام ومتجهات معقدة، قد يخفي داخله تنظيم وعلاقات قابلة للفهم

⭕️هل انتهت مشكلة "الصندوق الأسود"؟ بالتأكيد لا.

لكن ربما بدأنا نكتشف أن الصندوق ليس أسود بالكامل.

الذكاء الاصطناعي يعمل بالأرقام…
لكن داخل هذه الأرقام قد تظهر بنية تشبه الرموز والأدوار والعلاقات.