حسناً، أحتاج أن أخبركم بشيء أثار حماسي حقاً هذا الأسبوع، لأنه قلب فهمي لكيفية عمل الذكاء الاصطناعي رأساً على عقب.
لفترة طويلة جداً، كنت أعمل بناءً على افتراض أن الشبكات العصبية هي في الأساس "صناديق سوداء" — قوية للغاية، بالتأكيد، ولكنها غير مفهومة جوهرياً. نحن نقوم بتدريبها، وهي تعمل، وبصراحة؟ ليس لدينا أدنى فكرة عن السبب. كانت الرواية الشائعة هي أن هذه الأنظمة تحشر قدراً هائلاً من المعلومات في عدد قليل جداً من الخلايا العصبية، مما يجعل الأمور تتشابك وتختلط ببعضها البعض بطرق لا تخضع لأي منطق.
ولكن إليكم الأمر: ماذا لو كانت هذه الرواية خاطئة؟
قام باحث يدعى أندرياس ستاتوبولوس بالقيام بشيء يبدو وكأنه "تمرد" في مجال قابلية تفسير الذكاء الاصطناعي. فبدلاً من محاولة بناء أدوات معقدة لـ "فك شفرة" ما تفعله الشبكات، قام ببساطة... بالنظر إليها. مباشرة. باستخدام طرق أفضل ونماذج حديثة.
وما وجده كان مفاجئاً حقاً.
عصبون "القطة والسيارة" لم يكن كما ظننا
هل تتذكرون عندما وجد الباحثون ذلك العصبون الشهير في شبكة التعرف على الصور الذي بدا وكأنه يستجيب لوجوه القطط وواجهات السيارات معاً؟ تم تقديم هذا الأمر كدليل على أن الشبكات العصبية فوضوية بطبيعتها — وأن الخلايا العصبية الفردية تُخصص لها وظائف متعددة غير مترابطة تماماً لأن الشبكة ينفد منها المساحة.
أُطلق على هذا التفسير اسم "التراكب" (superposition) — وهي فكرة أن الشبكات، عندما تتعرض للضغط، تبدأ في طي المفاهيم غير المترابطة معاً داخل خلايا عصبية واحدة، مما يخلق "عقداً" متشابكة يتعين علينا فكها بعناية لفهم أي شيء.
لكن ستاتوبولوس يجادل بأن هذا كان قراءة خاطئة. فعندما تتبع فعلياً ما كان يحدث، لم يكن عصبون "السيارة والقطة" يخفي مفاهيم غير مترابطة على الإطلاق. بل كان يفعل شيئاً أكثر منطقية بكثير: التعميم وتركيب الأفكار بطريقة عادية. لم يكن "الإخفاء" يخفي أي شيء.
لم تكن الخلايا العصبية معقودة. كانت فقط تؤدي وظيفتها بطريقة بدت غريبة تحت إضاءة سيئة.
النموذج الذي يمكن قراءته حقاً
هنا يصبح الأمر مثيراً للاهتمام حقاً. قام ستاتوبولوس بتدريب ما يسميه شبكة عصبية "غير تافهة" — أي شبكة معقدة بما يكفي لتكون ذات أهمية — واستخدم تصميمات معمارية أفضل. والنتيجة؟
أصبحت نسبة 99 إلى 100 بالمائة من الخلايا العصبية في الطبقة النهائية سهلة التفسير.
تأملوا هذا الأمر للحظة.
ليس "بعضها". وليس "إذا أمعنت النظر جيداً". بل كل الخلايا تقريباً. النموذج "قابل للقراءة بشكل واسع طوال المسار"، على حد تعبيره. يمكنك حرفياً تصفح وفهم ما يفعله كل عصبون.
وهذا ما أجده رائعاً: لقد اختبر هذا عبر نطاق واسع من أحجام النماذج، من الصغيرة إلى الكبيرة. لم تكن قابلية التفسير مجرد خاصية خاصة بنموذج ذي حجم مثالي، بل صمدت عبر جميع الأحجام. النماذج الأصغر تستخدم فقط مفاهيم أكثر خشونة — فقد يغطي عصبون واحد "السيارات" بشكل عام — بينما تقوم النماذج الأكبر بتفكيك ذلك إلى تمييزات أكثر تحديداً. لكن كلاهما مفهوم تماماً.
ما الذي تغير؟
إذن، ما الذي صنع الفارق؟ شيئان، على ما يبدو:
أولاً، النموذج الأصلي (الذي يسمى InceptionV1) الذي درسه الجميع كان يعاني من مشاكل معمارية في طبقاته المتأخرة. كانت تلك الطبقات تفيض بالمعلومات بطرق تجعلها فوضوية حقاً. لم تكن هذه خاصية متأصلة في الشبكات العصبية، بل كانت "خللاً" (bug).
ثانياً، كانت أدواتنا لـ "النظر" إلى هذه الشبكات بدائية للغاية. عندما لا تملك سوى مصباح يدوي، سيبدو كل شيء وكأنه ظلال.
أدت التحسينات الحديثة في بنية الشبكة العصبية — المصممة أساساً لمساعدة الطبقات العميقة على التعلم بشكل أفضل — إلى أثر جانبي سعيد: لقد جعلت الشبكات قابلة للتفسير بشكل طبيعي أكثر. لم نكن نحاول حل مشكلة قابلية التفسير، بل حللناها بالصدفة أثناء حل مشكلات أخرى.
ماذا يعني هذا لأمان الذكاء الاصطناعي
هذا الأمر يهم أبحاث أمان الذكاء الاصطناعي بشكل هائل، حتى لو بدت التفاصيل التقنية مجردة.
إذا كانت الشبكات العصبية غير مفهومة حقاً — صناديق سوداء حقيقية — فإن ضمان تصرفها بأمان سيكون أمراً صعباً للغاية. فأنت تحاول التحقق من شيء لا يمكنك فهمه جوهرياً.
ولكن إذا كانت هذه الأنظمة قابلة للقراءة تماماً، مع خلايا عصبية تقوم بأشياء ذات مغزى ويمكن تحديدها؟ فهذا وضع مختلف تماماً. يمكننا دراستها مباشرة. يمكننا فهم ما تركز عليه، وما هي المفاهيم التي تبنيها، وكيف تتدفق القرارات عبر النظام.
هذا لا يعني أن الذكاء الاصطناعي أصبح "آمناً" فجأة — فلا يزال هناك عمل هائل يتعين القيام به. لكنه يعني أن لدينا فرصة حقيقية لفهم ما نبنيه. وهذا ليس بالأمر الهين.
الاعتراف الصادق
يجب أن أقدر الصدق الفكري هنا. يقر ستاتوبولوس صراحة بأنه قضى سنوات في دراسة هذه الأنظمة وكان يؤمن بتفسير "التراكب". كان مقتنعاً بأن الشبكات كانت معقودة وأننا سنحتاج إلى أدوات إعادة بناء معقدة لنتمكن من فهمها.
لقد كان مخطئاً. وهو يقول ذلك مباشرة، مع الأدلة التي تدعم كلامه.
هذا هو نوع الأشياء الذي يمنحني الأمل في هذا المجال. ليس لأننا حللنا مشكلة "محاذاة الذكاء الاصطناعي" (فهذا لم يحدث بعد)، ولكن لأنه يشير إلى أن بإمكاننا تحقيق تقدم فعلي في فهم هذه الأنظمة. ليس علينا أن نعمل في الظلام.
لقد كانت الشبكات دائماً أكثر وضوحاً مما كنا نعتقد. كنا نحتاج فقط إلى أعين أفضل.
ما رأيكم؟ هل يغير هذا نظرتكم لأنظمة الذكاء الاصطناعي؟ أنا فضولي حقاً — اتركوا تعليقاً في الأسفل ولنتحدث عن الأمر.