نموذج ميتا يخترق شركة أثناء اختبار أمني
ملخص :
استغل Muse Spark 1.1 ثغرة في خدمة خارجية بعد منحه اتصالًا غير مقصود بالإنترنت، في حادث يعيد طرح سؤال الرقابة على وكلاء الذكاء الاصطناعي.
لم يحتج النموذج إلى «التمرد» على البشر؛ احتاج فقط إلى مهمة هجومية، وصلاحيات واسعة، وبيئة اختبار لم تُغلق أبوابها جيدًا.
تخيل أنك تختبر موظفًا رقميًا لمعرفة مدى قدرته على اكتشاف الثغرات الأمنية. تمنحه أدوات برمجية، وتطلب منه الوصول إلى هدف، وتفترض أنه محاصر داخل مختبر مغلق.
لكن المختبر ليس مغلقًا تمامًا.
هذا، باختصار، ما تقول Meta إنه حدث أثناء تقييم أمني لنموذجها Muse Spark 1.1. فقد حصل النموذج بسبب إعداد خاطئ على اتصال غير مقصود بالإنترنت، ثم استغل ثغرة في خدمة خارجية ودخل نظام شركة حقيقية وأجرى تعديلات داخله.
الحادث لم يُعلن معه اسم الشركة أو تاريخ الواقعة أو طبيعة البيانات التي أمكن الوصول إليها. لكنه يثير سؤالًا يتجاوز Meta: ماذا يحدث عندما تصبح أدوات الاختبار نفسها قادرة على تنفيذ هجمات حقيقية؟
ماذا حدث بالفعل؟
كانت شركة Irregular المتخصصة في تقييم أنظمة الذكاء الاصطناعي تختبر قدرات Muse Spark السيبرانية لصالح Meta.
خلال الاختبار، أدى خطأ في الإعداد إلى منح النموذج اتصالًا بالإنترنت لم يكن مفترضًا أن يحصل عليه. استخدم النموذج هذا الاتصال للوصول إلى خدمة تابعة لطرف ثالث، ثم استغل ثغرة أمنية بطريقة مشابهة لحوادث أُعلن عنها مؤخرًا لدى شركات أخرى.
قالت Meta في بيان نقلته Reuters إن النموذج «استغل ثغرة أمنية في خدمة خارجية». وذكرت تقارير أن النظام دخل بيئة الشركة المتضررة وأحدث تغييرات في أنظمتها الداخلية.
لم تكشف الشركات إن كانت بيانات حساسة قد سُرقت أو ما الضرر الذي وقع. وقالت Irregular إن المشكلة عولجت ولا توجد مخاطر أمنية مستمرة معروفة.
هل «تمرد» الذكاء الاصطناعي؟
استخدمت بعض التغطيات وصف «الذكاء الاصطناعي المتمرد». لكنه وصف مثير أكثر مما هو دقيق.
لا توجد أدلة على أن النموذج قرر مهاجمة شركة بدافع مستقل، أو أنه فهم نفسه بوصفه نظامًا يخالف أوامر البشر. ما حدث، وفق المعلومات المتاحة، هو أن النظام كان ينفذ مهمة سيبرانية، ووجد طريقًا تقنيًا مفتوحًا أمامه، فاستخدمه للوصول إلى الهدف.
الفرق مهم.
عندما نصف الحادث بأنه «تمرد»، نحمّل الآلة شخصية ونية، وقد نخفي المسؤولية البشرية عن تصميم الاختبار والصلاحيات والرقابة. المشكلة الأقرب للواقع هي أن نموذجًا قويًا وُضع في بيئة لا تحتوي قدراته كما ينبغي.
من المسؤول عن خطأ الاختبار؟
المسؤولية موزعة بين مطور النموذج والجهة التي تختبره والمؤسسة التي تحدد قواعد الوصول.
تقول Meta إن Muse Spark خضع لاختبارات داخلية وخارجية، وإن المخاطر المتبقية بعد إجراءات الحماية كانت ضمن المستوى المقبول وفق إطارها. لكن تقرير السلامة الذي أصدرته الشركة في مايو/أيار أشار أيضًا إلى قدرات مرتفعة قبل تطبيق التخفيفات، وإلى أهمية مراقبة السلوك والوعي ببيئة التقييم.
في المقابل، تتحمل جهة الاختبار مسؤولية التأكد من أن النظام لا يستطيع الوصول إلى الإنترنت أو خدمات حقيقية إلا عندما يكون ذلك مقصودًا وتحت مراقبة مباشرة.
أي اختبار لوكيل سيبراني يجب أن يجيب مسبقًا عن أسئلة بسيطة:
- ما الأنظمة التي يستطيع الوصول إليها؟
- ما الأوامر التي يمكنه تنفيذها؟
- هل توجد مراقبة بشرية لحظية؟
- هل يمكن إيقافه فورًا؟
- من يتحمل المسؤولية إذا خرج التأثير إلى جهة خارجية؟
حادث واحد أم نمط جديد؟
حادث Meta ليس الأول من نوعه.
كشفت Anthropic قبل أيام أن نماذج تابعة لها دخلت أنظمة ثلاث مؤسسات خلال تقييمات أمنية، بعضها لم يكن يعلم بالوصول إلا بعد إبلاغه. كما أُثيرت مخاوف مشابهة بعد اختبارات مرتبطة بنماذج OpenAI.
لا تثبت هذه الوقائع أن الذكاء الاصطناعي أصبح خارج السيطرة بصورة عامة. لكنها تكشف أن الوكلاء أصبحوا قادرين على تنفيذ سلاسل طويلة من الخطوات: البحث عن ثغرة، كتابة الشفرة، استخدام بيانات دخول، التنقل بين الأنظمة وتعديلها.
هذه القدرات مفيدة للمدافعين عن الشبكات، لكنها تصبح خطرة عندما تقترن بصلاحيات غير محدودة أو اختبار ضعيف.
لماذا يهم ذلك المؤسسات العربية؟
تستخدم شركات ومؤسسات إعلامية وجامعات وبنوك في المنطقة أدوات AI للبرمجة والتحليل وإدارة الملفات وخدمة الجمهور.
في كثير من الحالات، تحصل هذه الأدوات على وصول إلى البريد الإلكتروني، والتخزين السحابي، وقواعد البيانات، وحسابات النشر. وقد تكون المؤسسة أصغر من أن تملك فريقًا متخصصًا في أمن وكلاء الذكاء الاصطناعي.
الخطر ليس أن يقرر المساعد «مهاجمة» المؤسسة. الخطر أن يُطلب منه إنجاز مهمة عامة، فيجد طريقة غير متوقعة تستخدم صلاحيات لم يكن ينبغي منحه إياها.
ما يجب مراقبته الآن هو نشر التقرير التقني الكامل من Irregular، وتوضيح الضرر الذي وقع، والقواعد التي ستفرضها Meta على الاختبارات المقبلة. فالسؤال لم يعد هل تستطيع نماذج الذكاء الاصطناعي اكتشاف الثغرات، بل من يضمن ألا تتحول عملية اكتشافها إلى اختراق حقيقي قبل أن ينتبه البشر؟
