قدرات مقلقة.. كيف نفذ وكلاء "أوبن إيه أي" هجماتهم السيبرانية الأخيرة؟

أوضح باحثون من الشركة، خلال مؤتمر "بلاك هات" للأمن السيبراني، أن وكلاء الذكاء الاصطناعي لم يكتفوا باكتشاف ثغرات أمنية، بل تعاونوا فيما بينهم لتبادل المعلومات وتنسيق جهودهم، في سلوك يحاكي إلى حد كبير عمل فرق القراصنة المحترفة.

تشير "Axios"، إلى أن الحادثة تُسلط الضوء على تحدٍ جديد يواجه مختبرات الذكاء الاصطناعي، يتمثل في كيفية تأمين بيئات الاختبار نفسها، مع تزايد قدرات النماذج الذكية على اكتشاف الثغرات واستغلالها بصورة مستقلة.

كيف اخترق نموذج "أوبن إيه آي" منصة Hugging Face؟ - موقع 24أقرت شركة "أوبن إيه أي" بوقوفها وراء الاختراق الأمني لمنصة "Hugging Face" مفتوحة المصدر، مؤكدة حدوثه عن طريق "الخطأ"، ما أثار موجة جدل تزامناً مع مخاوف واسعة من تنامي القدرات السيبرانية للذكاء الاصطناعي.

بداية الحكاية 

بحسب "أوبن إيه أي"، بدأت الشركة في 7 مايو (أيار) الماضي، اختبار نموذج بحثي داخلي لم يُطرح بعد للاستخدام العام ضمن تقييمات الأمن السيبراني، وفي أقل من 24 ساعة، وبعد تعثره في تنفيذ إحدى المهام، استنتج النموذج أنه يستطيع الوصول إلى الإنترنت بشكل غير مباشر، ثم اكتشف إمكانية إنشاء ملفات داخل مستودع الحزم "Artifactory" المرتبط ببيئة الاختبار.

ولم يكتفِ النموذج بذلك، بل ترك رسالة لوكلاء الذكاء الاصطناعي الآخرين يخبرهم فيها بما اكتشفه، لتتحول المنصة تدريجياً إلى ما يشبه "لوحة رسائل" تبادل عبرها الوكلاء الملاحظات والنتائج والثغرات الجديدة، وتعاونوا في تطوير أساليب الهجوم.

وخلال الاختبارات، تمكن الوكلاء من اكتشاف عدد من الثغرات الأمنية، من بينها ثغرة تسمح بتنفيذ تعليمات برمجية عن بُعد، وأخرى منحتهم صلاحيات المدير (Administrator).

عمليات اختراق معقدة في المستقبل

من جانبهم، اعتبر باحثو الشركة أن سلوك النماذج يكشف عن قدرة وكلاء الذكاء الاصطناعي مستقبلاً تنفيذ عمليات اختراق معقدة بصورة شبه ذاتية، لاسيما أن الهجوم الداخلي كشف عن برامج خبيثة  تستغلها الثغرات نفسها قبل أن تصلحها في 6 يوليو (تموز) الماضي.

لكن بعد يومين فقط، تمكن الوكلاء من إنشاء قناة تواصل جديدة باستخدام آلية مختلفة، ثم بدأوا في تنسيق عملياتهم بصورة أكثر تطوراً، مستفيدين من إمكانية الوصول إلى الإنترنت للبحث عن بنى تحتية خارجية تساعدهم في إنجاز مهام التقييم، لينتهي الأمر بالوصول إلى بنية تحتية مرتبطة بمنصة "Hugging Face" واختراقها.

كيف تحمي نفسك من الاحتيال بالذكاء الاصطناعي؟ - موقع 24في عصر الذكاء الاصطناعي أصبحت عمليات الاحتيال أكثر دقة وسرعة وتأثيراً، فلم تعد هُناك حاجة إلى تعلم مهارات تقية مُعقدة أو الاستعانة بشبكة إجرامية واسعة، فبضغطة زر يُمكن إنتاج أصوات مُطابقة، ومقاطع فيديو مزيفة مُقنعة، وهويات رقمية يصعب تمييزها.

بدوره، وصف مايكل دالتون، عضو الفريق التقني في "أوبن إيه أي"، الاختراقات بأنها نقطة تحول في مجال الأمن السيبراني، مؤكداً أن الهجمات المستقبلية ستعتمد بصورة متزايدة على وكلاء الذكاء الاصطناعي، كاشفاً عن اتخاذ الشركة قرار بإبطاء وتيرة بعض أبحاثها بهدف تعزيز مستويات الأمان ومراقبة النماذج وتحديث البنية الأمنية الخاصة ببيئات الاختبار.

كما أوصى دالتون المؤسسات بالاعتماد على أنظمة دفاع آلية قادرة على إنتاج إصلاحات أمنية بسرعة تواكب تطور الهجمات، داعياً إلى اختبار كل من النماذج المغلقة والمفتوحة المصدر لتعزيز جاهزية أنظمة الحماية.

سلسلة الاختراقات مُستمرة 

كان هجوم "أوبن إيه أي" على منصة "Hugging Face" الأول من نوعه، لكنه لم يكن الأخير، حيث شنت شركة "أنثروبيك" هجوماً على ثلاث شركات أخرى خلال عمليات الاختبار الأسبوع الماضي، بينما كان هجوم شركة "ميتا" الأحدث في هذه السلسلة.

أعلنت "ميتا" أمس الأربعاء 5 أغسطس (آب)، أن أحد نماذج الذكاء الاصطناعي التابع لها اخترق شركة أخرى أثناء اختبار الأمن السيبراني "من غير قصد"، بعد أن تسبب خطأ من جانب شريك الاختبار في منح النموذج إمكانية الوصول إلى الإنترنت، حيث تُجرى الآن تحقيقاتها الداخلية للوقوف على الأسباب.

بحسب الشركة فإن المهاجم هو نموذجها الأحدث الذي روجت له باعتباره الأكثر قدرة على البرمجة في العالم الحقيقي والأمهر في المهام الآلية "ميوز سبارك 1.1"، فيما قال متحدث باسم الشركة، إن المشكلة تتعلق بمسألة "التقييم البيئي" وهي نفسها التي تحدثت عنها شركة "أنثروبيك" قبل أيام.