ماذا يكشف "Astra" عن مستقبل الذكاء الاصطناعي؟

وبحسب بيان أوبن آي، فإن "Astra" هو أول نموذج لديها يصل إلى عتبة القدرات السيبرانية الحرجة ضمن إطار السلامة الخاص بالشركة. وتقول إن النموذج، مع توفير الأدوات والصلاحيات المناسبة، يستطيع اكتشاف ثغرات أمنية لم تكن معروفة سابقاً وتطوير طرق لاستغلالها في أنظمة محمية، من دون الحاجة إلى توجيه بشري في كل خطوة.

 التطور الأهم بهذا النموذج برأي غسان محمود، مهندس كمبيوتر وخبير في تقنيات الذكاء الاصطناعي، لا يتمثل فقط في العثور على ثغرة، وإنما في قدرة النموذج على ربط مراحل متعددة من المهمة وتنفيذها بدرجة أكبر من الاستقلالية.

وذكرت أوبن آي، أن "Astra" حقق نسبة نجاح بلغت 100% في اختبار ExploitBench للثغرات المعروفة. وفي اختبار داخلي شمل 20 ثغرة عالية الخطورة كشف عنها حديثاً، حقق النموذج معدلات أعلى من "GPT-5.6 Sol" في تنفيذ الشيفرات، مع استخدام عدد أقل بكثير من الرموز. كما تقول الشركة إنه اكتشف واستغل ثغرتين من نوع "يوم الصفر" ضمن سلسلة استغلال.

وتوضح أوبن آي أن هذه النتائج تعكس اختبارات جرت في بيئات مخصصة وبإتاحة أدوات معينة للنموذج، ولا تعني أن النموذج يعمل بهذه الصلاحيات في الاستخدام الإنتاجي العادي.

لماذا تعتبر ثغرات "يوم الصفر" مهمة؟

ثغرات "يوم الصفر" هي نقاط ضعف لم تكن معروفة سابقاً للجهة المسؤولة عن النظام، ولذلك يمكن أن تكون أكثر صعوبة في التعامل معها قبل اكتشافها واستغلالها، بحسب غسان محمود.

وتتوافق هذه التطورات مع أبحاث مستقلة في المجال. فقد بحثت دراسة "فرق من وكلاء نماذج اللغة تستطيع استغلال ثغرات يوم الصفر" (Teams of LLM Agents can Exploit Zero-Day Vulnerabilities) قدرة عدة وكلاء من نماذج اللغة على التعاون في اكتشاف واستغلال ثغرات حقيقية.

كما قدم باحثون في غوغل دراسة "Co-RedTeam: اكتشاف واستغلال أمني منسق باستخدام وكلاء نماذج اللغة"، تناولت استخدام عدة وكلاء لتنفيذ مراحل مختلفة من عملية البحث عن الثغرات واختبار استغلالها.

ويرى محمود أن هذه الأبحاث تساعد في فهم التحول الجاري، النماذج لا تكتفي بتقديم تحليل أو اقتراح، وإنما أصبحت قادرة على استخدام الأدوات وتنفيذ خطوات متتابعة ضمن مهمة واحدة.

لماذا تشدد أوبن آي القيود؟

وتقول أوبن آي إن تصنيف "Astra" ضمن مستوى القدرات السيبرانية الحرجة استدعى إضافة إجراءات حماية أقوى قبل إطلاقه. وتشمل هذه الإجراءات تحسين قدرة النموذج على رفض الطلبات السيبرانية الضارة، وإضافة وسائل حماية من إساءة الاستخدام، ومراقبة نشاط النموذج لإيقاف بعض العمليات غير المصرح بها. كما ستتاح القدرات السيبرانية الأكثر تقدماً في البداية لمجموعة محدودة من المختبرين.

وتقول الشركة إن إجراءات الحماية قد تؤدي أحياناً إلى إبطاء أو إيقاف مهام مشروعة، بما فيها بعض أعمال الأمن الدفاعي.

وبحسب رويترز، دفعت نتائج الاختبارات أوبن آي إلى فرض ضوابط إضافية على "Astra"، بعدما أظهرت الاختبارات قدرة النموذج على العثور على ثغرات جديدة وتطوير طرق لاستغلالها مع تدخل بشري محدود.

ومن المهم التمييز بين "Astra" وحادثة اختراق منصة "Hugging Face" التي أعلنت عنها أوبن آي في أغسطس(آب)وفق غسان محمود. فالشركة أكدت أن "Astra" لم يكن مشاركاً في الحادثة، لكنها قالت إنها أخذت الدروس المستخلصة منها في الاعتبار عند تطوير إجراءات الحماية الخاصة بالنموذج الجديد.

ماذا يعني ذلك عملياً؟

بحسب قراءة محمود، فإن التطو الأهم ليس أن الذكاء الاصطناعي أصبح "هاكراً" مستقلاً، وإنما أن الفاصل بين التحليل والتنفيذ أصبح أضيق.

وقال "كلما أصبح النموذج قادراً على استخدام الأدوات واتخاذ خطوات متتابعة ضمن مهمة واحدة، تصبح مسألة الصلاحيات أكثر أهمية، ما الذي يمكنه الوصول إليه؟ وما الأدوات التي يستطيع استخدامها؟ وما القرارات التي يمكنه اتخاذها من دون تدخل بشري؟".

وتوضح أوبن آي أنها تتعامل مع جانبين من المخاطر، احتمال استخدام أشخاص للنموذج في أنشطة ضارة، واحتمال أن يتخذ النموذج نفسه إجراءات غير مصرح بها. ولهذا تجمع إجراءاتها بين رفض الطلبات الضارة، والمراقبة، وتقييد الوصول إلى الأدوات والبيئات الحساسة.

وفي المقابل، ترى الشركة أن القدرات نفسها يمكن أن تساعد فرق الأمن على اكتشاف نقاط الضعف قبل المهاجمين ومعالجة المشكلات بسرعة أكبر.

وبذلك، تكشف تجربة "Astra" عن اتجاه أوسع في تطور الذكاء الاصطناعي، بحسب غسان محمود وهي نماذج لا تكتفي بفهم المشكلة أو تقديم إجابة، وإنما تستطيع تنفيذ أجزاء متزايدة من العمل باستخدام الأدوات وبدرجة أكبر من الاستقلالية. ويصبح التحدي الموازي هو تطوير أنظمة الرقابة والحماية بالسرعة نفسها التي تتطور بها قدرات هذه النماذج.