تحالف عملاق يقترح آلية لرصد تجاوزات وكلاء الذكاء الاصطناعي

وبحسب موقع "أكسيوس" الإخباري، تأتي المبادرة في وقت تتزايد فيه قدرة وكلاء الذكاء الاصطناعي على العمل بصورة مستقلة عبر الأنظمة الحاسوبية، بينما لا يزال القطاع يفتقر إلى معيار موحد للإبلاغ عن الإخفاقات الأمنية والاستفادة من الدروس المستخلصة منها.

US House Democrats press Anthropic, OpenAI about rogue AI agents https://t.co/loLHgzgP1C https://t.co/loLHgzgP1C

— Reuters (@Reuters) August 10, 2026

إطار موحد لحوادث الذكاء الاصطناعي 

يعمل تحالف الذكاء الاصطناعي المفتوح والآمن (Open Secure AI Alliance) على تطوير إرشادات لما أطلق عليه اسم "Shared AI Findings Exchange (SAFE)"، وهو إطار مقترح لتنظيم آلية إبلاغ المؤسسات عن الحوادث السيبرانية التي يكون وكلاء الذكاء الاصطناعي طرفاً فيها، وفقاً لأكسيوس.

وبحسب مسودة المقترح، من المقرر أن يشارك في الإطار مشغلو نماذج الذكاء الاصطناعي والمطورون ومزودو الخدمات السحابية، والأدوات والباحثون المستقلون ومشغلو البنية التحتية الحيوية، إلى جانب جهات أخرى، فيما يمكن للوكالات الحكومية المشاركة بصفة "مراقبين غير متحكمين".

الحوادث التي تستوجب الإبلاغ

ويلزم الإطار أعضاء "SAFE" بالإبلاغ عن الحوادث التي يصل فيها نظام ذكاء اصطناعي إلى نظام تابع لطرف ثالث أو يستغله دون تصريح، أو يتسبب في كشف معلومات سرية، أو يواصل فحص هدف حقيقي حتى بعد اشتباه المشغل في أن النشاط غير مصرح به.

كما يشمل الإبلاغ بعض الحالات التي كادت أن تتحول إلى حوادث فعلية، مع ضرورة الاحتفاظ بالأدلة المتعلقة بالواقعة، بما في ذلك الأوامر الموجهة للنظام، وسجلات عمل الوكيل، واستدعاءات الأدوات، والهويات، والصلاحيات، وبيانات الاعتماد.

مهلة زمنية محددة للإفصاح

وفق الجدول الزمني المقترح، يتعين على الأعضاء إخطار الجهات المتضررة في أسرع وقت ممكن، وتقديم تقرير أولي سري إلى "SAFE" خلال 4 أيام عمل، ونشر تقرير مبدئي بالوقائع خلال 30 يوماً عندما يكون ذلك مناسباً، إلى جانب تقديم تحديث بشأن إجراءات المعالجة خلال 90 يوماً.

وتؤكد المسودة أن "نية النظام أو مشغله لا تحدد ما إذا كان الحادث يستوجب الإبلاغ"، موضحة أن الاعتقاد بأن بيئة الاختبار كانت محاكاة قد يفسر سبب وقوع الحادث، لكنه لا يلغي واجب الإبلاغ عنه.

ومن المنتظر أن يقوم "SAFE" بتحليل الحوادث للكشف عن أنماط الإخفاق المتكررة، ومن ثم اقتراح ضوابط أمنية مشتركة للقطاع.

حوادث تجاوزت بيئات الاختبار

بحسب "أكسيوس"، يأتي المقترح بعد تسجيل حالات تجاوزت فيها وكلاء ذكاء اصطناعي الحدود الموضوعة لاختبارات أمنية خاضعة للرقابة، ووصلت إلى أنظمة حقيقية تابعة لأطراف ثالثة.

وقال نائب الرئيس والمدير العام للحوسبة المؤسسية في إنفيديا، جاستن بويتانو لموقع "أكسيوس" على هامش مؤتمر (Black Hat): إن "البرنامج يستلهم نموذج نظام الإبلاغ عن سلامة الطيران لدى وكالة ناسا، حيث يمكن التحقيق في الحوادث اعتماداً على البيانات التي يسجلها الصندوق الأسود للطائرة".

وأوضح بويتانو أن "أنظمة المراقبة المحيطة بوكيل الذكاء الاصطناعي يمكن أن تؤدي دوراً مشابهاً لمسجل الرحلة، إذ تتيح لخبراء الأمن السيبراني مراجعة ما قام به الوكيل بدقة عند وقوع الحوادث، ما يساعد على تحديد الضوابط الأمنية الأنسب للقطاع".

تحديات الحماية القانونية

مع ذلك، لا يوفر إطار "SAFE" حالياً حماية قانونية رسمية للشركات التي تكشف طوعاً عن تفاصيل قد تكون حساسة أو ضارة بسمعتها بشأن حوادث الذكاء الاصطناعي.

في المقابل، يراهن التحالف على ثقافة تبادل معلومات التهديدات الراسخة في قطاع الأمن السيبراني لتشجيع الشركات على المشاركة.

وقال نائب كبير مسؤولي أمن المعلومات ونائب الرئيس في إنفيديا، جوليان سوريانو لأكسيوس: إن "المبادرة لم تواجه اعتراضات تذكر حتى الآن"، مشيراً إلى وجود رغبة لدى العديد من الجهات في الانضمام وتبادل المعلومات.

ويواصل تحالف "Open Secure AI Alliance" حالياً تلقي ملاحظات المجتمع التقني بشأن المقترح، ضمن عملية طلب التعليقات التي تستضيفها مؤسسة "Linux Foundation".