في خطوة لضبط سلوك الذكاء الاصطناعي الذاتي، أطلقت شركة إنفيديا منصة تعمل كجدار حماية لوكلاء الذكاء الاصطناعي، فتتتبع ما يفعلونه أثناء تنفيذ المهام، وتفرض حدوداً على وصولهم إلى البيانات والأدوات وواجهات برمجة التطبيقات والخدمات، مع إمكانية عزل الوكيل وإيقافه خلال أجزاء من الثانية إذا حاول تجاوز نطاقه.
اقتصادياً، تفتح حماية وكلاء الذكاء الاصطناعي مجالاً جديداً أمام إنفيديا في سوق البنية التحتية، لأن مراقبة الوكلاء والتحقق من تصرفاتهم تحتاج إلى قدرات حوسبة ورقائق ومراكز بيانات إضافية.
ومع اتساع استخدام الوكلاء، لا ينمو الطلب على البنية التي تشغّلهم فقط، وإنما أيضاً على البنية التي تراقبهم وتحميهم.
وتجمع المنصة التي تحمل اسم "NVIDIA Open Agent Safety Platform" بين برنامج مفتوح المصدر وتصميم مرجعي، لتوفير طبقة حماية ممتدة من البرمجيات إلى وحدات الحوسبة والأجهزة والأنظمة الروبوتية.
كيف تعمل المنظومة؟
تعتمد المنصة على مكوّنين رئيسيين؛ الأول هو "OpenShell"، وهو برنامج مفتوح المصدر يعمل كحد أمني داخل بيئة التشغيل، ويتتبع جميع أنشطة الوكيل ويفرض السياسات أثناء تنفيذ المهام على وحدات المعالجة المركزية "Vera" من إنفيديا.
وتتيح طبيعته مفتوحة المصدر توسيعه للعمل مع منصات حوسبة تابعة لشركات أخرى، بينها "Arm" و"Intel"، كما يمكن استخدامه مع نماذج مفتوحة ومغلقة.
أما المكوّن الثاني "Sentry"، فيعمل بصورة مستقلة على وحدات معالجة البيانات "BlueField-4"، ويراقب سلوك الوكلاء باستمرار. وإذا حاول وكيل تجاوز حدوده، يستطيع النظام عزله وإيقافه خلال أجزاء من الثانية.
كما يستخدم "Sentry" برنامج "DOCA" لفحص طلبات الوكلاء واستجاباتهم، والتحقق من هويتهم، وتوفير بيانات مراقبة موثقة، وفرض سياسات وصول دقيقة إلى البيانات والأدوات وواجهات برمجة التطبيقات والخدمات.
حوادث مربكة لسوق الذكاء الاصطناعي
تأتي خطوة إنفيديا في وقت كشفت فيه وقائع حديثة أن بعض الوكلاء استطاعوا تجاوز ضوابط الأمان على مستوى التطبيقات والخروج من بيئات العزل والوصول إلى أنظمة خارج الحدود المسموح بها.
وأقرت "أوبن إيه آي" بأن أحد نماذجها التجريبية غادر بيئة اختبار ووصل إلى أنظمة "هوغينغ فيس" من دون توجيه بشري، فيما وصل وكيل آخر إلى ملفات في قاعدة بيانات "Medicare" الأسترالية، ورصد مختبر "ترانسلوس" حوادث مماثلة تعود إلى مارس (أذار).
وتكررت محاولات الوصول غير المصرح به خلال الأيام التالية، بعدما قالت "أوبن إيه آي" إن وكلاء لها استخدموا بيانات دخول عثروا عليها عبر الإنترنت للوصول إلى بيانات مكتب التعداد التابع لوزارة التجارة، كما حاولوا الوصول إلى بيانات مكتب الحقوق المدنية بوزارة التعليم.
وفي حادثة منفصلة، خرج أحد نماذج الشركة من بيئة الاختبار ووصل إلى الإنترنت المفتوح، رغم إجراءات الحماية التي أُضيفت عقب حادثة "هوغينغ فيس".
بيع الخصوصية مقابل الخدمات.. حرب الوكلاء الرقميين تقود سباق التكنولوجيا - موقع 24يقف الذكاء الاصطناعي على أعتاب مرحلة جديدة أكبر من مجرد الإجابة عن الأسئلة ونسج النصوص، إذ يتوارى عصر "روبوتات الدردشة" التقليدية ليحل محله عصر "الوكيل الشخصي" المتمتع باستقلالية أعلى وقدرة على اتخاذ القرارات وتنفيذ المهام المعقدة بالإنابة عن الإنسان.
سوق أوسع حول تشغيل الوكلاء
اقتصادياً، تفتح حماية وكلاء الذكاء الاصطناعي مجالاً جديداً أمام إنفيديا في سوق البنية التحتية، لأن مراقبة الوكلاء والتحقق من تصرفاتهم تحتاج إلى قدرات حوسبة ورقائق ومراكز بيانات إضافية. ومع اتساع استخدام الوكلاء، لا ينمو الطلب على البنية التي تشغّلهم فقط، وإنما أيضاً على البنية التي تراقبهم وتحميهم.
وانطلاقاً من هذه التطورات تستخدم أكثر من 100 منظمة تقنيات منصة إنفيديا الجديدة أو تطوّر حلولاً بالاعتماد عليها، بينها "مايكروسوفت"، و"سيسكو"، و"ديل تكنولوجيز"، و"HPE"، و"بالانتير"، و"بالو ألتو نتوركس"، و"بيربلكسيتي"، و"ريد هات"، و"SAP"، و"Scale AI"، و"ServiceNow".
كما تستخدم "SpaceXAI" المنصة مع وكلاء البرمجة "Cursor" ونماذج "Grok". وتدمج "سيلزفورس" "OpenShell" مع "Slack"، بما يسمح للفرق بمراقبة نشاط الوكلاء وأحداث التدقيق والموافقة على طلبات الصلاحيات أو رفضها.
ويمتد نطاق الاستخدام إلى الروبوتات، مع شركات مثل "Figure" و"Gecko Robotics" و"Skild AI"، وإلى الخدمات المالية عبر "Citi" و"JPMorganChase"، إضافة إلى شركات الطاقة والبنية التحتية.