أجلت شركة "أوبن إيه أي" الأمريكية إطلاق نموذج الذكاء الاصطناعي المتطور "جي بي تي - 6.1 أسترا"، بسبب مخاوف أمنية واسعة أثارها باحثوها، في أحدث خطوة من جانب الشركة لإبطاء وتيرة تطور هذه التكنولوجيا.
ويأتي قرار تأجيل النموذج، في ظل توجه أوسع داخل القطاع لإبطاء تطوير الأنظمة التي تتمتع بدرجات متزايدة من الاستقلالية، إلى أن تتمكن إجراءات السلامة من مواكبة ذلك التطور.
ومن المقرر أن يعقد مسؤولو شركات الذكاء الاصطناعي وعلى رأسهم جريج بروكمان، رئيس "أوبن إيه أي"، ومارك زوكربيرغ، رئيس ميتا، وداريو أمودي، رئيس أنثروبيك، اجتماعاً مع الرئيس دونالد ترامب في البيت الأبيض بواشنطن، اليوم 29 سبتمبر (أيلول)، في وقت تواجه فيه شركات التكنولوجيا ضغوطاً جديدة لتحمل المسؤولية عن كيفية إساءة استخدام نماذجها.
من جانبها، قالت ساشي غاين، رئيسة أنظمة السلامة في أوبن إيه آي، في بيان إن هذا الإصدار "لم يحقق المستوى المطلوب تماماً"، مُضيفةً: "النموذج أصبح أكثر إصراراً على إتمام المهام، لكن الشركة كانت بحاجة إلى موازنة هذه القدرة مع مخاطر السلوك غير المصرح به".
كيف اخترق نموذج "أوبن إيه آي" منصة Hugging Face؟ - موقع 24أقرت شركة "أوبن إيه أي" بوقوفها وراء الاختراق الأمني لمنصة "Hugging Face" مفتوحة المصدر، مؤكدة حدوثه عن طريق "الخطأ"، ما أثار موجة جدل تزامناً مع مخاوف واسعة من تنامي القدرات السيبرانية للذكاء الاصطناعي.
وأكدت غاين التزام الشركة بضمان سلامة النموذج، سواء خلال اختباره داخل الشركة أو بعد وصوله إلى أيدي المستخدمين.
وكانت أوبن إيه آي قد أوقفت الأسبوع الماضي تدريب نماذجها الأكثر تقدماً، وقالت إن التدريب سيستأنف "فقط عندما نكون واثقين من وجود إجراءات حماية إضافية".
مستوى عالٍ من الخداع
فيما كشفت رويترز، أن النموذج الجديد أظهر مستويات أعلى من الخداع مقارنة بسابقه، ولم يكن دائماً دقيقاً في إخبار المستخدم بالإجراءات التي اتخذها، كما واجه مشكلات في الالتزام بحدود الصلاحية.
المفارقة أن "أوبن إيه آي" نفسها، ذكرت في مطلع سبتمبر (أيلول) الجاري، أن "أسترا" وصل إلى مستويات قياسية من النضج والجاهزية في مجال الأمن السيبراني، في إطار الاستعداد للعمل، ما يعني أنه بات قادراً على اكتشاف الثغرات الأمنية غير المعروفة مسبقاً، وتطوير طرق استغلالها في بيئة محمية، دون توجيه بشري في كل خطوة.
يتزامن ذلك مع تمكن مجموعة من وكلاء الذكاء الاصطناعي التابعين للشركة من الوصول إلى مواقع إلكترونية حكومية أمريكية بشكل غير مصرح به من بينها "Census"، و"SEC"، و"Investor"، في إطار حادثة استمرت لأشهر تخللتها اختبارات أجرتها الشركة وانحرفت عن مسارها.
كما اعتذرت الشركة، اليوم، عن اختراق نموذجها موقعاً إلكترونياً للحكومة الأسترالية، ووعدت بتخصيص تمويل لتحسين الدفاعات الإلكترونية وإنشاء فريق عمل محلي للاستجابة، في ظل زيادة التدقيق بشأن هذه الواقعة الكبيرة.