خاص 24| الذكاء الاصطناعي لا يحتاج نوايا سيئة ليصبح خطراً

ويزداد تعقيد التساؤل مع سرعة تطور التكنولوجيا؛ فالذكاء الاصطناعي يحمل تطبيقات يمكن أن تعزز قدرات البشر وتدعم مجالات مثل الطب واكتشاف الأدوية، وفي الوقت نفسه تزداد المخاطر عندما ترتبط الأنظمة بصلاحيات واسعة أو قدرة أكبر على العمل بصورة مستقلة.

وبين المنافع والمخاطر، تواجه الجهات التنظيمية مهمة وضع قواعد تواكب التكنولوجيا دون أن تتحول إلى عائق أمام الابتكار.

الخطر في القدرة وليس النية

يرى شيلدون إتش جاكوبسون، أستاذ علوم الكمبيوتر في جامعة إلينوي الأمريكية، ودانيال سولوف، أستاذ العمليات في جامعة كيس ويسترن ريزيرف، أن التعامل مع الذكاء الاصطناعي باعتباره عقلاً بشرياً يقود إلى فهم غير دقيق لقدراته وحدوده.

فالأنظمة الحالية تتواصل بلغات متعددة، وتجيب عن الأسئلة، وتحلل المشكلات وتنفذ مهام نيابة عن المستخدمين، لكنها لا تختبر العالم بالطريقة التي يفعلها الإنسان، كما أن قدرتها على المناقشة لا تعني امتلاكها وعياً أو مسؤولية أخلاقية.

ومن هنا، يجب أن يبدأ تقييم المخاطر من قدرات النظام الفعلية، ودرجة استقلاليته، وحجم الوصول الذي حصل عليه، والضرر الذي يمكن أن ينتج عن استخدامه.

ويكشف الأمن السيبراني عن جانب مهم من هذه المشكلة؛ فالذكاء الاصطناعي أصبح أكثر قدرة على التعامل مع الدفاعات الرقمية، لكن المسؤولية عن اختراق ناجم عن استخدامه لا ترتبط بسؤال ما إذا كان النظام "يريد" تنفيذ الهجوم، وإنما بالجهة التي طورته أو شغلته، والصلاحيات التي حصل عليها، والضوابط الموضوعة حول استخدامه.

المسؤولية لا ترتبط بطرف واحد

وفي هذا الصدد، يقول الدكتور محمد عزام، خبير التكنولوجيا وأمن المعلومات، في تصريحات خاصة لـ24، إن تحديد المسؤولية القانونية لأي اختراق جسيم يحتاج إلى النظر في جميع مراحل استخدام النظام، وليست تحميلها لطرف واحد تلقائياً.

ويوضح أن تحديد مصدر الخلل يبدأ من معرفة ما إذا كانت المشكلة مرتبطة بالمطور، أو المشغل، أو الجهة التي منحت النظام صلاحيات واسعة سمحت بحدوث الاختراق. 

ويرى عزام أن الهجمات السيبرانية المستقلة تمثل ملفاً جديداً ومعقداً، مع زيادة قدرة الذكاء الاصطناعي على تشغيل خوارزميات يمكن أن تسمح بالاختراقات.

وفي الاتجاه الآخر، يشدد الخبير التكنولوجي على أن الذكاء الاصطناعي بات يستخدم في الدفاع اللحظي عن الشبكات والأنظمة الرقمية، وهو ما يجعل التعامل مع هذه التكنولوجيا أكثر تعقيداً من حصرها في جانب التهديد.

ويشير عزام إلى أن التطور التكنولوجي أصبح أسرع من المفاهيم القانونية والتشريعية والتنظيمية، وهو ما يُعقد مهمة وضع قواعد قادرة على مواكبة التغيرات المتلاحقة.

أوروبا تختبر التنظيم وفق مستوى الخطر

ولأن المخاطر لا تتساوى بين تطبيق وآخر، اتجهت محاولات التنظيم إلى التمييز بين مستوياتها بدلاً من إخضاع جميع أنظمة الذكاء الاصطناعي للقواعد نفسها. 

ووفق محمد عزام يقدم الاتحاد الأوروبي أحد أبرز هذه النماذج من خلال قانون الذكاء الاصطناعي الصادر في 2024، الذي يصنف التطبيقات بحسب درجة خطورتها؛ فتندرج استخدامات مثل تحديد الرسائل المزعجة ضمن التطبيقات الأقل خطورة، بينما تخضع أنظمة الائتمان والتوظيف لضوابط تستهدف التأكد من عدم استخدام هذه الأنظمة في استبعاد فئات معينة أو التمييز بينها. 

أما التطبيقات الأكثر خطورة، فتشمل أنظمة المراقبة والتعرف اللحظي على الوجوه والتقييم الاجتماعي، وتخضع لمتطلبات أكثر صرامة.

كما يرى الدكتور محمد عزام أن البيئات التنظيمية التجريبية، المعروفة باسم "صناديق الاختبار التنظيمية"، تتيح تجربة الأنظمة والتقنيات الجديدة قبل تطبيق القواعد عليها بصورة أوسع، وهو ما يساعد الجهات التنظيمية على معرفة كيفية عمل التكنولوجيا قبل وضع أطر نهائية لها.

وفي المقابل، يشرح الخبير التكنولوجي أن الولايات المتحدة والصين ترفضان التنظيم الواسع خشية تأثيره في الابتكار والمنافسة التكنولوجية بينهما، لتبقى المعادلة مفتوحة بين حماية المستخدمين وإدارة المخاطر من جهة، والحفاظ على سرعة التطور من جهة أخرى.