حذّر قادة في قطاع الذكاء الاصطناعي من تسارع تطوير التكنولوجيا بما قد يتجاوز قدرة المؤسسات على مواكبة قدراتها المتزايدة، فيما دعا مسؤول سابق في "غوغل" إلى إبطاء هذا المسار، محذراً من أن الصناعة تكرر أخطاء مرحلة صعود وسائل التواصل الاجتماعي، بما قد يعرّض الأطفال لأضرار أكبر.
وجاءت تحذيرات قادة القطاع خلال جلسة استثنائية لمجلس الأمن الدولي، الأربعاء، خُصصت لمناقشة تطورات الذكاء الاصطناعي والمخاطر المرتبطة بها، وسط مخاوف من احتمال خروج بعض الأنظمة المتطورة عن السيطرة.
تحذيرات من مخاطر التطوير السريع
وقال سام ألتمان، الرئيس التنفيذي لـ"أوبن إيه آي"، أمام أعضاء مجلس الأمن الـ15 إن المرحلة الحالية تتطلب "عناية دقيقة"، محذراً من أن تطور قدرات أنظمة الذكاء الاصطناعي واستقلاليتها قد يتجاوز قدرة المؤسسات على مواكبتها، أو يؤدي إلى تركّز هذه القدرات في أيدي عدد محدود من الأطراف.
وأضاف أنه لا ينبغي للقطاع "أن يقبل قدراً مفرطاً من المخاطر التكنولوجية لمجرد أن الفوائد عظيمة ومهمة إلى درجة لا تسمح بإبطاء الوتيرة"، مؤكداً أن "أوبن إيه آي" ستسعى إلى اتباع "طريق وسط"، قائلاً: "لا نريد أن نقع في فخ التفاؤل الأعمى"، مع التحذير في الوقت نفسه من "النزعة الكارثية".
من جهته، تعهد داريو أمودي، المدير التنفيذي لشركة "أنثروبيك"، بإبطاء العمل عند الضرورة لضمان سلامة الأجيال الجديدة من تقنيات الذكاء الاصطناعي، مؤكداً أن تزايد قوة النماذج يستوجب معايير سلامة أكثر صرامة.
تحذير من تكرار الأخطاء
وتتخطى المخاوف المتعلقة بالذكاء الاصطناعي مسألة سلامة النماذج لتشمل تأثيرها على الأطفال، وفق توم سيغل، مؤسس فريق الثقة والسلامة في "غوغل" التابعة لـ"ألفابت" ونائب رئيسها السابق لشؤون الثقة والسلامة.
ودعا سيغل هذا الأسبوع إلى إبطاء تطوير الذكاء الاصطناعي، محذراً من أن قطاع التكنولوجيا يكرر الأخطاء التي ارتُكبت مع صعود وسائل التواصل الاجتماعي، وهو ما قد يؤدي، برأيه، إلى أضرار أكبر للأطفال.
وقال لـ "رويترز" إن الوضع المتعلق بتأثير الذكاء الاصطناعي على الأطفال "مروع حقاً"، معتبراً أن تصور قدرة الصناعة على معالجة المشكلة بمفردها ومن دون مساعدة خارجية "غير واقعي".
وأشار توم سيغل إلى أن المخاطر المحتملة على الأطفال تشمل الانتحار والذهان و"التفريغ المعرفي"، وهو مصطلح يشير إلى تراجع القدرة على التفكير النقدي نتيجة الاعتماد على الذكاء الاصطناعي في الإجابة عن الأسئلة.
وكانت رويترز قد نشرت العام الماضي وثيقة داخلية لـ"ميتا" أظهرت أن روبوتات الدردشة التابعة لها يمكن أن "تشرك طفلاً في محادثات رومانسية أو تثير الغرائز"، ما أدى إلى تحقيق من الكونغرس.
وفي المقابل، تواجه شركات وسائل التواصل الاجتماعي آلاف الدعاوى القضائية ومبالغ ضخمة من المدفوعات المرتبطة بمزاعم إلحاق الضرر بالمستخدمين الصغار، بينما تعمل حكومات حول العالم على فرض قيود على وصول القاصرين إلى منصاتها.
دعوات إلى رقابة عالمية
وشارك في جلسة مجلس الأمن أيضاً كليمان دولانغ من شركة "هاغينغ فيس"، التي تعرضت أخيراً لهجوم سيبراني نفذه برنامج مستقل طورته "أوبن إيه آي".
وقال إن شركته استخدمت الذكاء الاصطناعي للتصدي للهجوم، معتبراً أن "العالم يحتاج إلى ذكاء اصطناعي مفتوح المصدر أكثر من أي وقت مضى للدفاع عن نفسه".
وطالبت "أوبن إيه آي" الولايات المتحدة بقيادة جهد دولي لوضع معايير لهذه التكنولوجيا.
أمازون تحظر "ميوز".. هل بدأت معركة وكلاء التسوق بالذكاء الاصطناعي؟ - موقع 24لم يكد وكيل الذكاء الاصطناعي "ميوز" التابع لشركة "ميتا" يضع قدمه على طريق الانتشار حتى اصطدم بأحد عمالقة التجارة الإلكترونية في العالم، فبعد تصدره قائمة التطبيقات الأكثر تحميلاً في الولايات المتحدة، بادرت شركة "أمازون" بحظره من التسوق عبر منصتها، لتندلع مبكراً معركة قد ...
لكن واشنطن وبكين، الرائدتين في هذا المجال، تعارضان فرض تنظيمات أو قيود قد تقيّد شركاتهما الوطنية في سباق تطوير الذكاء الاصطناعي.