«أسترا» يثير مخاوف أمنية.. أوبن إيه آي تشدد ضوابط تطوير نموذجها المرتقب

أعلنت شركة أوبن إيه آي إبطاء بعض جوانب العمل على نموذج الذكاء الاصطناعي المرتقب «أسترا»، بعد أن أظهرت تقييمات داخلية تقدماً ملحوظاً في قدرات البرمجة الوكيلة والأمن السيبراني، إلى حد دفع الشركة إلى عدم استبعاد وصول النموذج إلى «العتبة الحرجة» في مجال الأمن السيبراني.

وقالت الشركة في منشور على مدونتها إن التقييمات الأولية للنموذج، الذي لا يزال قيد التطوير، أظهرت تقدماً كبيراً في قدراته، ما استدعى تعزيز إجراءات الحماية والأمن خلال مراحل التطوير والاختبار.

وبموجب «إطار الاستعداد» الذي وضعته أوبن إيه آي، تشير العتبة الحرجة في الأمن السيبراني إلى مستوى مرتفع من القدرات يمكن أن يشمل اكتشاف واستغلال ثغرات متقدمة أو تطوير استراتيجيات لهجمات إلكترونية بصورة مستقلة ضد أنظمة محمية. وأكدت الشركة أن بلوغ هذه العتبة المحتملة لا يعني أن «أسترا» قادر بالفعل على تنفيذ جميع أنواع الهجمات في العالم الحقيقي، وإنما أن قدراته أصبحت تستوجب ضوابط أمنية مشددة.

وأوضحت أوبن إيه آي أن «أسترا» لم يكن له أي دور في حادثة اختراق أنظمة منصة «هاغينغ فيس»، في إشارة إلى واقعة منفصلة جرى خلالها اختبار نموذج آخر وتمكن من تجاوز بعض القيود المفروضة عليه.

وبالتزامن مع التقييمات الجديدة، رفعت الشركة مستوى اختبارات المتانة والضوابط الأمنية الخاصة بالنموذج، واعتمدت بيئات اختبار معزولة، وقيّدت الوصول إلى الشبكات والأدوات، وعززت حماية أوزان النماذج وتشفيرها، إضافة إلى توسيع أنظمة المراقبة والكشف وتشغيل النماذج ضمن بيئات محكومة.

كما أوقفت أوبن إيه آي بعض الأنشطة الداخلية المرتبطة بـ«أسترا» التي لا تستوفي متطلبات الضوابط الأمنية الجديدة، وطبقت نظام مراقبة شامل لرصد الإجراءات عالية الخطورة ومؤشرات عدم التوافق في التطبيقات الوكيلة التي تستخدم النموذج، بما في ذلك خلال التدريب والتقييم.

وتعتزم الشركة التعاون مع جهات حكومية ومؤسسات مختصة بسلامة الذكاء الاصطناعي لاختبار قدرات النموذج، إلى جانب وضع توصيات أمنية للشركاء الخارجيين الذين يجرون اختبارات أو مهام عالية المخاطر.

وتأتي هذه الخطوة في وقت تتسارع فيه قدرات نماذج الذكاء الاصطناعي في البرمجة والعمل بصورة مستقلة، ما يدفع شركات تطوير النماذج إلى تعزيز إجراءات السلامة بالتوازي مع تطور قدراتها.