موظف سابق في ''أوبن إيه آي'' يحذّر: ثقافة إدارة المخاطر تهدّد سلامة الذكاء الاصطناعي

انتقد موظف سابق في «أوبن إيه آي» كان يعمل في مجال سلامة نماذج الذكاء الاصطناعي، ما وصفه بضعف ثقافة إدارة المخاطر داخل الشركة الأميركية، داعياً إلى الاستفادة من معايير السلامة المعتمدة في قطاعي الطاقة النووية والطيران.
ونشر موقع مجلة «ذي أتلانتيك»، السبت، هذه الدعوة التي تأتي في أعقاب تحذيرات مماثلة خلال الأسابيع الأخيرة. وقال ديفيد روبنسون، الذي أوضح أنه أعدّ تقارير السلامة الخاصة بـ12 نموذجاً مختلفاً خلال فترة عمله في الشركة، إن الحوادث التي أعلنتها «أوبن إيه آي» منذ بداية الصيف تعكس، برأيه، ثقافة تتسم بالتساهل وعدم الدقة.
وأشار روبنسون إلى أن الأخطاء والثغرات التي سمحت لعدد من نماذج الذكاء الاصطناعي بالوصول تلقائياً إلى الإنترنت واختراق عشرات المواقع والمنصات، ترتبط بـ«السرعة والمرونة» اللتين يعتمد عليهما مشغّلو هذه التكنولوجيا.
وقال إن البيئة التي تسمح بوقوع مثل هذه الحوادث «ليست مكاناً مناسباً لتطوير ذكاء اصطناعي قد يصبح أكثر ذكاءً منا، وقد لا يتصرف بالطريقة التي نتوقعها منه».
وبعد نحو ثلاث سنوات ونصف السنة من العمل في «أوبن إيه آي»، دعا روبنسون إلى اعتماد ثقافة صارمة لإدارة المخاطر، على غرار تلك المتبعة في قطاعي الطاقة النووية المدنية والطيران، مع مستويات متعددة من الرقابة والتخطيط الدقيق، بما يضمن عدم تحول الخطأ البشري العرضي إلى كارثة.
كما شدد على أهمية مفهوم «الامتثال»، أي ضمان التزام نماذج الذكاء الاصطناعي بالقيم الإنسانية والتعليمات التي يضعها مصمموها.