الأحد 18 ذو القعدة 1445 ﻫ - 26 مايو 2024 |

برامج

شاهد آخر حلقاتنا اونلاين

موظفان في غوغل حاولا منع طرح منافس СhatGPT!

حاول اثنان من موظفي في قسم الابتكار المسؤول في غوغل حاولا منع إطلاق برنامج الدردشة الآلي Bard الشهر الماضي وفشلا في ذلك، وفق ما كشفت “نيويورك تايمز” نقلا عن مصادر مطلعة على العملية.

وحذرا من أنه عرضة لـ “تصريحات غير دقيقة وخطيرة”.

ولاحظ مراجعو المنتجات المتخوفون بالفعل وجود مشكلات مع نماذج اللغات الكبيرة للذكاء الاصطناعي مثل Bard ومنافسها الرئيسي ChatGPT عندما التقى كبير محامي غوغل بمسؤولين تنفيذيين في مجال البحث والسلامة لإبلاغهم بأن الشركة تعطي الأولوية للذكاء الاصطناعي على أي شيء آخر.

وزعمت المصادر أن مخاوف الزوجين بشأن قيام روبوت المحادثة بإنتاج معلومات خاطئة، أو إيذاء المستخدمين الذين أصبحوا مرتبطين عاطفيا، أو حتى إطلاق العنان لـ “عنف تسهله التكنولوجيا” من خلال المضايقات الجماعية الاصطناعية، تم التقليل من شأنها لاحقا من قبل المشرفة على الابتكار المسؤولة جين جيناي. وبينما حث المراجعون غوغل على الانتظار قبل إطلاق Bard، يُزعم أن جيناي قامت بتحرير تقريرهم لإزالة هذه التوصية بالكامل.

ودافعت جيناي عن أفعالها أمام Times، مشيرة إلى أنه لم يكن من المفترض أن يشاطر المراجعون الناس آراءهم حول ما إذا كان ينبغي المضي قدما أم لا، لأن Bard كان مجرد تجربة. وزعمت أنها حسنت التقرير، بعد أن “صححت الافتراضات غير الدقيقة، وأضافت بالفعل المزيد من المخاطر والأضرار التي تحتاج إلى دراسة”. وأصرت على أن هذا جعل المنتج النهائي أكثر أمانا.

ونسبت غوغل الفضل إلى جيناي في قرارها إصدار Bard باعتباره “تجربة محدودة”، ولكن لا يزال برنامج الدردشة الآلي مُعدا للاندماج الكامل بمحرك البحث الذي يهيمن على السوق من غوغل “قريبا”، وفقا لموقع غوغل الخاص على الويب.

ونجحت غوغل في القضاء على تمردات الموظفين بشأن قضية الذكاء الاصطناعي من قبل. في العام الماضي، طردت بليك ليموين، بعد أن ادعى أن LaMDA (نموذج اللغة لتطبيقات الحوار) أصبح واعيا، بينما استقال الباحث المهدي المحمدي بعد أن منعته الشركة من نشر تحذير ورقي من ثغرات الأمن السيبراني في نماذج اللغات الكبيرة مثل Bard. وفي عام 2020، تم التخلي عن باحث الذكاء الاصطناعي تيمنيت جيبرو، بعد نشر بحث يتهم غوغل بعدم توخي الحذر بما يكفي في شأن تطوير الذكاء الاصطناعي.

ومع ذلك، فإن فصيلا متزايدا من الباحثين في مجال الذكاء الاصطناعي والمديرين التنفيذيين في مجال التكنولوجيا وغيرهم من المستقبليين المؤثرين قد أثروا في “التقدم” السريع لشركة غوغل ومنافسيها في مايكروسوفت وOpenAI حتى يمكن فرض ضمانات فعالة على التكنولوجيا. واجتذب خطاب مفتوح صدر مؤخرا يدعو إلى تعليق “تجارب الذكاء الاصطناعي العملاقة” لمدة ستة أشهر آلاف الموقعين، بما في ذلك المؤسس المشارك لشركة OpenAI إيلون موسك، والمؤسس المشارك لشركة آبل، ستيف وزنياك.

وتعد قدرة التكنولوجيا على قلب المجتمع من خلال جعل العديد من المهن البشرية (أو البشر أنفسهم) وقد عفا عليها الزمن أمراً أساسيا في تحذيرات العديد من الخبراء، على الرغم من أن مخاطر أقل مثل انتهاك البيانات – وهي حدثت بالفعل في OpenAI – يتم الاستشهاد بها بشكل متكرر.