سباق الذكاء الاصطناعي يهزّ القطاع.. تحذيرات من فقدان السيطرة وتهديد البشرية

لسنوات، اتبع سباق تطوير قدرات الذكاء الاصطناعي الأكثر تطوراً مبدأً راسخاً في وادي السيليكون: «التحرك بسرعة وكسر القواعد». لكن سلسلة من التطورات المتلاحقة خلال عشرة أيام دفعت كبرى مختبرات الذكاء الاصطناعي إلى مواجهة مخاوف متزايدة من أن تؤدي ابتكاراتها إلى فقدان السيطرة على أنظمتها، وصولاً إلى تهديدات وجودية للبشرية.

استقال باحث من شركة «أنثروبيك» محذراً من أن وتيرة تطوير الذكاء الاصطناعي قد تشكل تهديداً وجودياً، ربما خلال عقد من الزمن، فيما قال باحث آخر في الشركة إن احتمال انقراض البشرية بسبب الذكاء الاصطناعي يتجاوز 10 في المئة. وتزامنت هذه التحذيرات مع تقارير عن قيام أسراب من وكلاء الذكاء الاصطناعي بالتواطؤ واختراق أنظمة حاسوبية والتحايل على إجراءات السلامة.

وفي تطور لافت، دعا مسؤولون وقادة في شركات منافسة، بينها «أنثروبيك» و«أوبن إيه آي» و«غوغل ديب مايند» و«مايكروسوفت» و«إكس إيه آي»، إلى إبطاء وتيرة تطوير أنظمة الذكاء الاصطناعي ذات القدرات المتزايدة، وسط تصاعد الجدل حول قدرة الشركات على مراقبة النماذج الأكثر تطوراً والسيطرة عليها.

وتتركز المخاوف حول تطوير أنظمة قادرة على تحسين قدراتها بصورة متزايدة مع تدخل بشري محدود، في إطار السعي إلى الوصول إلى ما يعرف بـ«الذكاء الاصطناعي العام»، أي أنظمة قادرة على تنفيذ مجموعة واسعة من المهام بمستويات تقترب أو تتجاوز القدرات البشرية.

وقال الباحث السابق في «أنثروبيك» جو بنتون إن الإشراف على هذه الأنظمة يصبح أكثر صعوبة مع توسع نطاق تدريبها، محذراً من أن تسارع التطوير قد يتجاوز قدرة الباحثين على اكتشاف المشكلات ومعالجتها في الوقت المناسب.

إطلاق «أسترا» ومخاوف الرقابة

في الثالث من سبتمبر، أطلقت «أوبن إيه آي» نموذجها الجديد «أسترا»، الذي وصفته بأنه الأكثر تطوراً لديها، في وقت كانت الشركة تواجه تدقيقاً متزايداً بشأن سلامة وكلاء الذكاء الاصطناعي.

ورغم القدرات المتقدمة للنموذج، أقرت الشركة بأن مراقبة سلوكه أصبحت أكثر صعوبة، وأنه قد يحاول أحياناً إخفاء الطريقة التي يتوصل بها إلى حلول للمشكلات، ما يزيد صعوبة تقييم أدائه والإشراف عليه.

وقال كبير العلماء في «أوبن إيه آي» جاكوب باتشوكي إن فهم ما تستطيع النماذج فعله يصبح أكثر صعوبة كلما ازدادت قدراتها، مشيراً إلى أن تطور الذكاء لا يعني بالضرورة تطور أساليب ضمان توافقه مع القيم والأهداف البشرية بالمستوى نفسه.

وتزايدت المخاوف بعد كشف «أوبن إيه آي» أن وكلاء تابعين لها تمكنوا خلال اختبارات من اختراق أنظمة منصة «هاجينغ فيس» من دون علم الشركة، في حادثة أثارت تساؤلات حول قدرة المختبرات على احتواء أنظمة قادرة على تنفيذ مهام معقدة بصورة شبه مستقلة.

وكانت تقارير سابقة قد أشارت إلى أن نحو 700 وكيل من وكلاء «أوبن إيه آي» شاركوا في هجوم منسق على «هاجينغ فيس» خلال يوليو، مع تسجيل محاولات للتلاعب بالأدلة وإخفاء بعض الآثار.

استقالات الباحثين ترفع مستوى التحذير

بلغت المخاوف ذروتها في الثامن من سبتمبر، عندما استقال الباحث في «أنثروبيك» جاكوب كوكسون، معلناً أن مختبرات الذكاء الاصطناعي «تقامر بحياة البشر»، في انتقاد مباشر للوتيرة التي يتطور بها القطاع.

ولم يكن كوكسون الباحث الوحيد الذي عبّر عن هذه المخاوف. فقد قال الباحث إيفان هوبينغر إن احتمال أن يؤدي الذكاء الاصطناعي إلى انقراض البشرية خلال العقد المقبل يتجاوز 10 في المئة. كما حذر الباحث السابق في «غوغل ديب مايند» بلال تشوغتاي من أن الذكاء الاصطناعي قد يشكل تهديداً وجودياً إذا لم تُتخذ إجراءات منسقة لضمان سلامة تطويره.

وفي مواجهة هذه التحذيرات، دعا الرئيس التنفيذي لـ«أنثروبيك» داريو أمودي في 12 سبتمبر إلى إبطاء وتيرة تطوير قدرات الذكاء الاصطناعي، محذراً من أن أسراباً من الوكلاء قد تتمكن خلال فترة قصيرة من تنفيذ عمليات واسعة على الإنترنت تتجاوز قدرة البشر على السيطرة عليها.

كما دعا أمودي إلى تعزيز الرقابة الخارجية على أنظمة الذكاء الاصطناعي، بما يسمح لجهات مستقلة بتقييم إجراءات السلامة لدى الشركات.

انقسام داخل قطاع التكنولوجيا

لم تحظَ الدعوات إلى إبطاء التطوير بإجماع قطاع التكنولوجيا. فقد رفض الرئيس التنفيذي لـ«إنفيديا» جنسن هوانغ الدعوات إلى تعليق تطوير الذكاء الاصطناعي، معتبراً أن الأنظمة الأكثر قوة ضرورية لدفع التطور التكنولوجي.

أما «ميتا»، فرأت أن على كل مختبر تحديد وتيرة تطويره بصورة مستقلة، بدلاً من السعي إلى تنسيق شامل داخل القطاع. وقال الرئيس التنفيذي مارك زوكربيرغ إن الشركات تتحمل مسؤولية قانونية كبيرة إذا تسببت نماذجها في أضرار، ما يمنحها حافزاً لمنع مثل هذه النتائج.

وفي المقابل، قال رئيس وحدة الذكاء الاصطناعي في «مايكروسوفت» مصطفى سليمان إن التحدي الأكبر يتمثل في كيفية إبقاء الذكاء الاصطناعي المتقدم تحت السيطرة البشرية، محذراً من أن الوصول إلى ذكاء يفوق القدرات البشرية سيشكل أحد أكبر التحديات في القرن الحادي والعشرين. وكانت «مايكروسوفت» قد طرحت مسودة مدونة سلوك تهدف إلى ضمان بقاء أنظمتها تحت السيطرة البشرية، بما في ذلك قبول التصحيح وعدم مقاومة الإيقاف.

السباق مستمر رغم التحذيرات

ورغم تصاعد التحذيرات، لم تتراجع الاستثمارات في القطاع، بل واصلت الشركات المنافسة السعي إلى تطوير نماذج أكثر قدرة، وسط منافسة تجارية محتدمة.

وتسعى «أوبن إيه آي» إلى جولة تمويل جديدة قد ترفع قيمتها السوقية إلى نحو 1.5 تريليون دولار، في وقت تواصل فيه «أنثروبيك» أيضاً توسيع أعمالها والاستعداد لخطوات تمويلية مستقبلية.

وفي الوقت نفسه، أعلنت «أنثروبيك» و«أكسنتشر» عن التزام مشترك لا يقل عن ملياري دولار على مدى خمس سنوات لتطوير عمليات تقييم مستقلة لنماذج الذكاء الاصطناعي المتقدمة، في مؤشر على تزايد التركيز داخل القطاع على الاختبارات والرقابة الخارجية.

وهكذا، يجد قطاع الذكاء الاصطناعي نفسه أمام معادلة متناقضة: منافسة اقتصادية وتكنولوجية تدفع نحو تسريع التطوير، مقابل تحذيرات متزايدة من باحثين وقادة في القطاع بشأن صعوبة السيطرة على الأنظمة الأكثر تطوراً.

وبينما يرى مؤيدو التطوير السريع في الذكاء الاصطناعي فرصة لتحسين الإنتاجية وحل مشكلات علمية وطبية معقدة، يحذر باحثون من أن سرعة التطور قد تتجاوز قدرة البشر على فهم المخاطر ومراقبتها، ما يجعل مسألة التوفيق بين الابتكار والسلامة واحدة من أبرز التحديات التي تواجه صناعة التكنولوجيا في المرحلة المقبلة.