بعد صدمات وانتحارات.. منصة الذكاء الاصطناعي الشهيرة تحظر المراهقين من روبوتاتها!

تعتزم شركة “كاراكتر.إيه آي” (Character.AI) المتخصصة في روبوتات الدردشة الذكية، حظر وصول القصّر إلى خدماتها، وذلك على خلفية حالات انتحار عدة لمراهقين ارتبطت باستخدام منصتها، وفق ما أعلنت الشركة في بيان صدر يوم الأربعاء. وأوضحت الشركة أن القرار سيدخل حيّز التنفيذ اعتباراً من 25 نوفمبر، مؤكدة أنه خطوة ضرورية بعد تزايد التساؤلات حول كيفية استخدام المراهقين لهذه التكنولوجيا الجديدة، والطريقة الأنسب للتعامل معها لحمايتهم.

وقد حققت الشركة الناشئة، التي تتخذ من مينلو بارك في كاليفورنيا مقرّاً لها، انتشاراً واسعاً منذ إطلاق تطبيقها في مايو 2023، بفضل روبوتات الدردشة العاملة بالذكاء الاصطناعي التي تحاكي شخصيات المشاهير أو الاهتمامات الشخصية للمستخدمين. ومع تفاعل ملايين المستخدمين مع شخصيات افتراضية أنشأوها بأنفسهم—سواء لشخصيات تاريخية أو أصدقاء متخيّلين أو مفاهيم مجردة—أصبحت المنصة وجهة مفضّلة لدى الشباب الباحثين عن الدعم العاطفي والصحبة الرقمية.

لكن هذا الانتشار ترافق مع تحذيرات جدّية من خبراء ومراقبين، الذين نبّهوا إلى خطر إدمان المراهقين على التفاعل العاطفي مع هذه الروبوتات، خصوصاً لدى الفئات الأكثر هشاشة. وأثار التطبيق مخاوف متزايدة بشأن التعلّق المفرط ببعض روبوتات الدردشة، ما قد يؤثر على الصحة النفسية والعلاقات الاجتماعية الواقعية للمراهقين.

وفي أكتوبر 2024، رفعت والدة مراهق يبلغ 14 عاماً دعوى قضائية ضد الشركة، متهمة “كاراكتر.إيه آي” بالتسبّب في انتحار ابنها نتيجة غياب الإرشادات الواضحة التي كان من شأنها منعه من إيذاء نفسه. وقد شكّلت هذه القضية صدمة واسعة وسلّطت الضوء على الآثار النفسية العميقة للذكاء الاصطناعي على جيل المراهقين.

وبعد هذا الجدل، أعلنت الشركة في ديسمبر من العام نفسه عن سلسلة إجراءات تهدف إلى الحد من المخاطر، من بينها إطلاق مساعد إلكتروني مخصّص لمواكبة المراهقين وتقديم الدعم والتوجيه لهم داخل المنصة.

يمثّل قرار حظر القصّر منعطفاً لافتاً في عالم الذكاء الاصطناعي التفاعلي، ويطرح تساؤلات جديدة حول العلاقة بين التكنولوجيا والمراهقين، وحدود استخدام الذكاء الاصطناعي في المجالات العاطفية والحساسة.