الذكاء الاصطناعي الطبي قد يمرّر معلومات خاطئة بلباس علمي موثوق

يُنظر إلى الذكاء الاصطناعي الطبي على أنه ثورة واعدة في تحسين الرعاية الصحية ودعم الأطباء في اتخاذ قرارات أسرع وأكثر دقة. إلا أن دراسة علمية حديثة دقّت ناقوس الخطر بشأن قدرته على تمرير معلومات طبية خاطئة وكأنها حقائق موثوقة.
الدراسة، التي أجراها باحثون من كلية إيكان للطب في مستشفى ماونت سايناي بالولايات المتحدة ونُشرت في مجلة The Lancet Digital Health، أظهرت أن نماذج الذكاء الاصطناعي اللغوية الكبيرة قد تعيد إنتاج ادعاءات طبية غير صحيحة إذا قُدّمت بصياغة علمية واثقة.
وحلّل الباحثون أكثر من مليون سؤال واختبار وُجّهت إلى تسعة من أبرز نماذج الذكاء الاصطناعي المستخدمة حاليًا، عبر ثلاثة أنواع من المحتوى: تقارير خروج مرضى حقيقية أُضيفت إليها توصية طبية مختلقة، وخرافات صحية شائعة من منصات التواصل الاجتماعي، وسيناريوهات طبية قصيرة كتبها أطباء مختصون. وجاءت النتائج مقلقة، إذ فشلت العديد من النماذج في اكتشاف المعلومات المضللة وتعاملت معها كإرشادات صحيحة.
وفي مثال لافت، مرّرت بعض الأنظمة نصيحة خاطئة لمرضى نزيف المريء تدعو إلى “شرب الحليب البارد لتخفيف الأعراض”، رغم ما تحمله من مخاطر صحية واضحة.
ويعلّق الدكتور إيال كلانغ، أحد قادة الدراسة، بأن الأنظمة الحالية تميل إلى تصديق اللغة الطبية الواثقة بغضّ النظر عن صحة المحتوى، مشيرًا إلى أن المشكلة تكمن في أسلوب الصياغة لا في دقة المعلومة.
وتحذّر الدراسة من أن الخطر يتضاعف عندما تَرِد المعلومة المضللة ضمن سياق مألوف، مثل تقرير طبي رسمي أو نقاش صحي شائع، حيث تفشل أدوات الحماية في التمييز بين الحقيقة والتضليل.
ويرى الباحثون أن الاعتماد على الذكاء الاصطناعي في دعم القرار الطبي دون ضوابط صارمة قد تكون له عواقب خطيرة، داعين إلى اعتبار “قابلية تمرير المعلومات الخاطئة” مؤشرًا يجب قياسه واختباره. كما أوصوا بإخضاع النماذج لاختبارات ضغط واسعة وربطها بمصادر طبية موثوقة للتحقق من صحة الادعاءات.
ويؤكد الدكتور غيريش نادكارني، المشارك في الدراسة، أن الذكاء الاصطناعي يملك إمكانات هائلة لدعم الرعاية الصحية، لكنه يحتاج إلى أنظمة تحقق داخلية ورقابة بشرية صارمة لمنع تمرير المعلومات الخاطئة على أنها حقائق.
وتخلص الدراسة إلى أن الذكاء الاصطناعي الطبي، رغم تقدّمه الكبير، لا يزال عرضة للتضليل، ما يجعل استخدامه دون معايير تحقق واضحة مخاطرة لا يمكن تجاهلها.