قررت شركة جوجل إيقاف ميزة ملخصات الذكاء الاصطناعي (AI Overviews) للاستفسارات الطبية الحساسة فوراً، بعد ثبوت تقديمها نصائح مضللة قد تسبب مضاعفات صحية خطيرة أو الوفاة. هذا الإجراء يعني أن محرك البحث سيعود للاعتماد حصراً على الروابط الموثوقة والمصادر الطبية المعتمدة لضمان سلامة المستخدمين، ريثما يتم إصلاح الخلل التقني في معالجة البيانات الصحية المعقدة.
أخطاء طبية في نتائج بحث جوجل تهدد حياة مرضى السرطان
كشف تحقيق لصحيفة “الغارديان” أن الذكاء الاصطناعي قدم توصيات غذائية لمرضى سرطان البنكرياس تطالبهم بتجنب الدهون، وهي نصيحة طبية خاطئة تماماً في هذا السياق؛ حيث يحتاج هؤلاء المرضى غالباً إلى نظام غذائي عالي السعرات والدهون لتعويض سوء الامتصاص الناتج عن المرض. اتباع مثل هذه التوصية الآلية يؤدي إلى تدهور سريع في الحالة الصحية وزيادة احتمالات الوفاة، مما يثبت عجز النماذج اللغوية الحالية عن التمييز بين السياقات الطبية التخصصية.
تضليل في بيانات وظائف الكبد والتشخيصات الحرجة
لم يقتصر الخلل على التوصيات الغذائية، بل امتد ليشمل تفسيرات خاطئة لنتائج فحوصات وظائف الكبد، مما قد يدفع المرضى لاتخاذ قرارات علاجية مبنية على فهم مغلوط للبيانات الحيوية. هذا النوع من الأخطاء يمثل فجوة ثقة كبرى، حيث يميل المستخدم العادي لتصديق الملخصات التي تظهر في أعلى الصفحة باعتبارها حقائق مطلقة، بينما هي في الواقع نتاج معالجة إحصائية للبيانات لا تدرك العواقب البيولوجية المترتبة على المعلومة.
قرار جوجل بشأن مستقبل الذكاء الاصطناعي في البحث الطبي
استجابةً لهذه المخاطر، سحبت جوجل الملخصات الذكية من المواضيع الطبية المثيرة للجدل لتقليل احتمالات الضرر (Harm Reduction). هذا التحول يؤكد أن الشركة تعطي الأولوية حالياً لتجنب المسؤولية القانونية والأخلاقية على حساب سرعة تقديم الإجابات، وهو ما يفرض على المستخدمين ضرورة التحقق من مصدر المعلومة أسفل أي ملخص يظهر مستقبلاً، وعدم استبدال الاستشارة الطبية المباشرة بمخرجات الذكاء الاصطناعي مهما بدت مقنعة.
من الناحية العملية، يظل الذكاء الاصطناعي أداة مساعدة وليس مرجعاً تشخيصياً؛ فالخطر الحقيقي لا يكمن في التقنية نفسها، بل في الانحياز للأتمتة الذي يجعلنا نثق في إجابة سريعة على حساب دقة المصدر الطبي المتخصص.