حذفت شركة غوغل بعض الملخصات الصحية التي أنشأها الذكاء الاصطناعي من نتائج البحث بعد تحقيق أجرته صحيفة الغارديان كشف أن هذه المعلومات قد تعرض المستخدمين لمخاطر صحية جسيمة. تُعرف هذه الملخصات باسم AI Overviews، وتستخدم الذكاء الاصطناعي التوليدي لتقديم لمحات موجزة عن موضوعات معينة، بما في ذلك الاستفسارات الصحية.
وكشف التحقيق أن ملخصات الذكاء الاصطناعي الخاصة بفحوص وظائف الكبد كانت تقدم معلومات مضللة وغير دقيقة. فمثلا، عند كتابة استفسار مثل "ما النطاق الطبيعي لفحوص دم الكبد؟"، كانت النتائج تظهر أرقامًا دون سياق كافٍ، مع تجاهل عوامل مهمة مثل العمر والجنس والعرق أو نوع الفحص.
وحذّر الخبراء من أن ذلك قد يمنح المرضى المصابين بأمراض خطيرة شعورًا زائفًا بأن نتائجهم طبيعية، مما قد يؤخر تلقي الرعاية الطبية الضرورية. ووصف أحد الخبراء هذه الملخصات بأنها "خطيرة" و"مقلقة".
وبعد التقرير، حذفت غوغل ملخصات AI Overviews للاستفسارات مثل "ما النطاق الطبيعي لفحوصات دم الكبد؟" و"ما هو النطاق الطبيعي لفحوصات وظائف الكبد؟".
وقال متحدث باسم غوغل إن الشركة تراجع باستمرار جودة هذه الملخصات وتجري تحسينات عند الحاجة، دون التعليق على حالات الحذف الفردية.
ورحب الخبراء بالحذف، لكنهم أعربوا عن قلقهم المستمر. وأشارت فانيسا هيبديتش، مديرة الاتصالات في مؤسسة British Liver Trust، إلى أن تغييرات بسيطة في صياغة الاستفسارات لا تزال تولد ملخصات AI، ما قد يضلل المستخدمين. وأوضحت أن تفسير فحوص الكبد معقد ويتطلب أكثر من مجرد مقارنة الأرقام، وأن الملخصات لا تحذر من أن النتائج الطبيعية لا تعني دائمًا صحة الكبد الجيدة.
كما أكدت سو فارينغتون، رئيسة Patient Information Forum، أن هناك خطرًا مستمرًا من المعلومات الصحية غير الدقيقة على الإنترنت، داعية جوجل لتوجيه المستخدمين إلى مصادر موثوقة قائمة على الأدلة. وأضافت أن ملايين البالغين يواجهون صعوبة في الوصول إلى معلومات طبية موثوقة، ما يجعل دقة محتوى الذكاء الاصطناعي أمرًا بالغ الأهمية.
وأوضحت غوغل أن AI Overviews تظهر فقط عند ثقتها العالية بجودة المعلومات، وأن بعض الملخصات المتعلقة بالسرطان والصحة النفسية لا تزال موجودة، لكنها ترتبط بمصادر موثوقة وتشجع المستخدمين على طلب المشورة من الخبراء.
وأكد الخبراء والصحفيون التكنولوجيون أن غوغل ما زالت تواجه تحديًا كبيرًا لضمان عدم نشر أدوات الذكاء الاصطناعي لمعلومات صحية مضللة قد تكون خطيرة.
