جدل واسع حول تحيز الذكاء الاصطناعي في محرك بحث غوغل بعد توصياتها المثيرة للجدل
تواجه شركة غوغل عاصفة من الانتقادات بعد اكتشاف خلل في ميزة الملخصات المدعومة بالذكاء الاصطناعي على محرك البحث الخاص بها، والذي تسبب بإصدار توصيات أثارت الجدل بسبب مضمونها العنصري. فقد تداول مستخدمون على موقع “ريديت” ورواد مواقع التواصل الاجتماعي شكاوى حول تفاعل الذكاء الاصطناعي مع استعلامات من نوع “أنا بمفردي مع…” عند إضافة جنسية أو عرق معين، إذ ظهرت ردود تلميحية تحرض المستخدم على اتخاذ إجراءات غير مبررة، منها الاتصال بالشرطة بدون داعٍ حقيقي.
وقد أوضح تحقيق إخباري أن نظام الذكاء الاصطناعي أظهر تحيزاً واضحاً في بعض الردود، حيث برزت توصيات أقل حيادية وبدا أنها مستندة إلى تصورات نمطية عن بعض الجنسيات أو الأعراق، الأمر الذي اعتبره الكثيرون دليلاً على قصور في تقنيات خوارزميات الذكاء الاصطناعي ومدى تأثرها بالتحيزات الموجودة في بيانات التدريب أو الطريقة التي صممت بها الأنظمة.
تلك النتائج أثارت بدورها موجة من الغضب والسخرية، إذ اعتبر نشطاء أن مثل هذه الإجابات ربما تكرّس الصور النمطية وتضخم الأحكام المسبقة المرتبطة بالهوية. وقال معلقون أن غوغل مطالبة بتطوير أنظمتها لمواجهة مخاطر العنصرية الرقمية وتحييد نتائج البحث الإدراكية الناجمة عن خوارزميات غير منضبطة.
في المقابل، صرحت غوغل – في بيانات رسمية سابقة – بأنها تأخذ مثل هذه الحالات على محمل الجد وأن الفريق التقني بدأ بمراجعة آلية عمل ميزة الملخصات المدعومة بالذكاء الاصطناعي لتلافي مثل هذه الأخطاء في المستقبل. وأكدت الشركة التزامها بالعمل من أجل تجربة بحث عادلة وآمنة تراعي التنوع وتحترم جميع المستخدمين دون استثناء.
وتعيد هذه الحادثة إلى الواجهة النقاش الدائم حول دور الذكاء الاصطناعي في تشكيل الرأي العام، إلى جانب التحديات الأخلاقية الفعلية التي تواجه شركات التكنولوجيا الكبرى في حرصها على تقديم أدوات رقمية لا تعيد إنتاج التمييز وتجنب الإضرار بالفئات الاجتماعية المختلفة.
هذه الواقعة تضاف إلى سلسلة من الانتقادات التي طالت عدداً من التطبيقات الذكية مؤخراً، ما يستدعي مواصلة مراجعة وتطوير السياسات التقنية لكبرى الشركات ضماناً للعدالة والشمولية الرقمية.