تعرف على تفاصيل مسابقة تويتر لإصلاح تحيزات الخوارزمية
اليوم السابع - 2021-8-5المسابقة هي الأولى في مجال تحيزات الذكاء الاصطناعي، لكن برامج المكافآت لها تاريخ طويل في أمن تكنولوجيا المعلومات.
لطالما تم تشكيل تويتر من قبل الأشخاص الذين يستخدمونه ويعرفونه بشكل أفضل، لذلك نريد تنمية مجتمع مشابه، يركز على أخلاقيات تعلم الآلة ، لمساعدتنا في تحديد نطاق أوسع من المشكلات مما يمكننا القيام به بمفردنا، من خلال هذا التحدي ، نهدف إلى وضع سابقة في Twitter وفي الصناعة لتحديد استباقي وجماعي لأضرار الخوارزميات.
الاستفادة من المجتمع
في مايو شارك فريق META أبحاثه ورمزه حول تحيزات خوارزمية اقتصاص الصورة حتى يتمكن الآخرون من التحقيق في المشكلة.
وتم تدريب النموذج على بيانات تتبع العين البشرية للتنبؤ بدرجة الملوحة في جميع مناطق الصورة، ثم يختار النقطة ذات أعلى الدرجات كمركز المحصول.
قال رومان تشودري، رئيس فريق META في Twitter: "نريد أن نأخذ هذا العمل خطوة إلى الأمام من خلال دعوة وتحفيز المجتمع للمساعدة في تحديد الأضرار المحتملة لهذه الخوارزمية بما يتجاوز ما حددناه بأنفسنا".
والهدف الرئيسي للمسابقة هو تطوير معايير يحركها المجتمع وأفضل الممارسات لتقييم نماذج ML، والجدير بالذكر أن تويتر أنشأ قاعدة تصنيف توضح الأضرار الخوارزمية بطريقة لم تكن موجودة من قبل.
قال شودري: "في الواقع كان الناس يقومون بهذا النوع من العمل بأنفسهم لسنوات، لكن لم يكافأوا أو يدفعوا مقابل ذلك".
وتعد برامج المكافآت مثل هذا البرنامج حاسمة في المساعدة على زيادة الوعي بالأضرار والتحيزات التي قد تكون موجودة في الخوارزميات التي تتجاوز النطاق الحالي للتجارب الحية والفهم.