تاثیر نابرابری

Disparate Impact

تعریف

تصمیم‌گیری نامتناسب در مورد افرادی که تحت تاثیر گروه‌های مختلف جامعه قرار دارند. معمولا در شرایطی که یک فرآیند تصمیم‌گیری الگوریتمی بجای سود، به بعضی از زیر گروه‌ها آسیب می‌رساند.

به عنوان مثال الگوریتمی را در نظر بگیرید که صلاحیت لیلیپوتی را برای دریافت وام خانه‌ی مینیاتوری تعیین کند‌، احتمالا اگر آدرس پستی آن‌ها حاوی کد پستی خاصی باشد آن‌ها را به عنوان "غیرمجاز" طبقه بندی می‌کنند. حال اگر لیلیپوت‌های Big-Endian آدرس پستی مشابه‌ای با کد پستی لیلیپوت‌های Little-Endian داشته باشند، در این صورت ممکن است این الگوریتم دارای تاثیر متفاوتی باشد که موجب نابرابری می‌شود.

در تضاد با تبعیض(رفتار‌های نابرابر) است که بر نابرابری حاصل از ورودی ویژگی‌های زیر گروه به یک فرآیند تصمیم‌گیری الگوریتمی هستند.