Этика данных и алгоритмическая справедливость

Данные как власть

Данные — не нейтральны. Они собираются с определёнными целями, хранятся определёнными субъектами, используются в определённых контекстах. Три ключевых этических вопроса: согласие, прозрачность, справедливость.

Алгоритмы предсказательного полицейского патрулирования (PredPol): обучены на исторических данных об арестах — которые отражают существующие предубеждения. Результат: больше патрулирования в районах, где исторически больше арестов → больше арестов → больше «подтверждений» для алгоритма. Самовоспроизводящийся предвзятый цикл.

Fairness через справедливость

Что значит «справедливый алгоритм»? Математически несовместимые определения справедливости: равная точность для всех групп vs равная доля ложных положительных vs равная доля ложных отрицательных. Невозможно оптимизировать все одновременно.

Вопрос для размышления: Использует ли ваша организация алгоритмы для принятия решений о людях? Кто несёт ответственность за их предвзятость?