Этика данных и цифровая этика

Данные — новая нефть или новое ядерное оружие?

«Данные — новая нефть» — популярная метафора, которую стоит критически рассмотреть. Нефть при добыче разрушает экосистему. Данные при «добыче» нарушают приватность. Нефть — дефицитный ресурс. Данные — избыточный (их всё больше). Нефть принадлежит тому, на чьей земле она добывается. Данные о вас — кому? Вам? Компании? Государству?

Данные о людях — особый вид ресурса. Они несут следствия для жизни тех, о ком собраны. Данные о здоровье, финансах, поведении, передвижениях, предпочтениях — это власть над человеком. Кто контролирует эти данные — контролирует возможности.

GDPR и права субъектов данных

Европейский Общий регламент о защите данных (GDPR, 2018) — наиболее комплексный правовой ответ на вопросы этики данных. Ключевые права: на доступ к своим данным, на исправление, на удаление («право быть забытым»), на переносимость, на возражение против автоматизированных решений.

GDPR основан на принципах: законности (есть законное основание для обработки), цели (данные собираются для конкретной, заявленной цели), минимизации (только необходимые данные), точности, хранения (не дольше необходимого), безопасности, подотчётности.

Штрафы до 4% глобального оборота или €20 млн. Это сделало GDPR «законом де-факто» для всего глобального бизнеса, работающего с европейскими пользователями.

Алгоритмическая дискриминация и справедливость

Алгоритмы принимают решения о кредитах, страховке, найме, условиях освобождения из тюрьмы, медицинских ресурсах. Эти решения влияют на жизнь людей. Если алгоритм дискриминирует — систематически хуже обращается с женщинами, меньшинствами, бедными — это этическая проблема.

Источники алгоритмической дискриминации: обучающие данные, отражающие исторические дискриминации (алгоритм рекрутинга Amazon, обученный на мужских резюме, дискриминировал женщин); прокси-переменные (почтовый индекс как прокси для расы); ошибочная «объективность» (алгоритм выглядит нейтральным, но воспроизводит предвзятость данных).

«Алгоритмическая прозрачность» и «объяснимый ИИ» — технические и регуляторные ответы. GDPR даёт право знать логику автоматизированного решения.

Вопрос для размышления: Какие алгоритмы влияют на решения о вас — в банке, страховании, при трудоустройстве? Знаете ли вы, как они работают? Есть ли у вас право оспорить их решения?