Этика

Иммануил Кант (1724–1804) поставил радикальный вопрос: может ли моральный поступок определяться его результатами? Его ответ — категорическое нет. Если мы лжём во благо и это приводит к хорошим последствиям, наш поступок не становится нравственным. Нравственность — в намерении, в принципе, которым...

Кант строит этику на понятии долга. Единственное безусловно доброе — добрая воля: воля, действующая из долга, а не из склонности или расчёта. Человек, помогающий другим потому, что ему это нравится — поступает мило, но не нравственно в строгом смысле. Нравственно — помогать потому, что это твой д...

Кант предлагает категорический императив — верховный принцип морали, из которого выводятся все конкретные обязанности. Он имеет несколько эквивалентных формулировок.

Первая формулировка (формула универсального закона): «Поступай только согласно тому принципу, которым ты можешь одновременно желать, чтобы он стал всеобщим законом». Проверка: возьми принцип своего действия (максиму) и спроси — что будет, если все будут действовать так? Если возникает противоречи...

Определения

Акт-утилитаризм

— каждое конкретное действие оценивается по его последствиям. Это максимально гибко, но порождает проблему: иногда расчёт требует действий, которые кажутся явно аморальными.

Проблема распределения

— утилитаризм заботится о сумме счастья, но не о его распределении. Общество, где миллион людей счастливы за счёт страдания тысячи рабов, может иметь высокий «моральный баланс». Джон Ролз назвал это фундаментальным изъяном: утилитаризм не уважает ра...

Проблема прав

— утилитаризм не признаёт прав в строгом смысле. Любое право может быть нарушено, если это максимизирует благо. Но у прав есть смысл именно тогда, когда они защищают от «тирании большинства» — когда большинство хочет ущемить меньшинство ради своего ...

Проблема измерения

— как измерить и сравнить счастье разных людей? Как сравнить счастье от музыки и от еды? Утилитаристский расчёт предполагает то, что на практике невозможно — точное межличностное сравнение полезности.

Иеремия Бентам (1748–1832) и Джон Стюарт Милль (1806–1873) создали утилитаризм — самую влиятельную этическую теорию в англосаксонском мире. Её центральный принцип: правильное действие — то, которое производит наибольшее счастье для наибольшего числа людей.

Бентам предложил гедонистический расчёт — quasi-математический инструмент измерения удовольствий и страданий по интенсивности, продолжительности, вероятности, близости, плодотворности, чистоте и объёму (сколько людей затронуто). Прибавьте все удовольствия, вычтите все страдания — и получите «мора...

Милль уточнил теорию: удовольствия не все равны по качеству. «Лучше быть недовольным Сократом, чем довольной свиньёй». Высшие удовольствия (интеллектуальные, моральные, эстетические) превосходят низшие даже при меньшей интенсивности. Это делает утилитаризм более созвучным нашим интуициям.

Акт-утилитаризм: каждое конкретное действие оценивается по его последствиям. Это максимально гибко, но порождает проблему: иногда расчёт требует действий, которые кажутся явно аморальными.

Определения

Этос

— буквально «характер» или «привычка». Этика — наука о характере. Добродетельный человек не борется с собой, чтобы поступить хорошо (это было бы признаком неполного воспитания). Он поступает хорошо легко, с удовольствием — потому что таков его харак...

Пока Кант спрашивает «Что я должен делать?», а утилитаристы — «Каковы последствия?», Аристотель задаёт другой вопрос: «Каким человеком мне следует быть?» Это сдвиг от действий к характеру, от правил к добродетелям.

Аристотель начинает «Никомахову этику» с наблюдения: всё стремится к своему благу, а высшее благо для человека — эвдемония (εὐδαιμονία). Это слово переводят как «счастье», но точнее — «процветание», «благополучие», «жизнь, прожитая хорошо». Эвдемония — не чувство, а состояние жизни.

Человек достигает эвдемонии, живя в соответствии со своей природой — а природа человека как разумного существа предполагает жизнь в соответствии с добродетелями: стабильными диспозициями чувствовать, желать и действовать правильным образом.

Аристотель определяет каждую добродетель как середину между двумя пороками — избытком и недостатком. Мужество — середина между трусостью (недостаток) и безрассудством (избыток). Щедрость — между скупостью и расточительством. Честность — между лживостью и хвастовством.

Определения

1. Автономия

— право пациента принимать решения о своём лечении на основе информированного согласия. Пациент — не объект лечения, а субъект, участвующий в принятии решений. Это требует: раскрытия информации, понимания, добровольности, дееспособности.

4. Справедливость

— справедливое распределение медицинских ресурсов. Кто получает трансплантат, когда органов меньше, чем нуждающихся? На каком основании — медицинской необходимости? Социальной ценности? Лотереи?

Эвтаназия

— пассивная (прекращение лечения) и активная (введение смертельной дозы). Нидерланды, Бельгия, Швейцария легализовали ту или иную форму. Аргументы за: уважение к автономии страдающего пациента, предотвращение бессмысленного страдания. Аргументы прот...

Пренатальная диагностика и аборт

— возможность узнать о генетических нарушениях плода до рождения ставит вопрос о «дизайне» детей. Евгенические коннотации — не исторический курьёз, а живая проблема.

Распределение органов

— очереди на трансплантацию — этически острая зона. Критерии: медицинская совместимость, срочность, время ожидания, соблюдение режима, социальные факторы? Каждый критерий несёт ценностную нагрузку.

Биоэтика возникла в 1960–70-х годах в ответ на стремительное развитие медицинских технологий, которые поставили вопросы, выходящие за пределы традиционной медицинской этики. Трансплантация органов, аппараты жизнеобеспечения, тесты на ДНК, генная инженерия — всё это создало ситуации, где медицина ...

Первые биоэтические скандалы задали тон. Таскиги (1932–1972): четыре сотни афроамериканцев с сифилисом наблюдались без лечения даже после открытия пенициллина — ради изучения естественного течения болезни. Это нарушало принцип информированного согласия и уважения к автономии пациента. Хелен Лэйн ...

Том Бошамп и Джеймс Чайлдресс в «Принципах биомедицинской этики» (1979, 8 изданий) сформулировали четыре принципа, ставших стандартом:

1. Автономия — право пациента принимать решения о своём лечении на основе информированного согласия. Пациент — не объект лечения, а субъект, участвующий в принятии решений. Это требует: раскрытия информации, понимания, добровольности, дееспособности.

Определения

Алгоритмическая предвзятость

— системы машинного обучения обучаются на данных, отражающих исторические неравенства. Если исторически определённые группы чаще признавались виновными, алгоритм «научится» так же относиться к этим группам — воспроизводя, а не исправляя несправедлив...

Прозрачность и объяснимость

— «чёрный ящик» нейронных сетей непрозрачен. Когда алгоритм отказывает в займе, пациент или клиент имеет право знать почему. Европейский GDPR закрепляет «право на объяснение». Но техническая объяснимость сложных моделей — нерешённая проблема.

Проблема ответственности

— если беспилотный автомобиль сбивает пешехода — кто виноват? Производитель? Программист? Владелец? Алгоритм не является моральным субъектом. Но традиционные правовые концепции ответственности созданы для моральных субъектов — людей.

Искусственный интеллект — не просто технология, ускоряющая существующие процессы. Это технология, принимающая решения — или имитирующая принятие решений — в ситуациях, где традиционно действовали люди. Когда алгоритм отказывает в кредите, рекомендует приговор или управляет автомобилем, возникают ...

Алгоритмическая предвзятость: системы машинного обучения обучаются на данных, отражающих исторические неравенства. Если исторически определённые группы чаще признавались виновными, алгоритм «научится» так же относиться к этим группам — воспроизводя, а не исправляя несправедливость. Система COMPAS...

Прозрачность и объяснимость: «чёрный ящик» нейронных сетей непрозрачен. Когда алгоритм отказывает в займе, пациент или клиент имеет право знать почему. Европейский GDPR закрепляет «право на объяснение». Но техническая объяснимость сложных моделей — нерешённая проблема.

Проблема ответственности: если беспилотный автомобиль сбивает пешехода — кто виноват? Производитель? Программист? Владелец? Алгоритм не является моральным субъектом. Но традиционные правовые концепции ответственности созданы для моральных субъектов — людей.

Питер Сингер в статье «Голод, богатство и мораль» (1972) поставил вопрос, изменивший дискуссию о глобальной этике: если вы можете предотвратить что-то плохое (смерть ребёнка от недоедания), не жертвуя ничем морально значимым — вы обязаны это сделать. Расстояние между вами и страдающим не имеет мо...

Следствие радикально: богатые люди в развитых странах обязаны отдавать значительную часть дохода на помощь беднейшим в мире — вплоть до той точки, где следующий доллар, отданный на благотворительность, принесёт вам больше блага, чем ущерба. Это идёт гораздо дальше традиционных представлений о бла...

Томас Погге предложил другой подход: глобальная бедность — не просто несчастье, которое мы можем облегчить. Это результат несправедливой международной системы, которую богатые страны поддерживают: торговые правила, долговые режимы, поддержка коррумпированных режимов. Мы не просто не помогаем бедн...

Когда транснациональная корпорация использует поставщиков в стране с низкими трудовыми стандартами, кто несёт ответственность за нарушения прав работников?

Определения

Моральный реализм

— да, есть объективные моральные факты. «Пытать ребёнка ради удовольствия — зло» — это истинно независимо от того, верит ли в это кто-то. Платон («Формы Блага»), Дж. Мур («неестественные моральные свойства»), Дерек Парфит («объективные причины»).

Моральный антиреализм

— нет объективных моральных фактов. Подварианты:

Нормативная этика отвечает: что делать? Мета-этика спрашивает: что значит «что-то является правильным»? Есть ли моральные факты, независимые от наших убеждений? Или мораль — это конструкт, проекция, эмоция?

Моральный реализм: да, есть объективные моральные факты. «Пытать ребёнка ради удовольствия — зло» — это истинно независимо от того, верит ли в это кто-то. Платон («Формы Блага»), Дж. Мур («неестественные моральные свойства»), Дерек Парфит («объективные причины»).

Если морального реализма нет — как критиковать геноцид, рабство, коррупцию с позиции «объективного зла»? Если реализм есть — как объяснить моральный прогресс и разногласие?

Кантовский конструктивизм: моральные принципы — не открытые факты природы, а то, что рациональные существа сконструировали бы под определёнными условиями. Категорический императив — не описание реальности, а принцип, который автономный разум даёт себе сам.

Джон Ролз (1980) развил это: «Конструктивизм в морали» — принципы справедливости это то, что мы сконструировали бы в «исходном положении» за «завесой неведения». Мораль — результат гипотетического договора, а не открытие объективных фактов.

Конструктивизм объясняет, почему этические принципы могут меняться и совершенствоваться: мы продолжаем переговоры о том, какие принципы мы приняли бы. Это не релятивизм — некоторые конструкции лучше других, потому что более последовательны, инклюзивны, рационально оправданны.

Для организаций: корпоративные ценности — это конструкт. Они реальны в той мере, в которой в них реально участвуют все стейкхолдеры.

Джошуа Грин и нейроэтика: моральные суждения опираются на два процесса — быстрое интуитивное (эмоциональное) и медленное рациональное. Проблема трамвая активирует разные нейронные сети в зависимости от того, нужно ли физически толкнуть человека.

Джонатан Хайдт: «моральный интуиционизм» — большинство наших моральных суждений происходят быстро и интуитивно, а рациональные аргументы — это ретроспективные обоснования. Мы не рассуждаем к выводу — мы чувствуем вывод и потом его рационализируем.

Моральные интуиции — данные. Они — результат эволюционного и культурного обучения. Они иногда ошибаются (интуиция не видела ничего плохого в рабстве в одних культурах). Но полностью игнорировать интуицию в пользу «чистой теории» — тоже ошибка.

Рефлективное равновесие Ролза: двигаться между теорией и интуицией, корректируя обе.

Определения

За

— элиминация наследственных болезней (Хантингтон, муковисцидоз, серповидноклеточная анемия). Против: нельзя получить согласие субъекта; непредсказуемые долгосрочные последствия; риск «генетической стратификации» общества; где граница между лечением ...

CRISPR-Cas9 позволяет редактировать геном с беспрецедентной точностью. В 2018 году китайский учёный Хэ Цзянькуй объявил о первых генно-отредактированных детях — близнецах Лулу и Нана. Международная научная реакция: осуждение. Почему?

Редактирование соматических клеток (взрослый человек) — терапия. Редактирование зародышевой линии (эмбрион) — изменение наследуемого генома. Это затрагивает будущих людей, которые не могли дать согласие. Это — «дизайнерские дети»? Генетическое преимущество для богатых?

За: элиминация наследственных болезней (Хантингтон, муковисцидоз, серповидноклеточная анемия). Против: нельзя получить согласие субъекта; непредсказуемые долгосрочные последствия; риск «генетической стратификации» общества; где граница между лечением и «улучшением»?

Данные — не нейтральны. Они собираются с определёнными целями, хранятся определёнными субъектами, используются в определённых контекстах. Три ключевых этических вопроса: согласие, прозрачность, справедливость.

Алгоритмы предсказательного полицейского патрулирования (PredPol): обучены на исторических данных об арестах — которые отражают существующие предубеждения. Результат: больше патрулирования в районах, где исторически больше арестов → больше арестов → больше «подтверждений» для алгоритма. Самовоспр...

Что значит «справедливый алгоритм»? Математически несовместимые определения справедливости: равная точность для всех групп vs равная доля ложных положительных vs равная доля ложных отрицательных. Невозможно оптимизировать все одновременно.

Определения

«Это слишком требовательно»

— Сингер отвечает — мораль иногда требовательна. «Разрушает рыночные стимулы»: Сингер — это про личную мораль, не про политику. «Структурные изменения важнее благотворительности»: возможно, но это не значит, что благотворительность не важна.

Питер Сингер (1972): если я могу предотвратить что-то плохое, не жертвуя ничем сопоставимой важности — я морально обязан это сделать. Расстояние нерелевантно: тонущий ребёнок перед вами и умирающий от предотвратимой болезни ребёнок на другом конце мира — одинаково требуют вашего вмешательства.

Следствие: люди в богатых странах имеют моральное обязательство отдавать значительно больше в помощь бедным. Effective altruism строится на этом фундаменте: давать туда, где максимальный эффект на единицу денег.

«Это слишком требовательно»: Сингер отвечает — мораль иногда требовательна. «Разрушает рыночные стимулы»: Сингер — это про личную мораль, не про политику. «Структурные изменения важнее благотворительности»: возможно, но это не значит, что благотворительность не важна.

«Теория справедливости» Джона Роулза (1971) — книга, изменившая академическую политическую философию и оказавшая огромное влияние на реальную политику. После десятилетий господства утилитаризма («максимизируй суммарное счастье») Роулз предложил альтернативу, основанную на правах и справедливости.

Роулз ставит вопрос: на каких принципах должно строиться справедливое общество? Его метод: мысленный эксперимент с «завесой незнания». Представьте, что вы должны выбрать принципы устройства общества, не зная своего места в нём — ни богатый вы или бедный, ни мужчина или женщина, ни представитель б...

Роулз утверждает: рациональные агенты за завесой незнания выберут два принципа. Первый — принцип равной свободы: каждый имеет право на максимальную свободу, совместимую с такой же свободой для других. Второй — принцип различия (difference principle): социальные и экономические неравенства допусти...

Это не эгалитаризм в смысле «все должны иметь одинаково». Неравенство допустимо — если оно поднимает положение самых бедных. Прогрессивный налог, обязательное образование, система социального страхования — всё это оправдано принципом различия.

10 декабря 1948 года ООН приняла Всеобщую декларацию прав человека. После Холокоста и Второй мировой войны международное сообщество решило: существуют права, которые нельзя нарушать ни при каких обстоятельствах — независимо от государства, культуры или религии. Это право на жизнь, на запрет пыток...

Философская основа: права человека — не дар государства или религии, а атрибут человеческого достоинства как такового. «Все люди рождаются свободными и равными в своём достоинстве и правах» — статья 1. Это кантианский аргумент: каждый человек — цель в себе, а не только средство.

Можно ли провозгласить права «универсальными», если они сформулированы преимущественно западными авторами? В 1948 году большинство стран мира были колониями — и их народы не участвовали в разработке Декларации. Является ли она универсальной или культурным империализмом?

Конкретные напряжения. Право на свободу вероисповедания vs. законы о богохульстве во многих странах. Право на равное обращение независимо от пола vs. религиозные практики, дискриминирующие женщин. Право на собственность vs. общинные формы владения коренных народов. Право на свободу слова vs. запр...

Сократ отказался бежать из тюрьмы, хотя закон был несправедлив — потому что считал долгом подчиняться законам государства. Мартин Лютер Кинг сидел в Бирмингемской тюрьме за нарушение закона о сегрегации — потому что считал его несправедливым. Оба позиции заслуживают серьёзного рассмотрения.

Генри Дэвид Торо («Гражданское неповиновение», 1849) сформулировал классическое обоснование: когда закон несправедлив, обязанность порядочного человека — нарушить его. Торо отказался платить налог в поддержку рабства и мексиканской войны и провёл ночь в тюрьме (его тётя заплатила, к его разочаров...

Махатма Ганди развил концепцию ненасильственного сопротивления — сатьяграху («сила истины»). Принципы: нарушай несправедливый закон открыто, принимай последствия (арест, насилие), не отвечай насилием на насилие. Это не пассивность — это активное давление через моральное превосходство.

Соляной марш (1930): Ганди прошёл 380 км к морю, чтобы нарушить британскую монополию на соль. Тысячи последовали за ним. Британцы арестовывали участников — и каждый арест был публичным поражением колониальной власти. Это стратегически гениально: провоцируй систему нарушить собственные принципы.

Ханна Арендт (1906–1975) поехала на процесс Адольфа Эйхмана — одного из организаторов Холокоста — как корреспондент New Yorker. Она ожидала увидеть монстра. Увидела что-то более страшное: обычного человека. Чиновника, который думал в категориях «задача выполнена», «инструкции исполнены», «транспо...

Эта наблюдение стало одним из самых обсуждаемых философских тезисов XX века: «банальность зла». Эйхман не был демонически злым — он был страшно обычным. Он не думал. Самый большой грех, с точки зрения Арендт, — отказ думать о последствиях своих действий.

Арендт не оправдывала Эйхмана. Она показывала нечто более важное: идея о том, что зло совершают только «злые люди», — опасная иллюзия. Большинство нацистских преступлений было совершено обычными людьми, следовавшими приказам, выполнявшими свои «обязанности», не задумывавшимися о последствиях.

Эксперимент Милгрэма (1961, как раз во время процесса Эйхмана) подтвердил это эмпирически: 65% участников готовы были применять опасные удары током к другому человеку — только потому что авторитетный экспериментатор говорил «продолжайте». Авторитет, форма, рутина — мощные силы, отключающие мораль...

Должна ли Германия отвечать за Холокост? Должны ли США отвечать за рабство? Должна ли Россия — за советские преступления? Должна ли Бельгия — за Конго? Это вопросы этики исторической ответственности — одна из самых спорных тем в современной политической философии.

Ключевое различие: коллективная вина и коллективная ответственность — разные вещи. Карл Ясперс («Вопрос о вине Германии», 1946) различал: уголовная вина (конкретных людей, за конкретные действия), политическая вина (граждан государства, позволившего преступления), нравственная вина (личная совест...

Германия выплатила Израилю и пережившим Холокост репарации с 1952 года — около $80 млрд. Это единственный пример масштабных репараций за геноцид в истории. Психологически и политически это имело значение: признание не снимает вину, но создаёт основу для нормализации.

«Transitional justice» (правосудие переходного периода) — механизмы, позволяющие обществам выйти из периода массовых злодеяний. Нюрнберг — уголовное преследование. Комиссия правды и примирения в ЮАР (после апартеида) — признание через свидетельство. Люстрация в Польше и Чехии — ограничение доступ...

Традиционная этика — межличностная и синхронная: я отвечаю перед людьми, которые живут сейчас и которых знаю. Экологический кризис ставит под вопрос эти рамки: наши действия сегодня определяют качество жизни людей, которые ещё не родились. Можем ли мы иметь обязательства перед теми, кого нет?

Эдмунд Берк (консерватор XVIII века) формулировал: общество — партнёрство мёртвых, живых и ещё не рождённых. Современное государство — лишь временный управляющий ресурсов, принадлежащих цепочке поколений. Это консервативный аргумент в пользу устойчивости.

Ганс Йонас («Принцип ответственности», 1979): новый категорический императив для технологической эпохи — «Действуй так, чтобы последствия твоих действий были совместимы с продолжением подлинной человеческой жизни на Земле». Это ответственность без реципрокности: будущие поколения не могут требова...

Питер Сингер («Освобождение животных», 1975) расширил круг моральной озабоченности: способность страдать — достаточный критерий для морального учёта. Если животные страдают — это морально значимо, независимо от их рационального статуса. Это утилитаризм, применённый к нечеловеческим существам.

Медицина всегда была этическим пространством — но XX век создал принципиально новые дилеммы. Аппараты жизнеобеспечения сделали смерть управляемой. Трансплантология — тело источником ресурсов. Генетика — задатки изменяемыми. Репродуктивные технологии — рождение планируемым и сконструированным.

Биоэтика как дисциплина оформилась в 1960–70-е: Ван Поттер ввёл термин, Джорджтаунский университет разработал принципы. Четыре принципа (Beauchamp и Childress): автономия (право пациента принимать решения о своём теле), непричинение вреда (primum non nocere), благодеяние (действовать в интересах ...

Эвтаназия — намеренное прекращение жизни человека для облегчения страданий — одна из самых этически напряжённых тем. Различают: пассивную (прекращение лечения), активную (введение смертоносного вещества), добровольную (по просьбе пациента), непроизвольную (без согласия).

Аргументы за: автономия — фундаментальный принцип, человек имеет право умереть с достоинством; страдание, которое нельзя облегчить, само по себе нарушает принцип непричинения вреда. Аргументы против: риск «наклонной плоскости» (слабление защиты уязвимых); давление на пожилых и больных «не быть в ...

«Данные — новая нефть» — популярная метафора, которую стоит критически рассмотреть. Нефть при добыче разрушает экосистему. Данные при «добыче» нарушают приватность. Нефть — дефицитный ресурс. Данные — избыточный (их всё больше). Нефть принадлежит тому, на чьей земле она добывается. Данные о вас —...

Данные о людях — особый вид ресурса. Они несут следствия для жизни тех, о ком собраны. Данные о здоровье, финансах, поведении, передвижениях, предпочтениях — это власть над человеком. Кто контролирует эти данные — контролирует возможности.

Европейский Общий регламент о защите данных (GDPR, 2018) — наиболее комплексный правовой ответ на вопросы этики данных. Ключевые права: на доступ к своим данным, на исправление, на удаление («право быть забытым»), на переносимость, на возражение против автоматизированных решений.

GDPR основан на принципах: законности (есть законное основание для обработки), цели (данные собираются для конкретной, заявленной цели), минимизации (только необходимые данные), точности, хранения (не дольше необходимого), безопасности, подотчётности.

Власть — неотъемлемая часть лидерства. Но власть изменяет психологию. Исследования Дачера Кельтнера («Парадокс власти»): люди с властью становятся менее эмпатичными, менее способными принимать точку зрения другого, более импульсивными. Это парадокс: качества, которые помогают завоевать власть (эм...

Лорд Актон: «Власть развращает, абсолютная власть развращает абсолютно». Это не метафора — это психологическая реальность, подтверждённая экспериментально. Как лидер может защититься?

Практические механизмы: структурная подотчётность (советы директоров, независимые директора, 360-оценки), культура, поощряющая «говорить правду власти» (speak truth to power), личная дисциплина рефлексии (ведение дневника, коучинг, медитация).

Аристотелевское определение мужества: золотая середина между трусостью и безрассудством применительно к пугающим вещам. Моральное мужество — то же применительно к моральным вызовам: противостоять давлению группы, признать ошибку, разоблачить нарушение, принять непопулярное правильное решение.

Системы ИИ принимают решения, влияющие на людей: какой кредит одобрить, какому кандидату позвонить, какой приговор предложить, какую рекламу показать, с кем соединить в чате. Раньше все эти решения принимали люди — с понятными мотивами, ответственностью, возможностью апелляции. Что меняется, когд...

Европейская «Этика ИИ» (EU AI Ethics Guidelines, 2019) предложила семь принципов: человеческий контроль, надёжность, приватность, прозрачность, недискриминация, благополучие общества, подотчётность. Это не закон — это рамка для оценки систем ИИ.

Проблема подотчётности: если алгоритм неправильно оценил кредитный риск — кто несёт ответственность? Программист? Компания? Пользователь алгоритма? «Многоуровневая ответственность» — в распределённых системах её трудно зафиксировать.

Системы вроде GPT-4 — узкий ИИ: умеет делать конкретные вещи хорошо. Гипотетический AGI (искусственный общий интеллект) — система, сопоставимая с человеком по широте возможностей. Superintelligence — превосходящая человека.

Традиционная этика концентрическая: сначала — семья, затем — сообщество, затем — нация. Глобализация и коммуникации делают возможными — и видимыми — страдания на другом конце планеты. Это создаёт этический вопрос: есть ли у меня обязательства перед людьми, с которыми я никогда не встречусь?

Питер Сингер («Нищета, богатство и мораль», 1972): классический аргумент. Если вы видите тонущего ребёнка — большинство людей согласится, что нужно его спасти, даже испортив дорогой костюм. Но ребёнок, умирающий от предотвратимой болезни в Бангладеш — морально аналогичен. Расстояние не создаёт мо...

Это требовательный вывод. Сингер не отрицает этого. Он предлагает прагматичный минимум: 10% дохода («Giving What We Can» — движение эффективного альтруизма).

Изменение климата — глобальная проблема с несправедливым распределением. Богатые страны создали большую часть проблемы исторически (США, Европа — лидеры по накопленным выбросам CO₂). Бедные страны, почти не участвовавшие в создании проблемы, несут наибольшие последствия (Бангладеш — наводнения, С...

Медицина всегда стремилась вернуть больных к «норме». Новые технологии открывают возможность пойти дальше нормы: когнитивные усилители (ноотропы, нейроинтерфейсы), генетическое улучшение, радикальное продление жизни, слияние с ИИ. Трансгуманизм — философское движение, утверждающее: технологическо...

Ник Бостром, Рэй Курцвейл — главные голоса трансгуманизма. Курцвейл предсказывает «Сингулярность» — момент около 2045 года, когда ИИ превзойдёт человека и слияние человека с машиной изменит природу существования.

Майкл Сандел («Против совершенства»): технологические улучшения подрывают ценности принятия, смирения и солидарности. Если мы можем сконструировать «лучшего» ребёнка — всё в нём становится нашим выбором и нашей ответственностью. Это невыносимо тяжело.

Фрэнсис Фукуяма («Наше постчеловеческое будущее»): «человеческое достоинство» основано на человеческой природе. Если мы радикально изменим эту природу — лишимся основы для прав и морали.