Сила этики. Искусство делать правильный выбор в нашем сложном мире

Susan Liautaud with Lisa Sweetingham
THE POWER OF ETHICS
How to Make Good Choices in a Complicated World

Перевод с английского Ольги Лисенковой

Публикуется с согласия The Robbins Office, Inc., Susanna Lea Associates and The Van Lear Agency LLC.

В книге имеются упоминания социальных сетей Facebook (Фейсбук) и Instagram (Инстаграм). Деятельность американской транснациональной холдинговой компании Meta Platforms Inc. по реализации продуктов — социальных сетей Facebook и Instagram запрещена на территории Российской Федерации.

Лиото С.
Сила этики: Искусство делать правильный выбор в нашем сложном мире / Сьюзан Лиото ; [пер. с англ. О.А. Лисенковой]. — М. : КоЛибри, Азбука-Аттикус, 2023.

ISBN 978-5-389-23104-7

18+

В нашем сегодняшнем мире многие компании ставят прибыль выше здоровья людей и их безопасности, технологии создают риски для общества — с минимальными последствиями для тех, кто должен нести ответственность. В частной жизни мы задумываемся, как обеспечить конфиденциальность данных в интернете и уберечь детей от нежелательной информации, как делать выбор, что и у кого покупать, как относиться к несправедливости, свидетелями которой мы становимся дома и на работе. Сьюзан Лиото, преподаватель этики в Стэнфордском университете, исследует некоторые из наиболее сложных на сегодняшний день этических дилемм, объясняет четырехэтапный процесс принятия решений, а также описывает шесть сил, движущих практически каждым этическим выбором.

«Этика — составная часть всех жизненных решений и обучения на протяжении всей жизни, от детских садов и начальной школы до высшего образования, обучения на рабочем месте и повышения квалификации. Этическая компетентность не зависит от ученых степеней, специализации или социально-экономических обстоятельств… Мы способны совершать выбор, дающий надежду, и все, что для этого нужно, находится рядом с нами, на расстоянии вытянутой руки. Ваша история и история всех, с чьими жизнями вы соприкасаетесь, как и история человечества в целом, зависят от вашего выбора». (Сьюзан Лиото)

© Susan Liautaud, 2021
© Лисенкова О.А., перевод на русский язык, 2023
© Издание на русском языке, оформление.
ООО «Издательская Группа «Азбука-Аттикус», 2023
КоЛибри®

Введение

НА ПЕРЕДОВОЙ ЛИНИИ ЭТИКИ

Ко мне по коридору шла молодая женщина — высокая, темноволосая, с прямым пристальным взглядом. На вид ей было слегка за тридцать. Пока она приближалась ко мне, я заметила глубокие шрамы и неправильно сросшиеся после переломов лицевые кости. Кто-то сотворил это с ней — возможно, кто-то из близких или ее партнер. Я протянула ей руку.

Это было в 1989 году. 26-летней студенткой я изучала право в Колумбийском университете и руководила студенческой группой защиты общественных интересов, которая занималась сбором средств, а затем распределяла небольшие гранты по некоммерческим организациям. Потенциальным грантополучателем было одно местное агентство, которое помогало пострадавшим от насилия женщинам, находящимся в опасности. Мы читали о его программах, и, если мне не изменяет память, в тот вечер пригласили эту отважную женщину прийти и рассказать свою историю.

Когда мы подошли к двери в аудиторию, где собралась наша команда, я остановилась. «Можете подождать минутку? — спросила я. — Просто хочу убедиться, что все готовы».

Войдя в аудиторию, я оглядела сидящую там маленькую группу и объяснила, что наша сегодняшняя гостья пострадала больше, чем мы могли бы себе представить — слишком сильно, чтобы ее было уместно об этом расспрашивать. Я хотела подготовить своих однокурсников к серьезности ее травм. Следующий час мы посвятили тому, что слушали ее историю.

На полпути между буквой закона и исполнением постановлений суда система правосудия подвела эту женщину и подвергла ее жизнь риску. Мы узнали, что ей не удавалось получить главный документ — охранный ордер, который защитил бы ее от насильника, — до тех пор, пока она несколько раз не заявила о тяжких телесных повреждениях, испытав при этом жестокие душевные страдания. Необходимость доказывать, что ей причинили вред, чтобы получить правовую защиту, — это казалось мне нелогичным и несправедливым. Мне было сложно смириться с тем, что такое бывает.

Я выросла с убеждением, что в общем и целом закон защищает и направляет нас — справедливо, эффективно и даже сострадательно. В тот момент я только начала осознавать, что даже в тех случаях, когда закон ясен, а суды доступны, правовая система все равно порой не оправдывает наших ожиданий. До меня постепенно начало доходить, что, даже когда закон предполагает защиту, каждый из нас должен требовать от себя большего.

Тогда я не называла это этикой и, уж конечно, не задумывалась о карьере в этой области, но я старалась понять, как сделать так, чтобы поступать правильнее — как отдельному человеку, так и людям в целом.

На протяжении многих лет моя мантра звучала так: «Принятие этичных решений позволяет нам оставаться людьми, помогает всегда и всюду выдвигать человека на первый план». Я искренне надеюсь, что эта книга даст каждому читателю возможность делать выбор, прежде всего учитывающий интересы людей, выбор, которым можно гордиться как сейчас, так и в будущем.

Наступил ключевой момент: сейчас ставки для этичного принятия решений выше, чем когда-либо. Этика должна стать неотъемлемой частью наших решений, поскольку затрагивает в XXI веке все в повседневной жизни — от того, следуем ли мы рекомендациям экспертов для защиты своего здоровья и здоровья других людей, независимо от того, кто их допускает — мы сами или друзья. Наш мир — это мир, в котором этические ошибки (и успехи) множатся. Неправомерное поведение распространяется более широко и непредсказуемо, укореняется более прочно и вовлекает все больше людей и институтов. И все же, как бы парадоксально это ни звучало, сегодня у нас гораздо больше возможностей, чем раньше, для принятия этических решений. Чтобы не упустить эти моменты, мы должны понимать, что движет этикой на передовой.

Та встреча на юридическом факультете Колумбийского университета определила мои взгляды на передовую линию этики. Ту линию, за которой закон нами больше не руководит и не защищает нас, и здесь единственным стандартом, по которому можно выстраивать наше поведение, становится этика. Линия эта подвижна, и пространство, где мы руководствуемся только этикой, становится все шире. В этой зоне пересекаются люди, компании, инновации и явления, которые, казалось бы, не имеют ничего общего. Например, соцсети могут объединять нас с родными и друзьями, открывать для нас возможности трудоустройства и знакомить нас с иными культурами. А еще они могут выступать как источник недостоверной медицинской информации, разжигать ненависть и способствовать травле, которая распространяется повсюду.

Почему эта передовая линия смещается и почему происходят неожиданные пересечения? Во-первых, закон не успевает меняться вслед за быстротечными изменениями в технологиях и инновациях. Во-вторых, мы имеем дело с многочисленными глобальными и системными рисками — от изменения климата до распространения фейков и пандемии. В-третьих, новые технологии и глобальные риски вместе только усиливают как современные, так и вечные опасности: популизм и экстремизм подпитывают угрозы демократии и устоявшимся демократическим институтам, а социальные проблемы, такие как расизм и торговля людьми в целях сексуальной эксплуатации, становятся невероятно актуальными.

Если мы сумеем интегрировать этику в повседневный процесс принятия решений, мы сможем лучше осознавать собственное место в мире. Мы сможем изменить к лучшему и наши отношения с другими людьми, и то влияние, которое мы оказываем на общество вокруг нас. И наоборот, неспособность делать наши решения этичными — глобальный системный риск, который опаснее всего недооценить, с чем сталкиваются и отдельные граждане, и руководители, и организации, и страны. Это та самая экзистенциальная угроза, которая лежит в основе многих других.

Я веду курсы по этике в Стэнфордском университете с 2014 года. Первое занятие курса «Этика на передовой» я начинаю с вопроса: «В чем заключается история?» Что в действительности происходит в этих бесчисленных дилеммах, которые мы наблюдаем в новостях, на работе, в жизни семьи и друзей, в мире вокруг? Если мы не понимаем, какие силы стоят за этическими промахами, мы вряд ли сможем предотвратить их и загладить их последствия. Мы не сумеем достичь успеха в этой сфере (и вдохновить на его достижение).

А последний день курса я завершаю еще одним вопросом: в чем заключается ваша история? Потому что я верю: то, в какой степени мы встраиваем этику в свои процессы принятия решений и укореняем ее в реальности, определяет наш жизненный путь и влияет на всех тех, чьей жизни мы коснулись, даже если со многими из них мы никогда не встречались.

Каждый день мы имеем дело со сложными ситуациями, отдаленные последствия которых непредсказуемы. Что делать, если вам не нравится ни один из кандидатов на пост мэра? Стоит ли выкладывать фотографию своего ребенка в соцсетях? Что нужно принять во внимание, прежде чем плюнуть в пробирку и отправить образец ДНК на генетический анализ? Стоит ли привлечь к уходу за престарелыми родителями робота-сиделку? Последствия не всегда легко увидеть, но первый шаг к их осознанию — понять, что́ нам нужно искать.

Принятие этичных решений вырастает не из стремления к совершенству, не из попыток найти виноватого или подвергнуть кого-то критике. Скорее я надеюсь дать вам позитивный, осознанный подход к решению проблем и прочную основу для устойчивости и восстановления после тех неизбежных для человека моментов, когда мы и другие люди совершаем ошибки.

Эта книга познакомит вас с четырьмя простыми шагами, позволяющими решить любую дилемму, что станет для вас делом привычки. Вы также познакомитесь с шестью движущими силами этики — я называю их Исключение бинарности, Рассредоточенная власть, Заражение, Рушащиеся столпы, Размытые границы и Истина под угрозой. Эти силы задействованы почти во всех этических проблемах, с которыми мы сталкиваемся, будь то стремление к успеху на работе, воспитание детей, участие в обсуждении главных событий и новостей, поддержание дружеских отношений со сложным человеком, интеграция этики в духовную сферу и многое другое. Вы быстро научитесь определять и применять их, так что это станет вашей второй натурой.

В сфере этики я реалист и оптимист. На этих страницах я предлагаю вам то, что я узнала за десятилетия работы, исследований и практики, встреч с многочисленными студентами, клиентами, коллегами, руководителями и многими другими людьми, с которыми я изучала эти вопросы.

Работая над книгой, я ставила перед собой задачу сделать этику демократичной. Каждый из нас может принимать более эффективные и более этичные решения. Каждый из нас может участвовать в преодолении проблем дома, на работе и в обществе. Пусть все наши повседневные действия сделают этот мир более совершенным — для нас и для всех тех, чьи жизни соприкасаются с нашей, сегодня и в будущем.

Глава 1

ИСКЛЮЧЕНИЕ БИНАРНОСТИ

Утро воскресенья 10 марта 2019 года выдалось прохладным и ясным1. Командир воздушного судна Яред Гетачеу2 и второй пилот Ахмед Нур Мохаммод3 заняли свои места в кабине самолета для выполнения рейса 302 авиакомпании Ethiopian Airlines. Перелет от международного аэропорта Боле в Аддис-Абебе, Эфиопия, до Найроби, Кения, должен был занять два часа. 29-летний командир Гетачеу был восходящей звездой4, самым молодым командиром воздушного судна в Ethiopian Airlines, впрочем уже успевшим налетать 8122 часа и отличавшимся «безупречной историей полетов»5. Как командир Гетачеу, так и второй пилот Мохаммод, которому исполнилось 25 лет, были выпускниками Авиационной академии Эфиопии6, крупнейшей авиационной академии в Африке. Они должны были управлять новехоньким самолетом Boeing 737 Max 87, последней моделью крупнейшего в мире производителя аэрокосмической техники8: его выпустили всего четырьмя месяцами ранее.

В 08:379 диспетчер дал пилотам разрешение на взлет, и самолет покатился по взлетно-посадочной полосе, набирая скорость, прежде чем подняться в воздух. На борту рейса 302 находились 157 человек из 35 стран. Среди пассажиров были экологи, педагоги, представители неправительственных организаций (НПО), путешествующие пенсионеры и мать с четырьмя детьми (в возрасте от девяти месяцев до 33 лет)10.

Согласно данным эфиопских следователей, вскоре после взлета в кабине раздался аварийный сигнал, оповещавший пилотов, что нос самолета задран под углом 75 градусов11: это опасный угол, который может привести к смертельно опасному сваливанию. Внезапно показания скорости и высоты на левой стороне панели управления стали отличаться от показаний на правой ее стороне12, и устройство, известное как вибросигнализатор штурвала, принялось яростно греметь на штурвале командира, предупреждая о неизбежности сваливания13.

Но это была ложная тревога. Самолет летел идеально ровно. Один из двух датчиков угла атаки, установленных на носу, вышел из строя14, поэтому и запустилась автоматическая система предотвращения сваливания. Датчики угла атаки, как известно, могут искривляться, трескаться, замерзать или получать повреждения от столкновения с птицами15. Согласно анализу, проведенному телеканалом CNN, Федеральное управление гражданской авиации (ФАА), регулирующее в США сферу авиации и авиационной безопасности, с 2004 года получило 216 отчетов об отказах датчиков угла атаки или о необходимости их починки, замены или настройки16. Может показаться, что 216 — число незначительное, вместе с тем эти меры безопасности совершенно необходимы, чтобы пилоты правильно оценивали ситуацию17. Однако компания Boeing приняла принципиально важное решение, что для запуска системы предотвращения сваливания на Max 8 достаточно сигнала от одного датчика18: сигнала от второго датчика для подтверждения аварийного состояния при этом не требуется.

Когда один из датчиков угла атаки показал, что нос самолета задран слишком высоко и судно может потерять стабильность, автоматически было активировано технологическое решение для предупреждения сваливания под названием «система улучшения характеристики маневрирования», MCAS (Maneuvering Characteristics Augmentation System)19. Эта система должна была исправить положение хвоста самолета, что, в свою очередь, выравнивает его нос. Если бы для ее активации в Boeing требовалось сверять данные от обоих датчиков угла атаки, это могло бы предотвратить трагические последствия.

Когда рейс 302 достиг высоты 8100 футов (2469 м)20, система MCAS получила ошибочные показания датчика, и самолет завалился носом вниз. Командир Гетачеу попытался поднять судно. Однако система MCAS направляла его носом вниз снова и снова. В кабине пилотов начался хаос. Они столкнулись с такой же ситуацией, в которой погиб самолет Boeing того же типа, выполнявший рейс 610 авиакомпании Lion Air в Индонезии чуть более чем за четыре месяца до этого. В той катастрофе вибросигнализатор штурвала громко вибрировал, показания датчиков сбились, датчик угла атаки подал ложный аварийный сигнал, и двенадцать долгих минут ошеломленный командир корабля с переменным успехом вел бой с собственным судном21. Самолет поднимался и опускался двадцать один раз22, а потом рухнул в Яванское море, и 189 человек, находившихся на борту, погибли23.

После катастрофы рейса Lion Air ФАА выпустило срочную директиву по летной годности, предупреждая пилотов, что на самолетах Boeing 737 Max 8 и 9 неисправный датчик угла атаки может активировать автоматическую систему улучшения характеристики маневрирования (MCAS)24. Компания Boeing также опубликовала информационное письмо25, чтобы привлечь внимание пилотов к тем процедурам, которые следовало выполнить при получении неверных сигналов от датчиков угла атаки: можно было использовать ряд переключателей на панели управления, чтобы отключить эту систему и отменить команду, из-за которой самолет «сваливается». Хотя MCAS впрямую не упоминалась, пилоты тогда впервые узнали о том, что на новых самолетах 737 Max эта система существует.

Второй пилот Мохаммод, следуя инструкции, нажал все переключатели, выключавшие систему MCAS. Командир Гетачеу потянул за штурвал, чтобы поднять нос самолета вручную, но аэродинамические силы, воздействовавшие на хвост судна, не дали это осуществить. «Тяни вместе со мной», — сказал Гетачеу второму пилоту. Вместе они старались перебороть 81,6 килограмм-силы26. В отчаянии они снова включили систему, чтобы попытаться использовать электричество и вернуть себе контроль над положением хвоста. Но тут опять вступила в действие система MCAS27. Через шесть минут после взлета из Аддис-Абебы рейс 302 рухнул на незасеянное поле на скорости 925 км/ч28. Удар был таким сильным, что спасательные вертолеты не сразу нашли место катастрофы29: упавший самолет ушел под землю на глубину около 10 м30. Никто не выжил.

Судьба рейса 302 привлекла внимание всего мира не только из-за трагической развязки, но и из-за мрачного сходства с авиакатастрофой Lion Air. Все прониклись недоверием к этим самолетам, а вскоре после этого и к тому, как принимают решения в компании Boeing и в ФАА.

Реакции Boeing и ФАА на этот кризис радикально отличались от реакции правительств по всему миру — и не соответствовали требованиям действительности. В понедельник 11 марта, на следующий день после катастрофы, компания Boeing опубликовала заявление, в котором выражала соболезнования родным и близким погибших на рейсе 302, но в то же время настаивала, что самолет 737 Max «безопасен для полетов»31. ФАА выпустило «Продолжение директивы по летной годности»32, где говорилось, что его специалисты изучают данные и «предпримут соответствующие меры, если данные покажут, что это необходимо», но у него пока нет достаточной информации, чтобы «делать какие-либо выводы или предпринимать какие-либо действия». Однако две катастрофы вызвали немалое беспокойство, так что авиакомпания Ethiopian Airlines немедленно перестала пользоваться своим парком самолетов Max33, Управление гражданской авиации Китая приказало не поднимать в воздух ни один из имевшихся в стране 96 самолетов Max34; другие авиакомпании и страны быстро последовали их примеру.

Ко вторнику 12 марта, через два дня после катастрофы, Великобритания, Германия, Франция, Австралия, Малайзия и Сингапур запретили самолетам Max пролет над своей территорией; авиалинии в Омане, Норвегии и Южной Корее перестали поднимать свои суда в воздух35. Однако Соединенные Штаты не сделали ничего подобного: в то время компания Boeing была крупнейшим промышленным предприятием Америки, поставлявшим товары на экспорт. В 2018 году общая выручка Boeing составила рекордные 100 миллиардов долларов36. По всему миру на эту корпорацию работали 145 000 человек37, она сотрудничала с 13 000 отечественных поставщиков38, в том числе с такими компаниями, как General Electric, производителем двигателей Max.

Во вторник утром генеральный директор Boeing Деннис Мюленбург лично позвонил Дональду Трампу, чтобы заверить президента, что причин для беспокойства нет и что «самолет MAX безопасен»39.

Когда я смотрела новости, я была в ужасе, мое сердце разрывалось от боли за жертв, их родных и близких. Также я видела в этой трагедии переплетение неправильных решений и пренебрежение этикой. Сразу после катастрофы меня не переставало беспокоить то, что лица, принимающие решения, похоже, не несут за них полную ответственность. Затем я обратила внимание на наше решение: когда и при каких обстоятельствах мы могли бы полететь на самолете 737 Max? Как бы мы могли оценить этот риск? Позже Мюленбург скажет репортеру, что он «непременно» пойдет на такой риск и посадит свою семью в один из таких самолетов40. Но что до меня, мой ответ был совершенно ясен: нет.

К утру среды 13 марта более 60 стран запретили самолетам Boeing полеты над своей территорией41. Однако ФАА свою позицию не изменило. В заявлении, опубликованном накануне, ФАА упомянуло, что данные все еще изучаются, но «оснований запрещать полеты» нет и нет данных, которые «требовали бы что-то предпринять»42.

Поймите правильно: крайне важно оценивать факты и свидетельства как после трагедий, подобных этим катастрофам, так и ради постоянного мониторинга угроз безопасности и новых технологий. Но данные не играли никакой роли для ответа на вопрос, с которым столкнулись Boeing и ФАА после того, как за пять месяцев погибли 346 человек, летевших на самолетах одной и той же модели, — на вопрос, имеющий решающее значение: следует ли нам позволить и дальше использовать для полетов самолеты Max 737? В данном случае нужно было не оценивать усредненные значения и не прикидывать вероятность тех или иных событий. Единственное, на чем нужно было сосредоточиться, — это на устранении вероятности того, что погибнут люди. Есть только одно решение, которое позволяет достичь этой цели, — запретить этим самолетам взлет. Именно это и сделал в конце концов президент Трамп. В среду днем он приказал ФАА отменить полеты всего парка самолетов 737 Max 8 и Max 9, потому что «первоочередная задача» — это «безопасность»43.

В последующие месяцы следователи обнаружат множество доказательств того, что у Boeing проблемы не только с безопасностью. 103-летняя американская компания сбилась с пути с точки зрения этики. В скандале, отмеченном пренебрежением к человеческой жизни, корпорация Boeing не просто проигнорировала проблемы с безопасностью или технологические ошибки; ей не удалось на каждом уровне интегрировать этику в процесс принятия решений в компании, что привело к краху доверия к очень уважаемой организации. На интернет-сайте Boeing в то время говорилось: «Наша позиция в отношении этичного ведения бизнеса проста: каждый раз поступайте правильно, исключений нет»44. Но они делали исключения снова и снова, подрывая доверие клиентов, теряя самую ценную валюту Boeing.

Трагедия Boeing — это оглушительный аварийный сигнал нашего времени, явный маркер того, что в последние годы этикой в процессе принятия решений руководствуются значительно реже, и это часто имеет серьезные последствия. Почему этика сейчас важнее, чем когда-либо? И как нам принимать правильные решения, когда закон отстает от реальности и границы — или то, что я называю «гранью», «передовой», — размыты? Передовая — это та точка, где закон больше не защищает нас и наши решения должна определять только этика. Даже там, где закон действует эффективно, это наименьший общий знаменатель, а не высший и даже не достаточно высокий стандарт поведения. Этика должна действовать сверх закона, помимо его.

В этой главе объясняется, как важно исключить бинарность. Это один из шести шагов, которые подразумевает этичное принятие решений на передовой. Бинарные решения предполагают, что надо осуществить выбор между двумя понятными вариантами, например, корпорации Boeing пришлось выбирать между защитой жизней или собственной прибылью. Но большинство этических решений, особенно на передовой, требуют, чтобы мы отказались от бинарности, подавили свойственное нам желание чрезмерно упрощать этические вопросы, превращая их в упражнение по выбору той или иной стороны: «да или нет», «черное или белое», «хорошее или плохое». Часто мы стремимся классифицировать людей, поведение и действия как «этичные» или «неэтичные». Как вы увидите, такое навешивание этических ярлыков или присвоение кодовых обозначений нельзя считать этичным процессом принятия решений.

Бинарные решения могут требовать углубленных дискуссий о рисках и возможностях, например, о том, должна ли компания продавать технологии дронов правительству. Ответы на бинарные вопросы могут быть и простыми. Например, вопросы из разряда «Должны ли платформы социальных сетей допускать торговлю людьми в целях сексуальной эксплуатации?» и «Следует ли учителю допускать травлю в классе?» требуют такого однозначного ответа: нет.

Однако на передовой этики мы чаще сталкиваемся с такими сложными этическими вопросами, которые не будут бинарными: они включают разные оттенки серого и постоянно изменяющееся соотношение рисков и возможностей для всех сторон. Поскольку мир вокруг нас меняется, этические границы размываются, мы часто оказываемся перед этическими дилеммами, на которые редко удается дать простой ответ.

Нам часто приходится заменять вопросы из разряда «Следует ли мне…?» более открытыми и реалистичными вопросами вроде того, который я задала себе о Boeing: «Когда и при каких обстоятельствах мне следовало бы…?» Формулировка наших этических дилемм в небинарных терминах помогает закрепить наш выбор в реальности. Как я говорю своим студентам, вы можете сколько угодно «заниматься этикой» в отрыве от реальности, но жить вам придется со вполне реальными последствиями.

Большинство решений, которые нам необходимо принять, будут небинарными. Но я начала с ситуации с Boeing, чтобы проиллюстрировать, что все же выбор «правильно или неправильно», «да или нет» существует. История с корпорацией Boeing — пример по-настоящему бинарного решения… и неправильного ответа. Вопросы были прямолинейными, а ставки — максимально высокими.

Прежде чем мы начнем анализировать решения, принятые Boeing, нам необходимо лучше разобраться в том, как конструкция самолета Max привела к падению корпорации. Все началось в 2010 году, когда главный соперник компании, французский авиастроитель Airbus, объявил о запуске нового самолета, который будет сжигать на 20% меньше горючего45. Когда в Boeing узнали о том, что их давний клиент авиакомпания American Airlines рассматривает возможность приобретения двухсот новых французских самолетов, они немедленно вступили в конкурентную борьбу46.

Проектирование нового судна могло занять десять лет, потребовалось бы дорогостоящее обучение пилотов, поэтому вместо этого корпорация Boeing решила обновить уже существующую модель 737, снабдив ее новыми топливосберегающими двигателями47. В августе 2011 года совет директоров Boeing одобрил запуск в 2017 году переоборудованной модели 737, которая стала известна как Max. Еще до начала строительства компания успела получить 496 заказов на новые топливосберегающие самолеты48.

Инженеры Boeing вскоре выяснили, что при установке массивных современных двигателей на самолет, изначально построенный в 1967 году, возникают серьезные проблемы49. Например, у модели 737 остается совсем небольшое расстояние между корпусом самолета и землей, поэтому под крыльями судна просто не хватало места для размещения двигателей большего размера. В результате новые двигатели переместили немного выше крыла и продвинули вперед50. Но это нарушило всю аэродинамику51: когда самолет был на полной тяге во время взлета, нос часто задирался слишком высоко, вызывая сваливание. Поначалу инженеры оценивали идею изменения формы крыльев или добавления к крыльям небольших металлических лопастей, чтобы изменить аэродинамику52. Когда эти варианты не сработали, компания Boeing разработала в качестве программного решения систему MCAS53. MCAS изначально была создана так, чтобы учитывать входные сигналы от двух источников: от одного из датчиков угла атаки и о перегрузке. Если и угол атаки, и перегрузка были слишком велики, MCAS тонко отрегулировала бы положение хвоста самолета, чтобы опустить нос. Но затем инженеры поняли, что самолет может испытывать аэродинамическую нестабильность не только на высоких, но и на низких скоростях, поэтому они убрали фактор перегрузки как механизм запуска системы MCAS. Это означало, что теперь активировать MCAS мог и один датчик угла атаки54.

ФАА сертифицировало систему MCAS и ее активацию с помощью одного датчика, основываясь на предварительном «анализе безопасности системы», который компания Boeing предоставила надзорным органам. Но впоследствии инженеры Boeing сделали MCAS более мощной и интенсивной — без обновления сертификационных документов ФАА. К тому времени, когда самолеты были доставлены заказчикам, MCAS могла перемещать хвост в четыре раза дальше, чем предполагалось изначально, и могла автоматически перезагружаться, снова и снова опуская нос самолета, даже когда пилот поднимал его. Согласно показаниям руководства Boeing, летный экипаж уже был обучен обращению с тем, что называется «неуправляемым стабилизатором», — по сценарию, при котором нос самолета также опускается. Из-за этого руководство Boeing «предположило», что пилоты будут реагировать на ошибочную активацию MCAS и решат эту проблему таким же образом: щелкнут переключателями на панели управления и отключат эту систему55.

Ошибочные предположения Boeing привели к нескольким неверным шагам. Во-первых, эти предположения были основаны на том факте, что в ходе испытаний опытные пилоты Boeing смогли распознать опасность заваливания носа, щелкнуть переключателями и взять под контроль самолет за четыре секунды. Но при испытаниях не учитывались хаотические ситуации в кабине или другие возможные переменные. Национальный совет по безопасности на транспорте США (NTSB) указал в своем официальном отчете за 2019 год, что ФАА должно разработать новые стандарты проектирования и потребовать внедрения бортовых диагностических инструментов для повышения эффективности пилотирования. Национальный совет также отметил, что «отраслевые эксперты обычно признают, что система самолета должна быть спроектирована таким образом, чтобы последствия любой ошибки человека были ограничены»56.

Кроме того, компания Boeing с одобрения ФАА поставила самолеты Max (с активацией MCAS одним датчиком) без дополнительной подготовки пилотов и без упоминания MCAS в руководстве по эксплуатации. Первый пилот в отставке Чесли «Салли» Салленбергер, прославившийся тем, что в 2009 году благополучно посадил самолет на воды реки Гудзон в Нью-Йорке, в июне 2019 года объяснил подкомитету конгресса: «Я сомневаюсь, что до этих происшествий кто-либо из пилотов американских авиакомпаний сталкивался с подобным сценарием при обучении на тренажерах»57. Он также настаивал на том, что нельзя заставлять пилотов компенсировать «внутренние дефекты» в конструкции самолета.

В этом случае причина принятия неверных решений отчасти кроется в том факте, что ФАА наделяло Boeing все большими и большими полномочиями в отношении сертификации безопасности. Смысл в том, чтобы привлекать к этому инженеров компании, в какой-то мере есть58. У Boeing достаточно опыта, чтобы помогать ФАА с отдельными аспектами, на которые у последнего нет ресурсов или времени. Первоначально инженеры по сертификации назначались ФАА, подчинялись непосредственно своим коллегам в ФАА и получали оплату от Boeing. Но в 2004 году система изменилась59: теперь их назначали — и руководили ими — менеджеры Boeing, принимавшие окончательные решения о том, что будет представлено ФАА. Эти изменения дали менеджерам Boeing больше полномочий, а инженерам по сертификации — меньше независимости, и корпорация Boeing воспользовалась этими изменениями, обратив их в свою пользу.

Расследования, проведенные американскими газетами New York Times и Seattle Times, показали, что руководство Boeing было настолько одержимо стремлением опередить Airbus, настолько сосредоточено на скорости производства и стоимости, что инженеры были вынуждены представлять технические планы «вдвое быстрее обычного», а менеджеры работали в «сжатые сроки и с ограниченным бюджетом». Один из информаторов утверждал, что в трех разных случаях компания отклоняла те меры безопасности, которые могли бы предотвратить роковые катастрофы60.

Процесс принятия решений в Boeing был свернут, когда в компании увлеклись гонкой к финишной черте, а также и позже. В 2017 году, через несколько месяцев после поставки самолетов, в компании Boeing обнаружили сбой с предупреждением о расхождении показаний датчиков угла атаки61. Предупреждение о несогласии — это стандартная функция, которая сообщает пилоту, что два датчика угла атаки имеют разные показания: это говорит о том, что один из датчиков, возможно, вышел из строя. Сбой, как обнаружили в Boeing, заключался в том, что предупреждение о несогласии в самолетах Max ошибочно связывалось со второй необязательной функцией, «индикатором датчиков угла атаки», которая была премиальной функцией. Это означало, что если перевозчик не покупал опцию «премиум», предупреждение о несогласии у него не срабатывало. Компания Boeing не уведомила об этом ни покупателей, ни пилотов62. Вместо этого она решила подождать до следующего запланированного обновления программного обеспечения в 2020 году, чтобы исправить ошибку63.

Предупреждение о несогласии могло бы проинформировать пилотов компаний Lion Air и Ethiopian Airlines о неисправности одного из датчиков, что могло бы помочь им быстрее распознать проблему. Но ни один из этих перевозчиков не оплатил опцию «премиум», поэтому предупреждение у них не сработало. Такой индикатор для датчиков угла атаки приобрели примерно 20% всех клиентов Max; следовательно, только эти 20% также располагали этим средством обеспечения безопасности. Даже среди трех американских перевозчиков, которые купили самолеты Max, за премиальный вариант заплатили лишь American Airlines и Southwest Airlines, а United Airlines — нет64.

Модель Max 8 была запущена в эксплуатацию в 2017 году и быстро стала самым продаваемым самолетом Boeing в истории65 — ошеломительный успех… пока вскоре пилоты не оказались вынуждены вести бой против своих самолетов, а сами самолеты не упали с небес на землю. Модель Max была призвана укрепить позицию Boeing как самого уважаемого и успешного производителя самолетов в мире. Вместо этого она пролила свет на этическую проблему, решение которой нельзя откладывать.

Давайте рассмотрим три важных бинарных решения, с которыми столкнулась компания Boeing.

Во-первых, в 2017 году ее руководители осознали, что они сделали средство обеспечения безопасности (предупреждение о несогласии датчиков угла атаки) премиальным вариантом, а не стандартом. На этом этапе вопрос звучал так: будем ли мы делать это достоянием общественности и все исправлять или нет?

Компания Boeing решила придерживаться позиции, согласно которой предупреждение о несогласии предоставляет только «дополнительную информацию» и не является средством обеспечения безопасности66. Возможно, так оно было и с более старыми моделями 737, но в Boeing должны были знать, что мощный характер системы MCAS превратил это предупреждение в необходимую функцию безопасности, предоставляющую пилотам важную информацию. Компания Boeing не сообщила об этом и не исправила эту ошибку, решив вместо этого исправить ее через три года при обновлении программного обеспечения67.

Во-вторых, после того как в Индонезии разбился первый самолет, выбор был таким: отзываем ли мы самол…