Фрагмент книги «Создатель ChatGPT. История Сэма Альтмана»
Тиль признавался: Альтман привлек его тем, что, как никто другой, воплощал дух Кремниевой долины той эпохи — миллениал 1985 года рождения, попавший в мир технологий в золотой момент между крахом доткомов и финансовым кризисом, когда вера в стартапы возродилась, но технологическая сфера еще не скатилась в то, что Тиль язвительно называл заезженной колеей. В середине 2010-х, когда все громче звучали разговоры о технологическом пузыре, Тиль подавил сомнения, доверившись инвестиционному чутью Альтмана, — и не прогадал. «Сэм был неисправимым оптимистом — качество, необходимое для инвестирования в эти компании, ведь все они казались переоцененными», — говорил он. Как выяснилось, у «единорогов», взращенных в Y Combinator, таких как Stripe и Airbnb, еще оставался колоссальный потенциал для роста. На протяжении почти всей взрослой жизни Альтмана, если не считать короткой паузы после финансового кризиса 2008 года и начавшейся в 2020 году пандемии, технологические рынки знали только один путь — вверх.
Но на этот раз мрачные предчувствия Тиля оказались пророческими. Пока два инвестиционных партнера поднимали бокалы в самом модном новом ресторане Лос-Анджелеса, четверо из шести членов совета директоров OpenAI (в их числе двое напрямую связанных с движением эффективных альтруистов) тайно обсуждали по видеосвязи увольнение Альтмана. И хотя сам Юдковский не имел к этому отношения, его влиятельный блог LessWrong сыграл ключевую роль в том, что страх перед экзистенциальной угрозой со стороны ИИ стал центральной темой движения эффективных альтруистов.
Отголоски этого страха прослеживались и в принципах самой OpenAI, чьей заявленной миссией было «развивать цифровой интеллект так, чтобы это принесло максимальную пользу всему человечеству, не ограничиваясь необходимостью получать финансовую выгоду». Еще отчетливее эти опасения проступили в необычном уставе OpenAI 2018 года. В нем говорилось, что компания «обеспокоена тем, что разработка AGI на поздних стадиях может превратиться в гонку, где не останется времени на необходимые меры безопасности», поэтому обязуется «прекратить конкуренцию и начать помогать» любым проектам, разделяющим ее ценности, если они первыми создадут AGI. Самым причудливым образом этот страх воплотился в структуре управления компании: коммерческим подразделением руководил некоммерческий совет директоров, который был обязан действовать в интересах не инвесторов, а «человечества»6. Инвесторов же предупреждали, что они могут потерять все вложенные средства, если совет сочтет это необходимым для выполнения высшей миссии.
