Сэм Альтман - провидец, у которого проблемы с надежностью. Две книги рассказывают похожую историю об OpenAI. Это вызывает беспокойство

Кратко

1. •Сэм Альтман — соучредитель и руководитель Open AI, создатель Chat GPT.
2. •В 2023 году Альтман столкнулся с попыткой увольнения из Open AI.
3. •Книги Кич Хейджи и Карен Хао исследуют непростые отношения в Open AI и культуру Кремниевой долины.
4. •Альтман — обаятельный персонаж, сочетающий стремление создавать технологии и дар рассказчика.
5. •Он основал Loopt, криптовалюту, основанную на сканировании глаз, и другие проекты.
6. •Альтман столкнулся с конфликтами и разногласиями с Илоном Маском и другими руководителями в сфере ИИ.
7. •Обе книги расходятся в оценке оправданности цели поиска сверхразумного ИИ.
8. •Альтман сталкивается с проблемой доверия в Open AI, особенно учитывая его роль в создании потенциально прометеевских технологий.

«Оптимист». Автор: Кич Хейджи. Издательство W.W. Norton; 384 страницы; 31,99 доллара США

«Империя ИИ». Автор: Карен Хао. Penguin Press; 496 страниц; 32 доллара

Прометей из греческой мифологии украл у богов огонь и принёс его на Землю. За это он был прикован на веки вечные к скале, где орёл ежедневно терзал его печень. Такова была цена первой великой технологии человечества. В XXI веке история Сэма Альтмана, соучредителя и руководителя OpenAI, тоже напоминает о Прометее. Он возглавил работу над созданием ChatGPT, который был запущен в конце 2022 года и потряс мир: внезапно стали очевидны революционные возможности и риски генеративного искусственного интеллекта (ИИ). Год спустя капризные боги — то есть некоммерческий совет OpenAI — попытались его изгнать. Однако, в отличие от Прометея, мистер Альтман остался невредим.

Эта история легла в основу двух замечательных новых книг. В них исследуется непростая смесь миссионерского рвения, соперничества и недоверия в OpenAI в преддверии появления ChatGPT. Напряжённость становится ещё более очевидной в хаосе, предшествовавшем попытке уволить мистера Альтмана во время неудавшегося переворота в совете директоров в ноябре 2023 года.

Свидетельством мастерства авторов, которые являются журналистами, является то, что они подготовили тщательно проработанные, захватывающие репортажи, опубликованные 20 мая, почти ровно через полтора года после этого события. Более того, они рассказывают эту историю по-разному.

«Оптимист» Кич Хейджи — это то, что можно назвать официальной версией. Она имела доступ к мистеру Альтману и многим главным героям его истории, включая его семью и друзей. Его личность настолько яркая и сложная, что её история никогда не теряет актуальности. Это не агиография.

Карен Хао не получила такого доступа к «Империи ИИ». OpenAI держал её на расстоянии, что придаёт её рассказу больше остроты. Обе книги раскрывают тревожные черты мистера Альтмана, OpenAI и культуры Кремниевой долины, о которых полезно помнить в разгар шумихи вокруг генеративного ИИ.

Мистер Альтман — очаровательный персонаж. Как говорит мисс Хейджи, первое, что вы замечаете в нём, — это его невысокий рост и пристальный взгляд, «как будто он говорит с самым важным человеком в мире». Выросший на Среднем Западе Америки, он с юных лет увлекался технологиями и был на удивление остроумным. Он был прирождённым борцом за права: в 17 лет он шокировал школьное собрание, рассказав о своей гомосексуальности, чтобы привлечь внимание к правам геев.

На протяжении всей своей карьеры он сочетал стремление создавать технологии, меняющие мир, с даром рассказчика, который помогает ему собирать большие суммы денег для осуществления своих мечтаний. Он начал с приложения для отслеживания местоположения под названием Loopt. С тех пор его крупные проекты включали криптовалюту, основанную на сканировании глаз для подтверждения цифровой личности в мире искусственного интеллекта; продление жизни с помощью технологии клеточного омоложения; ядерный синтез и, конечно же, поиск сверхразума.

Некоторые сравнивают его способности с «полем искажения реальности» Стива Джобса — соучредитель Apple мог заставить людей поверить в то, что они считали невозможным. Но в отличие от Джобса, который часто был резок, мистер Альтман — чуткий слушатель, который знает, как преподнести то, что он предлагает, так, чтобы людям это понравилось.

С самого начала его умение ладить с людьми привлекало влиятельных наставников. Пол Грэм, соучредитель Y Combinator (YC), инкубатора стартапов, сказал о мистере Альтмане: «Вы могли бы сбросить его с парашютом на остров, полный каннибалов, а через пять лет вернуться, и он был бы там королём». Действительно, мистер Грэм и его партнёрша Джессика Ливингстон передали бразды правления YC мистеру Альтману в течение нескольких лет, возведя его в возрасте 28 лет на вершину стартапов Кремниевой долины.

Даже тогда его прямота вызывала сомнения. «Если Сэм улыбается, то делает это очень сдержанно, — говорит г-же Хао бывший основатель YC. — Сэм безудержно улыбался только один раз, когда [мистер Грэм] сказал ему возглавить YC.» В Loopt, которую он продал за 43 миллиона долларов в 2012 году, его коллеги дважды пытались убедить совет директоров уволить его с поста генерального директора, потому что, по словам г-жи Хейджи, он реализовывал свои идеи, не ставя их в известность. Их опасения по поводу его надёжности описаны в обеих книгах — даже несмотря на то, что в конце концов его финансовые покровители остались ему верны.

Точно так же в YC мистер Грэм и мисс Ливингстон были недовольны тем, что мистер Альтман подрабатывал в OpenAI, которую он основал вместе с Илоном Маском и другими в 2015 году, ещё будучи руководителем YC. Мисс Ливингстон уволила его, но, как рассказывает мисс Хейджи, он оставил после себя хаос. Мало того, что он подчинялся неэффективному совету директоров, он также использовал акции YC, чтобы переманить людей в OpenAI. Она говорит, что некоторые партнёры YC увидели потенциальный конфликт интересов, «или, по крайней мере, неподобающее использование бренда YC для личных проектов Альтмана».

Эти детали важны. Оба рассказа свидетельствуют о том, что его амбиции, скорость и умение говорить людям только то, что они хотят услышать, едва не привели к краху OpenAI. Парадоксально, но некоторые из этих же качеств помогли OpenAI накопить огромные суммы денег и вычислительные мощности, не говоря уже о массивах данных, собранных из интернета для обучения моделей, что помогло компании стать лидером в области генеративного ИИ.

В одном случае, известном как «развод», он настолько отдалился от некоторых исследователей OpenAI, занимавшихся вопросами безопасности, что они покинули компанию и в 2021 году основали одного из её главных конкурентов — Anthropic. В другом случае, известном как «провал», он был сенсационно уволен после того, как его ближайшие помощники и совет директоров потеряли к нему доверие, потому что, как говорится в обеих книгах, он рассказывал им противоречивые истории и не давал прямых ответов о своей инвестиционной деятельности и деятельности OpenAI. Однако через несколько дней он вернулся с триумфом, когда они поняли, что без него компания может обанкротиться.

В основе обоих этих эпизодов, а также обеих книг лежит идеологическая борьба между теми, кто предпочитает скорость безопасности при внедрении генеративного ИИ. ИИ Open сильно пострадал из-за внутреннего раскола между «пророками» и «процветающими». Многие «пророки» являются частью движения эффективного альтруизма (EA), филантропической философии, направленной на поиск наиболее действенного способа помочь другим, которая проявляет большой интерес к возможным катастрофическим рискам, связанным с ИИ. «Бумеры», или «эффективные акселерационисты», больше обеспокоены тем, что если Америка не выиграет гонку ИИ, то выиграет Китай. На самом деле, как отмечает г-жа Хао, это две стороны одной медали. Каждая из них стремится расширить границы машинного сверхразума настолько, насколько это безопасно или возможно, — даже если одна предупреждает о «пламени и серафиме», а другая предлагает «видения рая».

Не менее интересны соперничество в сфере, полной псевдогениев, и технологические прорывы, которые они совершают, чтобы опережать друг друга. В обеих книгах рассказывается о разногласиях между Маском и Альтманом, которые подробно описаны в рамках судебного иска, поданного Маском против OpenAI, её руководителя и Microsoft, крупнейшего инвестора коммерческой организации OpenAI.

На протяжении всей книги эти две книги расходятся в том, что касается вопроса, лежащего в основе их общей истории: оправдывает ли цель, поиск сверхразумного ИИ, средства? Мисс Хейджи, по-видимому, так считает. Она объясняет некоторые поступки мистера Альтмана его неприятием конфликтов и распространённым в Кремниевой долине подходом «действуй быстро и ломай всё».

Тем временем госпожа Хао обвиняет OpenAI в предательстве своей миссии. Она критикует не только мистера Альтмана, но и руководителей конкурирующих фирм, которые, по её словам, участвуют в той же борьбе за власть. Она говорит, что генеративные модели ИИ — это «чудовища», потребляющие слишком много данных, энергии и природных ресурсов. Однако она заходит слишком далеко, сравнивая OpenAi и другие лаборатории с колониальными империями.

Но, судя по обеим книгам, её опасения по поводу мистера Альтмана кажутся обоснованными. В любой организации генеральный директор, которому нельзя полностью доверять, — это проблема. Особенно если он стоит у руля такой фирмы, как OpenAI, которая создаёт потенциально прометеевские технологии.

Оригинал

Читайте еще:

Сечин устраивает эскортниц на должности в «Роснефти» и платит им большие зарплаты из бюджета компании — расследование

За три года в России национализировали 411 компаний с активами на 2,6 трлн рублей

Бесчестный знак. Расследование о том, как россиян обложили скрытым налогом

Предкризисное настроение. Четыре отрасли российской экономики, которые рухнут первыми от высоких ставок и снижения спроса

Подпишитесь на канал "Жизнь Дурова: ЗОЖ, деньги, ИТ" — все самое главное о здоровье, технологиях и деньгах