Возвращение Сэма Альтмана - новый этап для OpenAI. Отрасль готова перейти от академического идеализма к коммерческому прагматизму.

OpenAI против CloseAI.
Даже по быстро меняющимся стандартам технологий, прошедшая неделя в мире искусственного интеллекта (ИИ) была головокружительной. 17 ноября совет директоров Openai уволил Сэма Альтмана, босса производителя Chatgpt. К 20 ноября Альтману предложили убежище в Microsoft, крупнейшем спонсоре стартапа. В тот же день почти все 770 сотрудников Openai подписали письмо с угрозами уйти, если члены совета директоров, уволившие Альтмана, не восстановят его на работе и не уйдут в отставку. 21 ноября Альтман вернулся на свою старую работу. Таким образом, таланты более или менее вернулись туда, откуда они начали. Или они?

Фактически, сага Openai знаменует собой начало новой, более взрослой фазы индустрии искусственного интеллекта. Для Openai триумфальное возвращение Альтмана может усилить амбиции. Для Microsoft, которая поддержала Альтмана в час нужды, этот эпизод может привести к усилению влияния на самый популярный стартап в области искусственного интеллекта. Для компаний ИИ во всем мире это может означать более широкий переход от академического идеализма к большему коммерческому прагматизму. А для пользователей технологии это может, если повезет, привести к усилению конкуренции и расширению выбора.

Чтобы понять все эти последствия, начнем с того, что произошло.

Совет директоров Openai уволил Альтмана за то, что он «не всегда откровенен в своих сообщениях». Одним из факторов, который мог повлиять на это решение, были разногласия по поводу того, удалось ли Openai найти правильный баланс между скоростью и безопасностью своей продукции.

Инсайдеры говорят, что Openai совершила прорыв, который позволил моделям лучше решать проблемы без дополнительных данных. Это напугало Илью Суцкевера, соучредителя и члена совета директоров. Хелен Тонер, член правления Джорджтаунского университета, опубликовала научную статью, в которой изложила недостатки подхода Openai к безопасности ИИ.

21 ноября New York Times сообщила, что Альтман, обеспокоенный негативной прессой, решил сместить Тонер. Высказывались также опасения по поводу побочных проектов Альтмана, в том числе запланированного предприятия по производству полупроводников, в результате которого он отправился в Персидский залив в поисках миллиардов саудовских денег.

В конце концов вместо этого его выгнали Тонер и трое других членов совета директоров. Шестой директор, Грег Брокман, также был лишен своего места в совете директоров, а затем ушел в знак солидарности с Альтманом. Двое из них нашли поддержку в Microsoft, которая заявила, что создаст новую собственную лабораторию искусственного интеллекта, которой они будут управлять.

Microsoft также пообещала нанять остальную команду Openai. Возможно, никогда не станет известно, был ли это когда-либо серьезным планом. Но это дало Альтману огромную переговорную силу при переговорах о его возвращении в Опенай. 20 ноября, пока шли эти переговоры, Сатья Наделла, исполнительный директор технологического гиганта, заявил, что «независимо от того, где находится Сэм, он работает с Microsoft».

Сделка, заключенная Альтманом и теми, кто его свергнул, изменит Openai, начиная с совета директоров. Тонер и Сатскевер отсутствуют. Так же как и Таша МакКоли, технологический предприниматель. Все трое поддержали увольнение Альтмана. Брокман и Альтман пока не вернутся. Из шестерых до хаоса остался только Адам Д’Анджело, основатель Quora, сайта вопросов и ответов. К нему присоединятся тяжеловесы, начиная с Брета Тейлора, бывшего со-генерального директора Salesforce, еще одной крупной фирмы-разработчика программного обеспечения, и Ларри Саммерса из Гарвардского университета, который занимал должность министра финансов при Билле Клинтоне.

Интернет-издание The Verge сообщило, что новый совет будет стремиться расшириться до девяти членов; Ожидается, что Microsoft получит место, а Альтман может получить свою поддержку.

Новые директора, скорее всего, сделают Openai, структурированную как коммерческое предприятие внутри некоммерческой организации, более ориентированным на бизнес.

Тейлор и Саммерс — уважаемые фигуры с большим опытом работы в советах директоров. Их взгляды на безопасность ИИ неизвестны. Но они, возможно, более восприимчивы, чем Тонер и Макколи, к амбициям Альтмана по созданию империи. Похоже, то же самое можно сказать и о рабочей силе Openai.

Один из сотрудников сообщает, что сотрудники стартапа, «связанные травмой» во время потрясений, станут еще более лояльными к Альтману и, возможно, с большей готовностью реализовывать его коммерческое видение. Работа над самой мощной моделью компании, gpt-5, которая, казалось, замедлилась на несколько месяцев, теперь, вероятно, пойдет полным ходом.

Тем не менее кислый привкус, оставшийся от этой мешанины, может остаться. По словам известного ИИ-инвестора, это не было «событием, вселяющим доверие». Это мягко сказано. Утром 17 ноября Openai была готова закрыть тендерное предложение, проводимое венчурной фирмой Thrive Capital, которая оценила стартап в 86 миллиардов долларов. Предложение было приостановлено. Хотя, как сообщается, он снова возобновился, инвесторы на вторичном рынке акций стартапов по-прежнему осторожны.

Хуже того, если Альтман и Суцкевер не примирятся, Опенай может потерять одного из самых уважаемых в мире ИИ-умов.

Судьба Microsoft выглядит более безопасной. В то время как бренд Openai пострадал, бренд Microsoft — нет. Гигант программного обеспечения, вероятно, предпочитает держать Openai на расстоянии вытянутой руки, а не Альтмана и его ученых у себя на груди. По темпераменту Альтман и Брокман не подходят для одной из крупнейших компаний мира; многие наблюдатели сомневались, что кто-то из них остался бы в Microsoft надолго.

Создание Openai собственными силами также замедлило бы развитие технологии в краткосрочной перспективе. Многие сотрудники Openai в частном порядке заявили, что предпочли бы перейти в другую фирму, а не в Microsoft, хотя они подписали петицию с угрозой последовать за Альтманом туда. Наделла, похоже, не был сильно разочарован результатом. Цена акций Microsoft, которая упала на 2% на фоне новостей об увольнении Альтмана, компенсировала все эти потери. 22 ноября его рыночная стоимость достигла рекордного уровня в $2,8 трлн.
А как насчет остальной части индустрии искусственного интеллекта?

Openai — бесспорный лидер в гонке ИИ (см. диаграмму).

Опрос, проведенный стартапом Retool, показал, что 80% разработчиков программного обеспечения заявили, что используют модели Openai чаще, чем модели конкурирующих производителей моделей. Chatgpt, приложение для общения, запуск которого год назад сделал имя Openai нарицательным, получает 60% веб-трафика на 50 крупнейших веб-сайтов с таким «генеративным» ИИ. В октябре фирма получила доход в размере $1,3 млрд в годовом исчислении.

Даже если Openai будет двигаться быстрее под новым руководством, ей придется столкнуться с большей конкуренцией. Венчурный капиталист, ориентированный на искусственный интеллект, сравнивает этот момент с крахом банка Кремниевой долины в начале этого года, который научил многие стартапы не класть все яйца в одну корзину. По данным интернет-издания Information, пока разворачивалась драма Альтмана, более 100 клиентов Openai связались с Anthropic, конкурирующим производителем моделей. Некоторые обратились к другому стартапу Cohere и облачному подразделению Google, которое инвестировало в Anthropic. Облачное подразделение Amazon, еще одного спонсора Anthropic, создало команду для работы с коммутаторами.

События в Опенай являются драматическим проявлением более широкого раскола в Кремниевой долине.

На одной стороне находятся думеры («обреченники»), которые считают, что, если его не контролировать, искусственный интеллект представляет экзистенциальный риск для человечества, и поэтому выступают за более строгие правила. Им противостоят «бумеры», которые преуменьшают страх перед апокалипсисом ИИ и подчеркивают его потенциал для ускорения прогресса. Раскол частично отражает философские разногласия. Многие в лагере думеров находятся под влиянием «эффективного альтруизма» — движения, опасающегося, что искусственный интеллект может уничтожить человечество.

Бумеры пропагандируют мировоззрение, называемое «эффективным акселерационизмом», которое противоречит тому, что развитие искусственного интеллекта следует ускорить.
Альтман, похоже, симпатизировал обеим группам, публично призывая к созданию «ограждений», чтобы сделать ИИ безопасным, одновременно подталкивая Openai к разработке более мощных моделей и запуску новых инструментов, таких как магазин приложений, позволяющий пользователям создавать своих собственных чат-ботов. Сегодня он выглядит явно более бумеровским, как и большинство работников Openai, которые хотели его вернуть. Обреченники отступают.

Это будет беспокоить политиков, которые изо всех сил стараются показать, что они серьезно относятся к риску. В июле администрация президента Джо Байдена подтолкнула семь ведущих производителей моделей, в том числе Google, Meta, Microsoft и Openai, взять на себя «добровольные обязательства» по проверке их продуктов искусственного интеллекта экспертами, прежде чем выпускать их для широкой публики.

1 ноября британское правительство заставило аналогичную группу подписать еще одно необязывающее соглашение, которое позволяло регулирующим органам проверять их системы на предмет надежности и вредоносных возможностей, например, представляющих угрозу национальной безопасности.

Несколькими днями ранее Байден издал более резкий указ. Он обязывает любую фирму, занимающуюся созданием моделей искусственного интеллекта, превышающих определенный размер (определяемый требуемой вычислительной мощностью), уведомлять правительство и делиться результатами испытаний на безопасность. По мере того, как бумеры одерживают верх в Кремниевой долине, модельным инспекторам Белого дома следует ожидать, что у них будет полно дел.

Оригинал

Еще по теме:

Что нужно, чтобы Россия стала одним из мировых IT-центров

Драма Сэма Альтмана указывает на более глубокий раскол в мире технологий. Думеры и бумеры борются за доминирование в ИИ и будущие доходы

Как будет развиваться ИИ в 2024 году: модели ИИ станут меньше и быстрее. Они улучшатся и во многих других отношениях.

Генеративный ИИ станет мейнстримом в 2024 году. Компании, разбирающиеся в данных, выиграют в первую очередь

Что будет означать ИИ для вашей зарплаты? Сообщение от отраслей, находящихся на переднем крае экономических преобразований

Nvidia оценивается в триллион $. Как удалось достичь таких высот производителю микросхем? Какие у нее ограничения и кто ее конкуренты

P. S. Подпишитесь на канал «Куда идем?  — будьте в курсе главного, что определяет нашу жизнь: политика, экономика, технологии. Подписывайтесь еще и на мой Телеграмм