По сообщениям СМИ, компания OpenAI «недовольна» некоторыми чипами Nvidia и уже несколько месяцев ищет им альтернативы

Конфликт между Nvidia и OpenAI обострился, поскольку, как сообщает  Reuters, производитель ChatGPT «недоволен» чипами Nvidia и с прошлого года ищет альтернативы.
Эта новость появилась вскоре после сообщения о том, что  планы Nvidia инвестировать 100 миллиардов долларов в OpenAI застопорились — спустя несколько дней после того, как  издание The Information  сообщило, что производитель чипов вел переговоры об инвестировании еще 60 миллиардов долларов в OpenAI вместе с Microsoft и Amazon. В сентябре NVidia объявила о соглашении с OpenAI о создании вычислительных мощностей общей мощностью не менее 10 гигаватт, а также об инвестициях в размере до 100 миллиардов долларов. Однако генеральный директор Дженсен Хуанг в конце прошлого года заявил представителям отрасли, что сумма в 100 миллиардов долларов  не является окончательной и не утверждена. Он также раскритиковал OpenAI за отсутствие дисциплины в отношении своей бизнес-стратегии, выразив обеспокоенность по поводу конкурентов, таких как Google и Anthropologie, сообщила  Wall Street Journal. В выходные Хуан опроверг это сообщение, назвав его «чепухой», но подтвердил, что инвестиции не превысят 100 миллиардов долларов. «Мы собираемся сделать огромные инвестиции в OpenAI. Я верю в OpenAI, их работа невероятна, это одна из самых значимых компаний нашего времени, и мне очень нравится работать с Сэмом», — сказал он, имея в виду генерального директора OpenAI Сэма Альтмана. «Сэм завершает раунд (инвестиций), и мы обязательно примем в нем участие», — добавил Хуанг в комментариях  Bloomberg. «Мы вложим огромные деньги, вероятно, это будет наша самая крупная инвестиция за всю историю». Ожидалось, что сделка на 100 миллиардов долларов будет завершена в течение нескольких недель,  однако переговоры затянулись на несколько месяцев, поскольку OpenAI заключила соглашения с AMD и другими компаниями на поставку графических процессоров.

Однако теперь, судя по всему, именно OpenAI оказалась слишком крутой для Nvidia. «Изменение стратегии компании Nvidia, подробности которого впервые приводятся здесь, связано с растущим акцентом на чипах, используемых для выполнения конкретных элементов вывода ИИ — процесса, в ходе которого модель ИИ, такая как та, что лежит в основе приложения ChatGPT, отвечает на запросы и обращения клиентов. Nvidia по-прежнему доминирует на рынке чипов для обучения больших моделей ИИ, в то время как вывод ИИ стал новым фронтом конкуренции. Решение OpenAI и других компаний искать альтернативы на рынке чипов для обработки данных является серьезным испытанием доминирования Nvidia в сфере ИИ и принято в то время, когда обе компании ведут переговоры об инвестициях». — Reuters. Как сообщает  Reuters со ссылкой на источник, знакомый с ситуацией, «изменение планов развития» OpenAI повлияло на ее потребности в вычислительных ресурсах и «затянуло переговоры с Nvidia». Между тем, по словам двух источников, OpenAI вела переговоры с различными стартапами, включая Cerebras и Groq, о предоставлении чипов для более быстрой обработки данных. Однако Nvidia заключила с Groq лицензионное соглашение на 20 миллиардов долларов, которое положило конец переговорам OpenAI. В своем заявлении Nvidia отметила, что интеллектуальная собственность Groq в значительной степени дополняет планы развития продуктов Nvidia.

Альтернативы Nvidia

OpenAI использует графические процессоры Nvidia, поскольку их базовая конструкция хорошо подходит для обработки огромных массивов данных, необходимых для обучения больших моделей ИИ, таких как ChatGPT. Долгое время  Nvidia была единственным игроком на рынке, однако развитие ИИ все больше фокусируется на использовании обученных моделей для  вывода и рассуждений, что, по данным Reuters, «может стать новым, более масштабным этапом развития ИИ». Начиная с прошлого года, компания ChatGPT искала альтернативы графическим процессорам, сосредоточившись на компаниях, разрабатывающих чипы с большим объемом памяти, встроенной в тот же кремниевый кристалл, что и остальная часть чипа, — так называемой SRAM. Размещение как можно большего количества дорогостоящей SRAM на каждом чипе может обеспечить преимущества в скорости для чат-ботов и других систем искусственного интеллекта при обработке запросов от миллионов пользователей. Для вывода данных требуется больше памяти, чем для обучения, поскольку чипу приходится тратить относительно больше времени на извлечение данных из памяти, чем на выполнение математических операций. Технологии графических процессоров Nvidia и AMD используют внешнюю память, что увеличивает время обработки и замедляет скорость взаимодействия пользователей с чат-ботом. Внутри OpenAI эта проблема стала особенно заметна в Codex, продукте для создания компьютерного кода, который компания активно продвигает на рынке, добавил один из источников. По словам другого источника, сотрудники OpenAI объяснили часть недостатков Codex использованием графических процессоров Nvidia. Согласно отчету, 30 января Альтман провел телефонный разговор с журналистами, в ходе которого заявил, что модели кодирования OpenAI будут «придавать большое значение скорости при выполнении работы по программированию». С этой целью  в понедельник компания OpenAI анонсировала новое приложение для Mac, предназначенное для работы с ее агентом кодирования Codex AI, которое призвано стать «командным центром» для управления другими агентами кодирования, а также для управления агентами кодирования в рамках нескольких проектов и задач, выполняющихся в течение длительного времени.

перевод отсюда

И не забывайте подписываться на мой телеграм-канал, Boosty и YouTube-канал