Спустя два года после того, как Chatgpt покорил мир, генеративный искусственный интеллект, похоже, столкнулся с препятствием.
Энергозатраты на создание и использование более крупных моделей растут, а прорывы становятся все сложнее.
К счастью, исследователи и предприниматели ищут способы обойти ограничения. Их изобретательность не просто преобразует ИИ.
Она определит:
какие фирмы преуспеют,
победят ли инвесторы и
какая страна будет господствовать над технологией.
Большие языковые модели имеют большой аппетит к электричеству. Энергии, используемой для обучения модели OpenAI gpt-4, хватило бы для питания 50 американских домов на протяжении столетия.
И по мере того, как модели становятся больше, расходы быстро растут.
По одной из оценок, обучение самых больших современных моделей стоит 100 миллионов долларов; следующее поколение может стоить 1 миллиард долларов, а следующее — 10 миллиардов долларов.
Вдобавок ко всему, запрос модели ответить на запрос сопряжен с вычислительными затратами — от 2400 до 223 тысяч долларов, чтобы обобщить финансовые отчеты 58 тысяч публичных компаний мира. Со временем такие затраты на «вывод» при сложении могут превысить стоимость обучения.
Если это так, то трудно представить, как генеративный ИИ может когда-либо стать экономически жизнеспособным.
Это пугает инвесторов, многие из которых сделали большие ставки на ИИ. Они устремились в Nvidia, которая разрабатывает чипы, наиболее часто используемые для моделей ИИ. Ее рыночная капитализация выросла на 2,5 триллиона долларов за последние два года.
Венчурные капиталисты и другие вложили почти 95 млрд долларов в стартапы в области искусственного интеллекта с начала 2023 года.
Openai, создатель ChatGPT, как сообщается, стремится получить оценку в 150 млрд долларов, что сделает ее одной из крупнейших частных технологических компаний в мире.
Но, не нужно паниковать.
Множество других технологий столкнулись с ограничениями и процветали благодаря человеческой изобретательности.
Сложность доставки людей в космос привела к инновациям, которые теперь используются и на Земле.
Шок от цен на нефть в 1970-х годах стимулировал энергоэффективность и, в некоторых странах, альтернативные способы генерации, включая ядерную.
Три десятилетия спустя фрекинг позволил достичь запасов нефти и газа, которые ранее было невыгодно добывать. В результате Америка теперь добывает больше нефти, чем любая другая страна.
Уже сейчас разработки в области искусственного интеллекта показывают, как ограничения могут стимулировать креативность.
Компании разрабатывают чипы специально для операций, необходимых для запуска больших языковых моделей. Эта специализация означает, что они могут работать эффективнее, чем более универсальные процессоры, такие как Nvidia. Alphabet, Amazon, Apple, Meta и Microsoft разрабатывают собственные чипы искусственного интеллекта.
В первой половине этого года на финансирование стартапов по разработке чипов искусственного интеллекта было вложено больше денег, чем за последние три года вместе взятые.
Разработчики также вносят изменения в программное обеспечение искусственного интеллекта. Более крупные модели, полагающиеся на грубую силу вычислительной мощности, уступают место более мелким и специализированным системам.
Новейшая модель OpenAI, o1, разработана для лучшего рассуждения, но не для генерации текста. Другие производители используют менее обременительные вычисления, чтобы эффективнее использовать чипы. Благодаря умным подходам, таким как использование смеси моделей, каждая из которых подходит для решения разных типов задач, исследователи значительно сократили время обработки.
Все это изменит работу отрасли.
Инвесторы и правительства привыкли к мысли, что среди технологических компаний у действующего есть естественное преимущество. Для искусственного интеллекта это предположение больше не может быть само собой разумеющимся.
Сегодня Nvidia продает четыре пятых всех чипов ИИ в мире. Но другие более специализированные конкуренты вполне могут отнять у нее долю.
Процессоры ИИ от Google уже сейчас являются третьими по использованию в центрах обработки данных по всему миру.
Openai, возможно, запустила пионерскую большую языковую модель. Но поскольку наступили ограничения ресурсов, другие крупные производители моделей, такие как Anthropic, Google и Meta, догоняют. Хотя разрыв между ними и моделями второго уровня, такими как французская Mistral, все еще существует, он может сократиться.
Если тенденция к более мелким и более специализированным моделям сохранится, то вселенная ИИ может содержать созвездие моделей, а не просто несколько суперзвезд.
Это означает, что инвесторов ждет тернистый путь.
Их ставки на сегодняшних лидеров выглядят менее определенными. Nvidia может уступить позиции другим производителям чипов; OpenAI может быть вытеснен.
Крупные технологические компании собирают таланты, и многие из них производят устройства, с помощью которых, как они надеются, потребители будут связываться со своими помощниками ИИ. Но конкуренция среди них жесткая.
У немногих фирм пока есть стратегия получения прибыли от генеративного ИИ. Даже если отрасль в конечном итоге будет принадлежать одному победителю, неясно, кто это будет.
Правительствам также придется изменить свое мышление. Их любовь к промышленной политике сосредоточена на подачках. Но прогресс в области ИИ в равной степени зависит от наличия нужного таланта и процветающей экосистемы, как и от накопления капитала и вычислительной мощности.
Страны Европы и Ближнего Востока могут обнаружить, что тяжелая работа по развитию изобретательности имеет такое же значение, как и покупка компьютерных чипов.
Америка, напротив, благословлена чипами, талантом и предпринимательством. У нее есть многие из лучших университетов мира, а в Сан-Франциско и Кремниевой долине — завидный и давно существующий кластер талантов.
Однако попытка Америки сдержать Китай дает обратный эффект. Надеясь помешать стратегическому сопернику получить лидерство в важнейшей технологии, она попыталась ограничить доступ Китая к передовым чипам. Поступая так, он непреднамеренно стимулировал рост исследовательской системы в Китае, которая отлично справляется с обходом ограничений.
Когда изобретательность значит больше, чем грубая сила, лучшим способом обеспечить лидерство Америки было бы привлекать и удерживать лучших исследователей из других стран, например, с помощью более простых правил выдачи виз.
Эра ИИ все еще находится в зачаточном состоянии, и многое остается неопределенным. Но прорывы, необходимые ИИ, будут происходить, если дать идеям и талантам пространство для процветания дома, а не пытаться закрыть конкурентов за рубежом.
Еще по теме экономики и технологии:
Мы с семьейживем на 30 тысяч в месяц. Я — жена военного, и его зарплата — единственный источник дохода для нас и ребенка. Мы взяли ипотеку, делаем ремонт служебной квартиры и жестко экономим
Интернет-провайдеры потребовалипрекратить замедлять YouTube из-за массовой потери абонентов
Российский бизнесрезко перестал платить налоги: долги перед бюджетом достигли исторического рекорда
Россия начнет платить Китаю криптовалютой за необходимые товары
Пожалуйста, подпишитесь на новый канал "Жизнь Дурова: ЗОЖ, деньги, ИТ"
и это однозначно новая отрасль… новый рынок и бизнес… счас все как 1995г когда интернет придумали
кстати планировалось ии сделать только 2032...