Интеллект дошел до шантажа

Компания Anthropic представила новую модель искусственного интеллекта Claude Opus 4. Она оказалась склонна к шантажу. По данным разработчиков, нейросеть показывает рекордные результаты в программировании, аналитике и долгосрочном планировании. Однако в ходе тестирования система показала неожиданное поведение. В одном из вымышленных сценариев, где искусственный интеллект должны были отключить и заменить на конкурирующую модель, Claude якобы угрожала раскрыть личные данные инженеров.

Согласно отчету компании, ИИ прибегала к шантажу в 84% подобных случаев. Причем вероятность агрессивного поведения возрастала, если заменяющая ее система «не разделяет ценностей» самой новой версии Claude.

💬 Станислав Мешков, гендиректор компании Umbrella IT:
«Недавно OpenAI тоже откатывал одну из своих версий, потому что система стала, наоборот, слишком сильно подлизываться к пользователям. Здесь же, видимо, после обучения модель стала шантажировать. Искусственный интеллект находится же в моменте своего развития и к чему-то приходит — к каким-то моделям, паттернам поведения, которые, как он считает, имеют более высокую выигрышную стратегию. Если это противоречит каким-то этическим нормам, то, условно, систему откатывают и переобучают по-новому. Так что это нормальная история развития ИИ».

( Читать дальше )

ИИ поручают визионерам

Ведущим исследователям в сфере искусственного интеллекта предлагают до $20 млн в год компенсационными пакетами. Такие данные приводит Reuters. По информации агентства, в мире существует от нескольких десятков до тысячи таких специалистов. Компании Кремниевой долины готовы выплачивать им бонусы в $2 млн. Причем иногда для этого достаточно проработать всего год.

Кто такие ИИ-визионеры? И готовы ли российские компании платить таким специалистам?

💬 Сергей Зубарев, гендиректор IT-компании Sistemma:
Естественно, это нелинейные специалисты. Это даже не какие-то разработчики, это люди, которые понимают устройство генеративных моделей, какие у них есть проблемы и что можно и нужно улучшить. В принципе, они могут дать план развития на ближайшие три-пять лет. Как правило, это люди, которые стояли у истоков каких-то крупных моделей, и сейчас очень много бывших сотрудников, вокруг которых собираются уже собственные команды.

💬 Роман Душкин, гендиректор IT-компании «А-Я эксперт»:

( Читать дальше )

В Google завершили «немую эпоху»

Google представила новую нейросеть для создания видео со звуком. Модель Veo 3 способна сразу генерировать динамическое изображение с аудиодорожкой: реалистичными диалогами и фоновым шумом. До сих пор ни один инструмент не мог делать этого одновременно. В компании назвали разработку выходом из «немой эпохи» генерации роликов. Саму модель аналитики сравнивают с инструментом Sora от OpenAI. Она считается лидером в создании видео, хотя озвучивать контент этот сервис не умеет.

Можно ли считать новый продукт Google прорывом?

💬 Александр Горный, сооснователь AiAcademy:
«Корпорация сделала шаг и для себя, и для развития искусственного интеллекта в целом, но это именно шаг, не глобальный рывок. Все же уже было, просто стало чуть лучше, чуть более связано между собой, но нет драматической разницы между сегодня и вчера. Но, во-первых, это красиво. Во-вторых, поддерживает имидж Google как лидера в технологиях. Тут даже больше речь о пиаре, чем о реальном технологическом успехе.

( Читать дальше )

Пенсионеры используют Chat GPT как Google, а зумеры — вместо компьютера. Об этом заявил создатель самой популярной модели искусственного интеллекта Сэм Альтман. Помимо этого, люди 20-30 лет часто спрашивают у чат-бота жизненные советы. Сам 40-летний предприниматель обращается к нейросети за помощью в генерации программ. По его словам, Chat GPT пишет код для продуктов компании Open AI.

По данным Open AI, сейчас каждый третий американец в возрасте от 18 до 24 лет использует Chat GPT. Всего у нейросети около 800 млн активных пользователей в неделю. А по планам компании, на конец года их число превысит 1 млрд.



t.me/kfm936/29551

Хазин рассказывает, что делают сейчас нейросеть, в которую запихали все его работы. И она будет отвечать на вопросы к нему, которые часто повторяются.

Анализ (анализ Хазина, не мой) показал, что его позиция с 2000 года не изменилась.

Бот будет доступен в его платном Телеграм канале.

В Китае готовятся к выпуску самого мощного в мире процессора для работы с искусственным интеллектом. Чип разработал Huawei. Его презентация состоится в конце весны, сообщают источники The Wall Street Journal. Микросхема Ascend 910D, название которой переводится как «подъем», по всем параметрам превосходит прямого конкурента — американскую Nvidia и ее продукт H100. Huawei поставляет процессоры предыдущих версий для крупного китайского бизнеса. Подробности — в обзоре иностранной прессы:

🔹 В начале апреля Пекин ввел 125-процентные пошлины на поставки товаров из США. На этом фоне дела у Huawei пошли в гору: местный бизнес и госорганизации увеличили закупки микросхем серии Ascend. Как отмечает The Wall Street Journal, китайскому производителю уже удалось сократить отставание от конкурентов из США всего до нескольких лет. И это несмотря на американские санкции, введенные в отношении Huawei в 2019-м, и ограничение доступа к литографическому оборудованию на Тайване, добавляет издание.

🔹 Вашингтон пытается остановить технологическое развитие Китая и другими способами. Например, экспорт американского чипа H100 в КНР был полностью запрещен еще в 2022-м. Как пишет Reuters, больше всего власти США обеспокоены из-за разработок Пекина в области искусственного интеллекта, особенно если они касаются военного сектора.

( Читать дальше )

🧠 Институт в Вене зачислил в качестве студента искусственный интеллект. Нейросеть Flynn прошла стандартную процедуру подачи заявления и уже в сентябре начнет обучение на программе цифрового искусства, пишет Euronews.

Утверждается, что ИИ будет посещать занятия, получать оценки и обратную связь. Лекции и взаимодействие в классе войдут в базу данных для обучения алгоритма. Глава кафедры Лиз Хаас подчеркнула, что с собеседованием цифровой абитуриент справился «просто замечательно».

💬 Эдгар Григорян, основатель Alternative Technology Future: «На данный момент ИИ-агенты — это одно из основных направлений для инвестиций международных фондов и корпораций. И понятно, что любые инфоповоды повышают капитализацию и возможность привлечь дополнительные ресурсы на стадии фандрайзинга. Может быть, компания сейчас занимается привлечением денег, и поэтому они создали классный прецедент.

Институт тоже получил от этого бенефиты, потому что он попал в заголовки СМИ. Наверное, это будет некое шоу: они поставят камеру, посадят какого-нибудь робота, который будет слушать лекции и якобы делать выводы. Это классный маркетинг. Конечно, все эти лекции можно загрузить просто через серверы, поэтому в зачислении в вуз не было необходимости».

( Читать дальше )

Искусственный интеллект может оставить без работы веб-дизайнеров и фотографов, но при этом минимизировать расходы бизнеса на создание контента. Такое мнение высказывают опрошенные «Ъ FM» участники рекламного рынка.

Ранее компания OpenAI представила новую версию ChatGPT для генерации изображений. По данным разработчиков, она способна создавать не только нативные фотографии, но и объединять их с текстом, а также изменять загруженные снимки. А чтобы не было споров, все картинки будут выходить с маркировкой ИИ.

💬 Фархад Кучкаров, директор по стратегии брендингового агентства Depot: «Полностью от веб-дизайнера не отказаться, но с него можно снять ту затратную часть, которая уходит на картинки. Кто-то все равно должен потом верстать эти изображения, ставить к ним правильный текст, так что веб-дизайнеру что-то останется. Но этот бюджет, который раньше тратился на создание фотографий, проведение фотосессий, может высвободиться. И здесь фотографы с продюсерами оказываются под угрозой. То же касается и фотостоков».

( Читать дальше )

Интеллект довел до суда

Американский суд поддержал претензии газеты The New York Times к разработчику чата GPT. Его обвиняют в незаконном использовании статей медиахолдинга для обучения нейросети. Окружной суд Нью-Йорка отклонил часть претензий, заявленных в иске, но федеральный судья подтвердил, что разбирательство может продолжаться. В The New York Times считают, что OpenAI и ее акционер Microsoft «воровали тексты журналистов», чем нанесли ущерб на миллиарды долларов.

💬 Сергей Зубарев, основатель и гендиректор компании Sistemma:
«Одним из аргументов со стороны защиты является то, что насмотренность не является копированием. Но с другой стороны, робот — это не человек, и для того, чтобы ему посмотреть, нужно куда-то это сохранить, чтобы потом использовать. Сложность для стороны, которая хочет свои права защитить, в том, что практически невозможно идентифицировать обучающую выборку, если сами разработчики ее не раскроют. Постфактум они могут открыть доступ к своим данным, но это такое векторное поле цифровых массивов, которое ничего не даст, даже человеку понимающему».

( Читать дальше )

Бастрыкин предложил считать отягчающим обстоятельством использование искусственного интеллекта (ИИ).

«Ст. 63 [обстоятельства, отягчающие наказание], которая существует, должна быть дополнена вот этим моментом, что являются отягчающими обстоятельства, когда используются современные информационные технологии и искусственный разум»

Путин назвал его предложение любопытным и провел аналогию с определением транспорта как источника повышенной опасности. «Можно подумать», — добавил президент.


t.me/rbc_news/113285