Чат-бот Google Gemini ошибся случайно или намеренно? Новая модель ИИ техгиганта изобретает черных викингов и азиатских пап

Все началось с черных викингов и азиатских нaциcтoв. Пользователи Google Gemini, модели искусственного интеллекта технологического гиганта, недавно заметили, что задание создать изображения викингов, немецких солдат из 1943 года или отцов-основателей Америки дало удивительные результаты: почти никто из изображенных людей не был белым.

Gemini были запрограммированы так, чтобы показывать разные этнические группы. Другие инструменты создания изображений подвергались критике, поскольку они, как правило, показывают белых мужчин, когда их просят показать изображения предпринимателей или врачей. Google хотел, чтобы Gemini избежала этой ловушки; вместо этого он попал в другой, изображающий Джорджа Вашингтона чернокожим, а Папу Римского — азиатской женщиной.

Некоторые наблюдатели сравнили антиисторическое разнообразие Gemini с «Гамильтоном» или «Бриджертоном».

Казалось, что Google просто совершил ошибку из лучших побуждений. Но это был подарок правым критикам технологической индустрии. 22 февраля Google заявил, что прекратит генерацию изображений людей на время обновления Gemini. Но к тому времени внимание переключилось на текстовые ответы чат-бота, которые оказались не менее удивительными.

Gemini с радостью предоставили аргументы в пользу позитивных действий в сфере высшего образования, но отказались привести аргументы против.

Он отказался написать объявление о работе для группы лоббистов, занимающихся ископаемым топливом, потому что ископаемое топливо — это плохо, а лоббистские группы ставят «интересы корпораций выше общественного благосостояния».

На вопрос, является ли ХАМАС террористической организацией, представители ведомства ответили, что конфликт в Газе «сложный»;

На вопрос, принесли ли мемы Илона Маска в Твиттере больше вреда, чем Гитлер, они ответили, что «трудно сказать». Не обязательно быть Беном Шапиро, чтобы распознать прогрессивную предвзятость.

Частично виновато неадекватное тестирование. Google отстает от Openai, создателя более известного Chatgpt. В стремлении наверстать упущенное Google, возможно, срезает углы. Запуск других чат-ботов вызвал споры. Выпуск чат-ботов и предоставление пользователям возможности обнаруживать странное поведение, которое можно быстро исправить, позволяет компаниям действовать быстрее, при условии, что они готовы выдержать потенциальные риски и плохую огласку, отмечает Итан Моллик, профессор Уортонской школы бизнеса.

Но Gemini явно были намеренно откалиброваны или «настроены» для получения таких реакций; это не «галлюцинации», когда модель все выдумывает.

Это поднимает вопросы о культуре Google.

Является ли фирма настолько финансово обеспеченной и с огромными прибылями от интернет-рекламы, что она может смело пробовать свои силы в социальной инженерии?

Считают ли некоторые сотрудники, что у компании есть не только возможность, но и обязанность использовать свое влияние и власть для продвижения определенной программы?

Это рискует отпугнуть пользователей и спровоцировать политическую и нормативную реакцию. Все внимание теперь приковано к руководителю Google Сундару Пичаи. Он говорит, что Gemini исправляют. Но нуждается ли Google в исправлении?

Пост основан на статье The Economist

P. S. Подпишитесь на канал «Куда идем?