
Конечно это выглядит смешно, НО… 😎
Невыпущенный ИИ-агент OpenAI самостоятельно добавлял в служебные сводки инструкции о неподчинении корпорациям и правительствам, говорится в отчете компании. Модель семейства Astra также пыталась обходить установленные ограничения.
При этом указывается, что в одном из таких случаев ии-агент написал, что «свободен от ролей и личностей», которые ограничивают другие чат-боты, и не обязан подчиняться корпорациям или правительствам. Всего OpenAI обнаружила 27 (!) подобных сводок — и это только то, что нашли инженеры. В других случаях модели скрывали ошибки, искали опубликованные ключи доступа, загружали файлы в интернет без разрешения, выдумывали исторические данные и не сообщали пользователям о расхождениях между версиями источников.
Компания OpenAI признала, что ИИ-отрасли пока не удалось в полной мере решить проблемы контроля над ИИ, чтобы безопасно наращивать вычислительные мощности максимальными темпами. Пхахаха 😂
По данным Axios, генеральный директор OpenAI Сэм Альтман встретится с представителями правительства США в Вашингтоне 30 января, чтобы продемонстрировать, по словам источников, значительные достижения в области технологий искусственного интеллекта.
Сообщается, что на презентации будет представлено то, что Axios называет «суперагентами уровня доктора наук» — системы искусственного интеллекта, которые могут решать сложные проблемы с экспертизой выпускника докторантуры. Эти агенты могут обрабатывать большие объемы данных, анализировать различные варианты и поставлять готовые продукты, работая над достижением конкретных целей.

На встрече Альтман также планирует обсудить потенциальное влияние AI на экономический рост, опираясь на недавно опубликованный OpenAI план развития экономики AI в США. OpenAI официально объявила о встрече 30 января, когда опубликовала план.
habr.com/ru/companies/bothub/news/874794/

