Студентка MIT бросила учёбу, заявив, что AGI уничтожит человечество раньше, чем она получит диплом

Все все еще покупаете акции, в расчете на пенсию в 35 лет ? 
А если AGI раньше уничтожит человечество, вместе с вами и вашими акциями?


И в то время, когда многие студенты бросают университет, чтобы примкнуть к AI‑стартапам, бывшая студентка Массачусетского технологического института утверждает, что ушла по куда более мрачной причине: она боится, что искусственный общий интеллект — или сверхразумный ИИ — попросту сотрёт человечество с лица Земли.

«Я опасалась, что до выпуска просто не доживу из‑за AGI, — призналась изданию Элис Блэр, поступившая в МТИ в 2023 году. — Думаю, в большинстве сценариев по тому пути, каким мы идём к созданию AGI, всё заканчивается вымиранием человека».

Сейчас Блэр работает техническим писателем в некоммерческом Центре безопасности ИИ и возвращаться в MIT не собирается. Она шла туда с надеждой встретить людей, разделяющих интерес к безопасному развитию ИИ, но, судя по всему, разочаровалась. «Чую, моё будущее — за пределами университетских стен», — сообщила она изданию.

Никола Юркович, выпускник Гарварда и бывший активист университетского клуба безопасности ИИ, отчасти её понимает: «Если твоя профессия будет автоматизирована к концу десятилетия, то каждый год, проведённый в университете, — это год, вычеркнутый из и без того короткой карьеры. Лично я считаю, что AGI появится уже года через четыре, а полная автоматизация экономики — максимум через пять‑шесть».

Создание AGI — системы, равной или превосходящей человеческий разум, — для индустрии ИИ во многом главная цель. Генеральный директор OpenAI Сэм Альтман назвал недавний релиз своего неоднозначно принятого продукта GPT 5 крупным шагом к AGI и даже осмелился окрестить его «по‑настоящему разумным».

Многие специалисты, впрочем, уверены: до появления столь мощной системы ещё очень далеко, и указывают на признаки того, что прогресс начал упираться в потолок.

«Вероятность того, что AGI появится в ближайшие пять лет, крайне мала, — заявил изданию исследователь ИИ и известный критик отрасли Гэри Маркус. — Все эти разговоры — просто рекламная дымовая завеса, ведь масса фундаментальных проблем (например, „галлюцинации“ и ошибки в рассуждениях) до сих пор полностью не разрешены».

habr.com/ru/companies/bothub/news/937666/