Meaning of p(doom): What the predictions of humanity-destroying AI say
Во время нашего недавнего интервью генеральный директор Anthropic Дарио Амодей сказал кое-что поразительное, от чего мы просто не можем отмахнуться: все считают, что оптимисты и пессимисты в отношении ИИ просто преувеличивают. Но никто не спрашивает:
— Ну, а что, если они правы?
Почему это важно: мы хотели применить этот вопрос к тому, что кажется самым невероятным заявлением об искусственном интеллекте: в ближайшие годы большие языковые модели могут превзойти человеческий интеллект и выйти из-под нашего контроля, угрожая существованию человечества.
Вероятно, это кажется вам научной фантастикой.
Но исследование Axios показывает, что по меньшей мере 10 человек уволились из крупнейших компаний, занимающихся искусственным интеллектом, из-за серьёзных опасений по поводу возможностей этой технологии, в том числе её потенциала уничтожить человечество. Если бы это были один или два человека, их заявления можно было бы легко отбросить как безумные домыслы. Но несколько топ-менеджеров в нескольких ведущих компаниях, и все с одинаковыми предупреждениями? Стоит задуматься: а что, если они правы?
(
Читать дальше )