Список проголосовавших за комментарий "<p>Иван-дурак, Ну окей, можно это обобщить до более широкого понятия, когда нейросети представляют физическую опасность — через дыры для злоумышленников или через что-то другое — не важно. Нейросетям всё больше рычагов в руки дают — вот как в примере — буквально руль и педали автомобилей, это уже абсолютно физический мир с абсолютно реальными рисками. И рычагов всё больше.</p><p> </p><p>По поводу самосознания — это же абстракция, или нет. Кто сказал, что нет самосознания, кто сказал, что такое самосознание, кто сказал, что для того, чтобы, условно, «взбунтоваться» нужно самосознание? — Да никто, это на уровне чьего-то видения, домыслов или философии. По факту имеем, не до конца понятная, интерпретируемая и управляемая (как минимум в следствии не до конца понятности) хреновина с всё возрастающим кол-вом рычагов управления в руках.</p><p> </p><p>Даже если бы человечество не знало не придумало понятие «бунт машин» или что-то подобное, в любом случае всегда может появиться что-то новое, о чем ты не знаешь, и вот концентрация большого числа рычагов — делает последствия всяких подобных событий очень существенными, даже если ничего не говорит про вероятность таких событий.</p>"