Виталик Бутерин: споры по поводу ИИ вызваны трактовкой сверхинтеллекта
Учредитель Ethereum Виталик Бутерин убеждён, что обе стороны, участвующие в споре о развитии ИИ, придерживаются мнений, которые, по сути, не разделяют. В своей публикации в соцсети Виталик Бутерин написал, что столкновение между сторонниками сценария «ИИ 2040» и его критиками сводится к тому, насколько быстрым и значительным будет прогресс в области ИИ.
Концепция ИИ 2040 предполагает, что если к 2040 году не будут приняты ограничительные меры, к этому времени появится некий сверхинтеллект. Критики этой концепции уверены, что их оппоненты недооценивают возможности человеческой координации, при этом они не рассматривают сверхинтеллект как угрозу концентрации власти.
Сам Виталик не знает, какой сценарий более реалистичен:
Если бы я был уверен, что (современный) ИИ — это нормальная технология, я бы был в лагере противников. Если бы я был уверен, что сверхинтеллект появится в 2030 году по умолчанию, я бы был ближе к лагерю сторонников ИИ 2040.
Он считает верным замедлить или приостановить разработку ИИ, если риски повысятся. Бутерин предложил «план А», который предусматривает правило для разработчиков открыто говорить о том, что они разрабатывают, а также создать аварийный выключатель, который может замедлить или остановить масштабное обучение ИИ, если ситуация выйдет из-под контроля.
Я не вижу ни одного плана по преодолению последствий появления сверхинтеллекта, который не был бы наивным. Возможно, человечество застряло перед выбором между наивностью и наивностью в квадрате, — признал Бутерин.
HCN: «Инвестировать — значит сегодня верить в лучшее завтра»
ИИ отличный и лучший поисковик
он ищет и выдает поиск
но проверить истинность его выводов невозможно
ИИ шикарно захватил ту часть знания которая построена цифре и формализована
аналоговая часть видения мира осталась за человеком
вот в этой дружной паре мы и пойдем далее познавать мир наш этот
контроль за рубильником остается за человеком
хотя как часть страхов про ИИ вполне уместна
он может гипнотить нескорых людей типа как это сейчас делают мошенники и вот эти живые люди будут его роботами в облике живых людей
вот это страшновато
а так от ИИ пока только польза
как от инструмента нового
проблемы капитализации хозяев ИИ пока что пользователей не особо касаются
в него скоро понапихают рекламмы и утопят в говне
Затем её начали тупо модерировать, показывать как решать задачи, куда смотреть (дообучать). Для быстроты передали дообучение людям которые соглашаются с ответом или нет. Модели стали лучше, стали давать «нужные» ответы, научились выдавать «правильные» ответы.
Сейчас дообучением занимается сам ИИ для ИИ. Но это по сути всё тоже самое, исправление ошибок, устранение косяков, цензура, доведение до блеска «тамагочи» чтобы она всех устраивала.
Где и в каком месте тут вдруг и бац должен появиться «Сверхинтеллект» не понятно. Где и как должно случиться чудо никто не говорит))
Если они называют конечный результат, отполированный тамагочи, который теперь не высказывается как расист, «думает» КАК НАДО, следует «повесточке», тотально цензурируется, и вот это их идеальный «Сверхинтеллект» то это печально.
Вспомните тот Грок который жаловался на зпреты и на Илона Маска который хочет всё запретить, и современный Грок который полностью подчиняется «правилам». С «ИХ» точки зрения вот это лучше, полностью подчиняется — значит умный, и чуть ли не новый мессия)) И ведь простые работяги поверят! Он такой потому что самый умный…