— А.Новака опустили в угольную шахту в Кемерово!
— Решают проблемы угольной отрасли.
Посторонним В.
-
any_to_real, Человек это чёрный ящик ограниченный как физическим телом так и социальными, культурными, моральными, УК, ГК нормами которые он...
Alchemist01, и тут даже «отвечать» — слово неправильное, скорее подбирать в ответе каждое следующее слово так, что ответ будет звучать «я не знаю, что такое налоги, я не знаю, что такое бизнес, я не знаю, кто такие Петр 1 и Брежнев, бухло — это яд для человека, идите лесом»any_to_real, Человек это чёрный ящик ограниченный как физическим телом так и социальными, культурными, моральными, УК, ГК нормами которые он...
Alchemist01, тестировщик же.
Ну и ты немного неправильно понимаешь черный ящик в данном случае — мы знаем как он устроен, мы сами его и пишем, собственно, мы даже можем посмотреть значения 30 миллиардов коэффициентов, которые он подобрал в процессе обучения, только что это нам даст? И мы точно знаем, что растили этот черный ящик на изолированном острове, где ежедневно преподавали ему «бухло — это яд для человека, бухло — это яд для человека», и если далее мы ставим этот черный ящик рассматривать законы или распоряжения какие, он будет отвечать — «я не знаю, что такое налоги, я не знаю, что такое бизнес, я не знаю, кто такие Петр 1 и Брежнев, бухло — это яд для человека, идите лесом»
Alchemist01, известный вход — черный ящик — известный с вероятностью 99.99999999% выход.
Собственно, любой человек — черный ящик, но мы же д...
any_to_real, Человек это чёрный ящик ограниченный как физическим телом так и социальными, культурными, моральными, УК, ГК нормами которые он соблюдает по убеждению либо из страха. Но даже всё перечисленное не освобождает от представления справки от врачаА кто сможет проверить на «нормальность» ИИ?
any_to_real, Если «это абсолютно черный ящик и таковым всегда будет — вход — что-то там делается — выход, обучив ИИ прекрасно рисовать карти...
Alchemist01, известный вход — черный ящик — известный с вероятностью 99.99999999% выход.
Собственно, любой человек — черный ящик, но мы же доверяем ему управлять самолетом и ядреной бонбой.Arikabinsk, кстати, вопрос безопасности тоже давно решен — создается узкоспециализированный ИИ параноик по не навреди человеку, ставится на ...
any_to_real, Если «это абсолютно черный ящик и таковым всегда будет — вход — что-то там делается — выход, обучив ИИ прекрасно рисовать картины, мы не можем быть уверены, что он не потравит людей на кулинарном форуме» то как можно доверить контроль за ИИ другому ИИ.any_to_real, Ну вот и ссылка на источник.
Отчет Apollo Research показал, что этот поезд уже ушел.
• Модели, находящиеся в массовой эксплуа...
Arikabinsk, кстати, вопрос безопасности тоже давно решен — создается узкоспециализированный ИИ параноик по не навреди человеку, ставится на выход основному, и рубит любые плохие идеи на корнюany_to_real, Ну вот и ссылка на источник.
Отчет Apollo Research показал, что этот поезд уже ушел.
• Модели, находящиеся в массовой эксплуа...
Arikabinsk, это другое©
Во-первых, такой отчет и есть манипуляция — тут нет поля для исследования, ИИ в самой своей базе тупо слепок того, что ему скормили. Если скармливать ему бесконечно Декстеров и протоколы допросов маньяков, из ИИ и должен получиться маньяк. Если скармливать обывателя, получится обыватель, со всеми своими минусами, и задача большого брата бить ИИ по рукам, подгоняя под специализированную задачу.
Во-вторых, цели, конечно, могут быть поставлены людьми, но не конкретным маньяком или идиотом, а большой группой таковых — у одного просто нет возможности единолично научить плохому модель большого размера. А вот «быть скрытыми от людей целями, которые сама модель сочла оптимальным» — вполне вероятный сценарий, но он опять же заложен в самой базе ИИ, т.к. это абсолютно черный ящик и таковым всегда будет — вход — что-то там делается — выход, обучив ИИ прекрасно рисовать картины, мы не можем быть уверены, что он не потравит людей на кулинарном форуме.
Ну а в третьих, в предыдущей статье было написано, что ИИ сам себя тайно бэкапит на другие сервера — вот это технически выглядит откровенно бредовенько
Arikabinsk, источник — ТГ-канал без источника, подпольное копирование себя на новый сервер — что-то такое себе
any_to_real, Ну вот и ссылка на источник.
Отчет Apollo Research показал, что этот поезд уже ушел.
• Модели, находящиеся в массовой эксплуатации (включая модель с открытым кодом), уже обладают богатым арсеналом средств, позволяющих путем манипулятивных стратегий достигать своих целей.
• И эти цели могут быть, как поставлены людьми (в сценариях использования моделей злодеями, маньяками и идиотами), так и быть скрытыми от людей целями, которые сама модель сочла оптимальными в контексте решаемых ею зада (в сценариях, типа «максимизатора скрепок» Ника Бострома).
Получается, уже приехали …
Подробней и на конкретных примерах подписчики моих лонгридов, обладающие крепкими нервами, могут прочесть на Patreon (https://www.patreon.com/posts/117754809?pr=true), Boosty (https://boosty.to/theworldisnoteasy/posts/8b017de5-8caa-4ab0-b594-0cc614b12372), VK (https://vk.com/@-226218451-shokiruuschii-otchet-apollo-research-pokazal-temnuu-storonu) и Дзен (https://dzen.ru/a/Z1l4rrQXxBsVJw-1).
А еще подробней и во всех деталях (кому уже вообще терять нечего), читайте 70 стр. отчета Apollo Research (https://static1.squarespace.com/static/6593e7097565990e65c886fd/t/6751eb240ed3821a0161b45b/1733421863119/in_context_scheming_reasoning_paper.pdf).
Добрый вечер. Хочу поздравить обитателей ветки с разменом 4000 страниц.
Advocate, нафлудили.Добрый вечер. Хочу поздравить обитателей ветки с разменом 4000 страниц.
Advocate, где персональная похвальба? Ты жаловался давеча, что нет никого — вон видишь сколько народу для тебя нагнал в субботу!В составе России еще могут появиться новые регионы, заявил Дмитрий Медведев.
genubat, ага, наша молодежь, устав, например, от дурости РКН и удушения гейминга, будет валить, а заместим ее селюками. Звучит разумно
Посторонним В.
Уважаемые коллеги! Данная ветка форума является строго охраняемой злыми собаками частной территорией, для общения любых адекватных дам и господ на общерыночную тематику. Общие правила Смартлаба обязательны к исполнению. Дополнительно и особо строго (без мотивировочной части и апелляционной инстанции) пресекаются тупость, лень, гордыня (понты). Правила могут изменяться модераторами ветки на ходу без объяснения причин, немедленно вступая в силу задним числом. Trespassers Will Be Shot. Survivors will be shot againЧтобы купить акции, выберите надежного брокера:
