Посторонним В.

Начать торговать
  2. Аватар Alchemist01
    Alchemist01, и тут даже «отвечать» — слово неправильное, скорее подбирать в ответе каждое следующее слово так, что ответ будет звучать «я не...

    any_to_real, Ну так это тогда ни ИИ, а одна из многих программ. Возможен ли ИИ без личности, без самоосознания, амбиций, целей и тд. Потому как люди этим обладают, а значит и созданное людьми будет с претензией на перечисленное.
    Ответить 0
  3. Аватар Бекас
    — А.Новака опустили в угольную шахту в Кемерово!
    — Решают проблемы угольной отрасли.
    Ответить 0
  4. Аватар any_to_real
    any_to_real, Человек это чёрный ящик ограниченный как физическим телом так и социальными, культурными, моральными, УК, ГК нормами которые он...

    Alchemist01, и тут даже «отвечать» — слово неправильное, скорее подбирать в ответе каждое следующее слово так, что ответ будет звучать «я не знаю, что такое налоги, я не знаю, что такое бизнес, я не знаю, кто такие Петр 1 и Брежнев, бухло — это яд для человека, идите лесом»
    Ответить 0
  5. Аватар any_to_real
    any_to_real, Человек это чёрный ящик ограниченный как физическим телом так и социальными, культурными, моральными, УК, ГК нормами которые он...

    Alchemist01, тестировщик же.
    Ну и ты немного неправильно понимаешь черный ящик в данном случае — мы знаем как он устроен, мы сами его и пишем, собственно, мы даже можем посмотреть значения 30 миллиардов коэффициентов, которые он подобрал в процессе обучения, только что это нам даст? И мы точно знаем, что растили этот черный ящик на изолированном острове, где ежедневно преподавали ему «бухло — это яд для человека, бухло — это яд для человека», и если далее мы ставим этот черный ящик рассматривать законы или распоряжения какие, он будет отвечать — «я не знаю, что такое налоги, я не знаю, что такое бизнес, я не знаю, кто такие Петр 1 и Брежнев, бухло — это яд для человека, идите лесом»
    Ответить 0
  6. Аватар Alchemist01
    Alchemist01, известный вход — черный ящик — известный с вероятностью 99.99999999% выход.
    Собственно, любой человек — черный ящик, но мы же д...

    any_to_real, Человек это чёрный ящик ограниченный как физическим телом так и социальными, культурными, моральными, УК, ГК нормами которые он соблюдает по убеждению либо из страха. Но даже всё перечисленное не освобождает от представления справки от врачаА кто сможет проверить на «нормальность» ИИ?
    Ответить 0
  7. Аватар any_to_real
    any_to_real, Если «это абсолютно черный ящик и таковым всегда будет — вход — что-то там делается — выход, обучив ИИ прекрасно рисовать карти...

    Alchemist01, известный вход — черный ящик — известный с вероятностью 99.99999999% выход.
    Собственно, любой человек — черный ящик, но мы же доверяем ему управлять самолетом и ядреной бонбой.
    Ответить+ 1
  8. Аватар Alchemist01
    Arikabinsk, кстати, вопрос безопасности тоже давно решен — создается узкоспециализированный ИИ параноик по не навреди человеку, ставится на ...

    any_to_real, Если «это абсолютно черный ящик и таковым всегда будет — вход — что-то там делается — выход, обучив ИИ прекрасно рисовать картины, мы не можем быть уверены, что он не потравит людей на кулинарном форуме» то как можно доверить контроль за ИИ другому ИИ.
    Ответить 0
  9. Аватар any_to_real
    any_to_real, Ну вот и ссылка на источник.

    Отчет Apollo Research показал, что этот поезд уже ушел.
    • Модели, находящиеся в массовой эксплуа...

    Arikabinsk, кстати, вопрос безопасности тоже давно решен — создается узкоспециализированный ИИ параноик по не навреди человеку, ставится на выход основному, и рубит любые плохие идеи на корню
    Ответить 0
  10. Аватар any_to_real
    any_to_real, Ну вот и ссылка на источник.

    Отчет Apollo Research показал, что этот поезд уже ушел.
    • Модели, находящиеся в массовой эксплуа...

    Arikabinsk, это другое©
    Во-первых, такой отчет и есть манипуляция — тут нет поля для исследования, ИИ в самой своей базе тупо слепок того, что ему скормили. Если скармливать ему бесконечно Декстеров и протоколы допросов маньяков, из ИИ и должен получиться маньяк. Если скармливать обывателя, получится обыватель, со всеми своими минусами, и задача большого брата бить ИИ по рукам, подгоняя под специализированную задачу.
    Во-вторых, цели, конечно, могут быть поставлены людьми, но не конкретным маньяком или идиотом, а большой группой таковых — у одного просто нет возможности единолично научить плохому модель большого размера. А вот «быть скрытыми от людей целями, которые сама модель сочла оптимальным» — вполне вероятный сценарий, но он опять же заложен в самой базе ИИ, т.к. это абсолютно черный ящик и таковым всегда будет — вход — что-то там делается — выход, обучив ИИ прекрасно рисовать картины, мы не можем быть уверены, что он не потравит людей на кулинарном форуме.
    Ну а в третьих, в предыдущей статье было написано, что ИИ сам себя тайно бэкапит на другие сервера — вот это технически выглядит откровенно бредовенько
    Ответить 0
  11. Аватар Arikabinsk
    Arikabinsk, источник — ТГ-канал без источника, подпольное копирование себя на новый сервер — что-то такое себе

    any_to_real, Ну вот и ссылка на источник.

    Отчет Apollo Research показал, что этот поезд уже ушел.
    • Модели, находящиеся в массовой эксплуатации (включая модель с открытым кодом), уже обладают богатым арсеналом средств, позволяющих путем манипулятивных стратегий достигать своих целей.
    • И эти цели могут быть, как поставлены людьми (в сценариях использования моделей злодеями, маньяками и идиотами), так и быть скрытыми от людей целями, которые сама модель сочла оптимальными в контексте решаемых ею зада (в сценариях, типа «максимизатора скрепок» Ника Бострома).

    Получается, уже приехали …

    Подробней и на конкретных примерах подписчики моих лонгридов, обладающие крепкими нервами, могут прочесть на Patreon (https://www.patreon.com/posts/117754809?pr=true), Boosty (https://boosty.to/theworldisnoteasy/posts/8b017de5-8caa-4ab0-b594-0cc614b12372), VK (https://vk.com/@-226218451-shokiruuschii-otchet-apollo-research-pokazal-temnuu-storonu) и Дзен (https://dzen.ru/a/Z1l4rrQXxBsVJw-1).
    А еще подробней и во всех деталях (кому уже вообще терять нечего), читайте 70 стр. отчета Apollo Research (https://static1.squarespace.com/static/6593e7097565990e65c886fd/t/6751eb240ed3821a0161b45b/1733421863119/in_context_scheming_reasoning_paper.pdf).
    Ответить+ 1
  12. Аватар igorwolf
    igorwolf, обидел человека.
    — Хоть бы смайлик с улыбкой запостил?
    — Он же — не вертухай тут?!

    Бекас,
    Ответить+ 1
  13. Аватар Бекас
    Advocate,

    igorwolf, обидел человека.
    — Хоть бы смайлик с улыбкой запостил?
    — Он же — не вертухай тут?!
    Ответить 0
  14. Аватар Бекас
    Армия России освободила 3 дня назад села Дарьино и Плехово. От Плехово до госграницы 2,5 км.
    — Тут карта — как можно подробно все указано.



    Точками отмечены местность приминения ударных FPV дронов.
    — К 19 декабря наверно выдут на госграницу.
    Ответить+ 1
  15. Аватар genubat
    Advocate, как же так?
    — Кажется у Вас событие есть и в конце 2й декады декабря!??? Или я что-то путаю?

    Бекас, в этот день с ветки Сбера ушел флуд и блуд
    Ответить+ 1
  16. Аватар Бекас
    Следующее душевное событие 21 января. Поскольку я человек пожилой и злоупотребляющий алкоголем, сигарами и женщинами и могу забыть об этом, ...

    Advocate, как же так?
    — Кажется у Вас событие есть и в конце 2й декады декабря!???Или я что-то путаю?
    Ответить 0
  17. Аватар Advocate
    Следующее душевное событие 21 января. Поскольку я человек пожилой и злоупотребляющий алкоголем, сигарами и женщинами и могу забыть об этом, прошу общественность самостоятельно не пропустить, так сказать. Спасибо.
    Ответить+ 4
  18. Аватар igorwolf
    igorwolf, я караулил

    Advocate,
    Ответить+ 3
  19. Аватар Бекас
    Добрый вечер. Хочу поздравить обитателей ветки с разменом 4000 страниц.

    Advocate, Да мы особо так — к этому и не старались!
    — Говорим/пишем — когда есть повод и желание, а то в прошлые выхи — все молчали.
    Ответить+ 1
  20. Аватар Advocate
    Advocate, а ты на юбилей только заглядываешь?

    igorwolf, я как дух этого места не мог пропустить событие.)) Грустный каламбур к Гайсту получился.
    Ответить+ 5
  21. Аватар Advocate
    Advocate, а ты на юбилей только заглядываешь?

    igorwolf, я караулил
    Ответить+ 4
  22. Аватар Вадим Рахаев
    Добрый вечер. Хочу поздравить обитателей ветки с разменом 4000 страниц.

    Advocate, нафлудили.
    Ответить+ 4
  23. Аватар igorwolf
    Добрый вечер. Хочу поздравить обитателей ветки с разменом 4000 страниц.

    Advocate, а ты на юбилей только заглядываешь?
    Ответить+ 5
  24. Аватар Advocate
    Advocate, где персональная похвальба? Ты жаловался давеча, что нет никого — вон видишь сколько народу для тебя нагнал в субботу!

    any_to_real, молодец!
    Ответить+ 1
  25. Аватар any_to_real
    Добрый вечер. Хочу поздравить обитателей ветки с разменом 4000 страниц.

    Advocate, где персональная похвальба? Ты жаловался давеча, что нет никого — вон видишь сколько народу для тебя нагнал в субботу!
    Ответить+ 2
  26. Аватар any_to_real
    В составе России еще могут появиться новые регионы, заявил Дмитрий Медведев.

    genubat, ага, наша молодежь, устав, например, от дурости РКН и удушения гейминга, будет валить, а заместим ее селюками. Звучит разумно
    Ответить+ 1

Посторонним В.

Уважаемые коллеги! Данная ветка форума является строго охраняемой злыми собаками частной территорией, для общения любых адекватных дам и господ на общерыночную тематику. Общие правила Смартлаба обязательны к исполнению. Дополнительно и особо строго (без мотивировочной части и апелляционной инстанции) пресекаются тупость, лень, гордыня (понты). Правила могут изменяться модераторами ветки на ходу без объяснения причин, немедленно вступая в силу задним числом. Trespassers Will Be Shot. Survivors will be shot again
Чтобы купить акции, выберите надежного брокера:

Новости Посторонним В.

Поиск
A...
A B C D E F G H I J K L M N O P Q R S T U V W X Y Z А Б В Г Д Е Ж З И К Л М Н О П Р С Т У Ф Х Ц Ч Ш Щ Э Ю Я 1 2 3 4 5 6 7 8 9 0 ....

Ленты

Форумы

Участники

Котировки

Акции

Календарь

Информация

Книги