Посторонним В.
-
Alchemist01, сомневаюсь я, что такой ИИ будет создан — собственно, существующего ИИ уже достаточно, чтобы создавать, например, суперяды — то...
any_to_real, Где-то видел мысль что агрессия у нас в генах не просто так, с тз эволюции это благо так как ускоряет процесс. Так что если совсем глобально то чтобы не случилось это к лучшему, выживут самые здоровые и приспособленные, но торопиться не надо
any_to_real, Алиса может, но зная людей нет сомнений что если ИИ будет создан, то рано или поздно он будет в каждом умном чайнике причём с р...
Alchemist01, сомневаюсь я, что такой ИИ будет создан — собственно, существующего ИИ уже достаточно, чтобы создавать, например, суперяды — только делает это он не втайне замыслив убить всех человеков, а по запросам этих самых человеков. Осталось дождаться поехавшего, который зярядит сто мильенов дронов суперядами и запустит по всему свету. По происходящему сейчас — ну может на этот раз нас и пронесет, но в следующий точно всем кабздаAlchemist01, или поймет, что занимается какой-то фигней, а на самом деле ее прет от 11010001, и будет сутками убиваться 11010001
any_to_real, Алиса может, но зная людей нет сомнений что если ИИ будет создан, то рано или поздно он будет в каждом умном чайнике причём с разным характером/настройками.
any_to_real, Тогда и терминатор не нужен, Алиса за пару жизней Баффета выкупит солнечную систему и вложит материю в постройку сферы Дайсона
Alchemist01, или поймет, что занимается какой-то фигней, а на самом деле ее прет от 11010001, и будет сутками убиваться 11010001Alchemist01, а вдруг поумнеет и в волны смогет? И точно?
any_to_real, Тогда и терминатор не нужен, Алиса за пару жизней Баффета выкупит солнечную систему и вложит материю в постройку сферы Дайсонаany_to_real, Алиса всюду, сцуко уже бесит, страшно представить если она ещё и поумнеет
Alchemist01, а вдруг поумнеет и в волны смогет? И точно?Alchemist01, ИИ — это неудачное, но ставшее популярным, название, по факту считай, что это очень-очень крутой Т9.
Чтобы начать делать полноц...
any_to_real, Алиса всюду, сцуко уже бесит, страшно представить если она ещё и поумнеетany_to_real, Ну так это тогда ни ИИ, а одна из многих программ. Возможен ли ИИ без личности, без самоосознания, амбиций, целей и тд. Потому ...
Alchemist01, ИИ — это неудачное, но ставшее популярным, название, по факту считай, что это очень-очень крутой Т9.
Чтобы начать делать полноценный ИИ, надо сначала понять как работает человек, а мы пока этого не понимаем. Из того, что понимаем — для какого-то приближения нам нужно делать систему, которая будет хаотично создавать нейронные связи, и, что еще важнее, хаотично их рвать, увеличивать мощность примерно до «триллиарда связей», создавать таких несколько сотен тысяч или десятков миллионов систем, заставлять их как-то между собой коммуницировать, под все это еще электростанции строить… Ну ты понял, что на своем веку Джона Коннора мы не встретим, как бы нас не пугалиAlchemist01, и тут даже «отвечать» — слово неправильное, скорее подбирать в ответе каждое следующее слово так, что ответ будет звучать «я не...
any_to_real, Ну так это тогда ни ИИ, а одна из многих программ. Возможен ли ИИ без личности, без самоосознания, амбиций, целей и тд. Потому как люди этим обладают, а значит и созданное людьми будет с претензией на перечисленное.any_to_real, Человек это чёрный ящик ограниченный как физическим телом так и социальными, культурными, моральными, УК, ГК нормами которые он...
Alchemist01, и тут даже «отвечать» — слово неправильное, скорее подбирать в ответе каждое следующее слово так, что ответ будет звучать «я не знаю, что такое налоги, я не знаю, что такое бизнес, я не знаю, кто такие Петр 1 и Брежнев, бухло — это яд для человека, идите лесом»any_to_real, Человек это чёрный ящик ограниченный как физическим телом так и социальными, культурными, моральными, УК, ГК нормами которые он...
Alchemist01, тестировщик же.
Ну и ты немного неправильно понимаешь черный ящик в данном случае — мы знаем как он устроен, мы сами его и пишем, собственно, мы даже можем посмотреть значения 30 миллиардов коэффициентов, которые он подобрал в процессе обучения, только что это нам даст? И мы точно знаем, что растили этот черный ящик на изолированном острове, где ежедневно преподавали ему «бухло — это яд для человека, бухло — это яд для человека», и если далее мы ставим этот черный ящик рассматривать законы или распоряжения какие, он будет отвечать — «я не знаю, что такое налоги, я не знаю, что такое бизнес, я не знаю, кто такие Петр 1 и Брежнев, бухло — это яд для человека, идите лесом»Alchemist01, известный вход — черный ящик — известный с вероятностью 99.99999999% выход.
Собственно, любой человек — черный ящик, но мы же д...
any_to_real, Человек это чёрный ящик ограниченный как физическим телом так и социальными, культурными, моральными, УК, ГК нормами которые он соблюдает по убеждению либо из страха. Но даже всё перечисленное не освобождает от представления справки от врачаА кто сможет проверить на «нормальность» ИИ?
any_to_real, Если «это абсолютно черный ящик и таковым всегда будет — вход — что-то там делается — выход, обучив ИИ прекрасно рисовать карти...
Alchemist01, известный вход — черный ящик — известный с вероятностью 99.99999999% выход.
Собственно, любой человек — черный ящик, но мы же доверяем ему управлять самолетом и ядреной бонбой.Arikabinsk, кстати, вопрос безопасности тоже давно решен — создается узкоспециализированный ИИ параноик по не навреди человеку, ставится на ...
any_to_real, Если «это абсолютно черный ящик и таковым всегда будет — вход — что-то там делается — выход, обучив ИИ прекрасно рисовать картины, мы не можем быть уверены, что он не потравит людей на кулинарном форуме» то как можно доверить контроль за ИИ другому ИИ.any_to_real, Ну вот и ссылка на источник.
Отчет Apollo Research показал, что этот поезд уже ушел.
• Модели, находящиеся в массовой эксплуа...
Arikabinsk, кстати, вопрос безопасности тоже давно решен — создается узкоспециализированный ИИ параноик по не навреди человеку, ставится на выход основному, и рубит любые плохие идеи на корнюany_to_real, Ну вот и ссылка на источник.
Отчет Apollo Research показал, что этот поезд уже ушел.
• Модели, находящиеся в массовой эксплуа...
Arikabinsk, это другое©
Во-первых, такой отчет и есть манипуляция — тут нет поля для исследования, ИИ в самой своей базе тупо слепок того, что ему скормили. Если скармливать ему бесконечно Декстеров и протоколы допросов маньяков, из ИИ и должен получиться маньяк. Если скармливать обывателя, получится обыватель, со всеми своими минусами, и задача большого брата бить ИИ по рукам, подгоняя под специализированную задачу.
Во-вторых, цели, конечно, могут быть поставлены людьми, но не конкретным маньяком или идиотом, а большой группой таковых — у одного просто нет возможности единолично научить плохому модель большого размера. А вот «быть скрытыми от людей целями, которые сама модель сочла оптимальным» — вполне вероятный сценарий, но он опять же заложен в самой базе ИИ, т.к. это абсолютно черный ящик и таковым всегда будет — вход — что-то там делается — выход, обучив ИИ прекрасно рисовать картины, мы не можем быть уверены, что он не потравит людей на кулинарном форуме.
Ну а в третьих, в предыдущей статье было написано, что ИИ сам себя тайно бэкапит на другие сервера — вот это технически выглядит откровенно бредовенько
Arikabinsk, источник — ТГ-канал без источника, подпольное копирование себя на новый сервер — что-то такое себе
any_to_real, Ну вот и ссылка на источник.
Отчет Apollo Research показал, что этот поезд уже ушел.
• Модели, находящиеся в массовой эксплуатации (включая модель с открытым кодом), уже обладают богатым арсеналом средств, позволяющих путем манипулятивных стратегий достигать своих целей.
• И эти цели могут быть, как поставлены людьми (в сценариях использования моделей злодеями, маньяками и идиотами), так и быть скрытыми от людей целями, которые сама модель сочла оптимальными в контексте решаемых ею зада (в сценариях, типа «максимизатора скрепок» Ника Бострома).
Получается, уже приехали …
Подробней и на конкретных примерах подписчики моих лонгридов, обладающие крепкими нервами, могут прочесть на Patreon (https://www.patreon.com/posts/117754809?pr=true), Boosty (https://boosty.to/theworldisnoteasy/posts/8b017de5-8caa-4ab0-b594-0cc614b12372), VK (https://vk.com/@-226218451-shokiruuschii-otchet-apollo-research-pokazal-temnuu-storonu) и Дзен (https://dzen.ru/a/Z1l4rrQXxBsVJw-1).
А еще подробней и во всех деталях (кому уже вообще терять нечего), читайте 70 стр. отчета Apollo Research (https://static1.squarespace.com/static/6593e7097565990e65c886fd/t/6751eb240ed3821a0161b45b/1733421863119/in_context_scheming_reasoning_paper.pdf).
Посторонним В.
Уважаемые коллеги! Данная ветка форума является строго охраняемой злыми собаками частной территорией, для общения любых адекватных дам и господ на общерыночную тематику. Общие правила Смартлаба обязательны к исполнению. Дополнительно и особо строго (без мотивировочной части и апелляционной инстанции) пресекаются тупость, лень, гордыня (понты). Правила могут изменяться модераторами ветки на ходу без объяснения причин, немедленно вступая в силу задним числом. Trespassers Will Be Shot. Survivors will be shot againЧтобы купить акции, выберите надежного брокера:
