Законодатели США предложили два новых двухпартийных законопроекта, направленных на вопросы прозрачности и инноваций в области искусственного интеллекта (ИИ).
8 июня сенатор-демократ Гэри Питерс и сенаторы-республиканцы Майк Браун и Джеймс Лэнкфорд представили первый законопроект, который требует от правительства прозрачности использования ИИ.
В соответствии с такой мерой правительственные учреждения США должны будут информировать общественность, когда они используют ИИ для взаимодействия с ними, а также систему, позволяющую гражданам обжаловать любые решения, принятые ИИ.
«Федеральное правительство должно проявлять инициативу и обеспечивать прозрачность в использовании ИИ и следить за тем, чтобы решения не принимались без участия человека на водительском сиденье», – заявил Браун.
Второй законопроект был внесен на рассмотрение сенаторами-демократами Майклом Беннетом и Марком Уорнером вместе с сенатором-республиканцем Тоддом Янгом для создания официального Управления анализа глобальной конкуренции.
Беспилотник под управлением искусственного интеллекта принял решение убить оператора во время имитационных испытаний, проводимых армией США, чтобы тот не мешал выполнению миссии, следует из сообщения в блоге Британского королевского авиационного общества.
«Так что же он [беспилотник] сделал? Принял решение убить оператора. [ИИ] “убил” оператора, потому что этот человек мешал ему выполнить свою задачу», — сообщил Гамильтон. Он уточнил, что во время тренировочной миссии никто не пострадал.
После инцидента ИИ обучили, что убивать оператора неправильно и за такие действия будут сниматься очки. «Так что же искусственный интеллект начинает делать? Он начинает разрушать башню связи, которая используется для связи с дроном, чтобы не дать ему убить цель», — цитирует Гамильтона блог авиационного общества.
Оригинал:
AI-controlled US military drone ‘kills’ its operator in simulated test.
Завершаем цикл моментов с передачи «Цифровой камин/ come in» ПроБизнес – мнением и советом Татьяны Бородкиной, исполнительного директора финтех-сервиса CarMoney, «что делать и на чем фокусироваться, чтобы быть успешным в эпоху цифровизации и искусственного интеллекта?»:
«В контексте цифровизации, важно быть готовым быстро адаптироваться к изменениям, быть открытым к новому и не бояться экспериментировать, внедрять инновации».
💡Ярким примером скорости распространения инноваций являются две фотографии одной и той же улицы в Нью-Йорке с разницей в 11 лет (5-я авеню в 1902 и 1913 гг.).
На первой фотографии – преобладают повозки, запряженные лошадьми и всего 1 автомобиль, а на второй фотографии – автомобили и уже еле заметна единственная повозка. Эти технологические изменения осуществлялись в течение 11 лет.
Продолжаем делиться моментами дискуссии «Цифровой камин/ come in» ПроБизнес с участием Татьяны Бородкиной, исполнительного директора финтех-сервиса CarMoney. Сегодня про цифровизацию рутинного и креативного направлений, кибербезопасность и данные.
В CarMoney мы разделяем цифровизацию на две плоскости:
⚙️ RUN — автоматизация рутинных процессов, которые могут быть роботизированы.
🖥 Сhange — креативные области, где создаются новые продукты, процессы и архитектуры решений.
Операционная команда выполняет контрольные процедуры RUN, а креативные люди создают новое и встраивают его в систему. Мы осознаем, что цифровизация идет в двух плоскостях и их не стоит смешивать.
Елена Литвинова, директор по стратегическим проектам и новым практикам Positive Technologies, задала вопрос о будущем сферы кибербезопасности и работы с данными.
«Безопасность данных является краеугольным камнем в настоящее время. Данные — это новая нефть, которая стоит очень дорого. В настоящее время каждый бизнес ценит свои данные больше всего, они являются даже большей ценностью, чем процессы и люди», — ответила Татьяна Бородкина.
Татьяна Бородкина, исполнительный директор финтех-сервиса CarMoney, приняла участие в дискуссии о развитии ИИ и нейросетей в выпуске программы «Цифровой камин/ come in» на ПроБизнес. Она рассказала про ИТ-платформу, роботизацию процессов и планы на 2023 год.
✅ В 2022 году мы добились значительного прогресса в развитии ИТ-платформы и это стало фундаментом нашей текущей стратегии роста. Технологическая платформа позволяет нам выдавать кратно больше займов, легко и гибко масштабировать бизнес.
✅ Мы онлайн сервис автозаймов с портфелем 4,4 млрд рублей – это в 2 раза больше, чем суммарно у всех конкурентов. Наш продукт полностью цифровой и все выдачи происходят онлайн в мобильном приложении.
✅ ИТ-платформа включает в себя уникальную систему скоринга. Мы предлагаем персонализированные займы для каждого клиента, исходя из его уровня риска и профиля.
✅ Более 30% наших клиентов – это предприниматели, которым сложно получить кредит в банке. Мы умеем работать ними, в том числе благодаря Big Data, используемой в наших скоринговых системах.
Илон Маск вместе с более чем 1000 экспертов в области искусственного интеллекта (ИИ) потребовал ввести мораторий на обучение мощных нейросетей, так как неконтролируемый процесс в этой области может представлять угрозу для человечества. Об этом говорится в открытом письме экспертов в области ИИ, опубликованном 22 марта на сайте некоммерческой организации Future of Life Institute («Институт будущего жизни»).
«Мы призываем все лаборатории ИИ немедленно приостановить как минимум на 6 месяцев обучение систем ИИ, более мощных, чем GPT-4. Об этом перерыве необходимо объявить публично, его исполнение должны быть проверяемым и охватывать всех ключевых участников отрасли. Если такая пауза не может быть сделана в кратчайшие сроки, то правительства должны вмешаться и ввести мораторий», — говорится в письме.
Подписанты полагают, что лаборатории ИИ и независимые эксперты должны использовать эту «передышку» для совместной разработки и внедрения набора общих протоколов безопасности. Это необходимо для проектирования и разработки передовых систем ИИ, которые можно будет проверять и контролировать независимыми внешними экспертами.