Роботы должны маркироваться. И на бирже тоже?

фрагмент видео Выступление Натальи Касперской на сессии ЦИПР «Эксперимент эмпатии» – ИИ против человека»
youtu.be/eImWhr2vtoI
надо ли маркировать действия роботов… ведь на бирже тоже роботы уже доводили человека до самоубийства.
Короткий ответ — да, в некоторых случаях маркировать действия роботов нужно, но речь чаще идет не о визуальном обозначении каждого действия, а о прозрачной информации о самом устройстве, его возможностях и ограничениях.

Когда и зачем нужна маркировка
Нормативные акты и стандарты устанавливают требования к маркировке не самих действий, а робототехнических устройств. Например, в России действует ГОСТ Р 60.5.0.2-2023 «Роботы и робототехнические устройства. Экзоскелеты. Общие требования по маркировке и эксплуатационной документации». Он предписывает наносить на экзоскелеты (разновидность носимых роботов) информацию:

наименование изготовителя;
модель, тип или серийный номер;
дату изготовления;
важные предупреждения, ограничения и меры предосторожности.
Цель такой маркировки — обеспечить безопасность пользователя и предоставить ему полную информацию перед началом эксплуатации.

В экспериментальных правовых режимах для конкретных типов роботов (например, роботов-курьеров) также могут вводиться особые требования. Так, в проекте правил для рободоставщиков предусматривалось нанесение на корпус уникального номера и QR-кода.

Почему это важно
Такая маркировка решает несколько задач:

Безопасность. Чёткие предупреждения помогают избежать несчастных случаев.
Ответственность. Идентификационные знаки упрощают отслеживание устройства и определение его владельца в спорных ситуациях.
Прозрачность. Пользователь или окружающие знают, с какими возможностями и ограничениями он имеет дело.
А как же «этичность» действий?
Отдельный пласт вопросов связан с этическими аспектами поведения роботов (робоэтика). Однако здесь речь идёт не о маркировке, а о закладывании в алгоритмы системы ограничений, которые не позволят роботу причинить вред человеку или нарушить установленные нормы.
наука.рф +2

Таким образом, требование маркировать само устройство с указанием ключевой информации — это существующая норма. А вот «маркировка» же каждого его действия с точки зрения этики решается на этапе проектирования через программирование «этического кода».