Новости рынков | Российские большие модели ИИ, претендующие на статус суверенных или национальных, должны будут пройти проверку на духовность и нравственность в независимых испытательных лабораториях — Ведомости

Новый механизм проверки: IT-компании смогут подать заявку в аккредитованную испытательную лабораторию, которая с помощью специальных бенчмарков (наборов тестов) проверит модель на соответствие закону и ценностям, а также её устойчивость к попыткам обхода ограничений (промпт-инъекциям). Положительное заключение лаборатории будет одним из этапов для получения статуса.

Кого коснётся: Обязательная проверка не предусмотрена для всех моделей. Она нужна только тем разработчикам, которые претендуют на получение статуса суверенной или национальной модели ради господдержки, доступа к данным и приоритетного использования в отраслях (например, в образовании и госуслугах).

Разработка критериев: Минцифры, ФСБ и ФСТЭК разработают порядок оценки, который будет содержать критерии соответствия. Конкретный перечень ценностей уже определён указом президента, и прописывать их заново не будут.

Роль бизнеса и государства: Предполагается, что разработчики сначала сами проверят свои модели, а лаборатории оценят их выводы. Итоговое решение о присвоении статуса останется за Минцифры. Власти рассчитывают использовать накопленную рынком экспертизу, а не создавать систему с нуля.