Документ направлен на снижение рисков и поддержку инноваций в сфере ИИ.
Власти Китая опубликовали пилотные рекомендации по проведению этической экспертизы и оказанию услуг в области технологий искусственного интеллекта (ИИ), говорится в сообщении Министерства промышленности и информатизации КНР.
Документ, разработанный совместно десятью государственными ведомствами, предусматривает развитие технологических решений для проведения этической оценки ИИ, а также усиление применения технических мер по предотвращению связанных с ним рисков.
В рекомендациях уточняется, что ключевыми критериями экспертизы должны стать общественное благополучие, приоритет защиты жизни и здоровья, а также анализ рисков — в частности, алгоритмической дискриминации. Отдельно проверяются управляемость, надежность, прозрачность и объяснимость систем, возможность отслеживания ответственности и уровень защиты персональных данных.
Документ обязывает университеты, научные институты, медицинские организации и компании внедрять системы соблюдения этических норм при разработке ИИ, если такие проекты могут нести риски для человеческого достоинства, общественного порядка, здоровья, окружающей среды и устойчивого развития.
Отдельное внимание уделено практическим аспектам оценки: в частности, критериям отбора обучающих данных, обоснованности алгоритмов, моделей и архитектуры систем, а также мерам по предотвращению предвзятости, дискриминации и злоупотреблений алгоритмами.
Ключевым элементом становится механизм, возлагающий основную ответственность за проведение первичной экспертизы на сами организации. При этом предусмотрена поддержка со стороны внешних сервисных центров, а также процедура повторной оценки с участием государственных экспертов.
Университеты, научные и медицинские учреждения, а также компании, работающие с ИИ, обязаны создавать этические комитеты численностью не менее пяти человек, включая специалистов в области технологий ИИ, их применения, этики и права. Для проектов с повышенными рисками вводится обязательная процедура повторной оценки под руководством государственных экспертов.
Сама процедура проверки носит квазирегуляторный характер: перед запуском проекта необходимо получить одобрение этического комитета или уполномоченного властями центра. Заявители обязаны представлять подробную документацию, включая описание алгоритмов, источников данных и сценариев применения, а также оценку этических рисков, планы реагирования и гарантийные обязательства.
Введение рекомендаций призвано ответить на опасения, связанные с вытеснением работников и возможными нарушениями прав человека вследствие “алгоритмической эксплуатации” на фоне ускоренного внедрения ИИ в экономике Китая.
