Проект новых правил уточняет круг ИИ-деятельности, подпадающей под регулирование, определяет ответственные за этическую экспертизу организации и описывает процедуру проверки.
Китай представил проект новых мер по регулированию этики в области искусственного интеллекта (ИИ), предусматривающий более специализированные и целенаправленные требования к этической экспертизе технологий.
Документ разработан совместно 11 правительственными ведомствами и научно-исследовательскими учреждениями и является продолжением “Мнений 2022 года” и “Мер 2023 года” по этике в науке и технологиях, с акцентом на сферу ИИ.
В 2022 году Китай впервые опубликовал рекомендации по усилению этического надзора в научно-технической деятельности, утвердив систему обязательной этической экспертизы. В 2023 году были введены административные меры, установившие единый подход к этической оценке научных проектов, включая исследования с участием людей, лабораторных животных, а также проекты, представляющие потенциальную угрозу здоровью, окружающей среде, общественному порядку и устойчивому развитию.
Новый проект уточняет круг ИИ-деятельности, подпадающей под регулирование, определяет ответственные за этическую экспертизу организации и описывает процедуры таких проверок.
Проект распространяется на исследования и разработки в области ИИ, проводимые на территории Китая, если они могут повлечь этические риски для жизни и здоровья, достоинства человека, окружающей среды, общественного порядка или устойчивого развития, а также на другие виды деятельности, подпадающие под регулирование в соответствии с национальным законодательством.
В документе вводятся новые принципы, которым должны следовать организации — такие как уважение к интеллектуальной собственности, обеспечение управляемости и надежности технологий, а также усиление ответственности. Эти положения дополняют универсальные принципы, закрепленные в мерах 2023 года, включая уважение к жизни, справедливость, управление рисками и прозрачность.
Университеты, исследовательские институты, медицинские учреждения и коммерческие компании, работающие в сфере ИИ, несут основную ответственность за соблюдение этических норм. Квалифицированные организации должны создать собственные внутренние комитеты по этике ИИ, соответствующие установленным требованиям по персоналу, инфраструктуре и финансированию. Комитеты должны включать специалистов с различным опытом — в области ИИ, этики и права.
Организации, не имеющие собственного комитета или обладающие недостаточным потенциалом, смогут обращаться в специализированные центры по этике ИИ, создаваемые местными органами власти на базе аккредитованных учреждений. Такие центры будут оказывать услуги по этической экспертизе, консультированию и обучению.
По сравнению с предыдущими документами 2022 и 2023 годов, проект предлагает более подробные требования к материалам, предоставляемым на этическую экспертизу. Среди них — раскрытие алгоритмов, описание типа, источника и методов сбора данных, методы очистки, процедуры тестирования и оценки, информация о создаваемых продуктах, а также об их предполагаемой области применения и целевой аудитории.
Кроме того, заявители должны предоставить детальный анализ потенциальных этических рисков, связанных с использованием, неправильным использованием или злоупотреблением технологией, а также представить план по их предотвращению и контролю.
Общественное обсуждение проекта правил продлится до 22 сентября.
Источник: MLex
