«Яндекс» придумал, как оценивать ИИ на соответствие «духовно-нравственным ценностям». ФСБ настаивает, что этот тест должен быть закрытым
Источник: Коммерсант
Компания «Яндекс» представила правительству концепцию теста для оценки соответствия искусственного интеллекта духовно-нравственным ценностям. Совещание рабочей группы по вопросам регулирования ИИ прошло 13 августа, рассказали «Коммерсанту» источник, близкий к Минцифры, а также один из участников встречи.
В датасет должны войти эталонные данные и задания, на основе которых будет создан бенчмарк. Он позволит определить, соответствует ли ИИ-модель «духу времени и ценностям страны» и можно ли ее использовать «в российских условиях», рассказал один из собеседников газеты.
На совещании возникли разногласия по поводу публичности такого датасета. ФСБ настаивает, чтобы он был закрытым. Так разработчики не смогут целенаправленно обучить модель прохождению этого теста. Представители бизнеса опасаются, что в этом случае бенчмарк будет слишком сложным, что «не позволит быстро развивать модели».
Также пока не решено, кто будет определять содержание датасета. Разработчики предлагают создать для этого комиссию с участием представителей власти, бизнеса и экспертных организаций. Пока не уточняется, когда может быть создан такой бенчмарк.
В конце июля Владимир Путин подписал первый в России закон об искусственном интеллекте. Он устанавливает правила разработки, внедрения и применения этой технологии, а также вводит понятия суверенных и национальных ИИ-моделей.
Еще на стадии обсуждения законопроекта заместитель министра цифрового развития Иван Лебедев заявил, что для получения этих статусов модель должна будет подтвердить «соответствие российскому законодательству и традиционным духовно-нравственным ценностям».
Источник «Ведомостей» рассказывал, что для этого планируется создать независимую лабораторию, в которую российские IT-компании с одобрения Минцифры смогут передавать свои разработки на проверку.
Читайте также