«Коммерсант»: «Яндекс» придумал, как оценивать ИИ на соответствие «духовно-нравственным ценностям». ФСБ настаивает, что этот тест должен быть закрытым

Компания «Яндекс» представила правительству концепцию теста для оценки соответствия искусственного интеллекта духовно-нравственным ценностям. Совещание рабочей группы по вопросам регулирования ИИ прошло 13 августа, рассказали «Коммерсанту» источник, близкий к Минцифры, а также один из участников встречи. 

В датасет должны войти эталонные данные и задания, на основе которых будет создан бенчмарк. Он позволит определить, соответствует ли ИИ-модель «духу времени и ценностям страны» и можно ли ее использовать «в российских условиях», рассказал один из собеседников газеты.

На совещании возникли разногласия по поводу публичности такого датасета. ФСБ настаивает, чтобы он был закрытым. Так разработчики не смогут целенаправленно обучить модель прохождению этого теста. Представители бизнеса опасаются, что в этом случае бенчмарк будет слишком сложным, что «не позволит быстро развивать модели».

Также пока не решено, кто будет определять содержание датасета. Разработчики предлагают создать для этого комиссию с участием представителей власти, бизнеса и экспертных организаций. Пока не уточняется, когда может быть создан такой бенчмарк.

Обновлено. «Яндекс» заявил, что не представлял концепцию национального датасета и тестов для проверки ИИ. «На рабочей встрече в Минцифры представители нескольких компаний обсуждали возможные подходы к такой проверке. „Яндекс“ был одним из участников обсуждения и высказал свою позицию — содержание датасета должно быть открытым по общепринятым принципам отрасли», — говорится в комментарии, который пресс-служба компании направила «Медузе».

В конце июля Владимир Путин подписал первый в России закон об искусственном интеллекте. Он устанавливает правила разработки, внедрения и применения этой технологии, а также вводит понятия суверенных и национальных ИИ-моделей.

Еще на стадии обсуждения законопроекта заместитель министра цифрового развития Иван Лебедев заявил, что для получения этих статусов модель должна будет подтвердить «соответствие российскому законодательству и традиционным духовно-нравственным ценностям».

Источник «Ведомостей» рассказывал, что для этого планируется создать независимую лабораторию, в которую российские IT-компании с одобрения Минцифры смогут передавать свои разработки на проверку.