ИИ в России проверят на духовность и нравственность в независимых лабораториях

Российские IT-компании с одобрения Минцифры смогут передавать большие модели ИИ в независимые лаборатории для проверки на соответствие закону и традиционным духовно-нравственным ценностям. Об этом «Ведомостям» рассказали источники в одной из компаний—участников обсуждений, профильной IT-ассоциации и подтвердил собеседник в Минцифры.

Соответствующие обсуждения проходили в конце июля—начале августа на площадке АНО «Цифровая экономика» в рамках подготовки подзаконных актов к недавно принятому закону об ИИ.

Закон, вступивший в силу 26 июля, вводит два особых статуса для больших фундаментальных моделей — суверенный и национальный. Для получения любого из них модель должна подтвердить соответствие российскому законодательству и традиционным духовно-нравственным ценностям. Но закон носит рамочный характер, основные правила функционирования ИИ в России предстоит установить. В подготовке документов участвуют Минцифры, ФСБ и ФСТЭК, говорил статс-секретарь — заместитель министра цифрового развития Иван Лебедев. По его словам, первый проект архитектуры норм уже готов, а порядок оценки будет включать четкие критерии.

Сейчас обсуждается, что проверять модели будут не в одной назначенной организации, а в нескольких лабораториях, которые пройдут аккредитацию. Разработчик сначала самостоятельно оценит свою модель по риск-ориентированной методике, а затем аккредитованная лаборатория проверит эти выводы и проведет собственные тесты. В частности, будет использоваться набор специальных бенчмарков, а также проверяться устойчивость модели к попыткам обхода ограничений. Финальное решение о присвоении статуса останется за Минцифры, а безопасность для государственных систем будут оценивать ФСБ и ФСТЭК.

Среди возможных организаций, которые могли бы стать лабораториями, называют Институт системного программирования РАН, уже имеющий опыт работы со сложным ПО, а также существующие сертификационные центры из смежных сфер, которые можно дообучить для работы с ИИ.

Успех схемы будет зависеть от того, насколько четкими и прозрачными окажутся требования, считает руководитель направления ИИ холдинга Т1 Сергей Голицын. В то же время бизнес-архитектор экосистемы «Авандок» Алексей Борщов предупреждает: такие категории, как «справедливость» или «историческая память», сложно перевести на язык технических заданий для алгоритмов. По его мнению, ключевым должно стать не содержательное толкование ценностей, а единая процедура: стандартный набор запросов, фиксация версии модели и возможность воспроизвести результат.