Яндекс разрабатывает тесты ИИ на соответствие духовно‑нравственным ценностям страны.
На августовском совещании по регулированию искусственного интеллекта была представлена концепция тестовых заданий и эталонов для оценки ИИ на соответствие духовно‑нравственным ценностям страны.
Уточняется, что проект пока находится на стадии концепции.
Обсуждалась необходимость того, чтобы данные для тестов не становились публичными, и чтобы разработчики не могли легко подстроить модели под тест.
- Предложен компромисс: для тестирования будут использоваться как закрытые, так и открытые данные с разной формулировкой вопросов.
- Цель — оценивать соответствие ИИ законам России и духовно‑нравственным ценностям.
Контекст: в конце июля президент подписал закон о суверенных и национальных моделях искусственного интеллекта, которые должны соответствовать законам страны и духовно‑нравственным ценностям.
Детали проекта на данный момент остаются ограниченными.
