В РТУ МИРЭА прошло заседание Рабочей группы № 2 Консорциума исследований безопасности технологий искусственного интеллекта по тестированию технологий ИИ

22 апреля на территории РТУ МИРЭА состоялось очное расширенное заседание-семинар Рабочей группы № 2 Консорциума исследований безопасности технологий искусственного интеллекта по тестированию технологий ИИ.

Мероприятие было посвящено презентации имеющихся наработок по тестированию ИИ, обсуждению компетенций участников и выработке основы дорожной карты тестирования технологий ИИ на вторую половину 2025 года.

Были заслушаны доклады от следующих организаций:

• Газинформсервис («Примеры решения задач обеспечения безопасности ИИ»);
• СПБ ФИЦ РАН («Уязвимости больших языковых моделей и подходы по снижению риска»);
• ИСП РАН («Тестирование фреймворков машинного обучения»);
• НТЦ ЦК («Принципы проведения аудитов систем ИИ»);
• РТУ МИРЭА («Автоматизированное тестирование наборов данных»);
• Swordfish Security («Методология тестирования безопасности и доверенности AI моделей»);
• Русское биометрическое общество («Стандартизированные подходы по проведению независимых доверенных испытаний на примере биометрических технологий»).

От РТУ МИРЭА докладывал заведующий лабораторией доверенного ИИ Юрий Владимирович Силаев. В докладе были отражены разрабатываемые решения по проведению комплексного тестирования датасетов в части угроз информационной безопасности систем ИИ.

По результатам мероприятия был сформирован черновик дорожной карты тестирования технологий ИИ на вторую половину 2025 года и синхронизированы планы пилотного тестирования региональных систем ИИ.