Swordfish: SAIMM (AI Security фреймворк)

2025

Публикация фреймворка безопасности ИИ для российского рынка

Swordfish Security опубликовали фреймворк безопасности искусственного интеллекта. Об этом компания сообщила 14 ноября 2025 года.

Методология по оценке зрелости компаний, применяющих искусственный интеллект, будет доступна для ИБ-команд компаний бесплатно. Таким образом, специалисты по кибербезопасности решили обеспечить зарождающийся рынок ИИ-безопасности экспертизой.

Карту угроз и профилактических мер создавали специально для российского рынка, учитывая требования регуляторов РФ и специфику российских ИИ-систем. Во фреймворке "Swordfish: SAIMM" собрали основные направления для анализа ИИ, включая ИИ-агентов, критерии оценки рисков и план по их преодолению. Это своего рода чек-лист для самопроверки компаний, внедряющих искусственный интеллект, и ориентированных оценить уровень зрелости и построить дорожную карту его развития.

На российском рынке ежедневно анонсируется запуск нового ИИ-агента, а коммерческие компании регулярно внедряют разнообразные инструменты на основе языковых моделей для ускорения бизнес-процессов. Если не обеспечить безопасность, количество и сложность атак на бизнес, которым российские компании подвергаются сейчас, может показаться разминкой, ведь AI-системы имеют свои особенности, утроены сложнее, а их защиту обойти зачастую проще, чем традиционное ПО, - рассказал директор по развитию технологий искусственного интеллекта Swordfish Security Юрий Шабалин.

Важная часть фреймворка – таксономия угроз AI-систем. Методология фокусируется на специфичных для AI угрозах, дополняя классические практики AppSec. При разработке учли международные классификации уязвимостей: OWASP Top-10, NIST AI, RMF, ENISA, MITRE ATLAS. Разработчики собрали воедино около 80 основных уязвимостей систем с участием искусственного интеллекта. В таксономию угроз, в частности, попали компрометация моделей, обход ограничений, раскрытие чувствительной информации в ответе, конфликт иерархии инструкций и другие. Каждой обнаруженной угрозе соответствует ее международная классификация и меры защиты и контролей. Создатели ALT Linux – о сложной судьбе свободного ПО, роли Максута Шадаева и сделке с «Ростелекомом». Подкаст TAdviser 17.5 т

Прядок оценки зрелости применим к любой организации, использующей ИИ, будь то финтех, онлайн-торговля или государственная инфраструктура. Разработчики фреймворка безопасности искусственного интеллекта являются активными членами Консорциума по безопасности ИИ, и опыт, полученный в рамках всероссийского исследования, учитывали в своих расчетах.

При разработке фреймворка мы, в том числе, учитывали положения национального проекта «Искусственный интеллект в критической информационной инфраструктуре», два этих документа разрабатывались параллельно, домены фреймворка укладываются в его структуру. Мы даём практическую гранулярность норм: кто за что отвечает, какие артефакты формируются, где автоматизируются контроли и как выглядят процедуры допуска/эксплуатации/реагирования, - рассказала Альбина Аскерова, руководитель направления по взаимодействию с регуляторами Swordfish Security.

Представление AI Security фреймворка

Swordfish Security разработали собственный AI Security фреймворк, который включает возможные риски и дорожную карту безопасной разработки в области ИИ. Это система рекомендаций, которая опирается на международные карты угроз и стандарты разработки с применением ИИ, но ориентированная на российский рынок. В фреймворке учли отечественную регуляторику и особенности рынка. Об этом компания сообщила 15 октября 2025 года.

25% крупных финансовых компаний уже столкнулись с инцидентами с участием ИИ – такие результаты показало исследование, которое Ассоциация Финтех провела совместно с Swordfish Security. Это важный сигнал для бизнеса, который уже вошел в новую цифровую эпоху, но пока это не осознал до конца.

ПО, ускоряемое искусственным интеллектом и изначально построенное на базе искусственного интеллекта, усиливает фундаментальную сложность, привнесенную новыми уровнями автоматизации. Мы стоим на пороге эпохи, где доверие становится валютой цифрового мира, И от того, как мы войдем в эту эпоху, что мы будем создавать, зависит будущее не только технологий, но и общества. И задача инженеров уже не просто защищать инновации, а защищать доверие, - рассказал управляющий партнер Swordfish Security Юрий Сергеев.

По риск-скорингу мы находимся даже не в «красной», а в «бордовой» зоне. AI-технологии везде, даже если они не нужны, практически в любой бизнес их пытаются вставить, и это несет в себе феноменальные риски. Бизнес даже не понимает, что несет в себе подключение какого-нибудь чат-бота на сайт, который смотрит одним «глазом» интернет, другим в вашу базу данных, и предоставляет практически неограниченные возможности для знающего человека, чтобы получить какую-то внутреннюю информацию, - рассказал директор по развитию технологий искусственного интеллекта Swordfish Security Юрий Шабалин.