Softline запускает практику защиты систем искусственного интеллекта

Компании все чаще сталкиваются с рисками, которые не вписываются в классические модели кибербезопасности. Использование нейросетей сотрудниками без должного контроля приводит к утечкам чувствительной информации, появлению уязвимостей в коде и несанкционированному доступу к данным через LLM-сервисы. Новое подразделение Infosecurity берет на себя аудит этих угроз, предлагая услуги от оценки рисков до внедрения процессов LLMSecOps.

Ключевой частью работы станет Red Teaming — имитация кибератак, направленных на обход механизмов защиты ИИ и внедрение вредоносных промптов. Специалисты будут проверять устойчивость систем на соответствие стандартам OWASP Top 10 для нейросетевых приложений. Кроме того, компания поможет организациям разработать внутренние политики управления ИИ и подготовиться к сертификации по стандарту ISO/IEC 42001.

По словам руководителя департамента кибербезопасности Infosecurity Алексея Чурикова, риски при работе с ИИ требуют принципиально иного подхода, чем традиционная защита периметра. Комплексная система управления, которую предлагает Softline, включает в себя не только техническое тестирование, но и выстраивание жизненного цикла безопасности для всех бизнес-процессов, где задействованы алгоритмы.