Российский бизнес переходит на закрытые ИИ-модели для разработки

Исследование УЦСБ и ГК «Солар», охватившее 102 компании из ключевых секторов экономики, показало, что дискуссия в ИТ-отрасли сместилась от целесообразности ИИ к методам его безопасного внедрения. Сейчас 50,5% организаций ограничивают работу с нейросетями, допуская их использование только в закрытом контуре (on-premise). Однако 32,2% компаний до сих пор не предъявляют никаких требований к безопасности при работе с ИИ, создавая серьезные уязвимости в корпоративных сетях.

Публичные LLM часто анализируют код поверхностно, воспринимая его как набор токенов, а не как логическую структуру. В результате такие инструменты пропускают от 40% до 50% критических уязвимостей. Эксперты отмечают, что использование внешних сервисов несет риск утечек и накопления ошибок, которые невозможно отследить в крупных проектах с сотнями тысяч строк кода. На этом фоне 86,9% респондентов поддерживают переход на специализированные закрытые LLM, дообученные под конкретные задачи безопасности.

Для построения «доверенного ИИ» компаниям недостаточно просто ограничить доступ к внешним ресурсам. Евгений Тодышев из УЦСБ подчеркивает, что безопасность требует регулярного обучения команд и постоянной актуализации моделей свежими данными об угрозах. Сейчас бизнес готов инвестировать в три ключевых направления: специализированные модели для разработки, построение процессов MLSecOps и внешний аудит безопасности ИИ-систем, включая тесты на проникновение.