Эксперты Fuzzy Logic Labs, входящей в «Х.Технологии» «Ростелекома», выявили изменение подходов к корпоративному мошенничеству. Если раньше злоумышленники, в том числе нелояльные сотрудники, стремились похитить клиентские базы и персональные данные, то теперь все большую ценность представляет внутренняя техническая документация компаний.
Распространение общедоступных нейросетей меняет характер внутренних кибератак на российский бизнес. В центре внимания злоумышленников оказываются архитектурные схемы информационных систем, спецификации API и конфигурации инфраструктуры. Получив доступ к таким материалам, атакующие могут использовать большие языковые модели (LLM), чтобы выявить потенциальные уязвимости и подготовить сценарий целевой атаки всего за полчаса.
По оценке Fuzzy Logic Labs, многие компании пока не готовы к подобному развитию угроз. Системы предотвращения утечек данных (DLP) традиционно ориентированы на обнаружение паспортных данных, номеров банковских карт и телефонов. При этом инженерная документация нередко остается вне категорий особо защищаемой информации.
Попав во внешнюю нейросеть, технические материалы могут помочь злоумышленникам выявить логические уязвимости и скрытые программные интерфейсы. На их основе ИИ способен сформировать сценарий целевой атаки. При этом действия нарушителей могут выглядеть для корпоративных систем защиты как обычные операции пользователей. В результате инцидент рискует остаться незамеченным до момента, когда компания столкнется с финансовыми потерями.
Подобные угрозы актуальны для организаций самых разных отраслей — от финансового сектора и ретейла до промышленности и ИТ.
Дополнительный риск связан с чрезмерным доверием центров мониторинга информационной безопасности (SOC) к алгоритмам автоматизации. Это явление называют Automation Bias — склонностью полагаться на автоматизированные решения без достаточной самостоятельной проверки.
Передавая рутинные задачи ИИ, компании рискуют постепенно утратить важные практические навыки аналитиков. Сотрудники могут реже обращаться к исходным системным журналам и автоматически подтверждать выводы моделей. В случае нестандартной атаки или сбоя алгоритма это затрудняет ручное выявление и локализацию инцидента.
Эксперты Fuzzy Logic Labs рекомендуют компаниям пересмотреть действующие процессы киберзащиты. В частности, необходимо регулярно проводить тренировки аналитиков без ИИ-помощников, предусмотреть обязательную проверку тревожных оповещений специалистами перед их закрытием, а также тестировать системы безопасности с помощью сценариев атак, созданных нейросетями.
Такие меры помогут повысить готовность команд информационной безопасности к новым угрозам, своевременно выявлять подозрительные действия и снизить риск финансовых потерь.
Подключить Ростелеком в Москве