Новости

Центробанк выпустил рекомендации для финансовых организаций по безопасному использованию искусственного интеллекта. Как выяснила «Парламентская газета», поводом стала тревожная статистика: в прошлом году мошенники похитили у россиян около 30 миллиардов рублей, что на 6,4% больше, чем годом ранее, и при этом злоумышленники постоянно находят новые способы обхода банковских систем, включая технологии ИИ. Регулятор перечислил основные угрозы: от «отравления» обучающих данных (включение ложных примеров) и удаления важных сведений до состязательных атак, которые заставляют модель делать ошибочные выводы, а также внедрения вредоносного ПО, кражи кода и перегрузки системы через вредоносные запросы.

Чтобы противостоять этим рискам, ЦБ советует банкам, использующим ИИ в критически важных процессах (например, в платежах), обязательно привлекать сотрудников для подтверждения операций. Также регулятор рекомендует тщательно проверять происхождение и корректность обучающих данных, шифровать информацию и применять методы обезличивания персональных данных. Особое внимание уделяется тестированию модели на устойчивость к атакам, периодическому дообучению с фиксацией версий и контролю целостности данных.

Помимо этого, банкам предлагается использовать один или несколько методов повышения устойчивости к состязательным атакам, а также проводить структурный и форматно-логический контроль. Все эти меры, по мнению регулятора, помогут минимизировать риски и защитить средства клиентов, несмотря на растущую изобретательность киберпреступников.