Эксперты банка Сбер разработали модель угроз для искусственного интеллекта, которая охватывает все этапы жизненного цикла таких систем — от подготовки данных до внедрения в приложения. Этот документ опубликован на портале кибербезопасности Сбера Кибрарий и призван помочь в оценке потенциальных уязвимостей, адаптации мер защиты и снижении рисков.
В исследовании описаны 70 угроз, связанных с применением различных моделей искусственного интеллекта. Особое внимание уделено рискам, связанным с использованием генеративных систем, которые становятся все более популярными. Для каждой угрозы определены характеристики информации, которые могут быть затронуты, а также объекты, на которые могут повлиять эти угрозы, такие как обучающие наборы данных или модели с открытым исходным кодом.
Сбер активно использует технологии искусственного интеллекта и понимает риски, связанные с их применением. Созданная модель киберугроз поможет организациям различных сфер системно оценить уязвимости, принять меры по защите и снизить возможные потери.
Основные риски при использовании искусственного интеллекта — это возможность принятия ошибочных решений и утечки данных, использованных для обучения моделей. Кроме того, киберпреступные группировки активно используют искусственный интеллект в своих целях.
© KiberSec.ru – 19.04.2025, обновлено 19.04.2025
Перепечатка материалов сайта возможна только с разрешения администрации KiberSec.ru.
