Оценка влияния рисков на безопасность систем искусственного интеллекта

Цель. Целью исследования является оценка влияния рисков на безопасность систем искусственного интеллекта (ИИ). Новая методика учитывает существующую научную и научно-практическую базу в области управления рисков, обеспечения информационной безопасности (ИБ) и стандартов в области ИИ.

Метод. Представлена методика оценки влияния рисков ИБ на процессы безопасности систем ИИ, основанная на известных и новых аналитических методах исследования безопасности СлПО (стандарты ISO, IEC, ГОСТ).

Результат. Сформулировано математическое описание исследования, суть которого состоит в оценке рисков ИБ для обеспечения заданного уровня безопасности рассматриваемой системы ИИ как функциональной подсистемы в ограничениях финальной полной системы СлПО (КИИ). Представлены результаты применения предложенного подхода к оценке рисков ИБ для современных и перспективных систем ИИ на базе международных стандартов ISO/IEC.

Вывод. Перспективы практической реализации предложенной методики связаны с обеспечением объективности, точности и полноты количественной оценки рисков ИБ, что обеспечивает принятие взвешенного и экономически обоснованного решения по обеспечению безопасности систем ИИ. Полученные результаты могут быть применены экспертами при проектировании, оценке соответствия и оптимизации систем ИИ в составе полных систем СлПО (КИИ) в аспекте обеспечения ИБ.

1. Бурланков С.П., Семёнов К.О., Галактионова Е.В., Комаров В.А. Управление рисками как элемент экономической безопасности в компаниях, работающих в сфере цифровых технологий//Вестник Российского экономического университета имени Г.В. Плеханова. 2024. Т.21. № 6 (138). С. 123-130.

2. Демба С. Роль искусственного интеллекта в современной банковской системе // Вестник Российского экономического университета имени Г.В. Плеханова. 2024. Т. 21. № 3 (135). С. 164-172.

3. Сушкова И.А., Мамаева Л.Н. Искусственный интеллект в экономике и системе экономической безопасности // Вестник Российского экономического университета имени Г.В. Плеханова. 2023. Т. 20. № 4 (130). С. 44-53.

4. Лившиц И.И. Влияние современных технологий искусственного интеллекта на безопасность промышленных систем автоматизации // Автоматизация в промышленности. 2025. № 6. С. 34-37.

5. Лившиц И.И. Оценка необходимости совершенствования действующего порядка подготовки квалифицированных кадров в области информационной безопасности // Газовая промышленность. 2024. № 9 (871). С. 200-205

6. Лившиц И.И. Анализ процесса подготовки специалистов в области информационной безопасности // Автоматизация в промышленности. 2023. № 9. С. 56-60.

7. Конаков А.М., Лившиц И.И. Поиск оптимального пути построения системы защиты информации на основе марковских цепей // Вестник Дагестанского государственного технического университета. Технические науки. 2024. Т. 51. № 3. С. 86-92.

8. Лившиц И.И., Сунцова Д.И. Методика расчета уровня полноты безопасности для сложных промышленных объектов топливно-энергетического комплекса // Энергобезопасность и энергосбережение. 2024. № 1. С. 5-12.

9. Лившиц И.И., Понаморева К.А. Формирование требований к методике оценки рисков для компонентов АСУТП // Энергобезопасность и энергосбережение. 2024. № 2. С. 5-13.

10. Лившиц И.И. Верификация данных для процессов цифровой трансформации // Информационно-экономические аспекты стандартизации и технического регулирования. 2024. № 6 (81). С. 240-245.

11. Fine A., Le S., Miller M.K. Content analysis of judges' sentiments toward artificial intelligence risk assessment tools. Criminology, Criminal Justice, Law and Society. 2023. Т. 24. № 2. С. 31-46.

12. Tao C., Liu Y. Application and development of artificial intelligence risk control in internet finance. Frontiers in Business, Economics and Management. 2024. Т. 14. № 2. С. 10-12.

13. Muria-Tarazón Ju.C., Oltra-Gutiérrez Ju.V., Oltra-Badenes R., Escobar-Román S. Uncovering research trends on artificial intelligence risk assessment in businesses: a state-of-the-art perspective using bibliometric analysis. Applied Sciences (Switzerland). 2025. Т. 15. № 3. С. 1412.

14. Schaeffer D., Coombs L., Luckett J., Marin M., Olson P. Risks of AI applications used in higher education. Electronic Journal of e-Learning. 2024. Т. 22. № 6. С. 60-65.

15. Shin H.S., Choi Su.B., Kim J.W. Harnessing highly efficient triboelectric sensors and machine learning for self-powered intelligent security applications. Materials Today Advances. 2023. Т. 20. С. 100426.

16. https://www.securitylab.ru/news/564486.php

17. https://atlas.mitre.org/

18. https://www.nist.gov/itl/ai-risk-management-framework

19. https://www.securitylab.ru/news/561256.php

20. https://www.cnews.ru/news/top/2025-08-25_wired_i_business_insider_popalis_na

21. https://arxiv.org/abs/2504.18412

22. https://www.securitylab.ru/news/562549.php

23. https://pages.nist.gov/frvt/reports/morph/fate_morph_4B_NISTIR_8584.pdf