Лившиц Илья Иосифович, доктор технических наук, профессор практики,
197101, г. Санкт-Петербург, Кронверкский пр., д. 49
Ilya I. Livshits, Dr. Sci. (Eng.), Prof. of Practice,
49 Kronverksky Ave., St. Petersburg 197101
Цель. Целью исследования является оценка влияния рисков на безопасность систем искусственного интеллекта (ИИ). Новая методика учитывает существующую научную и научно-практическую базу в области управления рисков, обеспечения информационной безопасности (ИБ) и стандартов в области ИИ.
Метод. Представлена методика оценки влияния рисков ИБ на процессы безопасности систем ИИ, основанная на известных и новых аналитических методах исследования безопасности СлПО (стандарты ISO, IEC, ГОСТ).
Результат. Сформулировано математическое описание исследования, суть которого состоит в оценке рисков ИБ для обеспечения заданного уровня безопасности рассматриваемой системы ИИ как функциональной подсистемы в ограничениях финальной полной системы СлПО (КИИ). Представлены результаты применения предложенного подхода к оценке рисков ИБ для современных и перспективных систем ИИ на базе международных стандартов ISO/IEC.
Вывод. Перспективы практической реализации предложенной методики связаны с обеспечением объективности, точности и полноты количественной оценки рисков ИБ, что обеспечивает принятие взвешенного и экономически обоснованного решения по обеспечению безопасности систем ИИ. Полученные результаты могут быть применены экспертами при проектировании, оценке соответствия и оптимизации систем ИИ в составе полных систем СлПО (КИИ) в аспекте обеспечения ИБ.
Objective. The purpose of the study is to assess the impact of risks on the security of artificial intelligence (AI) systems. The new methodology takes into account the existing scientific and practical basis in the field of risk management, IT-security and standards in the AI fields.
Method. This paper presents a methodology for assessing the impact of information security risks on AI system security processes, based on established and new analytical methods for studying software security (ISO, IEC, and GOST standards).
Result. A mathematical description of the information security risk assessment is formulated to ensure a given level of security for the AI system under consideration as a functional subsystem within the constraints of the final complete software system (CII). The results of applying the proposed approach to assessing information security risks for AI systems based on international ISO/IEC standards are presented.
Conclusion. The potential for implementing this methodology lies in ensuring the objectivity, accuracy, and completeness of quantitative information security risk assessments, which enables informed decision-making on ensuring the security of AI systems. The results can be applied by experts in the design, compliance assessment, and optimization of AI systems within critical information infrastructure (CII) systems to ensure information security.
The authors declare that there are no conflicts of interest present.