В статье представлены результаты исследования коллективом авторов содержания процессов анализа опасностей применения систем искусственного интеллекта (СИИ) на потенциально опасных объектах (ПОО). Рассмотрены особенности анализа опасностей применения СИИ производственного, правового и психологического характера. Обоснована целесообразность формирования перечня сведений об опасностях и ожидаемых последствиях от непосредственного внедрения СИИ, сведений о влиянии внедрения СИИ на опасности, существующие на ПОО до внедрения СИИ, сведений о влиянии мер защиты на обеспечение безопасности на ПОО. Рассмотрены методические подходы к применению различных методов для исследования опасностей и последствий применения СИИ на ПОО.
В статье уточнено, что предметом исследований в данной статье являлись опасности СИИ, при их применении на ПОО. Это связано с тем, что под системой искусственного интеллекта авторы понимают совокупность составляющих, имеющих конкретную материальную, техническую, структурную, организационную, программную реализацию, которая функционирует в рамках законодательных мер и нормативных требований, формирует условия взаимодействия человека с искусственной интеллектуальной средой в интересах создания требуемых ценностей производственного или иного характера. Такую совокупность составляющих необходимо исследовать на предмет опасности.
Ранее, была обоснована целесообразность исследования опасностей производственного, психологического и правового характера внедрения СИИ на ПОО. Мы понимаем, что опасности существуют и в других сферах жизнедеятельности людей – экономической, социальной, демографической, образовательной и других. Вместе с тем, мы считаем, что опасности в производственной, правовой и в области воздействия на в которых могут быть реализованы опасности ИИ, по крайней мере на данном этапе, крайне важны для оценки последствий применения СИИ.
В статье отмечено, что эволюция технологий искусственного интеллекта, и, соответственно, опасностей СИИ, не завершена. Она продолжается, причем со все большим ускорением. Указанное обстоятельство свидетельствует о необходимости разработки теоретических основ процесса исследования рисков создания и применения систем искусственного интеллекта.
В настоящей статье авторами предложена технология исследования опасностей применения СИИ на ПОО, результатом применения которой, по крайней мере на данном этапе работы, предполагается следующе. Реестр опасностей СИИ, которые реализованы на конкретном ПОО. Реестр опасностей, которые учитывают влияние опасностей СИИ на уже имеющиеся опасности на ПОО. Реестр опасностей с учетом имеющихся и предлагаемых защитных барьеров. Авторы в статье привели примеры формализованного представления таких реестров.
Для определения влияния опасностей и негативных последствий использования СИИ на уже существующие на ПОО опасности авторами был применен метод, известный под названием «Галстук – Бабочка». Этот метод позволяет, при определенной его модернизации и автоматизации, сформировать дерево событий, которое позволит оценить влияние опасностей и негативных последствий применения СИИ на уже существующие опасности на ПОО. Таким образом, применяя этот метод может быть получен ответ на вопрос – каким образом применение СИИ может повлиять на опасности производственного характера, которые принято учитывать в настоящее время в соответствии с требованиями законодательных и нормативных документов.
Для исследования влияния имеющихся и предлагаемых мер защиты на снижение негативных последствий применения СИИ на ПОО также был использован модернизированный метод «Галстук – Бабочка». В дополнение, в интересах оценки влияния опасностей применения СИИ на ПОО, авторы использовали общий логико - вероятностный метод исследования показателей безопасности и надежности процессов применения СИИ.
Таким образом, с использованием предлагаемых инструментов, могут быть сформированы реестры опасностей и негативных последствий применения СИИ на ПОО. Полученные результаты позволят оценить опасность применения СИИ, и предусмотреть меры защиты.
