Искусственный интеллект и кибербезопасность

Ведущий научный сотрудник Института права и развития ВШЭ-Сколково Максим Карлюк был приглашен Организацией по безопасности и сотрудничеству в Европе (ОБСЕ) выступить на панельной дискуссии “Влияние искусственного интеллекта на вызовы кибер/ИКТ безопасности: источник опасений или возможностей?” (The Impact of Artificial Intelligence on cyber/ICT security challenges: A source of fear or opportunity?) в рамках конференции Председателя Постоянного совета ОБСЕ «Кибер/ИКТ безопасность для более безопасного будущего: роль ОБСЕ в стимулировании региональной киберстабильности» (Chairmanship OSCE-wide Cyber/ICT Security Conference “Cyber/ICT Security for a safer future: The OSCE’s role in fostering regional cyber stability”), которая прошла 17-18 июня 2019 г. в г. Братислава, Словакия.

В конференции приняли участие генеральный секретарь ОБСЕ Томас Гремингер (Thomas Greminger), главы ведомств ответственных за кибербезопасность стран Европы, представители ведущих технологических фирм, негосударственных организаций и академического сообщества.

Максим описал положение дел в сфере правового регулирования и этики искусственного интеллекта в связке с вопросами кибербезопасности. Среди прочего, он высказал опасения в связи с продолжающимися попытками пренебречь или преуменьшить вопросы безопасности в сфере разработки и применения технологий искусственного интеллекта. В частности, он указал на соответствующие проблемы в проекте российской стратегии развития искусственного интеллекта, такие как обход вопросов потенциальных рисков и этической составляющей. Пренебрежение данными вопросами может привести к опасной гонке без учета безопасности и других областей, которые некоторые считают возможным не учитывать, т.к. они не способствуют развитию технологий и даже могут их замедлить.

Он также очертил проблему координации на международном уровне, поскольку на сегодняшний день отсутствуют сценарии управления, в том числе понимания как мы хотим, чтобы технологии искусственного интеллекта использовались в мире, как много их должно быть, кто будет устанавливать их цели и т.д. В связи с этим он отметил важную роль таких форумов как ОБСЕ для целей поиска решения проблемы координации в вопросах искусственного интеллекта в целом и кибербезопасности в частности.