Великобритания, которая сейчас председательствует в Совете Безопасности ООН, инициировала тему обсуждения искусственного интеллекта (ИИ) на этой площадке. Заседание прошло 18 июля. О чём говорили представители мировых держав и почему Россия выступила против дискуссии на тему ИИ в рамках совбеза?
Глава британского МИД Джеймс Клеверли заявил, что ИИ «бросает вызов» текущим представлениям об обороне и сдерживании, ставит моральные вопросы о принятии летальных решений на поле боя, ускоряет распространение дезинформации и создаёт новые риски, когда речь заходит об оружии массового уничтожения. Однако ИИ может эффективно посодействовать решению проблемы ядерного распространения.
Клеверли призвал создать глобальную систему контроля технологии ИИ и назвал принципы на которые, по его мнению, ИИ должен «поддерживать свободу и демократию», «действовать в соответствии с верховенством права и правами человека», «быть безопасным и предсказуемым, гарантируя неприкосновенность собственности, неприкосновенность частной жизни и национальную безопасность», «пользоваться общественным доверием» и не угрожать критически важным системам.
Британская сторона считает, что ИИ может повлиять, в том числе, на работу Совета Безопасности ООН, причём как укрепить, так и подорвать её.
Постоянный представитель Китая при ООН Чжан Цзюнь призвал «сделать всё, чтобы не допустить появления рисков, которые неподконтрольны человечеству. Нельзя допустить, чтобы появились машины-убийцы. Нам нужно внимательно следить за всем циклом создания и применения искусственного интеллекта, с тем чтобы у человечества в любой момент была возможность нажать на кнопку «пауза» в развитии этих технологий».
По словам генсека ООН Антониу Гутерриша «технические и финансовые барьеры для доступа к ИИ низкие, в том числе для преступников и террористов. И военные, и невоенные варианты применения искусственного интеллекта могут иметь серьёзные последствия для глобального мира и безопасности». В итоге непредусмотренные последствия некоторых систем могут создать риски из-за просчётов или случайностей.
«Взаимодействие между ИИ и ядерным оружием, биотехнологиями, нейротехнологиями и робототехникой вызывают особую тревогу»,— подчеркнул Гутерриш, сказав, что был «поражен и шокирован» тем, как быстро развивается генеративный ИИ. По данным генсекретаря ООН, к 2030 году вклад ИИ в глобальную экономику составит от $10 трлн до $15 трлн.
Опасениями о возможности использования технологии ИИ во вред человечеству поделились представители Японии, Мозамбика, ОАЭ, Китая, США, Бразилии, Швейцарии, Ганы, Франции, Эквадора, Мальты, Габона и Албании. Страны также поддержали мнение о необходимости контроля ИИ.
По результатам заседания ООН планирует создать регулирующий сферу ИИ орган, наподобие Международного агентства по атомной энергии (МАГАТЭ) или Международной организации гражданской авиации (ИКАО).
Основными задачами будущего ведомства станут изучение ИИ, формирование стандартов в сфере, сбор экспертных данных и передача их мировому сообществу, а также устранение исходящих от ИИ существующих и будущих угроз.
Между тем, дискуссия вызвала критику со стороны России. Первый зампостпред РФ при ООН Дмитрий Полянский выступил на заседании последним и заявил, что «выбор организаторами Совета Безопасности ООН в качестве площадки для дискуссии по данной теме выглядит неочевидным».
Россия не видит «органической связи» между темой искусственного интеллекта и вопросами международного мира и безопасности. Заседание в совбезе дублирует научную дискуссию по этому вопросу, которая ведётся на профильных площадках и поэтому контрпродуктивна.
В беседе с РБК Полянский пояснил, что Великобритания намерена занять центральное место в мире в дискурсе по искусственному интеллекту и поэтому инициирует обсуждение вопроса
в разных форматах на площадках различного уровня – от неправительственных и частных компаний до G20 и Организации экономического сотрудничества и развития.
До конца 2023 года Великобритания планирует организовать глобальный саммит по теме ИИ и в этом контексте нынешнее заседание Совбеза ООН можно назвать PR-акцией британской инициативы, добавил эксперт Российского совета по международным делам Олег Шакиров.
Ранее портал «Конкуренция и рынок» рассказывал, что на одной из официальных площадок Великобритании обсуждали инцидент, когда оснащённый ИИ боевой дрон Пентагона во время испытаний принял решение уничтожить своего оператора.
Кроме того, в 2020 году группа экспертов Совбеза ООН представила отчёт, согласно которому весной того же года в Ливии боевой дрон выследил и атаковал человеческую цель в автономном режиме.
По какой причине ведущие деятели IT-индустрии призвали ввести мораторий на разработки лингвистических нейросетей и о принципе работы языковых алгоритмов – портал «Конкуренция и рынок» рассказывал в этой статье.
Игорь Прусаков
Фото: unsplash.com
